El problema con la regulación legal en las TICs

El profesionalismo implica en forma directa un comportamiento ético.

La tecnología cambia mucho más rápido que ningún otro elemento social e incluso cambia a la sociedad de forma acelerada (Facebook).

Es un hecho innegable que la regulación legal siempre se encuentra rezagada de la realidad social y por ende de la ejecución profesional.

Ante la falta de regulación legal (en cualquier ámbito) aumenta exponencialmente la importancia del profesionalismo y el comportamiento ético por parte de todas las personas involucradas en el uso de la tecnología (empresas, desarrolladores y usuarios finales).

Al regular ICT se presentan tres problemas principales:

  • Velocidad del avance tecnológico. (Ley para trasplantes – Australia).
  • Aspecto global de la tecnología.
  • Regulación draconiana.

Lo anterior no implica en forma alguna que no deban intentar regularse las TICs, pero se debe de tener en mente que el aspecto verdaderamente trascendente es el ético, al menos en las primeras etapas de desarrollo tecnológico, donde se carece de regulación legal. Por ejemplo, algoritmos que hacen que automóviles que se manejen por sí solos.


Dado que no hay regulación, se necesita una ética profesional, sin embargo, ésta no resuelve el problema de fondo, que es limitar comportamientos sociales nocivos.

 


¿Que significa ser ético en TICs según Michael Kirby?

  • Tener consciencia que el experto en TICs tiene un conocimiento “superior” a los demás en ese aspecto.
  • Tener en cuenta la repercusión ética de la profesión.
  • Tener en cuenta que debido a la importancia social de las TICs no se puede tomar a la ligera la función social y ética (esto sucede muy a menudo cuando se da preponderancia al interés económico por sobre todo lo demás).
  • La ética en las TICs tiene dos facetas: la responsabilidad moral y la confianza.

La responsabilidad moral eventualmente se consagra en Ley lo cual la hace obligatoria e implica una sanción legal.

La confianza es indispensable debido a que es esencial para la EFICIENCIA ECONÓMICA. Pensemos en lo ineficiente que pueden ser las relaciones comerciales cuando meramente se atienen al marco legal o regulatorio interno y no existe un factor de confianza entre las partes.


Doctrina sobre Ética

Concepto de Ética

Ética: disciplina filosófica que se encarga de valuar las conductas buenas/malas, correctas o incorrectas, etc. Coloquialmente, también la ética es sinónimo de moral, esto es los valores que se le asignan al ejercicio ético.

Ética es en abstracto y lo moral es “el resultado”.

Explicar la ética es como educar a un niño. Por ejemplo, si le dices a un niño mentir es malo, le asignas un valor malo a la acción de mentir, el problema es que hay distintas excepciones que no se pueden enlistar. En el caso de que a un niño, un desconocido le pregunte información personal, mentir no sería reprochable. En el caso de matar, la máxima de “No matarás” encuentra su limitante en la legítima defensa.

Por lo tanto, reducir la ética a un concepto universal e inalterable resulta imposible.

Concepto de Derecho

De la misma manera como la ética, no existe una definición única del “Derecho”.

Para efectos de simplicidad, podemos entender al Derecho como el conjunto de normas vigentes aplicables a un tiempo y lugar determinado.

Relación entre Derecho y Ética

Probablemente un sistema de concepciones éticas antecedió a cualquier sistema legal (Derecho). Imaginemos una sociedad primitiva, aquellos que actuaban fuera de la “norma” se consideraban culpables de “castigos divinos”. Es decir, alguien hacia algo fuera de la norma (malo) y su comunidad recibía un “castigo”. Desde ahí existía una preocupación sobre el comportamiento de las personas. Con el paso del tiempo y la organización social (política), tanto el derecho como la ética se hicieron más complejos.

La relación que existe entre ambos es simbiótica. Las concepciones éticas y morales se reflejen en su orden jurídico. Sin embargo, por ser dependientes de los humanos y en constante cambio la transformación de la ética se reflejan posteriormente en los ordenamientos jurídicos. Por ejemplo, lo podemos ver en los grandes cambios social actuales: derechos civiles de los negros, de las mujeres, matrimonio igualitario.

El ámbito de la tecnología no es la excepción: derechos laborales (revolución industrial), modificaciones genéticas, privacidad y en la actualidad algoritmos “inteligentes”.


Ética en el Ambito Internacional

Derecho Internacional

Tal como se vio en la secciòn anterior, no existe un concepto único y general de ètica, menos aún cuando se trata de un panorama internacional.

Como no hay una ética mundial, por lo tanto, el derecho internacional viene a regular las relaciones entre particulares y/o países.

El derecho internacional, a pesar de ser una herramienta adecuada, tiene sus propios problemas como: (1) no están determinadas las fuentes del derecho internacional (de dónde emana, aunque su fuente principal es la costumbre), (2) no existen órganos coactivos que puedan aplicar las disposiciones, (3) es necesario la voluntad entre las partes, (4) detrás de toda disposición legal existe un trasfondo ideológico (que puede no ser compartido por la totalidad de los países).

¿Cómo se aborda la responsabilidad ética?

Cuando se consagran en una Ley, cuando existan instituciones (privadas o públicas superiores al individuo) que por medio de un acuerdo mutuo puedan sancionar las conductas que no cumplan con los parámetros pactados. Tal es la función de los colegios, barras y asociaciones de profesionales.

Acuerdos internacionales entre particulares

Ante la falta de regulación legal y de entidades encargadas de sancionar comportamientos no éticos entre profesionales, es indispensable contar con otro medio para regular las relaciones entre particulares. Nos refereminos a los acuerdos (contratos o convenios) celebrados entre las partes y que no tienen repercusiones ante terceros.

Los beneficios de estos acuerdos internacionales son: (1) imparcialidad (del o de los juzgadores), (2) especialización de los juzgadores (pudiendo ser expertos en la materia), (3) reglas y sanciones claras aunque flexibles.

¿Y si creamos derecho  internacional a partir de algoritmos?

Por siglos la teoría del derecho internacional ha buscado patrones en el comportamiento de las naciones para de esta forma generalizar reglas y crear derecho internacional. Hoy en día, por primera vez, podemos pensar en algoritmos que buscan generalidades y que crean reglas a partir de ejemplos concretos. Estos nos invita a pensar si, en el futuro, veremos legislaciones mundiales derivadas de algoritmos imparciales ( y amorales).


Ética en el ambito nacional

Situación legal en México

Tal como se ha visto, la regulación legal en sí misma tiene un problema fundamental a la hora de intentar alcanzar la realidad social. México no es la excepción.

Actualmente la protección y propiedad de datos se encuentra regulada de forma parcial y no exhaustiva por la legislación federal.

Además de la propuesta ética, se requiere generar dispositivos adicionales (como códigos de ética) que permitan la certeza plena del mercado en los profesionales de las TICs.

La propuesta de colegiación es indispensable en México y abarca muchas áreas.

La forma de internalizar una profesión es un complejo mecanismo social que no puede crearse de manera artificial aunque se puede sin duda influir de manera positiva en el mismo.

¿Existe la ética profesional en México?

Andrew Abbott señala que existen cinco características relativas a la ética profesional:

  1. Prácticamente todas las profesiones (en Estados Unidos) tienen un Código de Ética formal (escrito).
  2. Creer en y cumplir con un Código de Ética parecen tener una relación positiva en el status profesional entre los miembros del propio gremio.
  3. El problema de sancionar conductas no éticas.
  4. Se refiere a los individuos y su ejercicio individual de la profesión.
  5. El peso y división de las obligaciones (mayor tendencia a “reglas justas” que a “servicios justos”).

Analizando el primer punto de Abbott,  en México la Constitución no hace señalamiento alguno respecto a la ética profesional, simplemente menciona la garantía de que cualquiera puede tener las convicciones éticas que mejor le parezcan.

Lo que sí reglamenta es que algunas profesiones, para su ejercicio, requieren de título (esto son solamente parámetros legales, no éticos)

Existen Colegios  de profesionistas que sí tienen sus propios Códigos de Ética por lo general, pero es un Código emitido por cada colegio y no un código único por profesión. 

El segundo punto de Abbott, el status quo por pertenecer a un Colegio de Profesionistas –y someterse a su Código de Ética-, es un punto meramente subjetivo, ¿cómo medir la apreciación respecto de la calidad de un profesionista por sus colegas? ¿Sus clientes?

En tercer lugar,  si se es extremadamente pragmático, ¿qué función tiene un Código de Ética si no puede exigirse su cumplimiento, si no establece una sanción por la violación a sus principios? Precisamente, cumple una función de aspiración ética, un deber moral de establecer principios rectores de las profesiones que, aunque no podrán ser sancionados más allá de la opinión de algunos cuantos, deben existir, o al menos eso sostiene alguien que cree en la ética.

En cuarto lugar, los códigos de ética profesional en México sí comparten la característica de referirse a los individuos y a su ejercicio de la profesión, pues difícilmente podrían abarcar otros aspectos, por los propios problemas ya apuntados anteriormente.

Participantes de la ética profesional en México

  • Colegios de Profesionistas
  • Leyes locales (que determinan lineamientos para la organización y supervisión).
  • Miembros

A continuación, se da una lista de ejemplos de colegios de Profesionistas:

Profesión Nombre del Colegio Código de Ética Año
Derecho Barra Mexicana, Colegio de Abogados, A.C.  

 

(2017, anterior 1948)

Derecho Asociación Nacional de Abogados de Empresa, Colegio de Abogados, A.C. (No disponible, fundación 1970)
Arquitectura Colegio de Arquitectos de la Ciudad de México, A.C. y Sociedad de Arquitectos Mexicanos, A.C. (No disponible, fundación 1946)
Medicina Comité Normativo Nacional de Consejos de Especialidades Médicas 2015

Para el caso de profesionistas en las áreas de informática y computación sí existen Colegios, pero, irónicamente, o no tienen un portal web o está de manera escueta y desactualizado, por lo que no fue posible conseguir la información buscada.

Repercusiones en el orden jurídico nacional y el problema de la Colegiación

El caso particular del CONAMED ha tenido repercusiones en el ordenamiento jurídico nacional, pues diversos especialistas han tramitado amparos en contra de la reforma a la Ley General de Salud de 2011 que derivó en las atribuciones extraordinarias del CONAMED para el ejercicio de las especialidades en el ramo.


Doctrina Ética relacionada a las TICs y la I.A.

Aplicaciones que tiene el análisis de Big Data y las telecomunicaciones.

Habiendo dimensionado lo anterior, se presenta como indispensable tener un marco ético impuesto por la autoridad altamente especializada vía la legislación que regule su ejecución.

A continuación explicamos elemento por elemento por qué lo anterior es cierto según Neville Holmes.

Marco ético.- La ética aunque no es generalizada en todo momento y para todo el mundo, cubre supuestos pasados, presentes y futuros pues tiene la característica de ser conceptos generales.

Respaldado por legislación.- Una disposición de buena voluntad puede ser suficiente para asuntos tales como el código de etiqueta, sin embargo existen casos en que debido a la importancia de una determinada profesión, su regulación debe contener sanciones objetivas y generales.

Sancionado por una autoridad.- Vivimos en una sociedad estructurada de forma que nadie puede hacer justicia por su propia mano. Sea que esto haya probado ser funcional o no, es necesario que un ente superior a las partes involucradas (El Estado) desde su posición de poder y neutralidad sea capaz de dirimir las controversias.

La autoridad debe ser altamente especializada.- Existen disciplinas que forman parte de la sociedad desde hace milenios. Este no es el caso de las TICs pues la revolución tecnológica formal no tiene mas de 100 años. Una autoridad que no comprenda a profundidad las causas, implicaciones y resultados de las TICs está destinada a aplicar conceptos generales que en su gran mayoría pasarán por alto sutilezas técnicas que resultan determinantes. No se puede regular de la misma forma un programa y un algoritmo inteligente.

“El mundo es tal como lo conocemos hoy en día, debido a la tecnología”.

Éticamente hablando esto es falso. Directamente, la tecnología no puede tener responsabilidad alguna en como se moldea la sociedad. La tecnología la aplican las personas y eso es lo que moldea nuestra sociedad.

Razonamiento complejo detrás de la importancia de la ética en las TICs (Goodin 1985).

El profesional tiene conocimiento y habilidades socialmente útiles. Este conocimiento los posiciona en una situación de poder frente a quien no poseen ese conocimiento, pero lo requieren y por ello son dependientes. Ser dependientes de los profesionales hace vulnerables en cierto sentido a quienes requieren dichos conocimientos técnicos. Según Goodin como individuos tenemos responsabilidades especiales frente a quien son vulnerables.

Cuando se internaliza la responsabilidad moral inherente a la profesión se requiere menos regulación legal para llegar al punto óptimo.

Ética de la Inteligencia Artificial

Imaginemos que un algoritmo inteligente fuera el encargado de revisar y aceptar las aplicaciones para créditos hipotecarios en un banco. Un aplicante que no obtuvo un crédito decide iniciar una demanda argumentando que fue discriminado. El banco contesta que eso es absolutamente imposible.

Cuando se ingresan 10 solicitudes previamente revisadas por calificadores humanos, en efecto resulta que la proporción de aplicantes negros que obtienen un crédito es significativamente menor. ¿Qué salió mal?

Cuando se trata de un algoritmo basado en una red neuronal compleja o si se trata de un algoritmo genético que deriva de evolución directa, es casi imposible saber por qué está tomando ciertas decisiones en lugar de otras.

No obstante, cuando se trata de otro tipo de algoritmos basados en árboles de decisión o sistemas bayesianos se vuelve un poco más transparente el razonamiento y por ello el problema.

Pero hay una diferencia absoluta: CUANDO LA IA ASUME ROLES E IMPLICACIONES SOCIALES.

Cuando no entendemos cuál fue el razonamiento detrás de una decisión tomada por un algoritmo, es un problema serio. Si además,  asumen roles sociales (al estar en producción) tales como resolución de tramites administrativos o judiciales resulta en un dilema ético grave.

Transparencia y Predictibilidad

El mínimo indispensable para que un algoritmo pueda desempeñar funciones sociales es que sea transparente y predecible.

Ejemplo: Imaginemos que ningún banco te puede dar un crédito, no hay razón y nadie sabe por qué.

Aclaremos a que nos referimos con predictibilidad: un juez siempre se encuentra vinculado a aplicar los principios que ya han formado jurisprudencia. Uno pensaría que esto puede retrasar en cierta medida el avance natural de la regulación, no obstante se toma esa decisión PORQUE ES INDISPENSABLE QUE EL SISTEMA LEGAL SEA PREDECIBLE (SEGURIDAD JURÍDICA).

Responsabilidad

Ya hemos visto algo sobre la tendencia natural a evadir responsabilidades. No obstante cuando se trata de algoritmos de la clase que estamos discutiendo esto no es aceptable. Tiene que haber una cadena clara y sólida de responsabilidad.

Todos y cada uno de los parámetros que aplican a las personas que desarrollan roles sociales deben aplicar a los algoritmos que hagan dichas acciones (responsabilidad, transparencia, auditabilidad, incorruptibilidad, predictibilidad).

Inteligencia artificial general

Un algoritmo puede desempeñar una tarea específica pero no una variedad de éstas.

Para que la IA se parezca más a la inteligencia humana, debemos pensar en la “generalidad” es decir, la capacidad de llevar a cabo y aprender más de una tarea con una o más finalidades (Deep Blue)

Si hay una infinidad de campos y finalidades que la máquina determina por sí misma y que nosotros desconocemos, ¿cómo podemos indicarle cuál es la finalidad general? ¿Beneficiar y no destruir a los humanos? Más adelante veremos con detalle los problemas puntuales de la IA.

Maquinas con estatus moral

Hoy en día hay un acuerdo generalizado sobre la carencia de estatus moral de la IA. No obstante es interesante pensar que sucedería en un futuro donde la IA se asemeje mucho más a nosotros.

Dos criterios indispensables para determinar hoy en día el estatus moral son: (1) La capacidad para la sensibilidad, y (2) la sapiencia.

Tengamos en mente que con el tipo de IA que estamos tratando, no esteremos frente a algo creado por nosotros, sino algo que se ha creado a sí mismo (incluso mediante algoritmos genéticos) y que en caso de desarrollar la primer característica (pues hoy en día la segunda ya existe), deberemos ponderar seriamente el estatus moral de las maquinas o en su defecto cuestionar el nuestro propio.

Cuestiones Éticas relacionadas con la Inteligencia Artificial (WEF)

  • Desempleo
  • Desigualdad (distribución de la riqueza)
  • Relaciones Humanas
  • Estupidez Artificial (patrones falsos)
  • Racismo
  • Seguridad
  • Consecuencias no deseadas (cura del cáncer)
  • Singularidad
  • Derechos de los Robots

¿Por qué no existe regulación sobre algoritmos?

No existe legislación propiamente sobre protección legal de algoritmos (o no encuadran en los supuestos de las leyes de propiedad industrial o derechos de autor que ya existen. Este punto se verá a detalle en las siguientes secciones).

Una de las razones es que los algoritmos son fórmulas matemáticas y existe consenso en que éstas no son registrables, pues las matemáticas son propiedad universal. Algunos más abogan por mantener la apertura por los siguientes motivos principales: (1) Sería complicado saber cuáles algoritmos ya se encuentran registrados, y (2) podrían inhibirse desarrollos que resultan provechosos para la colectividad por restringir el uso de ciertos algoritmos sólo a quienes tengan los medios para pagarlos.

Bibliografía

Abbott, Andrew, “Professional Ethics”, American Journal of Sociology, Vol. 88, No. 5 (Mar., 1983), pp. 855-885.

Allott, Philip, “The Concept of International Law”, conferencia en la Universidad de Oxford, Marzo 1998.

Bostrom, Nick y Yudkowsky, Eliezer, “The Ethics of Artificial Intelligence” en Keith Frankish y William Ramsey (eds), Cambridge handbook of Artificial Intelligence, Nueva York, Cambridge University Press.

García Ramírez Sergio, Ética y Derecho, estudio introductorio a su libro Los valores en el derecho mexicano. Una aproximación, México, Fondo de Cultura Económica-UNAM, 1997, pp. VII-XVIII.

Holmes, Neville, “Some ethical imperatives for the computing profession” en John Weckert y Richard Lucas, Professionalism the Information and Communication Technology Industry, Sydney, ANU Press, 2013.

Jitta, D. Josephus, “The development of Private International Law Through Conventions”, The Yale Law Journal, Vol. 29, No. 5 (Mar. 1920), pp. 497-508.

Kirby, Michael, “The fundamental problem of regulating technology” en John Weckert y Richard Lucas, Professionalism the Information and Communication Technology Industry, Sydney, ANU Press, 2013.

Responder

Introduce tus datos o haz clic en un icono para iniciar sesión:

Logo de WordPress.com

Estás comentando usando tu cuenta de WordPress.com. Cerrar sesión / Cambiar )

Imagen de Twitter

Estás comentando usando tu cuenta de Twitter. Cerrar sesión / Cambiar )

Foto de Facebook

Estás comentando usando tu cuenta de Facebook. Cerrar sesión / Cambiar )

Google+ photo

Estás comentando usando tu cuenta de Google+. Cerrar sesión / Cambiar )

Conectando a %s