En la 41ª reunión de la Conferencia General de la UNESCO, celebrada en París el día 22 de noviembre de 2021, se aprobaron las recomendaciones sobre la ética de la inteligencia artificial (IA) promovidas en el marco de la organización.

Conforme los procedimientos establecidos, la Comisión de Ciencias Sociales y Humanas sometió a consideración de la Conferencia General el resultado de los trabajos emprendidos en relación con la “elaboración de normas éticas, reglas y marcos de acción para hacer frente a los desafíos que plantean las tecnologías innovadoras y la transformación digital”. El objetivo perseguido, según se refiere, es el “fortalecimiento de las capacidades y las políticas de los Estados Miembros para aprovechar la inteligencia artificial, la edición genómica, las neurotecnologías y otras tecnologías de vanguardia, y abordar los riesgos que implican, en particular las desigualdades y la discriminación, de acuerdo con las normas, las recomendaciones y los marcos internacionales en materia de ética”.

Así las cosas, la comisión sometió a consideración de la Conferencia General el documento resultante y solicitó la aprobación del “Proyecto de recomendación sobre la ética de la inteligencia artificial” (Punto 8.2).

Motivación

El documento habría surgido de la necesidad de contar con un instrumento de orden normativo de consideraciones de corte ético vinculadas a la inteligencia artificial (IA), formuladas bajo la forma de recomendaciones, lo que va de suyo considerando el alcance de normas de soft law.

Las pautas éticas consignadas son propuestas por la organización como una referencia para fomentar la elaboración de leyes, políticas y estrategias nacionales e internacionales en el ámbito de la inteligencia artificial (IA), reconociendo el potencial de la IA para mejorar el futuro de la humanidad, así como los riesgos y desafíos asociados, “especialmente [de] (…) la agravación de las desigualdades y brechas existentes, así como a las implicaciones para los derechos humanos”.

Análisis preliminar del documento

El documento en cuestión, disponible para una lectura completa como Anexo 41 C/23 en la citada reunión^[1], replica la estructura habitual de instrumentos de similar naturaleza y luce consistente con la tradición regulatoria de UNESCO.

Las recomendaciones son emitidas con una explícita aspiración universalista y apoyada en el andamiaje jurídico del derecho internacional de los derechos humanos.

Se señala que el desarrollo de las tecnologías de IA “complica su aplicación y gobernanza éticas, así como el respeto y la protección de la diversidad cultural, y puede perturbar las normas y los valores éticos locales y regionales”, por lo que resultaría conveniente el establecimiento de normas éticas mundialmente aceptadas para operar como marco de referencia para la elaboración de normas sobre la temática en todo el planeta. Ello mediante las herramientas que ofrece el derecho internacional, en particular el derecho de los derechos humanos.

Ámbito de aplicación

Al referir al ámbito de aplicación se indica que se “aborda la ética de la IA como una reflexión normativa sistemática, basada en un marco integral, global, multicultural y evolutivo de valores, principios y acciones interdependientes, que puede guiar a las sociedades a la hora de afrontar de manera responsable los efectos conocidos y desconocidos de las tecnologías de la IA en los seres humanos, las sociedades y el medio ambiente y los ecosistemas, y les ofrece una base para aceptar o rechazar las tecnologías de la IA”.

Resulta interesante que a los efectos de las recomendaciones emitidas se consideran los “sistemas de IA sistemas capaces de procesar datos e información de una manera que se asemeja a un comportamiento inteligente, y abarca generalmente aspectos de razonamiento, aprendizaje, percepción, predicción, planificación o control”.

Al caracterizar a la mentada tecnología se profundiza: “Los sistemas de IA son tecnologías de procesamiento de la información que integran modelos y algoritmos que producen una capacidad para aprender y realizar tareas cognitivas, dando lugar a resultados como la predicción y la adopción de decisiones en entornos materiales y virtuales. Los sistemas de IA están diseñados para funcionar con diferentes grados de autonomía, mediante la modelización y representación del conocimiento y la explotación de datos y el cálculo de correlaciones. Pueden incluir varios métodos, como, por ejemplo, aunque no exclusivamente: i) el aprendizaje automático, incluido el aprendizaje profundo y el aprendizaje de refuerzo, [y] ii) el razonamiento automático, incluidas la planificación, la programación, la representación del conocimiento y el razonamiento, la búsqueda y la optimización”.

Competencia

La IA posee impacto en la adopción de decisiones personales, el acceso al empleo, el desarrollo del trabajo, la interacción social, la atención de la salud, la educación, los medios de comunicación, el acceso a la información, la brecha digital, la protección del consumidor y de los datos personales, el medio ambiente, la seguridad, la libertad de expresión, la privacidad y la no discriminación.

Se advierte que los ámbitos citados exceden en algunos casos las atribuciones específicas de la UNESCO, por lo que luce atinado que las recomendaciones proyectadas se ciñan a “las principales esferas de competencia de la UNESCO ―la educación, la ciencia, la cultura y la comunicación y la información―”, conforme un estudio previo sobre la ética de la inteligencia artificial elaborado en 2019 por la Comisión Mundial de Ética del Conocimiento Científico y la Tecnología (COMEST)[2].

Destinatarios

Las recomendaciones emitidas tienen como principales destinatarios a los Estados Miembros, pero también a las empresas vinculadas con la IA, a instituciones universitarias, de investigación y a la sociedad civil (particulares, grupos y comunidades).

Fines y objetivos

Textualmente se aspira a “aportar un instrumento normativo aceptado mundialmente que no solo se centre en la articulación de valores y principios, sino también en su aplicación práctica, mediante recomendaciones de política concretas (…)”.

Sin perjuicio de su estatus de derecho blando y de los límites propios de normas del estilo, la consigna postulada llama la atención, por cuanto excede la propuesta de principios generales orientadores que en otros instrumentos ensayó UNESCO[3] y presenta, en cambio, recomendaciones de políticas concretas, incorporando temáticas y perspectivas que pueden resultar conflictivas en contextos particulares. Tal es el caso de las cuestiones de género, ambiental y/o ecológica. Lo dicho pone de relieve las tensiones tradicionales entre documentos con vocación universalista y las miradas locales o regionales de los países en las que aquellos habrían de observarse.

Valores y principios

La retórica desplegada, más allá de la valoración que cada uno de los valores y principios consignados amerite, da cuenta de la pretensión normativa reseñada:

“(…) los valores y principios que figuran a continuación deberían ser respetados por todos los actores durante el ciclo de vida de los sistemas de IA, en primer lugar, y, cuando resulte necesario y conveniente, ser promovidos mediante modificaciones de las leyes, los reglamentos y las directrices empresariales existentes y la elaboración de otros nuevos. Todo ello debe ajustarse al derecho internacional, en particular la Carta de las Naciones Unidas y las obligaciones de los Estados Miembros en materia de derechos humanos, y estar en consonancia con los objetivos de sostenibilidad social, política, ambiental, educativa, científica y económica acordados internacionalmente, como los Objetivos de Desarrollo Sostenible (ODS) de las Naciones Unidas”.

La recomendación prevé, específicamente, los siguientes valores:

• Respeto, protección y promoción de los derechos humanos, las libertades fundamentales y la dignidad humana
• Prosperidad del medio ambiente y los ecosistemas
• Garantizar la diversidad y la inclusión
• Vivir en sociedades pacíficas, justas e interconectadas

Se advierte que lo enunciado guarda relación con los antecedentes emitidos por la organización desde fines de la década del ’90, especialmente los vinculados a la sustancia biojurídica[4].

Respecto de la dignidad humana el documento señala:

“La dignidad inviolable e intrínseca de cada ser humano constituye la base del sistema universal, indivisible, inalienable, interdependiente e interrelacionado de derechos humanos y libertades fundamentales. Por consiguiente, el respeto, la protección y la promoción de la dignidad humana y de los derechos establecidos por el derecho internacional, en particular el derecho internacional de los derechos humanos, son esenciales a lo largo del ciclo de vida de los sistemas de IA. La dignidad humana tiene que ver con el reconocimiento del valor intrínseco e igual de cada ser humano, con independencia de su raza, color, ascendencia, género, edad, idioma, religión, opiniones políticas, origen nacional, étnico o social, condición económica o social de nacimiento, discapacidad o cualquier otro motivo”.

El documento aprobado propone considerar el “análisis ético como una estructura dinámica” para la evaluación de tecnologías y el dictado de normativa, por lo que puede resultar ambigua la referencia a la dignidad humana y a cualquier posible alusión a un fundamento ontológico.

Ciertamente, la utilidad de la alusión a la dignidad humana y al marco del sistema internacional de derechos humanos como herramientas que conduzcan a consensos universales constituye un tópico recurrente en el ámbito biojurídico y ha generado un nutrido cuerpo doctrinal, tanto por sus defensores como por sus detractores. Entre los primeros, hemos aludido en varias oportunidades a los trabajos del Roberto Andorno, quien encuentra ambas referencias como mecanismos idóneos para actuar como base para una ética global, como una ética mundial (Weltethik)[5]. Entre los críticos cabe destacar a Ruth Macklin[6], quien desconfía de la utilidad del término “dignidad humana” o a Udo Schüklenky y Anna Pacholoczyk, quienes advierten que no obstante las numerosas alusiones al concepto de dignidad humana en documentos de ética médica, en códigos deontológicos, textos constitucionales e instrumentos de derechos humanos, el fundamento y el significado real del término “dignidad humana” permanece “nebuloso”[7].[8]

En cuanto a los “principios”, se indican:

• Proporcionalidad e inocuidad
• Seguridad y protección
• Equidad y no discriminación
• Sostenibilidad
• Derecho a la intimidad y protección de datos
• Supervisión y decisión humanas
• Transparencia y explicabilidad
• Responsabilidad y rendición de cuentas
• Sensibilización y educación
• Gobernanza y colaboración adaptativas y de múltiples partes interesadas

Los valores y principios no serán abordados en profundidad en esta oportunidad, por lo que vale remitirse para una lectura completa al documento antes citado.

Ámbitos de acción política

Es menester destacar que, a diferencia de los antecedentes, en estas recomendaciones la UNESCO promueve acciones concretas a desarrollarse en los diversos ámbitos de actuación, profundizando –al menos teóricamente- el alcance del instrumento.

En ese sentido, se consignan medidas específicas a desplegarse para:

• Evaluación del impacto ético
• Gobernanza y administración éticas
• Política de datos
• Desarrollo y cooperación internacional
• Medio ambiente y ecosistemas
• Género
• Cultura
• Educación e investigación
• Comunicación e información
• Economía y trabajo
• Salud y bienestar social

Algor-ética

La IA, entre otras tecnologías emergentes y convergentes, penetra en la actualidad prácticamente todos los aspectos de la vida, individual y social. Es así que cada vez más actividades y conductas humanas surgen como resultado de una combinación del ejercicio de la voluntad humana y de mecanismos algorítmicos.

En este escenario, una valoración bio-ética y jurídica supone tomar conciencia de la realidad como punto de partida y luego avanzar en el plano regulatorio en orden a conducir y garantizar que el desarrollo tecnológico aludido resulta compatible con el bien común.

La reflexión inicial debe contemplar, desde ya, la riqueza de todas las disciplinas asociadas y por tanto, además de las capas de análisis netamente técnicas, no pueden obviarse los presupuestos morales, antropológicos y jurídicos. De allí que la algor-ética[9] luzca como un imperativo de nuestra era, tanto en el plano académico como en el reglamentario.

Es necesario actuar en tres dimensiones íntima e inevitablemente implicadas en un análisis bioético: la ética, el derecho y la educación. Para ello, el diálogo transdisciplinario trasparente, la creación de normas y órganos de control eficientes y la generación de conciencia social son herramientas necesarias.

Lo dicho es evidente, lo complejo es trascender la descripción y dar pasos concretos por vía regulatoria, lo que interpela a los Estados y los organismos especializados a dictar normativas técnicamente adecuadas y consistentes con los principios y las tradiciones jurídicas locales.

Para una adecuada ponderación ético-jurídica resulta conveniente echar mano de principios tales como los de dignidad de la persona, justicia, subsidiariedad y solidaridad, los que como pauta orientadora permiten poner en perspectiva las utilidades tecnológicas y las pretensiones individuales en relación con el bien del colectivo. 

Los desafíos de la IA nos implican a todos, usuarios, autoridades públicas, académicos, empresas y sociedades intermedias. El documento de la UNESCO comentado brevemente representa una contribución para profundizar la reflexión y para evaluar la pertinencia de las herramientas reglamentarias propuestas para atender a fenómenos de alcance global.

Informe de Leonardo Pucheta

---

[1] https://unesdoc.unesco.org/ark:/48223/pf0000379920_spa.page=15

[2] Puede resultar interesante para el lector reparar en algunas objeciones planteadas oportunamente respecto de las atribuciones de la UNESCO para el dictado de normas vinculadas a la problemátca biojurídica. Al respecto se recomienda ver: Roberto ANDORNO. Global Bioethics at UNESCO: In defense of the Universal Declaration on Bioethics and Human Rights. J Med Ethics 2007; 33: 150-154 y Howard WOLINSKY. Bioethics for the World. EMBO Reports. 2006;7 (4):354-358. doi:10.1038/sj.embor.7400670. Disponible en línea en: http://www.ncbi.nlm.nih.gov/pmc/articles/PMC1456905/ [Último acceso el 10 de enero de 2022].

[3] Tal es el caso, por ejemplo, de la Declaración Universal sobre Bioética y Derechos Humanos del año 2005. Sobre el tema ver

[4] Véase la Declaración Universal sobre el Genoma Humano y los Derechos Humanos, la Declaración Internacional sobre los Datos Genéticos Humanos y la Declaración Universal sobre Bioética y Derechos Humanos.

[5] ANDORNO, Roberto. Article 3: Human Dignity and Human Rights. En: The UNESCO Universal Declaration on Bioethics and Human Rights. Background, principles and application. Ethics series. P. 91-98.

[6] Ruth MACKLIN, Dignity is a useless concept. BMJ 2003; 327:1419.

[7] SCHÜKLENK, Udo y PACHOLOCZYK, Anna. Dignity’s ‘Wooly Uplift.  Bioethics ISSN 0269-9702 (online) volumen 24 number 2, 2010. P. 2.

[8] Para una clasificación conceptual de las posiciones esgrimidas al respecto se sugiere ver: BORGOÑO BARROS, Cristián. Bioética global y derechos humanos: ¿Una posible fundamentación universal para la bioética? Problemas y perspectivas. Acta bioethica 2009; 15 (1): 46-54. Por nuestra parte, hemos reseñado sucintamente algunas posiciones al respect en: Pucheta, Leonardo L. “La pretensión de universalidad de la Bioética a la luz de la Declaración Uiversal sobre Bioética y Derechos Humanos” [en línea]. Tesis de Maestría. Universidad Católica Argentina, Facultad de Ciencias Médicas, Instituto de Bioética, 2017. Disponible en: http://bibliotecadigital.uca.edu.ar/repositorio/tesis/pretension-universalidad-bioetica-pucheta.pdf [Último acceso el 11/01/2022].

[9] Encuentro con los participantes en la plenaria de la
Pontificia Academia para la Vida. Discurso preparado por el Santo Padre Francisco,
leído por s. E. Mons. Vicenzo Paglia, presidente de la Academia. Sala Clementina, 28/02/2020. Disponible en línea en https://www.vatican.va/content/francesco/es/speeches/2020/february/documents/papa-francesco_20200228_accademia-perlavita.html [último acceso el 11/01/2022].