El tema de la Inteligencia Artificial (IA) en el mundo, si bien es un aspecto novedoso que va insertándose poco a poco en el consciente de diversos actores en el contexto internacional, tales como: gobiernos en lo individual o regional, empresas y personas físicas, lo cierto es que dicho aspecto ya alcanzó, por su importancia y trascendencia, el hecho de ser analizado en el seno de la propia Organización de las Naciones Unidas, organización que ve con preocupación el mal uso que pudiera darse a dicho campo, sobre todo si se toma en cuenta que la evolución y desarrollo del mismo ya está impactando los diversos órdenes de la vida de las sociedades actuales. De ahí que resulte necesario analizar los rubros que fueron puntualizados por dicha organización que, dicho sea de paso, es la más importante a nivel internacional.

Resolución de las Naciones Unidas sobre Inteligencia Artificial.

Con fecha 21 de marzo de 2024, la Asamblea General de Naciones Unidas aprobó por unanimidad la Primera resolución para la regulación internacional de la inteligencia artificial (IA), fruto de la llamada “conversación global” sobre esta tecnología. Se comenta que dicho texto fue respaldado por más de 120 Estados miembros de la propia organización

De acuerdo con la Agencia de Noticias EFE, se comenta que el día en que se aprobó la Resolución de referencia, se señaló por parte de la embajadora de los Estados Unidos de América que se debe abordar dicha tecnología como una comunidad global, sin dejar a nadie atrás. Ese ha sido el principio rector del texto y, asimismo, resulta importante precisar que el documento titulado “Aprovechar las oportunidades de una Inteligencia Artificial (IA) segura y confiable para un desarrollo sostenible”, fue iniciativa de los propios Estados Unidos y ha sido resultado de más de 40 horas de negociación, según altos funcionarios del Gobierno en mención. Se refirió que, en su intervención ante la Asamblea General de la ONU, la embajadora refirió los riesgos y las ventajas que pudieran tener las distintas aplicaciones de la IA y la importancia de cerrar las brechas digitales en todo el mundo para que todos los países puedan acceder a los beneficios de la Inteligencia Artificial, incluso se comentó que las empresas privadas que impulsan la rápida difusión y evolución de esa tecnología deben ser responsables a la hora de diseñar y lanzar nuevas capacidades de la misma.

En términos generales, puede señalarse que la Resolución de la promoción de sistemas de inteligencia artificial (IA) en el marco de las Naciones Unidas abarca cuatro puntos relevantes:

Cuidado y protección de los Derechos humanos.

Empleo de la Inteligencia Artificial (IA) para un desarrollo sostenible.

Equidad y alfabetización digital.

Empleo de la IA en otros sectores.

Aspectos relevantes de dicha Resolución.

a) Derechos humanos.

La Asamblea General de la Organización de las Naciones Unidas adoptó por aclamación la resolución de la promoción de sistemas de inteligencia artificial (IA) “seguros y fiables” que beneficien también al desarrollo sostenible para todos los países. En la Asamblea de la ONU también se destacó que la Inteligencia Artificial debe realizarse con respeto, protección y promoción de los Derechos humanos en el diseño, desarrollo, despliegue y uso de la Inteligencia Artificial (IA).

En el seno de la ONU, la Asamblea pidió a todos los Estados miembros y partes interesadas que se abstengan de utilizar sistemas de inteligencia artificial que no puedan funcionar de conformidad con las normas internacionales de Derechos humanos o que planteen riesgos indebidos para el disfrute de los mismos, por ende, se indicó que los derechos que tienen las personas fuera de línea deben protegerse también en línea, incluso durante todo el ciclo de vida de los sistemas de inteligencia artificial.

La Asamblea de la ONU también instó a todos los Estados del mundo, al sector privado, a la sociedad civil, a las organizaciones de investigación y a los medios de comunicación a desarrollar y apoyar enfoques y marcos normativos y de gobernanza relacionados con un uso seguro y fiable de la Inteligencia Artificial.

Se advierte que en la Resolución de la ONU se enfatiza un punto toral en el uso de la Inteligencia Artificial, como lo es el respeto hacia los Derechos humanos de las personas, tema de enorme relevancia si se considera que a través de los algoritmos se pueden realizar análisis, cálculos y, en su caso, generar tendencias y respuestas de las personas ante temas tan diversos como lo son: economía, gobierno, justicia, adquisiciones y ventas en el sector económico, cultura, diversiones, afinidades e incluso se puede tener injerencia en aspectos ideológicos, sexuales, raciales y religiosos, es decir, un mal uso de la inteligencia artificial podría generar distorsiones ideológicas y de tendencias en los seres humanos, poniendo en riesgo derechos y garantías.

Sobre el presente punto vale destacar que, en mayo de 2018, Amnistía Internacional, Access Now y diversas organizaciones internacionales presentaron la llamada Declaración de Toronto, documento que versa sobre la protección del derecho a la igualdad y la no discriminación en los sistemas de aprendizaje automático. La Declaración se trata de un texto mediante el cual se busca aplicar las normas internacionales de derechos humanos existentes al desarrollo y uso de sistemas de aprendizaje automático (o “inteligencia artificial”). En el mismo se indica que el aprendizaje automático (AA) es un subconjunto de la inteligencia artificial, en la Declaración se indica que se puede definir como “proporcionar a los sistemas la capacidad de aprender y mejorar de forma automática a partir de las experiencias, sin necesidad de programación explícita”.

En la llamada Declaración de Toronto se prevé que en la relación entre derechos humanos e Inteligencia Artificial se deben considerar los siguientes aspectos:

a) En primer lugar, se indica que existe un deber por parte de los Estados para prevenir la discriminación que pueda existir, en el diseño o bien en la implementación de los sistemas de aprendizaje automáticos tratándose de contextos públicos o mediante asociaciones público-privadas. Lo anterior, se determina a fin de evitar la generación de discriminación entre los seres humanos, una adecuada regulación de los sistemas de aprendizaje automáticos sirve para garantizar la transparencia y la rendición de cuentas (incluida la divulgación al público de donde se usan los sistemas de aprendizaje automáticos), para hacer cumplir la supervisión (incluidos los mecanismos para la supervisión independiente) y para promover la igualdad entre las personas.

b) Por otra parte, en la Declaración de Toronto se indica que existen responsabilidades de los actores privados que participan en el contexto del desarrollo y la implementación de los sistemas de aprendizaje automáticos. Dichas responsabilidades deben incluir la detección de resultados discriminatorios, a través de la identificación y evaluación de riesgos, y también se deben tomar medidas efectivas para prevenir y mitigar la discriminación (entre ellas, someter a los sistemas de aprendizaje automáticos a auditorías externas independientes cuando haya un riesgo considerable de que se puedan violar derechos humanos), y ser transparentes, lo que incluye la publicación de especificaciones técnicas, muestras de los datos de entrenamiento utilizados y fuentes de datos que se emplean en los sistemas de aprendizaje automáticos.

c) En la misma Declaración de Toronto, se indica que debe existir un derecho a un recurso efectivo y en su caso, poder llamar a cuentas a los responsables de las violaciones a derechos humanos en el desarrollo de los sistemas de aprendizaje automáticos. En dicha Declaración, se exhorta a los gobiernos para que los mismos puedan garantizar estándares para el debido proceso en el uso del aprendizaje automático dentro del sector público, ello a fin de que actúen con cautela al utilizar dichos sistemas; por ejemplo, en el desarrollo de los procedimientos penales y que se definan estrategias para la rendición de cuentas en el desarrollo y la implementación de aplicaciones de aprendizaje automáticos y que, en su caso, se aclaren cuáles serán los organismos o personas jurídicamente responsables de las decisiones tomadas mediante el uso de dichos sistemas, es decir, conocer los sujetos responsables de delinear los sistemas de Inteligencia Artificial, en los distintos países.

Como podrá observarse de lo antes comentado, la relación entre los derechos humanos y la Inteligencia Artificial se trata de un tema que empieza a ser explorado y que será analizado, seguramente, a mayor profundidad en los años que vienen; sin embargo, y ya desde ahora, puede advertirse que los aludidos derechos humanos, a través de sistemas de inteligencia artificial mal aplicados, pueden llegar a vulnerar derechos y garantías de las personas en cuestiones como: la igualdad, la no discriminación, la privacidad, la protección de datos, la libertad de expresión, la libertad de publicar escritos y documentos, el debido proceso legal, la garantía de legalidad, la de audiencia, y por supuesto un adecuado acceso a la justicia.

b) Empleo de la Inteligencia Artificial para un desarrollo sostenible.

El uso de la Inteligencia Artificial puede ayudar a generar un desarrollo sostenible para la economía de las naciones, y en este sentido, se dice que puede tratarse de una aliada para la evolución de los países en rubros tales como: el diseño, ejecución, consulta y planificación de la explotación de recursos naturales con que cuentan los países, así como, para el diseño de ciudades, y tratamiento de residuos en el planeta.

Unos ejemplos del empleo de la Inteligencia Artificial dentro del mecanismo de desarrollo sostenible, se tiene, por ejemplo, con la generación y aumento del potencial para mejorar la eficiencia de las energías renovables. En este sentido, las empresas ya están empleando la tecnología de referencia para conocer la disponibilidad diaria de las instalaciones encargadas de generar energía (aerogeneradores, centrales hidráulicas, plantas de biomasa), y la IA se emplea para predecir la producción de energía que se podrá generar en los próximos días y, por último, para prevenir y diagnosticar averías. Más allá del sector energético, son muchas las industrias y negocios que pueden mejorar gracias a la IA al mismo tiempo que favorecen al planeta. Otro ejemplo es en el caso de la agricultura, en donde la inteligencia artificial se aplica para conseguir los mejores sistemas de producción agrícola para el mejor uso de riego en las siembras, así como para el empleo de mecanismos de producción y fertilización más adecuados y eficientes para una mejor utilización de las tierras de cultivo. En el tema de agricultura y respecto de la inteligencia artificial, pueden emplearse mecanismos que midan la humedad, temperatura y fertilización de los cultivos. Incluso, pueden emplearse drones para mantener vigilados los cultivos.

En este contexto, sobre la conjunción entre las nociones de Inteligencia Artificial y sostenibilidad, se advierte que la IA puede ofrecer un potencial, como se ha visto, para fomentar el desarrollo y crecimiento de los Estados, ya que implica una herramienta transformadora para generar soluciones prácticas, adecuadas, eficientes e innovadoras, en campos clave como lo son: la planeación y edificación de ciudades con los mejores recursos disponibles, y reduciendo al mismo tiempo, su costo de mantenimiento; el uso adecuado y eficiente de recursos naturales con que cuentan los países; ayudar a mitigar el cambio climático en las naciones, cuestión que resulta ser por demás de tratamiento urgente, habida cuenta del aumento de temperatura a nivel internacional; un uso más racional y eficiente del agua, así como generar acciones que ayuden a preservar la biodiversidad.

De acuerdo con María Pérez Ortiz, la misma innovación que podría crear un progreso muy significativo en los problemas sociales, económicos y medioambientales más importantes a los que nos enfrentamos actualmente puede al mismo tiempo traer consigo nuevos riesgos. Es necesario que el sector tecnológico tome el control de dichas oportunidades en sostenibilidad, así como los riesgos de la aplicación de la IA. Sin duda, cuanto más nos acerquemos a la implementación de aplicaciones de la IA tales como vehículos autónomos, medicina personalizada y redes eléctricas inteligentes, más crucial se hace invertir en la investigación necesaria para mantener estos sistemas robustos, seguros y beneficiosos para prevenir entre otros el mal funcionamiento o los ataques informáticos. Es por tanto muy importante crear conciencia de los riesgos asociados a los sistemas basados en IA en una sociedad progresivamente más dependiente en dicha tecnología.

c) Equidad y alfabetización digital.

La Asamblea de las Naciones Unidas ha reconocido que además de los diferentes niveles de desarrollo tecnológico entre los países y dentro de ellos, y que las naciones en desarrollo se enfrentan a retos únicos para seguir el rápido ritmo de la innovación, ello implica que el uso de tecnologías digitales puede aumentar las diferencias de desarrollo entre los Estados y, por lo tanto, y a través de la Resolución en estudio, se insta a los Estados miembros y a las partes interesadas a cooperar y apoyar a los países en desarrollo para que estos puedan beneficiarse de un acceso inclusivo y equitativo, y en su caso, poder cerrar la brecha digital y aumentar la alfabetización digital entre los países, diferencia que podría ahondarse con el uso y empleo de la IA.

En opinión de Lucía Fainboim, la alfabetización tiene que ver con ciertos conocimientos básicos que las personas debemos tener para transitar plenamente en la vida. Evidentemente, que la alfabetización es un concepto en movimiento y contextual: no se consideraban los mismos conocimientos básicos los que se necesitaban hace 50 años que los que se necesitan ahora. Y menos aún en un contexto en donde niños y niñas suelen ser usuarios de internet antes de aprender a leer y escribir. En la actualidad no basta con saber leer y escribir para poder transitar plenamente este mundo. Hoy en día ya se habla de diversas alfabetizaciones, no una sola que sea única y estancada para todas las personas. Sin duda una alfabetización digital es indispensable porque, como venimos hablando, implica conocer el funcionamiento y las formas de uso de las plataformas digitales que utilizamos diariamente. Conocerlas para lograr una apropiación y, por ende, un uso más pleno, creativo, crítico o reflexivo.

d) Empleo de la IA en otros sectores.

Al amparo del contenido de la Resolución emitida por las Naciones Unidas en el tema de la Inteligencia Artificial, también se aludió a otros sectores en los cuales deberá cuidarse el uso de dicha tecnología, como son a saber: el respeto a la paz, la seguridad internacional y el uso militar responsable de la autonomía de la Inteligencia Artificial.

A manera de guisa, puede señalarse que el uso de la Inteligencia Artificial en el ámbito militar, se trata de un campo que tiene amplias repercusiones, que van desde la toma de decisiones por parte de los comandantes y de la inteligencia militar, hasta la adopción de armas con cierta capacidad de IA, sin olvidar rubros clave como lo son la robótica inteligente; el Big Data analytics; nuevos asistentes inteligentes; motores de recomendación o encomendadores; la ciberseguridad y la inteligencia artificial; la evolución previsible de las tecnologías relacionadas con la inteligencia artificial, etc. De ahí que se esté en presencia de una tecnología que, en el sector militar, puede tener innumerables aplicaciones.

Como se ha podido observar del contenido de la Resolución emitida por las Naciones Unidas en el ámbito de la Inteligencia Artificial, el tema ya es de envergadura mundial y existe la necesidad, y al mismo tiempo, preocupación, por implementar medidas que ayuden a regular y controlar el campo de la Inteligencia Artificial en los diversos sectores, cuestión que nos parece debiera ser de mayor análisis y estudio en el ámbito nacional, por las repercusiones que dicha tecnología conlleva.