El presente análisis versa sobre el Convenio Marco sobre Inteligencia Artificial y Derechos Humanos, Democracia y Estado de Derecho –también denominado la Convención Marco sobre Inteligencia Artificial–, el cual constituye el primer tratado internacional jurídicamente vinculante en materia de inteligencia artificial, adoptado el 17 de mayo de 2024. El acuerdo, conocido como Framework Convention, fue firmado por la Unión Europea, Estados Unidos, Reino Unido, Andorra, Georgia, Islandia, Noruega, Moldavia, San Marino e Israel. El objetivo esencial es garantizar que el desarrollo y uso de dicha tecnología sea plenamente compatible con los derechos humanos, la democracia y los principios de legalidad internacionalmente reconocidos. El convenio fue elaborado por el Consejo de Europa (CDE), una organización internacional que promueve la democracia y la protección de los derechos y garantías humanas. Al tratarse del primer instrumento internacional de carácter multilateral en el tema de inteligencia artificial, se estima que es un documento que vale la pena examinar, teniendo en cuenta su importancia en el concierto internacional.
De acuerdo con el Consejo de Europa, el Convenio Marco sobre Inteligencia Artificial y Derechos Humanos, Democracia y Estado de Derecho constituye el primer tratado internacional jurídicamente vinculante destinado a regular el uso de los sistemas de inteligencia artificial (IA). Este instrumento abarca todo el ciclo de vida de los sistemas de IA y se ocupa de los riesgos que pueden plantear, al tiempo que promueve la innovación responsable. El convenio adopta un enfoque basado en el riesgo para diseñar, desarrollar, utilizar y desmantelar sistemas de IA, lo que exige considerar cuidadosamente cualquier posible consecuencia negativa de su uso.
El tratado es el resultado de dos años de trabajo de un órgano intergubernamental, el Comité sobre Inteligencia Artificial (CAI, por sus siglas en inglés), que reunió a los 46 Estados miembros del Consejo de Europa, a la Unión Europea y a 11 Estados no miembros —Argentina, Australia, Canadá, Costa Rica, Estados Unidos, Israel, Japón, México, Perú, la Santa Sede y Uruguay—, así como a representantes del sector privado, la sociedad civil y el mundo académico que participaron como observadores. Cabe destacar que se trata de un instrumento internacional abierto a la adhesión de otras naciones.
El tratado cubre el uso de sistemas de inteligencia artificial en el sector público —incluidas las compañías que actúan en su nombre— y en el sector privado. El convenio ofrece a las partes dos formas de cumplir con sus principios y obligaciones a la hora de regular al sector privado: pueden optar por quedar obligadas directamente por las disposiciones pertinentes o, como alternativa, adoptar otras medidas que permitan cumplir con lo establecido, respetando plenamente sus compromisos en materia de derechos humanos, democracia y Estado de derecho.
El Tratado se encuentra contenido en 8 Capítulos y 36 artículos que regulan, entre otros aspectos:
Objeto y propósito.
Se prevé que las disposiciones de la Convención tienen por objeto garantizar que las actividades durante el ciclo de vida de los sistemas de inteligencia artificial respeten plenamente los Derechos Humanos, la democracia y el Estado de derecho; cada Parte del Tratado adoptará medidas legislativas, administrativas o de otra índole que sean apropiadas para dar efecto a las disposiciones de dicho instrumento internacional. Esto puede incluir ya sea medidas específicas u horizontales aplicables independientemente del tipo de tecnología utilizada, y a fin de garantizar la aplicación efectiva de las disposiciones de este, la Convención regula un mecanismo de seguimiento y de cooperación internacional.
Sistemas de inteligencia artificial.
De acuerdo con este instrumento internacional, se tiene que un sistema de inteligencia artificial implica un sistema basado en máquinas que, para objetivos explícitos o implícitos, infiere, a partir de la información que recibe, como generar resultados, como predicciones, contenido, recomendaciones o decisiones, mismos que pueden influir en los entornos físicos o virtuales. Los distintos sistemas de inteligencia artificial pueden variar en sus niveles de autonomía y adaptación tras su implementación.
Alcance del Tratado.
El ámbito de aplicación de este instrumento comprende las actividades dentro del ciclo de vida de los sistemas de inteligencia artificial que puedan interferir con los derechos humanos, la democracia y el Estado de derecho, de la siguiente manera:
Cada Parte aplicará el Tratado considerando las actividades dentro del ciclo de vida de los sistemas de inteligencia artificial realizadas por autoridades públicas o por los agentes privados que actúen en su nombre.
Cada Parte abordará los riesgos e impactos derivados de las actividades dentro del ciclo de vida de los sistemas de inteligencia artificial realizadas por agentes privados, en la medida en que no estén contempladas en el objeto y finalidad del Convenio.
Una Parte no estará obligada a aplicar el Convenio a las actividades dentro del ciclo de vida de los sistemas de inteligencia artificial relacionadas con la protección de sus intereses en materia de seguridad nacional, en el entendido de que dichas actividades se realizan acorde con el Derecho Internacional aplicable, incluidas las obligaciones que dimanan del Derecho Internacional de los Derechos Humanos, y con respeto a las instituciones y procesos democráticos de cada país.
Atendiendo a las consideraciones vertidas con antelación, las cuestiones relacionadas con la defensa nacional no serán objeto de la competencia de dicho instrumento internacional.
Protección de los Derechos Humanos.
Cada Estado Parte deberá adoptar o mantener medidas para garantizar que las actividades dentro del ciclo de vida de los sistemas de inteligencia artificial sean coherentes con las obligaciones de protección de los Derechos Humanos, consagrados en el Derecho Internacional aplicable, así como en el derecho interno de cada país.
Integridad de los procesos democráticos y del Estado de derecho
Las Partes adoptarán o mantendrán medidas que garanticen que los sistemas de inteligencia artificial no se utilicen para socavar la integridad, la independencia y la eficacia de las instituciones y los procesos democráticos de un Estado, cuestiones que incluirán el principio de separación de poderes, el respeto a la independencia judicial y el acceso a la justicia. Por lo tanto, deberán implementarse medidas que protejan los procesos democráticos en el contexto de las actividades dentro del ciclo de vida de los sistemas de inteligencia artificial, incluido el acceso equitativo de las personas al debate público y su participación en el mismo, así como su capacidad para formarse libremente.
Dignidad humana y autonomía individual.
Los países deberán adoptar o mantener medidas que respeten la dignidad humana y la autonomía individual en relación con las actividades dentro del ciclo de vida de los sistemas de inteligencia artificial.
Transparencia y vigilancia.
Sobre el punto, los estados parte regularán medidas para garantizar que exista la transparencia y supervisión, mismos que se adaptarán a los contextos y riesgos específicos en relación a las actividades dentro del ciclo de vida de los sistemas de inteligencia artificial, incluyendo lo que respecta a la identificación del contenido generado por dichos sistemas.
Responsabilidad.
Deberán implementarse reglas para garantizar la rendición de cuentas y la responsabilidad por los impactos adversos sobre los Derechos Humanos, la democracia y el Estado de derecho, mismos que sean resultantes de las actividades dentro del ciclo de vida de los sistemas de inteligencia artificial.
Equidad y no discriminación.
Los países deben garantizar la adopción de respetar la igualdad, incluida la igualdad de género, y la prohibición de la discriminación, atendiendo a lo dispuesto en el Derecho Internacional y nacional aplicable. Asimismo, existe el compromiso de implementar medidas destinadas a superar las desigualdades para lograr resultados justos y equitativos, de conformidad con las obligaciones nacionales e internacionales aplicables en materia de Derechos Humanos, en relación con las actividades dentro del ciclo de vida de los sistemas de inteligencia artificial.
Privacidad y protección de datos personales.
Deberán implementarse reglas que protejan los derechos de privacidad de las personas y sus datos personales, incluyendo la adopción de leyes, normas y en su caso, marcos nacionales e internacionales aplicables en dichos temas y, asimismo, prever garantías y salvaguardas efectivas para las personas, de conformidad con las obligaciones legales nacionales e internacionales aplicables.
Confiabilidad.
Los estados parte regularán cuestiones para promover la fiabilidad de los sistemas de inteligencia artificial y la confianza en sus resultados, lo que podría incluir requisitos relacionados con la calidad y la seguridad adecuadas durante todo el ciclo de vida de los sistemas de inteligencia.
Seguridad en la innovación.
Con el objetivo de fomentar la innovación y evitar efectos adversos sobre los Derechos Humanos, la democracia y el Estado de derecho, se insta a cada país a permitir, según corresponda, el establecimiento de entornos controlados para desarrollar, experimentar y probar sistemas de inteligencia artificial bajo la supervisión de las autoridades competentes.
Remedios.
Los países, en la medida de las obligaciones que hubiesen adoptado a nivel internacional, mismos que exijan la implementación de recursos y siempre que sean compatibles con su derecho interno, regularán la disponibilidad de mecanismos accesibles y efectivos ante violaciones de Derechos Humanos derivados de la aplicación de los sistemas de inteligencia artificial. Es decir, deberá existir la posibilidad de impugnar las decisiones adoptadas, fundamentadas en el uso de sistemas de inteligencia artificial y la reclamación podrá presentarse ante las autoridades competentes.
Procedimientos de salvaguardia.
Conforme al Tratado, se garantiza que cuando un sistema de inteligencia artificial afecte significativamente el disfrute de los Derechos Humanos, las personas afectadas dispondrán de garantías procesales, salvaguardas y derechos efectivos, de conformidad con el Derecho Internacional y nacional aplicable. En ese sentido, se dice que cada Estado procurará garantizar que se notifique a las personas que están interactuando con sistemas de inteligencia artificial y no con seres humanos.
Marco de gestión de riesgos e impactos.
En el marco del tratado, se establece que deberán implementarse medidas para la identificación, evaluación, prevención y mitigación de los riesgos que plantean los sistemas de inteligencia artificial, considerando los impactos reales y potenciales sobre los derechos humanos, la democracia y el Estado de derecho. Dichas medidas deberán ser graduales y diferenciadas, tomando en cuenta el contexto y el uso previsto de los sistemas de inteligencia artificial, así como la gravedad y la probabilidad de los posibles impactos.
Asimismo, se señala la importancia de integrar las perspectivas de las partes interesadas, en particular de las personas cuyos derechos puedan verse afectados. Estas medidas deberán aplicarse de manera iterativa a lo largo de todo el ciclo de vida de los sistemas de inteligencia artificial e incluir la monitorización de riesgos e impactos adversos sobre los derechos humanos, la democracia y el Estado de derecho.
De igual forma, deberán contemplar la documentación de riesgos e impactos reales y potenciales, la exigencia —cuando proceda— de pruebas antes de poner los sistemas de inteligencia artificial a disposición del público, así como la adopción o mantenimiento de acciones que aseguren la atención adecuada de los impactos adversos. Finalmente, se establece que los gobiernos evaluarán la necesidad de imponer moratorias, prohibiciones u otras medidas respecto de ciertos usos de la inteligencia artificial que se consideren incompatibles con el respeto de los derechos humanos, el funcionamiento de la democracia y el Estado de derecho.
No discriminación.
Para la aplicación de las disposiciones de la convención, se garantizará sin discriminación de ningún tipo la aplicación de esta, de conformidad con las obligaciones internacionales en materia de Derechos Humanos.
Consulta pública.
Los países procurarán garantizar que las cuestiones importantes planteadas en relación con los sistemas de inteligencia artificial se consideren debidamente discutidos en un debate público y formularse consultas a múltiples partes interesadas, a la luz de las implicaciones sociales, económicas, jurídicas, éticas, ambientales y de otras implicaciones pertinentes que se generen con los sistemas de inteligencia artificial.
Protección más amplia.
Se prevé que ninguna de las disposiciones de la Convención se interpretará en el sentido de limitar o afectar de otro modo la posibilidad de que una Parte conceda una medida de protección más amplia que la estipulada en la propia Convención.
Solución de controversias.
En el caso se observa que en el supuesto de que surja una controversia entre las Partes sobre la interpretación o aplicación de la presente Convención, los Estados buscarán una solución mediante la negociación o cualquier otro medio pacífico de su elección, incluida la Conferencia de las Partes.
Cooperación internacional.
Las Partes cooperarán para el cumplimiento del propósito de la presente Convención. Se alienta además a los Estados, según corresponda, para ayudar a los países que no sean Partes de la misma para actuar de conformidad con los términos previstos en ella y a adherirse a dicho instrumento internacional.
Conferencia de las Partes.
Es el órgano creado por dicho instrumento internacional en dónde comparecen los representantes de los Estados Parte y en el mismo determinan entre otros aspectos: temas prioritarios, programación y ejecución de tareas, toma de decisiones, proyectos de enmiendas del Tratado, entre otros aspectos.
En este caso se advierte que el Convenio Marco sobre Inteligencia Artificial y Derechos Humanos, Democracia y Estado de Derecho —también denominado Convención Marco sobre Inteligencia Artificial— constituye el primer instrumento internacional de carácter multilateral en la materia. Se trata de un documento relevante, pues regula aspectos vinculados con los derechos humanos, las garantías, los medios de defensa, las responsabilidades de actores privados y la cooperación internacional. México, al haber participado como Estado no miembro en su elaboración, conoce la naturaleza y el alcance del tratado, lo cual resultaría especialmente significativo en caso de que, en algún momento, el Estado mexicano decida incorporarse formalmente al mismo.
En el presente artículo se tendrá la oportunidad de examinar la importancia de las relaciones comerciales que existen, entre México y Australia, relaciones que en
Por medio del presente artículo, se tendrá la oportunidad de examinar las relaciones comerciales existentes entre dos países en los cuales existen fuertes vínculos históricos,
Me referiré en esta ocasión al oro azul como recurso natural: el agua, debido al alto valor que mantiene actualmente y su similitud al mismo
En el mundo de los negocios el RIESGO es un elemento siempre presente. No es posible, y tal vez ni siquiera deseable “huir” de este.
México es un país atractivo para la inversión extranjera debido a su posición estratégica y su población joven, además de que somos un país consumista
En el año 2023 se aplicarán cambios relevantes en materia de presentación de los “dictámenes de los estados financieros”, los cuales tienen relación con la
Desde que Estados Unidos mostró interés en Oceanía para asociarse comercialmente con los países de la región y enfrentar el expansionismo de China y sus
