La inteligencia artificial implica una tecnología que irá creciendo paulatinamente con el paso de los años, ya que se trata de una herramienta que empieza a ser empleada en mayor medida por personas físicas, empresas y gobiernos.

Atendiendo a lo señalado con antelación, en el presente trabajo se examina el primer ordenamiento jurídico dirigido a regular dicho campo, esto es, la Ley de Inteligencia Artificial, creada en el seno de la Unión Europea, considerada como una ley pionera a nivel internacional, ya que, a través de la misma, se regulan diversos aspectos de la Inteligencia Artificial (IA), y a querer o no, se estima que en el mediano o largo plazos dicha Ley podría llegar a impactar en las legislaciones de otros países, como en el caso de México. Es de destacar que, de acuerdo con el Parlamento Europeo, y como parte de su estrategia digital, la Unión Europea quería regular la inteligencia artificial a fin de garantizar las mejores condiciones de desarrollo y uso de esta tecnología innovadora, incluso se refiere que la Inteligencia Artificial puede aportar muchos beneficios, como lo son: una mejor asistencia sanitaria, un transporte más seguro y limpio, una fabricación más eficiente y una energía más barata y sostenible.

Aspectos generales de la Ley de Inteligencia Artificial de la Unión Europea

De acuerdo con lo referido por la Comisión Europea, el pasado mes de diciembre de 2023, el Consejo y el Parlamento Europeo alcanzaron un acuerdo provisional sobre el que se instituye el primer Reglamento de Inteligencia Artificial. Esta ley tiene su origen en la propuesta de la Comisión Europea del 2021, lo anterior, a fin de crear el primer marco regulador en la Unión Europea sobre la Inteligencia Artificial.

A continuación, se examinan algunos aspectos relevantes de la Ley de la Inteligencia Artificial de la Unión Europea, en principio se hace notar que el ordenamiento en comento consta de 12 títulos principales, y cada título contiene una serie de artículos que regulan temas en concreto. Los títulos en los que se divide la Ley en estudio son: a) Título I. Disposiciones generales; b) Título II. Prácticas de inteligencia artificial prohibidas; c) Titulo III. Sistema de Inteligencia Artificial de alto riesgo; d) Título IV. Obligaciones de transparencia de los proveedores e implantadores de determinados sistemas de Inteligencia Artificial y modelos GPAI; e) Título V. Medidas de apoyo a la innovación; f) Título VI. Gobernanza; g) Título VII. Control posterior a la comercialización, intercambio de información, vigilancia del mercado; h) Título VIII. Control posterior a la comercialización, intercambio de información, vigilancia del mercado; i) Título IX. Códigos de Conducta; j) Título X. Confidencialidad y sanciones; k) Título XI. Delegación de poderes y procedimiento de Comité; y l) Título XII. Disposiciones finales.

Disposiciones generales
En la Ley en estudio, se refiere que su objetivo consiste en mejorar el funcionamiento del mercado interior de la Unión Europea y, en su caso, promover la adopción de la inteligencia artificial centrada en el ser humano, misma que deberá ser fiable y garantizar, al mismo tiempo, un alto nivel de protección en temas de salud, seguridad, y derechos fundamentales consagrados en la Unión Europea. La Ley en comento deberá considerar aspectos tales como: la democracia, el Estado de Derecho y la protección del medio ambiente, todo ello, contra los efectos nocivos de diversos sistemas de inteligencia artificial que existan en la Unión y apoyando igualmente la noción de innovación.

Para lograr lo anterior y como disposiciones generales se establecen: a) Normas armonizadas para la comercialización, la puesta en servicio y uso de sistemas de inteligencia artificial (“sistemas de IA”) en la Unión Europea; b) Prohibiciones para determinadas prácticas de inteligencia artificial (IA); c) Requisitos específicos para los sistemas de IA de alto riesgo y obligaciones para los operadores de dichos sistemas; d) Normas de transparencia armonizadas para determinados sistemas de IA; e) Normas armonizadas para la comercialización de modelos de IA de uso general; f) Normas sobre supervisión del mercado, gobernanza de la vigilancia del mercado y aplicación de la legislación; g) Medidas de apoyo a la innovación, con especial atención a las pequeñas y medianas empresas (PYMES), incluidas las de nueva creación. Se dice que la Ley de Inteligencia Artificial aplicará para: proveedores que comercialicen o pongan en servicio sistemas de Inteligencia Artificial, o bien que, comercialicen modelos de IA de uso general en la Unión Europea, con independencia de que estén establecidos o ubicados en la propia Unión o en un tercer país; implantadores de sistemas de IA que tengan su establecimiento o que estén situados en la Unión Europea; proveedores e implantadores de sistemas de IA que tengan su lugar de establecimiento o que estén situados en un tercer país, siempre que el producto generado por el sistema se utilice en la Unión Europea; importadores y distribuidores de sistemas de IA; fabricantes de productos que comercialicen o pongan en servicio un sistema de IA junto con su producto y bajo su propio nombre o marca; representantes autorizados de proveedores no establecidos en la Unión y personas afectadas que se encuentren en la Unión Europea.

El ordenamiento en comento regula que sus disposiciones no se aplicarán para: a) Los sistemas de Inteligencia Artificial que no se comercialicen, o no se pongan en servicio en la Unión Europea; b) Cuando la producción se utilice en la Unión Europea exclusivamente con fines militares, de defensa o de seguridad nacional, independientemente del tipo de entidad de que se trate; c) Respecto de las autoridades públicas de un tercer país, y tratándose de las organizaciones internacionales, y d) No aplicará para modelos de estudio con el único fin de desarrollar investigación científica, entre otros aspectos.

Entre algunas de las definiciones relevantes en el marco de dicha Ley, se tienen a saber: a) Se define a un sistema de Inteligencia Artificial (IA), como un sistema basado en máquinas diseñadas para funcionar con diversos niveles de autonomía, las cuáles pueden mostrar capacidad de adaptación tras su despliegue, así como la consecución de objetivos explícitos o implícitos, también se aluden a funciones tales como: predicciones, contenidos, recomendaciones o decisiones que pueden influir en entornos físicos o virtuales; b) El riesgo, implica la combinación de la probabilidad de que se produzca un daño, inclusive se regula la noción de la gravedad del daño; c) Un proveedor, se trata de una persona física o jurídica, autoridad pública, agencia u otro organismo que desarrolle un sistema de IA o un modelo de IA de propósito general o, que haga desarrollar un sistema de IA o un modelo de IA de propósito general, y los comercialice o ponga en servicio, amparándolos bajo su nombre o marca comercial, al respecto, cabe mencionar, que ello puede efectuarse a título oneroso o gratuito; d) El implantador, se refiere a cualquier persona física o jurídica, autoridad pública, agencia u otro organismo que utilice un sistema de Inteligencia Artificial (IA), bajo su autoridad, excepto cuando dicho sistema se emplee en el curso de una actividad personal no profesional; e) Un importador, implica según la Ley, cualquier persona física o jurídica situada o establecida en la Unión Europea, que comercialice un sistema de IA que lleve el nombre o la marca comercial de una persona física o jurídica, que se encuentre establecida fuera de la Unión Europea; f) El distribuidor, implica a cualquier persona física o jurídica de la cadena de suministro, distinta del proveedor o del importador, que comercializa un sistema de IA en el mercado de la Unión; g) Un operador, alude al proveedor, al fabricante del producto, el implantador, el representante autorizado, importador o distribuidor; h) Uso indebido razonablemente previsible, se refiere al uso de un sistema de Inteligencia Artificial (IA) de un modo no conforme con su finalidad, pero que puede resultar de un comportamiento humano razonablemente previsible o de la interacción con otros sistemas, incluidos otros sistemas de Inteligencia Artificial, entre otras definiciones.

Prácticas de inteligencia artificial prohibidas
Se dice que existen sistemas de Inteligencia Artificial de riesgo inaceptable, pues con los mismos se amenazan a las personas, y consecuentemente deben prohibirse, y entre tales prácticas se tienen: a la manipulación cognitiva del comportamiento de personas o grupos vulnerables específicos; sistemas de puntuación social en función del comportamiento de los individuos, estatus socioeconómico, características personales, y sistemas de identificación biométrica en tiempo real y a distancia.

Así, en la Ley en estudio se tiene que se prevén una serie de prácticas prohibidas, que son, a saber: a) La comercialización, puesta en servicio o utilización de un sistema de Inteligencia Artificial (IA) que despliegue técnicas subliminales que escapen a la conciencia de una persona o técnicas deliberadamente manipuladoras o engañosas, con el objetivo o el efecto de distorsionar materialmente el comportamiento de una persona o de un grupo de personas; b) La comercialización, puesta en servicio o utilización de un sistema de IA que explote cualquiera de las vulnerabilidades de una persona o de un grupo específico de personas debido a su edad, discapacidad o una situación social o económica específica, con el objetivo o el efecto de distorsionar materialmente el comportamiento de esa persona o personas; c) La comercialización o puesta en servicio de sistemas de categorización biométrica que ordenen individualmente a personas físicas basándose en sus datos biométricos para deducir o inferir su raza, opiniones políticas, afiliación sindical, creencias religiosas o filosóficas, vida sexual u orientación sexual; d) La comercialización, puesta en servicio o utilización de sistemas de IA para la evaluación o clasificación de personas físicas o grupos de ellas durante un determinado período de tiempo en función de su comportamiento social o de sus características personales o de personalidad conocidas, deducidas o previstas; e) El trato perjudicial o desfavorable de determinadas personas físicas o grupos enteros de éstas en contextos sociales que no guardan relación con los contextos en los que se generaron o recopilaron originalmente los datos; f) El uso de sistemas de identificación biométrica a distancia “en tiempo real” en espacios de acceso público con fines policiales, para uno de los siguientes objetivos: búsqueda específica de víctimas concretas de secuestros, trata de seres humanos y explotación sexual de seres humanos; la prevención de una amenaza específica, sustancial e inminente para la vida o la seguridad física de las personas físicas o una amenaza real y actual o real y previsible de atentado terrorista; la localización o identificación de una persona sospechosa de haber cometido una infracción penal, con el fin de llevar a cabo una investigación penal, el enjuiciamiento o la ejecución de una sanción penal, entre otros aspectos.

Sistemas de inteligencia artificial de alto riesgo
De acuerdo con la legislación en estudio, se consideran como sistemas de alto riesgo en la Inteligencia Artificial, cuando se cumplan dos condiciones: a) Que el sistema de Inteligencia Artificial (IA), esté destinado a utilizarse como componente de seguridad de un producto, o bien que el sistema de IA sea el producto y en este tenor se observa que entre los productos contemplados se tienen: la producción de máquinas, seguridad en los juguetes, embarcaciones de recreo y motos acuáticas, ascensores y sus componentes de seguridad, aparatos y sistemas de protección para uso en atmósferas potencialmente explosivas, etc., y b) Que el producto cuyo componente de seguridad aludido en el punto anterior, sea el sistema de Inteligencia Artificial (IA), o que sea el propio sistema de IA como producto, el cual, debe someterse a una evaluación de la conformidad por terceros, con vistas a la comercialización o puesta en servicio de dicho producto.

Cabe destacar que los sistemas de Inteligencia Artificial pertenecientes a ocho ámbitos, deberán registrarse en una base de datos de la Unión Europea, que son a saber: identificación biométrica y categorización de personas físicas; gestión y explotación de infraestructuras críticas; educación y formación profesional; empleo, gestión de trabajadores y acceso al autoempleo; acceso y disfrute de servicios privados esenciales y servicios y prestaciones públicas; aplicación de la ley; gestión de la migración, asilo y control de fronteras y asistencia en la interpretación jurídica y aplicación de la Ley, cabe destacar asimismo que:

Además de los sistemas de Inteligencia artificial (IA) de alto riesgo ya aludidos, en el ordenamiento en análisis, también se considerarán de alto riesgo aquellos sistemas regulados en el Anexo III, y que están vinculados con: datos biométricos; infraestructuras críticas; educación y formación profesional, empleo, gestión de trabajadores y acceso al autoempleo, entre otros rubros.

Se consideran sistemas de alto riesgo, el acceso y disfrute de los servicios privados esenciales y de los servicios y prestaciones públicas esenciales.

También constituyen sistemas de alto riesgo, el control de las fuerzas y cuerpos de seguridad, en la medida en que su uso esté permitido por la legislación nacional o de la Unión pertinente.

Son sistemas de alto riesgo, la gestión de la migración, el asilo y el control de fronteras, en la medida en que su uso esté permitido por la legislación nacional o de la Unión pertinente.

En la Ley en estudio, se prevé que los sistemas de IA no se considerarán de alto riesgo si no suponen un riesgo significativo de daño para la salud, la seguridad o los derechos fundamentales de las personas físicas, incluido el hecho de no influir materialmente en el resultado de la toma de decisiones.

 
Obligaciones de transparencia para los proveedores y usuarios de determinados sistemas de inteligencia artificial y modelos IPGAS

En la Ley en estudio, se prevé que entre las obligaciones de transparencia que deben cumplir los proveedores y usuarios en los sistemas de inteligencia artificial, se tienen a saber:

Los proveedores deberán garantizar que los sistemas de Inteligencia Artificial (IA) destinados a interactuar directamente con personas físicas se diseñen y desarrollen de forma tal, que las personas físicas afectadas estén informadas acerca de que están interactuando con un sistema de Inteligencia Artificial (IA), a menos que ello resulte obvio para una persona física razonablemente bien informada. Esta obligación no se aplicará para los sistemas de Inteligencia Artificial (IA) autorizados por la ley para detectar, prevenir, investigar y enjuiciar delitos, sin perjuicio de las salvaguardias adecuadas de los derechos y libertades de terceros.

Los proveedores de sistemas de IA, incluidos los sistemas GPAI, que generen contenidos sintéticos de audio, imagen, vídeo o texto, garantizarán que los resultados del sistema de Inteligencia Artificial (IA), estén marcados en un formato legible por máquina y que se informe que ha sido generado o manipulado artificialmente. Esta obligación no se aplicará en la medida en que los sistemas de IA realicen una función de asistencia para la edición estándar o no alteren sustancialmente los datos de entrada proporcionados por el usuario o la semántica de los mismos, o cuando estén autorizados por disposiciones jurídicas para detectar, prevenir, investigar y perseguir delitos penales. La Inteligencia Artificial generativa, en general, se dice que, tendrá que cumplir con ciertos requisitos de transparencia: revelar que el contenido ha sido generado por IA; diseñar el modelo para evitar que genere contenidos ilegales y publicar resúmenes de los datos protegidos por derechos de autor utilizados para el entrenamiento.

Las personas responsables del despliegue de un sistema de reconocimiento de emociones o de un sistema de categorización biométrica, informarán del funcionamiento del sistema a las personas físicas expuestas al mismo, y tratarán los datos personales de conformidad con las disposiciones previstas y de resguardo contempladas en la normatividad de la Unión Europea. Esta obligación no aplicará a los sistemas de IA utilizados para la categorización biométrica y de reconocimiento de emociones, permitidos por la ley para detectar, prevenir e investigar delitos penales.

 
Los implantadores de un sistema de IA que generen o manipulen contenidos de imagen, audio o vídeo que constituyan una falsificación profunda, deberán revelar que el contenido ha sido generado o manipulado artificialmente. Esta obligación no se aplicará cuando el uso esté autorizado por la ley para detectar, prevenir, investigar y enjuiciar delitos penales. Cuando el contenido forme parte de una obra o programa evidentemente artístico, creativo, satírico o análogo de ficción, las obligaciones de transparencia establecidas en el presente apartado se limitarán a revelar la existencia de dicho contenido generado o manipulado de una manera adecuada que no obstaculice la visualización o el disfrute de la obra.

 
Los usuarios de un sistema de Inteligencia Artificial (IA) que generen o manipulen texto que se publique, con el fin de informar al público sobre asuntos de interés público deberán revelar que el texto ha sido generado o manipulado artificialmente. Esta obligación no se aplicará cuando el uso esté autorizado por ley para detectar, prevenir, investigar y perseguir delitos penales, o cuando, el contenido generado por la IA haya sido sometido a un proceso de revisión humana o control editorial y cuando una persona física o jurídica ostente la responsabilidad editorial de la publicación del contenido.

Se dice que la información que sea manipulada, se facilitará a las personas físicas afectadas de forma clara y distinguible a más tardar en el momento de la primera interacción o exposición con la información manipulada. La información respetará los requisitos de accesibilidad aplicables.

La Oficina de Inteligencia Artificial (AI) de la Unión Europea, fomentará y facilitará la elaboración de códigos de prácticas a escala dentro de la Unión Europea, a fin de facilitar la aplicación efectiva de las obligaciones relativas a la detección y el etiquetado de contenidos generados o manipulados artificialmente.

 
Clasificación de los modelos de Inteligencia Artificial de propósito general como modelos de IA, con riesgo sistémico

Conforme a la Ley en estudio, se prevé que un modelo de Inteligencia Artificial (IA) de propósito general se clasificará como modelo de IA de propósito general con riesgo sistémico si cumple alguno de los siguientes criterios: a) Si tiene una gran capacidad de impacto sobre la base de herramientas técnicas y metodologías adecuadas, incluidos indicadores y puntos de referencia, b) Basándose en una decisión de la Comisión, de oficio o tras una alerta cualificada de la comisión técnica científica, de que un modelo de Inteligencia Artificial (IA) de propósito general tiene capacidades o repercusiones equivalentes a las aludidas, en el punto anterior.

Códigos de conducta
En el marco de la Ley de Inteligencia Artificial, se regula que la Oficina de la Inteligencia Artificial (IA) y los Estados miembros de la Unión Europea, deberán fomentar y facilitar la elaboración de códigos de conducta, incluidos mecanismos de gobernanza, que:

• Cumplan las directrices éticas europeas para una IA digna de confianza.
• Evalúen y minimicen el impacto de los sistemas de IA en la sostenibilidad medioambiental, incluso en lo que respecta a la programación eficiente desde el punto de vista energético y a las técnicas de diseño, formación y uso eficientes de la IA.
• Promover la alfabetización en materia de IA, en particular de las personas que se ocupan del desarrollo, funcionamiento y uso de la misma.
• Facilitar un diseño inclusivo y diverso de los sistemas de IA, incluso mediante la creación de equipos de desarrollo inclusivos y diversos.

Confidencialidad
La Comisión, las autoridades de vigilancia del mercado y los organismos notificados, así como cualquier otra persona física o jurídica que tenga implicaciones en la aplicación de la Ley, deberán respetar la confidencialidad de la información y los datos obtenidos en el desempeño de sus funciones y actividades, de manera que se proteja, en particular: los derechos de propiedad intelectual, la información comercial confidencial, los secretos comerciales de una persona física o jurídica, incluido el código fuente; la aplicación efectiva del ordenamiento en estudio, sobre todo, en cuestiones de inspecciones, investigaciones o auditorías; intereses públicos y de seguridad nacional; integridad de los procedimientos penales o administrativos; integridad de la información clasificada de conformidad con el Derecho de la Unión o nacional, etc.

Sanciones

Se prevé que los Estados deberán establecer un régimen de sanciones y otras medidas coercitivas, que también podrán incluir advertencias y medidas no pecuniarias, aplicables a las infracciones relacionadas con la Ley en estudio. Asimismo, adoptarán todas las medidas necesarias para garantizar su aplicación correcta y eficaz, teniendo en cuenta las directrices publicadas por la Comisión. Las sanciones que se impongan deberán ser efectivas, proporcionales y disuasorias y deberán tener en cuenta los intereses de las pequeñas y medianas empresas, incluidas las nuevas empresas, y su viabilidad económica.

Autoridades
Se hace notar que se creó una Junta Europea de Inteligencia Artificial y un Consejo compuesto por un representante de cada Estado miembro. El Supervisor Europeo de Protección de Datos participará en calidad de observador. La Oficina de Inteligencia Artificial (AI), también asistirá a las reuniones del Consejo sin tomar parte en las votaciones. La Junta podrá invitar a las reuniones, caso por caso, a otras autoridades, organismos o expertos nacionales y de la Unión, cuando las cuestiones debatidas sean pertinentes para ellos.

El estudio del presente ordenamiento resulta ser básico para conocer las reglas que aplicarán para la regulación de la inteligencia artificial, en el marco de la Ley de la Inteligencia Artificial de la Unión Europea, tema relevante, si se considera que, probablemente, a mediano o largo plazos, cuando nuestro país examine la alternativa de incorporar reglas de esta materia dentro de la legislación nacional, seguramente se tomará como punto de referencia el presente ordenamiento y de ahí, la importancia de conocer el significado y naturaleza de la misma.