La Unión Europea aprueba un paquete de normas para regular la IA

En los dos años que los legisladores llevan negociando las normativas acordadas, la tecnología de la IA y las principales preocupaciones sobre ella cambiaron drásticamente. Cuando se concibió la Ley de Inteligencia Artificial en abril de 2021, a los responsables políticos les preocupaba que los algoritmos poco transparentes decidieran quién obtendría un empleo, se le concedería el estatus de refugiado o recibiría prestaciones sociales. En 2022, había ejemplos de que la IA estaba perjudicando activamente a las personas. En un escándalo en los Países Bajos, las decisiones tomadas por los algoritmos se asociaron a familias separadas a la fuerza de sus hijos, mientras que los alumnos que estudiaban a distancia alegaron que los sistemas de IA los discriminaban por el color de su piel.

Entonces, en noviembre de 2022, OpenAI lanzó ChatGPT, cambiando radicalmente el rumbo del debate. El salto en la flexibilidad y la popularidad de la IA provocó la alarma de algunos expertos, que compararon de manera exagerada la IA con las armas nucleares.

Esa discusión se manifestó, en las negociaciones de la Ley de Inteligencia Artificial en Bruselas sobre si los creadores de los llamados modelos de base (como el que está detrás de ChatGPT, como OpenAI y Google) deben considerarse la raíz de los posibles problemas y regularse en consecuencia, o si las nuevas normas deben centrarse en cambio en las empresas que utilizan esos modelos de base para crear nuevas aplicaciones impulsadas por IA, como chatbots o generadores de imágenes.

Los representantes de la industria europea de la IA generativa expresaron su cautela ante la regulación de los modelos de base, alegando que obstaculizaría la innovación entre las startups del bloque. “No podemos regular un motor sin uso”, manifestó el mes pasado Arthur Mensch, CEO de la compañía francesa de IA Mistral. “No regulamos el lenguaje C [de programación] porque se puede utilizar para desarrollar malware. En lugar de eso, prohibimos el malware”. El modelo de base 7B de Mistral quedaría exento, en virtud de las reglas acordadas porque la empresa aún se encuentra en fase de investigación y desarrollo, indicó Carme Artigas, secretaria de Estado de Digitalización e Inteligencia Artificial de España, en la conferencia de prensa.

Lo que no contempla la nueva Ley de Inteligencia Artificial de la UE

El principal punto de desacuerdo durante las conversaciones finales, que se prolongaron hasta altas horas de la noche dos veces la semana pasada, fue si se debe permitir a las fuerzas del orden usar el reconocimiento facial u otros tipos de biometría para identificar a las personas, ya sea en tiempo real o retrospectivamente. “Ambos acaban con el anonimato en los espacios públicos”, opina Daniel Leufer, analista principal de políticas del grupo de derechos digitales Access Now. Explica que la identificación biométrica en tiempo real permite reconocer a alguien que se encuentra en una estación de tren en ese momento, utilizando imágenes de las cámaras de seguridad en vivo, mientras que la identificación biométrica “a posteriori” o retrospectiva sirve para determinar, empleando imágenes o videos almacenados previamente, que la misma persona visitó ayer también la estación de tren, un banco y un supermercado.

Leufer se mostró decepcionado por las “lagunas” para los cuerpos de seguridad, que parecían haberse incorporado a la versión de la ley que concluyó el viernes.

La lenta respuesta de los reguladores europeos a la aparición de la era de las redes sociales se cernió sobre los debates. Transcurrieron casi 20 años entre el lanzamiento de Facebook y la aprobación de la Ley de Servicios Digitales, la normativa de la UE diseñada para proteger los derechos humanos en internet, que entró en vigor este año. En ese tiempo, el bloque se vio obligado a lidiar con los problemas creados por las plataformas digitales de Estados Unidos, mientras era incapaz de impulsar a sus retadores europeos más pequeños. “Quizá pudimos haber prevenido mejor [los problemas] con una regulación más temprana”, declaró a WIRED en julio Brando Benifei, uno de los dos principales negociadores del Parlamento Europeo. La tecnología de la IA avanza rápidamente. Pero aún pasarán muchos años hasta que se pueda decir si la Ley de Inteligencia Artificial tiene más éxito en la contención de los inconvenientes de la última exportación de Silicon Valley.