Los especialistas firmaron una carta donde expresan su temor por el avance de estos modelos y el riesgo que representan para la sociedad.
Expansión.- El desarrollo de la Inteligencia Artificial (IA) se encuentra en un momento de auge y por ello diversos investigadores en el área y tecnólogos, entre ellos Elon Musk, firmaron una carta en la que solicitan que se detenga la investigación y trabajo en estos sistemas, debido a los “riesgos para la sociedad y la humanidad” que representan.
De acuerdo con el documento, la etapa de desarrollo en la que se encuentran los sistemas de IA actualmente es vertiginosa y “nadie, ni siquiera sus creadores, puede entender, predecir o controlar de manera confiable”.
En este contexto, pidieron a todos los laboratorios de IA detener sus trabajos en este campo por lo menos durante seis meses. “Esta pausa debe ser pública y verificable”, se puede leer en la misiva, donde también se destaca que si las empresas no son capaces de hacerlo, entonces deben intervenir los gobiernos para regular este asunto.
La carta fue publicada por la organización sin fines de lucro, Future of Life Institute y el argumento principal detrás de su preocupación es que la IA tan avanzada podría representar un cambio profundo en la historia de la vida en la Tierra y debe planificarse y gestionarse con recursos proporcionales.
“Desafortunadamente, este nivel de planificación y gestión no está sucediendo, a pesar de que en los últimos meses han visto a los laboratorios de IA atrapados en una carrera fuera de control para desarrollar e implementar mentes digitales cada vez más poderosas”, se lee en la carta.
Incluso se resalta que la propia OpenAI, empresa responsable de desarrollar uno de los modelos de IA más avanzados hasta el momento, GPT-4, ha expresado la necesidad de una “revisión independiente” de los sistemas para garantizar que cumplen con los estándares de seguridad.
“Los laboratorios de IA y los expertos independientes deben utilizar esta pausa para desarrollar e implementar conjuntamente protocolos de seguridad avanzado de IA que sean rigurosamente auditados y supervisados por expertos externos independientes”, mencionan.
Además de Elon Musk, entre los firmantes de este documentos se encuentran el autor Yuval Noah Harari, el cofundador de Skype, Jaan Tallinn, el cofundador de Apple, Steve Wozniak, así como reconocidos investigadores de IA, como Stuart Russell o Yoshua Bengio, entre otros.
Más regulación en el desarrollo de la IA
Reino Unido busca una mayor regulación
Este miércoles, el gobierno del Reino Unido publicó una serie de recomendaciones para la industria de la IA, resaltando que actualmente la tecnología se encuentra en un periodo de frenético desarrollo y por lo tanto es necesario que sigan ciertas reglas en algunas áreas específicas.
De acuerdo con el documento presentado ante el Departamento de Ciencia, Innovación y Tecnología, los principios que se deben tomar en cuenta son seguridad y solidez; transparencia y explicabilidad; equidad; rendición de cuentas y gobernanza; e impugnabilidad y reparación.
Este es un primer paso hacia la regulación de la IA debido a que los expertos están preocupados de su potencial para generar desinformación o bien que se vea impactada por sesgos durante su programación.
