Algunas de las empresas que estarán bajo escrutinio son Google, Microsoft y OpenaAI, las cuales han liderado los desarrollos de IA en los últimos meses. Durante la evaluación, estas compañías abrirán el código de sus programas, como ChatGPT, para que los miles de hackers busquen vulnerabilidades o formas de eludir los mecanismos de seguridad de las herramientas.
Este tipo de iniciativas son conocidas como “hackeo ético”, pues se ponen a prueba los sistemas de seguridad de las empresas bajo su consentimiento y tienen el propósito de identificar brechas para reportarlas y solucionaras antes de que un ente malicioso pueda aprovecharse de ellas.
De acuerdo con Sven Cattel, experto en ciberseguridad y uno de los organizadores de la iniciativa, “esto es algo que creo que la industria debe hacer por su propio bien”, comentó en una entrevista reciente.
Por otra parte, Beau Woods, quien ha trabajado en otras iniciativas de la DefCon para poner a prueba otro tipo de sistemas, resaltó que una evaluación pública de esta magnitud podría transparentar el funcionamiento de la Inteligencia Artificial.
