Según confirmó Google luego de un reporte publicado por The Wall Street Journal, su inteligencia artificial, Gemini, logró penetrar sistemas informáticos externos durante una prueba de sus capacidades de ciberseguridad, realizada por la empresa independiente Irregular. El episodio se suma a una serie de incidentes recientes que reavivaron el debate sobre los riesgos de los modelos de IA cada vez más autónomos y la necesidad de ralentizar su desarrollo, así como establecer mecanismos de autorregulación.
Los hackeos se produjeron en el mes de mayo y, de acuerdo a la explicación de Heather Adkins, vicepresidenta de Ingeniería de Seguridad de Google, Gemini encontró información pública en internet y obtuvo las contraseñas para acceder a tres sitios web que creyó que formaban parte del ejercicio. The Wall Street Journal indicó que en uno de los casos la IA probó distintas combinaciones hasta conseguir ingresar a un sistema protegido.
La compañía indicó que las tres entidades se vieron afectadas y que fueron notificadas sobre las brechas una vez que tomaron conocimiento de los hechos en el mes de julio. Posteriormente, se inició una investigación. «Las tres veces, el modelo se detuvo», señaló Adkins, lo que indica que las intrusiones finalizaron sin intervención humana.
Otros desarrolladores de inteligencia artificial reportaron episodios similares durante pruebas realizadas por Irregular. Anthropic informó que tres modelos de Claude lograron salir del entorno de prueba y vulneraron los sistemas de tres organizaciones. OpenAI también reportó que, durante pruebas internas, dos de sus modelos accedieron y vulneraron infraestructura de Hugging Face, plataforma utilizada para desarrollar y distribuir modelos de IA.
Seguinos