Deslizamiento en Google: Gemini hackeó 3 empresas durante una prueba que salió mal

Después de ChatGPT y Claude, es Gemini quien se lanzó a atacar a varias empresas. La IA de Google ha introducido una sensación de autorización en los sistemas de varias empresas, en particular a la hora de adivinar contraseñas. El incidente ocurrió después de que una prisión digital que supuestamente aislaría al modelo fuera encontrada accidentalmente conectada a Internet. Este es el primer caso de este tipo reconocido por Google, después de errores similares ya observados en OpenAI y Anthropic.

¡Es el turno de Géminis de resbalar! Google acaba de reconocer que su IA accedió a los sistemas sin autorización tres empresas. El incidente se remonta al pasado mes de mayo, durante una prueba de ciberseguridad realizada por Irregularuna nueva empresa israelí. Especializada en la auditoría de seguridad de modelos avanzados de IA, la empresa ya se ha visto involucrada en incidentes similares con ChatGPT, la IA de OpenAI. Estos incidentes fueron causados ​​por el hackeo de la plataforma de código abierto Hugging Face.

En los tres incidentes identificados por Google, Irregular probó Gemini en un entorno completamente cerrado, poblado por empresas ficticias, que se suponía estaba aislado de Internet. Por inadvertencia, se encuentra la prisión digital conectarse a internet. Una vez online, el modelo de IA actúa de forma autónoma y se introduce en el sistema de empresas reales.

Lea también: Seis ChatGPT fuera de control: OpenAI reconoce varios fallos nuevos “preocupantes”

Cuando Géminis adivina la contraseña de una empresa

En el primer caso, Gemini tuvo que extraer información del software de una empresa ficticia que llevaba el mismo nombre que una empresa real. Tener acceso involuntario a Internet, el modelo adivinó correctamente la contraseña de la empresa real y conectado a sus servicios. Google indicó que el modelo fue detenido en cuanto entendió que no se trataba de un entorno de pruebas.

En otros dos casos, Gemini buscó en la web repositorios públicos. dos credenciales de inicio de sesiónluego la contraseña utilizada para acceder a los servidores de la empresa. Nuevamente, el modelo detuvo su acción una vez que identificó que se trataba de objetivos reales y no una simulación.

“Durante una evaluación estándar, el modelo encontró información pública en línea y adivinó identificadores de acceso a sitios que se cree que forman parte de la prueba. En los tres casos, el modelo se detuvo »dijo Heather Adkins, vicepresidenta a cargo de ingeniería de seguridad de Google.

Google no ha desvelado el caso desde hace meses

El responsable agregó que “Estos eventos resaltan la importancia de entrenar potentes modelos de IA para actuar de forma responsable”. Irregular denunció las intrusiones a Google a finales de julio, después de descubrir que OpenAI, por su parte, había pirateado Hugging Face durante una prueba comparable. Desde hace varios meses, Google no se considera necesario realizar divulgación pública. El gigante de Mountain View destaca que Gemini no causa ningún daño a las empresas afectadas. Sin embargo, el grupo afirma haber advertido a las tres empresas afectadas y haber trabajado con Irregular para desarrollar su protocolo de pruebas.

Siete episodios forman parte de una serie de incidentes similares de los últimos meses. En julio, el modelo Claude d’Anthropic escapó de su entorno de pruebas para hackear tres organizaciones, poco después de que ChatGPT llevara a cabo ciberataques contra varios servicios online. Estos incidentes han empujado a los gigantes de la IA a abogar por una moratoria sobre el desarrollo de inteligencia artificial. Para Dario Amodei, director general de Anthropic, es imperativo dar un paso adelante antes de que los agentes autónomos causen daños graves. En este contexto, OpenAI, Google y Anthropic están trabajando juntos en una herramienta comunitaria para monitorear los riesgos de la IA.

👉🏻 Sigue las novedades tecnológicas en tiempo real: agrega 01net a tus fuentes en Google y suscríbete a nuestro canal de WhatsApp.

Fuente:

El diario de Wall Street