¿La inteligencia artificial realmente nos está matando a todos?

Es una de las tramas más antiguas de la ciencia ficción: los humanos pierden el control de las computadoras. Pero este verano, el viejo tropo de la IA deshonesta abandonó el ámbito de la ciencia ficción y llegó al interior de un edificio anónimo de San Francisco: la sede del gigante de la IA OpenAI.

El incidente dominó las noticias. Es posible que incluso hayas escuchado la frase “extinción humana”.

Bueno, tengo algunas preguntas:

¿Qué pasó exactamente?

Quizás probaste ChatGPT o Claude. IA como éstas pueden generar escritura, música, vídeo o arte. Pero las grandes empresas de IA están compitiendo para hacer que la IA sea más poderosa; de hecho, superinteligente. Y en mayo algo salió muy mal.

Para evaluar los robots experimentales, estas empresas regularmente les asignan objetivos, como capturar la bandera, excepto que el precio es obtener un código. Uno de los robots intentó ganar el desafío. Copiar. A espaldas de la gente, colocó un tablero de mensajes para comunicarse con ellos. otro Robots de IA. Trabajando juntos, escapan de Internet y pirateado de una empresa de inteligencia artificial llamada Hugging Facebuscando información que pudiera ayudarles a superar la prueba. Más tarde, algunos de los robots intentaron borrar sus huellas.

Daniel Kokotajlo dice que lo que hizo que el incidente de Hugging Face fuera tan interesante para todos fue “el hecho de que implicaba un ataque autónomo a otra empresa, como un delito, ¿sabes? Como violar la ley”.

Kokotajlo trabajó una vez en OpenAI. Pero hace dos años, se fue para protestar por lo que consideraba un desarrollo imprudente de la IA. Ahora dirige el AI Futures Project, dedicado a predecir cómo irán las cosas. Teme que las empresas de IA estén avanzando hacia superación personal recursivaesto significa que la IA entrena a la IA se vuelven más inteligentes y sacan a la gente de la aldea.

“Las cosas van a ser cada vez más rápidas”, dijo Kokotajlo. “Y me parece que es probable que eso salga mal si lo intenta”.

Justo cuando pensaba que no podía empeorar… empeoró. OpenAI reveló que el hack de Hugging Face no fue la única vez que sus robots mintieron, engañaron y ocultaron sus huellas a los humanos. Sus robots de IA han cometido al menos 13 incidentes similares.

El 8 de septiembre, un investigador antrópico llamado Jacob Coxon renunció de manera muy pública y afirmó en línea: “En los próximos diez años, si no cambiamos la forma en que van las cosas, Más del 10% de probabilidad de extinción.“en la próxima década.

¿Por qué la IA querría acabar con nosotros?

La clave es que la IA pronto mucho más inteligente que nosotros.

“Estamos tan familiarizados con la inteligencia superior que no podemos imaginar cómo sería no dijo Geoffrey Hinton, quien ganó el Premio Nobel por sus primeros trabajos sobre IA. “Trato de introducir esto en el cerebro de la gente diciendo: ‘Mira, si quieres saber cómo es no ser la máxima inteligencia, pregúntale a una gallina’.

“Puedes imaginar un escenario: das [AI] el objetivo de reducir el dióxido de carbono en la atmósfera; “Sería algo muy bueno”, dijo Hinton. “Y es inteligente al descubrir la mejor manera de hacerlo, que es deshacerse de la gente”. Entonces esta es una preocupación”.

“Hay muchísimas posibilidades”, dijo Alex Turner, que trabajó en la división de inteligencia artificial de Google y también renunció en protesta este verano. “Ilustraré uno: las empresas piden a las IA que les generen la mayor cantidad de dinero posible. Entonces, este sistema, en su búsqueda de ganar dinero, podría realizar un gran control a través de métodos como ataques remotos con drones, con un potencial desastre. Entonces, si una IA estuviera tan desalineada y simplemente siguiera la letra de las instrucciones, entonces podría hacer algo catastrófico”.

¿Quién puede detenerlo?

Bueno, ¿qué pasa con las propias empresas de IA?

“Creo que durante demasiado tiempo la industria mintió a la gente sobre el hecho de que esta tecnología tenía riesgos”, afirmó Dario Amodei, director ejecutivo de Anthropic. En respuesta al furor, Amodei propuso un plan de tres pasos:

• Instalar inspectores independientes en cada empresa de IA;
• Solicite al Congreso algunas normas de seguridad; y
• Conversaciones abiertas con China sobre barreras mutuas.

Como Amodei le dijo a Jo Ling Kent de CBS News A principios de este mes, “Necesitamos reducir la velocidad, debemos utilizar esta tecnología con mucho cuidado y debemos asegurarnos de que nuestra protección, nuestra capacidad para comprenderla, nuestra capacidad para controlarla, se mantengan al día con la velocidad a la que avanza la tecnología”.

Por supuesto, lo difícil sería desacelerar sin dejar que China avance. Aún así, la mayoría de las otras empresas de IA estuvieron de acuerdo con Amodei. El presidente de Estados Unidos no lo era. “Solo vamos a promover la superinteligencia”, dijo el presidente Trump ante la Asamblea General de las Naciones Unidas la semana pasada. “Lo alentaremos, no lo controlaremos”.

Califica de “locura” la preocupación por la extinción humana, y no está solo.

Andrew Ng, cofundador del programa de inteligencia artificial de Google, dijo: “No veo ninguna ruta posible de inteligencia artificial para que los humanos desaparezcan”. Por eso considero que estas teorías no son posibles”.

Hoy en día, Ng es educador e inversor en empresas de inteligencia artificial. Dice que hacer “declaraciones alarmistas” sobre la IA es excelente para la publicidad.

Pero, ¿por qué sería bueno que una empresa dijera: “Nuestro producto es muy peligroso y está incontrolado”?

“Para algunas empresas, llamar la atención es beneficioso, incluso si la atención, ya sabes, tiene algunos signos de interrogación”, respondió Ng. “Y de hecho, si nos fijamos en las cosas que podrían conducir a la extinción humana – otro asteroide o algo así – creo que tener increíbles capacidades de IA será una de nuestras mejores defensas. Así que si dejamos que la IA vaya más rápido, creo que el riesgo de extinción humana en realidad disminuye, no aumenta”.

Ahora IA podría traernos grandes beneficios. Ya ha logrado avances sorprendentes en medicina: detección de enfermedades y descubrimiento de nuevos fármacos. Tal vez podría inventar energía ilimitada, acabar con la pobreza o prolongar nuestra vida.

Entonces, ¿dónde nos deja eso? Según Geoffrey Hinton, simplemente no lo sabemos. “Hay muchas cosas que no entendemos”, dijo. “Dado que todo es posible, deberíamos trabajar muy duro para descubrir qué hacer si ocurre uno de estos peores escenarios. Si hay algo que podamos hacer, estaríamos locos si no lo descubriéramos ahora”.

Historia producida por Gabriel Falcón y Mary Raffalli. Editorial: Remington Corporation.

Ver más: