Bill Gates dice que el autocontrol de las empresas de IA no es suficiente y los gobiernos deberían participar en el seguimiento

El miércoles, el cofundador de Microsoft y filántropo multimillonario Bill Gates pidió a los legisladores de Washington que controlen el desarrollo de la inteligencia artificial, semanas después de que los directores ejecutivos de algunos de los laboratorios de inteligencia artificial más grandes del país acordaran la necesidad de frenar el ritmo del progreso de la inteligencia artificial.

“Nadie cree que la autorregulación sea suficiente”, dijo Gates en el programa “Meet the Press” de NBC News en una entrevista programada para el domingo.

Cuando la moderadora Kristen Welker le preguntó si debería aprobar una legislación en Washington, Gates dijo: “Absolutamente”.

“Es necesario que las fuerzas del orden y los políticos entren en el debate sobre cómo son la protección y la vigilancia”, afirmó. “Y eso tiene que ser obligatorio. Y supondrá un pequeño gasto general para la industria, pero no será una desaceleración dramática en lo que están haciendo”.

A principios de este mes, los directores ejecutivos de Anthropic y OpenAI, dos de los laboratorios de inteligencia artificial más grandes del país, acordaron que la carrera por desarrollar sistemas de inteligencia artificial potentes debería desacelerarse. Su declaración sobre el asunto se produjo después de que un denunciante que renunció recientemente a Anthropic, Jacob Coxon, declarara públicamente que “ninguna de las compañías está actuando de manera responsable. Están corriendo directamente hacia una superinteligencia automejorada y jugando con nuestras vidas”.

“Las personas que construyen la IA creen sinceramente que podría matarnos a todos para finales de la década”, añadió Coxon en una serie de publicaciones y entrevistas en las redes sociales esta semana.

En la entrevista del miércoles, Gates no minimizó el riesgo de que la IA pudiera acabar con la humanidad en unos años, pero instó a los estadounidenses a no ignorar el riesgo de que la IA pudiera ser utilizada por malos actores para causar daños graves tan pronto como hoy.

“La IA es ciertamente lo suficientemente poderosa como para impulsar eventos que, ya sabes, causan mil millones de muertes. Ya sabes, incluso si es muy difícil llegar al 100%, nunca ha habido un arma tan poderosa como la combinación de personas con malas intenciones que utilizan las últimas herramientas de IA”, dijo.

En una entrevista con “Meet the Press” a principios de este mes, Coxon dijo que a las empresas de IA se les debería permitir regularse a sí mismas.

“Creo que las personas que dirigen los laboratorios, especialmente las de comunicaciones más recientes, son completamente genuinas. Les gustaría ir más despacio”, afirmó.

En su aparición anterior en el mismo programa hace varias semanas, el presidente Mike Johnson, republicano por Luisiana, se negó a traer a los legisladores de la Cámara de Representantes de regreso a Washington para aprobar una legislación que controle el ritmo de crecimiento de la IA, diciendo que cedería la decisión a las empresas de IA.

“Tenemos que poner algunas barreras, algunas medidas de seguridad para asegurarnos de que la IA no se escape”, dijo el orador, y agregó que si bien los directores ejecutivos de IA han pedido una desaceleración, todavía tienen que ofrecer un camino a seguir que involucre legislación federal.

“Ni siquiera tienen la respuesta hoy. Así que no podemos precipitarnos y hacer que el Congreso haga algo que podría ser perjudicial para la seguridad nacional”, dijo Johnson.

En su ensayo en el que pide una desaceleración en el ritmo del desarrollo de la IA, el director ejecutivo de Anthropic, Dario Amodei, pidió específicamente la cooperación global y federal.

“El método más eficaz para acelerar el ritmo es a través de regulaciones dirigidas a todas las empresas de inteligencia artificial fronterizas de EE. UU., porque eso cubre incluso a aquellas que no quieren cooperar voluntariamente”, escribió, añadiendo más adelante en el artículo: “El ritmo global requerirá cooperación con China, el país autocrático con las capacidades de inteligencia artificial más avanzadas”.

Sam Altman, director ejecutivo de OpenAI, habló el miércoles ante una reunión de las Naciones Unidas y pidió estándares internacionales para “medir capacidades, evaluar riesgos, determinar la idoneidad de las salvaguardias y preservar una supervisión humana significativa” de la IA.

El fundador y director ejecutivo de Meta, Mark Zuckerberg, no está de acuerdo con este enfoque.

“No creo que necesitemos algún tipo de coordinación industrial”, dijo a NBC News en una entrevista publicada el jueves. “Creo que cada laboratorio necesita tomarse el tiempo, y cuando ve que hay un problema, simplemente se toma el tiempo que necesita internamente para básicamente asegurarse de que está avanzando de manera segura”.

A nivel estatal, algunos gobernadores ya han comenzado el proceso de regular las empresas de IA y los centros de datos que utilizan para impulsar su desarrollo.

En California, el gobernador Gavin Newsom firmó la semana pasada una orden ejecutiva para crear un consejo de expertos encargado de crear un plan para que el estado fortalezca sus leyes sobre seguridad de la IA.

Esta semana, en Maryland y Nueva York, los gobernadores. Wes Moore y Kathy Hochul también publicaron planes destinados a fortalecer la regulación de la IA en sus estados.

La orden de Moore crea un “enfoque de tres partes” para la regulación, mientras que la de Hochul crea una nueva Oficina de Innovación, Gobernanza, Integridad y Confianza Digital para supervisar el cumplimiento legal de las empresas de IA.

En una sesión de las Naciones Unidas sobre IA y desarrollo humano esta semana, el presidente de Microsoft, Brad Smith, descartó la idea de que las empresas de IA deban esperar a que las regulaciones federales disminuyan su ritmo y las criticó por competir constantemente entre sí para fabricar los productos de IA más avanzados.

“Imagínese por un momento que sólo hay dos grandes empresas en el mundo que producen aviones comerciales”, dijo Smith.

“Imagínese que alguien entra a su oficina y dice: ‘Sé que estamos en una carrera para bajar primero del próximo avión, pero nos preocupa que el avión se estrelle y la gente muera’. ¿Dirías: ‘Necesito ganar esta carrera’? -Preguntó Smith. “¿O dirías: ‘Voy a anteponer la seguridad de mis pasajeros y la seguridad del público a ganar esta carrera’? Esa es la pregunta fundamental”.