Por qué es poco probable que la IA acabe con la humanidad con armas biológicas

“Hoy en día, es imposible que la IA acceda a un laboratorio completamente autónomo y construya un virus de manera autónoma porque todavía no existen laboratorios completamente autónomos”, dice Olivia Scharfman, becaria de biotecnología en el grupo de expertos en tecnología Institute for Progress. “Pero creo que una IA podría pagarle a alguien para que lo haga por ellos”.

Piensa que el bioterrorismo asistido por IA es una amenaza inmediata y que algunos grupos podrían ser lo suficientemente nihilistas como para hacerlo, incluidos los “sucesionistas transhumanistas de la IA”, personas que aceptan una ideología marginal que espera reemplazar a los humanos con robots.

Otros expertos no están tan preocupados por una arma biológica de IA porque no creen que la guerra biológica tenga mucho sentido metodológico. “Los riesgos tienden a ser un tanto mal entendidos”, le dice a WIRED el biólogo genético y profesor de biología computacional Francois Belloux, señalando que la gente tiende a “sobreestimar el valor de los patógenos como armas”.

Dejando a un lado al AGI en todo esto, Belloux dice que las armas biológicas simplemente no son una opción particularmente atractiva para los aspirantes a genocidas, especialmente porque es difícil apuntar a ciertos grupos y abastecer a otros, y la producción y distribución en masa de patógenos es logísticamente complicada para, por ejemplo, lanzar una bomba. “Si quieres matar gente, hay muchas, muchas mejores maneras de matarlas que tratar de diseñar algún virus o bacteria y luego liberarlo”, dijo, ya seas la inteligencia artificial más sofisticada jamás creada o simplemente una persona normal.

Ahora que la IA pone de relieve la amenaza de las armas biológicas, Scharfman dice que este es el momento adecuado para impulsar una mejor protección contra todas las amenazas biológicas, incluidos los patógenos existentes como el H1N1. Esto puede incluir acciones de alto nivel, como aprobar legislación para mejorar los protocolos de seguridad en torno a la tecnología de síntesis de ADN, pero también aboga por cambios para reducir el riesgo de todos los virus, como mejorar los sistemas de purificación del aire en los edificios.

Si la IA aumenta o no el riesgo de desarrollo de armas biológicas es una pregunta difícil de responder, dijo Steph Guerra, directora de IA y biología de Rand Corporation, un grupo de expertos en políticas. “Las IA han demostrado ser muy buenas para integrar información y motivación para que las personas hagan cosas buenas y malas”, dijo.

Incluso si el riesgo es bajo, dice Guerra, todavía hay formas en que la sociedad puede protegerse contra un posible uso indebido. Una es que los gobiernos pueden aprobar leyes que exijan a las empresas que venden ADN y ARN sintéticos examinar a los clientes y ordenar prevenir el uso indebido del material genético. Muchas empresas ya utilizan software para filtrar pedidos de las llamadas “secuencias de preocupación”, pero la práctica no es universal ni obligatoria.

Sin embargo, antes de que un mal actor pueda llegar a ese punto, casi todo el mundo está de acuerdo en que los modelos deben contar con salvaguardias apropiadas para que no proporcionen información dañina y procesable.

Guerra dice que el riesgo de una amenaza desarrollada por la IA también puede mitigarse fortaleciendo los sistemas de vigilancia global para detectar brotes de nuevas enfermedades y patógenos circulantes para los investigadores lo antes posible. Dice que los protocolos de intercambio de datos entre empresas de inteligencia artificial, proveedores de síntesis de genes y el gobierno también podrían ayudar a prevenir el uso indebido.

“Con casi cualquier control de bioseguridad, habrá formas de eludirlo”, afirmó. “Es por eso que necesitamos enfoques estratificados que proporcionen fricción en todo el camino, desde la idea hasta la intención de un mal actor y el lanzamiento de un arma biológica”.

Unutmaz dice que hay una preocupación aún más apremiante: que todo lo que se habla sobre la fatalidad de la IA distraiga la atención de cómo los sistemas de vanguardia pueden ayudar a los humanos en el desarrollo de vacunas y otras herramientas médicas.

“Realmente necesitamos centrarnos en los aspectos positivos”, afirmó.