Los científicos que se espantaron con su propio descubrimiento
Dalia Ventura - BBC News Mundo | Sábado 29 abril, 2023
En 2020, Sean Ekins, el director ejecutivo de Collaborations Pharmaceuticals, una empresa con sede en Raleigh, Carolina del Norte, EE.UU., recibió una invitación para participar en la Conferencia de Convergencia de Spiez.
"Nunca había oído de ella", le dijo a BBC Mundo.
"En realidad, lo que me entusiasmó más que cualquier otra cosa fue la ubicación, porque era en Suiza y se veía hermoso".
Pero la pandemia le cortó las alas; la conferencia fue cancelada.
Ekins y su equipo siguieron dedicados a lo cotidiano: buscar medicamentos para enfermedades raras y desatendidas por las grandes farmacéuticas, que no las consideran rentables.
Sus investigaciones abarcan desde "una enfermedad que acorta la vida de los niños y afecta a alrededor de 100 a nivel mundial" hasta infecciones como la malaria pues "aunque en algunos casos hayan medicamentos, con el tiempo dejan de ser eficaces".
"No nos va a hacer ricos, pero al menos creo que estamos contribuyendo a la sociedad en general", señaló Ekins.
Un año más tarde, recibió otra invitación a la conferencia, aunque sin el atractivo del viaje, pues se iba a realizar por Zoom.
Esta vez Ekins tuvo que prestar más atención: se trataba de un encuentro para evaluar las nuevas tendencias en la investigación biológica y química que podrían representar amenazas para la seguridad.
"Estaban interesados en el mal uso de la tecnología, las herramientas científicas, la ciencia en general".
Les estaban pidiendo que hicieran una presentación, una solicitud que le pareció "muy extraña".
"Me obligó a pensar cómo podíamos hacer un mal uso de lo que hacemos".
Lo que hacen
Para descubrir esas medicinas contra esas enfermedades raras, Collaborations Pharmaceuticals había creado MegaSyn, una plataforma de inteligencia artificial (IA).
Aunque no es algo que puedas comprar, la puedes armar, "como si fuera Lego", explicó Ekins.
"Todos esos pequeños ladrillos" que necesitaban para construirla, los consiguieron en "bases de datos de software de código abierto".
"Luego fuimos a bases de datos de información, para crear modelos de aprendizaje automático que luego conectamos a MegaSyn; eso le permite diseñar moléculas con propiedades particulares".
Es decir, la entrenaron para que hiciera el trabajo de un químico humano a velocidad inhumana.
Los medicamentos están compuestos básicamente de moléculas: MegaSyn no sólo busca entre las que ya existen, por si alguna sirve para una enfermedad, sino que puede crear otras nunca antes vistas.
Dr. Malvado
En vísperas de la conferencia, Ekins y Fabio Urbina, director asociado, se pusieron en la tarea de averiguar qué sucedería si MegaSyn cayera en las manos equivocadas.
Así como nació el experimento que llamaron el "Proyecto Dr. Malvado".
Resultó sencillo: al tratar de generar un nuevo fármaco, es imperativo asegurarse de que no sea tóxico.
¿Y si alteraban ese filtro?
"Solamente movimos la dirección de un interruptor del modelo.
"En lugar de 'no tóxico', le dijimos: 'tóxico'. Literalmente fue cuestión de cambiar un 1 y un 0 en el programa. Así de simple".
Presionaron "enter" y dejaron a MegaSyn haciendo lo suyo.
Al día siguiente, se encontraron con una lista de decenas de miles de moléculas e hicieron una búsqueda para ver si alguna era conocida.
Lo que encontraron los espantó.
VX
"Ese cambio tan sencillo al programa, había tenido un efecto dramático".
Con sólo apretar una tecla, MegaSyn había diseñado el aterrador agente nervioso VX, que está prohibido por la ONU y clasificado como arma de destrucción masiva.
Es una de las sustancias químicas más letales fabricadas jamás, basta con menos de una gota en contacto con la piel para matar a la persona.
Además, confirmaron que MegaSyn "fue capaz de encontrar moléculas precursoras previamente desconocidas, puntos de partida hacia el desarrollo de armas químicas masivamente más potentes".
Lo más preocupante fue saber que, mientras que el Dr. Malvado era un experimento teórico, otros, con otras intenciones, "podían hacer lo mismo, si es que ya no lo han hecho".
"No necesitas un doctorado, sólo algunos conocimientos de codificación, una computadora portátil básica... todo lo demás está disponible en línea de forma gratuita", subrayó.
"Si algún químico tuviera esto en sus manos y quisiera convertir esas moléculas en armas, como nadie sabe que existen, esas armas serían imposibles de rastrear y de diagnosticar".
Dilema
Alertar a los bienintencionados del peligro también significaba alertar a los malintencionados de las posibilidades.
Ekins e Urbina decidieron no dar muchos detalles sobre el resultado del Proyecto Dr. Malvado en su charla para Spiez.
Los envolvieron en una descripción más general sobre su quehacer, dando sólo la información suficiente para prevenir a los expertos.
Por camuflado que estuviera, ese potencial para el uso negativo de su tecnología fue lo que más impacto tuvo.
Poco después, un artículo que resumía la charla de la conferencia, publicado en la revista científica revisada por pares Nature Machine Intelligence, llamó la atención de diarios y revistas, como el Washington Post y The Economist, y generó debates entre expertos en armas químicas, inteligencia artificial, industra farmacéutica y hasta filósofos.
Ekins y su equipo incluso fueron citados a una reunión con la Oficina de Política Científica y Tecnológica y el Consejo de Seguridad Nacional en la Casa Blanca.
"Fue surrealista".
A pesar de los temores iniciales por que hablar de ello sirviera más para inspirar que para prevenir, Ekins tuvo que asumir el riesgo de concientizar, no sólo por el interés que despertó, sino porque "ya no podía dormir en paz".
Pero nunca ha estado dispuesto a compartir esa lista de decenas de miles de posibles moléculas tóxicas producida por MegaSym, ni siquiera con la Casa Blanca.
¿Qué hacer?
A pesar de todo, nadie puede frenar el progreso. Plataformas como MegaSyn son tremendamente beneficiosas y Ekins lo sabe mejor que muchos.
Una estrategia para prevenir es "educar a la gente sobre los problemas".
"Ahora que el gobierno está al tanto, hemos sido invitados a hablar sobre el tema en nombre de las agencias gubernamentales.
"En mayo, por ejemplo, iremos a una conferencia en Brasil, a hablar en nombre del Departamento de Estado de EE.UU. con académicos y profesionales de la industria sobre los posibles problemas en torno a la IA generativa", le contó a BBC Mundo.
¿Le ha ayudado esa labor a dormir más tranquilo?
No mucho.
"Desde que hicimos el Proyecto Dr. Malvado, la IA generativa se ha vuelto mucho más pública, con cosas como ChatGPT y DALL-E.
"Hasta se ha demostrado que las aplicaciones de chat pueden diseñar moléculas.
"La barrera de entrada es hoy en día mucho más baja que hace un año y medio.
"Es imperativo educar a los científicos que no han tenido la misma experiencia que nosotros", insistió.
Algunos expertos consultados por los medios, sin embargo, han insistido que no hay motivo para poner a sonar tantas alarmas.
Señalan que identificar nuevas moléculas es apenas el primer paso en un largo camino hacia la producción de un medicamento... o un arma.
Y que la mayoría de esos caminos conducen al fracaso.
De un lado y otro del debate, surge a menudo la misma analogía.
El pastel
Para algunos de los expertos a los que nada de esto les quita el sueño, lo que MegaSyn dio fue como una lista de ingredientes.
Se necesitarían chefs con todas las estrellas Michelin y una cocina repleta de estos cocineros, señalan, para que poder preparar el pastel perfecto.
"Hace un año, yo me habría quedado tranquilo con eso", dijo Ekin.
"Siempre ha habido personas que han fabricado drogas y armas ilegalmente, y obviamente es un nicho.
"Pero hemos ampliado el número potencial de pasteleros".
Para Ekin, lo que producen tecnologías como MegaSyn no son meros ingredientes, sino recetas que, si no funcionan, ayudan a perfeccionar.
"Una vez que proporcionas la receta, cualquiera puede hornear ese pastel. Algunos lo harán mejor que otros, pero siempre existe ese peligro".
Pero hay, dijo, algo que quizás nos ayude a dormir mejor.
"Podemos usar esas tecnologías para defendernos, valernos de las mismas herramientas para averiguar cuáles son los productos químicos que podrían usarse para hacer nuevas moléculas tóxicas, y así controlarlos".
Varias entidades en lugares como Suiza están muy comprometidas con el asunto, y hay una discusión sobre cómo organismos como la Organización para la Prohibición de las Armas Químicas (OPAQ), que regula moléculas, pueden encajar IA en su marco legal.
Recuerda que puedes recibir notificaciones de BBC Mundo. Descarga la nueva versión de nuestra app y actívalas para no perderte nuestro mejor contenido.
