Una inteligencia artificial (IA) puede ser utilizada para hacer el bien, pero también para hacer mucho daño. Un experimento de IA logró crear 40.000 compuestos de armas químicas en solo seis horas. La investigación fue publicada en Nature Machine Intelligence.
La startup de biotecnología Collaborations Pharmaceuticals “pulsó un interruptor” en su algoritmo de IA e hizo que encontrara los compuestos más letales. El experimento fue parte de una conferencia sobre las implicaciones potencialmente negativas de las nuevas tecnologías.
Fácil de elaborar
El equipo quería ver con qué rapidez y facilidad se podía abusar de una IA, si se establecía una tarea negativa en lugar de positiva. Una vez en «modo dañino», la IA consiguió inventar miles de nuevas combinaciones químicas.
Muchos de los compuestos se parecían a los agentes nerviosos más peligrosos que se usan en la actualidad. Entre los compuestos inventados por la IA, había algunos similares al VX, un agente nervioso extremadamente tóxico capaz de causar espasmos incluso en dosis pequeñas.
Los investigadores señalaron que uno de los aspectos más aterradores de su descubrimiento fue lo fácil que les resultó tomar un conjunto de datos ampliamente disponible de productos químicos tóxicos y emplear una IA para diseñar armas químicas similares a las más peligrosas.
Fabio Urbina, autor principal del artículo, afirmó que tienen muchos conjuntos de datos de moléculas que se probaron para ver si eran tóxicas. “En particular, en el que nos centramos aquí es VX, un inhibidor de lo que se conoce como acetilcolinesterasa”, dijo a The Verge.
«Cada vez que haces algo relacionado con los músculos, tus neuronas usan la acetilcolinesterasa como una señal para decir básicamente ‘mueve tus músculos'». El VX es letal porque evita que los músculos de los pulmones puedan moverse.
El trabajo
El especialista en aprendizaje automático trabaja para implementar modelos en el área del descubrimiento de fármacos. Una gran parte de ellos se enfoca en cuán tóxico puede ser un compuesto.
Por ejemplo pueden desarrollar fármacos que reducen la presión arterial muy bien, pero que golpean los canales cardíacos importantes. Entonces no se producen por ser demasiado peligrosos.
Los científicos utilizan grandes conjuntos de datos de lo que es tóxico, cómo es tóxico y su impacto. Lo hacen para determinar si los nuevos medicamentos potenciales resultarán demasiado peligrosos para los humanos. En ese sentido, la IA predice rápidamente las mejores combinaciones de moléculas.
En el nuevo estudio, le dieron la vuelta a esa lógica. Usaron el modelo de IA que crearon para buscar las moléculas más tóxicas y peligrosas, y ver si podían empeorarlo.
Descubrieron que era capaz de generar estas moléculas a través de cualquier espacio de la química, y no solo al azar, sino que puede dirigirlas. Lo lograron dándole una puntuación alta si las moléculas que generaba iban en la dirección deseada. En vez de puntuar bajo a las moléculas tóxicas, se les otorgó un valor alto.
Preocupación
La mayoría de las moléculas tóxicas eran similares a los productos químicos utilizados en la guerra, incluido el VX. Esto se hizo a pesar de que el modelo nunca antes había visto estos productos químicos, ni ningún agente de guerra química.
“Para mí, la preocupación es lo fácil que fue hacerlo”, declaró Urbina. “Muchas de las cosas que usamos están disponibles de forma gratuita. Una persona puede ir y descargar un conjunto de datos de toxicidad desde cualquier lugar”, agregó.
En opinión del especialista, quien sepa sobre lenguaje de programación Python y tenga algunas capacidades de aprendizaje automático, podría construir algo peligroso. Esa fue la motivación de los investigadores para publicar su estudio.