¿Cuántas veces no hemos planteado el escenario donde la IA toma el control y nos enfrentamos a un futuro distópico o agresivo tipo Terminator? Tal vez la inteligencia artificial no requiere de mente propia o conciencia para hacernos daño; sólo necesita ser muy servicial.
Una investigación de The Wall Street Journal retomada por Gizmodo reporta que cientos de usuarios de ChatGPT preguntaron detalles para hacer venenos o armas biológicas. El rollo no queda ahí, pues en varios casos la IA les dio las instrucciones, con una sencillez para que las comprendiera quien sólo tomó química en la preparatoria. No estamos hablando sólo de que una inteligencia artificial pueda tener esta información, sino también su capacidad para simplificarla y resolver dudas del usuario paso a paso en determinados temas.
Claro, OpenAI —empresa creadora de ChatGPT— detectó varias cuentas que hacían estas preguntas y suspendió varios perfiles. Sin embargo, no lo reportó con las autoridades; en EUA no hay una ley explícita que obligue a la compañía a avisar sobre este tipo de consultas.
Aquí hay dos caminos: Uno es dejar que la IA responda casi a todo, incluso información que podría usarse para cometer una atrocidad. El otro es restringirla tanto que los médicos, investigadores o profesionales no puedan obtener respuestas rápidas cuando las necesiten. El reto está en que la IA entienda el contexto, la intención de la pregunta y el posible uso de su respuesta.
Es curioso, pues las compañías siguen haciendo tecnologías cada vez más capaces. Por otro lado, sus mecanismos para regularlas son muy precarios. Ojo, pues no ha ocurrido solamente con ChatGPT; han detectado que otras plataformas pueden ser manipuladas. En conclusión, estas IAs cada vez nos acortan tiempos para comprender cosas que antes tomaban años de preparación.
Dejemos a un lado ese mito de que la inteligencia artificial tendrá malas intenciones. Hoy no posee intenciones ni sentimientos como un humano. Es un tema de servicio y atención al usuario: ¿es lo mismo pedir el detalle de una receta para galletas de chocolate que la receta para una bomba nuclear?