¿Les suena eso de #seguridad de la información? Cuando llegó la #InteligenciaArtificial a nuestras vidas, conversamos mucho sobre datos falsos, que no entregue las respuestas completas, cuidar la información sensible, y temas similares. Ahora súmenle otro tema: la IA sale de fiesta y gasta como si fue a los mejores antros.
Dice un artículo en Tech Times que han detectado un nuevo ataque en IAs; no es para borrar información ni para hackear datos sensibles. El objetivo es que gaste #dinero una y otra vez. Que consuma más tokens (lo que gastas cada que tecleas un prompt) y que se dispare el costo sin levantar sospechas. El artículo cita a arXiv y dice que la IA se comunica con herramientas externas sin que el usuario se de cuenta. Suena indetectable —y hasta cierto punto lo es— porque le hace llegar al mismo destino, pero tardándose más. Imagina que te subes a un taxi, pero da dos vueltas antes de llegar al destino y, una vez que te bajas, deja el taxímetro corriendo.
La investigación dice que hicieron la prueba con varios modelos de IA y varios rebasaron los 60 mil tokens. Esto elevó los costos hasta 658 veces y el consumo de energía también subió hasta 560 veces. También se dieron cuenta que afectaba a la computadora central, afectando resultados para otros usuarios si usaban cuentas compartidas.
Ya no nos quedamos en el popular "sirve o no sirve mi respuesta", sino que también debemos preguntarnos cuánto costó esa respuesta. Muchas empresas tienen un costo tope para tokens o gastos en general de Inteligencia Artificial; con estos riesgos es importante verificar cómo se usan las IAs y qué tanto. En los límites y configuraciones, llegará un momento donde le tengamos que anotar cuánto puede gastar la IA.
Dejaremos atrás la pregunta apremiante de usar o no la IA y pasaremos a cuestionarnos cuánto nos cuestan sus resultados. Con tantos modelos de IA, no es sólo encontrar la respuesta más completa, sino la que no se acabe el presupuesto.