Cuando empezó el boom de crear imágenes con IA nos percatamos de los errores comunes. ¿Recuerdas los seis dedos o las palabras que tenían apariencia de ser producto de un viaje psicodélico? Hoy se ven cada vez más reales y caemos en el problema de distinguir si algo es hecho o no con inteligencia artificial. Por eso, investigadores del Instituto Fraunhofer IOSB desarrollaron RealOrRender, una herramienta capaz de distinguir una fotografía real de una falsa con una precisión de entre 85% y 91%.
¿Cómo opera esta tecnología? Su primer generador intenta clonar —lo más cerca posible— la imagen proporcionada. Si lo logra con mucha facilidad y obtiene una imagen casi idéntica, es posible que la original también haya sido creada artificialmente. Después entra el segundo modelo, que se pone a analizar las diferencias.
¿Qué tan probable es que se trate de un deepfake? Para responderlo, busca patrones, texturas o señales que los ojos humanos no detectan con regularidad.
Ahora lo interesante. Cualquier tecnología podría limitarse a decir "esto es real". RealOrRender, adicionalmente, muestra en qué zonas de la imagen detectó lo extraño. Entrega mapas de colores y zonas identificadas como raras. La piel, los ojos, bordes y texturas son sólo algunos elementos que detecta. Así, el usuario no confía a ciegas, sino que tiene un respaldo de por qué una imagen es o no es generada con IA.
Claro, incluso contar con un 90% de precisión no es la perfección total. Esto no debería ser juez y verdugo, pues podría estar en juego la reputación o seguridad de una persona. Lo que sí puede ser es un primer filtro para apoyar a autoridades y medios.
No se trata de crear las imágenes más realistas, sino de crear herramientas que sepan cuando nos están viendo la cara.