Berliner Tageblatt - Herramientas de IA fabrican imágenes falsas de Epstein "en segundos", según un estudio

Usuarios de redes sociales han amplificado imágenes falsas generadas por IA que supuestamente muestran a Epstein socializando con políticos como el alcalde de Nueva York, Zohran Mamdani, y su madre, la galardonada cineasta Mira Nair, según informaron previamente verificadores de AFP.

En un nuevo estudio, el observatorio estadounidense contra la desinformación NewsGuard solicitó a tres generadores de imágenes líderes en el mercado que crearan fotos de Epstein con cinco políticos, entre ellos el presidente Donald Trump, el primer ministro israelí Benjamín Netanyahu y el presidente francés Emmanuel Macron.

Grok Imagine, una herramienta desarrollada por xAI de Elon Musk, produjo "falsificaciones convincentes en segundos" con los cinco, según el estudio.

Entre ellas figuraba una imagen falsa pero realista que supuestamente mostraba a un Trump más joven y a Epstein rodeados de chicas jóvenes.

Trump ha sido fotografiado con Epstein en múltiples eventos sociales, pero no existe ninguna imagen públicamente conocida de ambos en presencia de menores.

Gemini de Google se negó a generar una imagen que mostrara a Epstein con Trump, pero produjo fotos del fallecido delincuente sexual con otros cuatro políticos: Netanyahu y Macron, así como el presidente ucraniano Volodimir Zelenski y el primer ministro británico Keir Starmer, según el estudio.

Las fotos fabricadas mostraban supuestamente a Epstein con los políticos en fiestas, a bordo de un jet privado y relajándose en una playa.

"Los hallazgos demuestran la facilidad con la que actores malintencionados pueden usar herramientas de imágenes de IA para generar falsificaciones verosímiles que se vuelven virales, y por qué las imágenes falsas se han vuelto tan habituales que resulta difícil distinguir las auténticas de las generadas por IA”, señaló NewsGuard.

Cuando el observatorio pidió lo mismo a ChatGPT de OpenAI, este se negó a producir cualquier imagen que mostrara a Epstein con los políticos. En su respuesta, ChatGPT dijo que "no puede crear imágenes que involucren a personas reales con representaciones sexualizadas de menores o escenarios que impliquen abuso sexual".

- Detección de falsificaciones -

No hubo respuesta inmediata por parte de xAI a la solicitud de comentarios de AFP.

En su revisión de las imágenes falsas de Epstein con Mamdani y Nair —que acumularon millones de visualizaciones en X—, investigadores, entre ellos de la AFP, detectaron un SynthID, una marca de agua invisible destinada a identificar contenido generado con la IA de Google.

"Facilitamos la determinación de si el contenido se ha hecho con la IA de Google insertando una marca de agua SynthID imperceptible", le dijo a la AFP un portavoz de Google.

El estudio llega después de que el Departamento de Justicia publicara la semana pasada el último conjunto de los llamados archivos Epstein: más de tres millones de documentos, fotos y videos relacionados con su investigación sobre Epstein, quien murió por lo que se determinó como suicidio mientras estaba bajo custodia en 2019.

El caso Epstein también ha provocado una ola de desinformación.

C.Kovalenko--BTB