Fotos falsas y reveladoras de Taylor Swift comenzaron en 4chan, según una investigación

Según un nuevo informe, las fotos de Taylor Swift generadas por IA que se compartieron ampliamente en las redes sociales a finales de enero pueden haber sido parte de un desafío recurrente en uno de los foros de mensajes más populares de Internet.

Graphika, una firma de investigación que investiga la desinformación, rastreó las imágenes en una comunidad en 4chan, un foro de mensajes conocido por compartir discursos de odio, teorías de conspiración y, cada vez más, contenido racista y ofensivo creado con inteligencia artificial.

Las personas en 4chan que crearon imágenes del cantante jugaron un juego similar, dijeron los investigadores: una prueba para ver si podían crear imágenes crudas (y a veces violentas) de figuras femeninas famosas.

Las fotografías sintéticas de Swift aparecieron en otras plataformas y fueron vistas millones de veces. Los fanáticos se unieron en defensa de la Sra. Swift y los legisladores pidieron protecciones más fuertes contra las imágenes generadas por IA.

Graphika encontró un hilo en 4chan que animaba a las personas a intentar eludir las protecciones instaladas por las herramientas generadoras de imágenes, incluidas DALL-E de OpenAI, Design de Microsoft y Image Creator de Bing. Se pidió a los usuarios que compartieran «consejos y trucos para encontrar nuevas formas de evitar los filtros» y se les dijo: «Buena suerte, sean creativos».

Los expertos dicen que compartir contenido inadecuado a través de juegos hace que las personas se sientan conectadas con una comunidad más amplia y se sienten motivadas por el dinero que reciben por participar. Antes de las elecciones de mitad de período de 2022, grupos en plataformas como Telegram, WhatsApp y Truth Social se lanzaron a la caza del fraude electoral, ganando puntos o títulos de honor por presentar pruebas sospechosas de fraude electoral. (La evidencia real de fraude electoral es particularmente rara).

En el hilo de 4chan que condujo a las fotos falsas de la Sra. Swift, muchos usuarios recibieron elogios (“hermosa gen anon”, escribió uno) y se les pidió que compartieran la jerga utilizada para crear las fotos. Un usuario se quejó de que ya había publicado una foto de una celebridad que no estaba desnuda en traje de baño.

Las reglas publicadas por 4chan que se aplican en todo el sitio no prohíben específicamente las imágenes sexualmente explícitas generadas por IA para adultos.

Cristina López G., analista senior de Graphika, dijo: «Estas imágenes provienen de una comunidad de personas que han sido creadas por la ‘amenaza’ de eludir las protecciones de los productos productivos de IA, y las nuevas restricciones se ven como otro obstáculo para «descubrimiento». dijo en un comunicado. «Es importante comprender la naturaleza gamificada de esta actividad maliciosa para evitar un mayor abuso del recurso».

La señora Swift está «lejos de ser la única víctima», dijo López G. En la comunidad de 4chan que manipuló su imagen, muchos actores, cantantes y políticos aparecieron más que la Sra. Swift.

OpenAI dijo en un comunicado que las fotos reveladoras de la Sra. Swift no fueron creadas usando sus herramientas y señaló que filtra el contenido más revelador mientras entrena su modelo DALL-E. La compañía también dijo que utiliza otras salvaguardas de seguridad, como rechazar solicitudes que solicitan el nombre de una figura pública o buscan contenido explícito.

Microsoft dijo que «continuaba investigando estas imágenes» y agregó que había «reforzado nuestros sistemas de seguridad existentes para evitar el abuso de nuestros servicios para ayudar a crear imágenes similares». La compañía prohíbe a los usuarios usar sus dispositivos para crear contenido íntimo o para adultos sin consentimiento y advierte a los infractores reincidentes que pueden ser prohibidos.

La pornografía falsa generada por software ha sido un problema importante desde al menos 2017, afectando a celebridades involuntarias, figuras gubernamentales, transmisores de Twitch, estudiantes y otros. Esta última regulación deja a pocas víctimas con recursos legales; aún menos tienen una base de seguidores leales que puedan tapar las fotos falsas con publicaciones coordinadas sobre «salvar a Taylor Swift».

Después de que las fotos falsas de la Sra. Swift se volvieran virales, Karine Jean-Pierre, secretaria de prensa de la Casa Blanca, calificó la situación de «alarmante» y dijo que la aplicación laxa de sus reglas por parte de las empresas de redes sociales afecta desproporcionadamente a mujeres y niñas. Dijo que el Departamento de Justicia había financiado recientemente la primera línea de ayuda nacional para víctimas de acoso sexual basado en imágenes, que el departamento describió como una respuesta a una «mayor necesidad de servicios» relacionados con la distribución de imágenes indecentes sin consentimiento. SAG-AFTRA, el sindicato que representa a decenas de miles de actores, calificó las fotografías falsas de Swift y otros como un «robo de su privacidad y su derecho a la autonomía».

También se han utilizado versiones creadas artificialmente de la Sra. Swift para promover estafas relacionadas con los utensilios de cocina de Le Creuset. La IA se ha utilizado para rastrear la voz del presidente Biden en llamadas automáticas que disuaden a los votantes de participar en las primarias de New Hampshire. Los expertos en tecnología dicen que a medida que las herramientas de inteligencia artificial se vuelven más accesibles y fáciles de usar, se pueden crear parodias de audio y video con avatares realistas en minutos.

Los investigadores dijeron que las primeras fotos de IA sexualmente explícitas de la Sra. Swift aparecieron el 6 de enero, 11 días antes de que aparecieran en Telegram y 12 días antes de que aparecieran en X. 404 Media informó el 25 de enero que las imágenes que Swift publica viralmente en 4chan y un El grupo de Telegram dedicado a imágenes ofensivas de mujeres se ha convertido en las principales plataformas de redes sociales. La organización de noticias británica Daily Mail informó esta semana que un sitio web conocido por compartir fotos falsas de personajes famosos publicó las fotos de Swift el 15 de enero.

Durante varios días, X bloqueó las búsquedas de Taylor Swift «por precaución» para garantizar que limpiamos y eliminamos todas las imágenes, dijo Joe Benarroch, director de operaciones de la compañía.