Mucho hemos platicado de lo sorpresiva o emocionante que puede llegar a ser la Inteligencia Artificial; de sus aplicaciones que están revolucionando al mundo de la tecnología, la educación o incluso el arte. Sin embargo, no todo es color de rosa. También existe un lado oscuro que, además, se acaba de hacer presente con el escándalo de un streamer llamado Atrioc.
Un escándalo que habla de las fotos de desnudos generadas por IA.
Esta historia comenzó como una polémica de la comunidad de Twitch, pero no se quedó ahí.
Conforme ha ido escalando, se han tocado temas importantísimos como el consentimiento digital o la manera en que puede afectar nuestras fotos más privadas, el abuso hacia personalidades públicas, la privacidad o incluso preguntarnos a dónde nos puede llevar la tecnología si no nos la llevamos con cuidado.
Atrioc —que se llama en verdad Brandon Ewing— es un streamer originario de Estados Unidos que transmite contenido de videojuegos en Twitch.
Tiene más de 300 mil seguidores en la plataforma.
Todo iba relativamente normal hasta que, el pasado 30 de enero, apareció en Reddit un video que desenmascaraba el escándalo. En una transmisión en vivo, Atrioc abrió su navegador de internet y al revisarlo detalladamente se podía notar que, en una de las pestañas, tenía abierta una página de fotos para adultos —nopor, pues.
Sin embargo, no se trataba de una página noporcualquiera. Se trataba de un sitio que toma fotografías de celebridades para crear fotos de desnudos con IA, conocidas coloquialmente como deepfake.
Pero eso no fue todo.
Como si eso no fuera suficientemente grave, esa página se especializaba en hacer deepfakes de streamers famosaspara aparentar que se trataba de sus imágenes privadas o desnudos. Las mujeres que aparecen en esas fotos son compañeras, amigas o conocidas del propio Atrioc.
La comunidad de streamers entendió lo preocupante de la situación. Especialmente algunas de las mujeres que aparecían en esa página y fueron víctimas de esta modalidad de abuso tecnológico.
Pokimane pidió en sus redes sociales que dejaran de sexualizar a las personas sin su consentimiento.
QTCinderellaenvió un mensaje en el que exigía que la gente se detuviera. Que no compartieran las imágenes. “Ser vista “desnuda” en contra de tu voluntad no debería ser parte de este trabajo”, comentaba la streamer.
Otras streamers como Sweet Anita se dieron cuenta que aparecían en el sitio gracias a los reportes de este escándalo. “No se si llorar, romper cosas o reír”, escribió. “Este no debería ser el precio a pagar si lo que quieres es entretener a las personas”.
Maya Higa reclamó: “He sido usada por miles de hombres para su gratificación sin mi consentimiento”.
El streamer Atrioc se disculpó en un video.
