En una nota les contabamos sobre el caso de Atrioc, el streamer que esta siendo acusado por abuso tecnológico (o algunas otras acusaciones dependiendo de la región y de quien reporte) por ver paginas nopor con contenido de deepfakes de otras streamers y personalidades de distintos medios. Tomamos este caso para hablar un poco de lo que son las deepfakes, estas fotografías o graficas que presentan una “nueva modalidad” de abuso via red y que hay que identificar claramente.
Las deepfakes o fotos desnudas generadas por IA son una preocupante forma de abuso digital de la que rara vez platicamos. Normalmente se reportan las posibilidades políticas —¿se acuerdan de aquel video de Obama?—, pero el daño a las personas, especialmente mujeres famosas, es también tremendo.
Un estudio del European Science-Media Hub revelaba que cerca del 96% de todos los deepfakes que circulan en internet son pornográficos y sus protagonistas no dieron su consentimiento.
El abuso en esta tecnología ha probado ser malicioso.
“Las mayores amenazas son para mujeres”, aseguraba un estudio en los riesgos del deepfake por el Departamento de Seguridad en Estados Unidos. Ya que se les limita el acceso y participación en la vida publica asi como al acceso a sus derechos, se potencian actos de discriminación y claro, se hace un uso indebido de su información personal, incluida su imagen.
Y es que no solamente son las imágenes. Quienes son víctimas de este tipo de abusos digitales como los deepfakes han sido también víctimas de chantaje, de maltrato o de amenaza. Incluso —reporta el MIT— este tipo de imágenes creadas por IA han sido utilizadas para silenciar a personas incómodas.
Usar deepfakes pornográficos en México es ilegal. La Ley Olimpia contempla también a los contenidos “simulados” como parte de la violencia digital.
