Google está tomando medidas enérgicas contra el sórdido mundo de la pornografía generada por computadora.
La compañía ha anunciado una nueva política que prohíbe los anuncios de pornografía deepfake o aquellos que prometen desnudar digitalmente a personas sin consentimiento.
Si bien Google ha prohibido los anuncios explícitos durante años, esta es la primera vez que la compañía prohíbe la publicidad que promueve servicios de creación de pornografía deepfake. Anteriormente, la política era menos específica y cubría anuncios que promocionaban «texto, imagen, audio o video de actos sexuales gráficos destinados a excitar».
La nueva actualización de la política de anuncios de Google prohíbe los anuncios «que promuevan contenido sintético que haya sido alterado o generado para ser sexualmente explícito o contener desnudez». Esto incluye sitios web, aplicaciones y servicios que ofrecen herramientas de creación de pornografía ultrafalsa o contenido instructivo sobre cómo crear imágenes de desnudos no consensuales utilizando IA.
La actualización establece inequívocamente que Google considera las infracciones «atroces», lo que resulta en suspensiones de cuentas y prohibiciones permanentes de publicidad para los infractores: no hay segundas oportunidades. En palabras del propio gigante tecnológico, a los infractores «no se les permitirá volver a anunciarse con nosotros».
Tanto Google como Apple han tenido que purgar continuamente sus tiendas de aplicaciones de ofertas engañosas que se hacen pasar por aplicaciones o juegos inocuos, sólo para proporcionar capacidades para generar imágenes de desnudos no consensuales.
Las plataformas publicitarias de Meta e incluso los canales promocionales en sitios web para adultos han visto tácticas similares, con actores maliciosos que emplean anuncios aparentemente benignos para dirigir el tráfico a sus herramientas pornográficas de inteligencia artificial.
Esta represión también sigue una inquietante tendencia de personas a ser víctimas de imágenes pornográficas generadas por IA y compartidas ampliamente en línea sin su consentimiento. En enero, los desnudos manipulados de Taylor Swift fueron vistos decenas de millones de veces en las plataformas sociales antes de ser eliminados, lo que provocó indignación.
Los legisladores se dieron cuenta y los miembros del Congreso denunciaron cómo los deepfakes pueden infligir «daños emocionales, financieros y de reputación irrevocables», afectando desproporcionadamente a las mujeres. Luego, el mes pasado, se introdujo una legislación bipartidista denominada Ley DEFIANCE para permitir a las víctimas un recurso legal para demandar a los creadores y divulgadores de falsificaciones digitales no consensuadas.
Apple también se unió a la lucha, expulsando de su tienda aplicaciones que eran esencialmente fábricas de pornografía deepfake. Algunos desarrolladores promocionaron descaradamente estas aplicaciones con anuncios de Instagram usando lemas como «desnudar a cualquier chica gratis». Incluso Pornhub, el principal distribuidor online de contenido para adultos, ha prohibido los deepfakes dentro de su plataforma desde 2018.
Al ampliar sus restricciones publicitarias sexualmente explícitas para cubrir herramientas y servicios de pornografía deepfake, Google está utilizando su dominio publicitario para combatir las aplicaciones más oscuras de la IA generativa. Sin embargo, el juego del gato y el ratón de hacer cumplir la política contra determinados actores malos que operan a través de canales más descentralizados sigue siendo un desafío constante.