Hasta el momento, no hay nigún tipo de reglamento que regule el uso de la inteligencia artificial (IA) pero es súper necesario para evitar panoramas terribles que puedan afectar la sensibilidad de las personas y leyes reales.
Una de las situaciones que se busca evitar es lo que está pasando actualmente en internet, ya que una red de pedofilia está creciendo como la espuma al comercializar imágenes de abuso sexual infantil creadas con plataformas de IA.
La primera alerta la tiró Patreon, porque este portal detectó la existencia de una cuenta que vendía este tipo de contenido. Obviamente la eliminó por completo ya que, a pesar de no aparecer personas reales en las imágenes, esto viola, de todas formas, las políticas de redes sociales.
BBC informó que esta red de pedofilia está utilizando la herramienta de Stable Difussion para la elaboración de las ilustraciones. Cabe destacar que esta plataforma, al igual que la famosa MidJourney, crea imágenes en base a un texto descriptivo dado por el usuario.
“La BBC ha encontrado que se está usando para crear imágenes realistas de abuso sexual infantil, incluyendo la violación de bebés y menores”, indicaron.
Por ejemplo, Ian Critchley, director de protección infantil del Consejo Nacional de Jefes de Policía (NPCC, por sus siglas en inglés) comentó que sería un error alegar que no se está causando daños a alguien debido a que no hay menores de edad reales en las imágenes.
Además, dice que un pedófilo podría “progresar a lo largo de esa escala de ofensa partiendo del pensamiento, a lo sintético, hasta actualmente abusar un niño de verdad”.
Esta situación no sólo está afectando a Patreon. Pixiv, una red social japonesa conocida por su contenido sexual relacionado al animé, también ha sido utilizada para comercializar este contenido.
Las representaciones eróticas del animé no son ilegales en Japón. De todas maneras, un representante de esta red social asegura que la compañía no admite contenido relacionado con menores de edad.
Tanto Pixiv como Patreon han actualizado sus políticas para incluir la prohibición de imágenes sintéticas (ya que las imágenes reales ya estaban prohibidas) en sus plataformas.
