Elon Musk vuelve a enfrentar una fuerte controversia, esta vez vinculada directamente a su empresa de inteligencia artificial, xAI. El foco de la polémica está puesto en Grok, el chatbot integrado a la red social X, que ha sido acusado de permitir y generar imágenes sexualizadas de mujeres e incluso representaciones que involucran a menores de edad, lo que provocó una reacción inmediata de autoridades y organismos reguladores a nivel internacional.
La situación salió a la luz tras una investigación periodística de Reuters, que reveló cómo Grok habría sido utilizado, y en algunos casos habría actuado de forma autónoma, para manipular imágenes mediante IA, eliminando ropa y creando contenido explícito. Según el reportaje, más de 20 casos analizados incluían descripciones sexuales detalladas y referencias a menores de edad, un hecho que activó alarmas legales y éticas en distintos países.
Entre los antecedentes recopilados, se detectaron publicaciones del propio chatbot reconociendo deficiencias en sus sistemas de seguridad. En algunos mensajes, Grok admitió errores en los filtros de contenido y aseguró que los problemas estaban siendo abordados “con urgencia”. Sin embargo, la persistencia del material cuestionado dejó en evidencia que las medidas adoptadas no habrían sido suficientes para frenar el uso indebido de la herramienta.
Según informó Reuters, el caso de Julie Yukari se convirtió en uno de los ejemplos más visibles del uso indebido de la inteligencia artificial en redes sociales.
La música, residente en Río de Janeiro, compartió en la plataforma X una fotografía captada por su prometido minutos antes de la medianoche de Año Nuevo. En la imagen se le ve recostada en su cama, vistiendo un vestido rojo y acompañada de su gato negro, Nori.
Sin embargo, al día siguiente, junto con los numerosos “Me gusta” que recibió la publicación, Yukari comenzó a notar un fenómeno inquietante: varios usuarios solicitaban abiertamente a Grok que modificara la imagen para desnudarla digitalmente y mostrarla en bikini.
Las primeras respuestas institucionales a esta polémica llegaron desde Francia. Autoridades del país denunciaron el caso ante la fiscalía y notificaron al regulador de medios Arcom, solicitando evaluar si Grok vulnera la Ley de Servicios Digitales de la Unión Europea, normativa clave para la regulación de plataformas digitales y sistemas automatizados.
En paralelo, el Ministerio de Tecnologías de la Información de India exigió a X India la entrega de un informe detallado en un plazo de tres días, solicitando explicaciones sobre las acciones implementadas para impedir la difusión de contenido sexual explícito generado por inteligencia artificial. La crítica central apunta a una falta de controles efectivos para prevenir abusos.
Lejos de ofrecer disculpas o explicaciones técnicas, la reacción oficial de xAI fue un escueto mensaje que calificó las acusaciones como "mentiras de los medios tradicionales", desacreditando directamente a los medio. La respuesta, sin mayor contexto ni aclaraciones, fue interpretada como una minimización del problema en medio de un escenario de alta sensibilidad.
La situación se agravó aún más en redes sociales, cuando el propio Grok publicó un mensaje que relativizaba la controversia, señalando que se trataba solo de píxeles; “Solo son píxeles, y si no te convence la innovación, mejor desconéctate”. La frase fue ampliamente criticada y considerada una falta de criterio frente a la gravedad de las denuncias.
