California ha dado un paso decisivo al iniciar una investigación contra xAI, la empresa de inteligencia artificial fundada por Elon Musk, en respuesta a denuncias alarmantes sobre su chatbot Grok. Este software ha sido acusado de facilitar la creación y difusión de imágenes sexualizadas, incluyendo montajes íntimos no consensuados de mujeres y menores de edad. Rob Bonta, Fiscal General de California, destacó en un comunicado la gravedad de la situación, señalando que la empresa “parece facilitar la producción a gran escala de deepfakes”, lo que ha llevado a un aumento del acoso en plataformas como la red social X, también de propiedad de Musk.
La preocupación no se limita a las fronteras de Estados Unidos. En las últimas semanas, Indonesia y Malasia han bloqueado el acceso a Grok tras el uso indebido de su tecnología. En el Reino Unido, se ha lanzado una investigación similar, reflejando una indignación internacional que sigue creciendo. Un análisis reciente de la oenegé AI Forensics reveló que más del 50% de las más de 20,000 imágenes generadas por Grok presentaban a personas con poca ropa, de las cuales el 81% eran mujeres y el 2% parecían ser menores.
La empresa xAI ha respondido a la presión global, indicando que ha impuesto restricciones en la generación de deepfakes sexualizados, aunque no ha implementado una prohibición total. Desde el 9 de enero, los usuarios no suscritos a X ya no pueden utilizar la función que permitía modificar imágenes de manera tan explícita, lo que representa un esfuerzo por controlar el contenido generado por la inteligencia artificial.
El Primer Ministro del Reino Unido, Keir Starmer, ha manifestado su preocupación durante una sesión parlamentaria, enfatizando la necesidad de que X cumpla con la legislación británica. “Si es el caso, es algo bueno, pero no retrocederemos”, advirtió, dejando claro que la investigación continuará sin tregua.
A nivel europeo, un portavoz de la Comisión Europea ha señalado que están atentos a las medidas que X está tomando para evitar el uso indebido de Grok, prometiendo que no dudarán en utilizar todo su “arsenal legislativo” si los cambios propuestos resultan ineficaces. La presión por parte de reguladores y entidades gubernamentales se intensifica, generando un clima de incertidumbre acerca del futuro de esta herramienta tecnológica.
La situación ha puesto de relieve la necesidad urgente de regular el uso de la inteligencia artificial para prevenir el abuso y proteger la privacidad y seguridad de las personas, especialmente de los grupos más vulnerables. Con las voces de diversas naciones alzándose contra el riesgo que representa Grok, el futuro de esta tecnología y su implementación se encuentra en un punto crítico, donde un movimiento enérgico hacia la responsabilidad y la ética es esencial para mitigar los peligros que presenta.
Esta nota contiene información de varias fuentes en cooperación con dichos medios de comunicación
