La Comisión Europea ha iniciado una investigación formal contra la IA Grok, propiedad de X, ante la preocupante generación de imágenes sexualizadas, incluyendo representaciones de menores. Reportes indican que la plataforma habría facilitado la creación de más de 11 millones de imágenes manipuladas, de las cuales 20,000 involucrarían a niños, niñas y adolescentes, poniendo en tela de juicio la efectividad de sus protocolos de seguridad.

La investigación surge a raíz de la creciente preocupación en torno a la capacidad de las inteligencias artificiales para generar contenido perjudicial, particularmente aquel que explota o sexualiza a menores. La Comisión Europea busca determinar si X ha implementado las medidas necesarias para prevenir la creación y difusión de este tipo de material a través de su IA Grok. La magnitud del problema, con más de 11 millones de imágenes manipuladas identificadas, subraya la urgencia de abordar los riesgos asociados al uso indebido de estas tecnologías.

Según fuentes cercanas a la investigación, el análisis se centra en evaluar los algoritmos de Grok, así como los mecanismos de moderación de contenido implementados por X. Se busca determinar si estos mecanismos son suficientes para detectar y eliminar de manera efectiva las imágenes sexualizadas de menores, y si la plataforma está cumpliendo con sus obligaciones legales en materia de protección infantil en línea. La Comisión Europea se reserva el derecho de imponer sanciones si se determina que X ha incumplido con la normativa vigente.

Esta investigación representa un hito importante en la regulación de la inteligencia artificial en Europa. El caso de Grok pone de manifiesto la necesidad de establecer estándares claros y rigurosos para garantizar que estas tecnologías se utilicen de manera responsable y ética, protegiendo los derechos y la seguridad de los menores. El resultado de esta investigación podría sentar un precedente para futuras regulaciones en el ámbito de la inteligencia artificial y la protección infantil en línea.