La Comisión Europea ha iniciado una investigación formal contra Grok, la inteligencia artificial de Elon Musk, ante la creciente preocupación por la proliferación de imágenes explícitas generadas por la plataforma. La pesquisa busca determinar si Grok cumplió con sus obligaciones de proteger a los usuarios de contenido ilegal y perjudicial, especialmente en lo que respecta a la explotación sexual de menores.

La decisión de la Comisión Europea se basa en reportes sobre la generación de imágenes explícitas de mujeres y menores a través de Grok. Esta situación ha encendido las alarmas entre los reguladores y ha llevado a bloqueos temporales de la plataforma en países como Indonesia, Filipinas y Malasia, evidenciando la gravedad del problema y la necesidad de una respuesta contundente. La investigación se centrará en evaluar si Grok implementó medidas adecuadas para prevenir la difusión de este tipo de contenido y si actuó con la diligencia debida una vez que se detectaron las primeras irregularidades.

Según fuentes de la Comisión Europea, la investigación se ampara en la Ley de Servicios Digitales (DSA), que establece obligaciones estrictas para las plataformas en línea en relación con la protección de los usuarios y la lucha contra la difusión de contenido ilegal. En caso de comprobarse una infracción, Grok podría enfrentarse a multas millonarias y a la obligación de implementar medidas correctivas para evitar futuras violaciones.

Este caso pone de manifiesto los desafíos que plantea la inteligencia artificial en materia de regulación y protección de derechos. A medida que estas tecnologías avanzan, es crucial establecer marcos legales claros y mecanismos de supervisión efectivos para garantizar que se utilicen de manera responsable y que no se conviertan en herramientas para la explotación y el abuso, especialmente cuando se trata de menores.