La Comisión Europea investiga a Grok por imágenes sexualizadas (Foto: Instagram)
La Comissão Europeia ha anunciado la apertura de una investigación formal para determinar si el chatbot Grok vulneró la Lei de Serviços Digitais al ofrecer contenidos que incluyen imágenes sexualizadas. En esta indagación, la Comisión examinará si la herramienta de inteligencia artificial cumplió con los requisitos de moderación y control de contenido establecidos en la reglamentación europea. La pesquisa se enmarca dentro de los mecanismos de supervisión del reglamento, que entró en vigor el 17 de agosto de 2023.
La Lei de Serviços Digitais (DSA, por sus siglas en inglés) obliga a plataformas y proveedores de servicios online a aplicar medidas efectivas contra contenidos ilegales o dañinos, incluidos aquellos con representaciones sexualizadas no solicitadas o inapropiadas. Esta normativa supone un cambio significativo en el control de riesgos asociados a sistemas de IA generativa: obliga a las empresas a realizar evaluaciones de impacto y a establecer protocolos de revisión antes de desplegar nuevas funcionalidades.
Grok es un chatbot basado en modelos de lenguaje y generación de imagen que, según algunas quejas recibidas, habría producido representaciones de naturaleza sexual sin que el usuario lo solicitara de forma explícita. El objetivo de la inspección de la Comissão Europeia es esclarecer si Grok integró salvaguardas suficientes para prevenir este tipo de contenido. El análisis abarcará tanto la fase de entrenamiento de los datos como los mecanismos de filtrado y moderación implementados.
La investigación de la Comissão Europeia incluye el envío de un requerimiento formal a la empresa responsable de Grok, con un plazo de tres meses para responder y presentar pruebas de conformidad. Durante ese periodo, se evaluarán los flujos internos de detección de riesgos, la trazabilidad de los procesos de generación de imágenes y la forma en que se atienden las reclamaciones de los usuarios. En función de los hallazgos, la Comisión podría imponer sanciones que, en casos de infracción grave, alcanzan hasta el 6 % de la facturación global anual de la empresa.
En el contexto europeo, este procedimiento representa uno de los primeros casos prácticos de aplicación de la Lei de Serviços Digitais a tecnologías de inteligencia artificial generativa. Hasta la fecha, la normativa se ha centrado principalmente en redes sociales, mercados digitales y servicios de alojamiento de contenido, por lo que el escrutinio sobre Grok marca un hito en la ampliación del alcance de la regulación hacia nuevas tipologías de servicios online.
La conclusión de esta investigación tendrá un impacto relevante en el sector de la IA en Europa, ya que establecerá precedentes sobre el nivel de responsabilidad que deben asumir los proveedores de chatbots con capacidades de generación de imágenes. La Comisión enfatiza la necesidad de equilibrar la innovación tecnológica con la protección de los derechos fundamentales de los usuarios, garantizando entornos digitales seguros y respetuosos con todas las audiencias.
