Edificio Berlaymont, sede de la Comisión Europea en Bruselas. NI
La Comisión investiga los sistemas de recomendación de Grok y X en virtud de la Ley de Servicios Digitales
La Comisión Europea (CE) ha iniciado una nueva investigación formal contra X en virtud de la Ley de Servicios Digitales. Paralelamente, la Comisión amplió su investigación en curso iniciada en diciembre de 2023 sobre el cumplimiento por parte de X de sus obligaciones en materia de gestión de riesgos de los sistemas de recomendación.
La nueva investigación evaluará si la empresa evaluó y mitigó adecuadamente los riesgos asociados con el despliegue de las funcionalidades de Grok en X en la UE. Esto incluye los riesgos relacionados con la difusión de contenidos ilícitos en la UE, como las imágenes sexualmente explícitas manipuladas, incluidos los contenidos que pueden constituir material de abuso sexual de menores.
Estos riesgos parecen haberse materializado, exponiendo a los ciudadanos de la UE a graves daños. A la luz de lo anterior, la Comisión seguirá investigando si X cumple sus obligaciones en materia de Ley de Servicios Digitales de:
Evaluar y mitigar diligentemente los riesgos sistémicos, incluida la difusión de contenidos ilícitos, los efectos negativos en relación con la violencia de género y las graves consecuencias negativas para el bienestar físico y mental derivadas del despliegue de las funcionalidades de Grok en su plataforma.
Llevar a cabo y transmitir a la Comisión un informe de evaluación de riesgos ad hoc para las funcionalidades de Grok en el servicio X con un impacto crítico en el perfil de riesgo de X antes de su despliegue.
Por otra parte, la Comisión ha ampliado su procedimiento formal en curso abierto contra X en diciembre de 2023 para determinar si X ha evaluado y mitigado adecuadamente todos los riesgos sistémicos, tal como se definen en la Ley de Servicios Digitales, asociados a sus sistemas de recomendación, incluido el impacto de su cambio recientemente anunciado a un sistema de recomendación basado en Grok.
Si se demuestra, estos incumplimientos constituirían infracciones del artículo 34, apartados 1 y 2, del artículo 35, apartado 1, y del artículo 42, apartado 2, de la Ley de Servicios Digitales. La Comisión llevará a cabo ahora una investigación en profundidad con carácter prioritario. La apertura de un procedimiento formal no prejuzga su resultado.
Para preparar esta investigación, la Comisión ha colaborado estrechamente con Coimisiún na Meán, coordinador irlandés de servicios digitales. Además, Coimisiún na Meán estará asociado a esta investigación, de conformidad con el artículo 66, apartado 3, como coordinador nacional de servicios digitales en el país de establecimiento en la UE.
La Comisión seguirá reuniendo pruebas, por ejemplo mediante el envío de solicitudes adicionales de información, la realización de entrevistas o inspecciones, y podrá imponer medidas provisionales en ausencia de ajustes significativos en el servicio X.
La incoación de un procedimiento formal faculta a la Comisión para adoptar nuevas medidas de ejecución, como la adopción de una decisión de incumplimiento. La Comisión también está facultada para aceptar cualquier compromiso asumido por X de remediar las cuestiones objeto del procedimiento.
La apertura de procedimientos formales exime a los coordinadores de servicios digitales, o a cualquier otra autoridad competente de los Estados miembros de la UE, de sus competencias para supervisar y hacer cumplir la Ley de Servicios Digitales en relación con las presuntas infracciones.
Grok es una herramienta de inteligencia artificial («IA») desarrollada por el proveedor de X. Desde 2024, X ha desplegado Grok en su plataforma de varias maneras. Estas implementaciones, por ejemplo, permiten a los usuarios generar texto e imágenes y proporcionar información contextual a las publicaciones de los usuarios.
Como plataforma en línea de muy gran tamaño designada en virtud de la Ley de Servicios Digitales, X tiene la obligación de evaluar y mitigar cualquier riesgo sistémico potencial relacionado con sus servicios en la UE. Estos riesgos incluyen la propagación de contenidos ilícitos y las posibles amenazas a los derechos fundamentales, incluidos los de los menores, que plantean su plataforma y sus características.
