En una decisión que posiblemente no sorprenderá a nadie, la Comisión Europea ha anunciado hoy la apertura de un nuevo procedimiento de investigación contra la red social X por su sistema de recomendación de contenidos, y más concretamente, como consecuencia directa de la generación de imágenes mediante IA de Grok, que permite editar fotografías de cualquier tipo con solo órdenes de texto.
El procedimiento, que discurre en paralelo al actual expediente por contenido ilegal y desinformación y la sanción en España por incumplir sus obligaciones con respecto a la publicidad de productos financieros, determinará si X "analizó y mitigó los riesgos asociados con la integración de funcionalidades de Grok en X en la Unión Europea".
De forma específica, el comunicado señala la preocupación de la Comisión Europea con la "diseminación de contenido ilegal", tales serían "imágenes manipuladas sexualmente explícitas, incluyendo contenido que puede equivaler a material de abuso sexual de menores". Algo que se veía venir cuando la red social implementó la edición fotográfica avanzada en las respuestas, dando alas a una explosión de contenido generado por IA protagonizado por famosas (normalmente, que no siempre) parcialmente desvestidas.
El ya conocido prompt "Grok, vístela con un bikini" ha generado una polémica considerable en países como el Reino Unido, que también ha abierto su propia investigación, así como en Malasia e Indonesia, que han bloqueado el acceso a Grok en su territorio. La situación cogió a X con la guardia baja (o simuló hacerlo), que tras varios días de zozobra y no pocas amenazas legales acabó limitando la edición de imágenes en abierto a los usuarios de pago e instauró modificadores más estrictos.
Anunciadas sus intenciones, la Comisión Europea solicitará ahora información a X sobre sus informes de análisis de riesgos y las medidas que ha tomado para mitigarlos antes de lanzar la edición de imágenes en abierto de Grok. De considerar que X ha incumplido las obligaciones marcadas por la ley de servicios digitales o DSA, se expondría a una multa de hasta el 6 % de sus ingresos globales.
