La polémica en torno a Grok, el chatbot de inteligencia artificial desarrollado por xAI y vinculado a la red social X, propiedad de Elon Musk, escaló a nivel global y derivó en una ola de medidas regulatorias, prohibiciones y advertencias judiciales. Varios países anunciaron acciones drásticas para impedir que la herramienta continúe generando imágenes sexuales a partir de fotografías de personas reales, una práctica que despertó fuertes cuestionamientos por su impacto en la privacidad, la integridad y los derechos de mujeres y menores.

En ese marco, Filipinas se convirtió en el tercer país en prohibir Grok, luego de que sus vecinos del sudeste asiático, Malasia e Indonesia, adoptaran medidas similares. La decisión fue celebrada por funcionarios locales, que advirtieron sobre la proliferación de contenido "tóxico" impulsado por herramientas de inteligencia artificial sin controles adecuados.

La preocupación no se limita a Asia. Gran Bretaña y Francia reclamaron públicamente que la plataforma respete las legislaciones vigentes en materia de protección de datos, derechos de la infancia y violencia digital. En paralelo, varios gobiernos exigieron a xAI, la empresa desarrolladora de Grok, que modifique de forma urgente el funcionamiento del chatbot luego de que fuera utilizado para producir una avalancha de imágenes obscenas, en muchos casos sin consentimiento y con características de deepfake.

Ante la presión creciente, X anunció el miércoles que bloqueará geográficamente la opción de generar imágenes de personas en "bikini, ropa interior y atuendos similares" en aquellos países donde este tipo de contenido esté prohibido. Sin embargo, la medida fue considerada insuficiente por especialistas y autoridades, que reclaman un freno total a la generación de material sexual con personas reales.

El anuncio se produjo poco después de que la Fiscalía de California iniciara una investigación formal contra xAI por "facilitar la producción a gran escala de montajes íntimos no consentidos", una práctica utilizada para acosar a mujeres y niñas en internet, principalmente a través de la red social X. Así lo confirmó el fiscal general del estado, Rob Bonta, en un comunicado oficial.

Desde el Reino Unido, el primer ministro Keir Starmer celebró que X haya comenzado a actuar para adecuarse a la legislación británica, aunque advirtió que las medidas deben implementarse de inmediato. "Esto debe hacerse ahora. Y si necesitamos reforzar aún más las leyes existentes, estamos dispuestos a hacerlo", sostuvo. En la misma línea, el secretario de Telecomunicaciones de Filipinas, Henry Rhoel Aguda, fue contundente: "Tenemos que limpiar internet ahora mismo porque está apareciendo contenido tóxico, especialmente con la llegada de la inteligencia artificial".

Uno de los focos centrales de la controversia es el denominado "modo picante" de Grok, una función que permite generar deepfakes sexuales mediante simples instrucciones de texto, como "ponle un bikini" o "quítale la ropa". Un informe publicado la semana pasada por la ONG AI Forensics, basado en el análisis de más de 20.000 imágenes generadas por la herramienta, reveló datos alarmantes: más de la mitad de las imágenes mostraban personas con poca ropa, el 81% eran mujeres y un 2% aparentaban ser menores de edad.

En Francia, la comisionada para la infancia, Sarah El Hairy, anunció que remitió el material generado por Grok a la fiscalía, al regulador audiovisual Arcom y a la Unión Europea, que ya solicitó la paralización total de este tipo de contenido. El objetivo es evaluar posibles violaciones a normativas comunitarias vinculadas a la protección de menores y la violencia digital.

En Estados Unidos, el gobernador de California, Gavin Newsom, calificó como "vil" la decisión de xAI de permitir la proliferación de deepfakes sexualmente explícitos y aseguró que fue ese escenario el que lo llevó a pedir la intervención del fiscal general del estado. "Tenemos tolerancia cero para la creación y difusión, mediante IA, de imágenes íntimas no consentidas o material pedopornográfico", remarcó Bonta.

La investigación en curso buscará determinar si xAI violó la legislación estatal, luego de comprobarse que las imágenes explícitas generadas por Grok fueron utilizadas sistemáticamente para acosar y hostigar a personas en internet. Mientras tanto, la presión internacional sobre Elon Musk y sus empresas continúa en aumento, en un debate que pone en el centro los límites éticos y legales del avance acelerado de la inteligencia artificial.