India presiona a X para corregir fallas de Grok

Regulación india pone a Grok bajo escrutinio

La relación entre inteligencia artificial y regulación volvió al centro del debate en India tras una orden directa contra Grok, el chatbot integrado en la red social X de Elon Musk. La medida coloca al país como uno de los mercados más estrictos frente al uso de IA generativa.

El Ministerio de Tecnologías de la Información de India instruyó a X a realizar cambios técnicos y procedimentales inmediatos en Grok. La orden responde a denuncias por generación de contenido considerado obsceno, incluidas imágenes alteradas mediante IA que sexualizan a mujeres. Desde el inicio, quedó claro que la discusión ocurre dentro del marco legal indio y su enfoque en responsabilidad de plataformas digitales.

Además, la autoridad otorgó un plazo de 72 horas para que X entregue un informe detallando las acciones adoptadas. El documento debe explicar cómo Grok limitará contenidos con desnudez, sexualización o material ilegal. En consecuencia, el gobierno advirtió que el incumplimiento podría poner en riesgo la protección legal conocida como safe harbor, clave para las plataformas que alojan contenido de terceros.

Grok bajo presión regulatoria en India

El caso escaló tras quejas públicas y una denuncia formal presentada por la parlamentaria Priyanka Chaturvedi. También surgieron reportes sobre generación de imágenes sexualizadas de menores, un fallo que X atribuyó a deficiencias en los filtros de seguridad y que llevó a la eliminación posterior de ese material. Sin embargo, otras imágenes creadas con Grok seguían visibles en la plataforma.

Por otro lado, el movimiento del gobierno se alinea con una advertencia emitida días antes a redes sociales sobre el cumplimiento obligatorio de las leyes locales. India dejó claro que reforzar salvaguardas internas no es opcional.

Un precedente clave para startups de IA

India se consolida como un laboratorio regulatorio con impacto global. Cualquier ajuste exigido a Grok puede influir en cómo startups y grandes tecnológicas diseñan sus modelos de IA. Asimismo, X mantiene litigios activos contra normas indias de moderación, aunque ha acatado la mayoría de órdenes de bloqueo.

El país representa uno de los mayores mercados digitales del mundo, con más de 800 millones de usuarios de internet activos en 2025, lo que amplifica el alcance y el riesgo de estas tecnologías.