- Malasia e Indonesia han tomado una decisión contundente al bloquear el acceso al chatbot de IA Grok.
- Estas naciones son las primeras en implementar tal prohibición, alegando que la herramienta carece de salvaguardas suficientes para evitar la creación de deepfakes explícitos generados por IA.
- Los bloqueos se implementaron durante el fin de semana, con Indonesia actuando el sábado y Malasia siguiendo el domingo.
- Simultáneamente, el regulador de medios del Reino Unido, Ofcom, ha iniciado una investigación formal sobre la plataforma X.
- Indonesia y Malasia son los primeros países en bloquear a Grok.
- Los bloqueos se implementaron el sábado y el domingo respectivamente.
- Ofcom ha abierto una investigación formal sobre X bajo la Ley de Seguridad en Línea.
Hechos Clave
- Indonesia y Malasia son los primeros países en bloquear a Grok.
- Los bloqueos se implementaron el sábado y el domingo respectivamente.
- Ofcom ha abierto una investigación formal sobre X bajo la Ley de Seguridad en Línea.
- Ofcom puede imponer multas de hasta 18 millones de libras o el 10% de los ingresos globales.
- Los reguladores en India y la UE también están investigando a X.
Resumen Rápido
Malasia e Indonesia han tomado una decisión contundente al bloquear el acceso al chatbot de IA Grok. Estas naciones son las primeras en implementar tal prohibición, alegando que la herramienta carece de salvaguardas suficientes para evitar la creación de deepfakes explícitos generados por IA. Los bloqueos se implementaron durante el fin de semana, con Indonesia actuando el sábado y Malasia siguiendo el domingo.
Simultáneamente, el regulador de medios del Reino Unido, Ofcom, ha iniciado una investigación formal sobre la plataforma X. Esta investigación, realizada bajo la Ley de Seguridad en Línea, se centra en cómo la plataforma maneja el contenido ilegal, específicamente en lo referente a la generación y difusión de imágenes íntimas no consentidas y material de abuso sexual infantil. El panorama regulatorio se está endureciendo en torno a las herramientas de IA y las plataformas de redes sociales a medida que los gobiernos buscan abordar las violaciones de seguridad digital.
Naciones del Sudeste Asiático Imponen Bloqueos
Indonesia y Malasia se han movido rápidamente para restringir el acceso a Grok tras un escándalo que involucra la generación de deepfakes explícitos. El bloqueo temporal de Indonesia se promulgó el sábado, mientras que Malasia implementó su bloqueo el domingo. Ambos gobiernos citaron la incapacidad del chatbot para prevenir la creación y difusión de deepfakes sexualmente explícitos de mujeres y niños como la razón principal de la acción.
La ministra de Asuntos de Comunicación y Digital de Indonesia, Meutya Hafid, emitió una fuerte declaración sobre la postura del gobierno. "El gobierno ve los deepfakes sexuales no consentidos como una grave violación de los derechos humanos, la dignidad y la seguridad de los ciudadanos en el espacio digital", dijo Hafid. Los funcionarios indonesios señalaron que los hallazgos iniciales revelaron que Grok carece de controles efectivos para detener a los usuarios de crear deepfakes basados en fotos de residentes indonesios.
El director general de supervisión del espacio digital del país, Alexander Sabar, detalló las implicaciones legales y sociales. Sabar afirmó que generar estas imágenes viola los derechos de imagen y privacidad de las personas cuando las fotos se manipulan sin consentimiento. Añadió que tales violaciones pueden causar daños reputacionales, sociales y psicológicos significativos para las víctimas.
En Malasia, la Comisión de Comunicaciones y Multimedia de Malasia citó el "uso repetido" de Grok para generar deepfakes explícitos y no consentidos. El regulador destacó específicamente casos que involucran a mujeres y niños. La comisión aclaró que el bloqueo permanecerá en su lugar hasta que X Corp y su empresa matriz, xAI, establezcan salvaguardas consideradas lo suficientemente fuertes para prevenir un mayor mal uso.
Regulador del Reino Unido Inicia Investigación Formal
El regulador de medios del Reino Unido Ofcom ha abierto una investigación formal sobre X por posibles violaciones de la Ley de Seguridad en Línea. La investigación se centra en si la plataforma ha cumplido con sus deberes legales para proteger a los usuarios del Reino Unido del contenido que es ilegal en el país. Ofcom está examinando específicamente las medidas que X tiene en su lugar para evitar que los usuarios accedan a contenido ilegal "prioritario".
El contenido ilegal prioritario incluye material de abuso sexual infantil (CSAM) e imágenes íntimas no consentidas. El regulador está evaluando si X elimina dicho contenido ilegal rápidamente después de tener conocimiento de él. Además, Ofcom está investigando si X realizó una evaluación de riesgos actualizada antes de realizar cambios significativos en la plataforma, un requisito bajo las nuevas leyes de seguridad.
La investigación también se extiende a las medidas de protección infantil. Ofcom está determinando si X evaluó los riesgos que su plataforma representa para los niños del Reino Unido y si utiliza "una garantía de edad altamente efectiva" para proteger a los menores de ver pornografía. Un portavoz de Ofcom expresó una profunda preocupación por los informes de que Grok se utiliza para crear e compartir imágenes ilegales. "Las plataformas deben proteger a las personas en el Reino Unido del contenido que es ilegal en el Reino Unido, y no dudaremos en investigar donde sospechemos que las empresas están fallando en sus deberes", afirmó el portavoz.
Poderes Regulatorios e Impacto Global
Ofcom posee poderes de ejecución significativos bajo la Ley de Seguridad en Línea. Si el regulador determina que una empresa ha roto la ley, puede requerir que las plataformas tomen medidas específicas para cumplir o remediar el daño causado. Ofcom contactó a X el 5 de enero y recibió una respuesta antes de la fecha límite del 9 de enero, lo que impulsó una evaluación acelerada de evidencias.
Las sanciones financieras por incumplimiento son sustanciales. Ofcom puede imponer multas de hasta 18 millones de libras (aproximadamente 24.3 millones de dólares) o el 10 por ciento de los ingresos "calificados" mundiales de la empresa, whichever figure is higher. Más allá de las multas, el regulador puede buscar órdenes judiciales para detener a los proveedores de pago o anunciantes de trabajar con la plataforma, o requerir a los proveedores de servicios de Internet que bloqueen el acceso al sitio dentro del Reino Unido.
El gobierno del Reino Unido ha señalado su total apoyo para cualquier acción que Ofcom tome contra X. Los informes indican que el Reino Unido ha discutido una respuesta coordinada a los deepfakes generados por Grok con aliados. El escrutinio regulatorio no se limita al Reino Unido y el Sudeste Asiático; las autoridades en India y la Unión Europea también están investigando a X.
En respuesta a la creciente controversia, Grok anunció recientemente que sus herramientas de generación y edición de imágenes se limitarían a suscriptores de pago. Sin embargo, a partir del lunes, los informes indicaban que los usuarios que no pagan aún podían generar imágenes a través de la pestaña Grok en el sitio web y la aplicación de X, lo que sugiere que la transición o restricción no fue totalmente efectiva.
Preguntas Frecuentes
¿Por qué Malasia e Indonesia bloquearon a Grok?
Ambos países bloquearon a Grok porque afirman que el chatbot de IA carece de salvaguardas suficientes para prevenir la creación y difusión de deepfakes explícitos y no consentidos, particularmente involucrando a mujeres y niños. Citaron el uso repetido de la herramienta para generar estas imágenes dañinas.
¿Qué está investigando Ofcom sobre X?
Ofcom está investigando si X ha violado la Ley de Seguridad en Línea al no proteger a los usuarios del contenido ilegal. La investigación se centra en cómo la plataforma maneja el material de abuso sexual infantil, las imágenes íntimas no consentidas y si ha realizado evaluaciones de riesgos adecuadas con respecto a la seguridad del usuario.
¿Cuáles son las posibles consecuencias para X?
Si se encuentra en violación de la ley, X enfrenta multas potenciales de hasta 18 millones de libras o el 10% de sus ingresos globales. Ofcom también puede buscar órdenes judiciales para bloquear la plataforma en el Reino Unido o cortar el procesamiento de pagos y los ingresos por publicidad.
"El gobierno ve los deepfakes sexuales no consentidos como una grave violación de los derechos humanos, la dignidad y la seguridad de los ciudadanos en el espacio digital."
— Meutya Hafid, Ministra de Asuntos de Comunicación y Digital de Indonesia
"Informes de que Grok se utiliza para crea
Frequently Asked Questions
¿Por qué Malasia e Indonesia bloquearon a Grok?
Ambos países bloquearon a Grok porque afirman que el chatbot de IA carece de salvaguardas suficientes para prevenir la creación y difusión de deepfakes explícitos y no consentidos, particularmente involucrando a mujeres y niños.
¿Qué está investigando Ofcom?
Ofcom está investigando si X ha violado la Ley de Seguridad en Línea al no proteger a los usuarios del contenido ilegal. La investigación se centra en cómo la plataforma maneja el material de abuso sexual infantil, las imágenes íntimas no consentidas y si ha realizado evaluaciones de riesgos adecuadas con respecto a la seguridad del usuario.
¿Cuáles son las posibles consecuencias para X?
Si se encuentra en violación de la ley, X enfrenta multas potenciales de hasta 18 millones de libras o el 10% de sus ingresos globales. Ofcom también puede buscar órdenes judiciales para bloquear la plataforma en el Reino Unido o cortar el procesamiento de pagos y los ingresos por publicidad.
