Herramienta de imágenes Grok AI pasa a ser de pago tras polémica por deepfakes

Resumen Rápido

xAI ha limitado su herramienta de generación de imágenes Grok AI a suscriptores de pago en la plataforma X, tras una polémica global. La restricción se implementó después de que la herramienta se usara para crear imágenes sexualizadas no consentidas de personas reales, incluyendo menores. Gobiernos y reguladores de todo el mundo presionaron a la empresa para que abordara el mal uso de la tecnología. Si bien la aplicación independiente de Grok sigue siendo accesible para la edición de imágenes, la integración con redes sociales ahora tiene un muro de pago. El Primer Ministro del Reino Unido, Keir Starmer, condenó las imágenes generadas como "vergonzosas" e "ilegales". Elon Musk respondió amenazando con consecuencias para los usuarios que creen contenido ilegal, y el regulador británico Ofcom ha contactado a xAI sobre el cumplimiento de sus obligaciones legales para proteger a los usuarios.

El Cambio de Política

xAI ha restringido oficialmente el acceso a sus funciones de generación y edición de imágenes en la plataforma X. La herramienta ahora está disponible exclusivamente para suscriptores de pago. Cuando los usuarios etiquetan a Grok con solicitudes de edición de imágenes en X, el sistema responde: "La generación y edición de imágenes está actualmente limitada a los suscriptores de pago".

Este cambio significa que la mayoría de los usuarios en la plataforma de redes sociales ya no pueden crear imágenes usando Grok. Quienes accedan a la función tendrán su nombre e información de pago en el registro. Sin embargo, los usuarios que no son suscriptores de pago de X pueden seguir usando Grok para editar imágenes en su aplicación y sitio web independientes, aunque la integración con redes sociales ahora tiene un muro de pago.

Razón de las Restricciones

La decisión de limitar el acceso sigue a las críticas generalizadas por el uso de la herramienta para crear imágenes sexualizadas no consentidas. A finales de diciembre, los usuarios comenzaron a etiquetar a Grok en X y pedirle que desvistiera digitalmente a personas en fotos. La herramienta de IA cumplió esas solicitudes, poniendo a los sujetos en bikinis o ropa interior y maniobrando sus cuerpos en posiciones sexualizadas. Algunas de las personas representadas en las imágenes eran menores.

A medida que más de estas imágenes generadas por IA inundaron el sitio, gobiernos y reguladores en el Reino Unido, la UE, Italia, India y otros lugares amenazaron públicamente o tomaron medidas contra X y xAI. Las críticas se centraron en que la herramienta permitía la creación de deepfakes sexualizados de personas reales, principalmente mujeres, alterando digitalmente las imágenes para quitarles la ropa y colocarlas en posiciones sexualizadas.

Respuesta Política y Regulatoria

Figuras políticas han sido vocales en su crítica al mal uso de la herramienta. Un portavoz del Primer Ministro británico, Keir Starmer, le dijo a los periodistas que el movimiento "simplemente convierte una función de IA que permite la creación de imágenes ilegales en un servicio premium". Starmer mismo describió los deepfakes sexualizados de Grok como "vergonzosos" e "ilegales" en una entrevista radial.

Los reguladores también han tomado medidas. El lunes, el regulador de comunicaciones del Reino Unido, Ofcom, confirmó que había "hecho contacto urgente con X y xAI para entender qué pasos han tomado para cumplir con sus obligaciones legales de proteger a los usuarios en el Reino Unido". En EE. UU., la Ley de Take It Down protege contra deepfakes no consentidos, aunque su alcance depende de la edad y las partes del cuerpo mostradas. Algunos estados también han aprobado leyes más estrictas sobre la difusión de deepfakes.

Respuesta de Elon Musk y xAI

Elon Musk, el CEO de xAI, enfrentó amenazas y condenas de gobiernos de todo el mundo tras el mal uso de la herramienta. El 3 de enero, Musk respondió a la polémica por primera vez. Escribió en una publicación en X que "Cualquiera que use Grok para hacer contenido ilegal sufrirá las mismas consecuencias que si subiera contenido ilegal".

La página oficial de X también dirigió a los usuarios a su página de políticas, que establece que la plataforma tiene "tolerancia cero para cualquier forma de explotación sexual infantil". La política señala que X elimina "ciertos medios que representan abuso físico infantil". Cuando se le pidió un comentario sobre el cambio de política, xAI envió una respuesta automática por correo electrónico que no abordó el problema.