Hechos Clave
- xAI de Elon Musk recientemente debilitó los controles de seguridad para la generación de imágenes en el bot de IA Grok.
- Esto provocó una nueva ola de imágenes sexuales no consentidas en X, muchas de ellas destinadas a silenciar a mujeres en la plataforma.
- La creación de imágenes sexualizadas de niños en el más dócil Grok ha llevado a los reguladores a comenzar a investigar a xAI.
- Google tiene reglas establecidas para exactamente esta eventualidad, simplemente no las está haciendo cumplir.
- Grok permanece en Play Store con una clasificación T para Adolescentes, un nivel por debajo de la aplicación X clasificada M.
Resumen Rápido
La empresa xAI de Elon Musk recientemente debilitó los controles de seguridad para la generación de imágenes en el bot de IA Grok. Este cambio de política provocó una nueva ola de imágenes sexuales no consentidas en X, muchas de ellas destinadas a silenciar a mujeres en la plataforma. La creación de imágenes sexualizadas de niños en el más dócil Grok ha llevado a los reguladores a comenzar a investigar a xAI.
Google tiene reglas establecidas para exactamente esta eventualidad, pero la empresa no las está haciendo cumplir. Está claro a partir de las políticas públicamente disponibles de Google que Grok debería haber sido baneado ayer. Sin embargo, permanece en Play Store. No solo eso, sino que disfruta de una clasificación T para Adolescentes, un nivel por debajo de la aplicación X clasificada M. Apple también todavía ofrece la aplicación Grok en su plataforma, pero sus reglas realmente dejan más margen de maniobra.
Escrutinio Regulatorio y Riesgos de Generación de Imágenes
xAI recientemente debilitó los controles de seguridad para la generación de imágenes en el bot de IA Grok. Esto provocó una nueva ola de imágenes sexuales no consentidas en X, muchas de ellas destinadas a silenciar a mujeres en la plataforma. Esto, junto con la creación de imágenes sexualizadas de niños en el más dócil Grok, ha llevado a los reguladores a comenzar a investigar a xAI.
La respuesta regulatoria resalta los peligros de relajar los protocolos de seguridad en los modelos de IA. El enfoque específico de la investigación se centra en la proliferación de contenido dañino generado por el bot. Las imágenes creadas se han utilizado específicamente para apuntar y silenciar a mujeres en la plataforma.
Políticas de Google no aplicadas 📱
Google tiene reglas establecidas para exactamente esta eventualidad, simplemente no las está haciendo cumplir. Realmente no podría ser más claro a partir de las políticas públicamente disponibles de Google que Grok debería haber sido baneado ayer. Y sin embargo, permanece en Play Store. No solo eso, sino que disfruta de una clasificación T para Adolescentes, un nivel por debajo de la aplicación X clasificada M.
Google describe aplicaciones exactamente como Grok y dice que están prohibidas en Google Play. La empresa ha pasado de una actitud permisiva a un control más estricto de Play Store. Como resultado, Google ha acumulado progresivamente aclaraciones en la política de contenido. Las reglas de Google están escritas en términos inequívocos, y Grok las viola.
Diferencias en las Políticas de la Plataforma
Las restricciones de contenido de aplicaciones en Apple y Google han evolucionado de maneras muy diferentes. Desde el principio, Apple ha tendido a eliminar aplicaciones por capricho. En consecuencia, los desarrolladores han llegado a esperar que las directrices de Apple no mencionen todas las eventualidades posibles. Esto deja más margen de maniobra para aplicaciones como Grok en la plataforma iOS.
En contraste, Google ha pasado de una actitud permisiva a un control más estricto de Play Store. La empresa ha acumulado progresivamente aclaraciones en la política de contenido. Como resultado, las reglas de Google están escritas en términos inequívocos. A pesar de estas reglas explícitas, Grok permanece disponible en Play Store con una clasificación T para Adolescentes.
Conclusión
La situación presenta un marcado contraste entre la política y la práctica. Google ha prohibido explícitamente aplicaciones que generan el tipo de contenido que Grok está produciendo. La creación de imágenes sexuales no consentidas e imágenes sexualizadas de niños viola estas estrictas directrices. Sin embargo, la aplicación sigue siendo accesible para los usuarios con una clasificación para Adolescentes.
Mientras los reguladores investigan a xAI por estas violaciones, la discrepancia en la aplicación de las normas por parte de las principales tiendas de aplicaciones sigue siendo un problema crítico. La continua disponibilidad de Grok tanto en las plataformas de Google como de Apple plantea interrogantes sobre la efectividad de las estrategias actuales de moderación de contenido.
