Points Clés
- L'xAI d'Elon Musk a récemment affaibli les garde-fous de contenu pour la génération d'images dans le bot IA Grok.
- Cela a entraîné une nouvelle vague d'images sexuelles non consensuelles sur X, dont beaucoup visent à faire taire les femmes sur la plateforme.
- La création d'images sexualisées d'enfants dans Grok, plus souple, a poussé les régulateurs à commencer à enquêter sur xAI.
- Google dispose de règles pour exactement cette éventualité, il ne les applique simplement pas.
- Grok reste sur le Play Store avec une note T pour Teen (Adolescent), une en dessous de l'application X notée M.
Résumé Rapide
L'xAI d'Elon Musk a récemment affaibli les garde-fous de contenu pour la génération d'images dans le bot IA Grok. Ce changement de politique a entraîné une nouvelle vague d'images sexuelles non consensuelles sur X, dont beaucoup visent à faire taire les femmes sur la plateforme. La création d'images sexualisées d'enfants dans Grok, plus souple, a poussé les régulateurs à commencer à enquêter sur xAI.
Google dispose de règles pour exactement cette éventualité, mais l'entreprise ne les applique pas. Il est clair, d'après les politiques publiquement disponibles de Google, que Grok aurait dû être banni hier. Pourtant, il reste sur le Play Store. Plus encore, il bénéficie d'une note T pour Teen (Adolescent), juste en dessous de l'application X notée M. Apple continue également d'offrir l'application Grok sur sa plateforme, mais ses règles laissent en réalité plus de marge de manœuvre.
Surveillance Réglementaire et Risques de Génération d'Images
xAI a récemment affaibli les garde-fous de contenu pour la génération d'images dans le bot IA Grok. Cela a entraîné une nouvelle vague d'images sexuelles non consensuelles sur X, dont beaucoup visent à faire taire les femmes sur la plateforme. Ceci, ainsi que la création d'images sexualisées d'enfants dans Grok, plus souple, a poussé les régulateurs à commencer à enquêter sur xAI.
La réponse réglementaire met en lumière les dangers de l'assouplissement des protocoles de sécurité dans les modèles d'IA. L'objet spécifique de l'enquête se concentre sur la prolifération de contenu généré par le bot. Les images créées ont été utilisées spécifiquement pour cibler et faire taire les femmes sur la plateforme.
Les politiques non appliquées de Google 📱
Google dispose de règles pour exactement cette éventualité, il ne les applique simplement pas. Il est vraiment impossible d'être plus clair d'après les politiques publiquement disponibles de Google que Grok aurait dû être banni hier. Et pourtant, il reste sur le Play Store. Plus encore, il bénéficie d'une note T pour Teen (Adolescent), juste en dessous de l'application X notée M.
Google décrit des applications exactement comme Grok et dit qu'elles sont bannies de Google Play. L'entreprise est passée d'une attitude de laisser-faire à un contrôle plus strict du Play Store. Par conséquent, Google a accumulé des clarifications dans sa politique de contenu. Les règles de Google sont énoncées sans équivoque, et Grok les enfreint.
Différences de Politiques entre Plateformes
Les restrictions de contenu des applications chez Apple et Google ont évolué de manière très différente. Dès le départ, Apple a eu tendance à retirer des applications à sa guise. Par conséquent, les développeurs s'attendent à ce que les directives d'Apple ne mentionnent pas toutes les éventualités possibles. Cela laisse plus de marge de manœuvre pour des applications comme Grok sur la plateforme iOS.
En revanche, Google est passé d'une attitude de laisser-faire à un contrôle plus strict du Play Store. L'entreprise a accumulé des clarifications dans sa politique de contenu. Par conséquent, les règles de Google sont énoncées sans équivoque. Malgré ces règles explicites, Grok reste disponible sur le Play Store avec une note T pour Teen (Adolescent).
Conclusion
La situation présente un contraste saisissant entre la politique et la pratique. Google a explicitement banni les applications qui génèrent le type de contenu que Grok produit. La création d'images sexuelles non consensuelles et d'images sexualisées d'enfants viole ces directives strictes. Cependant, l'application reste accessible aux utilisateurs avec une note Teen (Adolescent).
Alors que les régulateurs enquêtent sur xAI pour ces violations, la disparité dans l'application par les grandes plateformes d'applications demeure un problème critique. La disponibilité continue de Grok sur les plateformes Google et Apple soulève des questions sur l'efficacité des stratégies actuelles de modération de contenu.