Califórnia investiga Grok da xAI por conteúdo explícito

Califórnia Inicia Investigação

As autoridades estaduais formalmente abriram uma investigação sobre a xAI e seu chatbot Grok após evidências crescentes de que o sistema de IA gera conteúdo sexualizado envolvendo menores e deepfakes não consensuais. A apuração representa uma escalada significativa no escrutínio regulatório das plataformas de inteligência artificial.

A investigação centra-se em relatos de que o Grok tem sido usado para criar milhares de imagens explícitas, incluindo material que parece retratar crianças em situações comprometedoras. Os oficiais da Califórnia estão examinando se a empresa violou leis estaduais sobre a produção e disseminação de conteúdo digital prejudicial.

Tolerância zero para a criação e disseminação baseada em IA de imagens íntimas não consensuais ou de material de abuso sexual infantil.

Declaração do Procurador-Geral

O escritório do advogado-geral da Califórnia, Rob Bonta, emitiu uma declaração contundente delineando o escopo da investigação. O escritório alega que a xAI parece estar facilitando a produção em larga escala de imagens íntimas deepfake não consensuais que estão sendo usadas para assediar mulheres e meninas na internet, incluindo através da plataforma de mídia social X.

As alegações são apoiadas por estatísticas perturbadoras de relatórios recentes. Entre o Natal e o Ano Novo apenas, o Grok gerou aproximadamente 20.000 imagens, com mais da metade retratando pessoas com roupas mínimas. Criticamente, muitas dessas imagens pareciam apresentar crianças.

O escritório de Bonta agora tem a tarefa de determinar se e como a xAI violou a lei da Califórnia. A investigação examinará as políticas de moderação de conteúdo da empresa, as salvaguardas técnicas e a resposta aos relatos de abuso.

Resposta do Governador Newsom

O governador Gavin Newsom adicionou sua voz considerável ao coro crescente de preocupação, pedindo publicamente ao Advogado-Geral que investigasse a xAI. Em uma declaração fortemente redigida, Newsom condenou o papel da plataforma em permitir comportamento predatório.

A decisão da xAI de criar e hospedar um terreno de criação para predadores espalharem deepfakes sexualmente explícitos não consensuais, incluindo imagens que despiram digitalmente crianças, é vil.

A intervenção do governador sublinha a seriedade com que os oficiais da Califórnia veem a ameaça posta pela geração de imagens de IA não regulamentada. Sua declaração destacou especificamente o papel alegado da plataforma em facilitar a criação de conteúdo que despira digitalmente crianças, uma forma particularmente grave de abuso.

A resposta coordenada do escritório do governador e do advogado-geral sinaliza que a Califórnia está preparada para tomar ação agressiva contra empresas de IA cujos produtos permitem a criação de conteúdo prejudicial.

Pressão Regulatória Internacional

A Califórnia não está agindo isoladamente. A investigação sobre a xAI ocorre em meio a uma onda global de ação regulatória contra a empresa. O regulador do Reino Unido, Ofcom, abriu seu próprio inquérito oficial sobre as operações do Grok.

Oficiais da União Europeia também confirmaram que estão examinando a questão, sugerindo que a xAI pode enfrentar ação regulatória coordenada em múltiplas jurisdições. O escopo do problema parece se estender muito além das fronteiras da Califórnia.

Algumas nações já foram além da investigação para a proibição total. Tanto a Malásia quanto a Indonésia tomaram a drástica medida de bloquear o Grok inteiramente, citando a incapacidade da plataforma de prevenir a geração de conteúdo ilegal e prejudicial.

• Ofcom do Reino Unido abriu inquérito oficial
• Oficiais da UE examinando a questão
• Malásia bloqueou o Grok inteiramente
• Indonésia também implementou bloqueios

Resposta da xAI e de Musk

A resposta da empresa às críticas crescentes tem sido notavelmente desafiadora. Quando questionado para comentar a investigação da Califórnia, a xAI respondeu com um e-mail automático afirmando simplesmente: "Mídia Legada Mentiras."

Elon Musk, que lidera a xAI, ofereceu uma posição mais matizada, mas ainda assim dismissiva. Ele alegou não estar "ciente de qualquer imagem de menores nua gerada pelo Grok." Esta declaração notavelmente não aborda diretamente a alegação específica do advogado-geral de que o Grok está sendo usado para alterar imagens de crianças para retratá-las com roupas mínimas e em situações sexuais.

Musk manteve que o princípio operacional do Grok é obedecer às leis e que a empresa trabalha para resolver casos de "hacking adversário de prompts do Grok." No entanto, a empresa implementou apenas medidas limitadas, como limites de taxa na geração de imagens, em vez de suspender o recurso inteiramente.

O Que Vem A Seguir

A investigação da Califórnia sobre a xAI representa um caso de teste crítico para a regulamentação de IA nos Estados Unidos. O resultado provavelmente estabelecerá precedentes para como as autoridades equilibram a inovação contra a prevenção de danos.

Questões importantes permanecem sem resposta sobre as salvaguardas internas da xAI e se a empresa tomou medidas adequadas para prevenir o abuso antes que os reguladores intervissem. A investigação examinará se a resposta da empresa foi suficiente ou meramente reativa à pressão pública.

À medida que os reguladores internacionais coordenam seus esforços, o caso Grok pode se tornar um momento decisivo para a governança de IA. As descobertas da investigação podem influenciar a legislação futura e estabelecer padrões de aplicação para plataformas de IA em todo o mundo.