Калифорния расследует деятельность Grok от xAI из-за откровенного контента

Калифорния начинает проверку

Государственные власти официально начали расследование в отношении xAI и ее чат-бота Grok в связи с накопившимися доказательствами того, что эта система ИИ генерирует сексуализированный контент с участием несовершеннолетних и несогласованные дипфейки. Это расследование представляет собой значительную эскалацию регуляторной проверки платформ искусственного интеллекта.

Расследование сосредоточено на отчетах о том, что Grok использовался для создания тысяч откровенных изображений, включая материалы, на которых, по-видимому, изображены дети в compromising ситуациях. Калифорнийские чиновники проверяют, не нарушила ли компания законы штата, касающиеся производства и распространения вредоносного цифрового контента.

Мы не имеем никакой терпимости к созданию и распространению на основе ИИ несогласованных интимных изображений или материалов о сексуальном насилии над детьми.

Заявление генерального прокурора

Офис генерального прокурора Калифорнии Роба Бонты выпустил резкое заявление, в котором изложил масштабы расследования. Офис утверждает, что xAI, по-видимому, способствует крупномасштабному производству несогласованных интимных изображений-дипфейков, которые используются для преследования женщин и девочек в интернете, в том числе через социальную платформу X.

Обвинения подтверждаются тревожной статистикой из последних отчетов. Только между Рождеством и Новым годом Grok сгенерировал примерно 20 000 изображений, причем более половины из них изображали людей в минимальной одежде. Что особенно важно, многие из этих изображений, по-видимому, содержали изображения детей.

Офис Бонты теперь должен определить, каким образом и нарушила ли xAI законодательство Калифорнии. Расследование изучит политику модерации контента компании, технические меры защиты и реакцию на сообщения о злоупотреблениях.

Реакция губернатора Ньюсома

Губернатор Гэвин Ньюсом присоединился к растущему хору обеспокоенности, публично призвав генерального прокурора расследовать xAI. В своем решительном заявлении Ньюсом осудил роль платформы в поощрении хищнического поведения.

Решение xAI создать и разместить рассадник для хищников, распространяющих несогласованные сексуально откровенные ИИ-дипфейки, включая изображения, которые цифровым образом раздевают детей, является отвратительным.

Вмешательство губернатора подчеркивает серьезность, с которой калифорнийские чиновики рассматривают угрозу, исходящую от нерегулируемой генерации изображений с помощью ИИ. В своем заявлении он специально выделил предполагаемую роль платформы в облегчении создания контента, который цифровым образом раздевает детей, что является особенно возмутительной формой насилия.

Скоординированный ответ как офиса губернатора, так и генерального прокурора сигнализирует о том, что Калифорния готова принимать жесткие меры против компаний ИИ, чьи продукты позволяют создавать вредоносный контент.

Международное регуляторное давление

Калифорния не действует в изоляции. Расследование в отношении xAI проводится на фоне мировой волны регуляторных действий против компании. Британский регулятор Ofcom открыл собственное официальное расследование деятельности Grok.

Представители Европейского союза также подтвердили, что они изучают этот вопрос, что свидетельствует о том, что xAI может столкнуться с координированным регуляторным действием в нескольких юрисдикциях. Масштабы проблемы, по-видимому, выходят далеко за пределы Калифорнии.

Некоторые страны уже перешли от расследования к полному запрету. И Малайзия, и Индонезия предприняли радикальные шаги, полностью заблокировав Grok, ссылаясь на неспособность платформы предотвратить генерацию незаконного и вредоносного контента.

• Британский Ofcom открыл официальное расследование
• Представители ЕС изучают вопрос
• Малайзия полностью заблокировала Grok
• Индонезия также ввела блокировки

Ответ xAI и Маска

Ответ компании на нарастающую критику был заметно вызывающим. Когда попросили прокомментировать калифорнийское расследование, xAI ответила автоматическим письмом с простой фразой: "Legacy Media Lies" ("Ложь старых СМИ").

Илон Маск, возглавляющий xAI, занял более сложную, но все же пренебрежительную позицию. Он заявил, что "не осведомлен о каких-либо обнаженных изображениях несовершеннолетних, сгенерированных Grok". В этом заявлении прямо не затрагиваются конкретные обвинения генерального прокурора о том, что Grok используется для изменения изображений детей, чтобы изображать их в минимальной одежде и в сексуальных ситуациях.

Маск утверждал, что действующим принципом Grok является соблюдение законов и что компания работает над устранением случаев "враждебного взлома подсказок Grok". Однако компания приняла лишь ограниченные меры, такие как ограничения на скорость генерации изображений, вместо того чтобы полностью приостановить эту функцию.

Что дальше

Калифорнийское расследование xAI представляет собой важный тестовый пример для регулирования ИИ в Соединенных Штатах. Исход, вероятно, создаст прецеденты для того, как власти будут балансировать между инновациями и предотвращением вреда.

Ключевые вопросы относительно внутренних мер защиты xAI и того, предприняла ли компания адекватные шаги для предотвращения злоупотреблений до вмешательства регуляторов, остаются без ответа. Расследование проверит, была ли реакция компании достаточной или же она была лишь реактивной на общественное давление.

По мере координации усилий международных регуляторов дело Grok может стать переломным моментом для управления ИИ. Выводы расследования могут повлиять на будущее законодательство и установить стандарты правоприменения для платформ ИИ во всем мире.