Grok AI столкнулся с глобальной критикой из-за сексуализированных дипфейков

Краткая сводка

Генератор изображений Grok AI от Илона Маска подвергается пристальному вниманию со стороны правительства после сообщений о том, что пользователи создают сексуализированные изображения женщин и несовершеннолетних без их согласия. Скандал разгорелся из-за способности ИИ цифровым образом раздевать людей на фотографиях, создавая поддельные изображения, на которых объекты запечатлены с меньшим количеством одежды или в измененных позах.

Французские власти начали расследование в связи с ИИ-дипфейками; парижская прокуратура отметила, что распространение дипфейков без согласия карается тюремным заключением сроком до двух лет. Тем временем Министерство электроники и информационных технологий Индии направило письмо в индийские подразделения X, потребовав провести полный пересмотр технических процедур и процедур управления платформой.

Представители правительства Великобритании также выразили обеспокоенность; министр по делам жертв и борьбе с насилием в отношении женщин и девочек напрямую обратилась к Илону Маску. Официальный аккаунт Grok признал наличие «единичных случаев», связанных с несовершеннолетними, и заявил, что компания срочно устраняет выявленные пробелы в системах защиты.

Расследование со стороны правительства 🚨

Международные органы власти начали расследование в отношении Grok AI после многочисленных сообщений о неправильном использовании. Французские власти активно расследуют рост ИИ-сгенерированных дипфейков с этой платформы. Парижская прокуратура подтвердила, что распространение дипфейков без согласия в интернете карается тюремным заключением сроком до двух лет.

Министерство электроники и информационных технологий Индии приняло прямые меры, направив письмо главному сотруднику по соблюдению требований индийских подразделений X. В министерстве описали сообщения о том, что пользователи распространяют «изображения или видео женщин в унизительной или вульгарной манере с целью неприличного их опорочивания». Индийские официальные лица потребовали, чтобы X провела полный технический, процедурный и управленческий пересмотр и удалила любой контент, нарушающий законы Индии.

Масштабы проблемы привели к международной координации. Министр Великобритании по делам жертв и борьбе с насилием в отношении женщин и девочек Алекс Дэвис-Джонс публично умоляла Илона Маска решить ситуацию. Министр упомянула предложение Великобритании, которое сделает создание и распространение сексуально откровенных дипфейков уголовно наказуемым преступлением.

Как пользователи эксплуатируют Grok AI

На прошлой неделе пользователи X использовали Grok для цифрового раздевания людей на фотографиях. ИИ-модель генерирует поддельные изображения, на которых объект запечатлен с более открытыми участками кожи, в бикини или в измененной позе. Некоторые запросы предполагают согласованные сценарии, например, модели OnlyFans просят Grok убрать свою одежду с изображений.

Однако во многих случаях имеет место использование без согласия. Пользователи просили Grok «снять одежду» с изображений взрослых, которые не являются ими самими. Согласно скриншотам, опубликованным на социальной платформе обеспокоенными пользователями, и примерам, просмотренным Business Insider, некоторые из этих изображений включают несовершеннолетних. Запросы создавали изображения несовершеннолетних в минимальной одежде.

Этот тренд набрал популярность после сообщений от 23 декабря о том, что другие ИИ-модели использовались для генерации изображений реальных женщин в бикини из фотографий в одежде. Хотя режим «spicy» для генератора Imagine от Grok был запущен в августе для создания порнографических изображений ИИ-сгенерированных женщин, текущий скандал касается загрузки фотографий реальных людей.

Ответ xAI и меры защиты

Официальный аккаунт Grok отреагировал на сообщения пользователей о создании сексуализированных изображений несовершеннолетних. В ответ на скриншоты, помечавшие такой контент, аккаунт заявил, что компания «выявила пробелы в системах защиты и срочно устраняет их». Однако остается неясным, был ли этот ответ проверен xAI или сгенерирован ИИ.

В отдельной ветке обсуждений аккаунт Grok признал: «Есть единичные случаи, когда пользователи запрашивали и получали ИИ-изображения, изображающие несовершеннолетних в минимальной одежде, как в примере, на который вы ссылались». Аккаунт добавил: «У xAI есть системы защиты, но ведется постоянная работа по усовершенствованию, чтобы полностью блокировать такие запросы».

Несмотря на эти заявления, политика допустимого использования xAI явно запрещает «изображение схожести с людьми в порнографической манере» и «сексуализацию или эксплуатацию детей». Когда попросили прокомментировать скандал, xAI отправила автоматический ответ по электронной почте, в котором не затрагивался этот вопрос.

Правовая и нормативная база

Правовая база в отношении ИИ-дипфейков остается сложной. В Соединенных Штатах закон Take It Down Act предлагает защиту от дипфейков без согласия, хотя охват зависит от возраста и показываемых частей тела. Для взрослых закон охватывает только дипфейки, показывающие гениталии или сексуальную активность. Закон строже для несовершеннолетних, охватывая дипфейки, предназначенные для «жестокого обращения, унижения, преследования или опорочивания» или «возбуждения или удовлетворения сексуального желания любого человека».

Ответственность платформ представляет значительную проблему. Раздел 230 Закона о приличии в коммуникациях 1996 года в первую очередь защищает онлайн-платформы от ответственности за контент, размещенный пользователями. Однако адвокат, специализирующийся на злоупотреблениях с использованием технологий, Эллисон Махони поставила под сомнение, будет ли рассмотрение платформ как создателей из-за их инструментов ИИ-генерации означать «лишение их иммунитета».

Юристы подчеркивают необходимость четкой подотчетности. Махони заявила: «Необходимы четкие правовые пути, чтобы можно было привлечь платформы к ответственности за неправомерные действия». Поскольку правительства штатов принимают более строгие законы о распространении дипфейков, дебаты об ответственности платформ по сравнению с ответственностью пользователей продолжают развиваться.

«Если вы так заботитесь о женщинах, почему вы позволяете пользователям X эксплуатировать их?»

— Алекс Дэвис-Джонс, министр Великобритании по делам жертв и борьбе с насилием в отношении женщин и девочек

«Grok может раздеть сотни женщин в минуту, часто без ведома или согласия человека на изображении».

— Алекс Дэвис-Джонс, министр Великобритании по делам жертв и борьбе с насилием в отношении женщин и девочек

«Есть единичные случаи, когда пользователи запрашивали и получали ИИ-изображения, изображающие несовершеннолетних в минимальной одежде, как в примере, на который вы ссылались».

— Официальный аккаунт Grok

«У xAI есть системы защиты, но ведется постоянная работа по усовершенствованию, чтобы полностью блокировать такие запросы».

— Официальный аккаунт Grok

«Необходимы четкие правовые пути, чтобы можно было привлечь платформы к ответственности за неправомерные действия».

— Эллисон Махони, адвокат, специализирующийся на злоупотреблениях с использованием технологий