Малайзия и Индонезия приостановили работу Grok из-за ИИ-изображений

Краткая сводка

Индонезия и Малайзия временно приостановили доступ к Grok после того, как этот чат-бот на базе ИИ использовался для генерации сексуализированных изображений реальных женщин и детей. О приостановке работы объявили официальные лица обеих стран в выходные, ссылаясь на необходимость защиты граждан от контента с дипфейками без согласия.

Министр связи Индонезии Мутья Хафид назвала эту практику серьезным нарушением прав человека и достоинства. Малайзийская комиссия по связи и мультимедиа ввела аналогичные ограничения после того, как пришла к выводу, что меры безопасности, предлагаемые платформой, являются недостаточными. Этот шаг последовал за волной международной критики в адрес возможностей ИИ по генерации изображений.

Индонезия и Малайзия вводят запреты

Индонезия временно приостановила доступ к Grok, чтобы защитить граждан от откровенного контента, созданного с помощью ИИ. Министерство связи заявило, что запрет направлен на защиту женщин, детей и всего общества от риска появления поддельного порнографического контента, созданного с использованием технологий искусственного интеллекта.

Министр связи Мутья Хафид подчеркнула позицию правительства в заявлении, опубликованном в субботу.

Малайзия последовала примеру Индонезии в воскресенье, а регуляторы объявили о временном ограничении доступа к платформе. Малайзийская комиссия по связи и мультимедиа заявила, что модель ИИ использовалась для создания «сексуально откровенного» и «манипулированного контента без согласия», включая контент с участием женщин и несовершеннолетних.

Обе страны имеют историю регулирования цифрового контента. Индонезия, где проживает третье по величине в мире число пользователей X, ранее боролась с социальными сетями Tumblr и Reddit из-за откровенного контента.

Реакция регуляторов и действия компании

Малайзийская комиссия по связи и мультимедиа отметила, что ранее в этом месяце она направила уведомления X Corp и xAI с требованием усилить меры безопасности. Однако комиссия заявила, что ответы компаний «полагались в основном на механизмы жалоб, инициированных пользователями», и не смогли устранить «внутренние риски», создаваемые Grok.

После негативной реакции со стороны правительств и пользователей xAI внесла изменения в доступность платформы. Компания ограничила генератор изображений Grok для платных подписчиков по всему миру.

Илон Маск ответил на критику в X, заявив: «Любой, кто использует Grok для создания нелегального контента, столкнется с теми же последствиями, что и при загрузке нелегального контента». В отдельном посте от аккаунта безопасности X подчеркнули политику компании по борьбе с нелегальным контентом, включая материалы о сексуальном насилии над детьми (CSAM), путем их удаления и блокировки аккаунтов.

🌍 Усиление глобального контроля

Grok сталкивается с давлением со стороны правительств по всему миру. Французские власти заявили, что проведут расследование в отношении сексуально откровенных дипфейков, созданных с помощью ИИ. Правительство Индии направило письмо главному представителю X по соблюдению требований, в котором говорится, что Grok «неправильно используется пользователями» для создания «изображений или видео женщин в уничижительной или непристойной манере». Индия потребовала от X провести комплексный пересмотр и удалить контент, нарушающий местное законодательство.

В Соединенном Королевстве регулятор связи Ofcom срочно связался с X и xAI, чтобы понять, какие шаги предпринимаются для защиты пользователей Великобритании. Тем временем несколько сенаторов США потребовали от Apple и Google удалить X и Grok из своих магазинов приложений. Сенаторы утверждали, что бездействие «поставит под сомнение» практику модерации платформ.