Малайзия и Индонезия заблокировали Grok из-за опасений по поводу дипфейков

Краткое содержание

Малайзия и Индонезия приняли решительные меры, заблокировав доступ к ИИ-чатботу Grok. Эти страны стали первыми, кто ввел такой запрет, заявив, что у инструмента недостаточно средств защиты для предотвращения создания явных дипфейков, сгенерированных ИИ. Блокировки были реализованы в течение выходных: Индонезия действовала в субботу, а Малайзия — в воскресенье.

Одновременно британский медиарегулятор Ofcom начал формальное расследование платформы X. Эта проверка, проводимая в рамках Закона о безопасности в интернете, сосредоточена на том, как платформа обрабатывает нелегальный контент, в частности, касающийся создания и распространения интимных изображений без согласия и материалов сексуального насилия над детьми. Регуляторный ландшафт ужесточается вокруг инструментов ИИ и социальных платформ, поскольку правительства стремятся решить проблемы нарушения цифровой безопасности.

Юго-восточные азиатские страны вводят блокировки

Индонезия и Малайзия быстро ограничили доступ к Grok после скандала, связанного с генерацией откровенных дипфейков. Временная блокировка Индонезии была введена в субботу, в то время как Малайзия реализовала свою блокировку в воскресенье. Оба правительства в качестве основной причины своих действий указали неспособность чатбота предотвращать создание и распространение сексуально откровенных дипфейков женщин и детей.

Министр связи и цифровых дел Индонезии Меутья Хафид сделала жесткое заявление относительно позиции правительства. «Правительство рассматривает сексуальные дипфейки без согласия как серьезное нарушение прав человека, достоинства и безопасности граждан в цифровом пространстве», — сказала Хафид. Индонезийские чиновники отметили, что первоначальные выводы показали, что у Grok нет эффективных средств контроля, чтобы остановить пользователей от создания дипфейков на основе фотографий жителей Индонезии.

Генеральный директор по надзору за цифровым пространством страны Александр Сабар подробно рассказал о юридических и социальных последствиях. Сабар заявил, что генерация таких изображений нарушает права людей на имидж и конфиденциальность, когда фотографии манипулируются без согласия. Он добавил, что такие нарушения могут привести к значительному ущербу для репутации, социальному и психологическому вреду для жертв.

В Малайзии Комиссия по связи и мультимедиа Малайзии сослалась на «повторное неправильное использование» Grok для генерации откровенных дипфейков без согласия. Регулятор конкретно выделил случаи с участием женщин и детей. Комиссия уточнила, что блокировка останется в силе до тех пор, пока X Corp и его материнская компания xAI не установят средства защиты, которые будут сочтены достаточно сильными для предотвращения дальнейшего неправильного использования.

Британский регулятор начинает формальное расследование

Британский медиарегулятор Ofcom начал формальное расследование в отношении X по поводу потенциальных нарушений Закона о безопасности в интернете. Расследование сосредоточено на том, соблюдает ли платформа свои юридические обязанности по защите британских пользователей от контента, который является нелегальным в стране. Ofcom в частности изучает меры, которые X имеет для предотвращения доступа пользователей к «приоритетному» нелегальному контенту.

Приоритетный нелегальный контент включает материалы сексуального насилия над детьми (CSAM) и интимные изображения без согласия. Регулятор оценивает, удаляет ли X такой нелегальный контент быстро после того, как становится о нем известно. Кроме того, Ofcom расследует, проводил ли X обновленную оценку рисков перед внесением значительных изменений в платформу, что является требованием новых законов о безопасности.

Расследование также распространяется на меры по защите детей. Ofcom определяет, оценил ли X риски, которые его платформа представляет для британских детей, и использует ли он «высокоэффективную проверку возраста» для защиты несовершеннолетних от просмотра порнографии. Представитель Ofcom выразил глубокую обеспокоенность сообщениями о том, что Grok используется для создания и распространения нелегальных изображений. «Платформы должны защищать людей в Великобритании от контента, который является нелегальным в Великобритании, и мы не будем колебаться проводить расследование, если заподозрим, что компании не выполняют свои обязанности», — заявил представитель.

Регуляторные полномочия и глобальное влияние

Ofcom обладает значительными полномочиями по принуждению в рамках Закона о безопасности в интернете. Если регулятор установит, что компания нарушила закон, он может потребовать от платформ предпринять конкретные шаги для приведения в соответствие или устранения причиненного вреда. Ofcom связался с X 5 января и получил ответ к установленному на 9 января сроку, что привело к ускоренной оценке доказательств.

Финансовые санкции за несоблюдение требований являются значительными. Ofcom может налагать штрафы до £18 млн (примерно 24,3 млн долларов) или 10 процентов от «квалифицирующих» мировых доходов компании, в зависимости от того, какая цифра выше. Помимо штрафов, регулятор может добиваться судебных приказов, чтобы запретить поставщикам платежных услуг или рекламодателям работать с платформой, или требовать от интернет-провайдеров блокировать доступ к сайту в Великобритании.

Британское правительство заявило о своей полной поддержке любых действий, которые Ofcom предпримет против X. Сообщается, что Великобритания обсуждала с союзниками скоординированный ответ на дипфейки, сгенерированные Grok. Регуляторный надзор не ограничивается Великобританией и Юго-Восточной Азией; власти в Индии и Европейском союзе также расследуют деятельность X.

В ответ на растущий скандал Grok недавно объявил, что его инструменты генерации и редактирования изображений будут доступны только платным подписчикам. Однако, по состоянию на понедельник, сообщалось, что неплатежеспособные пользователи все еще могли генерировать изображения через вкладку Grok на сайте и в приложении X, что свидетельствует о том, что переход или ограничение не были полностью эффективными.

Часто задаваемые вопросы

Почему Малайзия и Индонезия заблокировали Grok?
Обе страны заблокировали Grok, поскольку они утверждают, что у ИИ-чатбота недостаточно средств защиты для предотвращения создания и распространения откровенных дипфейков без согласия, особенно с участием женщин и детей. Они сослались на повторное неправильное использование инструмента для генерации этих вредоносных изображений.

Что Ofcom расследует в отношении X?
Ofcom расследует, нарушил ли X Закон о безопасности в интернете, не обеспечив защиту пользователей от нелегального контента. Расследование сосредоточено на том, как платформа обрабатывает материалы сексуального насилия над детьми, интимные изображения без согласия, и проводила ли она надлежащую оценку рисков в отношении безопасности пользователей.

Какие последствия грозят X?
Если будет установлено нарушение закона, X грозят потенциальные штрафы до £18 млн или 10% от мировых доходов. Ofcom также может добиваться судебных приказов о блокировке платформы в Великобритании или прекращении обработки платежей и рекламных доходов.