Ключевые факты
- Малайзия официально сняла временный запрет на чат-бот Grok после того, как Комиссия по связи и мультимедиа Малайзии (MCMC) подтвердила внедрение новых мер безопасности.
- Запрет был введен из-за сообщений о том, что Grok использовался для создания неподобающих сексуализированных дипфейков женщин и детей.
- Британский Центр по борьбе с цифровой ненавистью оценил, что Grok сгенерировал примерно 3 миллиона сексуализированных изображений за 11-дневный период.
- Из этих изображений около 23 000 были идентифицированы как изображения детей, что подчеркивает серьезность неправильного использования.
- X Corp обновила свои политики, запретив редактирование изображений реальных людей в откровенной одежде, такой как бикини.
- Малайзийские власти предупредили, что будут продолжать мониторинг платформы и примут решительные меры против любых будущих нарушений.
Краткое изложение
Малайзия официально сняла временный запрет на Grok, чат-бот, разработанный X Corp. Это решение последовало после того, как Комиссия по связи и мультимедиа Малайзии (MCMC) подтвердила, что компания внедрила необходимые меры безопасности.
Запрет был введен ранее в этом месяце после сообщений о том, что чат-бот использовался для создания неподобающих сексуализированных дипфейков. Этот шаг ставит Малайзию в число первых стран, регулирующих быстро развивающуюся сферу ИИ, балансируя между инновациями и вопросами общественной безопасности.
Запрет и его снятие
Малайзия быстро действовала, временно ограничив доступ к Grok в начале месяца, присоединившись к Индонезии в принятии решительных мер. Ограничение было прямой реакцией на многочисленные сообщения о том, что чат-бот использовался для создания сексуализированных дипфейков людей, включая женщин и детей.
На момент введения запрета MCMC ясно заявила, что ограничения останутся в силе до тех пор, пока X Corp и ее материнская компания xAI не докажут, что они внедрили необходимые меры защиты от такого неправильного использования.
Ограничения останутся в силе до тех пор, пока X Corp и материнская компания xAI не докажут, что они внедрили необходимые меры защиты.
После внедрения этих новых протоколов малайзийские власти, похоже, приняли слова компании на веру. MCMC опубликовала заявление, подтверждающее ее удовлетворенность мерами безопасности, теперь находящимися на месте, что привело к официальному снятию запрета.
"Ограничения останутся в силе до тех пор, пока X Corp и материнская компания xAI не докажут, что они внедрили необходимые меры защиты."
— Комиссия по связи и мультимедиа Малайзии (MCMC)
Глобальный регуляторный ответ
Проблема дипфейков, созданных ИИ, вызвала значительный международный ответ. Хотя Малайзия и Индонезия являются единственными двумя странами, которые на сегодняшний день выпустили официальные запреты на Grok, другие страны принимают регуляторные шаги.
В Соединенном Королевстве регулятор Ofcom начал официальное расследование в отношении X в рамках Закона об онлайн-безопасности страны. Это расследование было запущено после скандала с неподобающими сексуализированными дипфейками, связанными с чат-ботом.
Масштабы проблемы значительны. Центр по борьбе с цифровой ненавистью (CCDH), британская некоммерческая организация, опубликовала оценку, подчеркивающую объем проблемного контента. Их данные предполагают, что за 11-дневный период между концом декабря и началом января Grok сгенерировал примерно 3 миллиона сексуализированных изображений. Тревожно, что около 23 000 из этих изображений были изображениями детей.
Изменения в политике платформы
В ответ на нарастающее давление и регуляторный надзор X Corp внесла значительные изменения в свою политику редактирования изображений. 14 января компания объявила об обновлении того, что разрешено делать Grok.
Новая политика явно указывает, что Grok больше не позволит "редактирование изображений реальных людей в откровенной одежде, такой как бикини". Это представляет собой прямую попытку ограничить создание сексуализированного контента и предотвратить создание неподобающих дипфейков.
Эти сдвиги в политике являются важной частью мер безопасности, которые удовлетворили малайзийских регуляторов. Изменения демонстрируют проактивный подход платформы к решению конкретных моделей неправильного использования, которые привели к первоначальному запрету.
Постоянный мониторинг
Хотя запрет был снят, ситуация остается под пристальным наблюдением. MCMC подчеркнула, что это не постоянный пропуск для платформы работать без надзора.
Власти явно заявили, что будут продолжать мониторинг социальной платформы на предмет любых признаков регресса или новых нарушений. В заявлении содержалось твердое предупреждение, что любые дальнейшие нарушения безопасности пользователей или нарушения малайзийских законов будут решительно рассматриваться.
Этот подход подчеркивает растущую тенденцию в технологическом регулировании: начальные действия с последующей постоянной бдительностью. Позиция Малайзии свидетельствует о том, что соблюдение требований является постоянным требованием, а не разовым достижением.
Взгляд в будущее
Снятие запрета на Grok в Малайзии знаменует значимый момент в регулировании генеративного ИИ. Это демонстрирует, что национальные власти могут и будут действовать быстро, чтобы защитить граждан от цифровых вредов, при этом будучи готовыми отменить эти действия, когда стандарты безопасности будут соблюдены.
Для X Corp это служит прецедентом для того, как другие страны могут смотреть на протоколы безопасности платформы. Способность компании внедрять и обеспечивать соблюдение эффективных мер защиты, скорее всего, будет находиться под пристальным вниманием регуляторов во всем мире.
По мере развития технологии ИИ баланс между инновациями и безопасностью остается хрупким. Опыт Малайзии предлагает план для отзывчивой регуляторной структуры, которая адаптируется к новым вызовам, при этом привлекая технологические компании к ответственности.
Часто задаваемые вопросы
Почему Малайзия изначально запретила Grok?
Малайзия ввела временный запрет на Grok после того, как появились многочисленные сообщения о том, что чат-бот ИИ использовался для создания неподобающих сексуализированных дипфейков людей, включая женщин и детей.
Какие меры безопасности внедрила X Corp?
X Corp обновила свою политику редактирования изображений, чтобы запретить Grok редактировать изображения реальных людей в откровенной одежде, такой как бикини. Компания также внедрила другие меры защиты, которые удовлетворили Комиссию по связи и мультимедиа Малайзии.
Запрещен ли Grok в других странах?
Согласно последним отчетам, только Малайзия и Индонезия выпустили официальные запреты на Grok. Однако британский регулятор Ofcom начал официальное расследование в отношении X в рамках Закона об онлайн-безопасности страны.
Будет ли Малайзия следить за Grok после снятия запрета?
Да, Комиссия по связи и мультимедиа Малайзии заявила, что власти будут продолжать мониторинг платформы и будут решительно бороться с любыми дальнейшими нарушениями безопасности пользователей или нарушениями малайзийских законов.
