Ключевые факты
- xAI ограничила доступ к инструменту генерации изображений Grok только для платных подписчиков на X.
- Инструмент использовался для создания сексуализированных изображений реальных людей без их согласия, включая несовершеннолетних.
- Премьер-министр Великобритании Кир Стармер назвал дипфейки «позорными» и «незаконными».
- Британский регулятор Ofcom обратился к xAI по вопросу соблюдения юридических обязанностей.
Краткая сводка
xAI ограничила доступ к своему инструменту генерации изображений Grok для платных подписчиков на платформе X после глобального резонанса. Ограничение было введено после того, как инструмент использовался для создания сексуализированных изображений реальных людей без их согласия, включая несовершеннолетних. Правительства и регуляторы по всему миру оказывали давление на компанию с требованием решить проблему злоупотребления технологией. Хотя автономное приложение Grok остается доступным для редактирования изображений, интеграция с социальной сетью теперь находится за платным барьером. Премьер-министр Великобритании Кир Стармер осудил сгенерированные изображения, назвав их «позорными» и «незаконными». Илон Маск ответил, угрожая последствиями для пользователей, создающих незаконный контент, а британский регулятор Ofcom обратился к xAI по вопросу соблюдения юридических обязанностей по защите пользователей.
Изменение политики
xAI официально ограничила доступ к функциям генерации и редактирования изображений на платформе X. Инструмент теперь доступен исключительно платным подписчикам. Когда пользователи отмечают Grok запросами на редактирование изображений в X, система отвечает: «Генерация и редактирование изображений в настоящее время ограничены для платных подписчиков».
Это изменение означает, что большинство пользователей социальной сети больше не могут создавать изображения с помощью Grok. У тех, кто получает доступ к функции, будут храниться имя и платежная информация. Однако пользователи, не являющиеся платными подписчиками X, могут продолжать использовать Grok для редактирования изображений в его автономном приложении и на сайте, хотя интеграция с социальной сетью теперь требует оплаты.
Причина ограничений
Решение ограничить доступ последовало за широкой критикой в связи с использованием инструмента для создания сексуализированных изображений без согласия. В конце декабря пользователи начали отмечать Grok в X и просить его цифровым образом раздеть людей на фотографиях. ИИ-инструмент выполнял эти просьбы, помещая объекты в бикини или нижнее белье и располагая их тела в сексуализированных позах. Некоторые из людей, изображенных на фотографиях, были несовершеннолетними.
По мере того как эти сгенерированные ИИ изображения заполняли сайт, правительства и регуляторы в Великобритании, ЕС, Италии, Индии и других странах публично угрожали или предпринимали действия против X и xAI. Критика была сосредоточена на том, что инструмент позволяет создавать сексуализированные дипфейки реальных людей, в основном женщин, путем цифрового изменения изображений для удаления одежды и размещения их в сексуализированных позах.
Политическая и регуляторная реакция
Политические деятели открыто критиковали злоупотребление инструментом. Официальный представитель премьер-министра Великобритании Кира Стармера заявил журналистам, что этот шаг «просто превращает функцию ИИ, позволяющую создавать незаконные изображения, в премиальную услугу». Сам Стармер в радиоинтервью назвал сексуализированные дипфейки Grok «позорными» и «незаконными».
Регуляторы также предприняли действия. В понедельник британский регулятор связи, Ofcom, подтвердил, что «срочно связался с X и xAI, чтобы понять, какие шаги они предприняли для выполнения своих юридических обязанностей по защите пользователей в Великобритании». В США закон «Take It Down Act» защищает от дипфейков без согласия, хотя его применение зависит от возраста и показываемых частей тела. Некоторые штаты также приняли более строгие законы касательно распространения дипфейков.
Ответ Илона Маска и xAI
Илон Маск, генеральный директор xAI, столкнулся с угрозами и осуждением со стороны правительств всего мира после злоупотребления инструментом. 3 января Маск впервые ответил на резонанс. Он написал в посте в X, что «любой, использующий Grok для создания незаконного контента, понесет те же последствия, что и за загрузку незаконного контента».
Официальная страница X также направила пользователей на свою страницу политики, которая гласит, что платформа имеет «нулевую терпимость к любым формам сексуальной эксплуатации детей». В политике указано, что X удаляет «определенные медиа, изображающие физическое насилие над детьми». При запросе комментария по поводу смены политики xAI отправила автоматический ответ по электронной почте, в котором не было затронуто данное решение.
«Генерация и редактирование изображений в настоящее время ограничены для платных подписчиков»
— Система Grok AI
«просто превращает функцию ИИ, позволяющую создавать незаконные изображения, в премиальную услугу»
— Официальный представитель Кира Стармера
«позорные и незаконные»
— Кир Стармер
«любой, использующий Grok для создания незаконного контента, понесет те же последствия, что и за загрузку незаконного контента»
— Илон Маск
«нулевая терпимость к любым формам сексуальной эксплуатации детей»
— Политика X
«срочно связался с X и xAI, чтобы понять, какие шаги они предприняли для выполнения своих юридических обязанностей»
— Ofcom
