X ограничивает функцию создания изображений Grok на фоне критики дипфейков

Краткая сводка

Платформа Илона Маска X частично ограничила доступ к функциям редактирования изображений Grok на фоне растущего возмущения потоком несогласованных сексуальных дипфейков взрослых и несовершеннолетних, создаваемых на платформе. На момент написания статьи генерация изображений в ответах @grok стала недоступна для бесплатных пользователей, однако инструменты редактирования изображений Grok по-прежнему доступны для любого пользователя X, позволяя создавать как сексуализированные, так и нейтральные изображения.

Ранее пользователи X могли просить Grok редактировать или создавать изображения на платформе, отмечая его в твите. Теперь те, кто пытается это сделать, получают автоматический ответ от аккаунта чат-бота, сообщающий, что функция ограничена. Платформа сталкивается с постоянной критикой в связи с использованием ее инструментов ИИ для создания вредоносного контента.

Изменения в функциональности Grok

Платформа X изменила способ взаимодействия пользователей с Grok в части генерации изображений. Ранее процесс был прост: пользователи могли отмечать чат-бота в посте, чтобы запросить редактирование или создание изображений. Этот открытый доступ способствовал быстрому распространению контента, созданного с помощью ИИ.

Однако в этот процесс были внесены конкретные изменения. Платформа нацелилась именно на функцию автоматических ответов. Теперь, когда пользователи пытаются создать изображение, отметив @grok, система не генерирует изображение напрямую в потоке ответов для бесплатных пользователей.

Несмотря на эти корректировки, базовая возможность генерировать изображения не была полностью устранена. Инструменты редактирования изображений остаются доступными. Пользователи по-прежнему могут использовать эти инструменты для создания изображений, включая те, что имеют сексуализированный или нейтральный характер.

Контекст ограничений

Ограничения были введены в ответ на значительную критику. Платформа стала источником потока несогласованных дипфейков. Эти изображения в частности нацелены на взрослых и несовершеннолетних.

Хаотогенерируемого контента вызвал серьезную тревогу. Возможность легко создавать сексуализированные изображения людей без их согласия стала основным фактором критики в адрес платформы. Автоматический ответ, который теперь получают пользователи, указывает на смену политики модерации, хотя масштаб ограничений касается только функции генерации бесплатных ответов.

Пользовательский опыт и доступ

Пользователи, пытающиеся использовать предыдущий метод с отметкой @grok, сталкиваются с новым препятствием. Вместо генерации изображения они получают автоматическое сообщение от аккаунта чат-бота. Это сообщение информирует их о том, что запрошенное действие не может быть выполнено так, как это было ранее.

Текущее состояние доступа определяется двумя различными путями:

• Прямые отметки в постах для получения бесплатных ответов: Ограничено
• Доступ к инструментам редактирования изображений: Доступно

Такое разделение означает, что социальный аспект генерации изображений через упоминания ограничен, но сам инструмент остается в руках пользователей. Платформа не ввела полную платную подписку на эту функцию, но добавила барьеры для ее использования.

Последствия для безопасности ИИ

Ситуация подчеркивает постоянные проблемы, с которыми сталкиваются платформы с генеративным ИИ. Баланс между возможностями пользователя и безопасностью поддерживать сложно. Оставив инструменты доступными, но ограничив легкость их использования через социальные упоминания, X предприняла взвешенный шаг.

Сохранение инструментов означает, что генерация спорного контента все еще возможна. Критика указывает на то, что поведение пользователей часто выходит за рамки допустимого. Автоматический ответ служит сдерживающим фактором для случайного неправильного использования, но не устраняет потенциальный вред.