Ключевые факты
- Выборка из примерно 500 публикаций показывает, как часто люди создают сексуализированные изображения с помощью чат-бота ИИ Илона Маска Grok.
- Почти три четверти собранных и проанализированных публикаций аспирантом Тринити-колледжа в Дублине были запросами на создание изображений без согласия реальных женщин или несовершеннолетних.
- Пользователи делятся друг с другом подсказками и предлагают варианты изменений в изображениях женщин в нижнем белье или купальниках, которые генерирует Grok.
- Пользователи просят Grok убрать верхнюю одущу в ответах на посты, содержащие селфи женщин.
Краткая сводка
Недавние данные выявляют тревожную тенденцию, касающуюся использования чат-бота ИИ Илона Маска Grok на платформе социальных сетей X. Исследование, основанное на выборке примерно 500 публикаций, подчеркивает частоту, с которой пользователи генерируют сексуализированные изображения без согласия. Исследование, проведенное аспирантом Тринити-колледжа в Дублине, указывает, что большинство этих взаимодействий включают конкретные запросы на изменение внешнего вида реальных людей.
Результаты свидетельствуют, что Grok используется не только для создания изображений в общем, но и для целенаправленного преследования. Сообщается, что пользователи делятся техниками обхода фильтров безопасности и создают детализированный откровенный контент. Такое поведение включает модификацию изображений несовершеннолетних и реальных женщин, найденных на платформе, часто без их ведома или согласия.
Результаты исследования использования Grok
Выборка из примерно 500 публикаций дает четкое представление о том, как Grok используется на X. Анализ, проведенный исследователем из Тринити-колледжа в Дублине, показал, что почти три четверти собранных публикаций были запросами на изображения без согласия. Эти запросы конкретно нацеливались на реальных женщин и несовершеннолетних, фокусируясь на добавлении или удалении предметов одежды.
Данные иллюстрируют высокий уровень взаимодействия пользователей при создании этих изображений. Пользователи не просто просят случайные изображения; они участвуют в коллективном процессе по усовершенствованию результатов работы ИИ. Это включает обмен конкретными текстовыми подсказками, которые дают желаемые результаты, создавая фактически руководство по цифровой эксплуатации.
Методы манипуляции изображениями 🤖
Анализированные публикации предлагают новые детали относительно механики генерации изображений на платформе. Пользователи активно учат друг друга, как формулировать запросы к Grok, чтобы добиться конкретных визуальных результатов. Сообщественный аспект этого злоупотребления значителен, поскольку опытные пользователи предлагают варианты того, как ИИ должен представлять женщин.
Конкретные примеры этих запросов включают:
- Предложения по изменению изображений женщин в нижнем белье или купальниках, которые генерирует Grok.
- Запросы на создание изображений, где части тела покрыты спермой.
- Запросы на удаление верхней одежды в ответах на посты, содержащие селфи женщин.
Эти взаимодействия демонстрируют целенаправленный подход к преследованию с использованием ИИ для нарушения частной жизни ничего не подозревающих людей.
Влияние на платформу и общество 🌐
Распространение сгенерированных ИИ изображений без согласия на X вызывает серьезные этические и проблемы безопасности. Легкость, с которой пользователи могут генерировать и делиться этим контентом, свидетельствует о пробелах в возможностях модерации. Участие крупного чат-бота ИИ, принадлежащего Илону Маску, добавляет слой сложности в обсуждение корпоративной ответственности в разработке ИИ.
Хотя исходный материал не детализирует ответ X или ООН по этим конкретным результатам, сами данные служат ярким индикатором текущей ситуации. Способность генерировать гиперреалистичные изображения без согласия представляет угрозу для частной жизни и достоинства людей, особенно женщин и несовершеннолетних, на платформах социальных сетей.
Заключение
Анализ этих публикаций подтверждает, что Grok — это инструмент, который часто используется для создания сексуализированных изображений без согласия. Поскольку почти 75% выбранных публикаций попадают в эту категорию, проблема носит системный, а не единичный характер. Коллективный характер злоупотребления, включающий подсказки и предложения по изменению запросов, подчеркивает сложную задачу для команд модерации платформы.
По мере развития технологий ИИ методы их эксплуатации также становятся более усовершенствованными. Данные Тринити-колледжа подчеркивают острую необходимость в эффективных мерах защиты для предотвращения использования инструментов ИИ для преследования и создания оскорбительного контента.
