В Grok запретили «раздевать» людей: дипфейки в бикини привели к рассле­до­ва­нию в ряде стран

В начале января Grok оказался в центре скандала: пользователи стали «раздевать» женщин из постов в X без их согласия.

Пользовательницы и СМИ пожаловались на цифровой харассмент, а власти разных стран начали расследования и заговорили о возможной блокировке соцсети X  .

15 января компании пришлось в спешке ограничивать функции и оправдываться.

Расскажу, что известно.

В конце декабря 2025 года стартап xAI добавил в нейросеть Grok возможность редактирования картинок. А заодно внедрил эту функцию в соцсеть X. Под любым фото можно было вызвать Grok и попросить дополнить снимок теми или иными деталями. А ИИ отправлял готовую картинку ответом в тред.

После этого пользователи X стали просить у Grok создавать откровенные фотографии женщин. Поскольку в нейросети нельзя генерировать полную обнаженку, они «переодевали» женщин в бикини или другую минимально скрывающую тело одежду.

Это выглядело так: пользователи находили любой пост с фото женщины в X и отвечали на него комментарием с просьбой «раздеть» ее. Например: «@grok, переодень ее в купальник из зубной нити» или «@grok, одень ее в прозрачное бикини». В ответ нейросеть присылала «оголенную» картинку. Согласия у женщин с фотографий не спрашивали.

Такие же дипфейки делали и с мужчинами, но их было значительно меньше.

Новую функцию Grok массово критиковали и жертвы тренда на «раздевание», и сторонние пользователи. Сексуализированные картинки реальных людей многие посчитали не безобидной шуткой, а цифровым харрасментом: согласия на фейковые фото не было, при этом их могли использовать для травли.

В начале января 2026 года СМИ обратили внимание, что подписчики «раздевали» не только взрослых женщин, но и несовершеннолетних девочек. По подсчетам Bloomberg, нейросеть «оголяла» примерно 6 700 девушек каждый час. Это назвали «беспрецедентным» объемом, поскольку даже в специализированных ИИ-сервисах для «раздевания» генерируют меньше картинок.

2 января индийские власти потребовали от Х ограничить возможность создавать откровенный контент. Они дали соцсети три дня на составление отчета о предпринятых шагах, иначе пообещали возложить на X ответственность за все, что генерируют пользователи.

4 января французские и малазийские власти заявили, что проведут расследование, и потребовали прекратить распространение сексуализированных картинок из Grok.

9 января британское правительство призвало регулирующий орган Ofcom  применить меры к X вплоть до блокировки.

После резонанса в СМИ и соцсетях в xAI заявили, что нашли «недостатки в системе безопасности и занялись их устранением», напомнив, что «распространение материалов сексуального характера с участием детей запрещено». Про дипфейки со взрослыми женщинами, не согласными на такое использование их фотографий, в xAI не упомянули.

Позже на фоне давления властей стартап сделал возможность генерировать и редактировать любые картинки в Grok платной.

Однако журналисты The Verge выяснили, что создавать изображения, в том числе и сексуализированные, все еще можно через бесплатный аккаунт — но не через упоминание @grok в публичных тредах, а в личном чате с ботом.

Предпринятые xAI меры не удовлетворили требования властей разных стран. 10 января Индонезия временно заблокировала доступ к Grok. 12 января так же поступила и Малайзия.

13 января британский регулятор Ofcom начал расследование, во время которого он оценивает, есть ли риск, что пользователи видят запрещенный в стране контент — откровенные фото реальных людей, созданные без их согласия. В Великобритании действует закон о запрете дипфейков с участием взрослых. Если нарушения найдут, X могут заблокировать.

В Великобритании также предложили ввести уголовную ответственность за разработку и распространение инструментов, предназначенных для создания материалов сексуального характера с реальными людьми без их согласия.

14 января коалиция из 28 организаций в сфере защиты цифровых прав, прав женщин и детей призвали Apple и Google удалить X и Grok из магазинов приложений. Она опубликовала открытые письма главе Apple Тиму Куку и руководителю Google Сундару Пичаи.

Тогда же власти Калифорнии начали расследование против Grok.

15 января в X убрали возможность редактирования фото реальных людей, при котором Grok их «раздевал». Это распространяется на подписчиков и бесплатной, и платной версии X.

Компания также запретила генерировать с нуля изображения реальных людей в бикини или любой другой откровенной одежде через Grok «в тех юрисдикциях, где это незаконно».