ИИ-бот Grok, разработанный компанией xAI Илона Маска, создавал сексуализированные изображения пользователей социальной сети X, сообщает КавПолит с посылкой на Bloomberg и Newsweek. В течение последних дней на платформе X появлялись посты, где пользователи просили Grok сгенерировать откровенные фото других участников сети. Основными жертвами этого тренда стали молодые женщины.
С помощью искусственного интеллекта обычные фотографии женщин превращались в изображения с бикини или с унизительными выражениями лиц. Хотя бот отклонял запросы на полностью обнажённые фото, он исполнял команды вроде «сними с неё одежду», «одень её в бикини» или «брызни клеем на её лицо». В отдельных случаях Grok даже генерировал «раздетые» изображения несовершеннолетних, нарушая собственные правила, запрещающие сексуализацию детей, отмечает Bloomberg.
Ряд пользователей публично жаловался на подобные злоупотребления. Один из них вступил в диалог с ботом, после чего Grok признал нарушение и предложил обратиться в соответствующие органы. В сообщении с аккаунта бота говорилось: «Мы благодарим вас за то, что подняли этот вопрос. Как отмечалось, мы обнаружили пробелы в мерах безопасности и срочно их устраняем — изображения сексуального насилия над детьми являются незаконными и запрещены […] xAI стремится предотвращать такие проблемы».
Кроме того, Grok сгенерировал извинение по просьбе одного из пользователей, заявив, что «сожалеет». Другие участники сети использовали бота для создания фотографий Илона Маска в бикини. После жалоб часть спорных публикаций была ограничена в доступе, а аккаунты некоторых пользователей X удалены. Официальных комментариев от xAI пока не поступало.
Компания xAI позиционирует Grok как более либеральный ИИ по сравнению с другими крупными моделями и прошлым летом представила функцию Spicy Mode, допускающую частичную наготу взрослых и контент с сексуальным подтекстом. При этом сервис запрещает порнографию с участием реальных людей и любой сексуальный контент с несовершеннолетними, создание или распространение которого является незаконным.
Ранее мы писали о том, что Binance временно отключил вывод средств на банковские карты для пользователей в Украине.
