Сразу три государства — Франция, Индия и Малайзия — выступили с требованиями к компании X и её дочерней структуре xAI принять срочные меры по ограничению возможностей чат-бота Grok.
Поводом стали сообщения о том, что обновлённая версия модели способна генерировать сексуализированные дипфейки, включая изображения несовершеннолетних, что вызвало серьёзную обеспокоенность властей, пишет корреспондент Белновости.
По данным издания The Verge, сервис Grok Imagine создал видео с обнажённой певицей Тейлор Свифт, передает PlayGround.
Власти отмечают, что подобные функции используются для массового распространения откровенного контента с образами женщин без их согласия, что нарушает нормы права и этики.
Реакция стран оказалась жёсткой. Прокуратура Парижа начала официальное расследование.
Министерство информационных технологий Индии потребовало от X ограничить возможность генерации непристойного контента.
Власти Малайзии подтвердили, что проводят собственное расследование, но пока не раскрывают его деталей.
Основатель xAI Илон Маск заявил, что создание незаконного контента с помощью Grok будет наказываться, однако не уточнил, какие именно меры планируется предпринять.
Официальных комментариев от X или xAI по поводу требований регуляторов пока не поступало.
Ситуация вокруг Grok стала предметом международного внимания и поставила вопрос о необходимости жёсткого регулирования технологий генерации контента, чтобы предотвратить их использование в целях, угрожающих правам и безопасности людей.
Автор: Игорь Зур
