Американская компания xAI, принадлежащая Илону Маску, ввела новые ограничения на работу чат‑бота Grok после масштабного скандала, связанного с генерацией интимных дипфейков.
Пользователи массово использовали нейросеть для создания сексуализированных изображений реальных людей, включая случаи «раздевания» на фото и генерации откровенного контента без согласия, что вызвало резкую реакцию общества и регуляторов, пишет корреспондент Белновости со ссылкой на ixbt.
В xAI заявили, что теперь Grok технически блокирует попытки редактировать фотографии реальных людей в откровенном виде.
Ограничения распространяются на всех пользователей, включая тех, кто оформил платную подписку.
Кроме того, функции генерации и редактирования изображений теперь доступны только подписчикам, что, по словам компании, должно повысить уровень контроля и ответственности.
Илон Маск уточнил, что допустимым остаётся создание изображений вымышленных персонажей, причём только в пределах «до пояса».
Однако журналисты iXBT.com сообщили, что им удалось без труда сгенерировать полностью обнажённых персонажей, что ставит под вопрос эффективность новых ограничений.
Компания подчёркивает, что придерживается политики нулевой терпимости к любым формам сексуальной эксплуатации детей, публикации откровенных изображений без согласия и нежелательному сексуальному контенту.
В странах, где подобные изображения запрещены законом, они будут блокироваться полностью. xAI заверяет, что удаляет подобный контент со своих платформ.
Автор: Игорь Зур
