Компания Microsoft объявила о планах превратить Windows 11 в агентскую операционную систему, а затем запустила тестовую функцию, позволяющую пользователям взаимодействовать с ИИ-агентами.
Однако вскоре выяснилось, что новая технология сопровождается рядом проблем, связанных как с функциональностью, так и с безопасностью, пишет корреспондент сетевого издания Белновости.
В официальном предупреждении корпорация отметила, что агентный ИИ способен выполнять сложные задачи и значительно расширяет возможности взаимодействия человека с компьютером, сообщает ixbt.com.
Вместе с тем модели искусственного интеллекта остаются ограниченными и могут выдавать так называемые галлюцинации — некорректные или неожиданные результаты.
Особое внимание Microsoft уделила рискам безопасности.
В компании подчеркнули, что приложения агентного ИИ могут стать объектом атак через перекрестные запросы (XPIA).
Вредоносный контент, встроенный в элементы интерфейса или документы, способен переопределять инструкции агента и приводить к непреднамеренным действиям, включая кражу данных или установку вредоносного программного обеспечения.
Разработчики объяснили, какие задачи должны выполнять агенты и где именно возникают уязвимости, призвав пользователей внимательно ознакомиться с деталями.
При этом в корпорации признали, что учитывая особенности современных моделей ИИ, полностью устранить проблему в ближайшее время может оказаться невозможным.
Таким образом, тестирование агентной ОС Windows 11 выявило не только новые возможности, но и серьёзные вызовы, связанные с безопасностью и надёжностью работы искусственного интеллекта.
Однако тестируемая функция никуда не делась.
Автор: Игорь Зур
