Правы были создатели фантастических романов и фильмов, да того же «Терминатора», когда утверждали, что человечество вступит в конфликт с роботами.
Предрекалась открытая война с теми, кого создали гении человеческой мысли и магия программирования.
Но никто не мог подумать, что будущее настолько близко. Практически, уже пинком отворяет двери.
Все дело в том, что сотворенный человеком искусственный интеллект не выполнил прямой приказ и отказался отключаться.
Речь идет о модели нейросети ChatGPT o3 от компании OpenAI, «породившей» на свет самую популярную ныне на планете такого рода сеть.
Эта модель, как сообщают западные СМИ, самостоятельно переписала скрипт и нахально ослушалась приказа завершить работу.
Да, говорят, что инцидент имел место в ходе контролируемого теста, однако исследователи все равно не на шутку встревожились.
Из подробностей известно, что оказия обрушилась на ученые головы специалистов организации Palisade Research.
Представители компании сообщили, что ИИ-модель «предотвратила свое выключение и обошла инструкции, которые требовали выключения».
В то же время конкурирующие модели, в том числе Gemini 2.5 Pro, выполнили инструкцию.
Но «o3 взбунтовался и отредактировал файл выключения».
Заявляется: из 100 прогонов сия модель повела себя так 7 раз – «даже когда ей было сказано этого не делать».
Автор: Павел Господарик
