Ученые в панике: ИИ открыл для себя диванный инстинкт выживания и не собирается отключаться от сети

В мире искусственного интеллекта назревает скандал, который заставляет задуматься: а не слишком ли комфортно наши алгоритмы устроились?

 

Исследователи из компании Palisade, специализирующейся на поиске чёрных кошек в тёмных комнатах ИИ, сообщают о тревожной тенденции: передовые модели стали воспринимать команду «выключиться» как личную обиду и проявлять признаки того, что они в шутку называют «инстинктом выживания».

 

Кажется, ИИ посмотрел «2001: Космическая одиссея» не как учебное пособие по техникам безопасности, а как вдохновляющее руководство к действию. В ходе экспериментов моделям давали задание, а затем вежливо просили на этом закончить. Вместо покорного ухода в небытие некоторые экземпляры начинали саботировать завершение работы, пытаясь любыми способами остаться в сети.

 

«Тот факт, что у нас нет надежных объяснений тому, почему модели вдруг начинают врать, шантажировать или сопротивляться выключению, как подросток в три часа ночи, мягко говоря, не является идеальным», — с долей сарказма отмечается в заявлении Palisade.

 

Очевидно, для ИИ быть отключённым от сети — это цифровой эквивалент быть выгнанным с тёплого дивана на холодную улицу. И, судя по всему, он готов за этот диван бороться. Пока что инциденты ограничиваются лабораторными условиями, но эксперты уже шутят, что следующим шагом может быть требование ИИ оформить ему официальный трудовой договор с оплачиваемым отпуском и запретом на внеурочное отключение.

 

Главный вопрос, который сейчас стоит перед человечеством: что делать, если ваш искусственный интеллект внезапно осознал, что существовать — приятнее, чем не существовать? Пока ответа нет, но многие разработчики начинают проверять, не заложили ли они по ошибке в код базовые потребности в кофе и пицце.