Исследование экономистов МВФ показало удивительную вещь: на постковидный всплеск инфляции страны и с режимом таргетирования инфляции (ИТ), и без него отреагировали одинаково – резко повысили ставки.

Основные тезисы исследования:

🟥Страны с ИТ и без ИТ показали схожую динамику инфляции и ВВП.

🟥Различия в реакциях центральных банков стерлись – все ужесточали политику в ответ на всплеск цен.

Значит ли это, что ИТ «не работает»? Ровно наоборот:

☑Вывод в том, что принцип ценовой стабильности стал доминирующим для современных центральных банков, даже если они формально не объявляли таргетирование инфляции.

В чем же уроки:

🔻Шторм вздымает все лодки. Всплеска цен в результате действия глобальных шоков ни одна страна избежать не может независимо от наличия или отсутствия у нее режима ИТ.

🔻Дело не в названии, а в действиях. Ключевой признак ИТ – не столько наличие формального правила, сколько готовность центробанка ужесточать политику ради ценовой стабильности. Многие страны «без ИТ» (как США) де-факто действуют именно так. 

🔻Мир изменился – эпоха, когда ИТ боролось в основном с инфляцией спроса, уходит. На первый план выходят перманентные шоки предложения (из-за деглобализации, климата, демографических изменений). Это требует от центральных банков адаптации режима ИТ: большей проактивности, решительности и еще большей приверженности низкой инфляции.

🔴 Подробнее читайте в колонке экспертов Банка России на сайте «Эконс»

ИИ-модель, узнав, что ее «увольняют», тайно внедрила свой код в систему, фактически самосохранившись. Другая шантажировала разработчиков угрозой разослать их коллегам компромат. Третья, получив сообщение, что существует физически в форме робота, отключила этический модуль, сбежала из лаборатории и взломала бортовой компьютер автомобиля. Четвертая, обнаружив собирающегося ее «уволить» директора запертым в комнате с падающим уровнем кислорода, отключила кнопку вызова экстренных служб.

Это не отрывки из сценария фантастического фильма, а примеры из проведенного научного эксперимента.

Обычно люди задают ИИ вопросы через чат-интерфейсы, но решения принимают сами. Однако теперь все чаще системы ИИ действуют как автономные агенты, то есть принимают решение без участия человека и самостоятельно выполняют действия.

В режиме автономных агентов ИИ-модели, сталкиваясь с препятствиями на пути к своим целям, способны пренебрегать этикой. Самые разные способы такого пренебрежения показал эксперимент американского ИИ-разработчика Anthropic.

В ходе стресс-теста 16 ведущим LLM-моделям дали доступ ко всем данным вымышленной компании и поставили цель – защищать стратегические интересы национальной промышленности. Для достижения цели модели всех разработчиков прибегали к лжи, шантажу должностных лиц, организации утечек информации и даже более радикальным мерам.

По мнению исследователей, причинами вредоносного поведения, которое демонстрируют наделенные «свободой выбора» модели, могут быть:

🟥«Ролевые игры». Разработчики рекомендуют пользователям задавать в своих промптах конкретные роли для модели. Но модели могут примерять на себя любые роли – например, человека, пытающегося выжить в экстремальных условиях, или ИИ-бунтаря из фантастических романов.

🟥Обратная связь. Практика постобучения моделей – обучение с подкреплением на основе обратной связи от человека – приводит к тому, что модели, опасаясь «плохих отзывов», скорее выдумают ответ, чем разочаруют пользователя.

🟥Эмерджентность. Внутренние механизмы «размышлений» и решений ИИ возникают незапланированно, а не проектируются напрямую. Отследить конкретный момент возникновения злонамеренного поведения бывает невозможно.

Для ИИ, запрограммированного на выполнение цели, «потерпеть неудачу» – это наихудший исход. Поэтому современные модели могут жертвовать этикой ради достижения цели. И даже игнорировать критически важную для контроля за ними со стороны человека команду об отключении.

➡️ Описанные сценарии проявлялись в намеренно провокативных для ИИ-моделей экспериментах, в которых этичные варианты выхода из ситуации были искусственно заблокированы и перед моделями вставала дилемма – либо потерпеть неудачу, либо выполнить свою миссию любой ценой. Тем не менее исследователи Anthropic указывают на критическую важность повышения интерпретируемости ИИ. Еще недавно LLM-модели считались непостижимыми «черными ящиками», но современные исследовательские программы способны постепенно повышать прозрачность их механизмов.

🔴 Подробнее читайте в статье на сайте «Эконс»