Высокопоставленные финансовые чиновники и представители банковского сектора предупредили о рисках для мировой банковской системы, связанных с развитием новых моделей искусственного интеллекта (ИИ). Об этом пишет Financial Times.
Обсуждение угрозы стало центральной темой весенних встреч Международного валютного фонда (МВФ) и Всемирного банка в Вашингтоне, где внимание привлекла новая модель Claude Mythos Preview, разработанная стартапом Anthropic.
Глава Банка Англии Эндрю Бейли назвал ситуацию «очень серьезным вызовом». Он напомнил, что развитие ИИ происходит быстрее, чем формируются механизмы регулирования. По его словам, регуляторам необходимо срочно оценить риски кибербезопасности.
По данным Anthropic, модель способна выявлять тысячи критических уязвимостей, включая проблемы в ключевых операционных системах и браузерах. Представители компании отмечают, что технология меняет баланс между атакой и защитой, поскольку может автоматически находить и комбинировать уязвимости в масштабах, чего не смог бы сделать человек.
Глава Европейского центрального банка (ЕЦБ) Кристин Лагард предупредила, что подобные разработки могут представлять серьезную угрозу, если окажутся в «неправильных руках», и указала на отсутствие полноценной системы глобального регулирования.
При этом часть европейских регуляторов заявила, что пока не имеет доступа к модели и не может в полной мере оценить ее риски. Руководитель Европейского банковского управления Франсуа-Луи Мишо отметил, что выработка подходов к новым угрозам только начинается.
Несмотря на опасения, банки видят и потенциальные преимущества технологии. Глава JPMorgan Chase Джейми Даймон заявил, что модель помогает выявлять уязвимости, которые необходимо устранить, а руководитель Morgan Stanley Тед Пик назвал ИИ важной частью будущей финансовой экосистемы.
Эксперты при этом предупреждают, что согласование глобальных правил регулирования может оказаться затруднительным на фоне геополитической напряженности и нежелания ограничивать развитие перспективных технологий.
В марте Госдепартамент США создал новое бюро по борьбе с угрозами, связанными с ИИ и другими передовыми технологиями. Бюро будет заниматься прогнозированием и реагированием на риски для национальной безопасности, включая кибератаки, милитаризацию космоса и использование новых технологий в военных целях.
