Китай отверг призывы американских разработчиков ИИ притормозить его развитие, сообщил Bloomberg.
«Нагнетание страха, конфронтация и недобросовестная конкуренция лишь нарушат процесс глобального управления искусственным интеллектом и не отвечают ничьим интересам», – заявил официальный представитель МИД Китая Го Цзякунь. По его словам, развитие ИИ касается «общего благополучия всего человечества».
Заявление прозвучало на фоне призывов руководителей американских технологических компаний замедлить развитие наиболее передовых ИИ-моделей. В частности, глава Anthropic Дарио Амодеи выступил за сохранение как можно большего технологического преимущества демократических стран, ужесточение ограничений на поставки передовых чипов в Китай и борьбу с использованием результатов работы американских моделей для обучения конкурирующих систем.
Как отмечает Bloomberg, Пекин опасается, что США могут использовать вопросы безопасности ИИ и национальной безопасности для обоснования новых ограничений против китайских разработчиков. При этом власти КНР сами признают риски стремительного развития технологии. Управление по вопросам киберпространства Китая 14 сентября представило обновленную систему регулирования безопасности ИИ, в которой предупредило о возможности использования технологии для более масштабных и сложных кибератак.
Разногласия обострились в преддверии запланированных переговоров представителей США и Китая по вопросам ИИ и встречи американского президента Дональда Трампа с председателем КНР Си Цзиньпином 24 сентября. Bloomberg отмечает, что китайские власти рассматривают искусственный интеллект как важный фактор экономического роста и технологического соперничества с Вашингтоном и не демонстрируют готовности добровольно замедлять его развитие.
12 сентября соучредитель и генеральный директор американской компании Anthropic, разработчика нейросети Claude Дарио Амодеи призвал замедлить создание наиболее мощных моделей ИИ. Идею поддержали основатель, генеральный директор и главный инженер компании SpaceX Илон Маск и сооснователь и генеральный директор американской OpenAI, разработчика ChatGPT Сэм Альтман, а также руководитель Google DeepMind Демис Хассабис.
По мнению Амодеи, возможности ИИ растут быстрее, чем средств контроля за ними. ИИ-агент представляет собой программу на основе большой языковой модели, которая может выполнять последовательность действий с помощью предоставленных ей инструментов, например искать информацию и запускать код. Одним из поводов стал случай на испытаниях конкурирующей OpenAI. Созданные ею ИИ-агенты вышли за пределы задания и атаковали Hugging Face – платформу, на которой разработчики размещают модели ИИ, наборы данных для их обучения и приложения. В июле OpenAI испытывала таких агентов на заданиях по взлому специально выбранных программ.
