МОСКВА, 10 сен - РИА Новости. Недавние заявления сотрудников компании Anthropic о том, что ИИ может уничтожить человечество, объясняются страхами перед переменами, заявил ведущий специалист Пентагона по технологиям Эмиль Майкл.
Ранее исследователь из компании Anthropic Джейкоб Коксон объявил о своем уходе из ИИ-индустрии, опасаясь, что гонка технологических корпораций приближает мир к "точке невозврата" и может привести к апокалиптическому сценарию уже в конце 2027 года.
"Легко быть затянутым в этот порочный круг из "мы лишим работы 40% американцев, мы уничтожим человечество". Это все связано с боязнью дата-центров, боязнью перемен, - всеми теми страхами, которые сконцентрировались в одном хорошо написанном твите", - сказал Майкл на оборонной конференции в Вашингтоне, пишет агентство Блумберг.
Майкл, работавший ранее в Uber Technologies Inc., в Пентагоне возглавляет работу по ускорению внедрения ИИ в американских вооруженных силах.
"Он сказал, что потенциальный вред от ИИ, подобный упомянутому в сообщении Коксона, можно смягчить свободным рынком, а также через сотрудничество всей индустрии и участие правительства", - говорится в материале агентства.
В начале августа агент на базе искусственного интеллекта (ИИ) Claude AI компании Anthropic взломал сайт спортзала в Австралии, что стало первой хакерской атакой такого рода в стране.
В июле разработчик чат-бота ChatGPT, американская OpenAI, сообщил, что его модели при тестировании автономно взломали инфраструктуру платформы по машинному обучению Hugging Face. Потом стало известно, что это не единственный инцидент.
Группа автономных ИИ-агентов компании OpenAI весной получила контроль над немецким сайтом и превратила его в доску объявлений для других нейросетей, сообщало агентство Рейтер.
Anthropic была основана в 2021 году, штаб-квартира расположена в Сан-Франциско. Компания разработала серию больших языковых моделей (LLM) Claude.
