Стремление ИИ-компаний решать математические задачи наносит вред науке математике и может нарушить сложившийся порядок развития и преемственности знаний. Об этом заявили лауреаты медали Филдса в открытом письме, опубликованном на сайте движения Math and AI («Математика и искусственный интеллект»).
Как отмечается в сообщении, за последние несколько месяцев математические возможности больших языковых моделей резко возросли – настолько, что они способны решать крупные нерешенные задачи во многих областях математики. Но стремление ИИ-компаний решать математические задачи в качестве бенчмарка наносит вред науке математике и математическому сообществу. Цели ИИ-компаний и цели математического сообщества серьезно рассогласованы.
Решение задач – лишь инструмент и косвенный показатель для достижения главной цели: концептуального понимания и прозрения. Забвение этого в мире ИИ может обратить инструмент против главной цели. Массовое производство утверждений «истинно/ложно» во все более быстром темпе может уничтожить плодородную почву вместо того, чтобы вдохнуть жизнь в новые идеи. Часто эти решения объявляются в спешке, не оставляя времени на должное изложение, вычленение новых методов и идей и цитирование соответствующей предыдущей работы других. Это порождает серьезные вопросы об авторстве и плагиате.
Ученые подчеркнули, что без готовых математиков, которые должны позаботиться о развитии и интеграции идей в математический канон, идеи, зачатые ИИ, никогда не станут полностью живыми. При этом может утратиться важнейшая человеческая цепочка передачи между математиками. Проблемы, с которыми математическое сообщество сталкивается сейчас, сходны с проблемами других научных и творческих профессий. Они указывают на вопрос: как сделать так, чтобы по мере того, как ИИ меняет способы выполнения работы, не упускать из виду то, ради чего эта работа изначально выполнялась.
Принесут ли эти перемены в итоге пользу области или разрушат ее – во многом зависит от того, какие решения примут люди, управляющие новой технологией. Решать эти вопросы нужно срочно: и математическому сообществу, и компаниям-разработчикам, и всему обществу, которому предстоит столкнуться с похожими вызовами во многих других видах интеллектуального труда.
Как писали «Ведомости», из Anthropic уволился исследователь ИИ, чтобы не стать соучастником преступлений против человечества. Джейкоб Коксон занимался обучением нейросетей. Он заявил, что ИИ-компании прекрасно осознают, что новая технология представляет все большую угрозу для человечества.
Верховный суд России призвал адвокатов перепроверять документы, подготовленные с помощью ИИ. Поводом послужил случай, когда представитель одной из сторон сослался на разъяснение суда, сгенерированное искусственным интеллектом.
