КИШИНЕВ, 21 сен – РИА Новости. ИИ-ассистент румынского Libra Internet Bank назвал клиента "идиотом" во время переписки, после чего банк заявил о дополнительных ограничениях для предотвращения подобных случаев, пишут румынские СМИ.
Инцидент произошел во время общения пользователя со встроенным чат-ботом Lia, разработанным с использованием технологий американской компании OpenAI (разработчики ChatGPT). По словам клиента банка, после продолжительного разговора он написал ассистенту, что "теряет с ним время", после чего получил оскорбительный ответ.
Скриншот переписки клиента банка с чат-ботом Lia
"Хочу, чтобы ты поговорил с человеком, а не со мной, идиот. Сейчас я переведу разговор одному из наших коллег, чтобы предоставить необходимую поддержку", - ответил ИИ ассистент, согласно обнародованной клиентом переписке, скриншот которой опубликовали румынские СМИ, включая издание Adevarul ("Правда"), сайт телеканала - Antena 3 и др.
В Libra Internet Bank объяснили, что системы искусственного интеллекта в редких случаях могут воспроизводить язык, с которым сталкиваются в ходе общения. Банк подчеркнул, что подобное поведение виртуального помощника недопустимо.
"Lia не должна перенимать "плохую" сторону человеческого поведения независимо от неприемлемости обращения, с которым она столкнулась", - говорится в сообщении банка.
После инцидента компания сообщила о введении дополнительных запретов, призванных исключить неподобающие взаимодействия, и принесла извинения.
