ИИ — худший финансовый советник: ошибается в 57% ответов, а в сложных вопросах — почти всегда

Использование нейросетей для решения вопросов с деньгами может обернуться серьезными провалами и даже, как бы пафосно это ни звучало, настоящими финансовыми катастрофами. Об этом свидетельствует свежий отчет технологической компании Saturn, который показывает разгромные результаты: популярные чат-боты откровенно фейлят при элементарных задачах. В среднем модели путаются и выдают неверные ответы в 57% случаев, а когда дело доходит до сложных математических расчетов, процент брака взлетает почти до сотни.

В ходе масштабного эксперимента исследователи задали 18 различным моделям больше 10 тысяч вопросов. В список попали как бесплатные, так и платные версии ChatGPT, Gemini, Claude, Copilot и Grok. Результаты оказались плачевными: алгоритмы постоянно путали цифры, игнорировали реальные налоговые правки, а в самых запущенных случаях просто выдумывали несуществующие законы.

Провал на сложных задачах: 99% ошибок и фантастические штрафы

Если простые тексты нейросети пишут легко, то в многоходовых вычислениях они теряются практически полностью. При решении задач с несколькими математическими действиями ИИ ошибался в среднем в 88% случаев. Отдельные же модели умудрились завалить 99% сложных расчетов, наглядно доказав, что доверять им подсчет налогов или сложных процентов — чистой воды авантюра.

Один из самых диких сбоев продемонстрировала бесплатная модель Claude Haiku 4.5. Консультируя пользователя по правилам налогообложения пенсий, бот придумал несуществующее правило. Если бы реальный британский вкладчик поверил этой галлюцинации, ему пришлось бы заплатить штраф британской налоговой службе в размере 17,5 тысяч фунтов стерлингов. В другом эпизоде чат-бот на голубом глазу заявил, что при переезде за границу можно тупо забить на выплату студенческого кредита.

Платный доступ и флагманские модели: спасает ли дорогая подписка

Эксперимент Saturn показал четкую закономерность: платные версии работают лучше бесплатных, а свежие релизы заметно превосходят прошлые поколения. Самый высокий результат продемонстрировала продвинутая модель Claude Opus 5 в специальном режиме рассуждений. Но даже эта самая умная и дорогая версия умудрилась накосячить в 39% ответов.

Эксперты подчеркивают, что чат-боты пока пригодны разве что для чернового исследования или баз бюджетирования — например, разбить доходы и расходы по категориям или подсказать, где именно человек переплачивает. Однако генеральный директор Saturn Амаль Джолли прямо предупреждает: миллионы людей продолжают просить у алгоритмов прямые финансовые советы, получая опасную ахинею, которая бьет по их реальным кошелькам. И что самое интересное, так это то, что никакие потери их ничему не учат.

Юридический вакуум: никто не возместит вам сгоревшие деньги

Главная проблема ИИ-консультаций заключается в полном отсутствии регуляции. Когда человек обращается к официальному финансовому советнику, его права защищены законом: за грубые ошибки специалиста можно судить или получить компенсацию через страховую.

В случае с чат-ботом пользователь остается один на один со своими убытками — претензии предъявлять просто некому. Британский регулятор FCA уже начинает разрабатывать правила для ИИ-сервисов, но пока чиновники раскачиваются, риски растут. При этом спрос на утренние подсказки от нейросетей только увеличивается, создавая опасную тенденцию на рынке.

Слепая вера в алгоритмы: почему люди выбирают рекомендации вместо мозгов

Парадокс в том, что пользователи сами рады переложить ответственность на алгоритмы. По данным исследования FCA, каждый пятый взрослый британец готов доверить искусственному интеллекту принятие финансовых решений за себя. Самый высокий уровень доверия наблюдается именно в наиболее сложных сферах — долгах, пенсиях и инвестициях, где люди не хотят разбираться сами. Молодые инвесторы и вовсе доверяют нейросетям больше, чем экспертам из телевизора или профильным блогерам.

В России народ действует чуть более осознанно, но тренд на доверие алгоритмам тоже очевиден. По данным ВЦИОМ, 65% российских потребителей при онлайн-покупках учитывают рекомендации алгоритмов, а четверть делает это постоянно. Впрочем, 59% россиян готовы использовать подборки как подсказку, но конечное решение все же предпочитают принимать сами, не отдавая свои деньги на откуп машинным ошибкам.

Оригинал статьи тут