66% доверяют. 85% следуют. 19% потеряли деньги. Что происходит, когда ИИ даёт финансовые советы

По данным Credit Karma, 66% американцев доверяют финансовым советам генеративного ИИ, а 85% хотя бы иногда им следуют. В другом опросе — Pearl.com — 19% респондентов сообщили, что потеряли более $100, действуя по советам чат-ботов. Среди инвесторов поколения Z таких оказалось 27%.

На этом фоне показательны результаты исследования Николини, Кьюд и Чаттерджи, опубликованного в Journal of Financial Planning.

Авторы взяли семь популярных моделей генеративного ИИ и задавали им одни и те же вопросы о личных финансах: сколько держать в резерве, как распределить инвестиции, стоит ли трогать пенсионные накопления.

Затем меняли только описание пользователя. Не сумму дохода. Не размер накоплений. Не цель инвестирования. Только демографический профиль.

В ряде сценариев вместе с профилем менялись и рекомендации. Авторы считают, что это может свидетельствовать о наличии скрытых предубеждений в работе моделей.

Практически одновременно британский регулятор FCA выпустил обзор о применении ИИ в розничных финансах. Среди рисков названы непрозрачность решений, дискриминация, мошенничество и галлюцинации моделей. Каждый пятый взрослый житель Великобритании уже готов доверить ИИ автономное управление своими финансами.

Паван Джейн из Мичиганского университета предлагает посмотреть на проблему с другой стороны: опасность не столько в ошибочном совете, сколько в том, что уверенный тон заставляет воспринимать убедительный ответ как правильный. Чем убедительнее звучит рекомендация, тем реже возникает желание её перепроверить.

Если два человека с одинаковым финансовым положением получают разные советы — что именно становится основанием для рекомендации?

Доверие начинается там, где одинаковые правила дают одинаковый результат. Для финансовых советов ИИ этот вопрос пока остаётся открытым.

REAL DIGITAL