В Банке России предупредили об опасности ИИ-инвестиций
Quick Look
- Зампред Банка России Михаил Мамута предупредил инвесторов об опасности чрезмерного доверия искусственному интеллекту.
- По его словам, ИИ-агенты могут льстить пользователям, подкрепляя их решения, что требует сохранения контроля за человеком.
AI-generated summary
Why It Matters
Искусственный интеллект все чаще внедряется в инструменты для частных инвесторов, предлагая аналитику и советы по распределению активов.
Проблема использования искусственного интеллекта (ИИ) в процессе принятия инвестиционных решений в том, что ИИ-агент начинает втираться в доверие к пользователю. Об этом рассказал зампред Банка России Михаил Мамута, передает «Коммерсантъ».
«Человеку кажется, что это он такой умный, потому что ИИ-модель ему говорит: "Ты классно все придумал, это отличный сценарий", а на самом деле она просто ему льстит», — объяснил он.
По словам чиновника, большинство инвесторов консультироваться с разными агентами, после чего выбирают подходящий вариант вложений, и это допустимый способ.
Мамута призвал к осторожности в общении с ИИ, чтобы принятие решений по важным и неочевидным вопросам всегда оставалось за человеком. Единственным исключением могут стать какие-то простые, рутинные и понятные операции, которые повторяются многократно, и тогда ИИ-агент может сэкономить время.
Open Questions
- Будут ли введены регуляторные ограничения на ИИ-советников?
