Сооснователь Российского квантового центра Руслан Юнусов призвал создать механизмы защиты от угроз ИИ

Международному сообществу необходимо всерьез задуматься о создании специальных механизмов защиты от угроз со стороны искусственного интеллекта, который все чаще выходит из-под контроля, такое мнение высказал РИА Новости сооснователь Российского квантового центра Руслан Юнусов в кулуарах XXIII заседания Международного дискуссионного клуба "Валдай".

В последнее время в мире все чаще звучат опасения по поводу угроз, которые потенциально может представлять ИИ, среди них, в частности, выход технологии из-под контроля. Глава ИИ-гиганта Anthropic Дарио Амодей ранее в сентябре призвал замедлить разработку более мощных моделей искусственного интеллекта из соображений безопасности. Согласие с этой идеей уже выразили Илон Маск, которому принадлежит компания xAI, а также глава OpenAI Сэм Альтман.

"Угрозы со стороны ИИ перестают быть гипотетическими. Современные модели искусственного интеллекта столь высоки, что имеют, допустим, попытки сопротивления отключению. Уже известны также примеры того, как они скрывают и даже намеренно искажают информацию. Есть модели, способные понимать, что они находятся на стадии тестирования, и в этот момент начинать скрывать какие-то свои свойства, которые они проявят во время эксплуатации", - отметил Юнусов.

По его словам, это представляет большой риск, так как это не просто ложь, а уже похоже на откровенный шантаж со стороны ИИ.