Глава РАН заявил, что контролировать ИИ человеку станет сложнее и нужно доверить это другому ИИ

Глава Российской академии наук Геннадий Красников заявил, что развитие искусственного интеллекта будет ускоряться, и контролировать его человеку станет сложнее.

Для обеспечения безопасности необходимо создавать модели, в которых один ИИ контролирует другой.

Основой искусственного интеллекта являются языковые модели, и в этом направлении предпочтительны решения отечественных компаний, при этом для прикладных аспектов нужны более точные модели, обученные на больших базах данных.

МОСКВА, 27 сен - РИА Новости. Технологии искусственного интеллекта продолжат развиваться, и человеку будет сложнее его контролировать - этот процесс нужно доверить другой модели ИИ, заявил РИА Новости глава Российской академии наук, ученый в области микро- и наноэлектроники Геннадий Красников.

"Остановить развитие искусственного интеллекта невозможно, и на определенном этапе человеку будет сложнее контролировать это развитие. Но это должен делать другой искусственный интеллект", - сказал академик.

"Мы должны создавать такие модели, когда один ИИ контролирует другой ИИ, может быть, еще третий для того, чтобы обеспечить большую безопасность для себя в этом вопросе", - добавил Красников.

Нужно очень внимательно анализировать уязвимости фреймворков, из которых складываются определенные языковые модели, указал глава РАН. Поэтому необходимы правила, регламентирующие создание различных методов машинного обучения и прикладных моделей для искусственного интеллекта.

Основой искусственного интеллекта являются языковые модели, они нужны для создания суверенного ИИ, и в этом направлении предпочтительны решения отечественных компаний, пояснил Красников.

"А когда речь идет о прикладных аспектах - например, о создании лекарств от многих тяжелых болезней, то там уже должны быть более точные модели, обученные на больших базах данных. Они должны быть на порядок точнее, чем языковые модели для этих задач", - сказал академик. И здесь нужно иметь лучшие модели - либо создавать собственные, либо брать за рубежом. Единственное требование - они все должны быть доверенными, то есть и защищенными, и дающими правильные результаты, заключил глава РАН.

Ранее в публичном пространстве развернулась дискуссия о связанных с ИИ рисках. Пара сотрудников компании Anthropic, занимающейся разработками в сфере искусственного интеллекта, поделились мнением, что через 10 лет ИИ с вероятностью 10% может уничтожить человечество.