ИИ не подчиняется старым правилам кибербезопасности, заявил эксперт

Традиционные подходы к кибербезопасности, основанные на жестких ограничениях, не работают с ИИ-агентами, сообщил сооснователь IT-компании Positive Technologies Юрий Максимов.

"Давайте агенту нельзя будет делать это, это и это. Но агент, он не человек, он терпеть не будет. Он просто начинает тупить и не делать свою работу. То есть старые подходы ограничений ты к ИИшке применить не можешь", - сказал он на пленарной сессии форума "Цифровые решения".

Поэтому, как отметил Максимов, задача формулируется иначе - вместо запретов нужно добиться, чтобы агент был верен поручению человека. "То есть он делал все то, что соразмерно тому, что я поручил, и не делал того, что выходит за разумные границы всего этого", - пояснил он.

При этом, по словам специалиста, решить эту задачу без самого искусственного интеллекта невозможно - человек не сможет анализировать все, что делает агент. Поэтому, по его словам, создается схема из нескольких ИИ: одна система, к примеру, строит виртуальный банк, вторая пытается его скомпрометировать, третья учится обнаруживать атаку. Все они замкнуты в цепочку и постоянно улучшаются, а во главе всей конструкции стоит человек.

Отдельно он затронул проблему ответственности. По его словам, когда человек поручает задачу агенту, а тот делает что-то не так, человек может снять с себя ответственность. Однако такой подход не подойдет ни государству, ни бизнесу, указал эксперт.