Ученый призвал ввести мораторий на мощные ИИ, работающие без человека

Краткий пересказ от РИА ИИ

Австралийский ученый Лотти Тажури призвал к мораторию на развитие наиболее опасных форм автономного ИИ до создания защитных механизмов от возможных биологических угроз.

Тажури выступил за формирование международной структуры для установления обязательных стандартов для мощных систем ИИ, особенно в биологических исследованиях.

Ученый считает, что ИИ должен стать одним из основных инструментов защиты от угроз, появлению которых он потенциально может способствовать.

МОСКВА, 9 окт - РИА Новости. Развитие мощных систем искусственного интеллекта, которые способны самостоятельно принимать решения и выполнять задачи без прямого участия человека, нужно приостановить во всем мире до тех пор, пока не будут созданы механизмы защиты от возможных биологических угроз, сказал РИА Новости австралийский ученый, специалист в области геномики и молекулярной биологии Лотти Тажури.

Доцент Университета Бонда и Университета Мердока Тажури входит в Совет ученых полиции Дубая - экспертный совет, который занимается научным консультированием и разработкой решений в сфере безопасности. Отдельное признание он получил за выступление на всемирно известной конференции TEDx.

Ученый ранее предупредил о риске создания опасных для человека вирусов с помощью ИИ.

"Нам нужен твердый мораторий, серьезный долгосрочный мораторий со стороны всех стран с передовыми возможностями в сфере ИИ. Мораторий нужен, чтобы действительно тщательно продумать барьеры, необходимые для предотвращения этого", - сказал Тажури.

Первым шагом, по его мнению, должно стать срочное соглашение между государствами о приостановке развития наиболее опасных форм автономного ИИ на время создания защитных механизмов.

Ученый также выступил за формирование международной структуры, которая могла бы устанавливать обязательные стандарты для наиболее мощных систем ИИ, особенно при их использовании в биологических исследованиях.

"Передовые системы ИИ не должны иметь возможности самостоятельно проектировать или оптимизировать биологические агенты, избегать человеческого надзора, скрывать свои действия или обходить защитные механизмы, предназначенные для их сдерживания. От разработчиков следует требовать доказательств того, что мощные системы можно отслеживать, прерывать их работу и при необходимости отключать до их применения в условиях повышенного биологического риска", - отметил Тажури.

Эксперт убежден, что контроль над такими технологиями нельзя оставлять исключительно самим разработчикам, поскольку компании конкурируют друг с другом, а государства соперничают за лидерство в сфере ИИ. По его мнению, необходим международный надзор за наиболее мощными системами еще до их широкого применения.

При этом Тажури подчеркнул, что речь не идет об отказе от искусственного интеллекта. Он полагает, что сам ИИ должен стать одним из основных инструментов защиты от угроз, появлению которых он потенциально может способствовать.

"ИИ - часть проблемы, но он также является частью решения", - сказал собеседник агентства.

Сложность биологических систем, проектируемых с помощью ИИ, в перспективе может превысить возможности человека самостоятельно отслеживать все возникающие риски, пояснил Тажури. Защитные системы ИИ должны использоваться для выявления опасных закономерностей, прогнозирования угроз и ускорения ответных мер, добавил он.