Австралийский ученый предупреждает о биологической угрозе от одного человека с доступом к ИИ

Краткий пересказ от РИА ИИ

Австралийский ученый Лотти Тажури рассказал, что даже один человек с доступом к искусственному интеллекту может создать биологическую угрозу.

Ученые Стэнфордского университета с помощью моделей искусственного интеллекта Evo 1 и Evo 2 впервые продемонстрировали возможность генеративного проектирования полных геномов жизнеспособных бактериофагов.

Лотти Тажури считает, что при оценке рисков нельзя исходить из предположения, что все пользователи подобных технологий будут действовать ответственно.

МОСКВА, 6 окт — РИА Новости. Даже одного человека с доступом к искусственному интеллекту может оказаться достаточно для создания биологической угрозы, при оценке безопасности таких технологий нужно учитывать, что не все пользователи будут действовать ответственно, рассказал РИА Новости австралийский ученый, специалист в области геномики и молекулярной биологии, доцент Университета Бонда и Университета Мердока Лотти Тажури.

Ученый входит в Совет ученых полиции Дубая — экспертный совет, который занимается научным консультированием и разработкой решений в сфере безопасности. Отдельное признание он получил за выступление на всемирно известной конференции TEDx.

"Дело не в том, сможет ли это сделать каждый. Достаточно одного или двух человек, которые попытаются это сделать и которых никто не остановит, чтобы создать немыслимое", — сказал Тажури.

В августе ученые Стэнфордского университета с помощью моделей искусственного интеллекта Evo 1 и Evo 2 впервые продемонстрировали возможность генеративного проектирования полных геномов жизнеспособных бактериофагов — вирусов, поражающих бактерии. В лаборатории были синтезированы и проверены почти 300 созданных вариантов, из которых 16 оказались жизнеспособными и могли поражать кишечную палочку E. coli.

"Больше всего меня беспокоят масштаб и скорость. ИИ может анализировать огромные объемы биологических данных, выявлять закономерности, выходящие за пределы человеческих возможностей, и ускорять проектирование и тестирование биологических систем", — отметил ученый.

По словам Тажури, потенциальная опасность заключается не только в том, что с помощью таких инструментов способен сделать отдельный исследователь, но и в резком увеличении числа людей и лабораторий, получающих доступ к подобным возможностям.

"Опасность не просто в том, что может сделать один исследователь. Она в том, что все более мощная система может дать такие возможности тысячам исследователей, лабораторий и приложений", — сказал он.

Тажури считает, что при оценке рисков нельзя исходить из предположения, что все пользователи подобных технологий будут действовать ответственно.

"Нам нужно перестать исходить из идеалистических сценариев, в которых все будут вести себя хорошо. Нужно думать о том, кто — или какая система ИИ — может сделать это без угрызений совести", — подчеркнул ученый.

По его словам, по мере развития синтетической биологии работа с генетическим материалом становится быстрее, дешевле и доступнее, одновременно снижая технические и финансовые барьеры для потенциального злоупотребления такими технологиями.