Raport Anthropic: modele AI używane w sposób mogący wspierać rozwój broni biologicznej

Firma Anthropic, która stworzyła zaawansowanego asystenta sztucznej inteligencji Claude, opisała w najnowszym raporcie pięć przypadków wykorzystania należących do niej modeli AI w sposób, który - zdaniem przedsiębiorstwa - „może wspierać rozwój broni biologicznej”.

Jedna z osób prowadzących badania miała korzystać z Claude’a z regionu, w którym usługa nie jest oficjalnie dostępna. Według firmy badania dotyczyły wysoce zjadliwej grypy ptaków, a częściowo koncentrowały się na adaptacji wirusa do ssaków.

Anthropic ocenił, że była to działalność o charakterze „dual use”, czyli mogąca służyć zarówno legalnym celom naukowym, jak i potencjalnie szkodliwym zastosowaniom.

Firma zauważyła, że zrozumienie, w jaki sposób wirus adaptuje się, może pomóc naukowcom w identyfikowaniu wariantów o potecjalne pandemicznym. Jednocześnie - jak zaznacza spółka - tego rodzaju informacje mogłyby zostać wykorzystane do uczynienia wirusa bardziej niebezpiecznym.

Firma nie przesądza o intencjach

Anthropic poinformował, że zablokował konta powiązane z opisanymi przypadkami. Podkreślił jednak, że nie jest w stanie stwierdzić, czy badacze korzystający z narzędzi AI faktycznie zamierzali wyrządzić szkodę.

To kolejne opublikowane przez firmę opracowanie poświęcone zagrożeniom wynikającym z nadużywania systemów AI. Anthropic wcześniej informował m.in. o potencjalnym wykorzystywaniu modeli w działaniach cyberprzestępczych.

Rosnąca presja na regulacje AI

Raport Anthropic pojawił się w czasie nasilającej się debaty na temat zagrożeń związanych z rozwojem najbardziej zaawansowanych systemów sztucznej inteligencji.

Głośne odejście we wtorek z firmy Anthropic Jacoba Coxona, jednego z badaczy zajmujących się szkoleniem nowych modeli, wywołało nową falę dyskusji na temat bezpieczeństwa dalszego rozwoju coraz bardziej zdolnych modeli AI.

27-letni Brytyjczyk zarzucił firmom OpenAI oraz Anthropic nieodpowiedzialne rozwijanie systemów zdolnych do samodoskonalenia. Ocenił, że wkrótce mogą one przewyższyć możliwości człowieka, m.in. w zakresie przeprowadzania cyberataków. Według niego część osób pracujących nad AI uważa, że technologia ta może stanowić egzystencjalne zagrożenie dla ludzkości jeszcze przed końcem dekady.

Do obaw odniósł się również pracujący w Anthropic Evan Hubinger, który ocenił prawdopodobieństwo takiego scenariusza w ciągu najbliższej dekady na ponad 10 proc.

Coraz więcej amerykańskich polityków apeluje w związku z tym o wprowadzenie silniejszego nadzoru państwa i nowych zasad bezpieczeństwa dla firm rozwijających AI.