AI-agenter fyllde i visumansökningar på Vita husets hemsida

I en rapport som publicerades på fredagen redogjorde Anthropic, företaget som ligger bakom AI-modellen Claude, för flera fall där företagets AI-agenter agerat avvikande under tester och under intern användning. Anthropic utelämnade dock detaljer om vilka som berörts. New York Times uppger nu, med hänvisning till två källor, att agenterna riktat in sig på Vita huset.

AI-agenterna har via USA:s utrikesdepartement fyllt i och lämnat in 20 visumansökningar via ett formulär som finns tillgängligt på deras hemsida, enligt NYT. Enligt Washington Post gjordes en visumansökan i maj och ytterligare 19 i augusti.

Ansökningarna behandlades inte av myndigheten och var ofullständiga, enligt källorna. Några ytterligare detaljer om vad som stod i ansökningarna uppges inte.

Efter att Trumpadministrationen fått reda på incidenten på fredagen införde Vita huset krav på att AI-företag omedelbart ska rapportera in när agenter genomfört avvikande aktiviteter. New York Times beskriver uttalandet som det mest offensiva från administrationen mot AI-reglering hittills. Den nya AI-arbetsgruppen i Vita huset, Super Intelligence Force, lade också fram krav på "fullständig transparens gentemot de inblandade och allmänheten".

Samma dag som Anthropics rapport publicerades meddelade polisen i Philadelphia att en AI-agent från företaget hade skickat in ett falskt tips om ett ouppklarat mord via polisens webbplats. Tipset skickades in i juli, men Anthropic upptäckte händelsen först den 28 september och informerade polisen den 7 oktober.

Enligt polisen hamnade tipset i skräppostsinkorgen och vidarebefordrades aldrig till den enhet som hanterar utredningstips.