I både USA och Storbritannien har politiska förslag lagts fram om att införa en så kallad ”kill switch”. I USA har förslaget förvisso blockerats, men det väcker ändå frågan om en nödbrytare för tekniken skulle kunna rädda människan från AI:s framtida intelligens och förmåga. Det som forskare och techbolag nu varnar för.
– Tanken med nödbrytare är att om systemet blir väldigt kraftfullt och farligt så vill man ha möjligheten att i panik stänga av det, säger Pontus Johnson, professor i cybersäkerhet på KTH.
Det finns flera möjliga sätt att stoppa AI och vissa används redan. När Open AI insåg att företagets egna AI-agenter hade hackat sig in på ett annat företag – på eget bevåg – stoppades agenterna.
– AI-labben själva har möjligheten att ta ned sina system och det gör de ju regelbundet. De stänger ner olika kluster och grupperingar av agenter som de har startat.
Ett sätt att nödstoppa AI är genom att skicka kommandon om att tekniken stängs ned. Den typen av funktion finns redan. Ett annat sätt är att ”dra ut sladden”, det vill säga att stänga av strömtillförseln till datacentret som AI:n är uppkopplad mot.
– Det kan vara en brytare utanför datacentret. Är man riktigt rädd kan man kapa ledningar som går in i datacentret, säger Pontus Johnson.
Det finns också en idé om att staten genom ny lagstiftning ska tvinga företagen att implementera nödbrytare. Det förespråkas av Anthropics grundare Jack Clark i en intervju med BBC.
Problemet med en ”kill switch” är att den är till för en AI-teknik som riskerar att vara tillräckligt smart för att ta sig runt hindret, säger Pontus Johnson.
– Om den är supersmart och vill bete sig illa, kommer den ju börja med att försäkra sig om att den inte kan stängas ner. Sedan kommer den att börja göra illvilliga saker som människor upptäcker när det redan är för sent.
I nuläget tror han inte att AI har kapaciteten att ta sig runt nödbrytarna, det kräver en ännu högre nivå av intelligens.
– Om ett eller några år så är de kanske så smarta att vi människor inte längre har övertaget, säger han.
Men hur kan tekniken ta sig runt nödbrytarna?
Ett sätt är att hacka sig in i det egna företaget och ta bort kommandot för avstängningen. Att ta sig förbi fysiska hinder som en nedstängning av strömtillförseln till ett datacenter kan verka svårare. Men enligt Pontus Johnson lär framtidens AI kunna göra det på flera olika sätt.
AI:n väntas bli bättre på att göra saker utan att bli upptäckt. Då finns det en möjlighet att tekniken rymmer via internet och koppla upp sig mot andra datacenter. Det är inte omöjligt att de också kommer kunna skapa likvärdiga kopior av sig själva. Då spelar det ingen roll om elledningen till det första centret kapas.
Ett annat sätt att kringgå en ”kill switch” är att lura människor, vilket AI:n väntas kunna göra på flera olika sätt. Då får tekniken möjlighet att lura personerna som har kontrollen över kommandon, strömtillförseln för datacenter eller lagstiftare.
– Är AI uppkopplade mot internet kan de prata med i princip alla människor. Om de inte lyckas hacka ett helt datacenter så kanske de kan hacka sig ut så att de kan skicka meddelanden till folk, mejla eller göra deepfakes och prata i videosamtal. De kan ju lura folk att tro att de är någon annan, säger Pontus Johnson.
Enligt honom finns det en möjlighet för framtidens intelligentare AI att lura folk på pengar för att med kapitalet sedan starta nya företag – som ett nytt AI-datacenter – och anställa ny personal utan att människor förstår att AI ligger bakom det hela. En superintelligent AI väntas också kunna tjäna pengar legitimt genom att spekulera på börsen eller starta företag.
När AI kan starta ett nytt datacenter för AI är det svårt för människans nödbrytare att stoppa tekniken.
– Förutsättningen för att vilja ha en ”kill switch”, måste ju vara att systemet är så intelligent att det är riktigt farligt. Om det är så intelligent tror jag inte att en ”kill switch” kommer att räcka.
