
AI-generated summary
Debatten om AI-risker har intensifierats efter att AI-forskaren Jacob Coxon lämnade Anthropic med ett varningsbrev om att tekniken kan utplåna mänskligheten. Flera teknikjättar har sedan uttryckt behov av reglering, vilket har mötts med skepsis om deras motiv.
Jag träffar Peter på ett kafé utanför Googles enorma komplex i New York, tre 15 våningar höga byggnader mellan 8:e och 9:e avenyn på Manhattan.
"En suspekt kille i svart tröja och grön keps", som han beskriver sig själv i ett sms.
Peter är från ett europeiskt land och jobbar här med forskning i framkant av AI-utvecklingen. Namnet är inte hans riktiga, vi använder det här för att han ska kunna tala öppet om sin arbetsplats.
På kort tid har diskussionen om farorna med artificiell intelligens spritt sig som en löpeld både här i USA och i stora delar av världen. Det började med AI-forskaren Jacob Coxons öppna avskedsbrev från Anthropic, och hans blodisande varning:
"Folk som bygger AI tror på allvar att detta kan ta död på oss alla mot slutet av det här årtiondet", skrev han på X.
Ett par dagar senare fick han medhåll från högsta håll i Anthropic, Open AI, X AI och Google – vars chefer efterlyste mer statlig reglering av sin egen bransch.
Peter var inte särskilt förvånad.
– Vi som jobbar med detta går runt och tänker på hotet hela tiden. Säkert mer än de flesta andra. Det har vi gjort länge, säger han.
– Och jag tror att när Anthropics chef Dario Amodei gick ut och ville ha mer reglering av AI, så var det allvarligt menat. Han är genuint orolig.
I debatten här i USA har vissa sagt att AI-jättarnas utspel om reglering bara är ett knep. Att det är ett sätt för dem att befästa sina ledande positioner, samtidigt som de har ryggen fri om utvecklingen skulle barka åt skogen. Då kan de säga "vad var det vi sa" och skjuta över skulden på politiker som inte gjorde något.
Peter verkar snarare se det som ett nödrop, ett tecken på att techjättarnas chefer är medvetna om vilken tragisk fälla de har hamnat i.
– De inser hur allvarligt läget är men kan inte göra något åt det.
På den nivå där Peter arbetar inom Google finns det ofta flera tusen sökande till varje plats. Många av dem som får jobben har doktorerat i datavetenskap eller matematik.
Det är högkompetenta, tänkande män och kvinnor.
Och om de nu misstänker att de bygger ett monster som kan ödelägga allt, hur kan de då fortsätta? Varför gör inte alla som Jacob Coxon?
– Jag tänkte nog så här när jag började med AI för tio år sedan: att detta kommer att förändra världen. Och att om man ska ha något inflytande över utvecklingen så måste man vara på insidan, säger Peter.
Han är orolig för vad AI kan ställa till med, men vill samtidigt varna för att allt tal om domedagen kan leda till att vi glömmer mer akuta problem.
– Det finns en skala här. Längst ut på ena sidan finns ett hot mot mänskligheten. Men på andra sidan har vi hot som är mycket närmare. Som att AI-jättarna samarbetar så nära med USA:s militär.
Det stämmer förstås. I Kina sker samma sak. Även i kriget i Ukraina används AI av båda sidor. Och i förra veckan kom nyheten att huthirebellerna i Jemen har försökt använda Claude, Anthropics AI-modell, för att bygga kontrollsystem till sina missiler.
Det är en skrämmande utveckling som kan leda till många människors död, om än inte total och omedelbar undergång. Men AI för också med sig mindre dödliga risker, påpekar Peter.
– Vi pratar mycket om hotet mot arbetsmarknaden till exempel. Vad gör vi när tio procent, eller 40 procent av alla jobb inte finns längre? Det kan mycket väl hända ganska snart.
Sådant skulle regeringar kunna fokusera på, menar han. Det vore konstruktivt. Ett resonemang som påminner om vad vissa nu säger om klimatkrisen: att den är ett faktum och att världen ska koncentrera sig på att skydda sig mot de ofrånkomliga effekterna av den.
Peter beskriver sin arbetsplats som extremt tävlingsinriktad. Här finns amerikaner förstås, men också européer och många från asiatiska länder som Indien och Kina. Ungefär 90 procent är män.
Inne i Googles komplex finns ett 30-tal restauranger med olika inriktning. Frukost, lunch och middag är gratis för alla anställda. Det finns flera gym, massageterapeuter, matlagningskurser, brädspelsrum och på Peters våning en flygel.
Fördelarna är många. Men jobbet är allt för många och pressen att prestera är hård, särskilt för medarbetare under 40.
– På mitt förra jobb inom AI brukade jag sova på kontoret två, tre nätter i veckan. Men här på Google har de inte så bra sovplatser tyvärr, säger Peter.
Han tjänar själv motsvarande 220 000 kronor i månaden, en lön som mycket väl snart kan fördubblas.
Vad tror han om sin egen framtid? Om nu mänskligheten överlever de närmaste tio åren.
– Det är svårt att säga. Risken finns faktiskt också att AI tar jobben från sådana som mig.
Läs mer:
Karl Dalén: Därför vägrar Trump lyssna på varningarna om AI
AI-jättarna varnar själva för domedagen – bara Trump tycks obekymrad
AI outlook — possibilities, not facts
Regeringar kommer att öka trycket på teknikföretag att acceptera stärkta AI-regleringar inom de närmaste två åren.
Likely · Within years
Diskussionen om AI:s påverkan på arbetsmarknaden kommer att bli en central fråga i valrörelser i flera västländer inom 18 månader.
Possible · Within years

When Chinese President Xi Jinping meets the US leadership during his US trip, AI development is one of the hottest topics. Despite mistrust and a fierce race between the superpowers, there is a common interest in discussing security risks.

Following warnings from defected AI researchers such as Jacob Coxon that AI could pose an existential threat, the EU's AI law has received new support. While US President Donald Trump dismisses the risks and relies on his own intelligence, the EU has responded with omnibus packages to ease the regulatory burden and now plans to invite AI labs to discussions on slowing development.

The article criticizes AI companies for exaggerating the risk of superintelligence and human extinction as a way to distract from real dangers such as AI-generated disinformation, cyberattacks and threats to democracy and creativity, while themselves pursuing power and control.

Several prominent AI companies and researchers, including Dario Amodei of Anthropic, Sam Altman of Open AI, and Elon Musk, have recently called for a slow development of artificial intelligence due to concerns about cyberattacks by AI agents and the approach of artificial general intelligence (AGI). At the same time, Swedish experts express skepticism about the risk of self-improving superintelligence and believe that the focus should be on AI's access to reality rather than theoretical dangers.
Residents of Svedjan and nearby villages outside Malå report erratic and often non-existent mobile phone reception. They have contacted operators and turned to the municipality, which via Region 10 has written to the government and PTS. The municipal committee describes the problem as particularly hard for sparsely populated areas, while the civil minister recognizes it as a social problem but believes that improvements take time due to Sweden's size and sparseness.

An examination of how people develop deep emotional relationships with AI chatbots, from Richard Dawkins to tragic cases like Jonathan Gavalas, and what it says about human loneliness.