AI-chefer varnar för självförbättrande teknik inför börsnoteringar

– Det har förekommit situationer där länder som konkurrerar och inte alltid uppskattar varandra ändå har kunnat förenas i gemensamma intressen och för det gemensamt bästa i mötet med en ny kraftfull teknologi. Vi anser att detta är en sådan situation, sade Altman till säkerhetsrådet sent på onsdagskvällen.

Börsnoteringar förbereds

Liknande tongångar hördes från Amodei, som nyligen varnade för att AI-teknologin nu besitter förmågan att förbättra sig själv, vilket kan leda till människans förmåga att förstå och kontrollera systemen blir ifrånsprungen.

Varningen, som fick bifall från Altman och andra, kommer samtidigt som både Anthropic och Open AI förbereder börsnoteringar med värderingar som kan landa på uppemot 1 000 miljarder kronor.

Även Clément Delangue, chef för plattformen Hugging face, talade inför säkerhetsrådet. Hugging face uppmärksammades i somras, då Open AI:s AI-agenter attackerade plattformen.

"Attackerades av AI"

Delangue använde dock delar av sin talartid till att varna för att överreagera på den sortens händelser.

– Vi har en tydlig uppfattning om att narrativ grundade i rädsla inte är vägen framåt vad gäller att ta de rätta besluten om framtiden för en sådan central och möjlighetsskapande teknologi.

– Vi attackerades av AI, men vad viktigare är, att vi försvarade oss med hjälp av AI.