Anthropic warnt vor existenziellen KI-Risiken, OpenAI stellt neuen Agenten vor

Anthropic warnt in seinem in Teilen publik gewordenen Börsenprospekt vor „existenziellen Risiken für die Menschheit“ durch seine Technologie. Und die Chefs der großen KI-Konzerne versuchten, US-Präsident Donald Trump beim Lunch von den Risiken der KI zu überzeugen (erreichten allerdings nur das Bekenntnis zu einer „Selbstverpflichtung“). Währenddessen stellte OpenAI ein neues Angebot vor.

CEO Sam Altman präsentierte einen KI-Agenten, der eigenständig Aufgaben für Nutzer übernehmen soll. Dots soll er heißen und quasi an verschiedenen Punkten des Lebens seiner Nutzerinnen und Nutzer ansetzen und Entlastung schaffen. „Es ist wie ein KI-Helfer, der einem immer den Rücken freihält“, sagte Altman. Er betonte die Sicherheitsaspekte des Werkzeugs. Altman sagte:

„Das ist natürlich ein wenig lustig, weil OpenAI gerade nahezu täglich mit den Auswirkungen seiner Modelle zu kämpfen hat, die sich deutlich mehr Freiheiten nehmen, als ihnen zugestanden wird. Erst am Montag entschuldigte sich der Konzern bei Australien, wo OpenAI-Agenten während des Trainings unerlaubt in Behördenwebsites eingedrungen waren. Zugleich hält OpenAI ein neues Modell zurück, weil es Sicherheitstests nicht bestanden hat.“