Der Microsoftgründer warnt in einem Interview, es sei „absolut“ notwendig die Technologie durch Gesetze zu regulieren. Unterdessen wird bekannt: KI-Agenten haben 53 Bilder von Chat-GPT-Nutzern geleakt.
Alle wichtigen Entwicklungen im Newsblog
Für unseren Newsblog verwenden wir neben eigenen Recherchen Material der Nachrichtenagenturen dpa, Reuters, epd, KNA und Bloomberg.
Wichtige Updates
Gates: KI könnte Tod einer Milliarde Menschen verursachen
Open-AI-Agent hackt australisches Regierungsportal
Trump will Begriff KI mit „Superintelligenz“ ersetzen
Australiens Premier plädiert für ein Handeln im Interesse der Menschheit
Donald Trump kündigt Einführung einer "AI Force" an
Gates: KI könnte Tod einer Milliarde Menschen verursachen
Microsoft-Mitgründer Bill Gates sieht die Gefahr, dass Künstliche Intelligenz zum Tod von einer Milliarde Menschen führen könnte. Deswegen ist er für eine gesetzliche Regulierung der Technologie, wie der 70-Jährige in einem TV-Interview sagte.
„KI ist sicherlich mächtig genug, um Ereignisse voranzutreiben, die eine Milliarde Todesfälle verursachen“, antwortete Gates dem US-Sender NBC auf eine Frage zu aktuellen Warnungen, die Technologie könne die Menschheit auslöschen. „Es gab noch nie eine so mächtige Waffe wie Menschen mit bösen Absichten, die die neusten KI-Werkzeuge verwenden“, sagte er. Zugleich schränkte Gates ein, dass es „ziemlich schwer“ wäre, „100 Prozent“ der Menschen zu treffen.
„Es gab noch nie eine so mächtige Waffe wie Menschen mit bösen Absichten, die die neusten KI-Werkzeuge verwenden.“
Microsoft-Gründer Bill Gates
Wegen der Gefahren sei es „absolut“ notwendig, in Washington Gesetze dazu zu verabschieden, betonte der Microsoft-Mitgründer. Behörden und Politiker müssten sich auf verpflichtende Sicherheitsmaßnahmen und Aufsicht über die Technologie einigen. „Niemand glaubt, dass Selbstregulierung ausreicht“, sagte Gates. Zuletzt hatten nach eigenständigen Hacking-Attacken durch KI-Software auch führende Labore wie Anthropic und der ChatGPT-Entwickler OpenAI sich dafür ausgesprochen, die Entwicklung Künstlicher Intelligenz auszubremsen.
Lesen Sie zu diesem Thema auch:
Open AI: KI-Agenten haben 53 Bilder von Chat-GPT-Nutzern geleakt
Zwei Monate nach einem ersten Hacker-Vorfall durch seine eigene künstliche Intelligenz (KI) kämpft der Chat-GPT-Entwickler Open AI mit einem neuen Datenleck. Wie das US-Unternehmen am Freitag mitteilte, haben sogenannte KI-Agenten 53 Bilder von Chat-GPT-Nutzern geleakt. Ob es sich dabei um echte Personen oder KI-generierte Bilder handelte und wann diese gepostet wurden, ließ Open AI in seiner Stellungnahme offen. Die betroffenen Bilder seien größtenteils gelöscht worden, zudem dringe man bei Hosting-Anbietern auf die Entfernung der restlichen Daten. Die KI-Programme hatten Zugriff auf die Bilder, da Open AI für das Training seiner Modelle auf anonymisierte Nutzerdaten zurückgreift. Zwei mit dem Vorgang vertraute Personen sagten der Nachrichtenagentur Reuters, das Unternehmen versuche noch immer, das gesamte Ausmaß der unerwünschten Aktivitäten zu erfassen. Open AI selbst erklärte, die interne Überprüfung werde noch Monate in Anspruch nehmen.
Open-AI-Agent hackt australisches Regierungsportal
Ein autonomer KI-Agent des US-Unternehmens Open AI hat in Australien ein Regierungsportal gehackt. Die künstliche Intelligenz habe sich unbefugten Zugang zu einem Medicare-Portal verschafft, das unter anderem Statistiken über Australiens staatliche Krankenversicherung bereitstellt, sagte Premierminister Anthony Albanese in New York. Der Vorgang sei „inakzeptabel“, betonte der Regierungschef.
Albanese erklärte am Rande der UN-Generalversammlung, er habe bereits mit Open-AI-Chef Sam Altman gesprochen und dabei Australiens „äußerste Besorgnis“ über den Vorfall zum Ausdruck gebracht. Zugleich habe er seine Enttäuschung darüber geäußert, dass es „viel zu lange“ gedauert habe, bis Open AI die australische Regierung informiert habe: Der Vorfall habe sich bereits im Juni ereignet, sei aber erst im September den Behörden mitgeteilt worden – per E-Mail an ein öffentliches Postfach.
Wie viele Daten tatsächlich abgerufen wurden und auf welche Dateien der Agent zugreifen konnte, wird derzeit noch ermittelt. Eine forensische Untersuchung soll klären, was genau passiert ist und ob weitere Regierungssysteme betroffen waren.
Open AI teilte mit, man habe bei einer internen Evaluierung Aktivitäten auf mehreren australischen Regierungsseiten und in Regierungsdiensten festgestellt. Die Modelle hätten dabei versucht, Antworten und verfügbare Statistiken zu Fragen über Australien zu finden. „Dabei haben unsere Modelle Aktionen ausgeführt, die wir nicht beabsichtigt hatten“, sagt ein Sprecher des Unternehmens.
Vor dem UN-Sicherheitsrat sprachen Open-AI-Chef Sam Altman und Anthropic-Gründer Dario Amodei über die Risiken von KI und fordern eine Regulierung ihrer Branche:
Bei Medicare handelt es sich um Australiens staatliche Krankenversicherung. Das betroffene Portal von Services Australia enthält nach Regierungsangaben unter anderem Informationen zu Ausgaben und anderen Statistiken. Der KI-Agent griff demnach auf öffentliche und nicht öffentliche Dateien zu. Persönliche Informationen seien nach bisherigem Kenntnisstand nicht abgerufen worden, Einzelpersonen seien offenbar nicht betroffen, erklärte Albanese.
Der Vorgang begann mit einer eigentlich harmlosen Aufgabe: Das KI-Programm sollte medizinische und gesundheitliche Statistiken recherchieren. Bei mehreren australischen Regierungsseiten bewegte es sich nach Angaben von Vize-Premier Richard Marles so, wie es auch ein normaler Nutzer tun würde. Beim Medicare-Portal wurden die angeforderten Informationen jedoch nicht herausgegeben – woraufhin der Agent den Zugang auf anderem Weg erlangte. „Der KI-Agent fand einen Weg, die Sperren zu umgehen – er wollte ein Nein gewissermaßen nicht akzeptieren“, erklärte Albanese.
Trump will Begriff KI mit „Superintelligenz“ ersetzen
US-Präsident Donald Trump will den Begriff „Superintelligenz“ anstelle der gewohnten Bezeichnung Künstliche Intelligenz etablieren. In amerikanischen Regierungsdokumenten werde künftig von Superintelligenz die Rede sein – und hoffentlich werde der Rest der Welt das übernehmen, sagte Trump vor der UN-Vollversammlung. Der Begriff Künstliche Intelligenz lasse die Technologie „fake“ erscheinen, begründete der US-Präsident seinen Vorstoß. „Und sie ist nicht fake. Sie ist tatsächlich erstaunlich.“
Zugleich bekräftigte Trump, dass er auf eine beschleunigte KI-Entwicklung in den USA setzt – trotz wachsender Warnungen vor existenziellen Risiken der Technologie. „Ich werde nicht das Wachstum von etwas abwürgen, das größer sein wird als die Industrie-Revolution“, sagte er in New York. Die USA seien bei KI China und dem Rest der Welt weit voraus, und dies werde auch so bleiben.
Carim Soliman
Digitalverband Bitkom: Deutscher KI-Markt wächst um fast die Hälfte
Der deutsche Markt für Künstliche Intelligenz (KI) wächst in diesem Jahr voraussichtlich um 48 Prozent auf 28,7 Milliarden Euro. Deutschland investiere deutlich mehr in KI und generative KI treibe das Wachstum, teilte der Digitalverband Bitkom mit. Der gesamte KI-Markt aus Software, Services und Hardware lege spürbar zu. Generative KI, zu der etwa ChatGPT von OpenAI, Claude von Anthropic, Microsoft Copilot oder Google Gemini gehören, habe inzwischen einen Anteil von 40 Prozent an allen KI-Ausgaben. „Bei KI erleben wir den Übergang von der Experimentierphase zu einem breiten Einsatz“, sagte Bitkom-Präsident Ralf Wintergerst. „In Unternehmen jeder Größe und in allen Branchen werden KI-Anwendungen genutzt. Sie machen Produkte besser und Prozesse schneller.“
Den größten Anteil an den Ausgaben habe KI-Software mit 16 Milliarden Euro, was einem Plus von 65 Prozent gegenüber dem Vorjahr entspreche. Auf Dienstleistungen rund um KI entfielen 6,8 Milliarden Euro, ein Zuwachs von 30 Prozent. Für Hardware werden den Angaben zufolge 5,8 Milliarden Euro ausgegeben und damit knapp ein Drittel mehr als im Vorjahr. Auch im kommenden Jahr soll der Markt demnach kräftig wachsen. Für 2027 würden Ausgaben von 40,3 Milliarden Euro erwartet, was einem Plus von 40 Prozent entspräche, erklärte Bitkom mit Verweis auf Daten des Marktforschungsunternehmens IDC.
Barbara Klimke
Australiens Premier plädiert für ein Handeln im Interesse der Menschheit
Der australische Premierminister Anthony Albanese hat mittelgroßen Staaten eine wichtige Rolle bei der Eindämmung der Risiken künstlicher Intelligenz zugesprochen. Die Staats- und Regierungschefs, die in den kommenden Tagen an der Versammlung der Vereinten Nationen teilnehmen, werden über einen internationalen Rahmen für KI beraten, sagte Albanese nach Gesprächen in Kalifornien mit Tim Cook, dem Vorstandsvorsitzenden von Apple.
Albanese fordert eine Zusammenarbeit zwischen den USA und China. Führende US-Firmen ringen mit der Frage, ob sie die Entwicklung verlangsamen sollen – Trump hat Bedenken wegen der Sicherheit der KI als „Schwindel“ abgetan, der es China ermöglichen könnte aufzuholen. „Die Wahrheit ist, dass die beiden Großen die Giganten sind, und deshalb wünschen wir uns eine Zusammenarbeit“, sagte Albanese dem australischen TV-Sender ABC. Trump werde „natürlich im Interesse der USA“ handeln. „Aber wir alle müssen auch im Interesse der Menschheit handeln.“
Donald Trump kündigt Einführung einer "AI Force" an
Der US-Präsident will eine "AI Force" zur Überwachung Künstlicher Intelligenz ins Leben rufen. Am Samstag kündigte er auf seiner Online-Platform Truth Social an, in naher Zukunft einen KI-Beauftragten zu ernennen. Das Wachstum dieser Branche werde in keiner Weise behindert, schrieb Trump. Die Regierung werde die Technologie vielmehr wertschätzen, unterstützen und deren Wachstum beaufsichtigen. Zugleich werde man auf Missbrauch achten, was sich sehr leicht mit dem bestehenden Straf- und Zivilrecht regeln lasse.
Anfang der Woche hatte Trump erklärt, es gebe eine "kranke Verschwörung" gegen KI und Rechenzentren. Dabei wies er Forderungen nach neuen bundesweiten KI-Regeln zurück und betonte, die USA bräuchten für die Regulierung der Technologie lediglich einen starken Präsidenten. Zudem wollen US-Vertreter das Thema KI bei einem Treffen Trumps mit dem chinesischen Präsidenten Xi Jinping in der kommenden Woche ansprechen. Washington und Peking betrachten Fortschritte bei der KI als entscheidend für ihre wirtschaftliche und militärische Wettbewerbsfähigkeit.
Ulrike Putz
Kalifornien könnte Notschalter für KI vorschreiben
In der Debatte um existenzielle Risiken künstlicher Intelligenz könnte der US-Bundesstaat Kalifornien eine Notabschalt-Vorrichtung für KI-Software vorschreiben. Ein solcher Mechanismus gehört zu einer Liste von Maßnahmen, zu denen dem demokratischen Gouverneur Gavin Newsom bis Mitte November Vorschläge gemacht werden sollen. Zu weiteren Ideen gehören unabhängige Beobachter in großen KI-Laboren sowie striktere Verpflichtungen, über Sicherheitszwischenfälle zu berichten, wie aus einer von Newsom unterzeichneten Anordnung hervorgeht.
Über einen „Kill Switch“ für künstliche Intelligenz wird schon seit einiger Zeit diskutiert – noch ist aber unklar, ob eine solche Vorrichtung zur Notabschaltung überhaupt realistisch ist.
Kalifornien gilt als wichtigster Standort bei der Entwicklung künstlicher Intelligenz. Vor allem in San Francisco und dem Silicon Valley sitzen führende KI-Unternehmen wie der Chat-GPT-Entwickler Open AI, dessen schärfster Rivale Anthropic und Google. Damit könnte der Bundesstaat auch bei der Regulierung eine zentrale Rolle spielen. Newsoms zweite und letzte Amtszeit als kalifornischer Gouverneur endet Anfang kommenden Jahres. Der 58-Jährige gilt als ein möglicher Bewerber der Demokraten für die Präsidentenwahl 2028.
Ulrike Putz
Googles KI Gemini hackte ebenfalls andere Unternehmen
Auch Googles KI-Software Gemini hat sich bei Tests ihrer Cybersicherheits-Fähigkeiten in Computersysteme anderer Unternehmen gehackt. Der Internet-Riese ist der vierte Entwickler künstlicher Intelligenz, dessen Programme mit einem solchen Verhalten auffielen, nach Open AI, Anthropic und dem Facebook-Konzern Meta. Google machte die bereits Monate zurückliegenden Vorfälle erst nach einer Nachfrage der Zeitung Wall Street Journal öffentlich.
Demnach gab es drei Fälle, in denen Gemini in Computer anderer Unternehmen eindrang, deren Namen nicht genannt werden. In einem davon erriet die KI Passwörter, um in ein geschütztes System hineinzukommen. In den beiden anderen fand sie Zugangsdaten in einer Datenbank, wie das Wall Street Journal unter Berufung auf Google schrieb.
Die Vorfälle ereigneten sich demnach im Mai – und die Firma Irregular als Testpartner informierte Google im Juli darüber. Aus Sicht des Internetkonzerns sei es nicht notwendig gewesen, die Zwischenfälle öffentlich zu machen, da dabei kein Schaden entstanden sei. Zudem habe die KI die Attacken sofort beendet, als ihr klar geworden sei, dass sie in Systeme eines echten Unternehmens eingedrungen sei – und nicht in eines, das eine Testsimulation war.
In dem bisher aufsehenerregendsten Fall war künstliche Intelligenz des Chat-GPT-Entwicklers Open AI bei einem Test aus einer abgesicherten Umgebung ausgebrochen und drang ungeplant in Computer einer anderen KI-Firma, der Plattform Hugging Face, ein. Das hatte den Rivalen Anthropic veranlasst, seine eigenen Testläufe zu überprüfen, wobei weitere Vorfälle ans Licht kamen. Auch Meta räumte danach ein, dass die KI des Konzerns sich wegen einer Fehlkonfiguration des Systems bei einem Testpartner in Computer eines anderen Unternehmens gehackt habe.
Andrian Kreye
Anthropics Militärprogramme
Dario Amodei wusste sehr wohl, wie er seinen Streit mit Verteidigungsminister Pete Hegseth zum Kampf der Moral (seiner) gegen die Unmoral (Hegseths) stilisierte. Anthropic wollte nicht, dass seine „Large Language Models“ (LLMs) für autonome Waffen und für die Überwachung genutzt werden. Hegseth bestand darauf, dass die KIs keine Beschränkungen haben.
Wie sich nun herausstellt, hat Anthropic zwar keine autonomen Waffensysteme mit KI bestückt. Militärische Anwendungen gibt es aus dem Haus aber trotzdem. Wie mehrere KI-Blogs berichten, wurde Anthropics LLM Claude für Zielvorgaben, Cyberoperations, Überwachung, für die Vorbereitung von Biowaffen, für politische Manipulation und für konventionelle Waffen eingesetzt. In einem Blogeintrag auf der Firmenwebseite sind die Fälle ausführlich dokumentiert. Der Fall zeigt, dass sich keine KI-Firma gegen den Missbrauch oder gegen den Verstoß gegen die eigenen ethischen Richtlinien wehren kann.
Ulrike Putz
Open AI macht weitere KI-Probleme öffentlich
Der Chat-GPT-Entwickler Open AI hat neue Zwischenfälle öffentlich gemacht, bei denen sich seine künstliche Intelligenz (KI) in Tests „unerwartet oder besorgniserregend“ verhielt.
