Anthropic blockierte Versuche zur Nutzung von Claude für Biowaffenforschung
Quick Look
- Anthropic hat mehrere Versuche blockiert, bei denen Forscher aus blockierten Regionen versuchten, das KI-Modell Claude für die Entwicklung von Biowaffen zu nutzen.
- Die Anfragen zielten auf organisatorische Unterstützung wie das Verfassen von Papieren ab, nicht auf direkte wissenschaftliche Hilfe.
- Ein Fall betraf Gain-of-Function-Forschung an einem Virus zur Erhöhung der Übertragbarkeit.
AI-generated summary
Why It Matters
Anthropic hat berichtet, dass es Versuche blockiert hat, bei denen Forscher versuchten, sein KI-Modell Claude für die Entwicklung von Biowaffen zu nutzen. Die Anfragen kamen aus blockierten Regionen und zielten auf organisatorische Unterstützung ab.
Die KI-Firma Anthropic hat in den vergangenen Monaten nach eigenen Angaben mehrere Versuche von Forschern unterbunden, Modelle ihrer Software Claude für die Entwicklung von Biowaffen zu nutzen. Der Konkurrent des ChatGPT-Entwicklers OpenAI schränkte aber ein, die Ziele solcher Anfragen seien schwer zu ermitteln, da entsprechende Forschung sowohl medizinischen als auch militärischen Zwecken dienen könne.
Die Versuche zeigten aber auf jeden Fall, dass Wissenschaftler aus blockierten Regionen und mit Verbindungen zu dortigen staatlichen Stellen versuchten, heimlich auf Künstliche Intelligenz amerikanischer Entwickler zuzugreifen, hieß es. Anthropic benannte aber weder die Forschungseinrichtungen noch die Länder, aus denen die Anfragen stammen.
Anthropic führt in einem ausführlichen Bericht über versuchten Missbrauch seiner KI-Modelle fünf Fälle mit Bezug zu möglicher Biowaffenforschung auf. Dabei hätten die Forscher nicht konkrete wissenschaftliche Hilfe gesucht, sondern eher organisatorische Unterstützung, etwa beim Verfassen von Papieren. KI-Modelle sind grundsätzlich darauf getrimmt, Hilfestellung bei der Entwicklung biologischer Waffen zu verweigern. Bei Forschung, die sowohl der Medizin als auch militärischen Zwecken dienen könne, sei es manchmal aber schwierig, eine klare Trennlinie zwischen harmlosen und bösartigen Absichten zu ziehen, teilte Anthropic mit.
Riskante Forschung an Vogelgrippe
Einer der von der KI-Firma blockierten Zugriffsversuche habe probiert, mit Hilfe von Claude einen Antrag auf Förderung zur Forschung an einem Virus zu verfassen. Dabei sei es um sogenannte Gain-of-Function-Forschung gegangen, bei der die Übertragbarkeit eines Erregers erhöht wird. Dies sei eine gängige Methode auf der Suche nach Gegenmitteln in Laboren – aber eben auch ein Weg, Biowaffen zu entwickeln.
What to Watch
AI outlook — possibilities, not facts
Anthropic wird seine Sicherheitsrichtlinien für die Nutzung von Claude weiter verschärfen.
Likely · Within months
Open Questions
- Aus welchen konkreten blockierten Regionen stammen die Anfragen?
- Welche spezifischen Viren waren Gegenstand der Gain-of-Function-Anfragen?
- Welche Maßnahmen plant Anthropic neben dem Blockieren von Zugriffen?
