Anthropic macht KI-Modell Mythos zugänglicher
Quick Look
- Anthropic, ein Konkurrent von OpenAI, veröffentlicht eine eingeschränkte Version seines KI-Modells Mythos namens Claude Fable 5.
- Das Modell kann keine Cyber- oder Biotech-Themen bearbeiten, um Missbrauch zu verhindern.
- Ein Programm für Regierungsbehörden und Unternehmen wird fortgesetzt.
AI-generated summary
Why It Matters
Anthropic, a competitor to OpenAI, has developed an AI model named Mythos that has discovered previously unknown security vulnerabilities in widely used software. The company is now making the technology behind Mythos more broadly available with restrictions, under the name Claude Fable 5.
Mit Mythos hat der OpenAI-Rivale Anthropic die Tech-Branche aufgeschreckt: Das KI-Modell hat bislang unerkannte Sicherheitslücken in weit verbreiteter Software entdeckt. Nun macht das Unternehmen die Technologie dahinter breiter verfügbar - allerdings mit Einschränkungen.
Der OpenAI-Rivale Anthropic macht die Technologie hinter seinem aufsehenerregenden KI-Modell Mythos mit Einschränkungen breiter zugänglich. Bei der unter dem Namen Claude Fable 5 veröffentlichten Software wird unter anderem verhindert, dass sie sich mit Cybersicherheit und Biotechnologie beschäftigt.
Vor einigen Monaten hatte das KI-Modell Mythos Preview zum Teil über Jahrzehnte unentdeckt gebliebene Schwachstellen in viel genutzter Software aufgespürt. Das löste die Sorge aus, dass Künstliche Intelligenz für verheerende Cyberangriffe verwendet werden könnte.
Zugleich bekamen Regierungsbehörden und ausgewählte Unternehmen Zugang zu Mythos Preview, um ihre Systeme gegen potenzielle Angriffe zu sichern. Dieses Programm mit dem Namen "Glasswing" wird nun mit der nächsten Modellversion Mythos 5 fortgeführt.
Die abgesicherte Version Fable 5 ist laut Anthropic unter anderem besser als vorherige Modelle im Programmieren von Software. Die Leitplanken gegen potenziell gefährliche Nutzung seien ausgiebig getestet worden, hieß es. Anthropics Claude-Modelle sind ein scharfer Konkurrent für KI-Software des ChatGPT-Entwicklers OpenAI. Beide Unternehmen bereiten Börsengänge vor.
Zuletzt plädierte das Unternehmen für eine weltweite Pause bei der Entwicklung immer leistungsstärkerer KI-Systeme. Eine weltweite Verlangsamung der Spitzenforschung im KI-Bereich wäre "wahrscheinlich sinnvoll", erklärte der in San Francisco beheimatete Konzern in der vergangenen Woche. Es müssten aber alle KI-Größen in der Welt mitmachen: Sollte ein einzelnes Unternehmen allein pausieren, würden die Konkurrenten einfach an ihm vorbeiziehen.
"Wir halten es für wünschenswert, dass die Welt die Möglichkeit hat, die Entwicklung hochmoderner KI-Systeme zu verlangsamen oder vorübergehend auszusetzen, damit gesellschaftliche Strukturen und die Forschung zur Ausrichtung der KI mit dem technologischen Fortschritt Schritt halten können", erklärte Anthropic. Damit eine Pause tatsächlich Wirkung zeigen könnte, müssten sich nach Ansicht von Anthropic führende KI-Konzerne in verschiedenen Ländern - allen voran in den USA und China - darauf einigen, ihre Arbeit gleichzeitig zu verlangsamen oder zu pausieren.
What to Watch
AI outlook — possibilities, not facts
Anthropic will continue to face scrutiny regarding the safety and ethical implications of its AI models.
Very likely · Within months
International cooperation on AI development pauses or regulations will be difficult to achieve.
Likely · Within months
Open Questions
- What specific security vulnerabilities did Mythos discover?
- What are the exact limitations of Claude Fable 5?
- How many government agencies and companies have access to the 'Glasswing' program?
- What are the specific criteria for a 'pause' in AI development?
