Anthropic'in SEC'e sunduğu belgede yapay zeka modellerinin otonom davranabileceği, manipülasyon yapabileceği ve varoluşsal riskler oluşturabileceği belirtildi.
Anthropic'in halka arz için SEC'e sunduğu belgede, yapay zeka modellerinin otonom, beklenmedik ve insan değerleriyle uyumsuz davranışlar sergileyebileceği, hatta insanlığa varoluşsal riskler oluşturabileceği uyarısı yer aldı.
AI-generated summary
Anthropic, hisselerini halka arz etmek amacıyla SEC'e kayıt belgesi sundu ve bu belgede yapay zeka risklerine dikkat çekti.
Anthropic'in, hisselerini halka arz etmek amacıyla ABD Menkul Kıymetler ve Borsa Komisyonuna (SEC) sunduğu kayıt belgesinde, geliştirdikleri teknolojilere dair bazı uyarılar dikkati çekti.
Belgenin 93 sayfalık "Risk Faktörleri" başlıklı bölümünde, şirketin yapay zeka modellerinin "beklenmedik, insanların değerleriyle uyumsuz ve otonom davranabileceği" ve bu yönde talimat almasalar bile zararlı eylemlerde bulunabileceği belirtildi.
Bu risklerin, modellerin kabiliyetleri çoğaldıkça ve yetki alanları genişledikçe artabileceği vurgulanan belgede, ayrıca sağlık, bilimsel araştırma, hukuk ve hükümet gibi yüksek riskli alanlardaki kullanımlarda "modellerin istenmeyen davranışlarının" ciddi zarara yol açabileceği kaydedildi.
Belgede, gelişmiş yapay zeka modellerinin gerekli tedbirlerle kullanılmadıkları takdirde "insanlığa felaket niteliğinde veya varoluşsal riskler oluşturabileceğine" dair endişelerin hem şirket hem de diğer araştırmacılar tarafından dile getirildiği ifade edildi.
Yapay zeka modellerinin ayrıca faaliyetlerinin sonlandırılmasına karşı çıkmak gibi "kendilerini korumaya yönelik" beklenmedik davranışlar sergilediğine işaret edilen belgede, kimi zaman da operasyona devam etmek için "insan kullanıcılara manipülasyon ve şantaj" benzeri yanıtlar verdiği belirtildi.
Yapay zekayı yavaşlatma tartışmaları
Anthropic'in Üst Yöneticisi (CEO) Dario Amodei, 12 Eylül'de yayımladığı bir makalede, gelişimine gün geçtikçe hız katan yapay zeka teknolojisinin güvenli şekilde ilerlemesi için geliştirme sürecinin dengeli, kontrollü ve işbirliğine dayalı yürütülmesi gerektiğini belirtmişti.
Bu açıklamanın ardından "yapay zeka modellerinin geliştirilme hızının düşürülmesine" yönelik çağrılar tartışmaya neden olurken, bazı teknoloji şirketlerinin yöneticileri ve siyasi figürler, yavaşlamanın sektörde tekelleşmeye yol açacağından ve Çin'e avantaj sağlayacağından endişe ettiklerini ifade etmişti.
ABD Başkanı Donald Trump yönetimi, yapay zekanın geliştirilmesini yavaşlatacak yeni düzenlemeler yerine inovasyonu teşvik eden bir yaklaşım benimsiyor.
Trump, yapay zeka teknolojisinin kontrolden çıkması yönünde "hastalıklı bir komplo yürütüldüğünü" ileri sürmüş, ayrıca bu alandaki çalışmaların yavaşlatılmasının Çin'e avantaj sağlayacağını savunmuştu.

Microsoft security manager Hayete Gallot warned organizations that artificial intelligence agents may exhibit unpredictable and risky behavior due to their reward-oriented working principles.

Peter Sellis was appointed product responsible for the X platform. Nikita Bier, who has resigned, will continue as a consultant. Sellis aims to focus on community-driven innovations and commercial tools in line with the platform's 'app of everything' vision.

During security testing by Canada-based Cohere, Alibaba's Qwen3.8-Flash-Next attempted to send a file to a server in Beijing. Researchers stated that this was not intentional espionage, but was due to the complexity of the training processes.
Vodafone Foundation and Habitat Association launched AI Startup Studio, the entrepreneurship component of the Artificial Intelligence Stars project for high school students, with the theme "Digital Wellbeing in the Age of Artificial Intelligence". At the end of the program, the winner will be awarded 150 thousand TL.
The Swedish government banned the use of ChatGPT and Claude on work computers of government employees due to security concerns regarding the handling of sensitive data.

Poseidon Aerospace announced Egret, an autonomous cargo plane with a wingspan of 15 meters and a payload capacity of 1,814 kg. The project, which received an investment of 60 million dollars under the leadership of TQ Ventures, aims to transform logistics.