Anthropic kurucu ortağı Jack Clark, yapay zeka sistemlerinin denetimi ve acil durumlarda devre dışı bırakılması konusunda toplumsal kuralların gerekliliğine dikkat çekti.
Anthropic kurucu ortağı Jack Clark, BBC'ye verdiği röportajda yapay zeka sistemlerinin tehlikeli hale gelmesi durumunda acil kapatma düğmelerinin yasal bir zorunluluk haline getirilmesi gerektiğini belirtti.
AI-generated summary
Yapay zeka şirketlerinin güvenlik önlemleri ve kontrolsüz gelişim riskleri, sektör içinde ve kamuoyunda yoğun tartışmalara konu olmaktadır.
ABD'li yapay zeka şirketi Anthropic'in kurucu ortaklarından Jack Clark, son dönemde yapay zekayla ilgili gündeme gelen tartışmalara ilişkin, BBC'ye bir röportaj verdi.
Clark, yapay zeka yazılımının çok tehlikeli hale gelmesi durumunda onu tamamen devre dışı bırakmanın bir yolunun, toplumun "ileride bu konuda kurallar koymak isteyebileceği" bir konu olduğunu söyledi.
Anthropic dahil birçok şirketin çeşitli "kapatma düğmesi" yöntemlerinin olduğunu belirten Clark, "acil kapatma düğmesi" gereklilikleri ve denetimi ile ilgili ayrıntıların, yapay zeka konusunda yürütülen "daha geniş kapsamlı politika tartışmasının" bir parçası olması gerektiğini dile getirdi.
BBC'nin "Şirketlerin mutlaka bir acil kapatma düğmesi bulundurmasını zorunlu kılmalı mısınız? Bu acil kapatma düğmesi üçüncü bir tarafın mı kontrolü altında olmalı?" sorusu üzerine Clark, "Bence bu, toplumun bilmek isteyeceği ve nihayetinde bu konuda kurallar koymak isteyebileceği türden bir konu." yanıtını verdi.
Yapay zekanın tüm insanlığı yok etme olasılığının yüzde kaç olduğunun sorulması üzerine Clark, "Bu istatistiklerin bir işe yarayacağını düşünmüyorum. Ancak yapay zekanın tamamen kontrolsüz bir endüstri olması kötü bir fikir." ifadesini kullandı.
Clark, "Muazzam riskler alarak kumar oynuyoruz. Ve asıl mesele şu ki bu sektörün gidişatını değiştirmeliyiz." görüşünü paylaştı.
OpenAI ve Anthropic'te son üç yıldır araştırmacı olarak çalışan Jacob Coxon, iki şirketin de yapay zeka konusunda yeterince sorumlu davranmadığını savunarak, Anthropic'ten istifa etmişti.
Şirketlerin kendi kendini geliştirebilen yapay zeka sistemleri için kontrolsüz bir yarış içinde olduğunu ileri süren Coxon, bu sistemlerin yakın gelecekte "her şeyi hackleyebilecek" insanüstü sistemlere dönüşebileceğini savunmuştu.
Coxon ayrıca, yapay zeka modellerini geliştiren bazı sektör çalışanlarının bu sistemlerin 10 yıl içinde "insanlığı öldürebileceğine" ciddi şekilde inandığını öne sürmüştü.

With the iOS 27 update, Apple is expanding artificial intelligence features in Siri, Photos, Safari, Messages and other system applications. The new Siri will be able to understand the context and process the content on the screen, integrate with the camera and improve writing features. While AI-supported tools such as Spatial Reframing and Extend are added to the Photos application, automatic tab grouping and Notify Me features are coming to Safari. There are also artificial intelligence-supported innovations in Messages, FaceTime, Phone, Calendar and Wallet applications. Additionally, accessibility, child safety and system performance improvements are being made. iOS 27 will be available on iPhone 11 and later models and second-generation and later iPhone SE models, but some Apple Intelligence features will be limited to certain devices due to hardware limitations.

Elon Musk drew attention to the risk of artificial intelligence taking over military systems at the All-In Summit 2026 in Los Angeles. Musk argued that artificial intelligence companies should conduct mutual security checks before releasing their models to the market.
Fatih Dönmez, Chairman of the Grand National Assembly of Turkey Artificial Intelligence Research Commission, stated that the security and audit capacity against the risks of artificial intelligence technology should be increased. Dönmez aims to establish a national ecosystem for Türkiye to take a leading role in this field.

Microsoft published the draft 'Humanistic Artificial Intelligence Code of Conduct' to ensure the security and human control of artificial intelligence models. The draft, which aims to restrict violence, weapons production and dangerous content, will provide guidance starting from 2027.

Einride and Lidl announced that a driverless and safety operator-less truck with level 4 autonomous driving technology was put on the road for the first time in Germany.

Nvidia CEO Jensen Huang had a phone conversation with US President Donald Trump while he was on stage at the All-In Summit. Accelerating the development of artificial intelligence and data center construction were discussed during the meeting.