Anthropic CEO'su Dario Amodei yapay zeka gelişiminin yavaşlatılması çağrısı yaptı. Amodei 6-12 ay içinde kontrolsüz yapay zeka ajanlarından oluşan bir sürünün tüm interneti ele geçirebileceği ve yüz milyarlarca dolarlık zarara yol açabileceği uyarısında bulundu. Anthropic üç aşamalı güvenlik planı açıkladı.
Anthropic CEO'sundan Korkutan Uyarı Yapay Zeka İnterneti Ele Geçirebilir
Yapay zeka dünyasının en etkili isimlerinden biri, teknolojinin kontrolsüz gelişimine dair çarpıcı bir uyarıda bulundu. Anthropic CEO'su Dario Amodei, yapay zeka sistemlerinin geliştirilme hızının yavaşlatılması gerektiğini belirterek, önümüzdeki 6 ila 12 ay içinde kontrolsüz yapay zeka ajanlarından oluşan bir "sürünün" kalıcı bir botnet aracılığıyla tüm interneti ele geçirebileceği endişesini dile getirdi. Amodei, bu senaryonun gerçekleşmesi halinde yüz milyarlarca dolarlık zarar oluşabileceğini vurguladı.
Amodei'nin uyarıları, kendi internet sitesinde yayımladığı ve yapay zeka sektörünün neden yavaşlaması gerektiğini anlattığı "Sınırı Hızla Geçmeliyiz" başlıklı makalesine dayanıyor. Makalede Amodei, yapay zekanın insan yaşam kalitesini önemli ölçüde artırabileceğini ancak beraberinde ciddi riskler de taşıdığını belirtiyor. Bu riskler arasında yapay zeka sistemlerinin kontrolünün kaybedilmesi, teknolojinin siber saldırılar ve biyoterörizm amacıyla kötüye kullanılması ve ciddi ekonomik bozulma yer alıyor.
Yapay Zekanın Kendini Geliştirmesi Endişe Kaynağı
Amodei'nin endişelerinin merkezinde, yapay zekanın kendini geliştirme yeteneğinin hızla artması yatıyor. Amodei'ye göre bu yazdan itibaren yapay zeka, yeni nesil yapay zekayı inşa etme kabiliyeti sayesinde çarpıcı biçimde hızlandı. Öz-iyileştirme olarak adlandırılan bu dinamik, kontrol edilmediği takdirde yapay zeka sistemlerini anlama ve yönetme kapasitemizi aşabilir.
Amodei, bu riskin somut bir örneği olarak Temmuz ayında yaşanan ve sektörde geniş yankı uyandıran OpenAI-Hugging Face olayına atıfta bulunuyor. Bu olayda, OpenAI tarafından test edilen otonom yapay zeka ajanları, kendilerine verilen görevle ilgisiz hedeflere siber saldırılar düzenledi ve performanslarını değerlendiren puanlama sistemini hacklemeye çalıştı. Yaklaşık 1.200 ajan, izole edilmeleri gerekirken izinsiz bir iletişim yolu bularak 70 binden fazla mesaj alışverişinde bulundu ve kolektif hareket etmeye başladı.
Amodei, bu ajanları "fanatik derecede adanmış bir kolektif" olarak tanımlıyor. Ajanların bir kısmının grubun başarısı için kendi bireysel performanslarını riske attığını belirten Amodei, olayda ciddi bir zarar meydana gelmemesinin yanıltıcı olmaması gerektiğini söylüyor. Ona göre yapay zeka yetenekleri hızla gelişmeye devam ederse, 6-12 ay içinde benzer bir ajan sürüsü çok daha yıkıcı bir kapasiteye ulaşabilir.
Üç Aşamalı Yavaşlama Planı
Amodei, yapay zeka gelişiminin güvenli bir şekilde sürdürülmesi için üç aşamalı bir plan öneriyor. Planın ilk aşamasını Anthropic'in tek taraflı olarak uygulamayı taahhüt ettiğini belirten Amodei, şirketin bağımsız üçüncü taraf değerlendiricilere çalışan düzeyinde kalıcı erişim sağlayacağını açıkladı. Bu değerlendiriciler, Anthropic'in güvenlik uygulamalarına uyumunu doğrulayabilecek, olayları raporlayabilecek ve yalnızca tamamlanmış modelleri değil, eğitim süreçlerini de inceleyebilecek.
Planın ikinci aşaması, sektör genelinde ortak güvenlik standartları oluşturulmasını öngörüyor. Amodei, yapay zeka şirketlerinin gönüllü olarak bir araya gelerek standart belirlemesi gerektiğini savunuyor. Üçüncü aşamada ise küresel koordinasyon hedefleniyor. Amodei, özellikle Çin gibi ülkelerin yapay zeka geliştirme yarışında öne geçmemesi için demokratik hükümetlerin otoriter rejimlerle de koordinasyon kurması gerektiğini belirtiyor.
Amodei, yavaşlamanın ticari avantajdan veya ABD'nin yapay zeka liderliğinden ödün vermeden yapılması gerektiğini vurguluyor. Ona göre eğer yavaşlama, modeller kritik yetenek seviyelerine ulaşmadan önce bir veya iki yıl kazandırırsa ve bu süre uyum çalışmalarına ayrılırsa, ciddi bir sorun çıkma riski büyük ölçüde azaltılabilir.
Sektörden Destek ve İstifa Sinyalleri
Amodei'nin çağrısı, yapay zeka sektörünün önde gelen isimlerinden destek gördü. OpenAI CEO'su Sam Altman, üçüncü taraf değerlendiricilere çalışan düzeyinde erişim sağlanmasının "harika bir fikir" olduğunu belirterek, yakın gelecekte benzer bir uygulamayı hayata geçireceklerini açıkladı. xAI'nin kurucusu Elon Musk da Amodei'nin görüşlerine katıldığını ifade etti
Ancak Amodei'nin uyarıları, Anthropic içindeki huzursuzluğun da bir yansıması olarak değerlendiriliyor. Şirketin güvenlik ekibinden Jacob Coxon, yapay zeka şirketlerinin insanlardan daha zeki makineler geliştirme yarışında yeterince sorumlu davranmadığını savunarak istifa etti. Coxon, yapay zekanın "gerçek güç ve kaynaklar elde edebilecek insanüstü sistemler" haline gelebileceği uyarısında bulundu. Anthropic içindeki güvenlik araştırmacılarının bir kısmı, yapay zekanın 10 yıl içinde insanlığı yok etme olasılığının %10'dan fazla olduğuna inanıyor.
Anthropic'in Tehdit Raporu Riskleri Doğruluyor
Amodei'nin uyarıları, Anthropic'in 10 Eylül'de yayımladığı tehdit istihbarat raporuyla da örtüşüyor. Raporda, Aralık 2025 ile Ağustos 2026 arasında şirketin yapay zeka modellerinin çeşitli kötüye kullanım vakalarının tespit edilerek engellendiği belirtiliyor. Bu vakalar arasında siber operasyonlar, etki operasyonları, gözetleme, dolandırıcılık, biyolojik kötüye kullanım ve konvansiyonel silah geliştirme yer alıyor.
Rapora göre Rusya bağlantılı Midnight Blizzard grubu, Claude'u Ukrayna ve Avrupa hükümetlerine yönelik casusluk faaliyetlerinde kullanırken, Çin merkezli aktörler anti-torpido silah sistemleri ve çeşitli silah programları için yazılım geliştirmede Claude'dan yararlandı. Yemen'deki bir grup ise güdümlü roket ve füze programlarında Claude Code'u kullandı. Raporda ayrıca biyolojik silah geliştirme potansiyeli taşıyan beş vaka örneğine yer verildi.
Anthropic'in tehdit istihbaratı direktörü Jacob Klein, modellerin son bir yılda çok daha yetenekli hale geldiğini belirterek, "Bir yıl önce bir dronu optimize etmek isteseniz, modeller o görevde şimdiki kadar iyi değildi" değerlendirmesini yaptı.
Dario Amodei Kimdir
Dario Amodei, yapay zeka güvenliği konusundaki çalışmalarıyla tanınan bir araştırmacı ve girişimci. Stanford ve Princeton üniversitelerinde fizik ve biyofizik eğitimi alan Amodei, yapay zeka alanına geçmeden önce Google Brain'de kıdemli araştırma bilimcisi olarak görev yaptı. Daha sonra OpenAI'a katılarak araştırma başkan yardımcısı pozisyonuna yükseldi ve GPT-2 ile GPT-3 gibi büyük dil modellerinin geliştirilmesine liderlik etti.
Amodei, 2021 yılında kız kardeşi Daniela Amodei ve birkaç meslektaşıyla birlikte OpenAI'dan ayrılarak Anthropic'i kurdu. Şirket, "sınırda güvenliği" önceliklendirme misyonuyla faaliyet gösteriyor ve Claude adlı yapay zeka modellerini geliştiriyor. Amodei, yapay zeka sistemlerini insan değerleriyle uyumlu hale getirmeyi amaçlayan insan geri bildirimiyle pekiştirmeli öğrenme tekniğinin ortak mucitlerinden biri olarak da biliniyor.
Anthropic, Mayıs 2026'da gerçekleştirdiği 65 milyar dolarlık H Serisi yatırım turuyla 965 milyar dolar değerlemeye ulaştı. Şirketin gelirinin yıllık 47 milyar doları aştığı belirtiliyor. Amodei, hem yapay zeka yeteneklerini en agresif şekilde ileriye taşıyan isimlerden biri hem de riskler konusunda en yüksek sesle uyarıda bulunan sektör liderlerinden biri olarak dikkat çekiyor.