Pentagon’dan Yapay Zeka Şartı: Anthropic ‘Etik İlkelerimden Vazgeçmem’ Dedi

Yapay zeka alanında etik ilkeleriyle öne çıkan Anthropic şirketi, Pentagon’un teknoloji kullanımı konusundaki taleplerine direniyor. ABD Savunma Bakanlığı, şirketten Cuma gününe kadar süresi dolacak olan bir anlaşma kapsamında, yapay zeka teknolojilerinin kullanımına ilişkin etik politikalarını gevşetmesini istedi. Ancak Anthropic CEO’su Dario Amodei, bu talebi geri çevirerek şirketin etik değerlerinden taviz vermeyeceğini açıkça belirtti.

Pentagon’dan Baskı, Anthropic’ten Kararlı Durum

Pentagon’un talepleri, Anthropic’in geliştirdiği ve Claude adlı sohbet robotuyla tanınan yapay zeka teknolojilerinin daha serbest kullanılması yönünde. Ancak Amodei, şirketin bu talebi ‘vicdani olarak kabul edemeyeceğini’ vurguladı. Bu durum, şirketin hızla yükseldiği bir dönemde önemli bir dönüm noktası olarak görülüyor. Pentagon’un olası adımları arasında, Anthropic ile olan sözleşmeyi iptal etmek ve şirketi ‘tedarik zinciri riski’ olarak sınıflandırmak bulunuyor. Bu sınıflandırma, genellikle yabancı düşmanlar için kullanılan bir terim olup, şirketin diğer iş ortaklıklarını da tehlikeye atabilir.

Etik Değerler ve Sektörel Güven

Eğer Amodei geri adım atarsa, yapay zeka sektöründeki güvenilirliğini ve özellikle sorumlu yapay zeka geliştirme vaadiyle şirkete katılan yetenekli çalışanların güvenini kaybedebilir. Anthropic, Pentagon’dan Claude’un Amerikalıların kitlesel gözetimi veya tamamen otonom silahlar için kullanılmayacağına dair güvenceler talep etmişti. Ancak yapılan görüşmelerin ardından, Pentagon’un sunduğu ‘uzlaşma’ olarak çerçevelenen yeni sözleşme dilinin, bu güvencelerin kolayca göz ardı edilmesine olanak tanıyan yasal düzenlemeler içerdiği belirtildi.

Sektörden Destek ve Endişeler

Pentagon sözcüsü Sean Parnell, sosyal medyada yaptığı açıklamada, ‘Hiçbir şirketin operasyonel kararlarımızı nasıl alacağımız konusunda şartları dikte etmesine izin vermeyeceğiz’ diyerek Anthropic’e Cuma 17:01’e kadar süre tanıdıklarını duyurdu. Savunma Bakanlığı Araştırma ve Mühendislikten Sorumlu Bakan Yardımcısı Emil Michael ise Amodei’yi ‘Tanrı kompleksi’ne sahip olmakla ve ulusal güvenliği riske atmakla suçladı. Ancak bu durum, Silikon Vadisi’nde pek karşılık bulmadı. Anthropic’in rakibi olan OpenAI ve Google gibi şirketlerin birçok çalışanı, Amodei’nin duruşunu destekleyen açık bir mektup yayınladı. Mektupta, Pentagon’un Google ve OpenAI ile de benzer anlaşmalar yapmaya çalıştığı ve şirketleri birbirine düşürmeye çalıştığı iddia edildi.

Geçmiş Deneyimler ve Gelecek Kaygıları

Pentagon’un yaklaşımı, Cumhuriyetçi ve Demokrat milletvekillerinin yanı sıra Savunma Bakanlığı’nın yapay zeka girişimlerinin eski liderleri tarafından da endişeyle karşılandı. Emekli Hava Kuvvetleri Generali Jack Shanahan, ‘Anthropic’in üzerine bir hedef tahtası çizmek sansasyonel manşetler kazandırır, ancak sonunda herkes kaybeder’ yorumunu yaptı. Shanahan, geçmişte Project Maven gibi tartışmalı projelerde yer almış olmasına rağmen, Anthropic’in pozisyonuna sempati duyduğunu belirtti. Claude’un halihazırda hükümetin birçok alanında kullanıldığını ve Anthropic’in belirlediği kırmızı çizgilerin ‘makul’ olduğunu ifade eden Shanahan, özellikle tamamen otonom silahlar söz konusu olduğunda, yapay zeka dil modellerinin ulusal güvenlik ortamları için henüz hazır olmadığını savundu. Pentagon yetkilileri ise Anthropic’in modelini ‘tüm yasal amaçlar için’ kullanmak istediklerini ve bu teknolojinin kullanımının engellenmesinin kritik askeri operasyonları tehlikeye atacağını öne sürdü, ancak teknolojiyi nasıl kullanmak istediklerine dair detay vermedi. Pentagon’un, şirketin onayı olmasa bile ürünlerini kullanma yetkisini genişletecek Soğuk Savaş döneminden kalma Savunma Üretim Yasası’nı devreye sokma tehdidi de bulunuyor. Amodei, bu tehditlerin çelişkili olduğunu belirterek, Pentagon’un kararını yeniden gözden geçirmesini umduğunu, aksi takdirde başka bir sağlayıcıya geçişi kolaylaştıracaklarını söyledi.