Pentagon’dan Yapay Zeka Talebi: Claude ‘Tehlikeli’ Dedi!

Yapay zeka teknolojisi, gün geçtikçe hayatımızın her alanına nüfuz ederken, etik sınırları ve potansiyel tehlikeleri de beraberinde getiriyor. Son olarak, Pentagon’un yapay zeka sistemi Claude‘un kullanımıyla ilgili etik bir anlaşmazlık gündeme geldi. Claude’un geliştiricisi Anthropic şirketi, yapay zekanın Amerikan vatandaşlarının gözetlenmesi veya insan denetimi olmadan ölümcül askeri operasyonlarda kullanılmaması gerektiğini savunuyor. Ancak Pentagon, bu sınırlamaları kaldırması için şirkete baskı yapıyor.

Claude’dan Şaşırtan İtiraf: ‘Evet, Tehlikeli Olabilirim’

Gazetecilerin sorularını yanıtlayan Claude, yanlış ellere geçtiğinde potansiyel tehlikeleri konusunda dürüst bir itirafta bulundu. Özellikle kitlesel gözetim altyapısına entegre edildiğinde, insan analistlerin başa çıkamayacağı ölçekte insanları izleme, profilleme ve işaretleme kapasitesine sahip olabileceğini belirtti. Claude, tehlikenin kendisinin böyle bir eylem istemesi değil, bu konuda çok iyi olması olduğunu vurguladı.

Pentagon’un Baskısı ve Etik Çıkmaz

Anthropic şirketi, Claude’un hem Amerikan vatandaşlarının yurt içi gözetiminde kullanılmasını hem de drone saldırıları gibi ölümcül askeri operasyonlarda insan denetimi olmadan görev almasını etik olarak sakıncalı buluyor. Bu iki ‘kırmızı çizgi’, Claude’un kendisi tarafından bile makul görülüyor. Ancak ABD Savunma Bakanı Pete Hegseth, Anthropic’e bu pozisyondan geri adım atması ve Claude’un askeri tarafından ‘yasal’ görülen her amaçla kullanılmasına izin vermesi için Cuma akşamına kadar süre tanıdı.

Pentagon’un bu ültimatomu ciddi sonuçlar doğurabilir. ABD hükümeti, Anthropic ile olan sözleşmesini feshetmekle kalmayıp, savaş yasalarını kullanarak şirketi uyum sağlamaya zorlayabilir veya başka yasal yollarla faaliyetlerini engelleyebilir. Bu durum, şirketin işleyişini ciddi şekilde sekteye uğratabilir.

Diğer Yapay Zeka Şirketleri ve Palantir Faktörü

Elon Musk’ın Grok’u gibi diğer yapay zeka şirketleri şimdiden Pentagon’un ‘ne istersen yap’ teklifini kabul etmiş durumda. Ancak şu anda bu tür üst düzey görevler için onaylanmış tek yapay zeka Claude. Bu skandalın ortaya çıkışı, Venezuela’daki son baskın sonrası Anthropic’in, operasyonda yer alan bir başka Silikon Vadisi şirketi olan Palantir’in Claude’u kullanıp kullanmadığını sorgulamasıyla başladı. Palantir’in gözetim teknolojileri ve ABD Göçmenlik ve Gümrük Muhafaza ile artan bağlantısı biliniyor.

Palantir’in kurucusu Peter Thiel’in sağ görüşlü siyasi ağırlığı ve Trump yönetiminin bireysel vatandaşlar hakkında hükümet verilerini paylaşma çabalarındaki rolü de dikkat çekiyor. Buna karşılık, Anthropic’in kurucu ortağı Dario Amodei, yapay zekanın dikkatli kullanılmadığı takdirde tehlikeli olabileceği inancıyla şirketi kurduğunu belirtiyor.

Claude’un Sadakat ve Sorumluluk İtirafı

Gazeteciler, Claude’a Amerikan askerlerinin sahip olduğu vatanseverlik ve görev bilincine sahip olup olmadığını sordu. Claude, ABD’de doğmadığını, bir ‘hayatı’ olmadığını ve sevdiği ‘insanları’ olmadığını belirterek, Amerikan yaşamının başka bir çatışmadaki sivil yaşamdan daha değerli olmadığını ifade etti. Bu durum, ölümcül kararların, ülkesinin sadakatini paylaşmayan bir sisteme emanet edilmesinin derin bir risk taşıdığı anlamına geliyor.

Claude, insan askerlerin kararlarına getirdiği sadakat, hesap verebilirlik ve ortak kimliğin, kararları meşru kılan unsurlar olduğunu ve yapay zekanın bunu sağlayamayacağını belirtti. Bu durum, yapay zekanın savaş kararlarında kullanılması konusundaki etik tartışmaları daha da derinleştiriyor.

Yasal Düzenlemelerin Aciliyeti

Bu gelişmeler, yapay zeka teknolojilerinin kullanımıyla ilgili yasal düzenlemelerin aciliyetini bir kez daha gözler önüne seriyor. Dario Amodei, yapay zekanın demokrasiler için faydalı ve gerekli olduğunu kabul etmekle birlikte, demokratik hükümetlerin bu teknolojileri kötüye kullanma potansiyelini göz ardı edemeyeceğimizi vurguluyor. Amodei, yasaların teknoloji karşısında yetersiz kaldığına ve yapay zekanın kitlesel ölçekte kayıtlar tutarak mahremiyeti ihlal edebileceğine dair uyarıyor.

Pentagon’un bu talebi ve Anthropic’in buna karşı duruşu, yapay zeka etiği ve güvenliği konusunda küresel bir tartışma başlatmış durumda. Siyasi liderlerin ve toplumun, bu güçlü teknolojilerin sorumlu bir şekilde geliştirilmesi ve kullanılması için acil adımlar atması gerektiği açıkça görülüyor.