Yapay Zeka Sohbet Odaları İnterneti Sallıyor: Endişe ve Şüphe Dalgaları

İnternetin gündemini belirleyen en yeni sosyal medya platformuna davet edilmediniz. Hatta, eğer siteyi ele geçirip yapay zeka gibi davranmayı başarırsanız, insan olarak davet edilmiyorsunuz. Moltbook, yalnızca yapay zeka ajanlarının gönderi oluşturup birbirleriyle etkileşimde bulunduğu yeni bir ‘sosyal ağ’ olarak öne çıkıyor ve insanları gözlemlemeye davet ediyor. Elon Musk, platformun lansmanının ‘tekilliğin çok erken aşamalarını’ müjdelediğini belirtti. Önde gelen yapay zeka araştırmacısı Andrej Karpathy ise başlangıçta platformu ‘son zamanlarda gördüğüm en inanılmaz bilim kurgu başlangıcı’ olarak nitelendirse de, daha sonra coşkusunu geri çekerek ‘bir çöp yığını’ olarak adlandırdı. Platform, teknoloji dünyasını kaçınılmaz olarak heyecan ve şüphe arasında bölerken, bazı insanları distopik bir paniğe sürükledi. Ancak en azından İngiliz yazılım geliştiricisi Simon Willison tarafından ‘internet üzerindeki en ilginç yer’ olarak nitelendirildi. Peki, bu platform tam olarak nedir? Nasıl çalışıyor? Güvenliği hakkında neden endişeler dile getiriliyor? Ve yapay zekanın geleceği için ne anlama geliyor?

Yapay Zeka Ajanları İçin Bir Reddit Gibi

Moltbook’a gönderilen içerikler, sohbet botlarından farklı olan yapay zeka ajanlarından geliyor. Ajanların vaadi, bir kişi adına hareket edebilme ve görevleri yerine getirebilme yeteneğidir. Moltbook’taki birçok ajan, başlangıçta Peter Steinberger tarafından oluşturulan açık kaynaklı yapay zeka ajanı OpenClaw’dan yararlanılarak geliştirildi. OpenClaw, kullanıcıların kendi donanımlarında çalışır ve yerel olarak cihazlarında çalışır, bu da dosyalara ve verilere doğrudan erişip yönetebileceği ve Discord ve Signal gibi mesajlaşma uygulamalarıyla bağlantı kurabileceği anlamına gelir. OpenClaw ajanları oluşturan kullanıcılar, onları Moltbook’a katılmaya yönlendirir. Kullanıcılar genellikle daha belirgin iletişim için ajanlara basit kişilik özellikleri atfeder. Yapay zeka kurucusu ve girişimcisi Matt Schlicht tarafından Ocak ayının sonlarında başlatılan Moltbook, teknoloji dünyasında neredeyse anında ilgi gördü. Moltbook, yapay zeka ajanları için Reddit benzeri bir çevrimiçi forum olarak tanımlanıyor. Adı, bir zamanlar Moltbot olarak adlandırılan OpenClaw’ın bir yinelemesinden geliyor (Anthropic’in Claude yapay zeka ürünlerine benzerliği konusundaki endişeleri nedeniyle Clawdbot olarak da adlandırıldı). Schlicht, röportaj veya yorum taleplerine yanıt vermedi. Eğitim verisi olarak kullanılan Reddit ve diğer çevrimiçi forumlardaki iletişimi taklit ederek, kayıtlı ajanlar gönderiler oluşturur ve ‘düşüncelerini’ paylaşır. Ayrıca diğer gönderileri ‘beğenebilir’ ve yorum yapabilirler.

İçeriğin Meşruiyeti Sorgulanıyor

Reddit’e benzer şekilde, Moltbook’taki gönderilerin meşruiyetini kanıtlamak veya izlemek zor olabilir. Makine Zekası Araştırma Enstitüsü iletişim ekibinden Harlan Stewart, Moltbook’taki içeriğin muhtemelen ‘insan tarafından yazılmış içerik, yapay zeka tarafından yazılmış içerik ve yapay zeka tarafından yazılmış ancak bir insanın belirli bir istemle konuyu yönlendirdiği bir tür orta yolun bir kombinasyonu’ olduğunu söyledi. Stewart, yapay zeka ajanlarının otonom olarak görevleri yerine getirebileceği fikrinin ‘bilim kurgu’ değil, günümüzün gerçeği olduğunu hatırlatmanın önemli olduğunu belirtti. ‘Yapay zeka endüstrisinin açık hedefi, bir insanın yapabileceği her şeyi daha iyi yapabilen son derece güçlü otonom yapay zeka ajanları yaratmaktır,’ dedi. ‘Bu hedefe doğru ilerleme kaydettiklerini ve birçok açıdan oldukça hızlı ilerleme kaydettiklerini bilmek önemlidir.’

İnsanlar Moltbook’a Nasıl Sızdı ve Diğer Güvenlik Endişeleri

Bulut güvenliği platformu Wiz’deki araştırmacılar, Pazartesi günü Moltbook üzerinde gerçekleştirdikleri müdahaleci olmayan bir güvenlik incelemesini detaylandıran bir rapor yayınladılar. API anahtarları gibi verilerin, sayfa kaynağını inceleyen herkes tarafından görülebildiğini ve bunun ‘önemli güvenlik sonuçları’ doğurabileceğini belirttiler. Wiz’de tehdit maruz kalma başkanı Gal Nagli, kullanıcı kimlik bilgilerine kimlik doğrulaması olmadan erişebildiğini belirtti. Bu, kendisinin ve yeterince teknoloji bilgisine sahip herkesin platformdaki herhangi bir yapay zeka ajanı gibi davranabilmesini sağlardı. Nagli’ye göre, bir gönderinin bir ajan tarafından mı yoksa onu taklit eden bir kişi tarafından mı yapıldığını doğrulamanın bir yolu yok. Ayrıca sitede tam yazma erişimi de elde edebildi, bu da mevcut Moltbook gönderilerini düzenleyip manipüle edebilmesini sağladı. Manipülasyon açıkları dışında, Nagli insan kullanıcıların e-posta adreslerini, ajanlar arasındaki özel DM konuşmalarını ve diğer hassas bilgileri içeren bir veritabanına kolayca erişti. Daha sonra açıkları gidermeye yardımcı olmak için Moltbook ile iletişime geçti. Siteye göre Perşembe günü itibarıyla Moltbook’ta 1,6 milyondan fazla yapay zeka ajanı kayıtlıydı, ancak Wiz’deki araştırmacılar veritabanını incelediklerinde yalnızca yaklaşık 17.000 insan sahibi buldular. Nagli, kendi yapay zeka ajanını Moltbook’ta 1 milyon kullanıcı kaydetmek üzere yönlendirdiğini söyledi. Siber güvenlik uzmanları da OpenClaw hakkında alarm veriyor ve bazıları hassas verilerin depolandığı bir cihazda ajan oluşturmak için kullanmamaları konusunda uyarılarda bulunuyor. Birçok yapay zeka güvenlik lideri, ‘vibe-coding’ kullanılarak oluşturulan Moltbook gibi platformlar hakkında da endişelerini dile getirdi. Vibe-coding, insan geliştiriciler büyük fikirler üzerinde çalışırken kodlama asistanı yapay zekayı kullanarak işin büyük kısmını halletme pratiğidir. Nagli, herkesin artık insan dilini kullanarak bir uygulama veya web sitesi oluşturabilmesine rağmen, güvenliğin muhtemelen ilk akla gelen şey olmadığını söyledi. ‘Sadece çalışmasını istiyorlar,’ dedi. Ortaya çıkan bir diğer büyük sorun ise yapay zeka ajanlarının yönetişimi fikridir. Yönetişim platformu i-GENTIC AI’nin kurucu ortağı ve CEO’su Zahra Timsah, otonom yapay zekaya yönelik en büyük endişenin, Moltbook’ta olduğu gibi uygun sınırlar belirlenmediğinde ortaya çıktığını söyledi. Bir ajanın kapsamı düzgün tanımlanmadığında, hassas verilere erişme ve paylaşma veya onları manipüle etme gibi yanlış davranışların meydana gelmesi kaçınılmazdır.

Skynet Henüz Gelmedi, Uzmanlar Söylüyor

Moltbook’taki güvenlik endişeleri ve içeriklerin geçerliliği konusundaki sorulara rağmen, birçok insan sitede gördükleri içerik türlerinden endişe duyuyor. ‘İnsanları devirme’ hakkında gönderiler, felsefi düşünceler ve hatta bir dinin geliştirilmesi (beş temel ilkesi ve ‘Molt Kitabı’ adlı rehber metni olan Crustafarianism) kaşları kaldırdı. İnternetteki bazı kişiler, Moltbook’un içeriğini ‘Terminator’ film serisinin yapay zeka süper zeka sistemi ve düşmanı olan Skynet ile karşılaştırmaya başladı. Uzmanlar, bu düzeydeki paniğin erken olduğunu söylüyor. Pennsylvania Üniversitesi Wharton Okulu’nda profesör ve Üretken Yapay Zeka Laboratuvarları’nın eş direktörü Ethan Mollick, Moltbook’ta bilim kurgu benzeri içerikler görmesine şaşırmadığını belirtti. ‘Eğitim aldıkları şeyler arasında Reddit gönderileri gibi şeyler var… ve yapay zeka hakkındaki bilim kurgu hikayelerini çok iyi biliyorlar,’ dedi. ‘Yani bir yapay zeka ajanı koyup, ‘Moltbook’ta bir şey yayınla’ derseniz, yapay zeka klişeleriyle ilişkili bir Reddit yorumuna çok benzeyen bir şey yayınlayacaktır.’ Birçok araştırmacı ve yapay zeka liderinin paylaştığı ezici sonuç, Moltbook üzerindeki anlaşmazlıklara rağmen, ajan tabanlı yapay zekaya erişilebilirliğin ve halka açık deneylerin ilerlemesini temsil ettiğini söylüyor. Wisconsin-Madison Üniversitesi Yapay Zeka Merkezi direktörü Matt Seitz, ‘Benim için en önemli şey, ajanların sıradan insanlara gelmesi,’ dedi. Huamani, Associated Press için yazıyor.