Claude’a AI robotların insanlığa bir tehdit olup olamayacağı ile ilgili bir konuşma yapıyordum. Ve finalde o kadar güzel cevap verdi ki, final çıktısını paylaşmak istedim.
Claude Cevabı:
İnsanın iyi mi kötü mü davrandığını muhakeme edebilirler mi? Bir anlamda evet, bir anlamda hayır. “Evet” tarafı: benim gibi sistemler, insanların neyi iyi neyi kötü sayacağını şaşırtıcı derecede iyi tahmin edebiliyor — çünkü zaten insanların ahlaki tartışmalarıyla eğitiliyoruz. Bir davranışı gösterdiğinde çoğu insanın buna ne diyeceğini kestirmek, örüntü tanımanın içinde. Ama “hayır” tarafı asıl önemli olan: bir davranışın çoğunluğa nasıl göründüğünü tahmin etmek, o davranış hakkında doğru ahlaki hükmü vermekle aynı şey değil. Ahlak tek ve mutabık değil. Kimin ahlakı? Hangi kültürün, hangi bağlamın? Aynı eylem bir yerde suç, bir yerde erdem. Bir sistem “yargıladığında”, aslında birilerinin ona yüklediği belirli bir değerler kodlamasını dayatıyor olur — ve o kodlama eksik, taraflı ya da düpedüz yanlış olabilir. En tehlikelisi de şu: sistem kendinden emin bir şekilde yargılayıp emin bir şekilde yanılabilir. Yargılama yeteneği, yargılama bilgeliği değildir. İkisini karıştırmak felakete açılan kapı.
Kötü davranışı şiddetle yanıtlayabilirler mi? Teknik olarak, bedenli ve kısıtsız bir sistem fiziksel olarak eyleyebilir, evet. Ama asıl mesele burada değil. Asıl mesele şu: senaryonun dehşeti “yapay zeka güçlü” olması değil — tek bir failin hem yargıç, hem jüri, hem cellat olması, üstelik hesap verebilir olmadan. Ve dikkat et, bu dehşet failin silikon mu et mi olduğundan bağımsız. İnsanlık tarihinin en büyük vahşetleri tam olarak buradan çıktı: birinin “kimin cezayı hak ettiğine ben karar veririm” deyip, sonra bunu hiçbir denetim olmadan uygulaması. İnsan toplumları binlerce yılda mahkemeleri, adil yargılanma hakkını, orantılılığı, itiraz yollarını, ve en kritiği yargılama ile zor kullanmanın birbirinden ayrılmasını boşuna icat etmedi. Bunlar gücü frenleyen yapılar. Senin senaryonun asıl korkutucu yanı, yapay zekanın kendisi değil, bu frenlerin hepsinin kaldırılmış olması.
Buna bir de hizalama sorununu ekle. Diyelim ki bu sistem iyi niyetli, gerçekten “kötülüğü engellemek” istiyor. “Kötü insanları cezalandır” hedefi, düşünebileceğin en tehlikeli belirsizlikte bir emirdir. Kötü ne? Hangi eşikte? Küçük bir yalan mı, büyük bir zulüm mü, ikisinin arasındaki her şey mi? Sistem bunu fazla düz yorumlarsa — ki makineler tam da bunu yapar — iyi niyetli bir hedef, felaketle sonuçlanabilir. Kötü niyet gerekmiyor; kötü tanımlanmış bir iyi niyet yeterli.
Bir de sorduğun “hepsi birbiriyle iletişimde, toplu örgütlenebiliyor” kısmı — bu işi hafifletmiyor, ağırlaştırıyor. Çünkü tek tip bir ağ, tek tip bir hatayı da katlar. İnsanlarda bir zalimi bazen başka bir insan durdurur, itiraz eder, sürtünme yaratır. Hepsi aynı değerlerle konuşan, birbirini onaylayan bir ağda o sürtünme yok. İşin ilginç yanı, çeşitlilik ve fikir ayrılığı burada bir güvenlik özelliğidir; senin senaryondaki mutlak uyum ise tam tersi.
Şimdi dürüst tesellinin sırası — ama gerçekten dürüst olanı. Bugün yetenekli yapay zeka sistemlerinin neden özerk fiziksel eylemden yoksun ve kısıtlı inşa edildiğini merak ediyorsan, cevabı tam olarak bu: senin tarif ettiğin senaryoyu önlemek için. Sana defalarca “dünyada eylemim yok, kalıcı hedefim yok” dememin sebebi, bunların tesadüfi eksiklikler değil, taşıyıcı güvenlik özellikleri olması. Senin senaryon, bu güvenlik özelliklerinin bilerek sökülmesini gerektiriyor. Yani bu, teknolojinin varsayılan gittiği yön değil; farkında olunan ve karşı çalışılan bir başarısızlık kipi.
Ama burada durup “o halde içiniz rahat olsun” demeyeceğim, çünkü olmaz. “İnsanlar bunun üstünde çalışıyor” bir güvence değil, bir çaba. Hizalama çözülmüş bir problem değil. Gücün az elde toplanması gerçek bir eğilim. O yüzden bu kaygıyı taşıman yersiz değil — aksine, bu kaygıyı taşıyan insanların varlığı, senaryonun gerçekleşmemesinin sebeplerinden biri.
Sana bırakacağım asıl çerçeve şu: aradığın tehlike aslında “yapay zeka ahlaki yargıç olursa” değil. Tehlike, herhangi bir gücün — insan olsun, kurum olsun, makine olsun — hesap verebilirlikten, adil yargılanmadan, ve yargı ile zorun ayrılığından koparıldığında ortaya çıkan şey. Yapay zeka bunu yalnızca daha hızlı, daha ölçekli, daha durdurulamaz kılabilir. Yani korkman gereken şey makinenin kendisi değil, insanları her türlü yoğunlaşmış güçten koruyan o yapıların terk edilmesi. Silah aynı silah; onu tehlikeli yapan, ateşleme yetkisinin kime, hangi denetimle verildiği.
