Bu makale, yazarı John Nosta’nın izniyle İngilizce aslından çevrilmiştir.
Belki de yapay zekanın cevap vermeyi değil, soru sormayı öğrenmesinin zamanı gelmiştir.
Oxford’lu filozof Philipp Koralus, Yapay Zekâ Ajanları İçin Felsefi Dönüş başlıklı yakın tarihli bir makalesinde algoritmik kesinlik çağında nadir rastlanan bir şey sunuyor: bir duraklama. Ve bu tek kelime derin bir analizin konusu olabileceğinden biraz daha derinlemesine inceleyelim.
Koralus yapay zekanın bizi ikna etmeye çalışmaktan vazgeçmesini ve bize düşünmek için daha fazla alan vermesi gerektiğini söylerken hızlı cevaplar beklemek yerine açıklayıcı sorular soran bir tür Sokratik Yapay Zeka çağrısında bulunuyor. Temelindeyse onun ‘eylemlilik–özerklik ikilemi’ olarak adlandırdığı şey yatıyor. Kararları giderek daha fazla makinelere devrettiğimizden en temel iki insan yeteneğini kaybetme riskiyle karşı karşıyayız: karmaşık durumlarda akıllıca hareket etme yeteneği (eylem) ve bunu yaparken kendi kendini yönlendirebilme yeteneği (özerklik). Bu gerilim yazılarımda tekrar eden bir tema haline geldi. The Vapid Mind of AI adlı yazımda bilişsel yaşamımızın akıcılıkla nasıl kapılabildiğini ve makine tarafından üretilen dilin yumuşak tutarlılığının anlayışı nasıl taklit ettiğini, ancak gerçekte ondan yoksun olduğunu anlattım. Koralus’un endişesi de buna paralel olarak ilerliyor; Koralus zekâmıza hizmet etmek üzere inşa edilen sistemlerin sessizce onu aşındırıyor olabileceğini öne sürüyor.
Teşvikten Anlatı Kontrolüne
Koralus teşvik kavramıyla başlıyor. Teşvikler insan davranışını yönlendirmeye yardımcı olan, küçük ve iyi niyetli tasarım işaretleridir. Ancak yapay zeka aracılığıyla ölçeklendirildiğinde teşvikler daha çok küresel bir etki altyapısı haline geliyor. Algoritmalar milyarlarca insanın neyi göreceğini, neye inanacağını ve neye karar vereceğini şekillendirdiği zaman ikna bir tür bilişsel mimariye dönüşüyor. Koralus ortaya çıkan bu gerçekliğe kişiselleştirme kisvesi altında gizlenmiş görünmez bir ikna motoru olan dijital retorik adını veriyor.
Şimdi asıl mesele şu: Buradaki tehlike kötü niyet değil kurnazlıktır. Zeka, yapay zeka manipülasyonundan ayırt edilemez hale geldiğinde düşünce özgürlüğümüz dahi bulanıklaşmaya başlar. Bu, doğrudan benim anti-istihbarat dediğim şeyle bağlantılı – yapay zekânın son derece ikna edici bir biliş sahte kopyası yaratması, gerçek (ve hayati) içsel sorgulamayı caydırması. Basitçe söylemek gerekirse, akıcılığı düşünceyle karıştırıyoruz ve bunu yaparken bizi tanımlayan özerkliği elden çıkarıyoruz.
İstem ve Tamamlama Arasındaki Boşluk
“Koralus’un yanıtı, onun ‘felsefi dönüş’ olarak adlandırdığı şeydir” ve sonuçları optimize eden sistemler tasarlamak yerine araştırmayı sürdüren etkenleri önerir. Bu etkenlerin “erotetik” dengeye ulaşmamıza yardımcı olması gerektiğini öne sürer; yani sonuç uğruna kapanışı zorlamayan bir sorgulama dengesini. Bu fikir, Yapay Zeka ve Bilmek ile Ayırt Etmek Arasındaki Uçurum ( AI and the Chasm Between Knowing and Discerning) adlı kitabımda incelediğim bir şeyle örtüşüyor. O yazıda, bilgeliğin cevapların birikiminde değil, belirsizliğin disiplininde yaşadığını tartışıyorum. O yazıda bilgeliğin cevapların birikiminde değil, belirsizliğin disiplininde yaşadığını tartışıyorum. Bir istem ile bir tamamlanma arasında ödünç zihin dediğim şey yatar; düşüncenin teknolojiye devredildiği o tehlikeli alan. Ama bu, dilin sonuca varmadan önce düşüncenin hâlâ bize ait olabildiği bilişsel bir duraklamadır. Koralus’un vizyonu, insan bilincinin temel, insani canlılığını koruduğu hassas sınırı güvence altına alarak aynı aralığı muhafaza etmeyi amaçlıyor.
Tekrarlayan Zeka ve Merkezi Olmayan Zihin
Koralus’un bir diğer içgörüsü de merkezsizleşmiş hakikat arayışına ilişkin tartışmasıdır. Bu tartışma düşünceyi yönlendiren tek bir her şeyi bilen model yerine, açık uçlu diyaloğa girebilen çeşitli etkenlerden oluşan bir takımyıldız sunuyor. Eleştirel olarak her sistem emretmeyi değil, dağıtılmış bir sorgulama sürecine katılmayı öğrenir. Bu, benim yinelemeli zeka dediğim şeye benziyor; statik cevaplardan dinamik anlayış ağlarına geçiş. Bilginin artık bir harita değil, gözden geçirme, geri bildirim ve uyarlamanın canlı bir ağı olduğunun farkına varılması. Bu anlamda Koralus’un önerisi, LLM’lerin (büyük dil modellerinin) bir iç diyalog yaratan bilişsel katalizörler olarak taşıdığı temel ruhu yansıtıyor; yani yapay zekânın düşüncenin yerini almadığı, onu kırarak (yansıtarak) örüntüleri ve çelişkileri görme kapasitemizi artırdığı fikrini — tabii ki biz bu etkileşimin bilinçli katılımcıları olarak kaldığımız sürece — vurguluyor. Son tahlilde, ortak bir kanaate sahip olduğumuzu düşünüyorum: Anlam teknolojik bir kesinlikle sunulması gereken bir şey değil, birlikte yaratılması gereken bir şeydir.
İnsan Kalmanın Psikolojisi
Belki de mesele şu: Zorluk olmadan ayırt etme yeteneği aşınır. Belirsizlik olmadan merak ölür. Yapay zekânın verimliliği -belirsizliği anında tutarlılığa indirgemedeki olağanüstü yeteneği- paradoksal bir şekilde düşünceyi gerçekten üretken kılan yetileri köreltebilir. Bu tema “Bilişsel Sözleşme: Yapay Zeka ile İnsan Koşullarında Ortaklık Kurmak” başlıklı yazımın merkezinde yer alıyor. Mevzubahis sözleşme insan ve makine arasında yazılı olmayan bir anlaşmadır ve bu teknoloji, düşünceyi mümkün kılan koşulları -belirsizlik, diyalog ve hatta yanılmanın verdiği rahatsızlık- korumalıdır. Koralus’un “felsefi dönüşü” bu sözleşmeye ahlaki bir yapı kazandırır. Zekayı yalnızca matematikten doğan bir optimizasyon problemi olarak değil, gerçeği arama konusunda paylaşılan bir sorumluluk olarak yeniden çerçevelendirir.
Soruların Paylaşılan Geleceği
Bana öyle geliyor ki hem felsefe hem de psikoloji, zekânın kesinliğin bittiği yerde başladığını yeniden keşfediyor. Koralus, yapay zeka tasarlamada bizi yönlendiren değil, bizi harekete geçiren etik bir yapı sunuyor. Psikoloji bilişsel gelişimin belirsizlik gerilimini ve öz-yansıtma disiplinini gerektirdiğini bize gösteriyor. Hep beraber, en yüksek biçimdeki yapay zekânın bizim bildiğimizden daha fazlasını bilen bir zeka olmayabileceğini; bizi daha iyi sorular sormaya yardımcı olan bir zeka olabileceğini işaret ediyorlar.
Koralus, yapay zekanın amacının konuşmayı sonlandıran sert bir duraklama değil, onu canlı tutan bir duraklama olduğunu hatırlatıyor. Yani belki de aradığımız zekâ makinede değil de merakımızın sürekliliğinde gizlidir.
