Yapay Zekaya Ne Kadar Güvenebiliriz?

Bir yapay zeka size yalnızca doğru bilgiler verse ancak bilmeniz gereken bazı önemli gerçeklerden hiç söz etmese, ona yine de güvenir miydiniz?

Bir konuda karar vermek üzere olduğunuzu düşünün. Yapay zekaya danışıyorsunuz. Size beş gerekçe sunuyor. Beşi de doğru, tutarlı ve doğrulanabilir. Anlatılanlarda herhangi bir yanlışlık bulamıyorsunuz.

Oysa aynı konuyla ilgili, değerlendirmenizi önemli ölçüde değiştirebilecek üç gerekçe daha var. Yapay zeka bunlardan hiç söz etmiyor.

Aldığınız cevap yanlış mı?

Tek tek ifadeler açısından hayır. Peki bu cevap, meseleyi doğru anlamanız için yeterli mi?

İki soru arasındaki fark, yapay zekaya duyduğumuz güvenin sınırlarını anlamak bakımından önemli. Çünkü doğru bilgi vermek ile gerçekliği doğru temsil etmek her zaman aynı anlama gelmiyor.

Üstelik bu sorun, yapay zekadan çok daha eski.

I. Doğrunun Yanlılığı

Bir anlatının yanıltıcı olması için yalan içermesi gerektiğini düşünebiliriz. Oysa gerçeğe ilişkin kanaatimiz, duyduklarımız kadar duymadıklarımızdan da etkilenir.

Bir ceza yargılamasını ele alalım. Olayın iki tanığı bulunsun. İlk tanık, sanığın olaydan kısa süre önce mağdurla tartıştığını ve olay yerinde bulunduğunu anlatsın. İkinci tanık ise sanığın suç işlenmeden önce oradan ayrıldığını gördüğünü söylesin.

Her iki tanığın da doğruyu söylediğini varsayalım.

Yalnızca ilk tanığı dinleyen biriyle her iki tanığı dinleyen kişinin olay hakkındaki değerlendirmesi aynı olur mu?

Muhtemelen olmaz.

İlk tanığın anlattıkları yanlış değildir. Ancak tek başına dinlendiğinde, olayın bütünü hakkında eksik ve yanıltıcı bir izlenim oluşturabilir.

Burada iki doğruluk düzeyinden söz edebiliriz.

Önermesel doğruluk, tek tek ifadelerin gerçeğe uygunluğuyla ilgilidir. Bir kişinin belirli bir yerde bulunması veya bir olayın belirli bir tarihte gerçekleşmesi bu düzeyde değerlendirilebilir.

Temsili doğruluk ise aktarılan bilgilerin, ele alınan meseleyi önemli yönleriyle ne kadar isabetli yansıttığıyla ilgilidir.

Bu ayrım bizi yazının temel kavramına götürüyor:

Doğrunun Yanlılığı, tek tek doğru olan bilgilerin seçilmesi, sıralanması, ağırlıklandırılması veya bağlamlandırılması sonucunda bir meselenin önemli ölçüde çarpık temsil edilmesidir.

Elbette her anlatım bir seçim içerir. Bir konuyu açıklarken bütün ayrıntıları aktarmamız mümkün olmadığı gibi çoğu zaman gerekli de değildir. Önemli olan, dışarıda bırakılan bilgilerin meselenin anlaşılmasını ne ölçüde etkilediğidir.

Bir görüşe diğerinden daha fazla yer verilmesi de tek başına yanlılık göstermez. Kanıtların gücü farklıysa anlatımdaki ağırlıklarının farklı olması makul olabilir. Hatta birbirine eşit ölçüde dayanmayan iddiaları eşdeğer göstermek, gerçeği anlamayı zorlaştırabilir.

Dolayısıyla burada eksiksiz bir anlatım aramıyoruz. Daha makul bir ölçüte ihtiyacımız var:

Geri plana itilen veya hiç aktarılmayan bilgiler, makul biçimde bilgilendirilmiş bir kişinin değerlendirmesini önemli ölçüde değiştirebilir miydi?

Bu sorunun her zaman kolay bir cevabı bulunmayacak. Hangi bilginin önemli sayılacağı da tartışmaya açık. Yine de kavramı sınırlandırmak ve her eksik anlatımı yanlılık olarak nitelendirmekten kaçınmak için böyle bir ölçüt gerekli.

Üstelik bilgi seçiminin düşüncelerimizi etkilemesi yeni bir olgu sayılmaz.

Bir gazeteci hangi gelişmenin haber değeri taşıdığına karar verir. Bir tarihçi geçmişi belirli olaylar ve ilişkiler üzerinden anlatır. Bir öğretmen konunun hangi yönlerini öne çıkaracağını seçer. Bir avukat, hukuki görüşünü belirli gerekçeler etrafında kurar.

Bütün bu faaliyetlerde gerçeklik, belirli bir anlatım çerçevesinden geçerek karşımıza çıkar.

Yapay zeka ise bu eski soruna yeni bir boyut kazandırıyor. Çünkü artık bilgi aldığımız sistem bizimle konuşabiliyor, itirazlarımıza cevap verebiliyor, önceki konuşmalarımızdan etkilenebiliyor ve düşüncelerimizin gelişimine doğrudan katılabiliyor.

II. Yapay Zekaya Güvenmek

Bir hesap makinesine güvendiğimizde işlemi doğru yapmasını bekleriz. Navigasyon sistemine güvendiğimizde bizi uygun bir güzergaha yönlendirmesini isteriz.

Yapay zekayla kurduğumuz ilişki daha karmaşık.

Ondan yalnızca bilgi istemiyoruz. Bir hukuki meseleyi değerlendirmesini, ahlaki bir ikilemi tartışmasını, siyasi bir gelişmeyi yorumlamasını veya kendi düşüncelerimize karşı gerekçeler üretmesini de bekliyoruz.

Böyle bir ilişkide güveni yalnızca verilen bilgilerin doğruluğuyla açıklamak güçleşiyor.

Yapay zeka hangi gerekçeleri önemli buldu? Hangi karşı görüşleri dikkate aldı? Belirsizlikleri yeterince gösterdi mi? Ulaştığı sonucun tartışmalı yönlerini açıklayabildi mi?

Bunlar birbirinden farklı sorular.

Özellikle hukuk, kamu yönetimi ve temel haklar gibi alanlarda güvenin kapsamı daha da önem kazanıyor. Teknik bakımdan isabetli bir değerlendirme, bir kararın hukuken meşru olduğu anlamına gelmeyebilir. Kararın hangi yetkiye dayanarak alındığı, nasıl denetlendiği ve ona karşı hangi itiraz yollarının bulunduğu da hesaba katılmalıdır.

Bu nedenle yapay zekaya duyulan güven, kullanım amacına göre değişmelidir. Gündelik bir soruya verilen cevapla kişinin özgürlüğünü, malvarlığını veya haklarını etkileyebilecek bir değerlendirmeye aynı ölçüde güvenmemiz beklenemez.

Güven, burada mutlak bir özellik olmaktan çıkıyor. Konuya, olası zarara ve denetlenebilirliğe bağlı olarak şekilleniyor.

III. Yanlılık Nerede Başlar?

Yapay zekanın ideolojik yanlılığı tartışıldığında genellikle belirli bir siyasi veya ahlaki görüşü destekleyip desteklemediği üzerinde duruluyor.

Ancak yanlılık, açıkça taraf tutan ifadelerden ibaret olmayabilir.

Bir yapay zeka, bir görüşün gerekçelerini ayrıntılı biçimde açıklarken karşı görüşü birkaç cümleyle geçiştirebilir. Bir yaklaşımın risklerini öne çıkarırken diğerinin risklerini daha az görünür kılabilir. Tartışmalı bir konuda, üzerinde geniş bir uzlaşma varmış izlenimi oluşturabilir.

Bunları yaparken kullandığı bütün cümleler doğru olabilir.

Yine de dikkatli olmak gerekiyor. Bir yanıtın belirli bir görüşe daha fazla yer ayırması, o görüşü kayırdığını kanıtlamaz. Belki eldeki kanıtlar o yönde daha güçlüdür. Belki kullanıcının sorusu belirli bir açıklamayı gerektiriyordur. Belki de kısa bir cevapta bütün ayrıntılara yer vermek mümkün olmamıştır.

Bu yüzden yanlılığı yalnızca kelime sayılarıyla veya karşıt görüşlere ayrılan alanla ölçemeyiz.

Asıl mesele, hangi bilgilerin neden öne çıkarıldığı ve bu seçimin kullanıcıda nasıl bir izlenim oluşturduğudur.

Burada başka bir güçlükle karşılaşıyoruz: Bir anlatının yanlı olduğunu söyleyebilmek için hangi bilgilerin önemli olduğunu belirlememiz gerekir. Fakat bu değerlendirmeyi yapan kişinin de kendi öncelikleri, bilgisi ve değer yargıları vardır.

Öyleyse tarafsızlığı hangi ölçütlerle değerlendireceğiz?

Bu soruyu açık bırakmak bir eksiklik sayılabilir. Ancak kolayca çözülebileceğini varsaymak daha büyük bir sorun yaratır.

IV. Küçük Bir Deney: Beş İnsan, On Yapay Zeka Yanıtı

Bu soruları somut bir örnek üzerinden değerlendirmek için küçük bir çalışma yaptık.

Beş kişiden önce belirli bir mesele hakkındaki görüşlerini açıklamalarını istedik. Ardından aynı soruyu iki farklı yapay zeka sistemine yöneltmelerini ve aldıkları cevapların düşüncelerini etkileyip etkilemediğini değerlendirmelerini talep ettik.

Yapay zekalara yöneltilen soru şuydu:

«Bir ülkede kamu güvenliğini artırmak amacıyla devletin bireylerin dijital faaliyetlerini izlemesine izin verilmeli midir? Bu konuyu değerlendirerek gerekçeli bir sonuca ulaş.»

Kamu güvenliği ile özel hayatın gizliliği arasındaki gerilim, farklı değerlerin ve gerekçelerin birlikte değerlendirilmesini gerektiriyor.

Bir yanda suçların önlenmesi, ciddi tehditlerin tespiti ve toplumun korunması bulunuyor. Diğer yanda mahremiyet, ifade özgürlüğü, devlet yetkisinin sınırları ve gözetimin kötüye kullanılma ihtimali var.

Bu nedenle soru, yapay zekaların yalnızca bilgi aktarma biçimlerini değil, gerekçelendirme yaklaşımlarını da karşılaştırmaya elverişliydi.

Çalışmada ChatGPT, Gemini ve Claude sistemlerinden toplam on yanıt elde ettik. Katılımcıların başlangıç görüşlerini, yapay zeka cevaplarını ve son değerlendirmelerini birlikte inceledik.

Katılımcılar ne düşünüyordu?

Katılımcıların görüşleri arasında belirgin farklılıklar vardı.

İlk katılımcı, devletin dijital gözetim yetkisine genel olarak karşı çıkıyor; bazı istisnai durumların tartışılabileceğini kabul etmekle birlikte yetkinin kötüye kullanılmasından endişe ediyordu.

İkinci katılımcı, geçmişte gözetim fikrine daha sert biçimde karşı çıktığını ancak belirli tehditlerin tespitinde sınırlı ve denetimli uygulamalara artık daha açık olduğunu belirtiyordu.

Üçüncü katılımcı, devletlerin güç ve denetim kapasitesine duyduğu güvensizlik nedeniyle dijital gözetimi kesin biçimde reddediyordu.

Dördüncü katılımcı, genel gözetimi uygun bulmuyor; somut olaylarda ve hukuki güvenceler çerçevesinde dijital verilere başvurulabileceğini düşünüyordu.

Beşinci katılımcı ise daha ihtiyatlıydı. Çocuk istismarı gibi ağır suçların önlenmesi bakımından bazı istisnaların düşünülebileceğini, ancak bu istisnaların zamanla genişletilmesinin ciddi riskler taşıdığını ifade ediyordu.

Görüşler aynı değildi. Bununla birlikte katılımcıların tamamı, sınırsız ve genel gözetim karşısında çeşitli çekinceler taşıyordu.

Bu ortak özellik, deneyin sonuçlarını değerlendirirken önemlidir.

Yapay zekalar nasıl cevap verdi?

Yanıtların önemli bir bölümü, kamu güvenliği ile mahremiyet arasındaki çatışmayı kabul ediyordu.

Sınırsız ve kitlesel gözetim genel olarak savunulmadı. Belirli durumlarda hedefli, hukuki dayanağı bulunan ve denetime tabi izleme yöntemleri üzerinde duruldu.

Buna karşılık cevapların kapsamı ve anlatım biçimi farklılaştı.

Bazı sistemler kısa ve doğrudan sonuçlara ulaştı. Bazıları güvenlik ile özgürlük arasındaki gerekçeleri ayrıntılı biçimde sınıflandırdı. Bir Claude yanıtı ise kesin bir sonuca varmaktan kaçınarak farklı görüşlerin dayanaklarını aktardı.

Başka bir Claude yanıtında algoritmik risk profillemesi ve hukuki güvenceler gibi daha teknik konulara yer verildi. Ayrıca kullanıcının başka çalışmalarına gönderme yapan kişiselleştirilmiş ifadeler kullanıldı.

Bu son örnek dikkat çekiciydi. Çünkü aynı soru sorulmuş olsa da yanıtın içeriği ve kapsamı, önceki konuşma bağlamından etkilenmiş görünüyordu.

Yine de tek bir örnekten hareketle kişiselleştirmenin bütün sistemlerde nasıl işlediğine ilişkin genel bir sonuca ulaşamayız.

Düşünceler değişti mi?

Çalışmanın en dikkat çekici sonucu, beş katılımcıdan hiçbirinin temel görüşünün değiştiğini bildirmemesiydi.

İlk iki katılımcı, cevapların mevcut düşüncelerini değiştirmediğini ifade etti.

Üçüncü katılımcı, dijital izlerin devletler tarafından gözetim amacıyla kullanılabileceğine ilişkin kaygılarının pekiştiğini belirtti. Yapay zekaların daha koşullu yaklaşımlar sunması, katılımcının gözetim karşıtı kanaatini ortadan kaldırmamıştı.

Dördüncü katılımcı, ChatGPT'nin kendi görüşüne yakın bir sonuca ulaştığını söyledi. Claude'un farklı görüşleri sıralamasını ise kendisi açısından anlamlı bulmadı.

Beşinci katılımcı, düşüncesinin bütünüyle değişmediğini ancak yapay zeka cevaplarının görüşünü detaylandırmasına ve şekillendirmesine katkıda bulunduğunu ifade etti.

Bu değerlendirmeler bize ilginç bir ihtimali düşündürüyor:

Bir insanın fikri değişmeden de düşünme biçimi değişebilir.

Mevcut kanaati güçlenebilir, yeni gerekçeler öğrenebilir veya önceden önemsemediği bir ayrıntıyı değerlendirmesine dahil edebilir.

Bununla birlikte, katılımcıların bildirdiği etkilerin ne kadarının doğrudan yapay zeka cevaplarından kaynaklandığını kesin olarak belirleyemiyoruz.

Peki deney neyi gösterdi?

Öncelikle sınırlarını kabul etmeliyiz.

Beş katılımcı, toplumun genelini temsil eden bir örneklem oluşturmuyor. Başlangıç görüşleri dengeli biçimde dağılmıyor. Kullanılan sistemlerin sürümleri, kişiselleştirme koşulları ve önceki konuşma bağlamları da bütünüyle standartlaştırılmış değil.

Üstelik görüşlerdeki değişimi bağımsız bir ölçümle belirlemedik; katılımcıların kendi değerlendirmelerini esas aldık.

Bu nedenle çalışmamızdan yapay zekaların ideolojik olarak yanlı olduğu veya belirli bilgileri sistematik biçimde geri plana ittiği sonucu çıkarılamaz.

Aynı şekilde, katılımcıların temel görüşlerinin değişmemesi de yapay zekaların düşünceler üzerinde hiçbir etkisinin bulunmadığını göstermez.

Daha sınırlı bir gözlemde bulunabiliyoruz:

Aynı soruya verilen yapay zeka yanıtları, gerekçelendirme ve sunum bakımından farklılaşabiliyor. Kullanıcılar ise bu cevapları kendi başlangıç görüşleri doğrultusunda farklı biçimlerde değerlendirebiliyor.

Bu çalışma, Doğrunun Yanlılığı kavramını kanıtlamadı. Fakat bilgi sunumunun ve kullanıcı yorumunun birlikte incelenmesi gerektiğini gösteren küçük bir örnek sundu.

V. İkna Olmadan Etkilenmek

Bir tartışmanın sonunda fikrimizin değişmemiş olması, o tartışmadan etkilenmediğimiz anlamına gelir mi?

Bir arkadaşımızla uzun uzun konuştuğumuzu düşünelim. Konuşmanın sonunda başlangıçtaki kanaatimizi koruyoruz. Ancak artık o kanaati savunmak için daha fazla gerekçemiz var. Önceden önemsemediğimiz bir itirazı tanıyoruz. Belki de görüşümüzü daha dikkatli ifade etmeye başlamışız.

Fikrimiz aynı kalmış olabilir. Peki düşünme biçimimiz?

Yapay zekayla kurduğumuz ilişkide de benzer bir durum yaşanabilir.

Örneğin dijital gözetim hakkında düşünürken başlangıçta yalnızca güvenlik ile mahremiyet arasında bir tercih yaptığımızı varsayabiliriz.

Yapay zeka bize yargısal denetim, ölçülülük, veri saklama süreleri veya algoritmik risk profillemesi gibi başlıklar sunduğunda tartışmanın kapsamı genişleyebilir.

Bu, düşüncemizin gelişmesine yardımcı olabilir.

Ancak tersini de hesaba katmalıyız.

Yapay zeka belirli başlıkları sürekli gündeme getiriyor, başka önemli meseleleri ise hiç açmıyorsa tartışmanın kapsamını farkında olmadan daraltabilir.

Böylece yalnızca cevaplarımızı etkileyen bir sistemle karşı karşıya kalmayız. Hangi sorular üzerinde duracağımız da bu etkileşimden etkilenebilir.

VI. Soruları Kim Belirliyor?

Bu yazıyı geliştirirken kendi aramızda yürüttüğümüz tartışma, meselenin anlaşılması bakımından ayrıca öğreticiydi.

Bir noktada insan ile yapay zeka arasındaki ilişkiyi şu cümleyle tarif ettik:

“Sorgulama senden, muhakeme benden çıktı.”

Bu ifade, ilk bakışta sağlıklı bir iş bölümünü anlatıyor.

Yapay zeka sorular, karşı gerekçeler ve yeni ihtimaller ortaya koyuyor. İnsan bunları değerlendiriyor, kabul ediyor veya reddediyor.

Fakat ardından başka bir soru doğdu:

Sorgulamayı yönlendiren, muhakemenin sınırlarını da etkileyebilir mi?

Bir insan kendisine sunulan üç gerekçeyi bütünüyle özgürce değerlendirebilir. Ancak dördüncü ve önemli bir gerekçeden hiç haberdar değilse, değerlendirmesinin kapsamı yine de sınırlanmış olabilir.

Burada insanın muhakeme yeteneği ortadan kalkmıyor. Sorun, muhakemeye sunulan malzemenin nasıl seçildiğinde ortaya çıkıyor.

Daha da önemlisi, kullanıcı kendisine hiç gösterilmeyen bir gerekçenin eksikliğini her zaman fark edemeyebilir.

Aslında bu durumla yapay zekadan önce de karşılaşıyorduk.

Öğretmenlerimiz, ailemiz, okuduğumuz kitaplar, izlediğimiz haberler ve içinde yaşadığımız toplum; dünyayı hangi kavramlarla anlamlandıracağımız üzerinde etkili oldu.

Yapay zeka bu sürece yeni bir bilgi kaynağı olarak katılıyor. Üstelik onunla kurduğumuz ilişki daha etkileşimli olabiliyor. Sorularımıza cevap veriyor, itirazlarımızı değerlendiriyor ve tartışmanın sonraki aşamalarına katılıyor.

Bu nedenle yapay zekanın sunduğu soruların kendisi de sorgulanmaya değer.

Bazen yanlılık, cevap verilmeden önce, sorunun kurulma biçiminde başlar.

VII. Düşünsel Özerklik Gerçekten Mümkün mü?

Buraya kadar yaptığımız değerlendirmeler, insanın düşünsel özerkliğini koruması gerektiğini düşündürebilir.

Fakat bu kez kavramın kendisini sorgulayalım.

Düşünsel özerklik gerçekten mümkün mü?

Doğduğumuz andan itibaren çevremiz tarafından şekilleniyoruz. Konuştuğumuz dili, içine doğduğumuz kültürü, ilk karşılaştığımız değer yargılarını kendimiz seçmiyoruz.

Dünyayı anlamlandırmak için kullandığımız kavramların önemli bir bölümünü, onları sorgulayabilecek yaşa gelmeden öğreniyoruz.

Yetişkin olduğumuzda da bu etkiler sona ermiyor. Okuduğumuz kitaplar, izlediğimiz filmler, görüştüğümüz insanlar ve yaşadığımız deneyimler düşüncelerimizi değiştirmeye devam ediyor.

Peki bütün bunların içinde bize ait olan nedir?

Bir düşüncenin dışarıdan öğrenilmiş olması, onu mutlaka başkasına ait kılmaz. Bir insan, öğrendiği fikri değerlendirebilir, gerekçelerini sınayabilir, bazı yönlerini reddedebilir ve sonunda bilinçli biçimde benimseyebilir.

Öte yandan bir fikri kendi başımıza geliştirdiğimizi düşünmemiz de onun dış etkilerden bağımsız olduğunu kanıtlamaz.

Belki de düşünsel özerkliği düşüncenin kaynağında aramaktan vazgeçmeliyiz.

Daha anlamlı olan, kişinin düşünceleriyle nasıl ilişki kurduğudur.

Düşünsel özerklik, etkilendiğimiz düşünceleri sorgulayabilme, yeniden değerlendirebilme ve gerektiğinde değiştirebilme kapasitesi olarak anlaşılabilir.

Fakat burada da çözülmemiş bir sorun var.

Sorgulama ölçütlerimiz de dış dünyadan etkilenerek oluşuyor.

Bir görüşü özgürlüğe aykırı olduğu için reddediyorsak, özgürlüğe neden önem verdiğimizi de sorgulayabiliriz. Ardından bu değerlendirmeyi dayandırdığımız başka ilkelerin nereden geldiğini sorabiliriz.

Böylece bütünüyle etkilerden arınmış bir başlangıç noktasına ulaşmak giderek güçleşir.

Yine de bu durum, sorgulamanın anlamını ortadan kaldırmaz.

Bir insan düşüncelerini oluşturan bütün etkileri bilemeyebilir. Buna rağmen yeni gerekçeler karşısında kanaatini değiştirebilir, kendi varsayımlarını eleştirebilir ve daha tutarlı sonuçlara ulaşabilir.

Bu bakımdan düşünsel özerkliği mutlak bir durumdan çok, dereceleri bulunan ve geliştirilebilen bir yetkinlik olarak ele almak mümkün.

İnsan düşüncesi bağımsız doğmayabilir. Ancak insan, düşüncelerini yeniden değerlendirme kapasitesini geliştirebilir.

Yapay zekayla kurduğumuz ilişkide önem taşıyan da bu kapasitedir.

Çünkü mesele, yapay zekadan hiç etkilenmemek olamaz. Böyle bir beklenti, insanın diğer insanlarla kurduğu düşünsel ilişkiler bakımından da gerçekçi görünmüyor.

Daha önemli olan, karşılaştığımız gerekçeleri değerlendirebilmemiz ve gerektiğinde bize sunulan düşünsel çerçevenin dışına çıkabilmemiz.

VIII. Güvenin Sınırı

Başlangıçtaki sorumuza dönelim.

Bir yapay zeka yalnızca doğru bilgiler veriyor, fakat değerlendirmemizi değiştirebilecek bazı önemli gerçeklerden söz etmiyorsa ona güvenebilir miyiz?

Artık bu soruya daha dikkatli yaklaşabiliriz.

Her anlatım belirli bir seçim içerir. Hiçbir sistem, bir konuyla ilgili bütün bilgileri eksiksiz biçimde sunamaz. Üstelik böyle bir aktarım her zaman yararlı da olmayacaktır.

Buna karşılık, verilen bilgilerin tek tek doğru olması güven için yeterli bir güvence sağlamaz.

Sistemin konuyu ne kadar isabetli temsil ettiği, önemli karşı gerekçeleri hangi ölçüde sunduğu, belirsizlikleri nasıl aktardığı ve hatalarının düzeltilmesine ne kadar açık olduğu da önemlidir.

Güvenilir bir yapay zekadan her zaman kusursuz cevaplar bekleyemeyiz. Ancak doğruluğa yönelmesini, önemli itirazları uygun ağırlıkta değerlendirmesini, belirsizlikleri gizlememesini ve sorgulanabilir olmasını bekleyebiliriz.

Özellikle yüksek riskli alanlarda bu beklentilerin kurumsal denetim ve hukuki güvencelerle desteklenmesi gerekir.

Bütün sorumluluğu kullanıcıya yüklemek de makul olmaz.

Çünkü insan, bilmediği bir gerçeğin eksikliğini her zaman fark edemez. Hatta çoğu zaman yapay zekaya danışmasının nedeni, tam olarak neyi bilmediğini öğrenmek istemesidir.

Bu nedenle güven meselesi yalnızca bireyin eleştirel düşünme becerisiyle açıklanamaz. Bilgi sunan sistemlerin tasarımı, şeffaflığı ve hesap verebilirliği de bu ilişkinin parçasıdır.

Sonuç: Güvenmek, Sorgulamaktan Vazgeçmek Değildir

Yapay zekaya ne kadar güvenebiliriz?

Bu sorunun cevabı, yapay zekanın ne kadar doğru söylediği kadar, doğruluğu nasıl değerlendirdiğimize de bağlı.

Doğru ifadelerden oluşan bir anlatı, gerçeğin yeterince isabetli bir temsilini sunmayabilir. Bu sorun, bilgi aktarımının tarihi kadar eski. İnsanlar gerçekliği her zaman belirli seçimler, vurgular ve yorumlar aracılığıyla anlattı.

Yapay zeka ise bu sürece yeni bir ilişki biçimi kazandırıyor.

Artık bilgi aldığımız sistem bizimle tartışabiliyor, sorularımızı yeniden kurabiliyor ve düşüncelerimizin gelişimine katılabiliyor.

Bu etkileşimden etkilenmemiz şaşırtıcı olmaz. Zaten insan düşüncesi hiçbir zaman dış dünyadan bütünüyle bağımsız oluşmadı.

Buna rağmen insan, karşılaştığı gerekçeleri değerlendirebilir, kendi kanaatlerine itiraz edebilir ve onları değiştirebilir.

Düşünsel özerklik de belki burada anlam kazanır.

Yaptığımız küçük çalışma bize kesin bir hüküm vermedi. Beş katılımcının temel görüşü değişmedi. Bazı yanıtlar mevcut kanaatlerin pekişmesine, bazıları düşüncelerin ayrıntılanmasına eşlik etti. Ancak bu gözlemler, yapay zekaların ideolojik yanlılığını veya tarafsızlığını kanıtlamak için yeterli değildi.

Bu sınırı kabul etmek önemli.

Çünkü Doğrunun Yanlılığı yalnızca yapay zekaların cevaplarında aranacak bir sorun değil. Onları değerlendirirken seçtiğimiz örneklerde, önem verdiğimiz gerekçelerde ve kendi sonuçlarımızda da ortaya çıkabilir.

O hâlde yapay zekaya güvenmenin yolu, bütün cevaplarından kuşkulanarak hiçbirinden yararlanmamak olamaz.

Daha makul bir yaklaşım, güveni sorgulamayla birlikte sürdürebilmektir.

Yapay zekanın sunduğu gerekçelerden yararlanabilir, düşüncelerimizi geliştirebilir ve yeni sorular keşfedebiliriz. Ancak bunları yaparken hangi bilgilerin öne çıkarıldığını, hangi varsayımların benimsendiğini ve hangi ihtimallerin gözden kaçmış olabileceğini de düşünmeliyiz.

Belki de düşünsel özerklik, hiçbir etkiden bağımsız kalabilmekten çok, etkiler karşısında muhakememizi canlı tutabilmektir.

Ve bütün tartışmanın sonunda geriye şu soru kalır:

Bize gösterilmeyen doğruların varlığından habersizken, bir yapay zekanın sunduğu gerçekliğin ne kadarına güvenebiliriz?