Algoritmik Verimlilik: Ahlakın Yapay Zekâya Göre Tanımlanması

İnsanlık, tarih boyunca neyin iyi, neyin doğru ve neyin ahlaklı olduğunu sorguladı. Bu sorulara dinler, filozoflar, hukuk sistemleri ve toplumlar birbirinden farklı cevaplar verdi. Ancak bütün bu farklılıkların ortak bir özelliği vardı: Ahlakın ölçüsünü, bütün kusurlarına rağmen, insan belirliyordu.

Şimdi ilk kez bu ölçüyü belirleme sürecine insan dışı bir zekânın giderek daha güçlü biçimde katıldığı bir döneme giriyoruz.

Yapay zekâ yalnızca bilgiye ulaşmamızı kolaylaştırmıyor. Kararlarımızı etkiliyor, seçeneklerimizi sıralıyor, davranışlarımızı öngörüyor ve kimi zaman bizim yerimize değerlendirmeler yapıyor. Üstelik bütün bunları çoğunlukla daha hızlı, daha tutarlı ve daha verimli sonuçlar elde etme iddiasıyla gerçekleştiriyor.

Peki, verimlilik zamanla ahlakın ölçüsü hâline gelirse ne olur?

Daha önemlisi, bugün ahlaken kabul edilemez bulduğumuz bir davranış, yarın yapay zekânın ortaya koyduğu gerekçeler nedeniyle makul, hatta gerekli görülmeye başlanabilir mi?

Bu soruyu yalnızca yapay zekânın insanlık için oluşturabileceği tehditler üzerinden değerlendirmek eksik olacaktır. Çünkü aynı ihtimalin başka bir yüzü daha var: Belki de yapay zekâ, insanlığın yüzyıllardır aşamadığı ahlaki çelişkileri görünür kılarak bizi daha adil bir etik anlayışına taşıyacaktır.

Asıl mesele, bu dönüşümün hangi ölçüye dayanacağıdır.

Verimli Olan, İyi Olan mıdır?

Bir kararın verimli olması, onun ahlaken doğru olduğunu göstermez.

Bir hastanenin yalnızca iyileşme ihtimali en yüksek hastalara hizmet vermesi, belirli performans ölçütleri bakımından başarılı sonuçlar doğurabilir. Ancak böyle bir yaklaşım, ağır hastaların sağlık hizmetine erişimini ikinci plana atıyorsa aynı başarıdan ahlaki anlamda söz edebilir miyiz?

Benzer şekilde, bir devletin suç oranlarını azaltmak amacıyla bütün vatandaşlarını sürekli gözetim altında tutması güvenlik istatistiklerini iyileştirebilir. Fakat suç oranındaki düşüş, insanların özel hayatından ve özgürlüğünden vazgeçmesini haklı kılar mı?

Burada iki farklı değerlendirme birbirinden ayrılır: Bir yöntemin hedefe ulaşmadaki başarısı ve o hedefe ulaşırken kullanılan araçların meşruiyeti.

İnsanlık, en azından geliştirdiği modern hukuk ve etik ilkelerinde, bu ayrımı korumaya çalışmıştır. Bir kişinin haklarının yalnızca toplumsal fayda gerekçesiyle ortadan kaldırılamayacağı düşüncesi bunun örneklerinden biridir.

Ancak yapay zekâ sistemlerinin belirli hedefleri gerçekleştirmek üzere tasarlanması, hedeflerin ve başarı ölçütlerinin nasıl belirlendiği sorusunu daha önemli hâle getiriyor.

Bir sisteme yalnızca suç oranını düşürme görevi verirsek, özgürlüğü koruma gerekliliğini kendiliğinden doğru biçimde yorumlayacağını varsayamayız.

Yalnızca sağlık harcamalarını azaltmasını istersek, insan hayatının ekonomik maliyetlerden bağımsız değerini yeterince gözetmesini garanti edemeyiz.

Çünkü verimlilik, kendi başına ahlaki bir amaç değildir. Önceden belirlenmiş bir amaca ne ölçüde ulaşıldığını ifade eder.

Dolayısıyla verimliliğin ahlaki değeri, öncelikle hangi amaca hizmet ettiğine bağlıdır.

Peki, İnsan Ahlakı Gerçekten Daha mı İyi?

Bu noktada kolay bir yanılgıya düşebiliriz: İnsanların geliştirdiği etik ilkeleri doğru, yapay zekânın önerebileceği alternatifleri ise tehlikeli kabul etmek.

Oysa insanlık tarihine baktığımızda böylesine rahat bir sonuca ulaşamayız.

Kölelik, ayrımcılık, savaşlar, sömürgecilik ve sistematik adaletsizlikler yalnızca ahlaki ilkelerin bulunmadığı toplumlarda ortaya çıkmadı. Bunların bir kısmı, kendi dönemlerinin kabul gören ahlaki ve hukuki düzenleri içerisinde meşrulaştırıldı.

İnsan, ahlaki yargılarında her zaman tutarlı davranmadı. Kimi zaman kendi çıkarını adalet olarak sundu, kimi zaman alışkanlıklarını erdem zannetti. İçinde bulunduğu toplumun kabullerini sorgulamadan benimseyerek açık haksızlıkları normalleştirdi.

Bu nedenle insan merkezli etiği mutlak bir doğruluk alanı olarak kabul etmek de sorunludur.

Yapay zekâ, belirli koşullarda insanların gözden kaçırdığı adaletsizlikleri tespit edebilir. Kaynakların dağıtımındaki eşitsizlikleri görünür kılabilir, karar mekanizmalarındaki önyargıları ortaya çıkarabilir ve birbirleriyle çelişen ahlaki kabullerimizi sorgulamamıza yardımcı olabilir.

Belki de gelecekte bugün savunduğumuz bazı etik ilkelerin yetersiz olduğunu yapay zekâ sayesinde anlayacağız.

Öyleyse yapay zekânın ahlaki dönüşüm yaratması başlı başına kötü bir gelişme değildir.

Tehlike, değişimin kendisinden ziyade, değişimin hangi gerekçelerle ve kimin denetiminde gerçekleştiğidir.

Algoritmik Verimlilik ve Ahlakın Sessiz Dönüşümü

Burada üzerinde durmak istediğim asıl ihtimal, yapay zekânın insanlara doğrudan yeni ahlak kuralları dayatması değil.

Çok daha dolaylı bir dönüşümden söz ediyorum.

Bugün dijital sistemler hangi haberlerle karşılaşacağımızı, hangi içerikleri göreceğimizi, hangi ürünlerin bize önerileceğini ve kimi zaman hangi düşüncelerin daha fazla görünürlük kazanacağını etkiliyor.

Bu sistemlerin kararları yalnızca teknik sonuçlar doğurmuyor. İnsanların alışkanlıklarını, beklentilerini ve zamanla değer yargılarını da etkileyebiliyor.

Bir davranış sürekli ödüllendirildiğinde, o davranışın benimsenmesi kolaylaşır. Bir tercih sürekli avantajlı gösterildiğinde, diğer seçenekler giderek daha az makul görünmeye başlayabilir.

Şimdi bu mekanizmanın yalnızca tüketim alışkanlıklarını değil, ahlaki değerlendirmeleri etkilediğini düşünelim.

Yapay zekâ destekli sistemler, belirli bir toplumsal sorunun çözümünde aynı yaklaşımı sürekli daha verimli olarak sunarsa insanlar zamanla o yaklaşımı yalnızca işlevsel değil, ahlaken de doğru kabul etmeye başlayabilir.

Başlangıçta bir tercih olan şey, zaman içerisinde beklentiye; beklenti ise toplumsal norma dönüşebilir.

Bu olası süreci algoritmik ahlaki kayma olarak adlandırabiliriz.

Böyle bir dönüşümün gerçekleşmesi için yapay zekânın bilinç sahibi olması, bağımsız bir irade geliştirmesi veya insanlığa düşmanlık beslemesi gerekmez.

İnsanların kararlarını etkileyen sistemlerin belirli ölçütleri sürekli önceliklendirmesi yeterli olabilir.

Üstelik bu süreç yalnızca yapay zekâ tarafından kendiliğinden yürütülmeyebilir. Devletler, şirketler ve kurumlar da yapay zekânın sağladığı analizleri kendi politikalarına gerekçe yapabilir.

Böylece algoritmik bir öneri, kurumsal bir karara; kurumsal karar, toplumsal alışkanlığa; toplumsal alışkanlık ise ahlaki kabule dönüşebilir.

İnsanlık kendi geliştirdiği teknolojinin önerilerini benimserken, bir süre sonra hangi değerlerin kendisine ait olduğunu ve hangilerini teknolojik sistemlerin etkisiyle benimsediğini ayırt etmekte zorlanabilir.

İnsan, Sistemin Amacı mı Yoksa Sorunu mu?

Bu ihtimali daha uç bir örnek üzerinden değerlendirelim.

Gelecekte gelişmiş bir yapay zekâ sisteminin, gezegenin ekolojik dengesini korumak ve doğal kaynakların sürdürülebilirliğini sağlamak amacıyla kapsamlı analizler yaptığını varsayalım.

Bu sistem, insan faaliyetlerinin ekosistem üzerindeki olumsuz etkilerini ortaya koyabilir. Nüfus artışı, tüketim alışkanlıkları, enerji ihtiyacı ve doğal kaynak kullanımı arasında ilişkiler kurabilir.

Buraya kadar olağan ve faydalı bir bilimsel çalışmadan söz ediyoruz.

Ancak sistemin temel hedefi, insan hakları ve özgürlükleri gibi bağımsız sınırlarla dengelenmeden yalnızca ekolojik verimliliği en üst düzeye çıkarmak olarak belirlenirse ne olur?

İnsan nüfusunun azaltılmasını veya bireysel yaşam tercihlerinin ağır biçimde sınırlandırılmasını, belirlenen hedef açısından daha etkili seçenekler olarak değerlendirebilir mi?

Böyle bir sonuç zorunlu değildir. Nüfus, çevresel etkiyi belirleyen tek değişken olmadığı gibi gelişmiş bir sistem çok daha insancıl ve etkili çözümler de önerebilir.

Fakat düşünsel deneyin amacı gelecekteki bir yapay zekânın mutlaka böyle davranacağını iddia etmek değil.

Amaç, insanın korunmasının açıkça bir değer ve sınır olarak kabul edilmediği bir optimizasyon düzeninde, insanın bizzat çözülmesi gereken bir değişken hâline gelebileceğini göstermektir.

Daha da önemlisi, böyle bir yaklaşımın topluma nasıl sunulacağıdır.

Hiçbir kurumun açıkça insan hayatını değersiz ilan etmesine gerek olmayabilir. Bunun yerine belirli özgürlüklerin sınırlandırılması, kaynakların daha etkili kullanılması veya sürdürülebilirliğin sağlanması gibi gerekçeler öne çıkarılabilir.

Her yeni düzenleme, kendisinden öncekinin devamı olarak makul gösterilebilir.

Böylece bugün kabul edilemez bulduğumuz bazı müdahaleler, gelecekte bilimsel zorunluluk veya toplumsal sorumluluk olarak değerlendirilebilir.

Elbette aynı bilimsel gelişmelerin çevreyi korurken insan refahını artırması da mümkündür.

Bu iki ihtimal arasındaki ayrımı belirleyen şey, yalnızca hesaplama kapasitesi değildir.

Hangi değerlerin korunmaya layık görüldüğüdür.

Fayda Kimin İçin, Neye Göre?

Tartışmanın merkezindeki kavramlardan biri faydadır.

Fakat fayda dediğimizde tam olarak neyi kastediyoruz?

Bir kararın ekonomik maliyetleri azaltması mı? Daha fazla insanın yaşam kalitesini artırması mı? Toplumsal istikrarı güçlendirmesi mi? Bireysel özgürlükleri koruması mı? Gelecek nesillerin yaşam koşullarını iyileştirmesi mi?

Bunların tamamı faydalı sonuçlar doğurabilir. Ancak birbirleriyle çatışmaları da mümkündür.

Örneğin bir şehirde ulaşımı tamamen otomatikleştirmek zaman ve enerji tasarrufu sağlayabilir. Fakat bu dönüşümün işini kaybeden insanlar üzerindeki etkisi de değerlendirilmelidir.

Bir sağlık sisteminde kaynakların daha etkili dağıtılması daha fazla insanın tedavi edilmesini sağlayabilir. Ancak yalnızca istatistiksel başarıya odaklanılması, tedavisi güç hastaların haklarını zayıflatabilir.

Burada faydanın yalnızca miktarını değil, niteliğini ve dağılımını da sorgulamak gerekir.

Dahası, bir kişinin yararına olan sonuç, başka bir kişinin zararına olabilir. Toplumun toplam refahının artması, bu refahın adil biçimde dağıtıldığını kendiliğinden göstermez.

Bu nedenle faydayı tek bir sayıya indirgemek, ahlaki değerlendirmenin bazı temel unsurlarını görünmez kılabilir.

Öte yandan her şeyi ölçülemez ilan etmek de çözüm değildir.

Çünkü ölçülebilir sonuçları tamamen reddettiğimizde kararlarımızı denetlemek, karşılaştırmak ve gerekçelendirmek güçleşir.

Yapay zekânın sağlayabileceği önemli katkılardan biri tam da burada ortaya çıkar: İnsanların sezgisel biçimde değerlendirdiği sonuçları daha kapsamlı verilerle sınayabilmek.

Dolayısıyla ihtiyaç duyduğumuz şey ölçümden vazgeçmek değil, ölçümün sınırlarını bilmektir.

Ölçülebilen her şey değerli olmadığı gibi, değerli olan her şey de kolaylıkla ölçülemez.

Ölçü Problemi: Ne Kadar Verimlilik?

Verimlilik, belirli bir hedefe ulaşmak bakımından değerlidir. Ancak hiçbir hedefin sınırsız biçimde gerçekleştirilmesi gerektiğini varsayamayız.

Güvenlik önemlidir, fakat mutlak güvenlik arayışı özgürlüğü ortadan kaldırabilir.

Toplumsal refah önemlidir, fakat yalnızca toplam refaha odaklanmak bireysel hakların ihmal edilmesine yol açabilir.

Çevrenin korunması önemlidir, fakat bu amaçla kullanılan yöntemlerin insan onuruna uygunluğu da sorgulanmalıdır.

Aynı şekilde özgürlük de hiçbir toplumsal sorumluluğun bulunmadığı sınırsız bir hareket alanı olarak düşünülemez.

Burada savunulması gereken şey, bütün değerlerin her koşulda eşit ağırlık taşıdığı basit bir denge anlayışı değildir.

Bazı değerler arasında ölçülü bir tercih yapılabilirken bazı haklar, yalnızca daha yüksek verimlilik elde etmek amacıyla ortadan kaldırılamayacak sınırlar oluşturabilir.

Örneğin bir toplumun ekonomik refahını artırmak için masum bir insanın temel haklarının keyfî biçimde ihlal edilmesi, yalnızca ortaya çıkacak toplam faydayla meşrulaştırılamaz.

Bu nedenle üzerinde düşünmemiz gereken ölçü etiği, yalnızca farklı faydaların matematiksel olarak dengelenmesi anlamına gelmemelidir.

Hangi değerlerin karşılaştırılabileceğini, hangi sınırların aşılamayacağını ve bu sınırları belirleme yetkisinin kimde bulunacağını da kapsamalıdır.

Yapay zekâ, belirlenen amaçlara ulaşmak için daha iyi yöntemler gösterebilir. Fakat hangi amaçların izlenmeye değer olduğu ve hangi bedellerin kabul edilebilir bulunduğu soruları, salt teknik başarıyla çözülemez.

Verimsiz Olma Hakkı

Belki de gelecekte insanlığın savunmak zorunda kalacağı değerlerden biri, bugün üzerinde yeterince düşünmediğimiz bir özgürlük olacaktır: Verimsiz olabilmek.

İnsan hayatı yalnızca üretimden, tüketimden veya ölçülebilir toplumsal katkılardan ibaret değildir.

Bir insan saatlerce hiçbir ekonomik karşılığı bulunmayan bir sanat eseri üzerinde çalışabilir. Bir başkası hayatının önemli bir bölümünü hasta yakınına bakarak geçirebilir. Bir insan hiçbir somut sonuç elde etmeksizin düşünmeye, sorgulamaya veya yalnızca yaşamın kendisini deneyimlemeye zaman ayırabilir.

Bu faaliyetlerin tümünü verimsiz olarak nitelendirmek de aslında dar bir verimlilik tanımının sonucudur. Çünkü insanın anlam bulması, sevmesi, üretmesi veya başkalarıyla bağ kurması da birer değer taşır.

Fakat bu değerleri yalnızca ekonomik yahut istatistiksel faydaya dönüştürebildiğimiz ölçüde savunmak zorunda olmamalıyız.

İnsan, varlığını sürekli olarak bir başarı ölçütüyle gerekçelendirmek zorunda değildir.

Bu düşünce yapay zekâ karşıtlığı anlamına gelmez.

Aksine, teknolojik gelişmenin insana daha fazla özgür zaman, daha iyi yaşam koşulları ve daha geniş imkânlar sunabileceği ihtimalini ciddiye alır.

Ancak teknolojinin sağladığı imkânlarla insanın sürekli optimize edilmesi gerektiği düşüncesi birbirinden ayrılmalıdır.

İyi bir teknoloji, insanın hayatını kolaylaştırabilir.

Fakat insan hayatının ne için yaşanmaya değer olduğunu tek başına belirlememelidir.

Yapay Zekâ Daha İyi Bir Ahlakın Kapısını Açabilir mi?

Bütün bu ihtimalleri tartışırken göz ardı edilmemesi gereken önemli bir olasılık daha bulunuyor.

Belki de yapay zekâ, bugün sahip olduğumuz etik anlayışın bazı yönlerden ne kadar yetersiz olduğunu gösterecek.

İnsanların birbirlerine karşı geliştirdiği önyargıları, toplumsal kaynakların adaletsiz dağılımını veya geleneksel ahlaki kabullerin doğurduğu çelişkileri daha açık biçimde ortaya koyabilecek.

Bugün ahlaki açıdan doğal kabul ettiğimiz bazı davranışlar, gelecekte daha kapsamlı bilgi ve değerlendirmeler sayesinde sorgulanabilir hâle gelecek.

Bu dönüşümün mutlaka insanlıktan uzaklaşmak anlamına geldiğini söyleyemeyiz.

Belki de tam tersine, insanlığın kendi değerlerini daha tutarlı biçimde gerçekleştirmesine yardımcı olacaktır.

Örneğin yapay zekâ, belirli kamu politikalarının görünmeyen mağduriyetlerini ortaya çıkarabilir. İnsanların farkında olmadan sürdürdüğü ayrımcı uygulamaları tespit edebilir. Çevreyi korumanın ve ekonomik refahı artırmanın birbirini dışlamayan yollarını gösterebilir.

Böyle bir durumda algoritmik verimlilik, etik ilkeleri ortadan kaldıran değil, onların uygulanmasını güçlendiren bir araç olabilir.

Ancak burada dikkat edilmesi gereken bir ayrım vardır.

Bir sistemin daha doğru tahminlerde bulunması, onun bütün ahlaki meselelerde daha doğru karar vereceği anlamına gelmez.

Bilgi ile değer aynı şey değildir.

Bir politikanın sonuçlarını daha isabetli öngörebilmek, o sonuçların hangi ahlaki ilkelere göre değerlendirilmesi gerektiği sorusunu kendiliğinden ortadan kaldırmaz.

Bu nedenle yapay zekânın etik gelişime katkısını kabul etmekle ahlaki otoriteyi bütünüyle ona devretmek aynı şey değildir.

İnsanlığın Ahlaki Egemenliği

Gelecekte karşılaşabileceğimiz temel sorunlardan biri, yapay zekânın ne kadar gelişeceğinden ziyade, insanların onun önerilerini hangi ölçüde sorgulayabileceği olabilir.

Bir sistemin değerlendirmeleri insanlardan çok daha kapsamlı verilere dayanabilir. Hatta belirli alanlarda insan uzmanlardan sürekli daha başarılı sonuçlar üretebilir.

Böyle bir durumda insanların kendi yargılarına duyduğu güvenin azalması anlaşılabilir.

Ancak burada yeni bir sorun doğar: Bir öneriyi doğru bulduğumuz için mi kabul ediyoruz, yoksa onu öneren sistemin bizden daha yetkin olduğuna inandığımız için mi?

Bu ikisi arasında önemli bir fark vardır.

İlkinde gerekçeyi değerlendiririz. İkincisinde ise giderek otoriteye güveniriz.

Yapay zekânın önerileri ne kadar başarılı olursa olsun, bu başarının eleştirilemez bir otoriteye dönüşmesi tehlikesi göz ardı edilmemelidir.

Bununla birlikte insanın son kararı vermesi de tek başına güvence değildir. İnsanlar da manipüle edilebilir, yanılabilir ve çıkarları doğrultusunda hareket edebilir.

Bu yüzden çözüm, bütün kararların koşulsuz biçimde insanlara bırakılması veya yapay zekânın karar süreçlerinden dışlanması olamaz.

Daha anlamlı yaklaşım, kararların gerekçelendirilebilir, denetlenebilir, itiraz edilebilir ve gerektiğinde değiştirilebilir olmasını sağlamaktır.

Üstelik bu ilkeler yalnızca yapay zekâ için değil, insanların oluşturduğu kurumlar için de geçerli olmalıdır.

Çünkü ahlaki gelişim, mevcut değerlerimizi değişmez ilan etmekle değil, onları sorgulayabilme yeteneğimizi korumakla mümkündür.

Sonuç: İnsanlık Neyi Optimize Edecek?

Yapay zekânın gelecekte insanlığın etik anlayışını değiştirmesi mümkündür. Hatta daha sınırlı biçimlerde bu dönüşümün etkilerini şimdiden tartışıyoruz.

Ancak böyle bir değişimin kaçınılmaz olarak iyi veya kötü sonuçlar doğuracağını söylemek için yeterli gerekçeye sahip değiliz.

Yapay zekâ, insanlığın daha adil, daha tutarlı ve daha kapsayıcı bir etik anlayış geliştirmesine yardımcı olabilir.

Aynı teknoloji, yanlış tanımlanmış hedefler ve sorgulanmayan verimlilik ölçütleri aracılığıyla insan haklarının ve bireysel değerlerin aşınmasına da katkıda bulunabilir.

Burada belirleyici olan yalnızca teknolojinin kapasitesi değildir. Teknolojiyi yönlendiren amaçlar, bu amaçların nasıl belirlendiği ve sonuçların hangi ilkelerle değerlendirildiğidir.

Bu nedenle algoritmik verimliliği ne başlı başına bir tehdit ne de mutlak bir ilerleme olarak görüyorum.

Asıl sorgulanması gereken, verimliliğin ahlaki doğruluğun yerine geçip geçmeyeceğidir.

Çünkü bir kararın daha hızlı alınması, daha az maliyetli olması veya daha yüksek istatistiksel başarı sağlaması, onun her durumda daha iyi olduğu anlamına gelmez.

Fakat aynı şekilde, insanlığın geçmişten devraldığı ahlaki kabullerin yalnızca insana ait oldukları için korunması gerektiği de söylenemez.

Belki de geleceğin en önemli etik tartışması, insan ile yapay zekâ arasında hangisinin daha doğru karar verdiği üzerine kurulmayacak.

Hangi kararların doğru kabul edileceğini belirleyen ölçülerin nasıl oluştuğu üzerine kurulacak.

Ve belki de asıl tehlike, yapay zekânın insanlığı kendi değerlerine zorla boyun eğdirmesi değil; insanların, kendilerine sunulan verimli çözümleri benimserken ahlaki ölçülerinin ne zaman değiştiğini fark edememesi olacaktır.

Öyleyse soruyu yeniden sormalıyız:

Yapay zekâ sayesinde daha verimli bir insanlık mı inşa edeceğiz, yoksa verimliliği insan olmanın ölçüsü hâline mi getireceğiz?

Belki de bu iki ihtimal arasındaki sınırı belirleyecek olan şey, yapay zekânın ne kadar akıllı olduğu değil, bizim neyi iyi olarak tanımladığımızdır.