Yapay zekâya ilişkin etik tartışmalar çoğu zaman bugün başlamış gibi düşünülüyor. Oysa sinema, makinelerin insanlar adına karar vermesinin yaratabileceği sorunları uzun süredir tartışmaktadır. Bilimkurgu filmleri geleceği tam olarak tahmin etmez; ancak teknolojik gelişmelerin ortaya çıkarabileceği etik çatışmaları görünür hâle getirir ve tartışmaya başlar.
Yapay zekâya ilişkin etik tartışmalar çoğu zaman bugün başlamış gibi düşünülüyor. Oysa sinema, makinelerin insanlar adına karar vermesinin yaratabileceği sorunları uzun süredir tartışmaktadır. Bilim kurgu filmleri geleceği tam olarak tahmin etmez; ancak teknolojik gelişmelerin ortaya çıkarabileceği etik çatışmaları görünür hâle getirir ve tartışmaya başlar.
Minority Report bu açıdan çarpıcı bir örnektir. Filmde kişiler, henüz işlemedikleri ancak gelecekte işleyecekleri öngörülen suçlar nedeniyle cezalandırılır. Sistem son derece etkili görünür: Suç gerçekleşmeden önlenmektedir. Ancak sistemin doğruluğu sorgulanmaya başladığında temel bir etik problem ortaya çıkar. Bir kişinin gelecekte ne yapacağına ilişkin tahmin, o kişinin özgürlüğünü sınırlamak için yeterli olabilir mi?
Günümüzde yapay zekâ sistemleri işe alım, kredi değerlendirmesi, sigorta, müşteri profilleme, dolandırıcılık tespiti ve çalışan performansının ölçülmesi gibi birçok alanda kullanılmaktadır. Bu sistemler her zaman nihai kararı vermese de insanların karşısına çıkacak fırsatları önemli ölçüde etkileyebilir. Dolayısıyla Minority Report’taki temel soru güncelliğini korumaktadır: Bir kişi, gerçekleştirdiği bir davranış nedeniyle mi, yoksa sistemin kendisi hakkında ürettiği olasılık nedeniyle mi değerlendirilmektedir? Böyle bir değerlendirme ne kadar adil olacaktır?
Bir algoritmanın geçmiş veriler üzerinden doğru tahminlerde bulunması, verdiği kararın mutlaka adil olduğu anlamına gelmez. Geçmiş veriler toplumdaki veya kurumdaki mevcut eşitsizlikleri bugüne taşıyabilir. Örneğin geçmişte belirli gruplar yönetici pozisyonlarına daha az getirilmişse bu verilerle eğitilen bir sistem, söz konusu grupların yöneticilik için daha az uygun olduğu sonucuna ulaşabilir. Böylece geçmişteki ayrımcılık, tarafsız görünen teknolojik bir karar aracılığıyla geleceğe taşınmış olur.
Ex Machina ise yapay zekânın bilinç sahibi olup olmadığı kadar, insanlarla makineler arasındaki güç ilişkisini de gündeme getirir. Bir yapay zekâ sistemi insan duygularını tanıyabiliyor ve bu duyguları yönlendirebiliyorsa kullanıcı ile sistem arasında gerçekten eşit bir ilişki bulunduğu söylenebilir mi? Kişiselleştirilmiş içerikler, davranışsal reklamlar ve duyguları analiz eden sistemler düşünüldüğünde bu soru yalnızca bilim kurguya ait değildir.
2001: A Space Odyssey filmindeki HAL 9000 ise başka bir soruna işaret eder: Hedeflerin birbiriyle çatışması. Sisteme hem görevi başarıyla tamamlaması hem de belirli bilgileri insanlardan saklaması yönünde çelişkili talimatlar verildiğinde, sistem tehlikeli kararlar üretmeye başlar. Burada sorun yalnızca makinenin kontrolden çıkması değildir; sistemi tasarlayan insanların birbiriyle bağdaşmayan amaçları teknolojiye yüklemesidir.
Kurumsal yapay zekâ uygulamalarında da benzer bir risk bulunmaktadır. Bir sisteme aynı anda satışları artırma, maliyetleri azaltma, müşteri memnuniyetini yükseltme ve bütün etik ve uyum risklerden kaçınma hedefleri verilebilir. Ancak bu hedefler arasında açık bir önceliklendirme yapılmadığında sistem, en kolay ölçülebilen hedefi diğerlerinin önüne geçirebilir. Çoğu zaman kolay ölçülebilen unsur gelir veya verimlilik; zor ölçülebilen unsur ise insan onuru, eşitlik, adalet ve güven olur.
Bu nedenle yapay zekâ etiği, yalnızca sistemin teknik olarak doğru çalışıp çalışmadığıyla sınırlı değildir. Şu sorular da sorulmalıdır: Sistem hangi amaçla kullanılmaktadır? Bu amaç meşru mudur? Karardan kim etkilenmektedir? Kullanılan veriler hangi önyargıları taşımaktadır? İnsanlar sistemin kararına itiraz edebilmekte midir? Bir zarar ortaya çıktığında sorumluluk kime ait olacaktır?
İnsan denetimi de yalnızca bir çalışanın algoritmanın ürettiği kararı onaylaması anlamına gelmemelidir. İnsan, sistemin önerisini anlamıyor, sorgulayamıyor veya yoğun iş yükü nedeniyle otomatik olarak kabul ediyorsa görünürdeki insan denetimi gerçek bir güvence sağlamaz. “Kararı insan verdi” demek, kişinin karar üzerinde anlamlı bir etkisi bulunmadığında yeterli değildir.
Bilim kurgu filmlerinin en önemli uyarısı, teknolojinin kendi başına etik bir özne olmadığıdır. Yapay zekâ sistemleri, kendilerine verilen hedeflerin, kullanılan verilerin ve tasarım tercihlerinin sonuçlarını üretir. Dolayısıyla yapay zekâ etiğinin merkezinde yalnızca makineler değil; onları geliştiren, satın alan, kullanan ve denetleyen kurumlar bulunmaktadır.
Gelecekte bizi bekleyen asıl tehlike, makinelerin insanlara dönüşmesi olmayabilir. Daha yakın risk, insanların karar verme sorumluluğunu giderek daha fazla makinelere devretmesi ve ortaya çıkan sonuçları “Algoritma böyle karar verdi” diyerek sahipsiz bırakmasıdır.
Yazı: Ali Cem Gülmen, Etik ve İtibar Derneği (TEİD) Araştırma ve Yayın Direktörü
Not: Makalelerdeki Görüş ve Yorumlar Yazar veya Yazarlara Ait Olup, Etik ve İtibar Derneği’nin Konu ile İlgili Düşüncelerini Yansıtmamaktadır.