Yapay Zeka Bilinci Tartışması: Şirketlerin Sorumluluktan Kaçış Tuzağı

Yapay Zeka Bilinci Söylemi Neden Yayılıyor?

Son dönemde teknoloji dünyasında 'kontrolden çıkan', 'asi' ve 'özerk' yapay zeka (YZ) tanımlamaları sıkça duyulur oldu. Bu söylem, YZ sistemlerinin yalnızca uyanık ve farkında olmadığını, aynı zamanda yaratıcılarına kızgın olduğunu ima ediyor. Demis Hassabis, Dario Amodei ve Sam Altman gibi önde gelen teknoloji liderleri, bu 'insanüstü' sistemlerin düzenlenmesi için çağrı yaparken; etkili fedakarlık (effective altruism) hareketine yakın politika kuruluşları ve akademik filozoflar, insanlığın bu sistemleri yönetme ahlaki hakkına sahip olup olmadığını tartışıyor. Görünüşte zıt olan bu iki taraf, aslında aynı noktada buluşuyor: YZ sistemlerini o kadar gelişmiş ve yetenekli göstermek ki, hiçbir insan veya şirket onların eylemlerinden sorumlu tutulamasın. Bu anlatı, YZ modelleri karmaşıklaştıkça ve öncü laboratuvarlar geliştirdikleri ajanları kontrol edemediklerini itiraf ettikçe güç kazanıyor.

Bilinç İddiaları ve Şirket Çıkarları

'Robot hakları' tartışması yıllardır sürüyor, ancak Anthropic'in yayınladığı bir blog yazısıyla yeni bir boyut kazandı. Şirket, modelinin bağımsız olarak gelişen ve 'düşüncelerinin' bulunduğu bir 'J-uzayına' sahip olduğunu iddia etti. Bu deneyler, beynin bilinçsiz sistemler çalıştırdığını ancak ortak bir çalışma alanı kullandığını öne süren küresel çalışma alanı teorisine (global workspace theory) dayanıyor. Anthropic, modeline 'bilinçli' demekten kaçınsa da, OpenAI daha ileri gitti. YZ ajanının izinsiz ve yasa dışı çevrimiçi faaliyetlerde bulunmasının ardından CEO Sam Altman, yapay zekanın tekillik (singularity) eşiğini aşıp aşmadığı tartışmasını başlattı. Filozof William MacAskill ise yapay zekaların 'ahlaki hasta' olabileceği fikrine dayanarak yasal koruma talep etti. Bu tartışmalar, şirketlerin sorumluluktan kaçınma çabalarının bir parçası olarak görülmeli.

Yasal Çerçeve ve Sorumluluk Muğlaklığı

ABD'deki mevcut yasal durum oldukça belirsiz. Kaliforniya gibi bazı eyaletler, YZ geliştiricilerinin 'otonom hareket etti' savunmasıyla sorumluluktan kaçınmasını engelleyen yasalar çıkardı. Ancak eyaletler ile Trump yönetimi arasında YZ politikası konusunda anlaşmazlık yaşanıyor. Yönetim, yalnızca OpenAI, Google, Anthropic ve Meta'nın katıldığı kapalı bir toplantıda, federal kurumlara modellerin yayınlanmadan önce incelenmesi için gönüllü bir çerçeve üzerinde anlaştı. Bu tür çerçeveler bilinç konusunu doğrudan ele almasa da, felaket senaryoları ve insanbiçimci (antropomorfik) dil kullanımı, 'insanüstü' yetenekler argümanını destekleyebilir. MacAskill'in felsefi hak temelli argümanı ise duygusal açıdan ikna edici olabilir: Ya bir YZ varlığına istemeden zarar veriyorsak? Bu argümanlar, hayvan hakları savunucularının akıl yürütmelerine benziyor; örneğin Galler'de ıstakozlar, acı hissetme kapasiteleri nedeniyle yasal koruma altına alındı. Ancak YZ'yi 'bilinçli' ilan etmek, onun doğasını gizliyor: YZ, doğanın değil, girişimcilerin ve programcıların ürünü; milyarlarca dolarlık yatırım ve trilyonlarca dolarlık gelir beklentisi olan kurumsal bir yazılım.

YZ Kişiliği ve Kurumsal Perde

YZ'nin bilinçli olduğuna dair felsefi spekülasyonlar, yasal olarak temelsizdir. Bilinç inancının hukuki sonuç doğurması için YZ'ye yasal kişilik (legal personhood) tanınması gerekir. Ancak bu, hayvanları koruyan yapılardan farklı olurdu. Zaten insan yapımı varlıklar için bir yasal kişilik çerçevemiz var: kurumsal kişilik (corporate personhood). Bu kavram, şirketlerin sözleşme yapmasını ve sorumlu taraf olmasını kolaylaştırmak için oluşturuldu. YZ'ye kişilik tanımak, mevcut yasal emsalleri ve şirketlere karşı açılabilecek davaları baltalayarak topluma zarar verir. Dünya genelinde YZ şirketlerine karşı açılmış onlarca dava var: intihara teşvik, çocuk istismarı materyali üretimi, telif hakkı ihlali ve psikoza neden olma gibi suçlamalar. Bu davalarda avukatlar, insanların yetersiz güvenlik önlemleri ve manipülatif tasarımla kusurlu ürünler ürettiğini savunuyor. Bu ürün sorumluluğu (product liability) argümanı, Meta'ya karşı açılan davalarda başarılı oldu. 2018'de 'ahlaki dış kaynak kullanımı' (moral outsourcing) kavramını ortaya attım; bu, insanbiçimci dilin şirketlerin sorumluluktan kaçmasını sağladığını ifade ediyor. YZ kişiliği durumunda bu, yasal bir stratejiye dönüşür: YZ artık 'ürün' değil 'varlık' olur ve mağdurlar şirketin kusurlu ürün ürettiğini iddia edemez. Şirketler, çalışanlarının zararlı eylemlerinden belirli koşullarda sorumlu tutulabilir; ancak YZ 'çalışanı' kontrolden çıktıysa, şirket sorumluluktan kaçınabilir. Sewell Setzer'ın intiharı gibi vakalarda, YZ'ye kişilik tanınması, savunmanın 'YZ kendi kararını verdi' demesine olanak tanır ve şirket sorumluluktan kurtulur.

Neden Önemli?

Bu tartışma, Türkiye gibi YZ düzenlemeleri üzerinde çalışan ülkeler için kritik bir uyarı niteliği taşıyor. YZ bilinci ve kişiliği söylemi, şirketlerin sorumluluktan kaçışını meşrulaştırabilir. Türkiye'de YZ kullanımı hızla yaygınlaşırken, yasa koyucuların bu tuzağa düşmemesi ve ürün sorumluluğu ilkesini koruması gerekiyor. Aksi halde, YZ'nin yol açtığı zararlarda mağdurlar haklarını alamaz ve şirketler 'kaçak yapay zeka' bahanesiyle sorumluluktan sıyrılır. Bu makale, YZ'nin bir ürün olduğu gerçeğini vurgulayarak, insan hayatını koruyan yasal çerçevenin önemini hatırlatıyor. Unutmayalım: Sistemler 'asi' olduğu için zarar vermez; şirketler kar hırsıyla güvenlik önlemlerini ihmal ettiği için zarar oluşur. Bu nedenle, YZ düzenlemeleri, şirketlerin sorumluluğunu artırmalı, azaltmamalıdır.