Bilimkurgu Kulübü Bu Sitede Gelecek Var!
Geçtiğimiz günlerde “AB Yapay Zekâ Yasası“, Avrupa Konseyi tarafından onaylanarak nihai hâlini aldı. Dünyada bir ilk olma özelliği taşıyan yasada bilimkurgu eserlerini anımsatan çok sayıda madde bulunuyor.
Yasa kapsamında yapay zekâ sistemlerinin risk seviyeleri kabul edilemez risk, yüksek risk, sınırlı risk gibi kategorilere ayrılıyor. Devletler tarafından oluşturulan sosyal puanlama sistemleri, insan haklarına aykırı bulunduğu için kabul edilemez risk seviyesinde değerlendiriliyor. Otonom araçlar ve tıbbi cihazlar, yüksek riskli sistemler kategorisinde ele alınıyor. Yüksek riskli sistemleri üretecek ve işletecek olan kişilerden ilgili risk yönetimi süreçlerine titizlikle uymaları bekleniyor. Yapay zekâlı sohbet programları ise düşük risk kategorisinde. Ayrıca kanun su, enerji, yargı, güvenlik ve biyometri gibi kritik alanlarda kullanılan yapay zekâ sistemleri için özel düzenlemeler getiriyor. Avrupa Birliği, “Yapay Zekâ Yasası”na uymayan gerçek ve tüzel kişilere küresel gelirlerinin yüzde yedisi kadar ceza uygulayabilecek.
Yasa, risk yönetimine ilişkin düzenlemelerin yanı sıra çok sayıda yasak da getiriyor. Söz konusu yasaklar kanunun nihai onayını izleyen altı ayın ardından devreye girecek. Yapay zekâlı sistemlerin insanların bilinçaltını hedeflemesi, insan davranışlarını manipüle etmesi ve insanların zaaflarından yararlanması yasaklanıyor. Black Mirror dizisini anımsatan söz konusu yasaklar, zekâ teknolojisinin geldiği noktayı göstermesi bakımından oldukça çarpıcı.
Ünlü Turing Testi, bilgisayarların ve insanların sorulara verdikleri yanıtların karşılaştırmasını içeriyor. Karşılaştırmayı yapan insan, her bir katılımcıya yazılı olarak sorular soruyor ve yanıtlarını görüntüsüz olarak alıyor. İnsanların yanıtlarından ayırt edilemeyen cevaplar veren bilgisayar, Turing testini geçmiş sayılıyor. Yapay zekâlı ajanların şimdilerde Turing testini geçmeye yakın olduklarını biliyoruz. Zira yasa, insanlarla iletişim kuran yapay zekâlı ajanların kimliklerini açıklamasını zorunlu kılıyor. Kanunda ayrıca, “deepfake” tarzı ses, görsel ve videoların niteliklerinin açıkça belirtilmesi gerektiği ifade ediliyor. Sanatsal ve mizahi amaçlarla geliştirilen “deepfake” eserler ise bu düzenlemenin dışında tutuluyor.
2011-2016 yılları arasında yayımlanan Person of İnterest dizisi, yüz tanıma teknolojisi kullanılarak oluşturulan bir izleme ağını konu alıyordu. Ülkenin her yanındaki kameraların verilerini değerlendiren yapay zekâlı bir program, suçluların yakalanmasına yardımcı oluyordu. Yapay Zekâ Yasası, yüz tanıma veri tabanlarının genel izleme için kullanılmasını yasaklıyor. Bu yasağa sadece terör, çocuk kaçırma, insan ticareti gibi olaylar için istisna getiriliyor.
Philip K. Dick’in aynı adlı öyküsünden uyarlanan Azınlık Raporu filmi, suçun öngörülerek henüz gerçekleşmeden önlenmesi fikrine dayanıyordu. Yasada, suç işleme riskine ilişkin değerlendirmenin kişinin özelliklerine göre yapılması yasaklanıyor. Objektif ve kontrol edilebilir kanıtların var olduğu durumlarda, yapay zekânın öngörüleriyle insan değerlendirmesine yardımcı olması ise bu yasaktan istisna tutuluyor.
Yasada yapay zekâlı programların ayrımcılık için kullanılmasının da önüne geçilmeye çalışılıyor. Biyometrik verilerin kişilerin ırklarını, politik görüşlerini ya da cinsel yönelimlerini ortaya çıkarmak için kullanılması yasak kapsamında yer alan eylemlerden biri. İşyerlerinde ve eğitim kurumlarında yapay zekânın kişilerin duygusal durumunu tespit etmek için kullanılmasına da izin verilmiyor.
Avrupa Birliği Yapay Zekâ Yasası, etik ilkeler ve sosyal değerleri dikkate alan bir düzenleme olarak dikkat çekiyor. Yasada bilimkurgu eserlerinde çokça ele alınan özel hayatın gizliliği, etik ilkelere uyum ve kişisel otonomi gibi temaların izlerini görmek mümkün. Daha adil bir dünya için teknolojik gelişmeyle sosyal refahın el ele ilerlemesi gerekiyor. Acaba bilimkurgu bu hedefin gerçekleşmesine katkı sağlıyor olabilir mi?
