Dünyanın yapay zekaya yönelik ilk kapsamlı kanuni çerçevesi olan AB’nin Yapay Zeka Yasası, yasalaşmadan önce müzakerelerin son aşamasında.
Artık son ayrıntılar üzerinde anlaşmaya varılırken, Avrupalı yasa koyucuların insan haklarını koruma ve yapay zeka kullanımını sıkı bir şekilde düzenleme fırsatını yakalaması gerekiyor.
Bununla birlikte, Yapay Zeka Yasası etrafındaki tartışmanın önemli bir özelliği, temel bir özelliğe yeterince dikkat edilmemesidir: Yasa, yapay zeka ile hukukun üstünlüğü arasında açıkça tanımlanmış bir bağlantı kurmalıdır.
İnsan hakları güvencelerinin yasaya dahil edilmesi kapsamlı bir şekilde tartışılırken, hukukun üstünlüğüyle bağlantı kurmak da aynı derecede önemlidir.
Demokrasi, insan hakları ve hukukun üstünlüğü birbiriyle bağlantılı ama yine de birbirine bağımlı, topluma zarar vermeden birbirinden ayrılamayan bireysel kavramlardır.
Avrupa’da hukukun üstünlüğünü güçlendirmek için bir fırsat
Hukukun üstünlüğü ilkesi AB’nin temelidir. Diğer temel değerlerin gerçekleştirilmesinin ve insan haklarından yararlanılmasının bir önkoşuludur.
Tanımlanması oldukça zor olmakla birlikte, hukukun üstünlüğü ilkesi yine de demokratik bir toplum için vazgeçilmez olan bir dizi değeri kapsar: şeffaf ve çoğulcu bir yasa yapma süreci; kuvvetler ayrılığı ve denetim ve denge; bağımsız, tarafsız mahkemeler ve bunlara erişim olanağı; ve ayrımcılık yapmama ve kanun önünde eşitlik.
Yapay zekanın hem özel hem de kamu sektörlerine artan entegrasyonu göz önüne alındığında, Birliğimizin üzerinde durduğu temeli korumak için sağlam önlemlere ihtiyacımız var: Yapay zeka sistemlerinin kötüye kullanılması hukukun üstünlüğü ve demokrasi için önemli bir tehdit oluşturmaktadır.
Bunların bocaladığı üye ülkelerde, demokratik kurumları, süreçleri ve hukukun üstünlüğünü zayıflatmak için düzenleyici boşluklardan yararlanılabilir.
Yapay Zeka Yasası, temel haklar ve hukukun üstünlüğüne dayalı standartlar ve güvenceler üzerine kurulu sağlam, güvenli bir düzenleyici ortam yaratmak için bir fırsattır.
Adalet sistemlerinde kullanılan yapay zekaya yönelik uygun gözetim
Bu önlemlerin merkezinde zorunlu temel haklar etki değerlendirmelerinin yer alması yer almaktadır.
Bunlar, Avrupa Parlamentosu’nun Yapay Zeka Yasası versiyonunda yer almaktadır ve bunların yasanın son metnine dahil edilmesi zorunludur.
Bu temel haklar etki değerlendirmeleri, yapay zeka teknolojilerinin ve bunların kullanımının adalet, hesap verebilirlik ve adalet ilkelerini desteklemesini sağlamak için hayati öneme sahiptir.
Ancak bunun ötesine geçerek, yapay zeka konuşlandırmasının potansiyel risklerini, önyargılarını ve istenmeyen sonuçlarını değerlendirmek için yapılandırılmış bir çerçeveyle etki değerlendirmelerine hukukun üstünlüğü standartları eklenmelidir.
Yalnızca potansiyel risklerin tanımlanmasının ötesinde, azaltma stratejilerini, periyodik incelemeleri ve güncellemeleri de kapsayabilirler.
Bu aynı zamanda yapay zeka kullanımından kaynaklanan hukukun üstünlüğü ihlallerinin AB’nin elindeki tüm araçlar kullanılarak ele alınmasına da olanak tanır; örneğin, bu ihlaller ceza adaleti sistemlerinde meydana geldiğinde, çoğu otomatik karar alma süreçlerini sınırlamak için yapay zekayı kullanır. Yargıçların üzerindeki yük ve zaman baskısı.
Ancak yargı bağımsızlığını, adil yargılanma hakkını ve şeffaflığı sağlamak için adalet sistemlerinde kullanılan yapay zekanın uygun denetime tabi olması ve hukukun üstünlüğüne uygun olması gerekiyor.
Profil oluşturma ve yasa dışı gözetimin riskleri
Daha da önemlisi, yasa yapıcılar, ulusal güvenlik için genel bir muafiyet bırakarak Yapay Zeka Yasasında hukukun üstünlüğünün uygun şekilde korunmasının temelini atmalıdır.
Ulusal güvenlik amacıyla geliştirilen veya kullanılan yapay zeka sistemleri kanunun kapsamına girmelidir; aksi takdirde, bir üye devlet bunları, örneğin kamu gözetimi veya insan davranışını analiz etmek için, yalnızca ulusal güvenlik düzenlemesine başvurarak kolaylıkla kullanabilir.
Gazetecilerin, insan hakları aktivistlerinin ve politikacıların kendi hükümetleri tarafından gözetlendiği Pegasus casus yazılım skandalı, ulusal güvenlik amacıyla geliştirilen veya kullanılan sistemlerin AI Yasası kapsamından muaf tutulmamasını sağlamanın gerekliliğini açıkça ortaya koyuyor.
Ayrıca ulusal güvenlik, üye devletlerin kanunlarına bağlı olarak AB genelinde farklı anlamlara gelebilmektedir.
Vatandaşların ulusal hükümetlerin çıkarlarına göre profillenmesi AB genelinde eşitsizlik yaratacak ve hem hukukun üstünlüğüne hem de temel haklara eşit derecede tehdit oluşturacaktır.
Genel istisna yok
Polonya ve Avrupa Parlamentosu seçimleri yaklaşırken, yapay zekanın, normalde adil olan seçimleri çarpıtma potansiyeli ile dezenformasyon yaymak da dahil olmak üzere kişiselleştirilmiş mesajlarla bireyleri hedeflemek için kullanılabileceğine ve kullanılacağına dair hiçbir şüphe yok.
Öte yandan, yapay zeka araçları, doğrulama, botları ve içeriği engelleme ve trol çiftliklerini tanımlamak için de kullanılacak. Bu teknikler, gücün kötüye kullanılmasını veya kötüye kullanılmasını önlemek için şeffaf olmalıdır.
Hukukun üstünlüğünü AI Yasası’na açıkça bağlama ihtiyacı açıktır; ulusal güvenlik kullanımları için genel bir muafiyet olmaksızın, hem temel hakları hem de hukukun üstünlüğünü göz önünde bulunduran etki değerlendirmelerini zorunlu kılmanın önemi de açıktır.
Yapay zeka sayısız açıdan günlük yaşamın bir parçasıdır ve onu nasıl düzenlemeyi seçeceğimiz toplumlarımızı şekillendirecektir.
AB yasa yapıcıları bu fırsatı, haklarımızın korunmasına veya hukukun üstünlüğüne zarar vermeden yapay zeka fırsatlarından yararlanan bir yasa oluşturmak için kullanmalıdır.
Eva Simon, Teknoloji ve Haklar alanında Savunuculuk Lideri olarak görev yapıyor ve Jonathan Day, Avrupa Birliği’nde hukukun üstünlüğünü güçlendirmeyi amaçlayan Berlin merkezli bir kampanya ağı olan Avrupa Sivil Özgürlükler Birliği’nde İletişim Müdürü olarak görev yapıyor.
Euronews olarak tüm görüşlerin önemli olduğuna inanıyoruz. Önerilerinizi veya sunumlarınızı göndermek ve sohbetin bir parçası olmak için [email protected] adresinden bizimle iletişime geçin.
