Brüksel, yapay zeka (AI) risklerini azaltmak için yeni kurallar öneriyor.
Taslak düzenleme, AI destekli teknolojinin güvenli olduğunu ve temel haklara saygı duyduğunu garanti etmek için tasarlanmıştır.
Avrupa Komisyonu, yüz tanıma gibi yüksek riskli olduğu düşünülen sistemlerin ekstra incelemeye tabi olacağını söylüyor.
Avrupa Komisyonu başkan yardımcısı Margrethe Vestager, “Önerilen yasal çerçevemiz yapay zekaya kendi başına bir teknoloji olarak bakmıyor, bunun yerine yapay zekanın ne için kullanıldığına ve nasıl kullanıldığına bakıyor” dedi. “Basit bir mantığa dayanan orantılı ve risk temelli bir yaklaşım gerektirir: belirli bir yapay zeka kullanımının yaşamlarımıza yol açma riski ne kadar yüksekse, kural o kadar katı olur.”
Brüksel, AB’yi “güvenilir yapay zeka için küresel merkez” yapmak için güvenlik standartlarının yatırım ve yenilikle el ele gitmesini istiyor.
Normların yanı sıra, AB AI yatırımına yılda 1 milyar € dahil etmeyi planlıyor. Brüksel, özel sektörün ve henüz faaliyete geçmeyen 750 milyar avroluk koronavirüs kurtarma fonunun yardımıyla bloğun bu on yılda yılda 20 milyar avrodan fazlasına ulaşacağını umuyor.
Avrupa iç pazar komiseri Thierry Breton, “Yapay zeka bir araç, amaç değil. On yıllardır ortalıkta dolaşıyor, ancak bilgi işlem gücüyle beslenen yeni kapasitelere ulaştı,” dedi.
“Bu, sağlık, ulaşım, enerji, tarım, turizm veya siber güvenlik gibi çok çeşitli alanlarda muazzam bir potansiyel sunuyor.”
Brüksel, dünya çapında benzer yasalara ilham veren veri koruma ve mahremiyetle ilgili dönüm noktası niteliğindeki bir yasa parçası olan Genel Veri Koruma Yönetmeliğini (GDPR) çoğaltmaya isteklidir.
Stratejinin açık jeopolitik hedefleri var: Avrupa Komisyonu, Amerika Birleşik Devletleri’nin “bırakınız yapsınlar” yaklaşımına ve Çin’in devlet destekli saldırgan taktiklerine alternatif bir yol tasarlamak istiyor. Yönetici, güvenilir ve öngörülebilir yapay zekayı teşvik ederek Avrupa’nın Washington ve Pekin’e karşı rekabet avantajı kazanabileceğini düşünüyor, ancak bu düşünce henüz meyvesini vermemiş.
Yeni çerçeve, 2018’de üst düzey uzmanlardan oluşan bir grup ve AB üye ülkeleriyle koordineli bir planla başlayan üç yıllık çalışmanın birleştirilmesidir; bunların hepsini çok sayıda danışma, parlamento tartışması ve teknoloji sektöründen lobi kampanyaları takip etmiştir. .
İzin verilenden kabul edilemez AI’ye
Kural kitabı, “orantılı ve esnek kurallar” aracılığıyla “sürdürülebilir, güvenli, kapsayıcı ve insan merkezli yapay zekayı teşvik etmeyi amaçlamaktadır.
Bu amaçla, Avrupa Komisyonu, yapay zeka sistemlerini potansiyel risklerine göre dört kategoriye ayıran piramit şeklindeki bir şema tasarladı:
- Minimum risk: Yeni kurallar bu yapay zeka sistemleri için geçerli olmayacak çünkü vatandaşların hakları veya güvenliği için minimum risk oluşturuyorlar veya hiç risk oluşturmuyorlar. Şirketler ve kullanıcılar bunları kullanmakta özgür olacak. Örnekler arasında spam filtreleri ve video oyunları yer alır. Avrupa Komisyonu, AI uygulamalarının çoğunun bu kategoriye gireceğine inanıyor.
- Sınırlı risk: Bu yapay zeka sistemleri, kullanıcıların bilinçli kararlar vermelerine, bir makineyle etkileşimde bulunduklarının farkında olmalarına ve kolayca kapanmalarına izin vermelerine olanak tanıyan belirli şeffaflık yükümlülüklerine tabi olacaktır. Örnekler arasında sohbet robotları (sohbet asistanları) bulunur.
- Yüksek risk: İnsanların kişisel çıkarları üzerindeki potansiyel olarak zararlı veya zarar verici etkileri göz önüne alındığında, bu AI sistemleri “piyasaya sürülmeden önce ve yaşam döngüleri boyunca dikkatlice değerlendirilecektir”. Komisyon, ulaşım, eğitim, istihdam, kanun yaptırımı, göç ve sağlık gibi çeşitli alanlarda yüksek riskli sistemlerin bulunmasını beklemektedir. Örnekler arasında yüz tanıma, cerrahi robotlar ve özgeçmişleri iş adaylarından ayırmak için uygulamalar yer alır.
- Kabul edilemez: Komisyon, “insanların güvenliği, geçim kaynakları ve hakları için açık bir tehdit” oluşturan AI sistemlerini yasaklayacak. Örnekler arasında hükümetler tarafından sosyal puanlama (Çin’in kredi sistemi gibi), çocukların savunmasızlıklarının istismarı ve bilinçaltı tekniklerinin kullanımı sayılabilir.
Yüksek riskli sistemler en yakından izlenenler olacak. Geliştirildikten sonra, bir uygunluk değerlendirmesinden geçmeleri, bir AB veri tabanına kaydedilmeleri ve bir uygunluk beyanı imzalamaları gerekecektir. Bu AI ürünleri, AB’de sağlık, güvenlik ve çevre koruma standartlarına uygunluğu kanıtlayan yaygın olarak kullanılan bir logo olan CE işaretini her zaman taşıyacaktır. Tüm bu adımlar tamamlandıktan sonra ürünün pazara girmesi ve tüketiciye ulaşması sağlanacaktır.
Ulusal makamlar daha sonra piyasa gözetiminden sorumlu olacaktır. Yüksek riskli AI sistemi önemli değişikliklere uğrarsa (örneğin, bir güncelleme), tüm prosedürü en baştan başlatması gerekecektir.
Yönetişimi kolaylaştırmak için, Avrupa Komisyonu ayrıca ulusal makamlara yeni kuralları denetleme ve uygulama konusunda yardımcı olacak bir Avrupa Yapay Zeka Kurulu oluşturulmasını önermektedir.
GDPR gibi, yeni AI kural kitabı, hükümlerinin blok genelinde doğrudan ve eşit olarak uygulanacağı anlamına gelen bir düzenleme olacak. AB içindeki her kamu ve özel sektör aktörünün yanı sıra AI ürünlerini Avrupa pazarına yerleştiren dışarıdan gelenler de onları takip etmek zorunda kalacak.
Yüksek riskli ve kabul edilemez yapay zeka sistemleri için gereksinimleri ihlal eden şirketler, hangisi daha yüksekse, 30 milyon avroya veya dünya genelindeki toplam yıllık ücretinin% 6’sına kadar para cezasına çarptırılabilir.
Biyometri etrafında tartışma
Vestager ve Breton son taslağı sunmadan önce bile, kural kitabı zaten bir eleştiri hedefiydi. En tartışmalı yön, yüz özellikleri, ses veya duygular gibi insan özelliklerine dayanan biyometrik tanımlama sistemleri sorunudur. Bu uygulamalar, vatandaşlar akıllı telefonlarının kilidini açtığında veya ülke sınırlarını aştığında bulunabilir.
Yönetmeliğe göre, tüm uzaktan biyometrik tanımlama sistemleri yüksek risk kategorisine girecek ve yukarıda belirtilen katı gerekliliklere tabi olacaktır. Dahası, bu sistemlerin kolluk kuvvetleri tarafından kullanılması tamamen yasaklanacak ve “kabul edilemez” kategorisine girecek.
Bununla birlikte, Avrupa Komisyonu, kayıp bir çocuğun aranması ve bir terör tehdidine yanıt verilmesi gibi “hedefli” polis eylemlerinde biyometri kullanımına izin verecek “dar istisnalar” öngörmektedir. Bu kullanımlar yargı organı tarafından yetkilendirilmeli ve zaman ve erişim açısından sınırlandırılmalıdır.
Avrupa Dijital Hakları (EDRi) STK’sı düzenlemeyi “doğru yönde bir adım” olarak adlandırarak, biyometrik uygulamaların istisnalarının “son derece endişe verici” olduğunu ve kolluk kuvvetlerinin boşluklar bulmasına izin verebileceğini söyledi.
“Bu, hükümetler ve şirketler tarafından kullanılan ayrımcı ve gözetleme teknolojileri için endişe verici bir boşluk bırakıyor. Yönetmelik, AI’dan kar elde eden şirketlerin öz denetim için çok geniş bir kapsam sağlıyor. Bu düzenlemenin merkezinde şirketler değil, insanlar olmalı,” Sarah Chander EDRi’de bir AI uzmanı olan bir açıklamada yazdı.
Avrupa Parlamentosu Yeşiller / EFA Grubu istisnalarla ilgili benzer endişeleri dile getirdi.
“Kamusal alanlarımızdaki biyometrik ve kitlesel gözetim, profil oluşturma ve davranışsal tahmin teknolojisi özgürlüklerimizi baltalıyor ve açık toplumlarımızı tehdit ediyor. Avrupa Komisyonu’nun önerisi, kamusal alanlarda otomatik yüz tanımanın yüksek riskli kullanımını Avrupa Birliği’nin aksine tüm Avrupa Birliği’ne getirecektir. Milletvekili Patrick Breyer, “halkımızın çoğunluğunun iradesi” dedi.
Bu arada özel sektör, Komisyon’un hareketini uyararak memnuniyetle karşıladı.
Avrupa’daki dijital şirketlerin ticaret birliği olan DIGITAL EUROPE, düzenlemenin risk temelli yaklaşımını öven, “AI yazılımının AB’nin ürün uygunluk çerçevesine dahil edilmesinin birçok sağlayıcı için aşırı bir yüke yol açabileceğini” söyledi.
Yönetmen Cecilia Bonefeld-Dahl, “Bu Yönetmeliği okuduktan sonra, ‘yüksek riskli’ bölgelerdeki gelecekteki start-up kurucularının Avrupa’da işlerini başlatmaya karar verip vermeyecekleri hala açık bir soru.
Euronews’in bir haberinden çevrildi ve haberleştirildi.