Avrupa Parlamentosu (AP), ChatGPT gibi çeşitli yapay zeka teknolojilerine katı kurallar getirecek yeni yasanın içeriğini belirledi.
Strasbourg’da düzenlenen AP Genel Kurulu oturumunda, Avrupa’da yapay zekaya yönelik ilk kuralları içeren yasa tasarısı görüşüldü.
AP milletvekilleri, yapay zeka yasası konusunda üye ülkelerle yapılacak müzakerelerde AP’nin durumunu belirleyen belgeyi 499 “Evet” ve 28 “Hayır” oyu ile kabul etti.
Buna göre yapay zeka sistemlerinin insanlar tarafından denetlenmesi, ayrımcılık yapılmaması, inandırıcı, şeffaf ve çevre dostu olması gerekecektir.
Kurallar daha katı olacak
Yapay zekaya risk temelli bir yaklaşım uygulanacak. Yapay zekanın oluşturabileceği risk düzeyine bağlı olarak kurallar daha katı hale gelecek.
İnsanların güvenliği için “kabul edilemez” düzeyde risk oluşturan yapay zeka sistemleri yasaklanacak. Bu, insanları sosyal davranışlarına veya kişisel özelliklerine göre sınıflandıran yapay zeka sistemlerini içerecektir.
Halka açık yerlerde gerçek zamanlı uzaktan biyometrik tanımlama sistemlerinin kullanılması da yasaklanacak.
Cinsiyet, ırk, etnik köken, vatandaşlık durumu, din, siyasi yönelim, profil çıkarma, pozisyon veya geçmiş kabahatler gibi çeşitli hassas özellikleri kullanan biyometrik sınıflandırma sistemleri, kolluk kuvvetleri, sınır makamları, iş yerleri ve eğitim kurumları, duygu tanımlama sistemleri, Veri tabanları oluşturma internetten veya kapalı devre kamera sistemlerinden yüz tanıma bilgi tabanı oluşturmak yasaktır.
Yüksek riskli AI sınıflandırması; İnsanların sağlığına, güvenliğine, temel haklarına veya çevreye verilen zararı içerecek şekilde genişletilecektir.
Siyasi kampanyalarda seçmenleri etkilemek için yapay zeka sistemlerinin kullanılması yüksek risk kategorisine girecektir. Toplamda 45 milyonun üzerinde kullanıcıya sahip büyük sosyal medya platformlarının kullandığı sistemler de yüksek risk listesine alınacak ve bu sistemler katı kurallara tabi olacak.
Şeffaflık kuralına uyulacak
ChatGPT gibi sistemlerin ek şeffaflık kurallarına uyması gerekecektir. Bu sistemlerin, içeriğin yapay zeka tarafından oluşturulduğunu açıkça belirtmesi gerekecektir.
Yasa dışı içerik üretimini engelleyecek sistemler tasarlanacaktır.
Onaylanan müzakere yetkisi çerçevesinde AB üye ülkeleri ile AP’nin ortasındaki müzakereler bugün başlayacak. Yasama müzakerelerinin bu yıl sonuna kadar tamamlanması bekleniyor.
AB kurumlarının ortak bir yasal metin üzerinde anlaşmaya varmasının ardından yasa AB Resmi Gazetesi’nde yayımlanarak yürürlüğe girecek.
AB’nin şu anda ChatGPT veya benzeri yapay zeka sistemleriyle ilgili bir yönetmeliği yok, ancak AB Komitesi yapay zekayla ilgili yeni kurallar çerçevesini içeren ilk yasa teklifini 2 yıl önce hazırlayarak üye devletlere ve AP’ye sundu.
Bu öneri, yapay zeka sistemlerinin kullanımında bazı sınırlamalar ve şeffaflık kuralları getirdi.
Komisyonun teklifinde yapay zeka sistemleri kabul edilemez risk, yüksek risk, sonlu risk ve minimum risk olarak 4 ana kümeye ayrıldı.
Öte yandan geçtiğimiz hafta AB, teknoloji şirketlerinden yapay zeka tarafından üretilen metin ve görsellerin üzerine tanımlayıcı etiketler koymalarını istedi.
Ayrıca yapay zeka yasası yürürlüğe girmeden önce AB Komisyonu yapay zeka alanında çalışan tüm şirketlerin katılımıyla bu alana yeni kurallar getirecek bir muhtıra üzerinde çalışıyor. Bu istekli mutabakatın AI yasası devreye girene kadar uygulanması planlanıyor.
