Avrupa Birliği tarafından 13.06.2024 tarihinde hazırlanan Yapay Zeka Yasası 02.08.2024 tarihinde yürürlüğe girdi. Ancak yasa metninin birçok hükmü 02.02.2025 tarihinde yürürlüğe girecek. Yüksek riskli yapay zeka sistemlerinin sınıflandırılması ve bu sistemlere getirilen özel düzenlemeler açısından ise yasa 02.08.2027 tarihinde yürürlüğe girecektir. Yasa metninin kendisi dikkat çekici birçok özelliğe sahip ve bundan sonra yapılacak yasal düzenlemeleri örneklik teşkil edeceği kesin.
Yüksek riskli yapay zeka sistemlerine ilişkin hükümlerin dikkat çektiğini belirtmek isteriz. Tam da bu sebeple bu bilgi notunda, özellikle Madde 6 ve Ek III’ün getirdiği düzenlemelere odaklanacağız.
Madde 6: Yüksek Riskli Yapay Zeka Sistemlerinin Sınıflandırılması
Madde 6(1), yapay zeka sistemlerinin yüksek riskli olarak sınıflandırılmasına ilişkin temel kuralları belirlemektedir. Bu sınıflandırma, iki ana koşulun sağlanması durumunda yapılır:
- Güvenlik Bileşeni Olarak Kullanım: Yapay zeka sistemi, bir ürünün güvenlik bileşeni olarak kullanılacaksa veya sistemin kendisi doğrudan bir ürün olarak piyasaya sürülecekse, bu sistem yüksek riskli olarak kabul edilir. Bu tür ürünler, AB’nin ilgili mevzuatı kapsamında üçüncü taraf uygunluk değerlendirmesinden geçmelidir.
- Ek III Kapsamındaki Sistemler: Madde 6(2), Ek III’te listelenen yapay zeka sistemlerinin de yüksek riskli olarak kabul edilmesini şart koşar. Bu sistemler, sağlık, güvenlik veya temel haklar üzerinde önemli riskler barındıran alanlarda kullanılır.
Madde 6(3) ise, Ek III kapsamındaki bazı yapay zeka sistemlerinin belirli koşullar altında yüksek riskli olarak kabul edilmeyebileceğini belirtir. Bu durum, sistemin insan sağlığı, güvenliği veya temel haklar üzerinde önemli bir risk oluşturmaması durumunda geçerlidir. Ancak, bu tür sistemler her durumda bir kayıt yükümlülüğüne tabidir.
Ek III: Yüksek Riskli Yapay Zeka Sistemleri Listesi
Ek III, belirli alanlarda kullanılan yapay zeka sistemlerinin yüksek riskli olarak sınıflandırılmasını gerektiren kapsamlı bir liste sunar. Bu liste, aşağıdaki alanları kapsar:
- Biyometrik Sistemler: Uzaktan biyometrik tanımlama sistemleri, biyometrik kategorilendirme ve duygu tanıma sistemleri, yüksek riskli olarak kabul edilir. Bu sistemler, genellikle kamu güvenliği ve bireylerin mahremiyetine yönelik önemli riskler taşır.
- Kritik Altyapı: Dijital altyapının yönetimi ve işletilmesinde güvenlik bileşeni olarak kullanılan yapay zeka sistemleri, yol trafiği yönetimi veya su, gaz, ısıtma ve elektrik arzı gibi kritik hizmetlerde kullanılan sistemler bu kategoriye girer.
- Eğitim ve Mesleki Eğitim: Öğrenci performansını değerlendirmek veya eğitim kurumlarına kabul kararlarını vermek için kullanılan yapay zeka sistemleri yüksek riskli olarak kabul edilir.
- İstihdam ve Çalışan Yönetimi: İşe alım, çalışan performans değerlendirmesi veya iş ilişkilerinde karar verme süreçlerinde kullanılan yapay zeka sistemleri de bu listede yer alır.
- Hizmetlere Erişim: Temel kamu hizmetlerine veya özel hizmetlere erişimi belirlemek amacıyla kullanılan yapay zeka sistemleri de yüksek risk taşır.
Sonuç ve Değerlendirme
Yapay Zeka Yasası’nın Madde 6 ve Ek III’ü, yapay zeka sistemlerinin insan sağlığı, güvenliği ve temel haklar üzerindeki potansiyel etkilerini dikkate alarak yüksek riskli sistemleri belirlemek için kapsamlı bir çerçeve sunmaktadır. Bu düzenlemeler, yapay zeka sistemlerinin güvenli ve etik bir şekilde kullanılmasını sağlamayı amaçlamaktadır. Ancak, sistemlerin yüksek riskli olarak sınıflandırılması, aynı zamanda bu sistemler için daha sıkı denetim ve uygunluk gerekliliklerini de beraberinde getirmektedir.
Yapay zeka teknolojilerinin hızla evrildiği bu dönemde, AB’nin bu yasası, teknolojinin etik ve güvenli bir çerçevede gelişmesini teşvik ederek, hem kullanıcıların hem de geliştiricilerin güvenliğini sağlamayı hedeflemektedir .