AI sistemleri, yüksek riskli sistemler ve şirketlerde ve yetkililerde uygulama için AI Yasası

Konrad Wolfenstein

10 ay önce

Şirketlerde ve kamu kurumlarında pratik uygulamaya yönelik yapay zeka sistemleri, yüksek riskli sistemler ve yapay zeka yasası – Görsel: Xpert.Digital

AB Yapay Zeka Yasası: AB Komisyonu'ndan Yeni Yönergeler – Şirketlerin Şimdi Bilmesi Gerekenler

Şirketlerde ve kamu kurumlarında yapay zeka sistemleri, yüksek riskli uygulamalar ve yapay zeka yasası

11 Şubat 2025 tarihinde Avrupa Komisyonu, AB Yapay Zeka Yasası'nın pratik uygulamasına ilişkin kapsamlı kılavuzlar yayınladı. Bu kılavuzlar, şirketlerin ve kamu otoritelerinin Yasa'nın gerekliliklerini daha iyi anlamalarına ve bunlara uymalarına yardımcı olmayı amaçlamaktadır. Özellikle yasaklanmış yapay zeka uygulamalarına, yüksek riskli sistemlere ve uyumluluğun sağlanmasına yönelik önlemlere vurgu yapılmaktadır.

Kılavuzun temel yönleri

Yasaklanmış yapay zeka uygulamaları

Yapay Zeka Yasası, kabul edilemeyecek kadar yüksek risk oluşturduğu düşünülen bazı yapay zeka uygulamalarını açıkça yasaklamaktadır. Bu yasaklar 2 Şubat 2025'ten beri yürürlüktedir. Bunlar arasında şunlar yer almaktadır:

Manipülatif veya aldatıcı teknikler kullanan yapay zeka sistemleri
Belirli bireylerin veya grupların zaaflarından özel olarak yararlanan sistemler.
Sosyal puanlama sistemleri
Yapay zekâ, somut kanıt olmadan potansiyel suç eylemlerini tahmin edebiliyor.
Biyometrik kimlik tespiti amacıyla internetten kontrolsüz bir şekilde yüz görüntüleri toplanması
İş yerlerinde veya eğitim kurumlarında duygu tanıma sistemleri
Kamusal alanlarda biyometrik gerçek zamanlı kimlik doğrulama sistemleri (polis teşkilatları için birkaç istisna dışında)

Bu yasaklar, yapay zeka teknolojilerinin etik ve sorumlu bir şekilde kullanılmasını ve temel hakları ihlal etmemesini sağlamayı amaçlamaktadır.

Yönergelerin pratik uygulaması

Avrupa Komisyonu'nun 140 sayfalık kılavuzu, şirketlerin ve kamu otoritelerinin yapay zeka sistemlerini doğru şekilde sınıflandırmalarına yardımcı olmak için çok sayıda pratik örnek olay incelemesi içermektedir. Bu kılavuzlar yasal olarak bağlayıcı olmasa da, denetim makamları için düzenlemeleri izlerken ve uygularken bir referans görevi görmektedir.

Şirketler ve yetkililer için önemi

Şirketler ve yetkililer, aşağıdaki amaçlara ulaşmak için yönergelerle aktif olarak ilgilenmelidir:

Mevcut yapay zeka sistemlerinizi olası ihlaller açısından incelemek
Gerekli ayarlamaları erkenden yapmak için
Cezalardan kaçınmak için dahili uyumluluk yapıları oluşturmak

Yönetmeliklere uyulmaması ciddi sonuçlar doğurabilir. Yaptırımlar 35 milyon Euro'ya veya şirketin küresel yıllık cirosunun %7'sine kadar (hangisi daha yüksekse) ulaşabilir.

Sonraki Adımlar

Yönergelerin tam olarak uygulanabilmesi için, öncelikle tüm AB resmi dillerine çevrilmeleri ve resmen kabul edilmeleri gerekmektedir. Bununla birlikte, işletmeler ve kamu otoriteleri, Yapay Zeka Yasası'nın aşamalı olarak yürürlüğe girmesine hazırlık için proaktif adımlar atmalıdır. Yasanın tam olarak uygulanması 2 Ağustos 2026'da planlanmaktadır.

Yapay zekâ sistemlerinin risk sınıflandırması

AB Yapay Zeka Yasası, yapay zeka sistemlerini her biri farklı düzenleyici gereksinimlere sahip dört risk sınıfına ayırır:

1. Kabul Edilemez Risk – Yasaklanmış Yapay Zeka Sistemleri

Bu sistemler, vatandaşların hak ve özgürlüklerine önemli bir tehdit oluşturdukları için AB'de tamamen yasaklanmıştır. Örnekler şunlardır:

Sosyal puanlama için yapay zeka sistemleri
Kullanıcı davranışını bilinçsizce etkileyen manipülatif yapay zeka.
Kamusal alanlarda kolluk kuvvetleri amaçları için gerçek zamanlı biyometrik kimlik tespiti (birkaç istisna dışında)
Yaş, engellilik veya sosyoekonomik durumdan kaynaklanan zaafları istismar eden yapay zeka sistemleri

2. Yüksek risk – sıkı düzenleme gereklidir

Bu sistemler piyasaya sürülmeden önce katı gereksinimleri karşılamalı ve uygunluk testlerinden geçmelidir. Bunlar şunlardır:

Tıbbi cihazlar, araçlar veya makineler gibi kritik ürünlerde yapay zekanın bir güvenlik bileşeni olarak kullanımı
Temel haklar açısından sonuçları olan bağımsız yapay zeka sistemleri (örneğin, kredi değerliliği kontrolleri, başvuru değerlendirmesi, kolluk kuvvetleri, adli yönetim)

Bu uygulamalar, şeffaflık, risk yönetimi, veri kalitesi ve insan gözetimi konularında kapsamlı gerekliliklere tabidir.

3. Sınırlı risk – şeffaflık yükümlülükleri

Bu sistemler, kullanıcılara yapay zeka ile etkileşimde bulunduklarını bildirmelidir. Örnekler şunlardır:

Sohbet botları
Deepfake teknolojisi, medya içeriği oluşturmak veya değiştirmek için kullanılır.

4. Minimum veya hiç risk yok – Ücretsiz kullanım

Bu tür sistemler herhangi bir özel yasal yükümlülüğe tabi değildir; ancak, gönüllü bir davranış kuralları kodu önerilmektedir. Örnekler şunlardır:

yapay zeka destekli video oyunları
Spam filtresi

Yüksek riskli yapay zeka sistemleri ve bunların düzenlenmesi

Yapay Zeka Yasası, yüksek riskli yapay zeka sistemlerini, insanların güvenliği, sağlığı veya temel hakları üzerinde önemli bir etkiye sahip olan sistemler olarak tanımlar. Bunlar iki ana kategoriye ayrılabilir:

1. Yapay Zeka, bir güvenlik bileşeni veya bağımsız bir ürün olarak

Bir yapay zeka sistemi aşağıdaki durumlardan herhangi birini gösteriyorsa yüksek riskli olarak sınıflandırılır:

AB uyumlaştırma düzenlemeleri kapsamına giren bir ürünün güvenlik bileşeni olarak işlev görür veya
Potansiyel tehlikeler oluşturduğu için uygunluk değerlendirmesine tabidir.

Bu tür ürünlere örnek olarak şunlar verilebilir:

Tıbbi cihazlarda (örneğin, tanı sistemlerinde) yapay zeka
Yapay zeka destekli sürücü yardım sistemleri
Endüstriyel üretimde risk değerlendirmesi ve kalite güvencesi için yapay zeka

2. Toplumsal öneme sahip bağımsız yüksek riskli yapay zeka sistemleri

Bu sistemler Yapay Zeka Yasası'nın Ek III'ünde listelenmiştir ve toplumun şu gibi kritik alanlarını etkiler:

a) Kritik altyapılar

Elektrik şebekelerinin veya ulaşım ağlarının kontrolü ve izlenmesi için yapay zeka.

b) Eğitim ve istihdam

Sınav değerlendirmesini otomatikleştirmek için yapay zeka
Başvuru sahiplerini seçmek veya çalışan performansını değerlendirmek için yapay zeka

c) Mali ve sosyal yardımlara erişim

Yapay zeka destekli kredi değerliliği kontrolleri
Sosyal yardımlardan yararlanma yeterliliğini değerlendirme sistemleri

d) Hukuk uygulaması ve adalet

Kanıt analizi ve soruşturma desteği için yapay zeka
Sınır kontrolü ve göç yönetimi için yapay zeka destekli sistemler

e) Biyometrik kimlik doğrulama

Biyometrik uzaktan kimlik doğrulama sistemleri
Güvenlik açısından kritik ortamlarda duygu tanıma sistemleri

Bu yüksek riskli yapay zeka uygulamalarının tamamı, risk yönetimi, şeffaflık, veri işleme, teknik dokümantasyon ve insan gözetimi konularında katı gerekliliklere tabidir.

AB Yapay Zeka Yasası: Şirketler katı yapay zeka düzenlemelerine nasıl hazırlanabilir?

AB'nin Yapay Zeka Yasası, yapay zeka teknolojilerinin kullanımı için net bir çerçeve belirlemekte ve temel hakların korunmasına özel önem vermektedir. Şirketler ve kamu otoriteleri, yaptırımlardan kaçınmak için yeni düzenlemeleri iyice öğrenmeli ve yapay zeka uygulamalarını buna göre uyarlamalıdır. Özellikle yüksek riskli sistemler için daha sıkı şartlar geçerlidir ve bu sistemler geliştirme ve uygulama süreçlerine erken aşamada entegre edilmelidir.

Mevzuatın sürekli izlenmesi ve proaktif uyum önlemleri, yapay zekanın sorumlu kullanımını sağlarken aynı zamanda yasal çerçeve içinde yeniliği teşvik etmek için şarttır. Önümüzdeki yıllar, Yapay Zeka Yasası'nın pratikte nasıl işlediğini ve hangi ek düzenlemelerin gerekli olabileceğini ortaya koyacaktır.

İçin uygun:

Küresel pazarlama ve iş geliştirme ortağınız

☑️İş dilimiz İngilizce veya Almancadır

☑️ YENİ: Ulusal dilinizde yazışmalar!