Yapay zeka, sağlık sektöründen finansa, pazarlamadan kamu yönetimine kadar her sektörü hızla dönüştürüyor. Ancak bu sistemleri kim denetliyor? AI’nin temel hakları ihlal etmediğinden nasıl emin olabiliriz?
Bu sorulardan EU AI Act, yapay zekanın geliştirilmesi, dağıtımı ve kullanımı için dünyadaki ilk mevzuat olan ve temel bir ilkeye göre düzenlenen: risk doğar.
Summary
EU AI Act neler öngörüyor?
2024 yılında onaylanan Avrupa Yapay Zeka Yönetmeliği risk temelli bir yaklaşım getiriyor. Yapay zeka sistemleri dört ana kategoriye ayrılıyor:
🔹 Minimum risk AI
🔹 Yüksek riskli AI
🔹 Yasaklanmış AI
🔹 Genel amaçlı modeller (GPAI)
Yasaklı uygulamalar: Geleceği olmayan AI
Yapay zekanın bazı kullanımları etik olarak kabul edilemez veya tehlikeli olarak değerlendirilmektedir ve 2 Şubat 2025 tarihinden itibaren yasaklanacaktır.
Yasaklı AI örnekleri:
- Sosyal puan (stil “Black Mirror”): kişileri davranışlarına göre değerlendirmek, gerçek hayatta sonuçları olan.
- Psikolojik manipülasyon: kullanıcıları zararlı veya bilinçsiz kararlar almaya iten sistemler.
- İnternetten yüz kazıma biyometrik veritabanları için.
- Duyguların tanınması okullarda ve iş yerlerinde (sağlık veya güvenlik nedenleri dışında).
- Gerçek zamanlı biyometrik gözetim kolluk kuvvetleri tarafından, yetkilendirilmiş istisnai durumlar dışında.
Yüksek riskli AI: kurallar ve gereksinimler
Yüksek riskli sistemler, haklar, güvenlik veya temel hizmetlere erişim üzerinde doğrudan etkisi olanlardır. Katı gerekliliklere uymak zorunda kalacaklar.
Somut örnekler:
- Aİ, adayları işe almak veya performansı değerlendirmek için kullanıldı.
- Kredi uygunluğunu veya sosyal yardımları belirleyen sistemler.
- Algoritmalar tıbbi cihazlar veya kritik altyapılar (enerji, ulaşım).
- AI araçları, yargı sistemi veya demokratik seçimleri etkileyen.
Tedarikçiler şunları yapmalıdır:
- Sistemleri benimsemek sürekli risk yönetimi
- Training ve test verilerinin yüksek kalitesini sağlamak
- Her aşamayı teknik şeffaflık ile belgeleyin
- Uygulamak pazarlama sonrası izleme planları
Kullanıcılar şunları yapmalıdır:
- Sistemleri belirli talimatlara göre kullanın
- AI sistem günlüklerini sakla
- Hassas veya kamusal bağlamlarda temel haklar üzerindeki etkileri değerlendirin
Kurallar 2 Ağustos 2026 tarihinden itibaren yürürlüğe girecek.
Genel AI Modelleri (GPAI) için Kurallar
Yönetmelik, IBM’in Granite veya Meta’nın LLaMA 3 gibi foundation models için de özel bir düzenleme getiriyor, bu modeller birçok farklı uygulamada kullanılabilir.
GPAI tedarikçilerinin yükümlülükleri:
- AB AB
- Training veri setlerinin genel özeti
- Otomatik işaretleme oluşturulan içeriklerin (deepfake, metinler, görüntüler)
Bir model eğitim aşamasında 10²⁵ FLOP eşiğini aşarsa, sistemik risk olarak kabul edilir ve şunları yapmalıdır:
- Ciddi olayları bildirin
- Gelişmiş cybersecurity önlemleri almak
Kurallar, 2 Ağustos 2025 tarihinden itibaren yeni modellere uygulanacak ve mevcut olanlar için 2027’ye kadar bir uyum dönemi olacak.
EU AI Act kimlere uygulanır?
Yönetmelik şunlara uygulanır:
- Tedarikçiler (AI geliştiren veya pazarlayanlar)
- Kullanıcılar (kendi işlerinde AI sistemlerini kullananlar)
- İthalatçılar ve distribütörler AB’de
AB dışındaki şirketler, sistemleri veya çıktıları Avrupa Birliği’nde kullanılıyorsa düzenlemeye tabidir. Bu durumda, AB’de bir yetkili temsilci atamaları gerekmektedir.
Yaptırımlar: 35 milyon euroya kadar
Para cezaları, ihlalin ciddiyetine orantılıdır:
| İhlal Türü | Azami Ceza |
| Yasak AI kullanımı | €35 milyon veya küresel cironun %7’si |
| Yüksek riskli AI gereksinimlerinin ihlali | €15 milyon veya küresel cironun %3’ü |
| Yetkililere yanıltıcı bilgi verme | €7,5 milyon veya küresel cironun %1’i |
Küçük ve orta ölçekli işletmeler (KOBİ’ler) ve startup’lar orantılı bir yaptırım rejiminden faydalanır.
Önemli tarihler
1° agosto 2024: resmi yürürlüğe giriş
2 febbraio 2025: yasaklanmış AI uygulamaları yasağı
2 agosto 2025: GPAI (yeni modeller)
2 agosto 2026: yüksek riskli AI
2 agosto 2027: diğer AB düzenlemeleri tarafından düzenlenen sistemler
SSS – AI Act hakkında sıkça sorulan sorular
▶ AI Act kişisel yapay zeka kullanımına da uygulanıyor mu?
Hayır. Kişisel veya bilimsel araştırma amaçlı kullanımlar muaf tutulmuştur.
▶ Açık kaynak sistemler düzenleniyor mu?
Evet, eğer sistemik etkileri varsa veya riskli ortamlarda kullanılıyorsa.
▶ “İçerik oluşturmayı işaretlemek” ne anlama geliyor?
İçeriğin (ör. bir deepfake video) bir AI tarafından oluşturulduğunu veya değiştirildiğini belirten makine tarafından okunabilir meta veriler veya etiketler eklemek.
Sonuç
AB AI Act, bir yasadan çok daha fazlasıdır: Avrupa dijital inovasyonunun geleceği hakkında bir niyet beyanıdır. AI geliştiren, dağıtan veya kullanan şirketler, kendi risklerini değerlendirmek, süreçleri uyarlamak ve şeffaflık ve yönetişime yatırım yapmak için hemen harekete geçmelidir.
