Avrupa Birliği Yapay Zekâ Kanunu (AI-Yönetmeliği)

Giriş

1 Ağustos 2024 tarihinde yürürlüğe giren Avrupa Birliği Yapay Zekâ Yönetmeliği (AI Yönetmeliği) aynı zamanda yapay zekâ konusunda dünyadaki ilk yasal düzenleme olmuştur.

Yapay Zekâ Yönetmeliği’nin arka planında ne var?

Yapay zekâ (ArtificiaI Intelligence - AI) ve geniş kapsamlı uygulamaları, şiir yazmak gibi yaratıcı faaliyetlerden sözleşme hazırlamak gibi pratik görevlere kadar çeşitli alanlarda devrim yaratmıştır. AI ilerlemeye devam ettikçe, hayatımızdaki rolü de artacak ve günlük rutinlerimizi ve etkileşimlerimizi önemli ölçüde etkileyecektir. Bununla birlikte, AI'nin etkisinin tamamen risksiz olmadığının farkında olmak önem taşımaktadır. AI teknolojilerinin toplumda giderek yaygınlaşması ve bu doğrultuda artan popülaritesi, gizlilik, fikri mülkiyet hakları ve sahtecilik konularında küresel endişeleri de beraberinde getirmiştir.

Avrupa Birliği Yapay Zekâ Yönetmeliği’nin amacı tam olarak nedir?

Yapay Zeka Yönetmeliği’nin (AI Yönetmeliği) giriş bölümünün (1.) maddesine göre, AI Yönetmeliği’nin amacı, güvenilir yapay zekânın (AI) yayılmasını teşvik etmek, demokrasi, hukukun üstünlüğü ve çevrenin korunması da dâhil olmak üzere sağlık, güvenlik ve temel hakları korumak ve böylece Avrupa Birliği içinde AI sistemlerinin zararlı etkilerine karşı koruma sağlamak amacıyla, Birlik değerleri doğrultusunda, özellikle yapay zekâ (YZ) sistemlerinin geliştirilmesi, piyasaya sürülmesi, yayılması ve kullanılması için uyumlaştırılmış bir yasal çerçeve oluşturmaktır. Aynı zamanda, inovasyonu desteklemeyi ve AI özellikli mal ve hizmetlerin sınırlar arasında serbest dolaşımını sağlamayı ve böylece AB’ye üye devletlerin, bu yönetmelik tarafından açıkça izin verilmedikçe, AI sistemlerinin geliştirilmesini, ticarileştirilmesini ve kullanımını kısıtlamasını önlemeyi amaçlamaktadır.

AB Yapay Zekâ Yönetmeliği tam olarak neyi düzenliyor?

AI Yönetmeliği’nin 1. maddesi 2. fıkrasına göre, bu Yönetmelik, AI sistemlerinin piyasaya sürülmesi, hizmete alınması ve kullanımının yanı sıra genel amaçlı AI modellerinin piyasaya sürülmesi için uyumlaştırıcı kurallar ortaya koymaktadır. Ayrıca, yüksek riskli AI sistemlerine ilişkin belirli yasakları ve özel gereklilikleri ortaya koymakta ve belirli AI sistemleri için şeffaflık kurallarının uyumlaştırılmasını da belirlemektedir. Son olarak, AI Yönetmeliği ayrıca piyasa gözetimi, yönetişimi ve piyasa gözetiminin uygulanması için kurallar koymakta ve yeni başlayanlar da dahil olmak üzere küçük ve orta ölçekli işletmelere özellikle odaklanarak yeniliği teşvik etmek için önlemler tanımlamaktadır.

• Yapay zekâ sistemleri nedir?

= Farklı derecelerde özerklikle çalışmak üzere tasarlanmış ve bir kez faaliyete geçtiğinde uyarlanabilir olabilen ve fiziksel veya sanal ortamları etkileyebilen açık veya örtük hedefler için alınan girdilerden tahminler, içerik, öneriler veya kararlar gibi çıktılar türetebilen makine tabanlı bir sistem.

• Genel amaçlı AI modelleri nedir?

= Bu tür bir AI modelinin kapsamlı bir kendi kendini izleme altında büyük miktarda veri ile eğitildiği durumlar da dahil olmak üzere, önemli ölçüde genel kullanılabilirliğe sahip olan ve nasıl konuşlandırıldığına bakılmaksızın çok çeşitli farklı görevleri yetkin bir şekilde yerine getirebilen ve piyasaya sürülmeden önce araştırma ve geliştirme faaliyetleri veya prototipleme için kullanılan AI modelleri hariç olmak üzere, çeşitli alt sistemlerine veya uygulamalarına entegre edilebilen bir AI modelidir.

Bu yönetmeliğin kapsamı nedir?

AI Yönetmeliği, AI sisteminin Avrupa Birliği’nde piyasaya sürülmesi veya kullanımının AB'deki insanlar üzerinde bir etkiye sahip olması koşuluyla, AB içindeki ve dışındaki AI sistemlerinin hem özel hem de kamu sağlayıcıları ve operatörleri için geçerlidir. Yapay Zekâ Yönetmeliği, AI'yi farklı risk sınıflandırmalarına ayırmaktadır.

• Yüksek riskli olarak kategorize edilen AI sistemleri katı gerekliliklere tabidir.

= Yüksek riskli olarak kategorize edilen AI sistemleri, AI Yönetmeliği‘nin 6. Maddesi’nde, yüksek riskli AI sistemleri için sınıflandırma kurallarında ele alınmakta ve açıklanmaktadır.

• Sınırlı riske sahip AI sistemleri, Yapay Zekâ Yönetmeliği’nin şeffaflık yükümlülüklerini yerine getirmelidir.

= Sınırlı riske sahip AI sistemleri, çok yönlü uygulama imkanları veya diğer uygulamalara entegrasyon sunan sistemlerdir. Bu nedenle bu kategori, çok özel bir kullanım ve çok özel işlevlerle karakterize edildiği için daha düşük bir risk teşkil etmektedir. Buradaki örnekler, “deep fake“ yaratmaya yönelik AI sistemleri, yani görüntü, video veya ses materyali üretmek veya manipüle etmek için yapay zekâ kullanımı olabilir. Sınırlı riske sahip AI sistemleri söz konusu olduğunda, AI Yönetmeliği’nin sadece şeffaflık yükümlülüğüne uyulmalıdır, örneğin “deep fake” durumunda bir filigran aracılığıyla. Bu, özellikle gerçek kişilerle doğrudan etkileşime giren AI sistemleri için geçerlidir. Bu yükümlülük, kullanıcıyı aldatma veya yanlış anlamalardan korumayı amaçlamaktadır.

• Minimum riske sahip AI sistemleri herhangi bir özel yükümlülüğe tabi değildir.

= Minimum riske sahip AI sistemleri, yukarıda belirtilen kategorilerden herhangi birine girmeyen tüm AI sistemleridir. Buna göre, Yapay Zekâ Yönetmeliği’nin uygulama kapsamı, en azından yasal sonuçlar açısından bunlar için geçerli değildir. Bu, AI Yönetmeliğine uyulmaması halinde herhangi bir yaptırım uygulanmayacağı anlamına gelmektedir. Buna örnek olarak video oyunlarındaki veya spam filtrelerindeki AI bileşenleri verilebilir.

• İnsanların temel haklarına yönelik bir tehdit olarak kabul edilen, yani kabul edilemez bir risk oluşturan AI sistemleri tamamen yasaklanmıştır.

AB-AI Yönetmeliği kapsamında yapay zekâ sistemlerinin yasaklanması üzerine

İstisnalar

Başlangıçta, Yönetmeliğin aşağıdaki istisnaları içerdiği belirtilmelidir. AI'nin ulusal güvenlik, askeri veya savunma politikası amaçları için kullanımı (bkz. AI Yönetmeliği Madde 2 Paragraf 3) yasak kapsamında değildir. Kolluk kuvvetleri ve adli iş birliği amacıyla üçüncü ülkelerden veya uluslararası kuruluşlardan yetkililerle iş birliği de, güvenlik teminatları gerekli olmasına rağmen, hariç tutulmuştur. Araştırma ve bilimsel amaçlar için kullanılan AI sistemleri de Madde 2 Paragraf 6 kapsamında muaftır. Son olarak, yasak, AI sistemlerinin tamamen özel amaçla kullanımı için geçerli değildir.

Yasaklar

Bir sonraki adım, yasaklanmış Yapay Zekanın tahsisidir. AB-Yapay Zekâ Yönetmeliği’nin 5. Maddesi yasaklanmış AI sistemlerinin bir listesini içermektedir. İnsanları, başka türlü veremeyecekleri ve en azından makul ölçüde zarar verme olasılığı olan kararlar almaya teşvik eden manipülatif, aldatıcı AI yasaktır. Hassasiyetlerden (yaş, engellilik, sosyal veya ekonomik konum) yararlanan ve davranışları önemli ölçüde etkileyen AI de listelenmiştir. Burada da, en azından yeterli bir zarar olasılığına atıfta bulunulmaktadır. Ayrıca, ırk veya siyasi görüşler gibi hassas kişisel verilere dayalı biyometrik kategorizasyon için AI kullanımı yasaktır. Cezai kovuşturma bağlamında bir istisna mevcuttur. “Sosyal puanlama”, yani sosyal davranışın uzun bir süre boyunca değerlendirilmesi için kullanılan AI sistemleri yasaktır. Kamusal alanlarda gerçek zamanlı biyometrik uzaktan tanımlama için AI'ye yalnızca ciddi cezai suçlar veya yakın tehlike bağlamında izin verilir. Bununla birlikte, nesnel gerçekler olmadan suçu önceden tahmin etmek için AI'ye izin verilmez. Duyguları analiz etmek için kullanılan ve tıbbi veya güvenlik gerekçeleri olmayan AI, işyerinde veya eğitim kurumlarında yasaktır.

Bu yasakların pratikteki önemi

Sonuç olarak, bu tür yapay zekâ sistemlerinin piyasaya sürülmesi, kullanılması ve ticarileştirilmesi yasaklanmıştır.

Genel görünüm

Ancak, soyut hukuki kavramların, özellikle de detaylarının tartışma konusu olması beklenmelidir.

AI Yönetmeliği’nin hangi hükümleri özellikle dikkat çekicidir?

Özel şeffaflık yükümlülükleri uygulanmaktadır; örneğin, chatbotlar (sohbet robotu) gibi AI sistemleri, kullanıcılarını bir makine ile muhatap oldukları konusunda açıkça bilgilendirmelidir. 

AI Yönetmeliği’ne uymamanın cezaları nelerdir?

Yukarıda belirtilen yasaklanmış yapay uygulamalar (Madde 5) ve veri yönetimi hükümlerine (Madde 10) uyulmaması ile ilgili ihlaller, hangisi daha yüksekse, 30.000.000,00 EUR ‘ya kadar veya ihlal edenin dünya çapındaki yıllık cirosunun %6'sına kadar para cezası ile cezalandırılabilir. Madde 5 ve 10 ile ilgili olmayan ihlaller, 20.000.000 EUR ‘ya kadar veya ihlal edenin dünya çapındaki yıllık cirosunun %4'üne kadar (hangisi daha yüksekse) para cezası ile cezalandırılabilir. Yetkili makamlardan gelen resmi taleplere yanıt olarak yanlış veya yanıltıcı bilgi vermek, hangisi daha büyükse, 10.000.000 EUR ‘ya kadar veya failin dünya çapındaki yıllık cirosunun %2'sine kadar para cezası ile cezalandırılabilir. Para cezasının kesin miktarının, suçun ağırlığı ve sonuçları da dahil olmak üzere, münferit davanın özel koşullarına bağlı olduğunu belirtmek gerekir. Suçlunun büyüklüğü ve pazar payı da dikkate alınmalıdır. Suçlu daha önce para cezasına çarptırılmışsa, bu da dikkate alınacaktır.

AI Yönetmeliği hükümleri ne zaman uygulanacak?

Yeni AI Yönetmeliği’nin hükümlerinin çoğu 2 Ağustos 2026'dan itibaren geçerli olacak ve yalnızca kabul edilemez bir risk oluşturan AI sistemlerine yönelik yasaklar altı ay sonra uygulanacaktır. Genel amaçlı AI modelleri için yönetişim kuralları ve yükümlülükler 12 ay sonra ve düzenlenmiş ürünlere gömülü AI sistemleri için kurallar 36 ay sonra yürürlüğe girecektir.

Autor: Senem Kathrin Güçlüer