/  Yenilik ve Girişimcilik   /  Avrupa Birliği Yapay Zekâ Yasası – Getirilen Yükümlülükler Üzerine
Yenilik ve Girişimcilik

Avrupa Birliği Yapay Zekâ Yasası – Getirilen Yükümlülükler Üzerine

By
, , ,

İlker ÖTEGEN
Uzman
Yenilik ve Girişimcilik Politikaları Birimi
ilker.otegen@izka.org.tr

I. Giriş

Yapay zeka sistemleri, OECD tanımına göre açık veya örtülü amaçlarla aldığı girdilerden tahminler, içerik, öneriler ya da kararlar gibi fiziki ya da sanal ortamları etkileyebilecek çıktıların üretim yollarının çıkarımını yapan makine bazlı bir sistemdir (OECD, 2024).

Yapay zeka sistemlerinin düzenlenmesi konusunda farklı eğilimler gözlenmektedir. Çin, sadece belirli yapay zeka sistemlerine yönelik düzenlemeler yaparken ABD, yapay zeka hakkında standartları geliştirme konusunda federal otoriteleri öne çıkarmış AB ise bu konuyu düzenleyen bir yasa çıkarmayı tercih etmiştir (Carney vd., 2024). Bu yazının kapsamı, AB Yapay Zeka Yasası –kimi kaynaklarda tüzük olarak da geçmektedir- kapsamında getirilen düzenlemeleri ve bu alanda ülkemizdeki hazırlıklara değinerek 24.06.2024 tarihinde sunulan Yapay Zeka Kanun Teklifi hakkında kısa bir değerlendirme yapmaktır.

II. Yapay Zeka Sistemlerinin Yararları ve Riskleri

Yapay zeka, sahip olduğu algoritma ve sürekli öğrenebilme kabiliyetiyle karmaşık verileri anlamlı bir şekilde işleyerek karar alma süreçlerindeki riskleri tespit ederek bu süreci kolaylaştırma gibi yeteneklere sahiptir. İlaveten uzmanlık gerektiren inceleme ve analiz gibi işleri kendi üzerine alarak, mesleğin gerektirdiği ve sürekli tekrarlanan işlerin süresini kısaltmaktadır (Thomson Reuters Corporation, 2025).

Yapay zeka sistemleri, araştırmalarda yeni fikirlerin keşfedilmesi ve yürütülen işlerde sağlanan verimlilik artışıyla ekonomik büyüme ve üretkenliğe katkı sunmaktadır. Sağlık sektöründe ilaç geliştirme süreçleri, antikor üretimi ve hastaların gerçek zamanlı veriye dayalı takibiyle erken teşhis süreçlerinde rol üstlenmektedir. Ayrıca, iklim değişikliğiyle mücadelede hava durumunun ve deniz seviyesindeki yükselmelerin anlık izlenmesini sağlamakta, afet risklerinin belirlenmesi ve yönetilmesi süreçlerini desteklemektedir (OECD, 2024).

Nitekim AB Yapay Zeka Yasası’nın gerekçe kısmında da yapay zeka sistemlerinin sunduğu faydalara dikkat çekilmiş, bu sistemlerin sağlık, tarım, eğitim gibi alanlar başta olmak üzere taşımacılık ve iklim değişikliği gibi alanlarda da önemli gelişmeler sağlanmasına imkan tanıdığı vurgulanmıştır.

Yapay zeka sistemleri, sunmuş olduğu yararlar kadar çeşitli riskleri de içinde barındırmaktadır. Bu sistemler, ikna edici ve geniş kitlelere yayılabilecek içerik üretimleriyle dezenformasyonu kolaylaştırmakta, üretebildiği yazılımlarla, oltalama gibi siber saldırıların daha kısa sürede yapılabilmesini sağlamaktadır. Finans, askeri sistemler ve ulaşım gibi kritik sektörlerde yapay zeka sistemlerinin yeterli güvencelere sahip olmadan kullanılması ciddi sonuçlar doğurabilecektir. Ayrıca yapay zeka sistemleri, kişilerin temel hak ve özgürlükleri açısından da çeşitli riskler taşımaktadır. Zira bu sistemler, görüntü tanıma ve çıkarım yapma yetenekleriyle kişilerin siyasi görüşü, konuşmaları ve yüzleri gibi kişisel verilerini sınıflandırarak kişilerin toplantı ve ifade özgürlüğünün kısıtlanmasına ve ayrımcılığın derinleşmesine neden olabilir (OECD, 2024). Bu risklere, AB Yapay Zeka Yasası gerekçesinde de değinilmiş ve yapay zeka sistemlerinin ekonomik, toplumsal ve kişilerin temel hak ve özgürlükleri açısından risklerinin bulunduğu ifade edilmiştir.

III. AB Yapay Zeka Yasası

Avrupa Birliği Yapay Zeka Yasası, Birlik düzeyinde yürütülen politika çalışmalarının sonucunda oluşturulmuştur. Yapay zeka alanında belirsizlikleri gidermek ve iç pazarda ortak bir standart tesis etmek amacıyla Avrupa Komisyonu 2018’de AB Yapay Zeka Stratejisi’ni yayınlamış, ardından etik standartların belirlenmesi için uzmanlar görevlendirilmiştir. Bu sürecin çıktıları arasında 2019’da Güvenilir Yapay Zeka için Etik İlkeler raporu ve 2020’de Yapay Zeka Politika Belgesi yer almaktadır (Feldstein, 2024). Nitekim 2021’de AB Yapay Zeka Yasası, taslak olarak ortaya konmuş, 13 Haziran 2024’te yasalaşmıştır. Yasanın bazı hükümleri yürürlüğe girmiş olup, tüm hükümleri 2 Ağustos 2026’dan itibaren yürürlüğe girecektir.

AB Yapay Zeka Yasası’nın temel amacı insan merkezli ve güvenilir yapay zeka sistemlerinin kullanımını teşvik ederek iç pazarın işlevselliğini iyileştirirken yapay zeka sistemlerinin zararlarına karşı Avrupa Birliği Temel Haklar Bildirgesi’ne içkin sağlık, güvenlik, demokrasi, hukukun üstünlüğü ve çevre gibi değerlerin korunmasını sağlamaktır (m.1/1).

Bu kapsamda yasada yapay zeka sistemlerinin tabi olacağı kurallar belirlenirken risk bazlı bir değerlendirme yapılarak temelde dört kategori belirlenmiştir. Bunlar, yasak sistemler, yüksek riskli sistemler, sınırlı risk içeren sistemler ve minimum risk içeren sistemlerdir. Bu kategoriler için yasada farklı yükümlülükler öngörülürken genel amaçlı yapay zeka modelleri için de bir ayrım yapılmış, sistemik risk içeren yapay zeka modellerine ek yükümlülükler getirilmiştir (Council of the European Union, 2025). Yükümlülükler, temel olarak sağlayıcılarla kullanıcılara yöneliktir.

Yasak sistemler, kişilerin temel haklarının ağır ihlaline yol açacak sistemlerdir. Örneğin kişilerin davranışlarından sonuç çıkararak ya da tahminler yürüterek bu kişilerin sosyal kredisini hesaplayan, suç eğilimini analiz eden, internet veya güvenlik kameralarından ayrım göstermeksizin kişilerin yüz verilerini elde eden sistemler yasak kapsamındadır (m.5/1-d,e).

Yasada öngörülen diğer bir kategori ise, yüksek riskli yapay zeka sistemleridir (m.6 vd.). Bu sistemler ancak ve ancak zorunlu gereksinimleri sağlamaları halinde Birlik içerisinde kullanılabilecektir. Bu sistemlere dönük bir uygunluk denetimi yapılacak ve başarılı olanlara CE sertifikası verilecektir (m.43 & 48). Düzenleme incelendiğinde, teknik, şeffaflık ve güvenlik olmak üzere sağlayıcılar ve kullanıcılara yüklenen üç ana yükümlülük kategorisi ortaya çıkmaktadır.

YükümlülüklerSağlayıcıKullanıcı
TeknikYapay zeka sistemlerinde etkin risk yönetim sistemi Güncel, doğru ve tarafsız veri yönetimi ve kullanımı Sistemde hareketlerin kaydı ve izlenmesi Sistemin teknik belgelerinin düzenlenmesi İnsan denetiminin sağlanmasıKullanımdan önce temel haklar etki değerlendirmesi yapmak Eğitimli kişilerle insan denetimini sağlamak Girdilerin sistemin kullanım amacına uygunluğu Ulusal risklerde sistemi kullanmama
ŞeffaflıkYapay zeka sisteminin doğru kullanımı ve kullanıcılara bildirilmesi Yetkili mercilerle işbirliğiÖnemli olayların sağlayıcıya bildirimi Sistem kayıtlarını tutma Yasaya uyulduğuna dair belgeleri tutma ve hazır etme
GüvenlikSistemin sağlamlığı ve siber güvenliğiVeri güvenliği kurallarına uyma Kişileri yapay zeka kullanımı riskleri konusunda uyarma

Tablo: Yüksek Riskli Yapay Zeka Sistemleri Hakkında Sağlayıcı ve Kullanıcı Yükümlülükleri (KPMG, 2024; EU, 2024)

            Genel amaçlı yapay zeka modelleri, gerekçede çeşitli metotlarla büyük boyutta veriyle eğitilen ve çeşitli görevler yapabilen modeller olarak tanımlanmıştır. Bu modeller için sağlayıcılara şeffaflık yükümlülükleri getirilmiştir. Bunlar; teknik belgelemenin hazırlanması ve güncel tutulması, marka ve telif haklarına uygun hareket tarzı belirleme ve yetkili mercilerle işbirliği yapma yükümlülükleridir (m.53 & 54/3).

            Genel amaçlı yapay zeka modellerinin kapsamı, kamu sağlığı ve güvenliği, temel haklar ya da toplumun geneline dönük gerçek ya da öngörülebilir olumsuz etkiler ortaya çıkarabileceği düşünülüyorsa bu modeller sistemik risk içermektedir (EU, 2024, Art.3/65). Bu durumda yukarıda belirtilen şeffaflık yükümlülüklerine ek olarak sistemik riskleri değerlendirmek ve bunlara çözümler bulma, yeterli düzeyde siber güvenlik sağlama gibi yükümlülükleri bulunmaktadır (m.55/1).

            Yasa kapsamında düzenlenen son alan ise kişilerle etkileşime geçebilen ve görüntü oluşturabilen sınırlı risk kapsamındaki sistemlerdir. Bu sistemlerin sağlayıcılarının, sistemlerle etkileşime geçen kişilere yönelik bilgilendirme, oluşturulan yazı, ses, görüntü gibi içeriklerin yapay zeka tarafından oluşturulduğunu tespit edilebilir kılma, deepfake[1] oluşturan içeriklerin yapay zeka tarafından hazırlandığını bildirme yükümlülükleri bulunmaktadır (m.50).

IV. Türkiye’deki Gelişmeler ve Sonuç

Yapay zeka sistemlerinin düzenlenmesi bakımından Türkiye’de kanuni bir düzenleme olmamakla beraber buna yönelik ifadelere resmi kurumların çeşitli belgelerinde rastlanmıştır. Cumhurbaşkanlığı Strateji ve Bütçe Başkanlığı’nın 2024 Eylül ayında yayınladığı, 2025-2027 yıllarını kapsayan Orta Vadeli Programı’nda mevzuatın Avrupa Birliği Yapay Zeka Yasası ile uyumlaştırmaya yönelik çalışmalar yapılacağı ifade edilmiş ancak uyumlaştırmaya dair detaylı bilgi verilmemiştir.

Yapay zeka sistemlerinin düzenlenmesine dair bir diğer nokta ise, Cumhurbaşkanlığı Strateji ve Bütçe Başkanlığı (2023) tarafından hazırlanan 12. Kalkınma Planı’dır. Yapay zeka uygulamalarının etik ve hukuki çerçevesinin oluşturulacağı, 2024-2028 yıllarını kapsayan planda bir politika tedbiri olarak yer almıştır.

Yapay zeka sistemleriyle ilgili olarak 24.06.2024 tarihinde “Yapay Zeka Kanun Teklifi” verilmiştir. Komisyon çalışması devam eden kanun teklifi incelendiğinde, kanun teklifinin gerekçesinin ve maddelerindeki risk sınıflamalarının, yüksek riskli sistemler için uygunluk değerlendirmesinin öngörülmesi gibi temel konuların AB Yapay Zeka Yasası’yla paralel olduğu görülmektedir. Bununla beraber kanun teklifinin, her ne kadar AB Yapay Zeka Yasası ile temel düzeyde paralel olsa da içerik bakımından yeterli kabul edilemeyeceği ifade edilebilir. Zira kanun teklifi oldukça kısa bir metinden oluşmakta ve bu durum, yapay zeka alanındaki düzenlemelerin aslında yönetmelikler aracılığıyla olacağını göstermektedir. Yapay zekanın sorumlu, verimli ve etik kullanımı açısından düzenlemelere ihtiyaç duyulmaktadır. Yapay zekanın gelişme aşamasında olan bir teknoloji olduğu dikkate alındığında, gelişmelere ayak uydurabilmek açısından yürütmeye takdir yetkisinin tanınması anlaşılabilir olsa da temel haklara dair risk teşkil edebilecek bir konunun kanun eliyle detaylıca düzenlenmesinin daha uygun olacağı düşünülmektedir. Kanun teklifinin gerekçesinde kişisel verilerin daha iyi korunması amacı bulunduğu ifade edilse de kanun metninin sadece amaç kısmında buna dair ifadeler yer almakta, başkaca bir düzenlemeye yer verilmemektedir. Kanunlaşması halinde uygulaması geniş bir alana yayılacak bir kanun hakkındaki teklifin bu yönüyle yeterince olgunlaşmadığı söylenebilir.

Yapay zekanın kullanımından kaynaklanabilecek zarar ve riskler konusunda, koruma önlemleri ve zararların tazmini genel hükümler çerçevesinde ele alınacaktır. Örneğin, kişisel veriler hukuka aykırı bir şekilde işlendiğinde Kişisel Verileri Koruma Kuruluna şikayet edilebilir; yapay zeka sistemlerinin kullanımı kişilik haklarına saldırı niteliği taşıyorsa, Türk Medeni Kanunu uyarınca saldırının durdurulması ve hukuka aykırılığın tespiti talep edilebilir. Ayrıca, yapay zeka kullanımı sonucu oluşan zararlar açısından tazminat talep etmek mümkündür. Bunun yanında, kişilerin cezai sorumlulukları da gündeme gelebilir.

Sonuç olarak AB Yapay Zeka Yasası, risk temelli yaklaşımıyla yasak, yüksek, sınırlı ve minimum risk kategorileri üzerinden sağlayıcılar ve kullanıcılara çeşitli teknik, şeffaflık ve güvenlik yükümlülükleri getirmektedir. Türkiye’de henüz kapsamlı bir yasal düzenleme bulunmamakla birlikte, strateji belgeleri ve temel ilkeleri ortaya koyan mevcut kanun teklifi AB düzenlemesiyle uyumlu bir çerçevenin hedeflendiğini göstermektedir. Bu durum, hem AB pazarına entegre olmayı amaçlayan girişimler hem de ulusal ölçekte faaliyet gösteren aktörler için uyum süreçlerinin şimdiden dikkate alınmasını gerekli kılmaktadır. Dolayısıyla, yapay zeka alanında faaliyet gösterecek kurum ve girişimlerin, AB mevzuatının getirdiği yükümlülükleri yakından takip etmeleri ve muhtemel ulusal düzenlemelere hazırlıklı olmaları büyük önem taşımaktadır. *NOT: Üçüncü bölümde yapılan madde atıflarının hepsi AB Yapay Zeka Yasasına (EU, 2024) yapılmıştır.

[1] Deepfake: İnsanların yüz, hareket ve sesini gerçeğe uygun olacak şekilde taklit etmek veya değiştirmek için yapay zekâ teknikleri aracılığıyla fotoğrafların, videoların veya seslerin kullanılmasıdır (Kişisel Verileri Koruma Kurulu, 2025).

KAYNAKÇA

RELATED POSTS

By
Yorum Yaz