Günümüzde hayatımızın çok büyük bir kısmını kapsayan yapay zekâ sistemlerinin ortaya çıkışı ile birlikte yeni teknolojiler, iyileştirilmiş iş imkanları ve daha fazla verimlilik elde edilmeye başlanmıştır. Yapay zekada hedeflenen; insan zekasına benzeyen bir makine oluşturmaktır. Sistem kişilerden veri toplar, depolar ve daha sonrasında ilgili verileri kullanılır. Yapay zekânın hayatımızda giderek daha fazla yer almasıyla, bu alanda hukuki düzenlemelere olan ihtiyaç daha belirgin hale gelmiştir. Özellikle gizlilik ve güvenlik gibi sınırları çizilmesi gereken endişeler ortaya çıkarmıştır. Tüm bu sebeplerden dolayı yapay zekâ için ilk hukuki çerçeveyi oluşturan ve tüm dünya için öncü olması beklenen Avrupa Yapay Zekâ Yasası (“yasa”) çıkarılmıştır.
Yapay Zekâ Yasası; Avrupa Parlamentosu, tarafından oluşan riskleri azaltmak ve birçok yönden faydalı olan yapay zekâ teknolojisinin olumsuz yönlerini elimine etmek, insan odaklı ve güvenilir yapay zekâ geliştirmek için risk barındıran yapay zekâ sistemlerini düzenler.
Yapay Zekâ Risk Şeması
Yapay Zekâ Yasası ile birlikte sosyal riskleri ve yapay zekâ teknolojilerinden alınabilecek olan olumsuz etkileri en aza indirgemeyi amaçlanmaktadır. Bunun için de Avrupa Birliği Yapay Zekâ Komisyonu’nun (“komisyon”) bazı sorumlulukları vardır; yasa ile birlikte yapay zekâ uygulamalarının oluşturduğu riskler tespit edilecek ve bunlar önlenmeye çalışılacaktır.
Komisyon, günümüzde kullandığımız yapay zekâ teknolojileri için dört farklı kategoriyi şu şekilde belirlemiştir:
1. Kabul Edilemez (Unacceptable Risk)
2. Yüksek Riskli (High Risk)
3. Sınırlı Riskli (Limited Risk)
4. Minimal Riskli (Minimal Risk)
Her bir kategori için farklı regülasyonlar getirilmiştir.
En önemlilerinden bahsetmek gerekirse;
Kabul Edilemez Risk (Unacceptable Risk): Bu kategorideki yapay zekâ sistemleri, yasa tarafından tamamen yasaklanmıştır. Örneğin, insanların özgür iradesini manipüle eden ya da sosyal puanlama sistemleri gibi uygulamalar bu kategoride yer almakta ve kesinlikle önüne geçilmesi hedeflenmektedir.
Yüksek Riskli (High Risk): Avrupa Birliğinde izin verilen ve fakat piyasadaki en çok düzenlemeye uğramış risk seviyesidir. Yüksek Riskli yapay zekâ sistemlerinin kötüye kullanılması durumunda potansiyel olarak ciddi zararlar ortaya çıkabilir. Bu sebeple yüksek risk sınıfındaki yapay zekâ sistemlerinin Avrupa Birliğinde piyasaya sürülmesi ve işletilmesi için belirli gereklilikleri karşılaması beklenir. Yüksek risk kategorisine giren birçok yapay zekâ türü vardır. Örnek vermek gerekirse biyometrik tanıma sistemleri, kişisel gizliliği ihlal etme riski taşır çünkü biyometrik veriler bir kişinin fiziksel veya davranışsal özelliklerine dayanan ve kimlik doğrulamada kullanılan benzersiz verilerdir. Bu sebeple, biyometrik tanıma sistemleri katı gerekliliklere tabi ve kamu açık alanlarda istisnalar dışında sınırlandırılacaktır.
Sınırlı Risk (Limited Risk): Yapay zekâ sistemleri şeffaf olmalı, toplum yapay zekâ ile etkileşimleri hakkında bilgilendirilmelidir. Örnek olarak, yapay zekâ ile üretilen yazı, ses veya videoların yapay zekâ ile üretildiğini belirten bir ibare taşıması gerekmektedir.
Yasaya göre, yapay zekâ geliştirilmesinin ardından uygunluk değerlendirilmesinden geçirilir. Bu değerlendirme, sistemin güvenlik, etik ve şeffaflık gibi yasal gereksinimlere uygun olup olmadığını belirlemek için yapılır. Değerlendirme sürecini başarıyla geçen yapay zeka sistemleri Avrupa Birliği tarafından resmi kayda alınır. En sonunda ise uygunluk beyanı imzalanır ve CE işareti ile piyasaya sürülebilir hale gelir. Eğer süreç içinde yapay zekâ uygulamasında önemli değişiklikler meydana gelirse, süreç tekrar baştan itibaren uygulanacaktır.
Not: CE, ürünün Avrupa Birliği’nin güvenlik, sağlık ve çevre koruma standartlarına uygun olduğunu gösterir. Özellikle yapay zekâ sistemleri için CE işareti gerekli yapay zekâ ve veri koruma standartlarına uygunluğunu garanti eden kapsamlı bir değerlendirme sürecinden geçtiğini gösterir.
Hızla gelişen yapay zekâ sistemleri daha faydalı ve verimli hayat şartları sağlasalar bile tüm bunları denetlemek zor olabilmektedir. Bu sebeple hukukun bu gelişmeye ayak uydurması ve yeni teknolojiler için değişiklikler yapması gerekmektedir. 1 Ağustos 2024 tarihi itibari ile yürürlüğe giren Yapay Zekâ Yasası ile birlikte hem daha öncesinde bulunan yapay zekâ sistemlerinin kontrolü sağlanacak hem de yeni yapay zekâ sistemleri piyasaya sürüldükten sonra bile güvenilir kalması için Komisyon tarafından hedefler konulacaktır.
Kaynakça
Commenti