Makale

Yapay zekâ ve algoritmik sistemlerin hızla gelişmesiyle birlikte, otomatik karar alma ve profilleme faaliyetleri hayatımızın ayrılmaz bir parçası hâline gelmiştir. Bu teknolojiler, verimliliği artırsa da kişisel verilerin korunması bağlamında önemli riskler barındırmaktadır. Bu noktada, veri sorumlularının kişisel verilerin işlenmesi süreçlerinde uygulamakla yükümlü oldukları temel veri koruma ilkeleri, bireylerin temel hak ve özgürlüklerinin korunması için adeta bir kalkan vazifesi görmektedir. Genel Veri Koruma Tüzüğü (GDPR) ve Kişisel Verilerin Korunması Kanunu (KVKK) kapsamında belirlenen bu ilkeler, tüm veri işleme faaliyetlerine şamil olduğu gibi, karmaşık algoritmik sistemlerinin kullanıldığı otomatik süreçlerde de titizlikle gözetilmelidir. Esnek ve yeniliklere açık yapılarıyla bu temel prensipler, hem hukuki uyumluluğun sağlanmasında hem de algoritmik ön yargı ve ayrımcılık gibi teknolojik tehlikelerin bertaraf edilmesinde anahtar rol üstlenmektedir.

Hukuka Uygunluk, Hakkaniyet ve Şeffaflık İlkesi

Hukuka uygunluk ilkesi, kişisel verilerin yalnızca mevzuatta öngörülen belirli işleme şartları çerçevesinde işlenebilmesini zorunlu kılar. Özellikle tamamen otomatik karar alma söz konusu olduğunda, bu sürecin kanuni bir dayanağının veya kişinin açık rızasının bulunması elzemdir. Hakkaniyet ilkesi ise, yapay zekâ sistemlerinin kararlarında algoritmik ön yargı ve ayrımcılığın önlenmesini, azınlık veya dezavantajlı gruplar aleyhine sonuçlar doğmamasını temin eder. Bu ilkenin bir uzantısı olarak, sistemlerin adil sonuçlar üretebilmesi için eğitim veri setlerinin kaliteli ve tarafsız olması gereklidir. Şeffaflık ilkesi de, genellikle karmaşık olan ve kara kutu problemi olarak adlandırılan algoritmaların işleyişinin anlaşılabilir olmasını hedefler. Veri sorumluları, işlemin mantığı ve potansiyel sonuçları hakkında veri sahiplerini aydınlatmalı, açık ve sade bir dille aydınlatma yükümlülüğü çerçevesinde bilgilendirme yapmalıdır.

Amacın Sınırlandırılması ve Veri Minimizasyonu

Amacın sınırlandırılması ilkesi, kişisel verilerin belirli, açık ve meşru amaçlarla toplanmasını ve bu amaçlarla bağdaşmayan ikincil kullanımlardan kaçınılmasını emreder. Otomatik karar alma süreçleri genellikle büyük veri kümelerinin analizini gerektirse de, algoritmaların sonradan öngörülemeyen veya başlangıçtaki maksadı aşan şekilde veri işlemesi hukuka aykırılık teşkil eder. Veri minimizasyonu ilkesi ise, işlemenin amacı için yalnızca ilgili, yeterli ve gerekli olanla sınırlı kişisel verilerin kullanılmasını zorunlu tutar. Algoritmik modeller genellikle makine öğrenimi için olabildiğince çok veriye ihtiyaç duysa dahi, veri sorumluları bu ihtiyacı ölçülülük ilkesi çerçevesinde sınırlandırmak mecburiyetindedir. İşleme amacına ulaşmak için yeterli olan en asgari veri setiyle yetinilmeli, aşırı veri toplanmasının önüne geçilerek mahremiyete en az müdahale eden yöntemler tercih edilmelidir.

Doğruluk, Saklama Süresi ve Veri Güvenliği

Otomatik sistemlerin isabetli ve adil kararlar alabilmesi için işlenen verilerin niteliği büyük önem taşır. Bu bağlamda, otomatik karar almada dikkate alınması gereken diğer önemli veri koruma ilkeleri şunlardır:

• Doğruluk İlkesi: Algoritmik sistemlerin hatalı sonuçlar veya asılsız profiller üretmesini engellemek için, girdi ve çıktı verilerinin güncel ve doğru olması zorunludur. Hatalı kişisel veriler, ayrımcı kararlar alınmasına ve mağduriyetlere doğrudan yol açabilir.
• Saklama Süresinin Sınırlandırılması İlkesi: Kişisel veriler, yalnızca işlendikleri amaç için gerekli olan süre kadar muhafaza edilmeli, ardından derhal silinmeli veya anonim hâle getirilmelidir. Büyük verinin cazibesine kapılıp verilerin süresiz olarak tutulması yasaktır.
• Bütünlük ve Gizlilik İlkesi: Veri sorumluları, siber güvenlik önlemlerini alarak kişisel verilerin hukuka aykırı erişimlere, kayıplara ve yetkisiz işlemlere karşı korunmasını sağlamak için her türlü uygun idari ve teknik tedbirler bütününü uygulamalıdır.

Hesap Verebilirlik İlkesi ve Öz Denetim

Hesap verebilirlik ilkesi, veri sorumlularının yalnızca veri koruma mevzuatına uymalarını değil, aynı zamanda bu uyumu belgeleyerek kanıtlayabilmelerini şart koşar. Özellikle yüksek risk barındıran profilleme ve otomatik karar alma süreçleri söz konusu olduğunda, bu ilkenin önemi katlanarak artmaktadır. Veri sorumluları, sistemin tasarım aşamasından itibaren tasarımdan ve başlangıçtan itibaren mahremiyet prensiplerini uygulamalı, olası riskleri önceden saptayabilmek adına veri koruma etki analizi (DPIA) gibi mekanizmaları aktif olarak kullanmalıdır. Algoritmaların yapısından kaynaklanan risklerin asgariye indirilmesi için insan gözetimi süreçlerinin tasarlanması, düzenli denetimlerin yapılması ve sistem çıktılarının tarafsızlığının test edilmesi gereklidir. Özetle, veri sorumlusu, kendi sistemlerinin şeffaf, adil ve yasalara uygun olarak işlediğini her an kanıtlayabilir durumda olmalıdır.