Soru & Cevap
İnternetteki bir uygulamanın sadece yaşadığım semt yüzünden beni riskli müşteri sayıp hizmet vermediğini düşünüyorum. Bu tür ayrımcı algoritmalar yasal mı?
Algoritmaların posta kodu, yaş, alışveriş alışkanlığı gibi veriler üzerinden dolaylı çıkarımlar yaparak sizi belirli bir risk kategorisine yerleştirmesi ve hizmet almanızı engellemesi ayrımcılık yasağı ihlali şüphesi doğuran çok ciddi bir durumdur. Veri işleme faaliyetlerinin mutlaka hukuka ve dürüstlük kurallarına uygun olması şarttır; dolayısıyla salt görünüşte tarafsız gibi duran ancak sonuçları itibarıyla belirli bir grubu veya kişiyi sistematik olarak dezavantajlı konuma düşüren otomatik kararların hukuka aykırı kabul edilmesi kuvvetle muhtemeldir. Bu tür mağduriyet şüphesi taşıyan durumlarda, sistemin gizli önyargılar barındırıp barındırmadığına ilişkin idari şikayet ve itiraz yollarını kullanarak hakkınızdaki algoritma mantığının denetlenmesini isteyebilirsiniz.