AI sistemleri eğitildiği veriden ön yargılı kararlar üretebilir. Bu "AI bias" hem etik hem hukuki sorun yaratır.

Yaygın AI Bias Senaryoları

  • İK CV elemesi (kadınları eler)
  • Kredi başvurusu reddi (etnik bazlı)
  • Sigorta primi (cinsiyete göre)
  • Yüz tanıma (renkli teni tanımıyor)
  • Ceza kararları (ABD COMPAS örneği)

Türk Hukuku Açısından

  • Anayasa m.10: Eşitlik ilkesi
  • İş K. m.5: Ayrımcılık yasağı
  • KVKK m.11/g: Otomatik karara itiraz hakkı
  • TKHK: Tüketici aleyhine ayrımcılık

İspat

  • İstatistiksel kanıt (algoritmaya benzer profil farklı sonuç)
  • Algoritma açıklaması (eğer açıklanabilirse)
  • Karşılaştırılabilir profil

Mağdurun Hakları

  • İdari/iş mahkemesi davası
  • Maddi-manevi tazminat
  • Algoritmanın değiştirilmesi
  • İnsan denetimi talep etme

AB AI Act Yaklaşımı

  • "Yüksek risk AI"larda bias testi zorunlu
  • Şeffaflık raporu
  • İnsan müdahalesi
  • Düzenli denetim

Şirketlerin Yapması Gerekenler

  • Eğitim verisinde çeşitlilik
  • Bias testleri
  • Düzenli denetim
  • Açıklanabilir AI (XAI)
  • İnsan müdahalesi mekanizması

Yapay zeka ve eşitlik hukuku avukatı önerilir.