Büyük dil modelleri (LLM), bazen "hallucinasyon" denilen, gerçek olmayan bilgiyi gerçekmiş gibi sunma davranışı sergiler. Bu durumda kullanıcı veya üçüncü kişiye zarar gelebilir.
Tipik Hallucinasyon Senaryoları
- Gerçek olmayan akademik makale referansı.
- Gerçek kişi hakkında uydurma bilgi (mahkeme kararı, ihtiyat tedbiri).
- Tıbbi öneri (doktor bağlamı dışında).
- Hukuki tavsiye (müvekkil-vekil ilişkisi olmadan).
- Sahte alıntı / kaynak.
Sorumluluk Kişileri
- Kullanıcı: AI çıktısını doğrulamadan kullanan.
- AI Sağlayıcı: Modeli geliştiren ve sunan şirket.
- Platform: AI'yi entegre eden uygulama.
Sağlayıcı Sorumluluğu — Sınırlı
- Kullanım şartları genelde "no warranty" hükmü içerir.
- "Çıktıyı doğrulayın" uyarısı kullanıcı sorumluluğunu artırır.
- Ancak tüketici hukuku kapsamında bu sorumsuzluk klozları sınırsız geçerli değildir.
- TKHK m.5 — haksız şart yasağı.
Kullanıcı Sorumluluğu
- AI çıktısını kaynak doğrulama yapmadan kullanmak ihmaldir.
- Mesleki kullanımda (avukat, doktor, gazeteci) ihmal ağırlaşır.
- Üçüncü kişiye zarar gelirse TBK m.49 sorumluluk.
Üçüncü Kişiye Zarar
AI çıktısı bir kişi hakkında uydurma bilgi içeriyorsa (örneğin "X kişi hakkında haksız mahkûmiyet kararı") ve bu paylaşıldığında:
- Mağdur kişi → TMK m.25 (kişilik haklarına saldırı).
- Manevi tazminat (TBK m.49).
- İçerik kaldırma talebi.
- Sağlayıcıya rücu hakkı tartışmalı.
Yargıtay — Beklenen Yaklaşım
Yargıtay daireleri, AI çıktısını "olduğu gibi" yayan veya kullanan kişinin aslî sorumlu olacağını, AI sağlayıcısının ise "ürün güvenliği ve aydınlatma yükümlülüğü" çerçevesinde dolaylı sorumlu olabileceğini değerlendirecektir. Mesleki kullanımda kullanıcı kusur sorumluluğu ağırlaşır.
"Doğrulama Yükümlülüğü" Düzeyleri
- Bireysel kullanıcı: Makul kontrol.
- Mesleki kullanıcı (avukat, doktor): Yüksek kontrol — meslek standardı.
- Gazeteci: Habercilik etiği — kaynak teyidi.
- Kamu görevlisi: En yüksek kontrol.
Pratik Tavsiyeler
- AI çıktılarını kullanmadan önce kaynak doğrulayın.
- Mesleki kullanımda yasal/tıbbi kararı kullanıcının sorumluluğu dipnotuyla.
- Üçüncü kişi hakkında bilgi varsa o kişinin teyidi.
- İhtilafa karşı aydınlatma metni / kullanım şartları.
AI hallucinasyon dosyaları yenidir. Bilişim ve tazminat hukuku avukatı birlikte değerlendirme yapabilir.