Otomatik Karar Verme Sistemlerinde Tüketici Hakları

Giriş

Yapay zeka (YZ), makine öğrenimi ve büyük veri teknolojilerinin gelişimiyle birlikte otomatik karar verme sistemleri (ADM – Automated Decision Making), birçok sektörde yaygın olarak kullanılmaktadır. Kredi başvurularından işe alımlara, e-ticaret önerilerinden sigorta prim hesaplamalarına kadar uzanan bu uygulamalar, karar alma süreçlerinde insan müdahalesini azaltarak hız ve verimlilik kazandırmaktadır. Ancak bu otomasyonun artması, tüketici hakları açısından önemli etik ve hukuki riskler doğurmaktadır.

Bu yazıda, otomatik karar verme sistemlerinin tüketiciler üzerindeki etkileri, Avrupa Birliği Genel Veri Koruma Tüzüğü (GDPR) ve Türk hukukundaki yansımaları ile tüketicinin korunması kapsamında sahip olduğu haklar detaylı şekilde ele alınacaktır.

Otomatik Karar Verme Sistemleri Nedir?

ADM sistemleri, bir algoritmanın kullanıcıdan topladığı verilerle tamamen otomatik şekilde bir karar almasını ifade eder. Bu kararlara örnek olarak:

• Bir bankanın kredi başvurusunu reddetmesi
• Sigorta şirketinin poliçe fiyatını belirlemesi
• Bir e-ticaret sitesinin ürün önerilerini yapay zekayla belirlemesi
• Bir iş başvurusunun sistem tarafından elenmesi

verilebilir. Bu kararlar çoğu zaman kişisel verilerin işlenmesi yoluyla alınır ve doğrudan bireyin haklarını etkiler.

Tüketici Açısından Riskler

1. Şeffaflık Eksikliği: Kullanıcılar kararların nasıl alındığını ve hangi verilere dayandığını çoğu zaman bilmez.
2. Hatalı Kararlar: Otomatik sistemler, yanlış veri, eksik veri veya algoritmik önyargılar (bias) nedeniyle hatalı kararlar verebilir.
3. Ayrımcılık Riski: Cinsiyet, ırk, yaş gibi kriterler üzerinden dolaylı ayrımcılık yapılabilir.
4. Başvuru Yollarının Belirsizliği: Tüketiciler otomatik bir kararın ardından kime başvuracağını veya karara nasıl itiraz edebileceğini bilmeyebilir.

Avrupa Birliği’nde Otomatik Karar Verme ve GDPR

Avrupa Birliği Genel Veri Koruma Tüzüğü (GDPR), otomatik karar verme sistemlerine özel düzenlemeler içermektedir:

1. Madde 22 – Otomatik Kararlara İtiraz Hakkı

Tüketici, sadece otomatik işleme dayalı bir karara maruz kalmama hakkına sahiptir. Özellikle hukuki sonuç doğuran ya da benzer şekilde önemli etki yaratan kararlarda:

• Tüketici, kararın insan tarafından değerlendirilmesini isteme hakkına sahiptir.
• Tüketici, karara itiraz etme ve açıklama talep etme hakkına sahiptir.

2. Aydınlatma Yükümlülüğü

Veri sorumlusu, karar alma mekanizmasının temel mantığını, önemini ve olası sonuçlarını ilgili kişiye açıkça bildirmelidir.

Türk Hukukunda Tüketicinin Korunması

1. KVKK (6698 sayılı Kişisel Verilerin Korunması Kanunu)

• Her ne kadar KVKK’da otomatik karar verme özel olarak düzenlenmemiş olsa da, kişisel verilerin otomatik işlenmesi konusu yer almaktadır.
• İlgili kişi, verilerinin otomatik işlenmesi sonucunda aleyhine çıkan bir sonuca karşı itiraz hakkına sahiptir (KVKK m.11/1-h).

2. Tüketicinin Korunması Hakkında Kanun (TKHK)

• TKHK kapsamında, hizmetlerin adil ve açık olması, tüketicinin doğru bilgilendirilmesi ve ayıplı hizmete karşı hak arama yolları düzenlenmiştir.
• Bir ADM sistemi sonucu tüketiciye hatalı, eksik veya ayrımcı bir işlem yapılması durumunda bu hizmet “ayıplı hizmet” sayılabilir.

3. Elektronik Ticaret ve Bankacılık Mevzuatı

• Elektronik iletişimde şeffaflık, açık rıza ve bilgilendirme yükümlülükleri vardır.
• Bankacılık sektöründe, müşteriye yönelik risk sınıflandırmaları gibi otomatik kararlar için açık prosedürler ve başvuru yolları öngörülmüştür.

Tüketicinin Sahip Olduğu Haklar

Tüketiciler, ADM sistemlerine karşı aşağıdaki haklara sahiptir:

• Bilgilendirme Hakkı: Verilerinin nasıl kullanıldığını ve kararların nasıl alındığını öğrenme.
• İtiraz Hakkı: Tamamen otomatik bir karara maruz kalmama talebinde bulunma.
• Açıklama Talebi: Kararın mantığı ve olası sonuçları hakkında açıklama isteme.
• Düzeltme Hakkı: Hatalı veya eksik veriye dayalı kararların düzeltilmesini isteme.
• İnsan Müdahalesi Talebi: Otomatik kararın bir insan tarafından yeniden değerlendirilmesini isteme.

Uygulamalarda Dikkat Edilmesi Gereken Hususlar

• Şeffaflık Politikaları oluşturulmalı, algoritmaların açıklanabilirliği sağlanmalıdır.
• Veri minimizasyonu ve ayrımcılık analizi yapılmalı, algoritmik önyargılar engellenmelidir.
• Kullanıcı arayüzleri, tüketiciye karar alma süreci hakkında net bilgi verecek şekilde tasarlanmalıdır.
• İtiraz mekanizmaları, kolay erişilebilir ve pratik biçimde kurulmalıdır.

Özetle

Otomatik karar verme sistemleri, dijital çağın vazgeçilmez bir unsuru haline gelmiştir. Ancak bu sistemlerin tüketici haklarını zedelememesi için güçlü yasal çerçeveler ve şeffaf denetim mekanizmaları şarttır. Hem Avrupa Birliği’nde hem Türkiye’de, tüketicilerin kararlara itiraz etme, bilgi alma ve insan müdahalesi talep etme gibi temel hakları vardır. Şirketler, bu sistemleri kullanırken etik, hukuki ve teknik sorumluluklarını yerine getirmeli; tüketicilerin dijital haklarına zarar vermeden hizmet sunmalıdır.

Anahtar Kelimeler: otomatik karar verme, tüketici hakları, yapay zeka, GDPR madde 22, KVKK, algoritmik karar, dijital ayrımcılık, insan müdahalesi hakkı, şeffaflık, veri koruma hukuk