Kişisel Verileri Koruma Kurulu (KVKK), çağrı merkezleri, finans kuruluşları, e-ticaret platformları ve telekomünikasyon şirketlerinde yaygınlaşan sesli yapay zekâ asistanları (voicebot) ve üretken sohbet botlarına ilişkin bağlayıcı bir İlke Kararı yayımladı. Kurul, müşteri deneyimini hızlandıran bu sistemlerin kişisel verilerin korunması ve tüketici hakları aleyhine keyfi bir veri havuzuna dönüşmesini önlemek amacıyla kesin standartlar getirdi.
Yapay zekâ ile iletişimde şeffaflık ve insan temsilciye erişim hakkı
İlke Kararı uyarınca, veri sorumluları algoritmik sistemler üzerinden müşteri iletişimi yürütürken şu temel yükümlülüklere uymak zorundadır:
- Ön bilgilendirme zorunluluğu: Görüşme başlatıldığı anda tüketiciye muhatabının bir yapay zekâ asistanı olduğu açık ve anlaşılır şekilde sesli veya yazılı olarak bildirilmelidir.
- Gerçek müşteri temsilcisine aktarılma güvencesi: Tüketicinin talep etmesi halinde görüşme hiçbir ek zorluk veya gecikme olmaksızın derhal yetkili bir insan müşteri temsilcisine devredilmelidir. Tüketicinin yalnızca yapay zekâ ile muhatap olmaya zorlanması hukuka aykırı kabul edilmiştir.
- Biyometrik ses analizi ve duygu durumu kısıtlaması: Müşterinin ses tonu, frekansı veya duygu durum analizine dayalı profil çıkarma faaliyetleri, ancak açık ve özgür iradeyle verilmiş ayrı bir rıza ile gerçekleştirilebilir.
Veri minimizasyonu ve model eğitiminde veri sızıntısı yasağı
Görüşmeler sırasında paylaşılan kimlik, finans ve adres bilgilerinin korunması amacıyla veri sorumlularına sıkı teknik tedbirler getirildi:
- Anlık veri maskeleme: T.C. kimlik numarası, banka hesap bilgileri ve adres gibi hassas veriler, sesli asistan tarafından algılandığı anda maskelenmeli ve ham ses veya metin dosyaları genel model havuzuna aktarılmamalıdır.
- Üçüncü taraf modellerle eğitim yasağı: Müşteri etkileşim verileri, tüketicinin açık onayı olmaksızın küresel veya üçüncü taraf yapay zekâ modellerinin yeniden eğitilmesi (fine-tuning) amacıyla kullanılamaz.
- Yüksek idari para cezaları: İlke Kararına aykırı hareket eden kurum ve işletmelere 6698 sayılı Kanun uyarınca üst sınırdan idari para cezası uygulanacak ve kusurlu yapay zekâ sistemlerinin faaliyeti durdurulacaktır.
İşletmeler ve tüketiciler için yol haritası
Yeni düzenleme, müşteri ilişkilerinde yapay zekâ kullanan her ölçekteki işletmenin sistem mimarisini ve kullanıcı sözleşmelerini gözden geçirmesini zorunlu kılmaktadır. Tüketiciler ise dijital asistanlarla yaptıkları görüşmelerde kişisel verilerinin sınırlandırılmasını talep etme ve diledikleri anda insan yetkiliyle iletişim kurma hakkına kavuşmuştur.