Yapay Zeka Etiği ve Gizli Profilleme

"En büyük risk, kullanıcılardan elde edilen kişisel bilgilerin, etiketleme yoluyla her kullanıcı için bir profil oluşturulmasıdır. Bu profiller, kullanıcının siyasi görüşleri, dini inançları, sağlık durumu gibi hassas nitelikteki kişisel verilerini içerebilir. Eğer bu bilgiler, kullanıcının açık rızası olmaksızın veya yasalara aykırı bir şekilde işleniyorsa, ciddi gizlilik ihlalleri meydana gelir."

"Kullanıcı verilerinin, özellikle de hassas kişisel verilerin etiketlenmesi ve profillenmesi iddiaları doğruysa, bu durum başta Avrupa Birliği Genel Veri Koruma Tüzüğü (GDPR) ve Türkiye'deki Kişisel Verilerin Korunması Kanunu (KVKK) olmak üzere birçok yasal çerçeveyi ihlal etmektedir."

"Bu yasalar, kişisel verilerin işlenmesi için açık rıza, veri minimizasyonu, amaca bağlılık ve şeffaflık ilkelerini temel alır. Hassas verilerin (siyasi görüş, dini inanç vb.) işlenmesi için ise çok daha katı şartlar öngörür. Eğer platformlar, bu tür verileri yasal bir dayanağı olmaksızın işliyor, etiketliyor ve profil oluşturuyorsa, bu durum açıkça hukuka aykırı bir veri işleme faaliyeti anlamına gelir."

"Bu alan henüz çok yeni ve dünya çapında bir rekabet oluştuğu için bağımsız denetçilerin henüz sürece dahil olmadığını gözlemliyoruz. Bu nedenle kullanıcı girdileri ile sistem çıktılarının karşılaştırılması bilgilerin nasıl etiketlendiğini gösterebilir. Bu platformlarda hangi bilgilerinizin işlendiğine dair doğru birkaç teknik soru sorarak ipuçları elde edebilirsiniz."

"Örneğin, bir yapay zeka sisteminin kullanıcılardan analiz ederek, belirli bir siyasi görüşe, etnik kökene, dini inanca sahip olduğuna dair yanlış bir etiketleme yaptığını düşünelim. Bu yanlış etiketleme, kişiye özel reklam gösterimlerinden, kredi başvurularının reddine, hatta işe alım süreçlerindeki önyargılara kadar somut ayrımcılıklara yol açabilir."

"Öncelikle, bu tür sistemlere hassas kişisel bilgilerinizi olabildiğince vermekten kaçının. Sadece tek bir platformu kullanmadan farklı bilgileri dağıtarak riski azaltmaya çalışın. Bu tür sistemlerin kullanımında farkındalığınızı artırın ve şüpheci bir yaklaşımla hareket edin."

"Bu firmalar, şeffaf ve açık bir şekilde veri işleme süreçlerini ve kullanım politikalarını anlaşılır biçimde açıklamalıdır. Şirketler, bağımsız denetimlerle uygulamalarının düzenli olarak denetlenmeli ve sonuçlarının kamuoyuyla paylaşılmalıdır. Kullanıcılara verileri üzerinde daha fazla kontrol ve yönetim yetkisi vermelidirler (örneğin, veri silme, erişim veya düzeltme hakları). Etik kurallar ile şirket içinde güçlü kurallar oluşturmalı ve uygulanabilir politikalar benimsemelidirler."

"Özellikle yapay zeka etiği, algoritmik şeffaflık, açıklanabilirlik ve otonom sistemlerin sorumluluğu gibi alanlarda uluslararası düzeyde kabul görecek yeni standartlara ve normlara ihtiyaç vardır."