Af Örgütü: Yüz tanıma teknolojisinin kitlesel gözetimde kullanılması yasaklansın

Af Örgütü’nden yapılan açıklamada bu teknolojinin kullanımının neden olacağı ihlaller sıralandı:

“Özellikle siyahların ırk ayrımcılığına dayalı polis şiddeti ve ırksal profillemeye maruz kaldığı koşullarda, Yüz Tanıma Teknolojisinin (YTT) kullanılması, polisin işlediği insan hakları ihlallerini ağırlaştırabilir ve barışçıl protesto ve gizlilik haklarını zayıflatır.”

“Kolluk güçleri, her gün sokaklarda insan haklarını ihlal etmektedir. İnsanların polis tarafından öldürülmesine karşı protesto düzenleme hakkının ve gazetecilerin protestoları haber yapma hakkının kullanılabilmesini sağlamak polisin yükümlülüğüdür; polis bu yükümlülüğünü yerine getirmelidir. Kolluk güçleri, barışçıl protesto hakkının kullanılmasını bastırmakla değil, kolaylaştırmakla yükümlüdür.”

Yüz Tanıma Teknolojisinin kullanımı polisin siyahları hedef alarak işlediği insan hakları ihlallerini ağırlaştırır

Yüz Tanıma Teknolojisi (YTT), insan yüzünü bir kişiyi doğrulamak veya tespit etmek amacıyla kullanarak, belirli bir işlevi gerçekleştiren bir dizi uygulamayı tanımlamak için kullanılan genel bir terimdir. YTT, insanları fiziksel özelliklerine göre kitlesel boyutta tespit ve kategorize etmek için bir yöntem olarak kullanılabilir. Irksal veya etnik aidiyet, toplumsal cinsiyet, yaş ve engellilik durumu gibi koruma altında olan özelliklere yönelik gözlem veya çıkarımlar, veri olarak kullanılan fiziksel özellikler arasındadır.

Bu teknoloji, son yıllarda, özellikle kolluk faaliyetleri alanında çok büyük ölçüde kullanılmaya başlandı. Örneğin, YTT şirketi Clearview AI, yalnızca ABD’de 600’ün üzerinde kolluk birimiyle çalıştığını açıkladı.[1] Dataworks Plus gibi diğer YTT şirketleri de ürettikleri sistemleri ülkenin dört bir yanındaki polis teşkilatına satıyor.[2]

Polis teşkilatının protestocuları tespit etmek için YTT kullandığı ABD’de bu durumun her gün yaşandığı belirleniyor. [3]

Uluslararası Af Örgütü: “Polislik faaliyetlerinde siyahların ırk ayrımcılığına ve ırksal profillemeye maruz kaldığı bir bağlamda, Yüz Tanıma Teknolojisinin kullanılması, polisin siyahları hedef alarak işlediği insan hakları ihlallerini ağırlaştırabilir” açıklamasında bulundu.

Araştırmalar, YTT sistemlerinin bazı yüzleri; ten rengi, etnik aidiyet ve toplumsal cinsiyet de gibi önemli özelliklere göre farklı doğruluk oranlarıyla işlediğini defalarca ortaya koymuştur. Örneğin, Ulusal Standartlar ve Teknoloji Enstitüsü (NIST) ırksal aidiyet, yaş ve cinsiyetin ABD’de kullanılan başlıca YTT sistemlerinde hata paylarını ölçtü. NIST Direktörü Dr. Charles H. Romine, çalışma hakkında şunları söyledi: “Bu algoritmalar her zaman doğru sonucu vermiyor. Araştırmamızda gördük ki; kadınlar, Afrikalı Amerikalılar ve özellikle Afrikalı Amerikalı kadınlarda veriler daha yüksek ‘yalancı pozitiflik’ oranları (oransal kayıt yüksekliğine karşı hata payındaki fazlalık) olarak ortaya çıkıyor.”[4]

‘İzleme listelerinde ‘beyaz’ yüzlere oranla çok daha fazla ‘siyah’ yüz var’

Georgetown Üniversitesi’ndeki araştırmacılar, ABD polisinin izleme listelerinde ‘beyaz’ yüzlere oranla çok daha yüksek sayıda ‘siyah’ yüzün bulunmasından ötürü YTT’nin “Afrikalı Amerikalıları orantısız etkileyeceği” uyarısında bulundu ve şunu söyledi: “Polisin kullandığı yüz tanıma sistemleri Afrikalı Amerikalılarda daha başarısız sonuçlar vermekle kalmıyor, Afrikalı Amerikalılar daha yüksek oranda bu sistemlere kaydediliyor ve işleme alınıyor.”[5]

Af Örgütü açıklamasını şöyle sürdürüdü: “YTT’nin kimlik tespiti ve kitlesel gözetim amacıyla kullanıldığı durumlarda, doğruluk oranı sorununun ‘çözülmesi’ ve halihazırda ötekileştirilmiş ve dezavantajlı gruplar için doğruluk oranlarının iyileştirilmesi, YTT’nin barışçıl protesto ve gizlilik hakları üzerindeki olumsuz etkisini ortadan kaldırmıyor. Örneğin siyahların gizlilik ve diğer haklarına zaten orantısız ölçüde müdahale edilirken, bir de doğruluk oranlarının ‘iyileştirilmesi,’ halihazırda dezavantajlı topluluğa yönelik gözetimin artmasına ve siyahların daha da güçsüzleştirilmesine hizmet etmekten başka bir sonuç vermez.”

YTT, birey bazında suça ilişkin makul şüphe olmaksızın verilerin yaygın bir biçimde ve toplu halde izlenmesi, toplanması, saklanması, analiz edilmesi ve diğer amaçlarla kullanılmasını ve hassas kişisel bilgilerin (biyometrik bilgiler) toplanmasını mümkün kılar. Bu durum, gelişigüzel kitlesel gözetim kapsamına girmektedir. Uluslararası Af Örgütü, gelişigüzel kitlesel gözetimin; gizlilik, ifade özgürlüğü, örgütlenme ve barışçıl toplanma özgürlüğü haklarına yönelik orantısız bir müdahale olduğunu açıkladı.

‘Hedef alınan barışçıl toplanma hakkı diğer tüm hakları koruyan temel haktır

Açıklamada: “Devletler, ayrımcılık yapmaksızın barışçıl toplanma hakkına saygı göstermeli, bu hakkı korumalı ve kullanılmasını sağlamalıdır. Barışçıl toplanma hakkı, yalnızca insanların siyasi fikirlerini ifade etmesinin bir aracı olarak değil, diğer hakları koruyan bir hak olarak da temel bir haktır. Barışçıl protestolar canlı bir toplumun vazgeçilmez bir niteliğidir ve devletler, barışçıl protestoların insan haklarının güçlendirilmesi konusundaki olumlu rolünü kabul etmelidir.”

Birçok kişinin barışçıl toplanmalara katılmasını mümkün kılan unsur çoğunlukla anonim bir kalabalığa dahil olabilme imkanıdır. Birleşmiş Milletler Düşünce ve İfade Özgürlüğünün Korunması ve Geliştirilmesi Özel Raportörü David Kaye’in ifade ettiği gibi: “Hukuka aykırı gözetimin gittikçe yaygınlaştığı bağlamlarda, hedef alınan topluluklar, buna benzer gözetim girişimlerinin farkında oluyor veya buna dair kuşku duyuyorlar. Bu da toplulukların ifade ve örgütlenme özgürlüğü haklarını kullanma kapasitelerini şekillendiriyor ve sınırlandırıyor.”[6]

Bu nedenle, bir yandan, gözetim tehdidi başlı başına insanların çevrimiçi etkinliklerindeki ifade özgürlüğü üzerinde caydırıcı bir etki yaratırken, diğer yandan da yüz tanıma teknolojisi insanları kamusal alanlardaki barışçıl toplanmalara katılmaktan caydıracaktır.

2019’da ardı ardına çıkarılan çok sayıda yerel yasa, ABD’nin Kaliforniya eyaletindeki San Francisco ve Oakland kentleri[7] ile Massachusetts eyaletindeki Somerville ve Brookline kentleri[8] de dahil olmak üzere birçok kentte YTT’nin kolluk faaliyetlerinde kullanımına yönelik sınırlandırmalar getirdi. San Diego, Ocak 2020’den itibaren YTT’nin kolluk faaliyetlerinde kullanılmasını askıya aldı.[9] Oregon eyaletinde yer alan Portland, eyalet birimleri ve özel kuruluşların YTT kullanımına yönelik ileriye dönük bir yasak çıkarmayı planlıyor.[10] Massachusetts eyalet meclisi üyeleri ise YTT’nin hükümet tarafından kullanımını eyalet genelinde yasaklayan bir yasayı tartışıyor. [11]

Af Örgütü, YTT’nin tehlikelerine dikkat çeken Algoritmik Adalet Birliği (Algorithmic Justice League), Amerikan Sivil Özgürlükler Birliği (ACLU), Elektronik Sınır Vakfı (Electronic Frontier Foundation) ve diğer sivil toplum örgütleriyle dayanışma içinde olmaktan gurur duyduğunu ifade eder.