SUSMA 24 Uluslararası Af Örgütü Türkiye Şubesi’nin geçen hafta Instagram üzerinden 10 Aralık’ta görülecek ODTÜ’lü LGBTİ+’lerin davasına yönelik yaptığı paylaşım algoritma sebebiyle ‘hassas içerik’ olarak işaretlendi. Instagram’ın da bağlı olduğu şirket olan Facebook bu işaretlemeyi algoritmanın çalışmasındaki bir hata olduğunu söyleyerek kaldırdı. Sosyal platformların kişi ve gruplara uyguladığı sansür ve engellemelerin sadece bir örneğini oluşturan bu olay birçok etik tartışmaya da kapı aralıyor. Zaten devletler tarafından marjinalize edilmiş grupların hak arama mücadelesini duyurmalarında bir engel oluşturabilen algoritmalar aynı zamanda kişilerin haber alma hakkı önünde de bir engel gibi duruyor.

AF ÖRGÜTÜ’NÜN PAYLAŞIMI SANSÜRLENDİ

Uluslarararası Af Örgütü Türkiye Şubesi Instagram hesabı üzerinden 5 Aralık’ta paylaştığı bir videoyla ODTÜ’de 2019’da Onur Yürüyüşü düzenlemek isteyen öğrencilerin davasını #ODTÜRengineKavuşsun hashtagiyle paylaştı. Bu video yüklendikten kısa bir süre sonra Instagram tarafından sansürlendi. ODTÜ davasına dair Unikuir örgütünün hesabında yer alan diğer görüntülerde ise herhangi bir sansürün olmadığı fark ediliyordu.

6 ve 7 Aralık’ta alınan ekran görüntülerinde görebileceğiniz gibi kullanıcılar Af Örgütü’nün hesabından paylaşılan videoyu kendi hikayelerinde paylaşmak istediklerinde de ‘Hassas İçerik’ ibaresiyle söz konusu gönderide şiddet barındıran içerikler bulunduğunu belirten bir notla karşılaştılar.

Susma Platformu olarak konuyla ilgili bilgi almak üzere Facebook Türkiye Kamu Politikaları Başkanı Çağatay Pekyörür’e ulaştık. Pekyörür, gönderinin bir hata sonucu sansürlenmiş olabileceğini açıkladı. Bu açıklamayı aldıktan sonraki gün, yani 8 Aralık’ta tekrar Af Örgütü’nün hesabını ziyaret eden kullanıcılar herhangi bir ibareyle karşılaşmadılar, gönderinin üzerine konan uyarı kaldırılmıştı. Ancak bu dört günlük süre boyunca pek çok kişi gönderinin engellenmesine dair tepkisini paylaştı.

INSTAGRAM’IN TOPLULUK KURALLARINI İHLAL EDEN        GÖNDERİLER ENGELLENEBİLİYOR

Instagram’ın ‘Topluluk Kuralları’nı incelediğimizde içeriğinde şiddet barındıran gönderilerin bir sistem yardımıyla keşfedilip kaldırıldığını anlıyoruz. 2017’den beri istismar veya insani krizlerle ilgili şiddet içeren içerikler bu şekilde sansürleniyor.

Ancak hangi tür şiddetin engellenmek istendiği ve daha da önemlisi şirketin sansürleme süreçlerini A’dan Z’ye nasıl yürüttüğüne dair bir açıklamayla ilgili kullanıcılar açıkça bilgilendirilmiyor.

SANSÜRÜN ARDINDAKİ MEKANİZMA NASIL ÇALIŞIYOR?  

Instagram, yüklenen gönderilerin içeriğini tespit edebilecek bir sisteme sahip. Bu sistem zorbalık, açık cinsellik, şiddet gibi unsurların otomatik olarak tespit edilebileceği şekilde eğitiliyor. Aynı zamanda da platform kullanıcılarına, rahatsız oldukları gönderileri ya da kişileri şikayet etme mekanizması sunuyor. Kullanıcılar şikayet ettikçe de yapay zeka hangi tür içeriklerin işaretlenebileceğini öğreniyor.

Geçtiğimiz sene bu işleyiş, bir gönderinin yorumlarından hareketle de engellemenin yapılabileceği şeklinde genişletildi. Yani bir gönderiye yazılan yorumlardan da sistem otomatik olarak harekete geçebiliyor. Bu sayede yayınlarda yer alan tehditler, çevrim içi zorbalıklar engellenmek isteniyor. Fakat yapay zeka yakın bir geçmişe kadar çok fazla ihbar almayan bir ‘nefret söylemini’ engellemiyordu. Nefret söylemi çok sayıda kullanıcı şikayet etmediği takdirde ifade özgürlüğü kapsamında değerlendiriliyordu.

Gazeteci Ahmet Alphan Sabancı, bunların hemen hepsinin algoritmik olarak, kimi zaman da kötü niyetli algoritma yanıltmalarıyla (topluca şikayet gibi) yapıldığından bahsediyor:

“Ancak işleyişte itiraz durumu olursa yapay zekanın yanında ‘insan moderatörler’ de devreye giriyor. Fakat bu da birçok sorunu beraberinde getiriyor; çoğu zaman moderatörlerden uzun süre cevap gelmiyor, hatta hatalı olmasına rağmen algoritma kararını ‘işi hızlıca bitirmek için’ onaylayarak devam edebiliyor bu moderatörler.”

Sabancı’nın da açıklamalarından yukarıdaki anlattığımız işleyişin yanında Instagram’ın insan içerik değerlendiricilerine de sahip olduğunu, ancak insan moderatörlerin değerlendirdiği durumlarda da sıkça yanılmalar olabildiğini öğreniyoruz. Facebook tarafına tam da bu noktada aktardığımız sorulara şimdiye kadar cevap alamadık.

Ahmet Sabancı söz konusu algoritma hatalarının bir sebebi olarak da algoritmaların sosyal medya şirketleri tarafından ‘aşırı hassas’ eğitilmelerinden kaynaklandığını söylüyor. Örneğin meme kanseriyle mücadele için oluşturulan kampanyalarda yer alan fotoğraflar bile Instagram tarafından engellenebiliyor. Burada yine çok önemli bir sorun açığa çıkıyor. Eğer ODTÜ’deki davayla ilgili gönderilerin engellenmesi bir hataysa sistem bunun gibi pek çok hatayı yapabiliyor ve arkasında işleyen mekanizma bu hatalar düzeltilmedikçe söz konusu içerikleri engellemeye devam edebilirler.

FACEBOOK ALGORİTMASI UZUN ZAMANDIR ELEŞTİRİLİYOR

Şirket geçtiğimiz günlerde yaptığı bir açıklamayla algoritmasında köklü bir değişikliğe gitme kararı aldı. Facebook’un amacı, algoritmanın daha ciddi nefret söylemlerine öncelik vermesini ve yanlış anlaşılmalarla insanların hesaplarını kapatmasını önlemek. Değişikliğe göre, Facebook’ta bundan sonra sadece ‘en kötüsünün en kötüsü’ olarak kabul edilen nefret söylemini engellemeye öncelik verilecek. Yani siyahilere, Müslümanlara, LGBTİ+ bireylere ve Yahudilere yönelik hakaretlere öncelik verilecek denebilir. ODTÜ’deki LGBTİ+ davasına karşı platformun koyduğu ve sonradan ‘hatalı’ olduğu fark edilen sansür de göz önünde bulundurulduğunda sorunun çözümü için şirket tarafından daha fazla çaba gösterilmesi gerektiği ortada.

Zaten devlet şiddetine her alanda maruz kalan grupların bir de bu şiddetten toplumun diğer kesimlerini haberdar etmek için paylaştıkları mücadele görüntülerinin sansürlenmesi aynı zamanda haber alma hakkının da engellenmesine yol açıyor. Demokrasi ve ifade özgürlüğünün geliştirilmesi için çalışan Af Örgütü gibi bir uluslararası örgütün hesabına konan sansürü konuşmanın da oldukça önemli olduğu kanısındayım.

VİETNAM HÜKÜMETİ FACEBOOK SAYESİNDE MUHALİFLERİ SANSÜRLEYEBİLİYOR 

Büyük teknoloji şirketlerinin uyguladığı sansür uygulamalarının benzerlerini başka ülkelerde de görmek mümkün. Vietnam’da Facebook ve YouTube’un hükümet muhaliflerini sistemli bir şekilde sansürlemesi ve platformların adeta devlet destekli trollerin avlanma yeri haline gelmesi üzerine geçtiğimiz günlerde Af Örgütü bir rapor yayınlamıştı. Raporda yer alan bilgilere göre Nisan 2020’de Facebook, Vietnam hükümetinin ‘devlet karşıtı’ yayınları sansürleme taleplerini ‘önemli ölçüde artırmayı’ kabul ettiğini duyurmuştu. Bu politika değişikliğini, Vietnam yetkililerinin şirkete bir uyarı mahiyetinde kasıtlı olarak platforma gelen trafiği yavaşlatmalarının ardından başladığına dair iddialar haklı çıkmıştı.

Kasım 2020’de ise, Facebook’un Vietnam makamlarının sansür taleplerine artan uyum politikasını açıklamasından bu yana açıkladığı ilk Şeffaflık Raporu’nda, önceki raporlama dönemine kıyasla yerel yasalara dayalı içerik kısıtlamalarında yüzde 983’lük bir artış olduğunu ortaya konmuştu. Devletler artık ifade özgürlüğü müdahalelerinde büyük teknoloji şirketlerini kullanabileceklerini keşfettiler denebilir.

PEKİ, ÇÖZÜM NE?

Ahmet Sabancı, aşırı hassas algoritmaların sebebi olarak ise büyük teknoloji şirketlerinin ‘devlet regülasyonundan kaçma’ politikası olabileceğini belirtiyor. Teknoloji şirketleri kamuoyunda çok fazla tepki gösterilen bir probleme yol açtıklarında cezalandırılma korkusuyla bu sefer de fazla moderasyonu çözüm olarak görebiliyor.

Sabancı, çözümün şirketlerin yarattıkları büyük tartışmaları daha da fazla ciddiye alarak farklı aktörlerin bir araya getirilmesi yoluyla olabileceğini söylüyor.

Sabancı, devletler büyük teknoloji şirketlerini sıkıştırırken ifade özgürlüğü engellemelerinden direkt olarak etkilenen yurttaşların ve sivil toplum örgütlerinin hep birlikte bu sorunların çözülmesi için çaba göstermesi gerektiğini belirtiyor. Sosyal medya etiğiyle ilgili kadınların, LGBTİ+ bireylerin, göçmenlerin sorunun gerçek boyutlarını ortaya koymak için bir araya gelmeleri önemli bir başlangıcı oluşturacak.

Sonuç olarak platformlar şiddet ve nefret söylemiyle savaşırken kendi koydukları sistemleri kontrol etmekte yetersiz kalıyor. Sosyal medyadaki nefret söylemini bir şekilde kontrol altına almak isteyen platformların en sık başvurduğu araç olan algoritmalar büyük etik sorunları da beraberinde getiriyor. Algoritmalar, zaten devletler nezdinde marjinalize ve kriminalize edilen dezavantajlı grupların hak mücadelelerini engelleyen boyutlara ulaşabiliyor.