Facebook, son yıllarda sosyal medyada ve internette patlayan çocuk cinsel istismarı içeriğini tespit etmede teknoloji şirketleri arasında liderdir. Ancak, yanlışlıkla insanları yasadışı görüntüler yayınlamakla suçlamakla ilgili endişeler, kötüye kullanım fotoğraf ve videolarının bildirilmemesine izin verebilecek bir politikayla sonuçlandı.
Facebook, Instagram, Messenger ve WhatsApp’ın ana şirketi Meta, platformları için içerik moderatörlerine bir fotoğraftaki bir kişinin yaşı hakkında emin olmadıklarında “yetişkin tarafında hata yapma” talimatı verdi. veya video, kurumsal eğitim belgesine göre.
Meta’nın güvenlik sorumlusu Antigone Davis, bir röportajda politikayı doğruladı ve yetişkinlerin cinsel görüntülerini yayınlayanların mahremiyet endişelerinden kaynaklandığını söyledi. Davis, Meta’nın diğer tüm teknoloji şirketlerinden çok daha fazla görseli işaretleyen çok katmanlı, titiz bir inceleme süreci uyguladığını vurgulayarak, “Çevrimiçi çocuklara yönelik cinsel istismar iğrenç” dedi. Çocukların cinsel istismarını yanlışlıkla işaretlemenin sonuçlarının kullanıcılar için “hayatı değiştirebileceğini” söyledi.
Yanlış sınıflandırılabilecek görüntülerin sayısını ölçmek imkansız olsa da, çocuk güvenliği uzmanları şirketin şüphesiz bazı küçükleri kaçırdığını söyledi. Araştırmalar, çocukların fiziksel olarak geçmişte olduğundan daha erken geliştiğini bulmuştur. Ayrıca, belirli ırklar ve etnik kökenler, örneğin bazı Siyah ve Hispanik çocuklarla birlikte, örneğin Kafkasyalılardan daha erken yaşta ergenliğe girerler.
Kanada Çocuk Koruma Merkezi’nin yönetici direktörü Lianna McDonald, “Korunmayan bir genç nüfus görüyoruz” dedi. görüntüleri küresel olarak izleyen kuruluş.
Her gün moderatörler, Meta’nın davranış kurallarını ihlal edip etmediklerini veya yasa dışı olup olmadıklarını belirlemek için dünyanın her yerinden milyonlarca fotoğraf ve videoyu inceler. Geçen yıl şirket, Washington’daki ulusal bir takas merkezine yaklaşık 27 milyon şüpheli çocuk istismarı ihbarı yaptı ve bu rapor daha sonra onları kolluk kuvvetlerine sevk edip etmeyeceğine karar verdi. Şirket, takas odasına yapılan raporların yüzde 90’ından fazlasını oluşturuyor.
The New York Times tarafından elde edilen eğitim belgesi, Facebook’un zararlı içeriğini ayrıştırmak ve siteden kaldırmak için sözleşmesi olan bir danışmanlık firması olan Accenture için çalışan moderatörler için oluşturuldu. Yaş politikası ilk olarak California Hukuk İncelemesinde, geçen yıl Accenture’daki bazı moderatörlerin ergenleri genç yetişkinlere “çarpma” olarak adlandırdıkları uygulamaya katılmadığını yazan bir hukuk öğrencisi Anirudh Krishna tarafından açıklandı.
Accenture, uygulama hakkında yorum yapmayı reddetti.
Teknoloji şirketlerinin yasal olarak “görünen” çocuk cinsel istismarı materyallerini bildirmeleri gerekir, ancak “görünür” yasa tarafından tanımlanmamıştır. Bir gizlilik yasası olan Saklı İletişim Yasası, bildirimleri yaparken şirketleri sorumluluktan korur, ancak Bayan Davis, bir görüntüyü yanlışlıkla bildirirse yasanın Meta’yı koruyup korumayacağının belirsiz olduğunu söyledi. Washington’daki milletvekillerinin herkesin takip etmesi için “açık ve tutarlı bir standart” oluşturması gerektiğini söyledi.
Hukuk ve teknoloji politikası uzmanları, sosyal medya şirketlerinin gezinmesi zor bir yol olduğunu söyledi. Şüphelenilen yasa dışı görüntüleri bildirmezlerse, yetkililer tarafından takip edilebilirler; yasal görüntüleri çocuk cinsel istismarı materyali olarak bildirirlerse dava edilebilir ve dikkatsiz davranmakla suçlanabilirler.
“Hiç mahkeme bulamadım Adalet Bakanlığı’nın bilgisayar suçları bölümünde eski bir savcı olan ve şu anda Georgetown Law’da profesör olan Paul Ohm, bu dengenin nasıl sağlanacağı sorusunu yanıtlamaya yaklaştık” dedi. “Bu durumda avukatların mahremiyet çıkarları ölçeğine başvurmasının mantıksız olduğunu düşünmüyorum.”
Çevrimiçi güvenlik uzmanları için bir derneği yöneten ve daha önce Facebook ve Pinterest’te güvenlik sorunları üzerinde çalışan Charlotte Willner, gizlilik endişelerinin şirketlerin “risk almaya teşvik edilmediği” anlamına geldiğini söyledi.
Ancak Kanada merkezinden Bayan McDonald, kuralların tıpkı ticarette olduğu gibi “çocukları koruma” tarafında olması gerektiğini söyledi. Bir müşterinin yaşı hakkında şüpheleri varsa kimlik sormak üzere eğitilmiş sigara ve alkol satıcıları örneğini verdi.
Apple Temsilcileri; Snapchat’in sahibi Snap; ve TikTok, şirketlerinin Meta’nın tam tersi yaklaşımını benimsediğini ve bir kişinin yaşının söz konusu olduğu herhangi bir cinsel imajı bildirdiğini söyledi. Dropbox, Google, Microsoft ve Twitter dahil olmak üzere hizmetlerini yasa dışı görüntüler için tarayan diğer bazı şirketler uygulamaları hakkında yorum yapmayı reddetti.
Görüşmelerde, Meta tarafından sözleşmeli dört eski içerik moderatörü, her gün yaş politikasına tabi olan cinsel görüntülerle karşılaştıklarını söyledi. Moderatörler, politika dışı sayılan çok fazla raporda bulunurlarsa olumsuz performans incelemeleriyle karşılaşabileceklerini söylediler. Gizlilik anlaşmaları ve gelecekteki istihdamla ilgili endişeler nedeniyle anonimlik koşulu hakkında konuştular.
“O kadar çok şeyin kaymasına izin veriyorlardı ki, sonunda artık konuyu gündeme getirmedik,” dedi eski moderatörlerden biri, son iki görüşmesinde sözlü cinsel istismar ve diğer müstehcen eylemlerin görüntülerini tespit etmeyi tarif etti. Accenture’da -yıllık görev süresi. “’Bu bulanık kısım kasık kılları olabilir, bu yüzden genç bir yetişkin olduğumuz için hata yapmalıyız’ gibi çılgın, abartılı bir bahaneleri olurdu.”
Çocuk cinsel istismarından şüphelenilen raporların sayısı son yıllarda katlanarak arttı. 2009’da kabaca 100.000’e ulaşan yüksek hacim, hem ulusal takas odasını hem de kolluk kuvvetlerini bunalttı. The Times tarafından 2019 yılında yapılan bir araştırma, Federal Soruşturma Bürosu’nun vaka yükünü takas odasından ancak odağını bebekler ve küçük çocuklarla sınırlayarak yönetebileceğini buldu.
Bayan Davis, daha fazla raporla sonuçlanan bir politikanın darboğazı daha da kötüleştirebileceğini söyledi. “Sistem yararlı olmayan şeylerle fazla doluysa” dedi, “o zaman bu gerçek bir yük yaratır.”
Ancak bazı mevcut ve eski müfettişler, kararın kolluk kuvvetleri tarafından verilmesi gerektiğini söyledi.
“Kimse olası bir suçu, özellikle de çocuğa karşı işlenen bir suçu ihbar etmemeye karar vermemeli, çünkü polisin çok meşgul olduğuna inanıyor” dedi. 14 yıl.
Wisconsin’deki benzer bir görev gücünün komutanı Dana Miller, teknoloji şirketlerinin bir raporun mevcut bir soruşturmayı ilerletmede yararlı olup olmayacağını bilemeyeceklerini söyledi. “Herkes bunalmış olsa da, bu raporları görmek istemediğimize dair kapsamlı bir açıklama yapmaktan kendi tarafımızda rahat değiliz” dedi.
Ulusal Kayıp ve İstismara Uğramış Çocuklar Merkezi’nin genel müşaviri Yiota Souras, raporların alındığı ulusal takas odası, merkezin dava yükünün “burada oyun oynayamayacağını” söyledi. Bir çocuğu kapsayabilirse görüntülerin her zaman rapor edilmesi gerektiğini söyledi.
Facebook’un yaş belirlemesini nasıl yaptığı da bir tartışma konusu. Eğitim belgesine ve röportajlara göre Facebook, moderatörlerine yaşı değerlendirirken Tanner aşamalarını dahil etme talimatı veriyor. İlk olarak 1960’ların sonlarında İngiliz bir çocuk doktoru olan Dr. James M. Tanner tarafından geliştirilen araç, ergenliğin ilerleyici evrelerini özetlemektedir. Ama birinin yaşını belirlemek için tasarlanmamıştı.
Pediatrics dergisine 1998 yılında yazdığı bir mektupta, Dr. Tanner, çocukların cinsel istismarı tasvirlerini analiz ederken “kronolojik yaşı” ölçmek için aşamaları kullanmanın “tamamen gayri meşru” olduğunu söyledi. Dr. Tanner 2010 yılında öldü. Mektubun ortak yazarı, şimdi emekli bir pediatrik endokrinolog olan Dr. Arlan L. Rosenbloom, bir röportajda 13 veya 14 yaşındaki bir çocuğun Tanner evrelerinde “tamamen gelişebileceğini” söyledi. Ayrıca Meta’nın yaklaşımını ölçeğin “tamamen yanlış kullanımı” olarak nitelendirdi.
Ms. Davis, ölçeğin teknoloji endüstrisinde yaygın olarak kullanıldığını ve yaşı tahmin etmede sadece bir faktör olduğunu söyledi. Sınırlamalarını kabul etti ve şirketin alternatifleri araştırdığını söyledi.
The New York Times haberinden çevrildi ve haberleştirildi.