Mart 2019’da, Yeni Zelanda’nın Christchurch kentindeki iki camide bir silahlı adam 51 kişiyi öldürmeden önce, saldırısını Facebook’ta canlı olarak yayınladı. Aynı yılın Ekim ayında, Almanya’da bir adam, Amazon’a ait, oyuncular arasında popüler olan canlı yayın sitesi Twitch’te kendi toplu çekimlerini canlı olarak yayınladı.
Cumartesi günü, Buffalo, NY’de bir silahlı adam kaskına bir kamera yerleştirdi ve yetkililerin ırkçı bir saldırı olduğunu söylediği bir markette 10 kişiyi öldürüp üç kişiyi yaralarken Twitch’te canlı yayınladı. Yetkililerin tetikçi olarak tanımladığı 18 yaşındaki Payton S. Gendron, internette yayınlanan bir manifestoda, Christchurch silahlı saldırganından ve diğerlerinden ilham aldığını yazdı.
Twitch, Buffalo’nun vurulma videosunu hemen kaldırmak için hızlı tepki verdiğini ve şiddetin başlamasından sonraki iki dakika içinde akışı kaldırdığını söyledi. Ancak videonun başka bir yerde paylaşılması için iki dakika yeterliydi.
Pazar günü, videonun kayıtları Facebook ve Twitter da dahil olmak üzere diğer sosyal platformlarda geniş çapta dolaşmıştı. Streamable adlı bir sitedeki orijinal videodan bir alıntı, kaldırılmadan önce üç milyondan fazla kez görüntülendi.
Toplu çekimler – ve canlı yayınlar – şiddet içeren ve nefret içeren içeriğin çoğalmasına izin vermede sosyal medya sitelerinin rolü ve sorumluluğu hakkında soru işaretleri yaratıyor. Silahlı saldırganların çoğu, Reddit ve 4chan gibi çevrimiçi forumlarda dolaşarak ırkçı ve antisemitik inançlarını geliştirdiklerini yazdı ve diğer atıcıların saldırılarını canlı yayınlamasını izleyerek teşvik edildi.
Kıdemli bir araştırma görevlisi olan Evelyn Douek, “Bu tür saldırıların olmaya devam etmesi dünyanın üzücü bir gerçeği ve şu anki işleyişinin bir de sosyal medya yönü var” dedi. Columbia Üniversitesi’nin Knight First Amendment Enstitüsü’nde içerik moderasyonu üzerine çalışan bir arkadaş. “Bu günlerde tamamen kaçınılmaz ve öngörülebilir. Bu sadece bir zaman meselesi.”
Sosyal medya sitelerinin sorumluluklarıyla ilgili sorular, platformların içeriklerini ne kadar agresif bir şekilde denetlemesi gerektiği konusundaki daha geniş bir tartışmanın parçasıdır. Tesla’nın CEO’su Elon Musk’ın kısa süre önce Twitter’ı satın almayı kabul etmesi ve sitede sınırsız konuşma yapmak istediğini söylemesinden bu yana bu tartışma tırmandı.
Sosyal medya ve içerik denetleme uzmanları, Twitch’in hızlı yanıtının makul olarak beklenebilecek en iyi yanıt olduğunu söyledi. Ancak yanıtın, saldırı videosunun diğer sitelerde yaygın bir şekilde yayılmasını engellememesi, canlı yayın yeteneğinin bu kadar kolay erişilebilir olup olmayacağı konusunu da gündeme getiriyor.
Snapchat ve YouTube’da güven ve güvenlik kararlarını yöneten danışman Micah Schaffer, “İki dakikada indirmelerinden çok etkilendim” dedi. “Ama eğer bu bile çok fazla bir duyguysa, o zaman gerçekten bir çıkmazdasınız: Buna sahip olmaya değer mi?”
Bir açıklamada, Twitch’in güven ve güvenlikten sorumlu başkan yardımcısı Angela Hession, sitenin hızlı eyleminin “zorlukları göz önünde bulundurarak çok güçlü bir yanıt süresi” olduğunu söyledi. canlı içerik denetimi ve iyi bir ilerleme gösteriyor.” Bayan Hession, sitenin, videonun yayılmasını önlemek için sosyal medya sitelerinin kar amacı gütmeyen bir koalisyonu olan Terörle Mücadele Küresel İnternet Forumu ve diğer sosyal platformlarla birlikte çalıştığını söyledi.
“Sonuçta hepimiz tek bir internetin parçasıyız ve artık biliyoruz ki bu içerik veya davranış nadiren -eğer olursa olsun- tek bir platformda yer alacak” dedi.
Saldırıdan önce 4chan forumunda ve Discord mesajlaşma platformunda yayınlandığı anlaşılan bir belgede, Bay Gendron neden Twitch’te yayın yapmayı seçtiğini açıklayarak, “canlı yayınla ücretsiz olarak uyumlu olduğunu yazdı. ve interneti olan tüm insanlar izleyebilir ve kaydedebilir.” (Discord, soruşturma için kolluk kuvvetleriyle birlikte çalıştığını söyledi.)
Twitch, YouTube gibi kullanıcıların bunu yapmak için hesaplarını doğrulamasını ve en azından sahip olmasını gerektiren sitelerin aksine, hesabı olan herkesin canlı yayınlanmasına izin verir. Bir mobil cihazdan yayın yapmak için 50 abone.
“Sanırım bu saldırıyı canlı yayınlamak, bazı insanların benim için tezahürat yapacağını bildiğim için bana biraz motivasyon veriyor,” diye yazdı Bay Gendron.
Ayrıca Reddit’ten, The Daily Stormer gibi aşırı sağ sitelerden ve Christchurch tetikçisi Brenton Tarrant’ın yazılarından ilham aldığını söyledi.
Cumartesi günü yaptığı açıklamalarda, New York Valisi Kathy Hochul, sosyal medya platformlarını Bay Gendron’un ırkçı inançlarını etkileme ve saldırısının videosunun dolaşmasına izin vermedeki rolleri nedeniyle eleştirdi.
“Bu bir virüs gibi yayılıyor” diyen Hochul, sosyal medya yöneticilerinin politikalarını değerlendirmelerini talep ederek “yapabilecekleri her şeyin yapıldığından emin olunmasını” istedi. Bu bilgilerin yayılmadığından emin olmak için.”
Kolay cevaplar olmayabilir. Uzmanlar, şiddet içerikli içerikleri ve videoları daha hızlı kaldırma konusunda Facebook, Twitch ve Twitter gibi platformların son yıllarda ilerleme kaydettiğini söyledi. Yeni Zelanda’daki silahlı saldırının ardından, sosyal platformlar ve dünyanın dört bir yanındaki ülkeler, Christchurch Harekete Geçirme Çağrısı adlı bir girişime katıldı ve terörizm ve şiddet içeren aşırılık içeriğiyle mücadele etmek için yakın bir şekilde çalışmayı kabul etti. Sosyal sitelerin kullandığı araçlardan biri, uygunsuz içeriği işaretleyebilen ve hızlı bir şekilde kaldırabilen, paylaşılan bir karma veri tabanı veya görüntülerin dijital ayak izleridir.
Ancak bu durumda, Bayan Douek, Facebook’un hash sistemine rağmen yetersiz kaldığını söyledi. Bir web analiz aracı olan CrowdTangle’a göre, Streamable’da yayınlanan videoyla bağlantılı Facebook gönderileri 43.000’den fazla etkileşim oluşturdu ve bazı gönderiler dokuz saatten fazla kaldı.
Kullanıcılar, içeriği “şiddeti yücelten” içeriğe izin vermeyen Facebook kurallarını ihlal ediyor olarak işaretlemeye çalıştığında, görüntülenen ekran görüntülerine göre bazı durumlarda bağlantıların Facebook politikalarına aykırı olmadığı söylendi. New York Times tarafından.
Facebook o zamandan beri videoya bağlantı içeren gönderileri kaldırmaya başladı ve bir Facebook sözcüsü, gönderilerin platformun kurallarını ihlal ettiğini söyledi. Neden bazı kullanıcılara videoya bağlantı içeren gönderilerin videonun standartlarını ihlal etmediği konusunda bilgi verildiği sorulduğunda, sözcü bir yanıt vermedi.
Twitter, çekilen videoya bağlantı içeren pek çok gönderiyi kaldırmamıştı ve bazı durumlarda video doğrudan platforma yüklenmişti. Bir şirket sözcüsü, başlangıçta sitenin videonun bazı örneklerini kaldırabileceğini veya hassas bir içerik uyarısı ekleyebileceğini, daha sonra The Times’ın açıklama istemesi üzerine Twitter’ın saldırıyla ilgili tüm videoları kaldıracağını söyledi.
Streamable’ın sahibi olan video konferans hizmeti Hopin’in bir sözcüsü, platformun videoyu kaldırmak ve onu yükleyen kişilerin hesaplarını silmek için çalıştığını söyledi. Araştırmacı Bayan Douek,
Şiddet içeren içeriği kaldırmak “bir barajdaki sızıntılara parmaklarınızı sokmaya çalışmak gibidir” dedi. “Bir şeyler bulmak temelde gerçekten zor olacak, özellikle de bu şeylerin şimdi yayılma hızında.”
The New York Times haberinden çevrildi ve haberleştirildi.