Dahili Alarm, Kamuoyu Omuz silkiyor: Facebook Çalışanları Seçim Rolünü İnceliyor

Geçen Kasım’daki başkanlık seçimlerinden on altı ay önce, Facebook’ta bir araştırmacı endişe verici bir gelişmeyi anlattı. Bir iç raporda, deneysel bir hesap açtıktan sonraki bir hafta içinde QAnon komplo teorisi hakkında içerik almaya başladı.

Seçimden iki gün sonra, 5 Kasım’da, başka bir Facebook çalışanı, meslektaşlarını birçok gönderi altında “yanıcı seçim yanlış bilgileri” içeren yorumların göründüğü konusunda uyaran bir mesaj yayınladı.

Bundan dört gün sonra, bir şirket veri bilimcisi iş arkadaşlarına bir notta, ABD’deki tüm siyasi materyal görüşlerinin yüzde 10’unun – şaşırtıcı derecede yüksek bir rakam – oylamanın hileli olduğunu iddia eden gönderiler olduğunu yazdı.

Her durumda, Facebook çalışanları platformdaki yanlış bilgi ve kışkırtıcı içerik hakkında bir alarm verdi ve harekete geçme çağrısında bulundu – ancak şirket sorunları ele almakta başarısız oldu veya mücadele etti. Dahili gönderiler, The New York Times tarafından elde edilen ve sosyal ağda, kullanıcıların platformunu yalanları yaymak için silah haline getirirken şirketin düz ayaklı yakalandığı Kasım seçimlerinden önce ve sonra neler olduğuna dair yeni bilgiler veren bir dizi Facebook belgesi arasındaydı. oy hakkında.

Facebook, eski Başkan Donald J. Trump ve diğer sosyal platformlarda seçim yalanlarının çoğalmasını alenen suçladı. Ocak ayının ortalarında, Facebook’un baş işletme görevlisi Sheryl Sandberg, 6 Ocak’ta Capitol’deki isyanın “büyük ölçüde nefreti durdurma yeteneklerimize sahip olmayan platformlarda organize edildiğini” söyledi. Facebook’un CEO’su Mark Zuckerberg, Mart ayında milletvekillerine yaptığı açıklamada, şirketin “seçimimizin bütünlüğünü güvence altına almak için üzerimize düşeni yaptığını” söyledi. ”

Ancak şirket belgeleri, Facebook’un seçimden önce Amerikan seçmenlerini kutuplaştırmaya çalışan aşırılıkçı hareketler ve gruplardan haberdar olma derecesini gösteriyor. Belgeler ayrıca, oyların Bay Trump aleyhine manipüle edildiğini öne süren yanlış bilgi akışının seçilmesinden sonra şirket araştırmacılarının ne kadar bilinçli olduklarına dair yeni ayrıntılar veriyor.

Belgelerin sunmadığı şey, Facebook içindeki karar alma sürecinin eksiksiz bir resmidir. Bazı dahili araştırmalar, şirketin ağının ölçeği ve bilginin ne kadar hızlı yayıldığı üzerinde kontrol uygulamakta zorlandığını öne sürerken, diğer raporlar Facebook’un katılımını kaybetme veya itibarına zarar verme konusunda endişe duyduğunu ima etti.

Ancak belgelere göre, Facebook’un kendi çalışanlarının, sosyal ağın daha fazlasını yapabileceğine inandıkları açıktı.

Facebook’un Stop the Steal gruplarına Mart ayında verdiği ve seçimin Bay Trump’a karşı hileli olduğunu iddia eden bir iç incelemede, “Uygulama parça parça oldu” ifadesini okudu. Raporun yazarları, otopsinin Facebook’un bir dahaki sefere bunu nasıl daha iyi yapabileceği konusunda bir rehber olabileceğini umduklarını söyledi. ”

The Times tarafından incelenen düzinelerce Facebook belgesinin çoğu daha önce bildirilmedi. Şirket içi raporların bazıları başlangıçta, eski bir Facebook ürün yöneticisi olan ve muhbirliğe dönüşen Frances Haugen tarafından elde edildi.

Bayan Haugen’in, bazıları The Wall Street Journal’ın yayınladığı belgeleri, yasa koyucular ve düzenleyiciler arasında bir tepki yarattı ve Facebook’u yıllardır en kötü halkla ilişkiler krizlerinden birine soktu. Pazartesi günü İngiltere Parlamentosu’nda bir duruşmaya çıkmayı planlayan Bayan Haugen’in açıklamaları, 6 Ocak Capitol isyanına yol açan olaylarda Facebook’un nasıl bir rol oynadığına dair soruları yeniden gündeme getirdi.

Küresel seçim reklamlarında güvenlik ve güvenliği denetleyen eski bir Facebook çalışanı olan Yaël Eisenstat, şirketin araştırmasının 2020 seçimleriyle ilgili sorumluluklarını incelemeye çalıştığını gösterdiğini söyledi. Ancak “bu etkilerin hiçbiri değişmezse” dedi, bu bir israftı.

Bayan Eisenstat, eski işvereni hakkında “Sorun ürünü tasarlama şeklinin mi olduğunu anlamaya çalışıyor olmalılar” dedi.

Facebook sözcüsü Andy Stone, şirketin 2020 seçimlerini korumak için yaptığı çalışmalardan “gurur duyduğunu” söyledi. Facebook’un kolluk kuvvetleriyle çalıştığını, güvenlik önlemleri aldığını ve platformunda ne olduğunu yakından izlediğini söyledi.

“İhtiyacımız olan önlemler Şubat ayına kadar yürürlükte kaldı ve yeni, sivil veya siyasi grupları önermemek gibi bazıları bugüne kadar yerinde kaldı” dedi. “6 Ocak’ta meydana gelen şiddetin sorumluluğu, Başkentimize saldıranlara ve onları cesaretlendirenlere aittir. ”

Bir QAnon Yolculuğu

Belgelere göre, Facebook çalışanları yıllarca sosyal ağın kullanıcıları radikalleştirme potansiyeli konusunda uyardı.

Temmuz 2019’da kutuplaşma üzerine çalışan bir şirket araştırmacısı şaşırtıcı bir keşifte bulundu: Kuzey Carolina’da “muhafazakar bir anne” için yaptığı bir test hesabı, sosyal ağa katıldıktan sonraki bir hafta içinde komplo teorisi içerik önerileri aldı.

“Carol’s Journey to QAnon” başlıklı dahili araştırma, Carol Smith adındaki hayali bir kadının Facebook hesabının Fox News ve Sinclair Broadcasting sayfalarını nasıl takip ettiğini detaylandırdı. Birkaç gün içinde Facebook, Bay Trump’ın Demokratik pedofillerden oluşan karanlık bir çeteyle karşı karşıya olduğunu yanlış bir şekilde iddia eden komplo teorisi QAnon ile ilgili sayfalar ve gruplar önerdi.

Üç haftanın sonunda, Carol Smith’in Facebook hesap akışı daha da gelişmişti. Araştırmacı, “sürekli bir yanıltıcı, kutuplaştırıcı ve düşük kaliteli içerik akışı haline geldi” diye yazdı.

Facebook’tan Bay Stone, çalışma hakkında şunları söyledi: “Bu, varsayımsal bir kullanıcıyla ilgili bir çalışma olsa da, şirketin sistemlerimizi geliştirmek için yaptığı mükemmel bir araştırma örneği ve QAnon’u platformdan kaldırma kararımızı bildirmemize yardımcı oldu. ”

Daha sonra sola eğilimli bir test hesabı üzerinde kutuplaşma deneyleri yapan araştırmacı, şirketin QAnon sayfalarını ve gruplarını çökerttiği aynı ay olan Ağustos 2020’de Facebook’tan ayrıldı.

The Times tarafından incelenen ve daha önce BuzzFeed News tarafından bildirilen çıkış notunda, Facebook’un “kullanıcıları bilerek dürüstlük risklerine maruz bıraktığını” söyledi ve şirketin QAnon’a göre hareket etmedeki yavaşlığını ayrılma nedeni olarak gösterdi.

Araştırmacı, “Tavsiye sistemlerimizin kullanıcıları çok hızlı bir şekilde komplo teorilerine ve gruplarına yönlendirebileceğini bir yıldan fazla bir süredir biliyoruz” diye yazdı. “Bu arada, QAnon kongre adayları ve ana akımda trend olan QAnon hashtag’leri ve grupları ile saçak grup / inançlar ulusal öneme sahip oldu. ”

Seçim Gününe Doğru

Facebook, 2020 seçimleriyle çok az şeyi şansa bırakmaya çalıştı.

Aylarca şirket, tartışmalı bir sonuç durumunda yeni Facebook gruplarının oluşumunu yavaşlatmak gibi “cam kırma” planları olarak bilinen acil durum önlemlerini geliştirdi. Facebook ayrıca seçim için siteyi güvence altına almak için on binlerce çalışanı işe aldı, hukuk ve politika uzmanlarına danıştı ve gerçek kontrol kuruluşlarıyla ortaklıkları genişletti.

Eylül 2020 tarihli bir kamu yayınında, Bay Zuckerberg, şirketinin “demokrasimizi koruma sorumluluğu olduğunu” yazdı. Facebook’un finanse ettiği bir seçmen kayıt kampanyasını vurguladı ve şirketin “şiddet ve huzursuzluk olasılığını azaltmak” için seçmen yanlış bilgilerini kaldırmak ve siyasi reklamları engellemek gibi attığı adımları ortaya koydu. ”

Birçok önlem yardımcı oldu. Seçim Günü Facebook’ta büyük aksamalar olmadan geldi ve geçti.

Ancak oy sayımları, Bay Trump ile Demokrat başkan adayı Joseph R. Biden Jr. arasında sıkı bir yarış olduğunu gösterdikten sonra, Bay Trump, 4 Kasım’ın erken saatlerinde Facebook ve Twitter’da şunları yayınladı: “ÇALMAYA ÇALIŞIYORLAR seçim. ”

Dahili belgeler, kullanıcıların Facebook’ta oylamaya olan güveni sarsmanın yollarını bulduğunu gösteriyor.

5 Kasım’da bir Facebook çalışanı, “Haber Kaynağı Geri Bildirimi” adlı dahili bir çevrimiçi gruba bir mesaj gönderdi. Notunda, meslektaşlarına, gönderilerin yorumlar kısmında yanlış oylamanın göze çarptığını söyledi. Daha da kötüsü, çalışan, en kışkırtıcı seçim yanlış bilgisine sahip yorumların, yorum dizilerinin en üstünde görünecek şekilde güçlendirildiğini ve yanlış bilgilerin yayıldığını söyledi.

Ardından 9 Kasım’da bir Facebook veri bilimcisi, dahili bir gönderide birkaç meslektaşına sosyal ağdaki seçim sonuçları üzerinde şüphe uyandıran içerik miktarının arttığını söyledi. Araştırmacı, Amerika Birleşik Devletleri’nde Facebook’taki her 50 görüntülemeden birinin veya tüm siyasi materyal görüşlerinin yüzde 10’unun oyların hileli olduğunu ilan eden içeriğe sahip olduğunu yazdı.

Gönderide, “Ayrıca şiddete teşvik eden bir saçak da vardı” diye yazdı.

Buna rağmen, üç eski çalışan, Facebook’un Kasım ayında acil durum adımlarını gevşetmeye başladığını söyledi. Kritik seçim sonrası dönem geçmiş gibi görünüyordu ve şirket, sağ kanattaki sayfaların erişimini azaltmak gibi bazı seçim öncesi önlemlerin kullanıcı şikayetlerine yol açacağından endişe duyduğunu söyledi.

Ocak. 6

6 Ocak sabahı, Washington’daki ABD Capitol binasının yakınında toplanan protestocularla birlikte, bazı Facebook çalışanları bir elektronik tabloya döndü. Orada, şirketin platformunda yanlış seçim bilgilerine ve kışkırtıcı içeriğe karşı aldığı önlemleri kataloglamaya başladılar.

Elektronik tablodaki verilere göre, o sabah şiddeti teşvik eden gönderilerle ilgili kullanıcı şikayetleri arttı.

O gün boyunca, bir mafya Capitol’ü bastığında, çalışanlar e-tabloyu yapılan eylemlerle güncelledi, çabaya katılan bir işçi söyledi. Facebook çalışanlarının önerdiği düzinelerce adımdan bazıları – örneğin şirket mühendislerinin şiddeti teşvik ettiği bildirilen gönderileri toplu olarak silmelerine izin vermek gibi – uygulandı.

Ancak, elektronik tabloya göre, grupların adlarını Çalmayı Durdur gibi terimlerle değiştirmelerini engellemek gibi diğer önlemler, son dakika teknoloji aksaklıkları nedeniyle tam olarak uygulanmadı.

Facebook’un baş teknoloji sorumlusu Bay Zuckerberg ve Mike Schroepfer, Capitol isyanıyla ilgili üzüntüleri hakkında dahili olarak notlar yayınladılar. Ancak The Times tarafından görüntülenen mesaj dizilerine göre bazı Facebook çalışanları öfkeyle yanıt verdi.

“Keşke aksini hissetseydim, ama uyum sağladığımızı söylemek yeterli değil, çünkü çoktan uyum sağlamalıydık,” diye yazdı bir çalışan. “Düne kadar aktif olan düzinelerce Stop the Steal grubu vardı ve onların niyetleri hakkında küçük sözler sarf ettiklerinden şüpheliyim. ”

Bir başkası şöyle yazdı: “Her zaman, her zaman yaptığım işin genel olarak dünya için anlamlı ve yardımcı olduğunu hissettim. Ama dürüst olmak gerekirse, bu benim için gerçekten karanlık bir gün. ”

7 Ocak tarihli bir raporda, Facebook’ta olanların kapsamı netleşti. Raporda, şirketin politikalarını potansiyel olarak ihlal eden içerikle ilgili kullanıcı raporlarının önceki haftalardan yedi kat daha fazla olduğu belirtildi. Araştırmacılar, en çok rapor edilen gönderilerin birçoğunun “hükümetin devrilmesini önerdiğini” veya “şiddete desteğini dile getirdiğini” buldu. ”

Ölüm Sonrası

Mart ayında Facebook araştırmacıları, şirketin seçim sahtekarlığı yalanlarını öne çıkaran toplumsal hareketlerdeki rolünü değerlendiren iki dahili rapor yayınladı.

Birinde, bir grup çalışan, Facebook’un “kalıp” sergilediğini söyledi. Bu, şirketin başlangıçta QAnon’a ve seçimlerin meşruiyetini yitirme hareketlerine karşı “sınırlı veya hiç eylemde bulunmama”sını içeriyordu, ancak zaten çekiş kazandıktan sonra bu içeriği harekete geçirmek ve kaldırmak için. Belge daha önce The Wall Street Journal tarafından bildirildi.

Çalışanların yazdığına göre sorunun bir kısmı, Facebook’un seçim yanlış bilgilendirme kurallarının çok fazla gri alan bırakmasıydı. Sonuç olarak, “seçim süreçleriyle ilgili makul şüphe olarak yorumlanabilecek” paylaşımlar, bu kuralların lafzını ihlal etmediği için kaldırılmadı.

Rapora göre, bu gönderiler daha sonra sosyal istikrarsızlığa katkıda bulunan bir ortam yarattı.

“Çalmayı ve Vatansever Partiyi Durdurun: Düşmana Zarar Veren Bir Hareketin Büyümesi ve Azaltılması” başlıklı bir başka rapor, insanların 6 Ocak’tan önce sitede hızla seçim gayrimeşrulaştırma toplulukları oluşturmak için Facebook gruplarının özelliğini nasıl kullandığını ortaya koydu.

Raporda, bazı organizatörlerin grupları oluşturmak için yüzlerce davetiye gönderdiği, esasen insanlara spam gönderildiği tespit edildi. Ayrıca, katılan herkesten mümkün olduğu kadar çok kişiyi davet etmelerini istediler ve grupları balon haline getirdiler. (Facebook o zamandan beri grup davetlerinin miktarını daha yakından izlemeye başladı.)

Raporda, Facebook’taki Stop the Steal gruplarının bazı organizatörlerinin de “hareketi büyütmek” için birbirleriyle işbirliği yaptığı ortaya çıktı.

Raporda, “Gezinin 20/20 olması, geriye bakmayı, büyüyen, komployu yayan ve Capitol ayaklanmasını kışkırtmaya yardımcı olan seçimlerdeki meşruiyeti ortadan kaldıran hareketlerin büyümesi hakkında neler yapabileceğimizi öğrenmeyi daha da önemli kılıyor” denildi.

Mike Isaac, Davey Alba ve Cecilia Kang raporlamaya katkıda bulundu.