Silikon Vadisi’nin Güvenli Alanı

Web sitesi, açık mavi bir afiş ve garip bir adla sade, neredeyse şapşal bir tasarıma sahipti: Slate Star Codex.

Kendisine Scott Alexander (Slate Star Codex’in yakın anagramı) adını veren Bay Area psikiyatrının yazdığı sözde bir blogdu. Aynı zamanda, dünyayı soğuk ve dikkatli düşünerek yeniden incelemeyi amaçlayan bir grup olan Rationalists adlı bir topluluğun merkez üssüydü.

Bilgili, komik, garip ve şaşırtıcı derecede ayrıntılı bir tarzda blog, bilim ve tıptan felsefeye ve politikadan yapay zekanın yükselişine kadar her şeyi araştırdı. Popüler fikirlere meydan okudu ve tartışmalı konuları tartışma hakkını savundu. Bu, depresyonun genetiğine yeni bir bakış veya #MeToo hareketinin eleştirisini içerebilir. Sonuç olarak, her blog gönderisinin sonunda ve tartışma sitesi Reddit’teki ilgili forumlarda başarılı olan sohbet, alışılmadık derecede geniş bir ses yelpazesini çekti.

Tartışmanın düzenli bir parçası olan ekonomist ve hukuk bilimci David Friedman, “Bu, çok çeşitli görüşlere sahip insanlar arasında medeni sohbetler yapabileceğiniz çevrimiçi bildiğim tek yer,” dedi. Sitedeki diğer yorumcuların görüşlerinin geniş bir kesitini temsil ettiğini belirtti. Politik olarak komünistten anarko-kapitaliste, dini olarak Katolikten ateiste ve profesyonel olarak gerçek bir roket bilimcisinden gerçek bir tesisatçıya kadar uzanıyorlar – her ikisi de ilginç insanlar. “

Sesler arasında beyaz üstünlükçüler ve neo-faşistler de vardı. Dr. Friedman, sesini duyurmak için mücadele eden tek kişinin “sosyal adalet savaşçıları olduğunu söyledi. Tartışmayı yönlendiren temel inançlardan biri için bir tehdit olarak görülüyorlardı: ifade özgürlüğü.

Ulusal söylem 2020’de eridikçe, başkanlık yarışı hızlandıkça, salgın yayıldıkça ve polis şiddetine karşı protestolar artarken, teknoloji endüstrisindeki birçok kişi Slate Star Kodeksinde teşvik edilen tutumları ileriye doğru daha iyi bir yol olarak gördü. Ana akım medyaya derinden güvenmediler ve genellikle tartışmanın dış dünyanın incelemesine gerek kalmadan kendi şartlarına göre yapılmasını tercih ettiler. Paylaştıkları fikirler genellikle tartışmalıydı – örneğin cinsiyet, ırk ve doğuştan gelen yeteneklerle bağlantılıydı – ve geri itebilecek sesler uzak tutuldu.

Slate Star Codex, Silikon Vadisi ruhuna açılan bir pencereydi. Bu ruhu denemek ve anlamak için iyi nedenler var çünkü teknoloji şirketleri ve onları yöneten insanlar tarafından alınan kararlar sonunda milyonları etkiliyor.

Ve ikonoklastlardan oluşan bir topluluk olan Silikon Vadisi, hepimiz için neyin yasak olduğuna karar vermek için mücadele ediyor.

Twitter ve Facebook’ta liderler, bu sözler doğru olmasa veya şiddete yol açabilecek olsa bile, platformlarından kelimeleri kaldırmak konusunda isteksizdi. Bazı A.I. laboratuvarlarında, kadınlara ve beyaz olmayan insanlara karşı önyargılı olabileceklerini ve bazen nefret dolu konuşmalar yapabileceklerini bilseler bile yüz tanıma sistemleri, dijital asistanlar ve sohbet robotları dahil olmak üzere ürünler piyasaya sürüyorlar.

Neden bir şeyi geride tutuyorsunuz? Bu genellikle bir Akılcının ulaşacağı cevaptı.

Ve belki de bu düşüncenin ortaya çıkışını izlemek için en açık ve en etkili yer Bay Alexander’ın blogundaydı.

“Bunun teknoloji endüstrisi tarafından yakalanması şaşırtıcı değil. Rasyonalistleri yakından takip eden ve belgeleyen bir bilim adamı olan Elizabeth Sandifer, teknoloji endüstrisi bozucuları ve yıkıcı düşünceleri seviyor ”dedi. Ancak bu gerçek sorunlara yol açabilir. Bu fikirlerin zıt doğası, sonuçları hakkında yeterince düşünmeyen insanlara çekici gelmesini sağlar. ”

Silikon Vadisi’ndeki fikirlerin cazibesi, aynı adı Scott Siskind ve blogunun temel okuması altında da yazan Bay Alexander’ı yapan şeydi.

Ancak geçen yılın Haziran ayının sonlarında, blogu tartışmak için Bay Siskind’e başvurduğumda, blog kayboldu.

Akılcıların İnandıkları

Slate Star Kodeksinin kökleri, on yıldan fazla bir süre önce polemikçi ve kendini tanımlayan A.I. araştırmacısı Eliezer Yudkowsky’ye kadar uzanıyor. Akılcıların yükselişinin arkasındaki itici güçtü.

Rasyonalistler kendilerini bilimsel düşünceyi neredeyse her konuya uygulayan insanlar olarak görüyorlardı. Bu genellikle inançları bilgilendirmek için istatistikleri ve olasılıkları kullanmanın bir yolu olan “Bayesçi akıl yürütmeyi” içeriyordu.

Rasyonalistler A.I’in dünyayı yok edebileceğine inandıkları için – bilim kurgu filmleri izleyenler için tamamen yeni bir korku değil – buna karşı korunmak istediler. Birçoğu MIRI için çalıştı ve misyonu “A.” olan Bay Yudkowsky tarafından oluşturulan bir organizasyon olan MIRI’ye bağışta bulundu. I. güvenlik. ”

Ancak Rasyonalistleri aykırı hissettiren diğer şeylerdi. Rasyonalist hareketi ortaya çıkaran blogların oluşturulmasına yardım eden George Mason Üniversitesi’nde ekonomi profesörü Robin Hanson, “tuhaf, zıt şeyler tarafından kolayca ikna edildi” dedi. “Diğer insanlardan daha rasyonel olduklarına karar verdikleri için kendi iç yargılarına güvendiler. “

Pek çok Akılcı, verilen bir bağıştan kaç kişinin yararlanacağını hesaplayarak hayırseverliği yeniden kurma çabası olan “etkili fedakarlığı” benimsedi. Bazıları, ırkçı inançlara sahip olan ve Amerikan demokrasisini kınayan Curtis Yarvin gibi “yeni gerileyiciler” in çevrimiçi yazılarını kucakladı. Çoğunlukla beyaz adamlardı ama tamamen değillerdi.

Topluluk organize ve sıkı sıkıya bağlıydı. İki Körfez Bölgesi kuruluşu, Rasyonalist düşünme tarzı üzerine seminerler ve lise yaz kampları düzenledi.

“Müfredat, nedensel modelleme ve olasılıktan oyun teorisine ve bilişsel bilime kadar birçok konuyu kapsıyor,” gençlere bir yaz Rasyonalist öğrenme vaat eden bir web sitesi okudu. “Kendi akıl yürütmemizi, davranışlarımızı ve duygularımızı nasıl anlayabiliriz? Nasıl daha net düşünebilir ve hedeflerimize daha iyi ulaşabiliriz? ”

Rasyonalistler, Silikon Vadisi’nden Amsterdam’a ve Avustralya’ya kadar dünyanın dört bir yanında düzenli buluşmalar düzenlediler. Bazıları grup evlerinde yaşıyordu. Bazıları çok aşklıydı. Grup evlerinden birinde kalan Texas Üniversitesi profesörü Scott Aaronson, “Temelde sadece hippiler, Bayes teoremi hakkında orijinal hippilerden çok daha fazla bahsediyorlar” dedi.

Bu fikirleri lise yıllarında benimseyen Kelsey Piper için hareket, “çok hızlı değişen bir dünyada nasıl iyilik yapılacağını öğrenmekle ilgiliydi. ”

Evet, toplum A.I’yi düşündü, ama aynı zamanda sağlık hizmetlerinin fiyatını düşürmeyi ve hastalığın yayılmasını yavaşlatmayı da düşündü.

2013 yılında ortaya çıkan Slate Star Codex, tıbbi sistemde “kalibre edilmiş bir güven” geliştirmesine yardımcı oldu. Tanıdığı pek çok kişi, örneğin psikiyatristler tarafından kandırıldığını hissettiğini, örneğin kimlerin belirli bir tedavinin maliyetleri ve faydaları hakkında net olmadığını düşündüklerini söyledi.

Bu Rasyonalist yol değildi.

“Birinin bu fikirlerin çoğunun nereden geldiğini ve birçok sorunun ne olduğunu açıklamasında gerçekten çekici bir şey var” dedi.

“Geleceği İcat Eden İnsanlar”

Sam Altman Kredi. . . The New York Times için Ian C. Bates

Geçen Haziran’da Rationalists and Slate Star Codex hakkında haber yaparken, Microsoft’tan bir milyar dolarlık bir yapay zeka laboratuvarı olan OpenAI’nin CEO’su Sam Altman’ı aradım. Bloga övgüde coşkulu davrandı.

Teknoloji endüstrisinde “geleceği icat eden insanlar” arasında temel bir okuma olduğunu söyledi.

Start-up hızlandırıcısı Y Combinator’ın başkanı olarak öne çıkan Sayın Altman, kapatmadan önce diğer konulara geçti. Ama geri aradı. 2014’te blogda çıkan bir makale hakkında konuşmak istedi.

Deneme, Scott Alexander olarak yazan Bay Siskind’in “Mavi Kabile” olarak tanımladığı şeyin bir eleştirisiydi. “Gey haklarını desteklemek” ve “cinsiyetçiler ve bağnazlar hakkında bariz bir şekilde üzülmek” gibi özellikleri olan, siyasi yelpazenin liberal ucundaki insanlardı. ”

Ancak Slate Star Codex’in arkasındaki adamın gördüğü gibi, Blue Tribe’ın tahammül edemeyeceği bir grup vardı: Blue Tribe ile aynı fikirde olmayanlar. “Şimdi kulağa o kadar asil gelmiyor, değil mi?” o yazdı.

Bay Altman, makalenin büyük bir problemi çözdüğünü düşünüyordu: Cinsiyetçilik ve ırkçılığa karşı koruma sağlayan “internet çetesi” karşısında, girişimcilerin yeni fikirleri keşfetmek için daha az alanı vardı. Zeka artırma ve genetik mühendisliği gibi fikirlerinin çoğu, Mavi Kabile ile ters düştü.

Bay. Siskind, Mavi Kabile’nin bir üyesi değildi. Muhafazakar Kızıl Kabile’den bir ses değildi (“eşcinsel evliliğe karşı çıkmak”, “teröristler ve komünistler hakkında bariz bir şekilde üzülmek”). Kendisini Gri Kabile denen bir şeyle özdeşleştirdi – Silikon Vadisi’ndeki birçok kişi gibi.

Gri Kabile, özgürlükçü inançlar, ateizm, “eşcinsel hakları sorununun ortaya çıkmasıyla ilgili belirsiz rahatsızlık” ve “birçok blog okuma” ile karakterize edildi. En önemlisi, mutlak ifade özgürlüğüne inanıyordu.

Bay Altman, bu kabilelerle ilgili makalenin Silikon Vadisi için bir dönüm noktası olduğunu söyledi. “İnsanların çok çok konuştuğu bir andı” dedi.

İsimlerden bahsetmedi. Ancak Slate Star Codex, Y Combinator’ın kurucusu Paul Graham’dan bir onay aldı. Hızlandırıcıdan ortaya çıkan milyar dolarlık start-up olan Stripe’ın CEO’su Patrick Collison tarafından okundu. Marc Andreessen ve Ben Horowitz gibi risk sermayedarları blog’u Twitter’da takip etti.

Ve bazı açılardan, dünyanın önde gelen iki A.I laboratuvarı – teknoloji endüstrisinin en iddialı ve potansiyel olarak güçlü projelerinden bazılarını ele alan kuruluşlar – Rasyonalist hareketten doğdu.

2005 yılında PayPal’ın kurucu ortağı ve Facebook’un ilk yatırımcısı Peter Thiel, Bay Yudkowsky ile arkadaş oldu ve MIRI’ye para verdi. 2010 yılında, Bay Thiel’in San Francisco şehir evinde, Bay Yudkowsky onu Shane Legg ve Demis Hassabis adlı bir çift genç araştırmacı ile tanıştırdı. O sonbaharda, Bay Thiel’in firmasının yatırımıyla ikisi, DeepMind adında bir A. I. laboratuvarı oluşturdu.

Rasyonalistler gibi, A.’nın insanlığa karşı dönebileceğime inandılar ve bu inancı taşıdıkları için, onu güvenli bir şekilde inşa etmeye hazır olanların sadece kendileri olduğunu hissettiler.

2014 yılında Google, DeepMind’ı 650 milyon dolara satın aldı. Ertesi yıl, A.I’in dünyayı yok edebileceğinden endişelenen ve Rasyonalist bir düşünce deneyine ilgi duydukları için ortağı Grimes ile tanışan Elon Musk, bir DeepMind rakibi olarak OpenAI’yi kurdu. Her iki laboratuvar da Rasyonalist topluluktan işe alındı.

Gri Kabile’de Yaşam

Sadık okuyucular, Slate Star Codex’in cazibesinin bir kısmının, Bay Siskind’in kabul edilebilir konuların dışına çıkma isteğiydi. Ancak, birçok kişinin gerçekten neye inandığını merak etmesine neden olan, sözlü, genellikle dolambaçlı bir şekilde yazdı.

Texas Üniversitesi profesörü Bay Aaronson, Rasyonalistlerin daha katı ve aykırı inançları yüzünden geri çevrildi, ancak o blogun en büyük savunucularından biri ve canlı yayın konularından kaçınmadığı için derinden hayran kaldı.

“Scott için, sözde bir takma adla korunsa bile, modern dünyanın bazı önemli ideolojik sütunlarıyla ilgili düşüncelerini, kaygılarını ve sorularını bu kadar açık bir şekilde ifade etmesi inanılmaz cesaret gerektirmiş olmalı” dedi.

Onunla ilk temasa geçtiğimde Bay Siskind’i kızdıran o “yarı takma ad” ın korumasıydı. Bu makale için yorum yapmayı reddetti.

Bilimi, felsefeyi ve A.I’yı araştırırken, medyanın erkeklerin genellikle kadınlar tarafından taciz edildiğini görmezden geldiğini savundu. Bazı feministleri Harry Potter kitaplarındaki kötülüğün vücut bulmuş hali olan Voldemort’a yakın bir şey olarak tanımladı. Olumlu eylemi “beyaz erkeklere karşı ayrımcılık yapmaktan ayırt etmenin zor olduğunu söyledi. “

Bir gönderide, “The Bell Curve” de ırk ve I.Q. arasında bir bağlantı öneren Charles Murray ile aynı çizgiye geldi. Bir başkasında, Bay Murray’in Siyahların “genetik olarak beyazlardan daha az zeki olduklarına inandığına işaret etti. ”

Curtis Yarvin tarafından popülerleştirilen anti-demokratik, genellikle ırkçı hareketi, yeni tepkiyicileri kınadı. Ama onlara bir platform da verdi. Onun “blog rulosu” – onayladığı bloglar – ırk, genetik ve zeka üzerine yazıları beyaz milliyetçiler tarafından benimsenen İngiliz filozof Nick Land’in çalışmalarını içeriyordu.

2017 yılında, Bay Siskind, “Cinsiyet Dengesizlikleri Çoğunlukla Saldırgan Tutumlardan Kaynaklanmıyor” başlıklı bir makale yayınladı. “Bilgisayar bilimcilerinin, matematikçilerin ve diğer grupların ağırlıklı olarak erkek olmasının ana nedeni, endüstrilerin cinsiyetçi olması değil, kadınların katılmaya daha az ilgi duymasıydı.

O hafta, James Damore adlı bir Google çalışanı, şirketteki teknik pozisyonlardaki kadınların sayısının düşük olmasının başka bir şeyin değil biyolojik farklılıkların bir sonucu olduğunu savunan bir not yazdı – daha sonra kovulduğu bir not. Reddit’teki bir Slate Star Codex okuyucusu, blogdaki yazılarla benzerliklere dikkat çekti.

Bay Siskind, Scott Alexander olarak gönderi yayınlayarak, bu okuyucuyu onu sakinleştirmeye çağırdı. “Denediğin şeye büyük saygı duy, ama oldukça mahkum,” diye yazdı. “Gerçekten de beyaz bir ata biniyor ve üzerinde” ÇEŞİTLİLİK ÖNLEME MANİFESTOSU “yazılı bir kağıt sallıyorsanız, sadece bir sonraki tasfiye turu için gerekçe sağlamış olursunuz. ”

Kim Güvenli Bir Alana İhtiyaç Duyar?

2013 yılında Bay Thiel, Bay Yarvin tarafından kurulan bir teknoloji şirketine yatırım yaptı. Yatırımda o zamanlar genel bir ortak olan Balaji Srinivasan tarafından yönetilen risk sermayesi şirketi Andreessen Horowitz de aynı şeyi yaptı.

O yıl, teknoloji haber sitesi TechCrunch, yeni tepkiler, Akılcılar ve Silikon Vadisi arasındaki bağlantıları araştıran bir makale yayınladığında, Bay Yarvin ve Bay Srinivasan e-postaları alıp sattılar. Bay Srivivasan, bu tür bir hikayenin ilgi görmesine izin veremeyeceklerini söyledi. Bu, 2020 yazında Bay Siskind’e yaklaştığımda ortaya çıkacağını göreceğim bir tavrın önizlemesiydi. (Yorum için Bay Srinivasan’a ulaşılamadı.)

Bay Srivivasan, “İşler kızışırsa, Karanlık Aydınlanma seyircisini savunmasız tek bir düşman muhabire * reklamcılarına * / arkadaşlarına / bağlantılarına * gönderilen düşmanca haberlerle ters yüz etmeleri için kandırmak ilginç olabilir,” dedi. The Times tarafından yeni-tepki hareketi ile eşanlamlı olan “Karanlık Aydınlanma” terimi kullanılarak görüntülenen bir e-posta.

Ancak Bay Thiel gibi diğerleri, meslektaşlarını sessiz kalmaya çağırdı ve e-postalarda basının uzak duracağından emin olduklarını söylediler. Onlar haklıydı.

Geçen yılın Haziran ayı sonlarında, OpenAI CEO’su Bay Altman ile konuştuktan kısa bir süre sonra, Rasyonalist yol ve bunun Silikon Vadisi üzerindeki etkisi hakkındaki görüşlerini almak umuduyla Scott Alexander olarak bilinen yazara başvurdum. Blogun kaybolduğu zamandı.

Sorun benim için açıktı, ona yazdığı anonimliği garanti edemeyeceğimi söylememdi. Aslında, gerçek adını bulmak kolaydı çünkü insanlar onu yıllarca internette paylaşmıştı ve o bunu bilimsel bir dergi için yazdığı bir parçada kullanmıştı. Scott Alexander için bir Google araması yaptım ve otomatik tamamlama listesinde gördüğüm ilk sonuçlardan biri Scott Alexander Siskind oldu.

Bay Siskind, Slate Star Codex’te gece geç saatlerde yaptığı bir gönderide, The New York Times tam adını açıklamakla tehdit ettiği için blogunu internetten kaldıracağını söyledi. Bunun kendisini ve hastalarını tehlikeye atacağını çünkü çevrimiçi olarak birçok düşmanı cezbettiğini söyledi.

Ertesi sabah, veda notunda adı geçen editörümün yaptığı gibi bir çevrimiçi taciz seline uyandım. Adresim ve telefon numaram, blogun okuyucuları tarafından Twitter’da paylaşıldı. Slate Star Codex’in arkasındaki adamın kimliğini korumak, Akılcılar arasında bir davaya dönüşmüştü.

7.500’den fazla kişi, teknoloji sektörünün önde gelen isimleri de dahil olmak üzere The Times’ı adını yayınlamamaya çağıran bir dilekçe imzaladı. Dilekçe sahipleri, “The Times’da tam adını yazan özel vatandaşların düşüncelerini blog şeklinde paylaşmalarını engelleyerek kamusal söylemlere anlamlı bir şekilde zarar verir. “İnternette, Silikon Vadisi’ndeki pek çok kişi, herkesin sadece istediğini söyleme hakkına sahip olmadığını, aynı zamanda anonim olarak da söylediğine inanıyor.

Tüm bunların arasında, Lozan’daki İsviçre Federal Teknoloji Enstitüsü’nde sosyal ağları araştıran bir bilgisayar bilimi araştırmacısı olan Manoel Horta Ribeiro ile konuştum. Diğer topluluklar gibi Slate Star Codex’in aşırılıkçı görüşlerin etkili teknoloji dünyasına sızmasına izin verdiğinden endişeliydi. “Böyle bir topluluk, sınır gruplara ses veriyor” dedi. “Daha aşırı görüşlere sahip insanlara bir platform sağlıyor. ”

Ancak Kelsey Piper ve diğerleri için asıl mesele isme geldi ve profesyonel ve yasal olarak Scott Siskind olarak bilinen adamı, Scott Alexander gibi etkili ve tartışmalı yazılarına bağladı. Vox haber sitesi için kendisi de gazeteci olan Bayan Piper, yazdığı her şeye katılmadığını, ancak blogunun haksız bir şekilde radikal görüşlere bir rampa olarak çizildiğini hissettiğini söyledi. Görüşlerinin tek bir gazete haberine indirgenemeyeceğinden endişeliydi.

Amacımın blog ve Akılcılar hakkında titizlikle ve adaletli bir şekilde haber yapmak olduğuna dair güvence verdim. Ancak hem eleştirmenleri hem de destekçileri tartışmanın haksızlık olabileceğini düşünüyordu. Yapmam gereken şeyin, istatistiksel olarak hangi tarafın doğru olduğunu bir şekilde kanıtlamak olduğunu söyledi.

OpenAI’den Bay Altman’a, Slate Star Codex gibi sitelerdeki sohbetin insanları zehirli inançlara itip itemeyeceğini sorduğumda, bu endişeler için “biraz empati” yaptığını söyledi. Ancak, “insanların fikirleri tartışmak için bir foruma ihtiyacı var. ”

Ağustos ayında, Bay Siskind eski blog gönderilerini internete geri yükledi. Ve iki hafta önce, blogunu hem Andreessen Horowitz hem de Y Combinator ile bağlantılı bir şirket olan Substack’te yeniden başlattı. Bloga yeni bir başlık verdi: Astral Codex Ten. Substack’in kendisine platformda bir yıl boyunca 250.000 dolar ödediğini ima etti. Ve şirketin kendisine ihtiyacı olan tüm korumayı vereceğini belirtti.

Bay Siskind ilk gönderisinde tam adını paylaştı.