Google Araştırmacısı, A.I.’de Kağıt Vurgulama Önyargısı Üzerine Kovulduğunu Söyledi.

Saygın bir Google araştırmacısı, şirketin azınlıkların işe alımına yaklaşımını ve günümüzün yapay zeka sistemlerinde yerleşik önyargıları eleştirdikten sonra şirket tarafından kovulduğunu söyledi.

Google’ın Etik A. I. ekibinin eş liderlerinden biri olan Timnit Gebru, Çarşamba akşamı bir tweet’te şirket çalışanlarının da bulunduğu bir gruba bir gün önce gönderdiği bir e-posta nedeniyle kovulduğunu söyledi.

The New York Times tarafından incelenen e-postada, Google’ın ve diğer çalışanların azınlıkların işe alımını artırma ve yapay zekadaki önyargıya dikkat çekme çabalarına verdiği tepkiden ötürü bıktığını ifade etti.

“Yeterince temsil edilmeyen insanları savunmaya başladığınızda hayatınız daha da kötüye gidiyor. E-postada diğer liderleri üzmeye başlıyorsunuz ”diyordu. “Daha fazla belgenin veya daha fazla konuşmanın bir şey başarması mümkün değil. ”

Google’dan ayrılması, Google’ın açık sözlü iş gücü ile düğmeli üst yönetimi arasında artan gerilimin altını çizerken, şirketin adil ve güvenilir teknoloji geliştirme çabalarına ilişkin endişeleri artırıyor. Aynı zamanda hem Siyah teknoloji çalışanları hem de Silikon Vadisi’ndeki yüksek ücretli işler için son yıllarda akademiden ayrılan araştırmacılar üzerinde caydırıcı bir etkisi olabilir.

Stanford Dijital Sivil Toplum Laboratuvarı’ndan Mutale Nkonde, “İşten çıkarılması sadece bu alanda çalışmak isteyen ve Siyah kadınlar olan bilim adamlarının, aktivistlerin ve akademisyenlerin Silikon Vadisi’nde hoş karşılanmadığını gösteriyor” dedi. Bu çok hayal kırıklığı yaratıyor. ”

Bir Google sözcüsü yorum yapmayı reddetti. Google çalışanlarına gönderilen bir e-postada, Dr. Gebru ve ekibininki de dahil olmak üzere Google’ın yapay zeka çalışmalarını denetleyen Jeff Dean, ayrılışını “özellikle dahil olduğu önemli araştırma konuları ve ne kadar derinden olduğumuz göz önüne alındığında zor bir an Kuruluş ve şirket olarak sorumlu yapay zeka araştırmasına önem verir. ”

Çalışanların şirket genelindeki toplantılarda ve çevrimiçi mesaj panolarında özgürce tartışmalara katıldığı yıllarca süren her şeyden sonra, Google iş yeri söylemini yavaşlatmaya başladı. Pek çok Google çalışanı yeni kısıtlamalara kızdı ve şirketin şeffaflık ve özgür tartışma geleneğinden koptuğunu savundu.

Çarşamba günü, Ulusal Çalışma İlişkileri Kurulu, Google’ın işçi örgütlenmesinde yer alan iki çalışanı işten attığında büyük olasılıkla iş yasasını ihlal ettiğini söyledi. Federal kurum, Google’ın çalışanları kovmadan önce yasadışı olarak gözetlediğini söyledi.

Google’ın son yıllarda şirketin cinsel tacizi ele alması ve Savunma Bakanlığı ve federal sınır kurumlarıyla yaptığı çalışmalar hakkında konuşan işçileriyle yaptığı savaşlar, cömert maaşları ve ikramiyeleri olan teknoloji çalışanları için bir ütopya olarak itibarını azalttı. ve işyeri özgürlüğü.

Diğer teknoloji şirketleri gibi Google da kendi saflarında kadın ve ırksal azınlık eksikliğini gidermek için yeterince şey yapmadığı için eleştirilere maruz kaldı.

Irksal eşitsizlik sorunları, özellikle teknoloji şirketlerinde Siyah çalışanlara kötü muamele edilmesi, Silikon Vadisi’ni yıllardır rahatsız ediyor. En değerli kripto para birimi başlangıcı olan Coinbase, son iki yılda işçilerin ırkçı ve ayrımcı muamele olduğunu söyledikleri için Siyah çalışanların göçü yaşadı.

Araştırmacılar, yapay zeka sistemleri oluşturan kişilerin teknolojiye kendi önyargılarını inşa ediyor olabileceğinden endişe ediyor. Geçtiğimiz birkaç yıl içinde, birkaç halka açık deney, sistemlerin genellikle renkli insanlarla farklı şekilde etkileşime girdiğini göstermiştir – belki de bu sistemleri yaratan geliştiriciler arasında yeterince temsil edilmedikleri için.

37 yaşındaki Dr. Gebru, Etiyopya’da doğdu ve büyüdü. 2018’de Stanford Üniversitesi’nde bir araştırmacı iken, yapay zekadaki önyargıyı belirleme ve ortadan kaldırma çabalarında yaygın olarak bir dönüm noktası olarak görülen bir makalenin yazılmasına yardımcı oldu. O yıl Google’a katıldı ve Etik A. I. ekibinin kurulmasına yardım etti.

Dr. Gebru gibi araştırmacıları işe aldıktan sonra, Google kendini “etik” A’ya adanmış bir şirket olarak resmetti.

The Times ile yaptığı röportajda Dr. Gebru, öfkesinin, dördü Google’da olmak üzere altı başka araştırmacı ile birlikte yazdığı bir araştırma makalesine şirketin yaptığı muameleden kaynaklandığını söyledi. The Times tarafından da incelenen makale, şirketin arama motorunun temelini oluşturan Google tarafından oluşturulmuş bir sistem de dahil olmak üzere yeni nesil dil teknolojisindeki kusurları ortaya koydu.

Bu sistemler, binlerce kitap, Wikipedia girişi ve diğer çevrimiçi belgeler dahil olmak üzere muazzam miktarda metni analiz ederek dilin belirsizliklerini öğrenir. Bu metin önyargılı ve bazen nefret dolu bir dil içerdiğinden, teknoloji önyargılı ve nefret dolu bir dil üretebilir.

Dr. Gebru, kendisi ve diğer araştırmacılar makaleyi akademik bir konferansa gönderdikten sonra, bir Google yöneticisinin ya konferanstan makaleyi geri çekmesini ya da adını ve diğer Google çalışanlarının adlarını kaldırmasını istediğini söyledi. Daha fazla tartışma olmaksızın bunu yapmayı reddetti ve Salı akşamı gönderilen e-postada, şirketin neden gazeteyi geri çekmesini ve diğer endişelerini yanıtlamasını istediğini açıklayamazsa uygun bir süre sonra istifa edeceğini söyledi.

Şirketin e-postasına, taleplerini karşılayamadığını ve istifasının hemen kabul edildiğini söyleyerek yanıt verdiğini söyledi. Şirket e-postasına ve diğer hizmetlere erişimi derhal iptal edildi.

Çalışanlara yazdığı notta Dean, Google’ın istifa kararına saygı duyduğunu söyledi. Sayın Dean ayrıca, makalenin bu tür sistemlerdeki önyargıyı azaltmanın yollarını gösteren son araştırmaları kabul etmediğini söyledi.

Dr. Gebru, “İnsanlıktan çıkarıcıydı” dedi. Araştırmamızı kapatmak için sebepleri olabilir. Ama en üzücü olan şey, neden hakkında tartışmayı reddetmeleridir. ”

Dr. Gebru’nun Google’dan ayrılması, A. I. teknolojisinin Google’ın işlerinin hemen hemen her alanında daha büyük bir rol oynadığı bir zamanda gerçekleşti. Şirket, gelecek nesil hizmetleri ve cihazları daha akıllı ve daha yetenekli hale getirmek için çığır açan bir teknoloji olarak, ister sesle etkinleştirilen dijital asistanı ister pazarlamacılar için otomatik reklam yerleştirmesi ile geleceğini yapay zekaya bağladı.

Google’ın ana şirketi Alphabet’in CEO’su Sundar Pichai, yapay zekanın ortaya çıkışını elektrik veya ateşle karşılaştırdı ve bunun şirketin ve bilgi işlemin geleceği için gerekli olduğunu söyledi. Bu yılın başlarında, Bay Pichai, toplumun potansiyel zararları yeni fırsatlarla dengelemesi gerektiğini savunarak yapay zekanın daha fazla düzenlenmesi ve sorumlu bir şekilde kullanılması çağrısında bulundu.

Google, sistemlerindeki önyargıyı ortadan kaldırmayı defalarca taahhüt etmiştir. Dr. Gebru, sorunun nihai kararları veren insanların çoğunun erkek olması olduğunu söyledi. “Azınlık topluluklarından daha fazla insanı işe almaya öncelik vermekte başarısız olmuyorlar, seslerini de bozuyorlar” dedi.

University College London’da fahri doçent olan ve Google ile aynı ana şirkete ait önemli bir yapay zeka laboratuvarı olan DeepMind’de eski bir araştırmacı olan Julien Cornebise, Dr.Gebru’nun ayrılışının sektördeki daha büyük bir sorunu yansıttığını söyleyen birçok yapay zeka araştırmacısı arasındaydı. .

“Bu, bazı büyük teknoloji şirketlerinin yalnızca etik ve adaleti ve diğer A.I. -sosyal fayda için, olumlu P.R. etkisi getirdikleri ekstra incelemeden ağır bastığı sürece nasıl desteklediğini gösteriyor” dedi. Timnit harika bir araştırmacı. Alanımızda onun gibi daha fazlasına ihtiyacımız var. ”