Çin Müslümanları İzlerken Alibaba da Müşterilerine Nasıl Yapabileceklerini Gösterdi

Çin hükümeti, ağırlıklı olarak Müslüman azınlık gruplarının üyelerini takip edip onlara zulmederken, teknoloji devi Alibaba kurumsal müşterilerine nasıl rol oynayacaklarını öğretti.

Alibaba’nın bulut bilişim işi için web sitesi, gözetim endüstrisi yayını IPVM tarafından keşfedilen ve The New York ile paylaşılan sitedeki sayfalara göre, müşterilerin yazılımını kullanarak Uygurların ve diğer etnik azınlıkların yüzlerini görüntüler ve videolar içinde nasıl tespit edebileceklerini gösterdi. Zamanlar. Bu özelliğin, web platformlarının terörizm, pornografi ve diğer kırmızı bayrak kategorileriyle ilgili materyaller için dijital içeriği izlemesine yardımcı olan Alibaba yazılımına yerleştirildiğini söyledi.

Keşif, dünyanın en değerli internet şirketlerinden birini Çin’in Müslüman azınlıklara yönelik muamelesini çevreleyen uluslararası kınama fırtınasına sürükleyebilir.

Çin hükümeti, terörle mücadele kampanyası olarak adlandırdığı kampanyanın bir parçası olarak yüz binlerce Uygur ve diğerlerini beyin yıkama kamplarına süpürdü. Ayrıca, yüz tanıma ve genetik testleri kullanarak onları izlemek için geniş bir gözetim ekipmanı başlattı. Amerika Birleşik Devletleri hükümeti, diğerlerinin yanı sıra programı kınadı ve dahil olduğuna inanılan Çinli şirketleri cezalandırdı.

Alibaba’nın müşterilerinin azınlık algılama aracını kullanıp kullanmadıkları veya nasıl kullandıkları belirlenemedi. Ancak rahatsız edici kullanım potansiyeli yüksektir. Örneğin, bir sosyal medya platformu, yazılımın Uygur olduğunu tahmin ettiği yüzler içeriyorsa, videoları ek inceleme için otomatik olarak işaretleyebilir veya hatta yetkilileri uyarabilir.

The Times, Alibaba’ya bu hafta araç hakkında soru sorduktan sonra, şirket web sitesini Uygur ve azınlık yüzlerine yapılan göndermeleri kaldırmak için düzenledi.

Alibaba Cloud temsilcisi yazılı bir açıklamada, “Etnik köken ifadesi, teknik kapasitemizin araştırılması sırasında bir test ortamında kullanılan bir özelliği / işlevi ifade ediyor” dedi. “Test ortamı dışında asla kullanılmadı. ”

Şirket, testi hakkında daha fazla bilgi vermeyi veya özellikle yazılımın resmi belgelerinde bu özellikle ilgili bilgilerin neden bulunduğunu açıklamayı reddetti. Ayrıca, etnik azınlık yüzlerini tespit etmek için kullanılan araçları neden test ettiği konusunda yorum yapmayı da reddetti.

Alibaba, dünya çapında erişime sahip Çinli bir kurumsal devdir. Bu belki de Amazon’un tek küresel eşidir; lojistik, market ürünleri, gerçek mekanda perakende ve bulut hizmetlerine yayılan bir dijital ticaret devidir. Alibaba’nın hisseleri New York Borsası’nda işlem görüyor ve büyük uluslararası yatırımcılara ait. Nike, Starbucks ve Ralph Lauren gibi küresel markalar, Çinli müşterilere satış yapmak için platformlarını kullanıyor. Alibaba, Olimpiyat Oyunları’nın resmi bulut hizmetleri ortağıdır.

Ancak Trump yönetimi, Çinli teknoloji şirketlerini, özellikle de birçok Uygur’a ev sahipliği yapan batı Çin bölgesi Sincan’da insan hakları ihlallerine katılıyor olarak görülenleri giderek artan bir şüpheyle gördü.

Geçen yıl yönetim, güvenlik kamerası üreticileri ve yapay zeka start-up’ları üreticileri de dahil olmak üzere 28 Çinli şirketi, baskıdaki rolleriyle ilgili endişeler üzerine bir ticaret kara listesine ekledi. Geçen ay Beyaz Saray, Çinli işletmelerin Amerikan sermaye piyasalarına erişimini kesmeye yönelik bir adım olarak, Amerikalıların Çin ordusuyla bağlantılı şirketler listesine yatırım yapmasını yasakladı.

Çinli yetkililer, Sincan’daki kampanyayı aşırılıkçılıkla mücadelenin ölümcül olmayan bir yolu olarak savundu. Amerikalı yetkililerin eleştirilerini saptırmak için Amerika Birleşik Devletleri’ndeki ırksal gerilimlere işaret ettiler.

Gözetim teknolojisi, Çin’in çabaları açısından çok önemli olmuştur. Ülke nüfusunun büyük çoğunluğu Han etnik kökenlidir. Ancak diğer etnik grupların üyeleri, yazılımın onları ayırt etmesini kolaylaştırmak için Han Çinlilerinden yeterince farklı görünebilir.

Sincan’da, çoğunluğu Müslüman olan birçok Uygur’a ev sahipliği yapan bir cami. Alibaba, yüz tanıma yazılımının yalnızca test ortamında kullanıldığını söyledi. Kredi. . . Gilles Sabrié, The New York Times için

Washington Post, geçen hafta bir başka Çinli teknoloji devi olan Huawei’nin, güvenlik kameraları Uygur yüzlerini algıladığında polisi otomatik olarak uyarabilecek bir yazılımı test ettiğini bildirdi. Huawei’in web sitesinde bulunan bir belgeye atıfta bulunan Post’un haberi, Fransız futbol yıldızı Antoine Griezmann’ın şirketle bağlarını kesmesine yol açtı. Huawei’nin akıllı telefonlarının marka elçisi olmuştu.

Bir Huawei sözcüsü The Post’a aracın “sadece bir test” olduğunu söyledi. ”

Yüz tanıma teknolojisi birçok yerde etik zorluklar ortaya çıkarmıştır. Amerika Birleşik Devletleri’nde, potansiyel yanlışlık ve önyargı, bazı yerel yönetimlerin teknolojinin kanun yaptırımı amacıyla kullanımını engellemesine neden oldu. Amazon bu yıl, polis departmanlarının yüz tanıma hizmetini milletvekillerinin daha güçlü düzenlemeleri dikkate almalarına izin vermek için bir yıl boyunca kullanmalarına izin vermedi.

Teknolojinin Çin’de yayılma yolları daha sert soruları gündeme getirdi.

Bu haftadan önce, Alibaba’nın web sitesi Uygurların ve diğer azınlıkların yüzlerini tespit etmeye yönelik araçların “içerik güvenliği” hizmetinin bir parçası olduğunu söylemişti. Hizmet, Alibaba’nın bulut müşterilerinin dijital platformlarına yüklenen görüntüler, videolar, metinler ve belgelerdeki potansiyel olarak riskli materyalleri işaretlemesine yardımcı oluyor.

Alibaba’nın web sitesi, “Devlet yönetmeliği gün geçtikçe daha katı hale geldikçe, bunlar tüm web sitelerinin ve platformların acilen halletmesi ve ciddiye alması gereken görevler,” diye açıklıyor. Şirket, Çin’in önde gelen bulut hizmetleri sağlayıcısı ve Çin’de çevrimiçi operasyonları olan uluslararası şirketlerin ortağıdır.

Alibaba web sitesine göre, içerik güvenliği hizmeti sabit resimler ve videolar kullanarak “hassas kişilerin yüz tanıma” işlemini gerçekleştirebilir. Web sitesinin açıklamalarına göre, bir yüz görüntüsü verildiğinde, yazılım, kişinin gözlük mü takıyor yoksa gülümsüyor mu gibi özellikleri arayabilir.

Alibaba bu açıklamaları bu hafta düzenlemeden önce, yazılımın diğer iki özelliği de değerlendirebileceğini söylemişlerdi: bir kişinin “Asya” kökenli olup olmadığı ve bir “azınlık” olup olmadığı – ki bu, bir başkasının açıklaması olarak Parantez içinde eklenen, Uygurlara atıfta bulunan sayfa.

Şirketin aynı yazılıma yönelik İngilizce çevrimiçi belgelerinde etnik azınlıkların tespit edilmesinden bahsedilmiyordu, bu da özelliğin esas olarak Çinli müşterilerin kullanımı için tasarlandığının olası bir göstergesi.

Alibaba, otomatik ırksal profil oluşturma araçlarını tanıtma konusunda Çin’de yalnız değildi.

Başka bir Çinli bulut sağlayıcısı olan Kingsoft Cloud, web sitesinde, diğer özelliklerin yanı sıra “yarışı” tahmin etmek için bir yüz görüntüsünü kullanabilen teknolojisini açıklamıştı. Kingsoft Cloud’un web sitesinde IPVM tarafından keşfedilen ve The Times ile paylaşılan bir sayfaya ve belgeye göre, şirketin yazılımı bir kişinin ırkının “Uygur” veya “Uygur olmayan” olup olmadığını değerlendirebiliyordu. “

The Times, Kingsoft Cloud’a yazılım hakkında sorular sorduğunda, şirket bu sayfaları web sitesinden temizledi. Yazılı bir açıklamada, söz konusu aracın hiç müşterilere satılmadığını ve Uygur yüzlerini ayırt edemediğini söyledi.

Açıklamada, yazılımın şirketin dahili inceleme süreçlerini geride bıraktığı ve şirketin uygun bir gözetim sağlamak için bu mekanizmaları değerlendirdiği belirtildi.

Açıklamada, “Herhangi bir ırk temelinde etiketleme uygunsuz ve Kingsoft Cloud’un politikaları ve değerleri ile tutarsızdır” denildi. “Ürünlerimiz asla belirli etnik grupları tanımlama ve etiketleme girişimlerini içermeyecektir. ”

Kingsoft Cloud, Nasdaq borsasında listelenmiştir.

Aaron Krolik haberciliğe katkıda bulundu ve Lin Qiqing araştırmaya katkıda bulundu.