Yüz Tanıma Sistemlerinin Fotoğraflarınızı Kullanıp Kullanmadığını Öğrenmenin Bir Yolu İşte

Teknoloji şirketleri, hükümetin gözetimini hızla yeniden oluşturan ve kişisel mahremiyetten kaçan yüz tanıma sistemlerini oluşturduğunda, beklenmedik bir kaynaktan, yüzünüzden yardım almış olabilirler.

Şirketler, üniversiteler ve devlet laboratuvarları, teknolojiyi geliştirmek için bir yığın çevrimiçi kaynaktan toplanan milyonlarca görüntü kullandı. Şimdi, araştırmacılar çevrimiçi bir araç olan Exposing’ı geliştirdiler. AI, insanların eski fotoğrafları için bu resim koleksiyonlarının çoğunda arama yapmasına olanak tanır.

Flickr çevrimiçi fotoğraf paylaşım hizmetinden gelen görüntüleri eşleştiren araç, yüz tanımadan çevrimiçi “sohbet robotlarına kadar çok çeşitli A.I teknolojileri oluşturmak için gereken büyük miktarda veriye bir pencere sunar. ”

Bir gizlilik ve sivil haklar grubu olan Surveillance Technology Oversight Project’in teknoloji direktörü olan Liz O’Sullivan, “İnsanların en samimi anlarından bazılarının silah haline getirildiğini fark etmeleri gerekiyor” dedi. Exposing’ın yaratılmasına yardım etti. Berlin’de bir araştırmacı ve sanatçı olan Adam Harvey ile yapay zeka.

Yapay zeka kullanan sistemler sihirli bir şekilde akıllı hale gelmez. Fotoğraflar, ses kayıtları, kitaplar, Wikipedia makaleleri ve diğer her türlü materyal gibi insanlar tarafından oluşturulan verilerdeki kalıpları belirleyerek öğrenirler. Teknoloji her geçen gün daha iyi hale geliyor, ancak kadınlara ve azınlıklara karşı insan önyargılarını öğrenebilir.

İnsanlar A. I. eğitimine katkıda bulunduklarını bilmeyebilirler. Bazıları için bu bir meraktır. Diğerleri için son derece ürkütücü. Ve yasalara aykırı olabilir. Illinois’deki 2008 yasası olan Biyometrik Bilgilerin Gizliliği Yasası, sakinlerin yüz taramalarının rızaları olmadan kullanılması halinde mali cezalar getirir.

2006 yılında, Britanya Kolumbiyası Victoria’dan bir belgesel film yapımcısı olan Brett Gaylor, balayı fotoğraflarını o zamanlar popüler bir hizmet olan Flickr’a yükledi. Yaklaşık 15 yıl sonra, Exposing’ın erken bir sürümünü kullanıyor. Bay Harvey tarafından sağlanan yapay zeka, o yüzlerce fotoğrafın dünya çapında yüz tanıma sistemlerini eğitmek için kullanılmış olabilecek birden fazla veri kümesine girdiğini keşfetti.

Brett Gaylor, bu balayı fotoğrafını yıllar önce Flickr’a yükledi ve dünya çapındaki laboratuarlarda yüz tanıma eğitimi için kullanılmış olabilir. Kredi. . . Brett Gaylor aracılığıyla

Yıllar içinde birçok şirket tarafından alınıp satılan ve şimdi fotoğraf paylaşım hizmeti SmugMug’a ait olan Flickr, kullanıcıların fotoğraflarını Creative Commons lisansı adı altında paylaşmalarına olanak tanıdı. İnternet sitelerinde yaygın olan bu lisans, başkalarının fotoğrafları belirli kısıtlamalarla kullanabileceği anlamına geliyordu, ancak bu kısıtlamalar göz ardı edilmiş olabilir. 2014 yılında, o sırada Flickr’ın sahibi olan Yahoo, bu fotoğrafların çoğunu bilgisayarla görme çalışmalarına yardımcı olmak amacıyla bir veri kümesinde kullandı.

Bay. 43 yaşındaki Gaylor, fotoğraflarının nasıl bir yerden bir yere sıçramış olabileceğini merak etti. Ardından, fotoğrafların Amerika Birleşik Devletleri ve diğer ülkelerdeki izleme sistemlerine katkıda bulunmuş olabileceği ve bu sistemlerden birinin Çin’in Uygur nüfusunu izlemek için kullanıldığı söylendi.

Merakım dehşete dönüştü, dedi.

Balayı fotoğraflarının Çin’de gözetleme sistemlerinin kurulmasına nasıl yardımcı olduğu, bazı açılardan, istenmeyen – veya beklenmeyen – sonuçların hikayesidir.

Yıllar önce, önde gelen üniversitelerdeki ve teknoloji şirketlerinden A.I. araştırmacıları, fotoğraf paylaşım hizmetleri, sosyal ağlar, OkCupid gibi tanışma siteleri ve hatta üniversite dörtlülerine kurulu kameralar dahil olmak üzere çok çeşitli kaynaklardan dijital fotoğraflar toplamaya başladı. Bu fotoğrafları diğer kuruluşlarla paylaştılar.

Araştırmacılar için sadece norm buydu. Hepsinin yeni A.I sistemlerini beslemek için veriye ihtiyacı vardı, bu yüzden sahip olduklarını paylaştılar. Genellikle yasaldı.

Bir örnek, 2015 yılında Washington Üniversitesi’ndeki profesörler tarafından oluşturulan bir veri kümesi olan MegaFace idi. Bunu, görüntülerini muazzam fotoğraf havuzuna kattıkları insanların bilgisi veya izni olmadan inşa ettiler. Profesörler, başkalarının indirebilmesi için bunu internette yayınladı.

MegaFace, New York Times kamu kayıtları talebine göre, dünya çapındaki şirketler ve devlet kurumları tarafından 6.000’den fazla kez indirildi. Bunlar arasında ABD savunma müteahhidi Northrop Grumman; Merkezi İstihbarat Teşkilatı’nın yatırım kolu In-Q-Tel; Çin sosyal medya uygulaması TikTok’un ana şirketi ByteDance; ve Çinli gözetim şirketi Megvii.

Araştırmacılar, yüz tanıma sistemlerinin gelişimini teşvik etmek amacıyla akademik bir yarışmada kullanılmak üzere MegaFace’i inşa ettiler. Ticari kullanım için tasarlanmamıştır. Ancak MegaFace’i halka açık olarak indirenlerin sadece küçük bir yüzdesi yarışmaya katıldı.

Washington Üniversitesi sözcüsü Victor Balta, “Üçüncü taraf projelerini tartışacak durumda değiliz” dedi. “MegaFace kullanımdan kaldırıldı ve MegaFace verileri artık dağıtılmıyor. “

Verileri indirenlerden bazıları yüz tanıma sistemleri kurdu. Megvii, Çin hükümetinin ülkedeki Uygur nüfusunu izlemek için teknolojisini kullanmasının ardından geçen yıl Ticaret Bakanlığı tarafından kara listeye alınmıştı.

Washington Üniversitesi Mayıs ayında MegaFace’i çevrimdışına aldı ve diğer kuruluşlar diğer veri setlerini kaldırdı. Ancak bu dosyaların kopyaları herhangi bir yerde olabilir ve muhtemelen yeni araştırmaları besliyor olabilirler.

Bayan O’Sullivan ve Bay Harvey, tüm bu verilerin nasıl kullanıldığını açığa çıkarabilecek bir araç geliştirmek için yıllarını harcadılar. Beklediklerinden daha zordu.

Birinin fotoğrafını kabul etmek istediler ve yüz tanıma özelliğini kullanarak, bu veri kümelerinden birine yüzünün kaç kez dahil edildiğini anında o kişiye söylemek istediler. Ancak, böyle bir aracın kötü yollarla – takipçiler tarafından ya da şirketler ve ulus devletler tarafından – kullanılabileceğinden endişelendiler.

İşletmelerin A. I. teknolojilerinin davranışını yönetmesine yardımcı olan bir New York şirketi olan Arthur ile aynı zamanda sorumlu A. I.’in başkan yardımcısı olan Bayan O’Sullivan, “Zarar potansiyeli çok büyük görünüyordu” dedi.

Sonunda, insanların aracı nasıl arayabileceğini ve hangi sonuçları vereceğini sınırlamak zorunda kaldılar. Araç, bugün çalıştığı gibi, istedikleri kadar etkili değil. Ancak araştırmacılar, sorunu daha da kötüleştirmeden sorunun genişliğini ortaya çıkaramayacaklarından endişelendiler.

Açığa. AI’nın kendisi yüz tanımayı kullanmaz. Fotoğrafları yalnızca çevrimiçi olarak, örneğin bir internet adresiyle onlara göstermenin bir yolunu bulduğunuzda tespit eder. İnsanlar yalnızca Flickr’a gönderilen fotoğrafları arayabilir ve bu fotoğrafları tanımlayabilecek bir Flickr kullanıcı adı, etiketi veya internet adresine ihtiyaçları vardır. (Araştırmacılar, bunun uygun güvenlik ve gizlilik korumalarını sağladığını söyledi.)

Bu, aracın kullanışlılığını sınırlasa da, yine de bir göz açıcıdır. Flickr görüntüleri, MegaFace dahil olmak üzere internet üzerinden aktarılan yüz tanıma veri setlerinin önemli bir bölümünü oluşturur.

İnsanların kişisel bağları olduğu fotoğrafları bulmak zor değil. The Times, yalnızca Flickr bağlantıları için eski e-postalarda arama yaparak, Exposing’a göre fotoğrafları ortaya çıkardı. AI, MegaFace ve diğer yüz tanıma veri setlerinde kullanıldı.

Bazıları Google’da tanınmış bir güvenlik araştırmacısı olan Parisa Tabriz’e aitti. Yorum talebine cevap vermedi.

Bay Gaylor, araç aracılığıyla keşfettiklerinden özellikle rahatsız oldu çünkü bir zamanlar internetteki serbest bilgi akışının çoğunlukla olumlu bir şey olduğuna inanıyordu. Flickr’ı, fotoğraflarını Creative Commons lisansı aracılığıyla başkalarına kullanma hakkı verdiği için kullandı.

“Şimdi sonuçlarını yaşıyorum” dedi.

Onun umudu – ve Bayan O’Sullivan ve Bay Harvey’in umudu – şirketlerin ve hükümetin kişisel verilerin toplu olarak toplanmasını engelleyen yeni normlar, politikalar ve yasalar geliştirmesidir. Soruna ışık tutmak için balayı fotoğraflarının uzun, dolambaçlı ve ara sıra rahatsız edici yollarını anlatan bir belgesel yapıyor.

Bay. Harvey bir şeylerin değişmesi gerektiği konusunda kararlıdır. “Bunları mümkün olan en kısa sürede sökmemiz gerekiyor – daha fazla zarar vermeden önce,” dedi.