Ayda 29,99 dolara PimEyes adlı bir web sitesi, bilim kurgu dünyasından potansiyel olarak tehlikeli bir süper güç sunuyor: bir yüz arama yeteneği, aksi takdirde eskisi kadar belirsiz fotoğraflar bulma yeteneği. internetin uçsuz bucaksız dijital samanlığındaki atasözü iğnesi kadar güvenli.
Bir arama yalnızca birkaç saniye sürer. Bir yüzün fotoğrafını yüklersiniz, hizmet şartlarını kabul eden bir kutuyu işaretlersiniz ve ardından internette göründükleri yerlerin bağlantılarıyla birlikte benzer olduğu düşünülen yüzlerin bir fotoğrafını alırsınız. New York Times, güçlerini test etmek için bir düzine Times gazetecisinin yüzlerinde PimEyes’i kendi rızalarıyla kullandı.
PimEyes, aramayı yapmak için kullanılan görüntüde, güneş gözlüğü veya maske takarken veya yüzleri kameradan çevrilmiş olsa bile, gazetecilerin daha önce hiç görmedikleri her kişinin fotoğraflarını buldu. .
PimEyes, on yıl önce bir sanat müzesi etkinliğinde dans eden ve evlenme teklif edildikten sonra ağlayan bir muhabir buldu. . Bir teknoloji muhabirinin daha genç hali, 2011’deki Coachella müzik festivalinde hayranların garip bir çarpışması içinde görüldü. Her partinin hayatındaki sayısız düğün fotoğrafında ve bir başkasının çekilmiş bir fotoğrafının bulanık arka planında bir yabancı muhabir ortaya çıktı. 2019’da bir Yunan havalimanı. Bir gazetecinin bir rock grubundaki geçmiş hayatı ve bir başkasının tercih ettiği yaz kampı kaçamağı gün ışığına çıkarıldı.
Yalnızca kolluk kuvvetlerine sunulan benzer bir yüz tanıma aracı olan Clearview AI’nin aksine, PimEyes sosyal medya sitelerinden sonuçları içermez. PimEyes’in ortaya çıkardığı bazen şaşırtıcı görüntüler bunun yerine haber makalelerinden, düğün fotoğrafçılığı sayfalarından, inceleme sitelerinden, bloglardan ve pornografi sitelerinden geldi. Bir düzine gazetecinin yüzünün eşleşmelerinin çoğu doğruydu. Kadınlar için yanlış fotoğraflar genellikle pornografi sitelerinden geliyordu ve bu da kendileri olabileceği önerisini rahatsız ediyordu. (Açık olmak gerekirse, onlar değildi.)
Kimliğinin açıklanmamasını isteyen bir teknoloji yöneticisi, PimEyes’i, öncelikle kendisini Twitter’da taciz eden kişileri tespit etmek ve hesaplarında gerçek fotoğraflarını kullanıp gerçek adlarını kullanmamak için oldukça düzenli kullandığını söyledi. Anonim kalmasını isteyen başka bir PimEyes kullanıcısı, aracı pornografik filmlerdeki aktrislerin gerçek kimliklerini bulmak ve Facebook arkadaşlarının müstehcen fotoğraflarını aramak için kullandığını söyledi.
PimEyes’in yeni sahibi, ileri teknolojiye olan ilgisinin anavatanı Gürcistan’a Rus siber saldırılarının yol açtığını söyleyen 34 yaşındaki akademisyen Giorgi Gobronidze.
Bay Gobronidze, PimEyes’in insanların çevrimiçi itibarlarını takip etmelerine yardımcı olarak iyilik için bir araç olabileceğine inandığını söyledi. Örneğin, bir fotoğrafçının kullandığı fotoğrafı beğenmeyen gazeteci artık ondan fotoğrafı Yelp sayfasından çıkarmasını isteyebilir. Bay Gobronidze,
PimEyes kullanıcılarının yalnızca kendi yüzlerini veya onay veren kişilerin yüzlerini araması gerektiğini söyledi. Ancak, teknolojinin uzun süredir kalabalığın içinde anonim kalma yeteneğini erozyona uğratmasına karşı çok az koruma sağlayan, insanların “etik olarak” hareket etmelerine güvendiğini söyledi. PimEyes, kullanıcıların kendilerine ait olmayan bir yüzü aramasını engelleyecek hiçbir kontrole sahip değildir ve bir kullanıcıya, kötü düşünülmüş bir geceden gelen zarar verici fotoğrafların onu sonsuza kadar takip etmesini önlemek için yüksek bir ücret ödemesini önerir.
Bir gizlilik savunuculuğu grubu olan Avrupa Dijital Hakları’nda politika danışmanı olan Ella Jakubowska, “Ne derlerse desinler, tasarımı gereği bir takip yazılımıdır” dedi.
Yeni yönetim altında
Bay Gobronidze askeri çatışmanın gölgesinde büyüdü. Gürcistan’ın 1991’de Sovyetler Birliği’nden bağımsızlığını ilan etmesinin ardından çıkan iç savaş sırasında anaokulu bombalandı. 2008’de Rusya’nın işgali ve internetin kesilmesiyle ülke fiilen dünyadan koptu. Deneyimler, teknolojik egemenliğin ulusal güvenlikteki rolünü incelemesi için ona ilham verdi.
Avukat olarak çalıştıktan ve Gürcü Ordusunda hizmet verdikten sonra, Bay Gobronidze uluslararası ilişkiler alanında yüksek lisans derecesi aldı. Kariyerine 2014 yılında profesör olarak başladı ve sonunda halen ders vermekte olduğu Gürcistan’ın Tiflis kentindeki Avrupa Üniversitesi’ne girdi.
2017 yılında, Bay Gobronidze bir değişim programındaydı ve Polonya’daki bir üniversitede ders veriyordu. yüz arama motoru üzerinde çalışıyorlardı. Onlar “harika dehalar”, dedi, ancak halkın dikkatini çekmeyen “mutlak içe dönükler”.
Akademik araştırması için sonunda PimEyes olan yaratımları hakkında onunla konuşmayı kabul ettiklerini söyledi Bay Gobronidze. Arama motorlarının, bir yüzün özelliklerini benzer ölçümlere sahip yüzlerle eşleştirmek için nöral ağ teknolojisini nasıl kullandığını açıkladıklarını ve programın bir eşleşmeyi en iyi nasıl belirleyeceğini zamanla öğrenebildiğini söyledi.
“Onlarla ilk tanıştığımda Taş Devri’nden bir insan gibi hissettim” dedi Bay Gobronidze. “Bilim kurgu dinliyormuşum gibi.”
PimEyes, çoğunlukla sert çeşitlilikte medyada giderek daha fazla ilgi görmeye başladı. 2020’de PimEyes, isminin gizli kalmasını isteyen yeni bir sahibi olduğunu iddia etti ve şirket merkezi Polonya’dan popüler bir Afrika offshore vergi cenneti olan Seyşeller’e taşındı.
Bay Gobronidze, geçen yıl sitenin bu yeni sahibinin siteyi satmak istediğini “duyduğunu” söyledi. Bu yüzden hemen bir teklifte bulunmak için para toplamaya, büyükanne ve büyükbabasından miras kalan bir sahil villasını satmaya ve bir bankada yazılım mühendisi olan küçük kardeşi Shalva Gobronidze’den büyük bir meblağ borç almaya başladı. Profesör ne kadar ödediğini açıklamadı.
“Birinin bekleyebileceği kadar büyük bir miktar değildi,” dedi Bay Gobronidze.
Aralık ayında Bay Gobronidze, PimEyes’i satın almak için EMEARobotics adlı bir şirket kurdu ve Birleşik Arap Emirlikleri’nin düşük vergi oranı nedeniyle Dubai’de kaydettirdi. Sitenin küçük teknoloji ve destek ekibinin çoğunu elinde tuttuğunu ve sorgulamaları ve düzenleyici soruları ele alması için Belize’de bir danışmanlık firması tuttuğunu söyledi.
Bay Gobronidze, Tiflis şehir merkezindeki bir kulede PimEyes için ofis alanı kiraladı. Hala yenileniyor, aydınlatma armatürleri tavandan sarkıyor.
Bay Gobronidze’nin Avrupa Üniversitesi’nden bir meslektaşı olan Tatia Dolidze, onu “meraklı” ve “inatçı” olarak nitelendirdi ve kendisine bir yüz arama motoru satın aldığını söylediğinde şaşırdığını söyledi.
“Giorgi’yi bir iş adamı olarak hayal etmek zordu,” dedi Dolidze e-postayla.
Şimdi o, öncelikle bu şekilde bulunmayı asla beklemediğimiz görüntülerimiz üzerinde herhangi bir özel kontrol hakkımız olup olmadığı konusunda tartışmalara batmış bir şirketin sahibi olan bir iş adamı. Bay Gobronidze, eğer hükümetler ve büyük şirketler buna tek erişime sahip olsaydı, yüz tanıma teknolojisinin insanları kontrol etmek için kullanılacağını söyledi.
Ve yüz tanımanın herkesin erişebileceği bir dünya hayal ediyor.
‘Temelde gasp’
Birkaç ay önce, bilgisayar mühendisi Cher Scarlett, PimEyes’i ilk kez denedi ve hayatının bir bölümüyle karşı karşıya kaldı. unutmak için çok uğraştığını.
2005 yılında, Bayan Scarlett 19 yaşında ve parasızken, pornografide çalışmayı düşündü. O kadar küçük düşürücü ve küfürlü bir seçme için New York’a gitti ki bu fikri terk etti.
PimEyes, müstehcen fotoğrafların tam olarak web’de bulunabileceği bağlantılarla birlikte onlarca yıllık travmayı gün yüzüne çıkardı. Bunlar, işçi hakları üzerinde çalışan ve Apple’da yönettiği yüksek profilli bir işçi isyanı için medyada yer alan Bayan Scarlett’in daha yakın tarihli portrelerinin arasına serpiştirildi.
“O ana kadar bu görüntülerin internette olduğu hakkında hiçbir fikrim yoktu” dedi.
İnsanların görüntülere nasıl tepki vereceği konusunda endişelenen Bayan Scarlett, hemen görüntülerin nasıl kaldırılacağını araştırmaya başladı, bir Medium gönderisinde ve CNN’de anlattığı bir deneyim. PimEyes’deki müstehcen fotoğraflardan birine tıkladığında, görüntüye bir bağlantı, göründüğü web sitesine bir bağlantı ve PimEyes’te “genel sonuçlardan hariç tutma” seçeneği sunan bir menü açıldı.
Ancak, Bayan Scarlett’in kısa sürede keşfettiği hariç tutma, yalnızca aylık 89,99 ABD Doları ile 299,99 ABD Doları arasında değişen “PROtect planları” için ödeme yapan aboneler için geçerliydi. Sonunda en pahalı plana imza atan Bayan Scarlett, “Aslında bu gasp” dedi.
Bay Gobronidze bu tanımlamaya katılmadı. Sitede belirgin bir şekilde reklamı yapılmayan PimEyes dizininden sonuçları silmek için ücretsiz bir araca işaret etti. Ayrıca, PimEyes’in geçen ay 299,99 dolarlık plan için Bayan Scarlett’e geri ödeme yaptığını gösteren bir makbuz verdi. Bay Gobronidze,
PimEyes’in on binlerce abonesi olduğunu ve siteye gelen ziyaretçilerin çoğunun Amerika Birleşik Devletleri ve Avrupa’dan geldiğini söyledi. Parasının büyük kısmını abonelerden PROtect hizmetine yapar; buna PimEyes destek personelinin harici sitelerden fotoğrafların kaldırılması konusunda yardım alması da dahildir.
PimEyes ayrıca, insanların yüzlerinin arama görüntüleri de dahil olmak üzere, kendileri hakkındaki verileri siteden kaldırmaları için ücretsiz bir “devre dışı bırakma” özelliğine sahiptir. Bayan Scarlett, vazgeçmek için genç halinin bir fotoğrafını ve devlet tarafından verilmiş kimliğinin bir taramasını sağladı. Nisan ayının başında, vazgeçme talebinin kabul edildiğine dair bir onay aldı.
PimEyes’ten gelen e-postada, “Yüzünüzü içeren potansiyel sonuçlarınız sistemimizden kaldırıldı” dedi.
Ancak bir ay sonra The Times, izin alarak Bayan Scarlett’in yüzünü PimEyes araması yaptığında, müstehcen olanlar da dahil olmak üzere 100’den fazla sonuç vardı.
Bay Gobronidze, bunun “üzücü bir hikaye” olduğunu ve devre dışı bırakmanın bir kişinin yüzünün aranmasını engellemediğini söyledi. Bunun yerine, devre dışı bırakma sırasında “yüksek benzerlik düzeyine sahip” yüzlerin tüm fotoğraflarını PimEyes’in arama sonuçlarından engeller; PimEyes arama.
Bay Gobronidze, müstehcen fotoğrafların özellikle aldatıcı olduğunu ve bunların çevrimiçi çoğalma eğilimlerini efsanevi canavar Hydra ile karşılaştırdığını söyledi.
“Bir kafa kes ve iki tane daha beliriyor” dedi.
Bay Gobronidze, PimEyes’in “etik kullanımını” istediğini, yani insanların yabancıların yüzlerini değil, yalnızca kendi yüzlerini aradıklarını söyledi.
Ancak PimEyes, bu hedefi uygulamak için çok az şey yapıyor, bir arayıcının yüklenen yüzün kendisine ait olduğunu iddia etmek için tıklaması gereken bir kutunun ötesinde. Cornell Üniversitesi’nde mahremiyet üzerine çalışan profesör Helen Nissenbaum, Bayan Scarlett’in çıkmayı tercih ettiğinde yapması gerektiği gibi, sitede bir araştırmacının devlet tarafından kimlik belgesi sağlamadığı sürece bunu “saçma” olarak nitelendirdi.
“Eğer kendi yüzümüzün nerede olduğunu görmek faydalı bir şeyse, sadece bu hizmeti sunan bir şirketin şeffaf ve denetleneceğini hayal etmeliyiz” dedi Bayan Nissenbaum.
PimEyes böyle bir denetim yapmaz, ancak Bay Gobronidze sitenin bir kullanıcıyı “mantıklı olan her şeyin ötesinde” arama etkinliğiyle yasaklayacağını söyledi ve bir örnek olarak günde 1.000’den fazla arama yapan bir kullanıcıyı açıkladı. Doğru olanı yapmak için kullanıcılara güveniyor ve izinsiz olarak başka birinin yüzünü arayan herkesin Avrupa gizlilik yasasını çiğneyeceğini belirtti.
“Kullanan kişinin sorumluluğunda olmalı” dedi. “Biz sadece bir araç sağlayıcıyız.”
Bayan Scarlett, 19 yaşındayken başına gelenler hakkında herkesin önünde konuşacağını asla düşünmediğini, ancak görüntülerin ortada olduğunu fark ettikten sonra bunu yapmak zorunda hissettiğini söyledi.
“Bana karşı kullanılmış olurdu” dedi. “Onları bulan kişi olduğum için mutluyum, ama benim için bu, PimEyes’in amaçlandığı gibi çalışmasından çok şansla ilgili. Hiç var olmamalı.”
Kuralın istisnaları
PimEyes’in yalnızca kendi kendine aramalar için kullanılması gerektiğini söylese de, Bay Gobronidze, “etik oldukları sürece” diğer kullanımlara açıktır. ” Araştırmacı gazetecileri ve 6 Ocak 2021’de ABD Başkentini basan Amerikalıları belirlemede PimEyes’in oynadığı rolü onayladığını söyledi.
Times, gazetecilerinin haber yapmak için yüz tanıma arama motorlarını kullanmalarına izin veriyor, ancak iç kuralları var pratik hakkında. Times sözcüsü Danielle Rhoades Ha, “Raporlama amacıyla bir yüz tanıma aracı kullanmaya yönelik her talep, kullanımın standartlarımıza ve yürürlükteki yasalara uygun olduğundan emin olmak için masthead’in kıdemli bir üyesi ve hukuk departmanımız tarafından önceden inceleme ve onay gerektirir” dedi.
Bay Gobronidze’nin istemediği kullanıcılar var. Kısa süre önce Ukrayna ile dayanışma içinde Rusya’daki insanları siteden engelledi. Clearview AI gibi PimEyes’in, kayıp kişilerin aranmasına yardımcı olabilirse, hizmetini Ukraynalı kuruluşlara veya Kızıl Haç’a ücretsiz olarak sunmaya istekli olduğunu belirtti.
Daha iyi bilinen Clearview AI, Avrupa’da ve tüm dünyada ciddi ters rüzgarlarla karşı karşıya kaldı. Kanada, Avustralya ve Avrupa’nın bazı bölgelerindeki gizlilik düzenleyicileri, Clearview’in 20 milyar yüz görüntüsünden oluşan veritabanını yasa dışı ilan etti ve Clearview’e vatandaşlarının fotoğraflarını silmesini emretti. İtalya ve İngiltere milyonlarca dolarlık para cezası verdi.
Bir Alman veri koruma kurumu, geçen yıl Avrupa’nın gizlilik yasası olan ve biyometrik verilerin kullanımına ilişkin katı kurallar içeren Genel Veri Koruma Yönetmeliği’nin olası ihlalleri nedeniyle PimEyes hakkında bir soruşturma başlattığını duyurdu. O soruşturma devam ediyor.
Bay Gobronidze, hiçbir Alman yetkilisinden haber almadığını söyledi. “Sorabilecekleri tüm soruları cevaplamak için can atıyorum” dedi.
Gizlilik düzenleyicileriyle ilgilenmiyor, çünkü PimEyes farklı çalışıyor. Bunu neredeyse bir dijital kart kataloğu gibi tanımladı ve şirketin fotoğrafları veya bireysel yüz şablonlarını saklamadığını, bunun yerine içerdikleri yüz özellikleriyle ilişkili bireysel görüntülerin URL’lerini sakladığını söyledi. Hepsinin herkese açık olduğunu söyledi ve PimEyes, kullanıcılara yalnızca kendi yüzlerini aramalarını söylüyor. Bu mimari farklılığın düzenleyiciler için önemli olup olmadığı henüz belirlenmedi.
Sheelagh McNeill araştırmaya katkıda bulundu.
The New York Times haberinden çevrildi ve haberleştirildi.