‘Ömür boyu hapis cezası yaşamak’: AI, kadınları derin bir porno cehenneminde nasıl tuzağa düşürüyor?

Noelle Martin, pornografik resimlerinin internette dolaştığını keşfettiğinde henüz 18 yaşındaydı. Bırakın paylaşmayı, mahrem görüntüler çektiğini bile hatırlamıyordu. Ancak, o görüntülerdeki onun yüzüydü – ancak vücut ona ait değildi.

Daha sonra “deepfake” olarak bilinen şeyin kurbanı oldu. Kişisel sosyal medya hesaplarında paylaştığı görüntüler kullanılarak pornografik resimler ona benzeyecek şekilde manipüle edilmişti.

Euronews Next’e konuşan Martin, “Bu ömür boyu sürecek bir ceza. “İnsanların hayatlarını, geçim kaynaklarını, istihdam edilebilirliklerini, kişiler arası ilişkilerini, romantik ilişkilerini mahvedebilir. Ve biri hedef alındığında yapılabilecek çok çok az şey var”.

Deepfake’ler, birini sahte senaryolarda tasvir etmek için oluşturulan dijital olarak değiştirilmiş videolar veya resimlerdir. Deepfake teknolojisi teorik olarak daha neşeli, hicivli veya iyi niyetli amaçlar için kullanılabilirken, 2019 Deeptrace Labs raporçevrimiçi derin sahte içeriğin yüzde 96’sının rıza dışı pornografi olduğunu tespit etti.

Daha bu hafta, New York’ta 22 yaşında bir adam mahkumeski okul sınıf arkadaşlarının sosyal medya hesaplarından çekilmiş genç resimlerini kullanarak derin sahte porno fotoğraflarını yayınladığı için altı ay hapis cezasına çarptırıldı.

adalet için mücadele

2013’te aynısı başına geldiğinde, Martin polise giderek ve görüntülerin kaldırılmasını isteyerek hasarı sınırlamaya çalıştı. Ancak, yaşadığı Avustralya’da o sırada mahrem görüntülerin yayılmasına karşı herhangi bir yasa olmadığı düşünüldüğünde, yapabilecekleri hiçbir şey yoktu.

“Bir şeyleri indirmeye çalışsanız bile, bunun kurbanıysanız, sorumlulardan hesap sormakla ilgili hala yapacak sorunlarınız var. Çünkü halka açık sitelerden, bu web sitelerinden veya herhangi bir yerden bir şeyler indirmek. Barındırıldıkları, bunun yalnızca bir unsuru,” dedi Martin.

Bir faili sorumlu tutmazsanız veya sorumlu kim olursa olsun hesap sormazsanız, yine de bunu yapmaya devam edebilirler” dedi.

Martin, hukuk alanında kariyer yapmaya devam etti ve Avustralya’da mahrem görüntülerin rıza dışı paylaşımına karşı yasa çıkarmak için yıllarını harcadı. 2018’de çabaları, ülkesinde rıza dışı mahrem görüntülerin veya “intikam pornosu” dağıtımını suç sayan yeni yasaların çıkarılmasına yardımcı oldu.

Kendi travmatik deneyiminden on yıl sonra, şu anda 28 yaşında bir avukat ve Batı Avustralya Üniversitesi’nde hukuk araştırmacısı olan Martin, hâlâ rıza dışı cinsel içeriklerin, özellikle de derin sahte teknoloji kullanılarak oluşturulanların paylaşılmasına karşı savunuculuk yapıyor.

“Nihayetinde hayatta kalanlar topluluğu olarak yapmaya çalıştığımız şey, yasaların oluşturulması için baskı yapmak, dünyanın dört bir yanındaki ülkeleri bu sorunu suç saymaya zorlamak, mağdurların yardım isteyebilmesini sağlamak için altyapının geliştirilmesi için baskı yapmak” dedi. .

Derin sahte pornoların yükselişi

Derin sahte pornolar yıllardır çevrimiçi olarak bulundu, ancak yapay zekadaki (AI) son büyük gelişmeler ve bu tür teknolojilere artan erişilebilirlik, rahatsız edici derecede gerçekçi – ve aldatıcı – cinsel materyaller oluşturmayı kolaylaştırdı.

Deepfake ilk ortaya çıktığında, arkasındaki asıl amaç ünlülerin yüzlerini içeren pornografik videolar yapmaktı.

Deepfakes terimi, 2017’de sosyal platform Reddit’te bu takma adla bir kullanıcının Scarlett Johansson ve Taylor Swift gibi kadın ünlülerin üzerinde oynanmış pornografik videolar çekmesiyle ve paylaşmasıyla tanındığında ortaya çıktı.

Daha yakın bir geçmişte, internette “Atrioc” diyen popüler bir Twitch yayıncısı olan Brandon Ewing, platformdaki bir canlı yayın sırasında tarayıcısında bir derin sahte porno web sitesi açıkken yakalandığında, porno deepfake’leri Ocak ayında manşetlere çıktı. Site, diğer Twitch yayıncılarının ve arkadaşlarının üzerinde oynanmış resimlerini içeriyordu.

Ewing daha sonra ağlamaklı bir özür yayınladı ve yayın faaliyetini birkaç haftalığına durdurdu. Twitch ise platformda derin sahte pornoları yasaklamak için topluluk yönergelerini güncelledi.

Ewing, özür mektubunda, popüler bir porno sitesinde deepfake pornografi reklamı gördükten sonra “hastalık derecesinde merak ettiğini” ve bu nedenle videolara erişmek için tıklayıp para ödediğini söyledi.

Kadın Twitch yayıncıları, isimlerinin tartışmaya sürüklendiğini gördü ve birçoğu bu tür içeriğin çevrimiçi olduğundan bile habersiz olduğunu söyledi.

Twitch’teki skandal aslında “deepfake porn”, “porn deepfake” ve “deepfake” ifadelerinin çevrimiçi aranmasında bir artışa neden oldu. Google Trendler verileri.

Koalisyonun kurucu ortağı Sophie Compton Benim Resmim Benim SeçimimMahrem görüntü istismarına karşı kampanya yürüten , tartışmanın derin sahte web sitelerinin kullanıcılarının sorunun bir parçası olduğunu ve sorumlu tutulması gerektiğini gösterdiğini söyledi.

“Sadece yaratıcılar değil, tüm kullanıcılar. Ve bunlar sıradan çocuklar. Bunlar bizim okullarımızdaki insanlar ve muhtemelen bazı kadınlar. Ama ağırlıklı olarak erkekler. Ve bunlar sınıf arkadaşları, arkadaşlar, kardeşler, erkek arkadaşlar, Compton, Euronews Next’e söyledi.

“Katılımlarının da sorunun bir parçası olduğunun farkında olmayabilirler. Ve kadınlara son derece ama son derece zarar veren bir şeyi doğrulamaya yardımcı oluyor”.

Deepfake’ler kurbanlarına karşı nasıl kullanılır?

Ünlülerin porno deepfake’leri yıllardır varken, yapay zekadaki son gelişmeler bugün neredeyse herkesin bu tür içeriklerin kurbanı olabileceği anlamına geliyor.

Teknoloji aynı zamanda insanları susturmak veya baltalamak amacıyla itibarsızlaştırmak veya onlara şantaj yapmak için de kullanılabilir.

Compton, “Görünüşe göre her ay ortaya çıkan yeni bir deepfake porno sitesi var ve bunlar ticarileştirilmiş işletmelere dönüşüyor” dedi ve bunların bariz bir cezasızlıkla açıldığını da sözlerine ekledi.

“İnsanlar bir tür derin sahtekar olarak markalaşıyorlar ve Bitcoin’i kabul ediyorlar ve PayPal’ı kabul ediyorlar ve bir sloganları, bir sloganları ve bir logoları var”.

Deepfake porno oluşturma ve paylaşmanın ardındaki motivasyon kurbanları utandırmak, karalamak veya taciz etmek ya da sadece para kazanmak olsun, içerik genellikle bazı erkeklerin kadınları aşağılama ve gerçek veya sahte müstehcen görüntüler kullanarak nesneleştirme fantezilerini yansıtır.

Euronews Next’e konuşan Martin, “Bunun hedefi olan bir kişinin bakış açısından, bir şeyin sahte olduğunu anlasanız veya tamamen gerçekçi olmasa bile, hasar yine de onarılamaz.”

“Eğer bir deepfake’iniz yaratılırsa ve bunu bir şekilde anlasanız bile, insanlar sizi tasvir eden her şeyi sizinle ilişkilendirmeye devam edeceklerdir. “.

Hintli bir araştırmacı gazeteci ve Washington Post’a katkıda bulunan Rana Eyyub, onu susturmak amacıyla porno derin sahte görüntülerinin kullanıldığı bir karalama kampanyasının kurbanıydı.

Üzücü deneyimini bir yazıda detaylandırdı. kolonMüslüman bir kadınken açık sözlü olmanın ve “düzen karşıtı” olarak görülmenin onu sosyal medyada nasıl nefret hedefi haline getirdiğini anlattığı yer.

Bununla birlikte, sahte bir porno videosu viral olduğunda ve onu o kadar şok ettiğinde, alıştığı çevrimiçi taciz, aniden çok gerçek hissetti ve ailesini görmeye bile tahammül edemedi.

“Bütün ülke, ben olduğumu iddia eden bir porno video izliyordu ve ben hiçbir şey yapamadım,” diye anlattı.

“Videonun yayınlandığı günden beri aynı kişi değilim. Eskiden çok düşünceliydim, şimdi internette paylaştığım şeyler konusunda çok daha temkinliyim. Biraz zorunluluktan otosansür uyguladım. ” yazdı.

“Bu çok, çok tehlikeli bir araç ve onunla nereye gittiğimizi bilmiyorum”.

Herhangi bir yasa ve yönetmelik bizi derin pornolardan koruyor mu?

Kampanyacılar, şu anda bir kişiyi derin sahtekarlıklar yaratarak alenen aşağılamanın çok kolay olduğunu ve bu düzenleme ve sorumluluk eksikliğinin kurbanları yüzüstü bıraktığını söylüyor.

Compton, “Bu formları hazırlayan insanlara gönderilen mesaj, kimsenin sizin için gelmediği. Yaptığınız şey yasa dışı değil ve sonuçları yok” dedi.

Avrupa Birliği, zararlı çevrimiçi içerikle mücadele için yeni düzenlemeler önerdi, ancak bunlar, insanları rıza dışı porno derin sahtekarlıklarından tamamen koruyabileceklerini henüz kanıtlamadı.

Örneğin, Yapay Zeka Yasası Şu anda Avrupa Parlamentosu’nda tartışılan , içerik oluşturucuların içeriğin yapay olarak üretildiğini veya manipüle edildiğini açıkça ifşa etmesini gerektiriyor. Ancak kampanyacılar, sorumluluk reddi beyanlarının derin sahte içerik oluşturucuları caydıramayacağını veya içerik ortaya çıktıktan ve onlarla sonsuza kadar bağlantılı olduktan sonra kurbanlara adalet getirmeyeceğini söylüyor.

Bununla birlikte, üzerinde çalışılan bir başka AB mevzuatı da Cinsiyete Dayalı Şiddet Direktifi , 2022’de önerildi. Bu yasa tasarısı, mahrem görüntülerin rıza dışı paylaşımını suç sayacak ve failler hapis cezasıyla karşı karşıya kalabilecek. Madde 7b bile özellikle derin sahtekarlıklara atıfta bulunur.

Teknoloji şirketlerinin ve çevrimiçi platformların rolü

Bu arada kurbanlar, deepfake pornografik içeriğin önüne geçmek için politikalarını güncelleyen çevrimiçi platformlara umutlarını bağlıyorlar.

Görüntü oluşturma aracı DALL-E’nin arkasındaki şirket olan OpenAI, verilerinden müstehcen içeriği çoktan kaldırdı ve ünlülerin ve politikacıların görüntülerinin oluşturulmasını engellemek için istekleri filtreledi.

Bir başka popüler AI modeli olan Midjourney, belirli anahtar kelimeleri engeller ve kullanıcıları sorunlu resimleri moderatörlere bildirmeye teşvik eder.

TikTok ayrıca derin sahtekarlıkların veya manipüle edilmiş içeriğin sahte veya değiştirilmiş olarak etiketlenmesini zorunlu kıldı ve özel kişilerin ve gençlerin derin sahtekarlıklarını yasakladı.

Twitch, topluluk yönergelerini güncellediğinde, derin sahte pornoların kasıtlı tanıtımının, oluşturulmasının veya paylaşılmasının anında yasakla sonuçlanacağı konusunda uyardı. Şirket, bir blog yazısında, bu tür içeriğin bir görüntüsünün gösterilmesi bile – öfkeyi ifade etmeyi amaçlasa bile – “kaldırılacak ve yaptırımla sonuçlanacak” diye yazdı.

Bu arada Meta, OnlyFans ve Pornhub, gençlerin internetten kendilerine ait müstehcen resim ve videoları şikayet etmelerini sağlayan yeni bir “Take It Down” aracına katılmaya başladı.

“Kolluk kuvvetleri, hükümetler, düzenleyiciler bununla başa çıkmak için bir araya gelmeli çünkü dünya çapında bağımsız olarak bununla ilgilenen ülkelerimiz varsa, ancak bu kadarını yapabilirler. Bu, küresel bir çözüme ihtiyaç duyan küresel bir sorundur. dedi Martin.

“Ayrıca kurbanların ve hayatta kalanların bu konuda kararlar alındığında masada olması gerektiğini söyleyebilirim, çünkü onlar genellikle bizim hakkımızda, bizim için ama biz olmadan alınan kararların dışında tutulurlar.”

Euronews’in bir haberine göre haberleştirildi.

About Post Author