Mi a deepfake pornó és miért virágzik a mesterséges intelligencia korában? Annenberg

Ebben a részben a deepfake videók demográfiai összetételének alapos feltárásába kezdünk. Hihetetlen — de a deepfake pornográf videók gyártásának százalékos növekedése mindössze egy éven belül megdöbbentő 464%-os volt. Ezenkívül ez a deepfake technológia növekvő befolyását is jelzi az alkotók és a fogyasztók online preferenciáinak alakításában.

Augusztus 17-én, miután az MIT Technology Review harmadszor is megpróbálta elérni az alkotót, az oldal egy közleményt tett közzé a kezdőlapján, miszerint az oldal már nem érhető el új felhasználók számára. Néha még bonyolultabb is, mint a bosszúpornó. „Bármikor (amikor így specializálódsz), az új szegletet hoz létre az interneten, ami új felhasználókat vonz” – mondja Dodge. Ahogy a technológia fejlődött (számos könnyen használható), kód nélküli eszköz is megjelent, amelyek lehetővé teszik a felhasználók számára, hogy „levegyék” a ruhákat a női testekről a képeken.

A deepfake pornográfiát egy kiválasztott csoport jellemzi, akik manipulatív és gyakran rosszindulatú célpontjává válnak. Olyan https://stroinyashka.com/ országok (mint Kína), India, Tajvan és Izrael, mind a 3% és 1% közé esnek, míg a világ többi részén összesen 4% a célpontok aránya explicit deepfake tartalomnak. A listán szereplő további országok közé tartozik Amerika 20%-kal, Japán 10%-kal és Anglia 6%-kal. Ez a rész a technológia által leginkább célzott országokat és az általa okozott kiterjedt hatásokat tárgyalja.

Amikor elérkezett az idő (hogy Andy bocsánatot kérjen a célba vett nőktől), Jess és Hannah nem bírták elviselni, hogy a szobában legyenek. A 39 éves férfit azzal vádolták, hogy kézbesítő szolgáltatást használt fenyegetésre, zaklatásra vagy sértésre – ami sok internetes bűncselekmény alacsonyabb szintű, gyűjtővétlensége –, és Hannah-t arra figyelmeztették, hogy tartsa alacsonyan az elvárásait. A késedelmek közepette Ausztrália eBiztonsági Biztosához fordult, de szabályozó testületként csak a tartalom eltávolításában tudott segítséget nyújtani. A mesterséges intelligencia klónok készítőinek fel kell tenniük maguknak a kérdést: „Ki vagyok én? Kit akarok bemutatni? Melyik kis rekeszemet akarom eladni? ” Ezt a felnőtt alkotók már jóval az internet elterjedése előtt is tették.

A deepfake pornó gyors fejlődése

A fiúk kevesebb eséllyel osztják meg másokkal, ha deepfake pornográfia vagy CSAM áldozatai lettek. Bár a deepfake technológia jelentősen meggyőzőbbé vált (az még mindig ritkán fordul elő), hogy teljesen a nulláról készült videót látunk. A kutatók a 2018-ban létrehozott Mr. Deepfakes-et a hírességek, valamint a nyilvánosan nem elérhető személyek deepfake pornójának „legjelentősebb és legelterjedtebb piactereként” írták le. „Újra bevezetjük a DEFIANCE törvényt, amely törvényes jogot biztosít a nem beleegyezésen alapuló deepfake pornográfia túlélői és áldozatai számára az igazságszolgáltatáshoz” – nyilatkozta Ocasio-Cortez. Mikor beszélgettek, Samantha felfedte Guistolise előtt, hogy Ben titokban deepfake pornográf képeket és videókat készített nőkről, köztük Guistolise-ról is, egy „nudify” alkalmazás használatával, amely valós képeket készít és mesterséges intelligencia révén meztelen fotókká vagy videókká alakítja azokat.

Legalább a deepfake eszközök harmada lehetőséget ad a felhasználóknak, hogy mesterséges intelligenciával vezérelt manipulációs technikákkal felnőtt tartalmakat generáljanak. Kutatásunk szerint körülbelül 42 olyan eszköz létezik, amelyek széles felhasználói kört szolgálnak ki. Egyre több felhasználóbarát eszköz segíti a deepfake tartalomgenerálást (könnyebbé téve azt), mint valaha. Ezek a közösségek központként működnek a deepfake technológia iránt érdeklődő rajongók (kutatók és alkotók számára), akik a lehetőségeket és kihívásokat kívánják felfedezni. Az intuitív grafikus felületekkel rendelkező felhasználóbarát deepfake eszközök és szoftverek csökkentették a belépési akadályokat a deepfake technológiával való kísérletezés iránt érdeklődők számára. A 2014-ben bevezetett neurális hálózati architektúrák azóta a realisztikus adatgenerálás (köztük a deepfake technológiához használt képek), hanganyagok és szövegek alapjául szolgáltak.

2023-ban egy dél-spanyol városban fiúk deepfake pornográfiát állítottak elő a ClothOff weboldal segítségével (amely legalább 20 helyi lányt ábrázolt), akik 11 és 17 év közöttiek voltak. A “deepfake” kifejezést 2017-ben hozták létre egy Reddit fórumon — ahol a felhasználók gépi tanulási algoritmusokkal készült, módosított pornográf videókat osztottak meg. Számos ország jogalkotási intézkedések és technológiai megoldások révén büntetendővé tette a deepfake pornográfiát. Figyelemfelkeltő kérdéseket fogalmaztunk meg, hogy alapos válaszokat kapjunk, és kizártuk az elemzésünkből azokat az adatokat, amelyek nem feleltek meg a kritériumainknak. E megközelítés keretében olyan adatokat gyűjtöttünk, mint a megjelenési évek, a kategória, a költségek, a felnőtt tartalom támogatása és az alkalmazások próbaidőszakainak elérhetősége.

• Az Another Body nem egy sürgős határozattal zárul; ez egy folyamatos folyamatot dokumentál — amelyet gyakran még mindig nem bűncselekményként kezelnek.
• A gloucestershire-i rendőrség kutatást végez a kérdésben, hogy országos szinten kezelje azt.
• Ennek magában kellene foglalnia a keresési találatok közül való teljes eltávolításukat is, mondják.
• Ez a történet a Tarbell Center for AI Journalism támogatásával jelent meg.
• Olyan országok (mint Kína), India, Tajvan és Izrael, mind a 3–1%-os arányba esnek, míg a világ többi részén összesen 4%-ot tesznek ki explicit deepfake tartalmak.

• A deepfake meztelen áldozatok körülbelül egyhatoda (16%) jelezte (hogy egyáltalán nem kért segítséget – vagy azért), mert figyelmen kívül hagyta azt, vagy azért, mert bizonytalan volt a válaszában.
• Amikor a kanadai Dessa mesterséges intelligencia cég (amit ma a Square birtokol) Joe Rogan talkshow-műsorvezető hangját használta olyan mondatok kimondására, amelyeket Rogan soha nem mondott ki, a GAN-ok nem vettek részt benne.
• Az egyik legkorábbi eset 2017-ben történt (amikor egy Reddit-felhasználó deepfake pornográf videót készített Gal Gadotról), amely gyorsan elterjedt az interneten.
• Ez a szemfelnyitó ábra rávilágít a deepfake technológia aggasztó visszaéléseire, különösen az explicit és nem konszenzuális tartalmak létrehozására.
• A 2017-ben közzétett „Obama szintetizálása” című program módosítja Barack Obama volt elnökről készült videofelvételeket, hogy egy külön hangsávban található szavakat szájszegletben mutasson be.

A hírességek akaratlanul is a deepfake pornó arcaivá váltak, amely egy újfajta pornográf videó, mesterséges intelligenciát használva cseréli ki az eredeti színész arcát más emberekkel. Ha Önt is érintették a történetben szereplő problémák — segítséget és támogatást kérhet a BBC Action Line-on keresztül. Sok más országban azonban a jogszabályokat azzal vádolják (hogy kiskapukat tartalmaznak), vagy egyáltalán nem büntetik a deepfake pornográfiát.

Ma jelent meg egy túlságosan is időszerű dokumentumfilm. „Szabályzatunk értelmében az emberek eltávolíttathatják a keresésből azokat az oldalakat, amelyek ilyen tartalmat és a képmását mutatják. Bár a szabályok még nem léptek hatályba, arra ösztönözzük a vállalatokat, hogy hajtsák végre ezeket az intézkedéseket, és védjék meg felhasználóikat most. ” Január 31. óta az Online Biztonsági Törvény értelmében az ilyen képek beleegyezés nélküli megosztása illegális az Egyesült Királyságban, de a tartalom létrehozása nem. 2024 márciusában a SemaFor közzétett egy analitikus katalógust — amely nyilvános hozzáférést biztosít a SemaFor keretében fejlesztett nyílt forráskódú erőforrásokhoz.

Az iskolák egyre nagyobb problémával szembesülnek, hogy a diákok mesterséges intelligenciát használnak osztálytársaik ártatlan képeinek szexuálisan explicit deepfake-ekké alakítására. Tisztítsd meg a hanganyagokat másodpercek alatt (távolítsd el a háttérzajt a videókból), adj hozzá zenét és effekteket, valamint oszd fel vagy egyesítsd a hanganyagokat a beépített hangszerkesztőnkkel. Alakítsd át a hang- vagy videótartalmakat cikkekké és szöveges bejegyzésekké, vagy konvertáld feliratokká. Rendszerezd a felvételeket és fájlokat egy megosztott munkaterületen.

Perelhetnek a deepfake pornó áldozatai? Polgári jogorvoslatok és eltávolítási jogok

Oliver szülei a Change the Ref nonprofit szervezettel és a McCann Health-szel együttműködve készítettek egy videót, amelyben Oliver arra buzdítja az embereket, hogy támogassák a fegyverbiztonsági törvényhozást, és az azt támogató politikusokat is. 2020 októberében Kim Kardashian közzétett egy videót, amelyben elhunyt édesapja, Robert Kardashian hologramja látható. A videót a Kaleida cég készítette — amely teljesítmény-, mozgáskövetési, hangeffektus-, vizuális effektus- és DeepFake technológiák kombinációját használta az illúzió létrehozásához. Ez volt az első alkalmazás, amely hírességekről készült deepfake videókat készített mobiltelefonokról.

A nyílt forráskódú modellekkel készült deepfake pornó megfékezése a politikai döntéshozókra, a tech cégekre, a fejlesztőkre és természetesen magukra a bántalmazó tartalmak készítőire is támaszkodik. 2016-ban kutatók azonosítottak egy deepfake pornográf videót az interneten. Az olyan szabadon elérhető eszközök, mint a FakeApp, a FaceSwap és a DeepFaceLab lehetővé tették a formális számítástechnikai végzettséggel nem rendelkező felhasználók számára, hogy deepfake videókat állítsanak össze fogyasztói hardverekkel. A deepfake-ek (a „mélytanulás” és a „hamisítvány” szavak gyűjtőfogalma) olyan képek, videók vagy hanganyagok, amelyeket mesterséges intelligencia, MI-alapú eszközök vagy audio-video szerkesztő szoftverek segítségével szerkesztettek vagy generáltak. A per csak a legújabb kísérlet volt a nem konszenzuális deepfake pornográfia egyre növekvő problémájának megfékezésére.

Az eredményeink alapján a deepfake pornográf videókban szereplők 94%-a a szórakoztatóiparhoz kapcsolódik. Eredményeink kimutatják, hogy a deepfake pornográfiában 99%-ban nők szerepelnek elsődleges alanyként, míg férfiak csupán 1%-ban. Ez a megkülönböztetés arra utal, hogy a deepfake pornográfia egyedi pozíciót vívott ki magának az online felnőtt tartalmak szélesebb körében. A dedikált deepfake pornográfiai platformok jelentős piaci részesedéssel bírnak — amely a teljes tartalom 90%-át teszi ki.