Ne higgyetek senkitől: Mi fenyegeti a neurális hálózatot, így a pornót

Dmitrij Kurkin

Hamis pornó videókamelyben a „Wonder Woman” Gal Gadot filmjének sztárja, amely állítólag szexel a testvérével, amely a héten megjelent a weben, kiderült, hogy nem csak hamisítvány, hanem mesterséges intelligencia által generált hamisítvány.

A videó szerzője, a reddit névtelen felhasználója, a beceneve deepfakes, egy interjúban az alelnökkel megerősítette, hogy a neurális hálózatot használta annak érdekében, hogy "felvegye" Gadot arcát a pornó színésznő testébe. A hamisítvány általánosságban észrevehető, és a mélyfák nem tervezték, hogy pénzt szerezzenek rá - szerintük csak azt akarta ellenőrizni, hogy mennyire könnyű lenne az AI-t használni. És rossz hír van számunkra: nagyon könnyű volt hamis pornó készíteni otthon.

A probléma általában nem maga a pornofeaks: a képek és videók iránti kereslet, ahol a híresség-szerű színészek és színésznők szexelnek, a fétisisták és az érzések rajongói. A pornográf iparban a csillagokkal való külső hasonlóság miatt egész karrier jön létre - ez a jelenség még a sárga sajtó kiemelkedő főcímét is felvetette: "Gordon Ramsay törpe halottnak találták a bögre lyukban".

De ha a termelés előtt időre, erőforrásra és valamilyen készségre van szükség, akkor egy neurális hálózat, amely képes képeket hegeszteni, nagyban leegyszerűsíti a feladatot. A robotok ragaszkodnak, nem egy ember, és a robotok időről időre okosabbak, ami azt jelenti, hogy a hamisítványok egyre megbízhatóbbak lesznek. A deepfakes felhasználó tisztázta, hogy összegyűjti az AI szoftvert a nyílt forráskódú könyvtárakban található improvizált elemekből, és fotókat és videofelvételeket készített nyilvános csatornákban és tárhelyeken, például a YouTube-on. Egyszerűen fogalmazva, a pornofeikov generálására szolgáló összes eszköz az orra alá került, nemcsak vele, hanem a világ több millió embere között.

És ez szigorúan nem is hír. 2003-ban az Oregon Egyetem Egészségügyi és Tudományegyetemének szakértői figyelmeztetnek arra, hogy az audio csalások "könnyen kivitelezhetők és nehezen meghatározhatók". 2017-re az előrejelzés valóra vált, és hamis hangfelvételek keletkeztek a neurális hálózatok által, amelyeket nagyon nehéz megkülönböztetni a valódiektól. A hang után a videót felemelték. A Washingtoni Egyetem személyzetének fejlesztése szinkronizálja a személy arcának kifejezéseit beszédével: például a Barack Obamával készített videoklipben csak hang van jelen, a kép a program által generálódik. Csatlakozzon egymáshoz - és most már készen áll a hamis videók, amelyekben, például, egy jól ismert liberális politikus "vallja" szimpátiáját Hitlernek.

Elképzelhető, hogy a mesterséges intelligencia által okozott visszaélések - a Microsoft csevegési csomópontjai, amelyeket a Twitter trolljai kevesebb mint egy nap alatt rasszistavá váltak - eléggé tréfásnak tűnik. Természetesen a pornofeed technológiáját nem elsősorban Gal Gadot, Taylor Swift vagy Jennifer Lawrence fenyegeti. Megfelelően biztosítják, hogy béreljenek egy hamisítványt elismerő informatikai szakembert, és egy ügyvédi flottát, aki beperel mindenkit, aki megpróbálja használni ezeket a hamisítványokat személyes hasznukra.

Nem, az egyszerű halandók új ártalmatlan algoritmusok áldozatává válnak. Digitális hamisítványok használhatók a pornográfia, a számítógépes bántalmazás, a hálózati zaklatás, a zsarolás és a manipuláció során olyan emberek számára, akik könnyen feltűnőek, és amelyek nem követik különösképpen a fejlett technológiákról szóló híreket („A lányod videofelvételre került, azonnal átutalja a pénzt, különben mindent látni fog. És nem feltétlenül beszélünk a pornóról: a hamisítványok is elindíthatók a hálózatba a politikai propaganda és a gyűlöletre való felbujtáshoz.

- De ez szörnyű! Igen, szörnyű, és ez nem a mélyfákkóder. Mivel a hackerek néha bankrendszerekbe bontakoznak, nem azért, hogy ellopják a pénzt, hanem azért, hogy a számítógépes védelmi osztály biztonsági résekre mutassák, így a névtelen AI programozó feltalálta, csak a tény előtt áll: a digitális hamisítványok kora nem utópisztikus horror történet "Fekete tükör" és az elkövetkező valóság. A modern etika még nem értette meg (a pornofileket más emberek magánéletének behatolásának tekinthetik?), Sem a hatályos törvény. De az, hogy valahogy az elkövetkező években kell élnünk. Szükséges tehát egy ellenanyag kifejlesztése az ilyen töltelék ellen.

A Collins szótár kurátorok a "hamis hír" kifejezést a 2017-es kifejezésnek nevezték, hangsúlyozva, hogy az átlagos felhasználó rabja a szenzációs fejlécek klikkelésének és újrakezdésének, anélkül, hogy az információ hitelességének ellenőrzése nélkül pazarolná. Eközben a hamis hírek befolyásolhatják a választások és a népszavazások eredményeit. És ez is része annak az új valóságnak, amelyben már létezik, és amelyben meg kell tanulnunk, hogy kevésbé könnyû legyen.

A szociális hálózatok már üvegfalú házat alkotnak az interneten, ahol több millió ember figyelheti az életét minden nap - még akkor is, ha nem akarja. Nyilvánvaló, hogy ebben a házban nincs ajtó: bárki megpróbálhatja behatolni a személyes helyét, az AI-t használva, hogy csavarja az arcát a pornorolra vagy a „Gyűrűk Ura” című filmre. Az adatvédelem halott, de nemcsak a Big Brother bűnös ez a különleges szolgáltatások és globális vállalatok, hanem magunk is.

A digitális hamisítványok világa jön, de ez nem okozza a pánik, a paranoiát, az internethasználat megtagadását vagy a neurális hálózatok betiltásának követelményeit. Ez az oka annak, hogy gondolkodjunk a hálózati higiénia és az új etika kérdéséről, amely egyszer és mindenkorra rögzül, hogy valaki más képének használata a digitális hamisítás létrehozásához hamis és illegális. Azok az idők, amikor az emberek feltétel nélkül hittek mindent, amit mondanak a tévében (még akkor is, ha azt mondják, hogy "Lenin gomba") elhalványulnak. Ugyanígy fokozatosan megszoktuk magunkat, hogy hihetünk mindent, ami az interneten íródott.

Cover:Warp rekordok