Replace Your Face With an A.I. Twin to Trick Facial Recognition

Try the Anonymizer tool to create a fake face that looks like you

Image: Donald Iain Smith / Getty Images

Ha az elmúlt években közzétettél egy fotót magadról az Interneten, jó esély van arra, hogy a Clearview AI felkapta és hozzáadta a cég hatalmas arcfelismerő adatbázisához, amely több mint 3,1 milliárd képet tartalmaz. A New York Times szerint a Clearview ” véget vethet a magánéletnek, ahogy tudjuk.”Januárban megszereztem a saját Clearview AI profilomat, és a tartalma kiakasztott.

a Clearview-val szemben számos jogi és jogalkotási kihívás merült fel. Saját cikkemet idézték az American Civil Liberties Union mérföldkőnek számító Csoportos keresetében a társaság ellen. De még akkor is, ha a törvényhozók visszafogják a Clearview AI-t, az arcfelismerés online leállítása olyan, mint a whack-a-mole játék: a vállalat egy másik klónja egyszerűen megjelenik a helyén.

mivel az online arcfelismerés mindenütt jelen van, mit tehetnek a fogyasztók annak érdekében, hogy arcukat távol tartsák a hatalmas felügyeleti adatbázisoktól? Szintetikus tartalom startup generált média azt hiszi, hogy van egy megoldás: cserélje ki az arcát egy technológiailag fejlett hamis által létrehozott neurális hálózat. A hamisítvány értelmet ad az embereknek a megjelenésében, miközben a tényleges arcát névtelenül tartja.

A generált média mesterséges arcok létrehozására specializálódott. Ehhez az úgynevezett technológiát használja generatív kontradiktórius hálózatok (GANs), amelyek két harcoló neurális hálózatot vernek egymás ellen. A generált média esetében, amikor a hálózatok kiiktatják, az egyik hálózat (az úgynevezett generatív hálózat) egyre jobban képes mesterséges arcokat generálni. A GANs technológia olyan jó, hogy hamis arcokat képes előállítani, amelyek könnyen becsapják az embereket, hogy azt gondolják, hogy valódiak. A cég tett egy csobbanás egy friss New York Times cikket a tech mögött hamis arcok.

GANs ezt a bravúrt is hatalmas léptékben tudja végrehajtani. A generált média kevesebb, mint egy éves, és már több mint 2 millió hamis arcot hozott létre. Az arcok minden lehetséges korú és megjelenésű embert képviselnek. Teljesen valóságosnak tűnnek, de az általuk ábrázolt emberek valójában nem léteznek, és soha nem is voltak. Generált média licencek őket stock fotók a honlapján generált.Fotók és használja őket képzési adatként, hogy csökkentse az elfogultságot más AI rendszerekben.

mivel az online arcfelismerés mindenütt jelen van, mit tehetnek a fogyasztók annak érdekében, hogy arcukat távol tartsák a hatalmas felügyeleti adatbázisoktól?

hatalmas képadatbázisával a generált média most a fogyasztók felé fordítja figyelmét. A ma elindított Anonymizer nevű eszközzel a vállalat lehetővé teszi, hogy valódi fényképet töltsön fel az arcáról, és különféle hamis arcokat kapjon, amelyek hasonlóak a sajátjához. Ezután használhatja a hamisítványokat valódi arca helyett a közösségi médiában vagy bárhol máshol, ahol fényképet kell közzétennie a nyilvános interneten. A hamis Fotók ingyenes személyes használatra, és jön egy lehetőség, hogy egy átlátszó háttér.

a hamis fotók, generált média azt mondja, meg kell nézni elég, mint te, hogy kapcsolatok fogja találni őket hihető. De mivel valójában nem te vagy, ha a Clearview vagy egy másik arcfelismerő cég hozzáadja a hamis arcát az adatbázisához, akkor nem fogja tudni használni a hamis arcot az igazi Ön megtalálásához. A generált média szerint a felhasználók “legalább minden nap” kicserélhetik fényképeiket új hamisítványokra az anonimitás további mértéke érdekében.

egy interjúban Tyler Lastovich, a Generated Media stratégiai vezetője elmondta nekem, hogy a vállalat azután építette fel az Anonimizálót, hogy “személyesen megkereste a LinkedIn-en valaki egy generált fényképet használva avatárként”, és miután a vállalat “sok-sok mást látott a Twitteren.”Mások megpróbáltak olyan eszközöket létrehozni, amelyek mesterséges intelligenciát használnak arra, hogy elrejtsék a tüntetők és aktivisták személyazonosságát az interneten azáltal, hogy finoman megváltoztatják profilfotóikat. De a Clearview azt mondta A New York Times – nak, hogy ezek az eszközök nem működnek a rendszerek becsapására. Egy teljesen hamis fotó, mint amilyeneket a generált média készített, valószínűleg biztonságosabb megoldás lenne.

kipróbáltam az Anonimizálót, feltöltöttem egy fotót az arcomról, amelyet egy divatos pizzériában készítettek San Ramonban, Kaliforniában.

fotó a szerző jóvoltából

generált média anonymizer bemutatott nekem egy rács körülbelül 20 look-alikes, a lehetőséget, hogy többet. Végiggörgettem, és egy hamis arcot választottam, amely a legjobban hasonlított a sajátomra.

Kép jóvoltából generált média

itt vagyunk egymás mellett. Mivel a hamis arcnak átlátszó háttere volt, rá tudtam helyezni egy fényképre, amelyet ugyanabban a divatos pizzériában készítettem, ahol az igazi fotóm készült.

pontosan ugyanúgy nézünk ki? Nem. Először is, soha nem hordanám így a hajam. De elég közel nézünk ahhoz, hogy a közeli barátaimon és családomon kívüli kapcsolatok összetéveszthessék a hamisítványt — különösen, ha a hamisítást olyan közösségi oldalakon használtam, mint a Twitter, ahol a profilfotók kevés 49×49 Pixel.

egy számítógép is elkövetheti ugyanezt a hibát. Hogy teszteljem, mennyire hasonlít az én mesterséges Intelligenciám. doppelg és én úgy nézünk ki, összehasonlítottam az arcunkat a Face++ arc-összehasonlító API – jával, amely az arcfelismerő szoftver mindenütt jelen lévő szolgáltatója. A Face++ visszaadott egy” normális valószínűséget”, hogy az arcom megegyezett az A. I. klónommal, és 64% – os bizonyossággal becsülte meg, hogy ugyanaz a személy vagyunk.

ez nem tökéletes, de nem rossz egy számítógép által elképzelt hamis arc számára, és az eredményeknek idővel javulniuk kell. Az Anonymizer úgy működik, hogy elemzi a felhasználó arcát, és megtalálja a legközelebbi egyezést A generált média meglévő hamis arcok adatbázisából. Ahogy a vállalat több hamis arcot generál, megnő az esélye egy nagyon hihető mérkőzés megtalálásának.

tesztelésem során azt tapasztaltam, hogy minél felismerhetőbb egy arc, annál nehezebb meggyőző hamisítványt találni. Ennek tesztelésére feltöltöttem egy fotót Donald Trumpról az Anonymizerbe. Az eredmények teljesen különböztek a tényleges megjelenésétől. Jóban Rosszban, szinte biztosan több képet láttam Trump arcáról az elmúlt négy évben, mint a sajátomat. Ha összehasonlít egy rendkívül ismerős valódi arcot, mint Trump, egy hamisítvánnyal, a hamisítás apró hibái kirívóan nyilvánvalóak. A kevésbé ismerős arcok számára könnyebb figyelmen kívül hagyni őket, és a hamisítvány meggyőzőbbnek tűnik.

Ez azt sugallja, egy másik felhasználási eset a rendszer. Az Anonymizer gyilkos alkalmazása nem feltétlenül olyan arcklónokat hoz létre, amelyekről a kapcsolatok azt hiszik, hogy valójában te vagy. Inkább, a rendszer lehet a legjobb olyan helyzetekben, amikor meg akarja adni a megjelenését egy olyan személynek, akivel még soha nem találkozott, miközben a tényleges megjelenését névtelenül tartja.

randevú profilok, a generált média szerint, kiváló példa. Ha létrehoz egy online társkereső profil, akkor megragad egy hamis képet generált média Anonymizer és használja helyett a valódi arcát. A kép jól érzékelné a megjelenését-ha találkozna valakivel, aki később úgy dönt, hogy felfedi valódi arcát, remélhetőleg nem éreznék magukat kifogva. De amíg úgy döntött, hogy felfedi az igazi te, a hamis arc megakadályozná a cyberstalkers, akik gyakori társkereső oldalak tudni a pontos megjelenését, célzás akkor IRL.

hasonló felhasználási esetben a vállalat oknyomozó újságírókkal dolgozott együtt, egy kapcsolódó eszköz segítségével hamis arcokat készített olyan források számára, akik névtelenek akarnak maradni. A hamis arc az újságírónak (és olvasóinak) képet adhat a forrás koráról, bőrszínéről, hajhosszáról és megjelenésük egyéb kulcsfontosságú elemeiről, miközben biztosítja, hogy valódi identitásuk védett maradjon. (Azoknak az újságíróknak, akik ezt a taktikát használják forrásaik védelmére, el kell ismerniük a történetükben, hogy az arc hamis, és egy érzékeny identitás védelmére használják. A Clearview AI több millió képet tölt le hírcikkekből és közösségi oldalakról, így a hamis arcok felvétele az érzékeny cikkekbe jó módszer annak megakadályozására, hogy a Clearview indexelje a forrás arcát, és visszakapcsolja egy érzékeny cikkhez.

Ha olyan érzékeny témákról szeretne posztolni, mint egy tiltakozás, akkor fontolóra veheti egy hasonló megközelítést, ha külön közösségi média fiókot hoz létre, és feltölti az arcod hamis verziójával. Így az érzékeny tartalom nem kapcsolódik vissza a valódi arcodhoz, és nem lesz elérhető azok számára, akik az arcodat kereshetik egy olyan platformon, mint a Clearview. mindig ellenőrizze a közösségi hálózat szolgáltatási feltételeit, mielőtt hamis arcot tölt fel; a Twitter például nem engedélyezi a hamis arcokat, ha megtévesztő célokra használják őket. Ha használja a hamis, hogy megvédje a jogot, hogy akadálytalan szólásszabadság, akkor valószínűleg jól.

nem minden Adatvédelmi szószóló van meggyőződve arról, hogy az olyan rendszerek, mint az Anonymizer, hatékonyak lesznek. Chris Gilliard aktivista és a Harvard Kennedy School Shorenstein Center kutatója azt mondta nekem: “nagyon óvatos lennék minden olyan állítással szemben, amely szerint ez az emberek névtelenségének védelme érdekében működhet.”Az adatmegosztás jóval túlmutat az Interneten közzétett nyilvános fényképeken, és Gillard elmondta nekem, hogy “az adataink szabályozásának és felügyeletének hiányával és a digitális eszközök sokaságával az a probléma, hogy viszonylag könnyű fotókat szerezni az emberekről, függetlenül attól, hogy ez azt jelenti-e, hogy lekaparják a közösségi médiát, vagy megvásárolják a DMV-től.”Gillard úgy érezte, hogy ezek inkább társadalmi, mint technikai problémák, és nem olyan dolgok, amelyekből a társadalom “tech” ki tud jutni.

a hamis arcok kockázatokkal is járnak. Szerint A New York Times, a hamis arcokat ” álarcként használhatják valódi emberek aljas szándékkal: kémek, akik vonzó arcot adnak annak érdekében, hogy beszivárogjanak a hírszerző közösségbe; jobboldali propagandisták, akik hamis profilok mögé bújnak, fotó és minden; online zaklatók, akik barátságos arccal trollkodják célpontjaikat.”Az év elején egy hamis arcot használtak ilyen módon, hogy megosszanak egy történetet Hunter Bidenről egy hamis hírszerző cégtől.

egy aljas felhasználó kezében az Anonymizer potenciálisan ilyen típusú hamisítványokat hozhat létre. De azok számára, akik negatív okokból hamis arcot akarnak létrehozni, valószínűleg könnyebb módszerek vannak. A honlap ThisPersonDoesNotExist.com hamis arcokat generál a böngészőben egy Gans technológiával, amely hasonló a generált média technológiájához, kép feltöltése nélkül.

és mivel az arcgeneráló Gan-ok mögött álló kód széles körben elérhető, a legtöbb kifinomult bűnöző valószínűleg saját arcgeneráló rendszert építene fel, ahelyett, hogy olyan arcokra támaszkodna, amelyek egy adott vállalathoz vezethetők vissza-és így potenciálisan rájuk. A maga részéről, generált média szerint a felhasználók nem használhatják ” az Ön képét más személy megszemélyesítésére vagy illegális tevékenység folytatására.”

ha szeretné közzétenni magát az interneten anélkül, hogy aggódna a tömeges megfigyelés miatt—vagy ha csak azt szeretné tesztelni, hogy a kapcsolatok mennyire ismerik Önt azáltal, hogy a Twitter profilképét hamisra cseréli, és megnézi, hogy valaki észreveszi—e-nézze meg az Anonymizert. Legalább szórakoztató látni a saját hamis klónjainak rácsát. Ha pedig érzékeny tartalmat tesz közzé az interneten, attól tartva, hogy üldözésre lehet célozni, vagy csak azt akarja ellenőrizni, hogy ki ismeri valódi megjelenését, az Anonymizer nem csak Játékszer — ez egy potenciálisan hatékony eszköz.

Vélemény, hozzászólás?

Az e-mail-címet nem tesszük közzé.