Replace Your Face With an A.I. Twin to Trick Facial Recognition

Try the Anonymizer tool to create a fake face that looks like you

Image: Donald Iain Smith/Getty Images

Als u de afgelopen jaren een foto van uzelf online hebt geplaatst, is er een goede kans dat Clearview AI deze heeft opgeslurpt en toegevoegd aan de enorme gezichtsherkenningsdatabase van het bedrijf met meer dan 3,1 miljard afbeeldingen. The New York Times zei dat Clearview ” de privacy zoals wij die kennen, zou kunnen beëindigen.”In januari kreeg ik mijn eigen Clearview AI-profiel in handen en de inhoud ervan maakte me bang.

Er is een grote verscheidenheid aan juridische en wetgevende uitdagingen aangespannen tegen Clearview. Mijn eigen artikel werd geciteerd in de Amerikaanse Civil Liberties Union ‘ s landmark class-action rechtszaak tegen het bedrijf. Maar zelfs als wetgevers in Clearview AI te houden, het stoppen van gezichtsherkenning online is als het spelen whack-a-mole: een andere kloon van het bedrijf zal gewoon verschijnen in zijn plaats.

gezien de alomtegenwoordigheid van gezichtsherkenning online, wat kunnen consumenten doen om hun gezichten uit massieve surveillancedatabases te houden? Synthetic Content startup Generated Media denkt dat het een oplossing heeft: vervang je gezicht met een technologisch geavanceerde nep gemaakt door een neuraal netwerk. De nep geeft mensen een gevoel voor uw uiterlijk terwijl het houden van uw werkelijke gezicht anoniem.

gegenereerde Media is gespecialiseerd in het maken van kunstmatige gezichten. Om dit te doen, maakt het gebruik van een technologie genaamd generative agressarial networks (GANs), die twee strijdende neurale netwerken pit tegen elkaar. In het geval van Generated Media, als de netwerken het uitvechten, wordt één netwerk (genaamd het generatieve netwerk) beter en beter in het genereren van kunstmatige gezichten. GANs-technologie is zo goed dat het valse gezichten kan produceren die mensen gemakkelijk laten denken dat ze echt zijn. Het bedrijf maakte een plons in een recent artikel van de New York Times over de technologie achter valse gezichten.

GANs kan deze prestatie ook op grote schaal uitvoeren. Gegenereerde Media is minder dan een jaar oud en heeft al meer dan 2 miljoen valse gezichten gemaakt. De gezichten vertegenwoordigen mensen van elke mogelijke leeftijd en uiterlijk. Ze zien er volledig echt uit, maar de mensen die ze afbeelden bestaan niet echt en hebben dat nooit gedaan. Gegenereerde Media licenties hen als stockfoto ‘ s op zijn website gegenereerd.Foto ‘ s en gebruikt ze als trainingsgegevens om bias in andere AI-systemen te verminderen.

gezien de alomtegenwoordigheid van gezichtsherkenning online, wat kunnen consumenten doen om hun gezichten uit massieve bewakingsdatabases te houden?

met zijn enorme database van afbeeldingen richt gegenereerde Media zich nu op consumenten. Met een tool gelanceerd vandaag genaamd Anonymizer, het bedrijf kunt u een echte foto van je gezicht te uploaden en ontvang een verscheidenheid van nep-gezichten die lijken op uw eigen. U kunt dan gebruik maken van de vervalsingen in plaats van je echte gezicht op sociale media of ergens anders dat je nodig hebt om een foto te plaatsen op het openbare internet. De nep foto ‘ s zijn gratis voor persoonlijk gebruik en komen met een optie om een transparante achtergrond te gebruiken.

De valse foto ‘ s, gegenereerde Media zegt, moeten er genoeg uitzien zoals jij dat contacten ze geloofwaardig zullen vinden. Maar omdat ze niet echt jou zijn, als Clearview of een ander gezichtsherkenningsbedrijf je nepgezicht toevoegt aan zijn database, zal het niet in staat zijn om het nepgezicht te gebruiken om de echte jij te vinden. Gegenereerde Media zegt dat gebruikers hun foto ‘ s kunnen ruilen voor nieuwe vervalsingen “ten minste elke dag” voor een extra mate van anonimiteit.in een interview vertelde Tyler Lastovich, hoofd strategie voor gegenereerde Media, me dat het bedrijf de Anonymizer bouwde nadat hij “persoonlijk werd benaderd op LinkedIn door iemand die een gegenereerde foto als avatar gebruikte “en nadat het bedrijf” many, many more on Twitter ” zag.”Anderen hebben geprobeerd om tools te maken die AI gebruiken om de identiteit van demonstranten en activisten online te verbergen door subtiel hun profielfoto’ s te wijzigen. Maar Clearview vertelde de New York Times dat deze tools niet werken om zijn systemen te misleiden. Een totaal nep foto zoals die gemaakt door gegenereerde Media zou waarschijnlijk een veiliger oplossing.

Ik heb de Anonymizer getest door een foto van mijn gezicht te uploaden, genomen in een chique pizzeria in San Ramon, Californië.

foto met dank aan de auteur

gegenereerde Media ‘ s Anonymizer gaf me een raster van ongeveer 20 look-alikes, met de optie om meer te bekijken. Ik scrolde door en koos een nep gezicht dat het meest op mijn eigen leek.

figuur met dank aan gegenereerde Media

Hier staan we naast elkaar. Omdat het nepgezicht een transparante achtergrond had, kon ik het over een foto leggen die ik nam in dezelfde chique pizzeria waar mijn echte foto werd genomen.

we zien er precies hetzelfde uit? Geen. Ten eerste zou ik mijn haar nooit zo dragen. Maar we kijken dicht genoeg dat contacten buiten mijn goede vrienden en familie de nep voor mij zou kunnen verwarren — vooral als ik de nep gebruikt op een sociale media site zoals Twitter, waar profielfoto ‘ s zijn een schaars 49×49 pixels.

een computer kan dezelfde fout maken. Om te testen hoe vergelijkbaar Mijn A. I. doppelgänger en ik kijk, ik vergeleek onze gezichten met behulp van een gezicht vergelijking API van Face++, een alomtegenwoordige leverancier van gezichtsherkenning software. Face++ gaf een “normale waarschijnlijkheid” terug dat mijn gezicht overeenkwam met mijn ai kloon en schatte met 64% zekerheid dat we dezelfde persoon waren.

dat is niet perfect, maar het is niet slecht voor een nepgezicht dat door een computer wordt voorgesteld, en de resultaten zouden in de loop van de tijd moeten verbeteren. De Anonymizer werkt door het analyseren van het gezicht van een gebruiker en het vinden van de dichtstbijzijnde match vanuit de bestaande database van gegenereerde Media van valse gezichten. Naarmate het bedrijf meer valse gezichten genereert, zal de kans op het vinden van een zeer geloofwaardige match toenemen.

In mijn testen ontdekte ik dat hoe herkenbaarder een gezicht is, hoe moeilijker het wordt om een overtuigende fake te vinden. Om dit te testen, Ik uploadde een foto van Donald Trump naar de Anonymizer. De resultaten zagen er totaal anders uit dan zijn werkelijke uiterlijk. Voor beter of slechter, ik heb bijna zeker gezien meer foto ‘ s van het gezicht van Trump in de afgelopen vier jaar dan ik heb gezien van mijn eigen. Als je een zeer vertrouwd echt gezicht als Trump ‘ s met een nep vergelijkt, zijn de kleine gebreken in de nep overduidelijk. Voor minder bekende gezichten zijn ze makkelijker over het hoofd te zien, en de nep lijkt overtuigender.

Dit suggereert een andere use case voor het systeem. De Anonymizer ‘ s killer app kan niet per se het creëren van het gezicht klonen dat uw contacten zullen geloven zijn eigenlijk u. Integendeel, het systeem kan het beste zijn voor situaties waar u wilt een gevoel van uw uiterlijk te geven aan een persoon die je nog nooit eerder hebt ontmoet, terwijl het houden van uw werkelijke uiterlijk anoniem.

dating profielen, gegenereerde Media zegt, zijn een goed voorbeeld. Als u het creëren van een online dating profiel, kunt u een nep-afbeelding van Anonymizer gegenereerde Media ‘ s te grijpen en te gebruiken in plaats van je echte gezicht. Het beeld zou een goed gevoel van je uiterlijk geven – als je een speciaal iemand ontmoet en later ervoor kiest om je echte gezicht te onthullen, zouden ze hopelijk niet het gevoel catfished. Maar totdat u ervoor koos om de echte u te onthullen, de nep-gezicht zou voorkomen dat de cyberstalkers die frequent dating sites van het kennen van uw exacte uiterlijk en targeting u IRL.

in een soortgelijke use case heeft het bedrijf samengewerkt met onderzoeksjournalisten, waarbij een gerelateerd hulpmiddel werd gebruikt om valse gezichten te creëren voor bronnen die anoniem willen blijven. Het valse gezicht kan een journalist (en zijn lezers) een gevoel geven van de leeftijd van de bron, huidskleur, haarlengte en andere belangrijke elementen van hun uiterlijk, terwijl ze ervoor zorgen dat hun echte identiteit beschermd blijft. (Journalisten die deze tactiek gebruiken om hun bronnen te beschermen moeten in hun verhaal erkennen dat het gezicht nep is en wordt gebruikt om een gevoelige identiteit te beschermen.) Clearview AI downloadt miljoenen afbeeldingen van nieuwsartikelen en social media sites, dus het opnemen van valse gezichten in gevoelige artikelen is een goede manier om te voorkomen dat Clearview het gezicht van een bron indexeert en weer linkt naar een gevoelig artikel.

Als u van plan bent om te posten over gevoelige onderwerpen zoals een protest, kunt u een soortgelijke aanpak overwegen door een apart social media-account aan te maken en het te vullen met een valse versie van uw gezicht. Op die manier wordt gevoelige inhoud niet teruggelinkt naar je echte gezicht en is deze niet beschikbaar voor degenen die naar je gezicht zoeken op een platform als Clearview ‘ s. Controleer altijd de Servicevoorwaarden van je sociale netwerk voordat je een nep gezicht uploadt.Twitter staat bijvoorbeeld geen valse gezichten toe als ze voor misleidende doeleinden worden gebruikt. Als je de nep gebruikt om je recht op vrije meningsuiting te beschermen, ben je waarschijnlijk in orde.

niet alle voorstanders van privacy zijn er echter van overtuigd dat systemen zoals de Anonymizer effectief zullen zijn. Activist en Harvard Kennedy School Shorenstein Center Research fellow Chris Gilliard vertelde me: “Ik zou behoorlijk op mijn hoede zijn voor elke claim dat dit kan functioneren als een manier om de anonimiteit van mensen te beschermen.”Het delen van gegevens gaat veel verder dan Openbare foto’ s op het Internet, en Gillard vertelde me dat “een deel van het probleem met het gebrek aan regelgeving en toezicht met onze gegevens en met zo veel van deze digitale tools is dat het relatief gemakkelijk om foto’ s van mensen te verkrijgen, of dat betekent schrapen van sociale media of het kopen van het van de DMV.”Gillard vond dat dit eerder sociale Dan technische problemen zijn, en niet iets waar de samenleving zich uit kan “tech”.

Fake gezichten komen ook met risico ‘ s. Volgens de New York Times kunnen valse gezichten “als maskers worden gebruikt door echte mensen met snode bedoelingen: spionnen die een aantrekkelijk gezicht dragen in een poging om de inlichtingengemeenschap te infiltreren; rechtse propagandisten die zich verbergen achter valse profielen, foto’ s en alles; online pesterijen die hun doelwitten trollen met een vriendelijk gezicht.”Eerder dit jaar werd op deze manier een nepgezicht gebruikt om een verhaal over Hunter Biden te delen van een nep-inlichtingenbedrijf.

in de handen van een snode gebruiker kan de Anonymizer mogelijk dit soort vervalsingen maken. Maar voor degenen die op zoek zijn naar een nep gezicht om negatieve redenen te creëren, zijn er waarschijnlijk eenvoudiger methoden. De website ThisPersonDoesNotExist.com genereert valse gezichten in uw browser met behulp van een GANs-technologie die vergelijkbaar is met de technologie van gegenereerde Media, zonder de noodzaak om een afbeelding te uploaden.

en omdat de code achter gezicht genererende GANs op grote schaal beschikbaar is, zouden de meeste gesofisticeerde criminelen waarschijnlijk hun eigen gezicht genererende systemen bouwen, in plaats van te vertrouwen op gezichten die kunnen worden getraceerd naar een bepaald bedrijf-en dus mogelijk naar hen. Gegenereerde Media zegt dat gebruikers je afbeelding niet mogen gebruiken om zich voor te doen als een andere persoon of om illegale activiteiten uit te voeren.”

als je een weergave van jezelf online wilt plaatsen zonder je zorgen te maken over massa—surveillance—of als je gewoon wilt testen hoe goed je contacten je kennen door je Twitter-profielfoto te ruilen voor een nep-foto en te zien of iemand het merkt-bekijk dan de Anonymizer. Op zijn minst, is het leuk om een raster van je eigen persoonlijke nep klonen te zien. En als je gevoelige content online plaatst, bang bent dat je het doelwit bent voor stalking, of gewoon wilt bepalen wie je ware uiterlijk kent, is de Anonymizer niet alleen een speeltje — het is een potentieel krachtige tool.

Geef een antwoord

Het e-mailadres wordt niet gepubliceerd.