Ser dessa AI-skapade falska människor riktigt ut för dig? - New York Times

0 32



Det finns nu företag som säljer falska personer. På webbplatsen Generated.Photos kan du köpa en ”unik, orolig” falsk person för 2.99 dollar eller 1,000 1,000 personer för XNUMX XNUMX dollar. Om du bara behöver ett par falska människor - för karaktärer i ett videospel eller för att göra ditt företags webbplats verkar mer varierande - du kan få deras foton gratis på ThisPersonDoesNotExist.com. Justera deras likhet efter behov; gör dem gamla eller unga eller den etnicitet du väljer. Om du vill att din falska person ska animeras, kan ett företag som heter Rosebud.AI göra det och till och med få dem att prata.

Dessa simulerade människor börjar dyka upp på internet, används som masker av riktiga människor med illvilliga avsikter: spioner som inte ett attraktivt ansikte i ett försök att infiltrera intelligensgemenskapen; höger propagandister som gömmer sig bakom falska profiler, foto och allt; uppkopplad harassers som trollar sina mål med ett vänligt ansikte.

Vi skapade vårt eget AI-system för att förstå hur enkelt det är att skapa olika falska ansikten.

AI-systemet ser varje ansikte som en komplex matematisk figur, ett värdeintervall som kan flyttas. Att välja olika värden - som de som bestämmer ögonens storlek och form - kan förändra hela bilden.

För andra kvaliteter använde vårt system ett annat tillvägagångssätt. I stället för att flytta värden som bestämmer specifika delar av bilden genererade systemet först två bilder för att skapa start- och slutpunkter för alla värden och sedan skapa bilder däremellan.

Skapandet av dessa typer av falska bilder blev bara möjligt de senaste åren tack vare en ny typ av artificiell intelligens som kallas ett generativt kontradiktornätverk. I grund och botten matar du ett datorprogram med en massa foton av riktiga människor. Den studerar dem och försöker komma med egna foton av människor, medan en annan del av systemet försöker upptäcka vilka av dessa foton som är falska.

Fram och tillbaka gör slutprodukten allt mer urskiljbar från den verkliga varan. Porträtten i den här berättelsen skapades av The Times med GAN-programvara som gjordes offentligt tillgänglig av datorgrafikföretaget Nvidia.

Med tanke på förbättringstakten är det lätt att föreställa sig en inte så avlägsen framtid där vi konfronteras med inte bara enstaka porträtt av falska människor utan hela samlingar av dem - på en fest med falska vänner, hängande med sina falska hundar, håller sina falska barn. Det blir allt svårare att berätta vem som är verklig online och vem som är en fantasi för en dator.

”När tekniken dök upp första gången 2014 var det dåligt - det såg ut sims, Säger Camille François, en desinformationsforskare vars uppgift är att analysera manipulation av sociala nätverk. ”Det är en påminnelse om hur snabbt tekniken kan utvecklas. Upptäckt blir bara svårare med tiden. ”

Framsteg i ansiktsfakery har möjliggjorts delvis eftersom tekniken har blivit så mycket bättre på att identifiera viktiga ansiktsdrag. Du kan använda ditt ansikte för att låsa upp din smartphone eller be din fotoprogramvara att sortera i tusentals bilder och bara visa ditt barns bilder. Ansiktsigenkänningsprogram används av brottsbekämpande myndigheter för att identifiera och arrestera brottsmisstänkta (och även av några aktivister för att avslöja identiteten hos poliser som täcker deras namnskyltar i ett försök att vara anonym). Ett företag som heter Clearview AI skrapade nätet av miljarder offentliga foton - som delas online av vardagliga användare online - för att skapa en app som kan känna igen en främling från bara ett foto. Tekniken lovar supermakter: förmågan att organisera och bearbeta världen på ett sätt som inte var möjligt tidigare.

Men algoritmer för ansiktsigenkänning, som andra AI-system, är inte perfekta. Tack vare underliggande fördomar i de data som används för att träna dem är vissa av dessa system inte lika bra, till exempel för att känna igen människor i färg. 2015 utvecklades ett tidigt bilddetekteringssystem av Google märkt två svarta människor som "gorillor", troligen för att systemet hade fått många fler bilder av gorillor än av människor med mörk hud.

Dessutom är kameror - ögonen på ansiktsigenkänningssystem - det inte lika bra att fånga människor med mörk hud; det olyckliga standarddatumet till de tidiga dagarna av filmutveckling, när foton kalibrerades för att bäst visa ansikten på ljushåriga människor. Konsekvenserna kan vara allvarliga. I januari arresterades en svart man i Detroit som heter Robert Williams för ett brott han inte begick på grund av en felaktig ansiktsigenkänningsmatch.

Artificiell intelligens kan göra våra liv enklare, men i slutändan är det lika bristfälligt som vi är, för vi står bakom det hela. Människor väljer hur AI-system skapas och vilken data de exponeras för. Vi väljer de röster som lär virtuella assistenter att höra, vilket leder dessa system att inte förstå människor med accenter. Vi utformar ett datorprogram för att förutsäga en persons brottsliga beteende genom att mata den data om tidigare beslut från mänskliga domare - och i processen baka i domarnas partiskhet. Vi märker bilderna som tränar datorer att se; de associerar sedan glasögon med "dweebs" eller "nördar."

Du kan upptäcka några av misstagen och mönstren vi upptäckte att vårt AI-system upprepades när det framkallade falska ansikten.


Människor gör naturligtvis fel: Vi förbiser eller glaserar förbi bristerna i dessa system, alltför snabba att lita på att datorer är hyperrationella, objektiva, alltid rätta. Studier har visat att i situationer där människor och datorer måste samarbeta för att fatta ett beslut - att identifiera fingeravtryck or mänskliga ansikten - människor konsekvent gjorde fel identifiering när en dator knuffade dem för att göra det. I de tidiga dagarna av instrumentpanel GPS-system, förare följde känd enheternas anvisningar till ett fel, skickar bilar i sjöar, utanför klippor och i träd.

Är detta ödmjukhet eller hybris? Lägger vi för lite värde på mänsklig intelligens - eller överskrider vi den, förutsatt att vi är så smarta att vi fortfarande kan skapa saker smartare?

Algoritmerna från Google och Bing sorterar världens kunskap för oss. Facebooks nyhetsflöde filtrerar uppdateringarna från våra sociala kretsar och bestämmer vilka som är viktiga nog för att visa oss. Med självkörande funktioner i bilar är vi det lägger vår säkerhet i händerna (och ögonen) av programvara. Vi litar mycket på dessa system, men de kan vara lika felaktiga som oss.

Fler artiklar om artificiell intelligens:

Utbildning ansiktsigenkänning på några nya furry vänner: björnar

Antikroppar Bra. Maskintillverkade molekyler bättre?

Dessa algoritmer kan göra slut på världens dödligaste mördare

Den här artikeln uppträdde först (på engelska) på https://www.nytimes.com/interactive/2020/11/21/science/artificial-intelligence-fake-people-faces.html

Lämna en kommentar

Din e-postadress kommer inte att publiceras.