Dessa läskiga falska människor förebådar en ny tidsålder inom AI

Med tillstånd av Datagen

Du kan se de svaga skäggstubbarna komma in på hans överläpp, rynkorna i pannan, fläckarna på huden. Han är inte en riktig person, men det är meningen att han ska efterlikna en – liksom de hundratusentals andra som tillverkats av Datagen, ett företag som säljer falska, simulerade människor.

Dessa människor är inte spelavatarer eller animerade karaktärer för filmer. De är syntetiska data utformade för att mata den växande aptiten hos algoritmer för djupinlärning. Företag som Datagen erbjuder ett övertygande alternativ till den dyra och tidskrävande processen att samla in verklig data. De kommer att göra det åt dig: hur du vill ha det, när du vill – och relativt billigt.

För att skapa sina syntetiska människor, Datagen först skannar verkliga människor. Det samarbetar med leverantörer som betalar folk för att kliva in i gigantiska helkroppsskannrar som fångar varje detalj från deras iris till deras hudstruktur till krökningen av deras fingrar. Uppstarten tar sedan rådata och pumpar den genom en serie algoritmer, som utvecklar 3D-representationer av en persons kropp, ansikte, ögon och händer.

Företaget, som är baserat i Israel, säger att det redan arbetar med fyra stora amerikanska teknikjättar, även om det inte kommer att avslöja vilka som finns på posten. Dess närmaste konkurrent, Syntes AI , erbjuder även on-demand digitala människor. Andra företag genererar data som ska användas i finansiera , försäkring , och sjukvård . Det är ungefär lika många syntetiska dataföretag eftersom det finns typer av data.

En gång sågs syntetiska data som mindre önskvärda än verkliga data, men syntetiska data ses nu av vissa som ett universalmedel. Verklig data är rörig och full av partiskhet. Nya dataskyddsbestämmelser gör det svårt att samla in. Däremot är syntetisk data orörd och kan användas för att bygga fler olika datamängder. Du kan producera perfekt märkta ansikten, låt oss säga, av olika åldrar, former och etniciteter för att bygga ett ansiktsdetekteringssystem som fungerar över hela befolkningen.

Men syntetisk data har sina begränsningar. Om det misslyckas med att spegla verkligheten kan det sluta med att producera ännu värre AI än rörig, partisk verklig data – eller så kan den helt enkelt ärva samma problem. Vad jag inte vill göra är att ge tummen upp för det här paradigmet och säga: 'Åh, det här kommer att lösa så många problem', säger Cathy O'Neil, datavetare och grundare av algoritmrevisionsfirman ORCAA. För det kommer också att ignorera många saker.

Realistiskt, inte verkligt

Deep learning har alltid handlat om data. Men under de senaste åren har AI-gemenskapen lärt sig det Bra data är viktigare än stor data . Även små mängder av rätt, renmärkt data kan göra mer för att förbättra ett AI-systems prestanda än 10 gånger mängden okurerad data, eller till och med en mer avancerad algoritm.

Det förändrar hur företag bör närma sig att utveckla sina AI-modeller, säger Datagens vd och medgrundare, Ofir Chakon. Idag börjar de med att skaffa så mycket data som möjligt och sedan finjustera och finjustera sina algoritmer för bättre prestanda. Istället borde de göra tvärtom: använda samma algoritm samtidigt som de förbättrar sammansättningen av deras data.

Datagen genererar även falska möbler och inomhusmiljöer för att sätta sina falska människor i ett sammanhang.

DATAGEN

Men att samla in verklig data för att utföra denna typ av iterativa experiment är för kostsamt och tidskrävande. Det är här Datagen kommer in. Med en syntetisk datagenerator kan team skapa och testa dussintals nya datamängder om dagen för att identifiera vilken som maximerar en modells prestanda.

För att säkerställa realismen i sina data, ger Datagen sina leverantörer detaljerade instruktioner om hur många individer som ska skannas i varje åldersgrupp, BMI-intervall och etnicitet, samt en lista över åtgärder som de ska utföra, som att gå runt i ett rum eller dricka en läsk. Leverantörerna skickar tillbaka både statiska high-fidelity-bilder och motion-capture-data för dessa åtgärder. Datagens algoritmer utökar sedan denna data till hundratusentals kombinationer. Den syntetiserade datan kontrolleras ibland sedan igen. Falska ansikten ritas mot verkliga ansikten, till exempel för att se om de verkar realistiska.

Datagen genererar nu ansiktsuttryck för att övervaka förarens vakenhet i smarta bilar, kroppsrörelser för att spåra kunder i kassafria butiker, och iris- och handrörelser för att förbättra VR-headsetens ögon- och handspårningsfunktioner. Företaget säger att dess data redan har använts för att utveckla datorseendesystem som betjänar tiotals miljoner användare.

Det är inte bara syntetiska människor som masstillverkas. Click-Ins är en startup som använder syntetisk AI för att utföra automatiska fordonsinspektioner. Med hjälp av designprogramvara återskapar den alla bilmärken och modeller som dess AI behöver känna igen och återger dem sedan med olika färger, skador och deformationer under olika ljusförhållanden, mot olika bakgrunder. Detta låter företaget uppdatera sin AI när biltillverkare lägger ut nya modeller, och hjälper det att undvika dataintegritetskränkningar i länder där registreringsskyltar anses vara privat information och därför inte kan finnas på bilder som används för att träna AI.

Click-Ins renderar bilar av olika märken och modeller mot olika bakgrunder.

KLICKA IN

Mestadels.ai arbetar med finans-, telekommunikations- och försäkringsbolag för att tillhandahålla kalkylblad med falska kunddata som låter företag dela sin kunddatabas med externa leverantörer på ett lagligt sätt. Anonymisering kan minska en datamängds rikedom men ändå misslyckas med att tillräckligt skydda människors integritet. Men syntetisk data kan användas för att generera detaljerade falska datauppsättningar som delar samma statistiska egenskaper som ett företags verkliga data. Det kan också användas för att simulera data som företaget ännu inte har, inklusive en mer varierad kundpopulation eller scenarier som bedräglig aktivitet.

Förespråkare för syntetisk data säger att det också kan hjälpa till att utvärdera AI. I en färsk tidning publicerad på en AI-konferens, Suchi Saria, docent i maskininlärning och hälsovård vid Johns Hopkins University, och hennes medförfattare visade hur datagenereringstekniker kan användas för att extrapolera olika patientpopulationer från en enda uppsättning data. Detta kan vara användbart om, till exempel, ett företag bara hade data från New York Citys mer ungdomliga befolkning men ville förstå hur dess AI presterar på en åldrande befolkning med högre prevalens av diabetes. Hon startar nu sitt eget företag, Bayesian Health, som kommer att använda denna teknik för att testa medicinska AI-system.

Gränserna för att fejka det

Men är syntetisk data överhypad?

När det kommer till integritet, bara för att data är 'syntetisk' och inte direkt motsvarar verklig användardata betyder det inte att den inte kodar känslig information om riktiga människor, säger Aaron Roth, professor i data- och informationsvetenskap vid University of Pennsylvania. Vissa datagenereringstekniker har visat sig nära återskapa bilder eller text som finns i träningsdata, till exempel, medan andra är sårbara för attacker som gör att de fullständigt återuppstår denna data.

Det här kan vara bra för ett företag som Datagen, vars syntetiska data inte är avsedda att dölja identiteten på de individer som samtyckte till att bli skannade. Men det skulle vara dåliga nyheter för företag som erbjuder sin lösning som ett sätt att skydda känslig ekonomisk information eller patientinformation.

Relaterad berättelse

Året deepfakes blev mainstream År 2020 började AI-syntetiska medier röra sig bort från de mörkare hörnen av internet.

Forskning tyder på att kombinationen av två syntetiska datatekniker i synnerhet— differentiell integritet och generativa kontradiktoriska nätverk —kan producera det starkaste integritetsskyddet, säger Bernease Herman, en dataforskare vid University of Washington eScience Institute. Men skeptiker oroar sig för att denna nyans kan gå förlorad i marknadsföringsspråket från leverantörer av syntetiska data, som inte alltid kommer att vara aktuella om vilka tekniker de använder.

Samtidigt finns det få bevis som tyder på att syntetisk data effektivt kan mildra partiskheten hos AI-system. För det första, extrapolering av ny data från en befintlig datamängd som är skev ger inte nödvändigtvis data som är mer representativ. Datagens rådata innehåller till exempel proportionellt färre etniska minoriteter, vilket innebär att den använder färre riktiga datapunkter för att generera falska människor från dessa grupper. Även om generationsprocessen inte är helt gissningar, kan de falska människorna fortfarande vara mer benägna att avvika från verkligheten. Om dina ansikten med mörkare hudton inte är särskilt bra approximationer av ansikten, så löser du faktiskt inte problemet, säger O'Neil.

För en annan, perfekt balanserade datamängder översätts inte automatiskt till perfekt rättvisa AI-system, säger Christo Wilson, docent i datavetenskap vid Northeastern University. Om en kreditkortsutlånare försökte utveckla en AI-algoritm för att poängsätta potentiella låntagare, skulle den inte eliminera all möjlig diskriminering genom att helt enkelt representera vita människor såväl som svarta i sina uppgifter. Diskriminering kan fortfarande smyga sig in genom skillnader mellan vita och svarta sökande.

För att komplicera saken ytterligare visar tidig forskning att det i vissa fall kanske inte ens är möjligt att uppnå båda privata och rättvis AI med syntetisk data. I en färsk tidning publicerad på en AI-konferens, försökte forskare från University of Toronto och Vector Institute göra det med lungröntgen. De fann att de inte kunde skapa ett korrekt medicinskt AI-system när de försökte skapa en mångsidig syntetisk datauppsättning genom kombinationen av differentiell integritet och generativa motstridiga nätverk.

Inget av detta betyder att syntetisk data inte ska användas. I själva verket kan det mycket väl bli en nödvändighet. När tillsynsmyndigheter konfronterar behovet av att testa AI-system för laglig efterlevnad, kan det vara det enda tillvägagångssättet som ger dem den flexibilitet de behöver för att generera målinriktade testdata på begäran, säger O'Neil. Men det gör frågor om dess begränsningar ännu viktigare att studera och svara på nu.

Syntetisk data kommer sannolikt att bli bättre med tiden, säger hon, men inte av misstag.

Dölj