Sättet vi tränar AI på är i grunden felaktigt

Getty bilder

Det är ingen hemlighet att maskinlärande modeller har trimmats och justerats till nästan perfekta prestanda i labbet misslyckas ofta i verkliga inställningar. Detta beror vanligtvis på en bristande överensstämmelse mellan data som AI tränades och testades på och data den stöter på i världen, ett problem som kallas dataskifte. Till exempel kommer en AI som är tränad att upptäcka tecken på sjukdom i medicinska bilder av hög kvalitet kämpar med suddiga eller beskurna bilder fångad av en billig kamera på en hektisk klinik.

Nu har en grupp på 40 forskare från sju olika team på Google identifierat en annan viktig orsak till det vanliga misslyckandet med maskininlärningsmodeller . Kallas underspecifikation, det kan vara ett ännu större problem än dataskifte. Vi efterfrågar mer av maskininlärningsmodeller än vad vi kan garantera med vårt nuvarande tillvägagångssätt, säger Alex D’Amour, som ledde studien.

Relaterad berättelse

Googles medicinska AI var superexakt i ett labb. Det verkliga livet var en annan historia. Om AI verkligen ska göra skillnad för patienter måste vi veta hur det fungerar när riktiga människor får tag på det, i verkliga situationer.

Underspecifikation är ett känt problem i statistiken, där observerade effekter kan ha många möjliga orsaker. D’Amour, som har en bakgrund i kausala resonemang, ville veta varför hans egna maskininlärningsmodeller ofta misslyckades i praktiken. Han undrade om underspecifikation kan vara problemet även här. D’Amour insåg snart att många av hans kollegor märkte samma problem i sina egna modeller. Det är faktiskt ett fenomen som händer överallt, säger han.

D'Amours första undersökning snöade iväg och dussintals Google-forskare slutade med att titta på en rad olika AI-applikationer, från bildigenkänning till naturlig språkbehandling (NLP) till sjukdomsförutsägelse . De fann att underspecifikation var skulden för dålig prestanda hos dem alla. Problemet ligger i hur maskininlärningsmodeller tränas och testas, och det finns ingen enkel lösning.

Pappret är en förstöringskula, säger Brandon Rohrer, maskininlärningsingenjör på iRobot, som tidigare arbetat på Facebook och Microsoft och inte var inblandad i arbetet.

Samma men olika

För att förstå exakt vad som händer måste vi backa lite. Grovt uttryckt innebär att bygga en maskininlärningsmodell att träna den på ett stort antal exempel och sedan testa den på ett gäng liknande exempel som den ännu inte har sett. När modellen klarar testet är du klar.

Vad Google-forskarna påpekar är att den här stapeln är för låg. Träningsprocessen kan producera många olika modeller som alla klarar testet men – och detta är den avgörande delen – dessa modeller kommer att skilja sig åt på små, godtyckliga sätt, beroende på saker som de slumpmässiga värdena som ges till noderna i ett neuralt nätverk innan träningen startar , hur träningsdata väljs eller representeras, antalet träningskörningar och så vidare. Dessa små, ofta slumpmässiga, skillnader förbises vanligtvis om de inte påverkar hur en modell gör på testet. Men det visar sig att de kan leda till enorm variation i prestanda i den verkliga världen.

Med andra ord, processen som används för att bygga de flesta maskininlärningsmodeller idag kan inte säga vilka modeller som kommer att fungera i den verkliga världen och vilka som inte kommer att fungera.

Detta är inte samma sak som dataskifte, där träning inte lyckas producera en bra modell eftersom träningsdata inte stämmer överens med verkliga exempel. Underspecifikation betyder något annat: även om en träningsprocess kan producera en bra modell, kan den fortfarande spotta ut en dålig eftersom den inte kommer att känna skillnaden. Det skulle inte vi heller.

Forskarna tittade på effekten av underspecifikation på ett antal olika tillämpningar. I varje fall använde de samma träningsprocesser för att producera flera maskininlärningsmodeller och körde sedan dessa modeller genom stresstester för att belysa specifika skillnader i deras prestanda.

Relaterad berättelse

AI brottas med en replikeringskris Teknikjättar dominerar forskning men gränsen mellan verkligt genombrott och produktpresentation kan vara suddig. Vissa forskare har fått nog.

Till exempel tränade de 50 versioner av en bildigenkänningsmodell på ImageNet , en datauppsättning av bilder av vardagliga föremål. Den enda skillnaden mellan träningskörningar var de slumpmässiga värden som tilldelades det neurala nätverket vid starten. Men trots att alla 50 modellerna fick mer eller mindre samma poäng i träningstestet – vilket tyder på att de var lika exakta – varierade deras prestanda kraftigt i stresstestet.

Stresstestet använde ImageNet-C, en datauppsättning av bilder från ImageNet som har pixlats eller fått sin ljusstyrka och kontrast ändrad, och ObjectNet , en datauppsättning av bilder av vardagsföremål i ovanliga poser, som stolar på rygg, uppochnervända tekannor och T-shirts som hänger från krokar. Några av de 50 modellerna klarade sig bra med pixlade bilder, några klarade sig bra med de ovanliga poserna; vissa klarade sig mycket bättre överlag än andra. Men när det gällde standardutbildningsprocessen var de alla lika.

Forskarna genomförde liknande experiment med två olika NLP-system och tre medicinska AI:er för att förutsäga ögonsjukdom från näthinneskanningar, cancer från hudskador och njursvikt från patientjournaler. Alla system hade samma problem: modeller som borde ha varit lika exakta presterade olika när de testades med verkliga data, såsom olika näthinneskanningar eller hudtyper.

Vi kan behöva tänka om hur vi utvärderar neurala nätverk, säger Rohrer. Det gör några betydande hål i de grundläggande antaganden vi har gjort.

D’Amour håller med. Den största, omedelbara takeaway är att vi måste göra mycket mer tester, säger han. Det blir dock inte lätt. Stresstesten skräddarsyddes specifikt för varje uppgift, med hjälp av data hämtade från den verkliga världen eller data som efterliknade den verkliga världen. Detta är inte alltid tillgängligt.

Vissa stresstester är också i strid med varandra: modeller som var bra på att känna igen pixlade bilder var ofta dåliga på att känna igen bilder med hög kontrast till exempel. Det kanske inte alltid går att träna en enda modell som klarar alla stresstester.

Flera val

Ett alternativ är att designa ytterligare ett steg till utbildnings- och testprocessen, där många modeller produceras samtidigt istället för bara en. Dessa konkurrerande modeller kan sedan testas igen på specifika verkliga uppgifter för att välja den bästa för jobbet.

Det är mycket arbete. Men för ett företag som Google, som bygger och distribuerar stora modeller, kan det vara värt det, säger Yannic Kilcher, maskinlärande forskare vid ETH Zürich. Google kunde erbjuda 50 olika versioner av en NLP-modell och applikationsutvecklare kunde välja den som fungerade bäst för dem, säger han.

D’Amour och hans kollegor har ännu inte en lösning men undersöker sätt att förbättra träningsprocessen. Vi måste bli bättre på att precisera exakt vilka krav vi har på våra modeller, säger han. För det som ofta händer är att vi upptäcker dessa krav först efter att modellen har misslyckats ute i världen.

Att få en fix är avgörande om AI ska ha lika stor inverkan utanför labbet som den har inuti. När AI underpresterar i den verkliga världen gör det människor mindre villiga att vilja använda det, säger medförfattaren Katherine Heller, som arbetar på Google på AI för sjukvård: Vi har tappat mycket förtroende när det kommer till de mördande applikationerna , det är viktigt förtroende som vi vill återvinna.

Dölj