Fem frågor du kan använda för att skära igenom AI-hypen

En abstrakt illustration som visar siffrorna 1-5 och frågetecken Ms. Tech

För två veckor sedan var Förenade Arabemiraten värd för Ai Everything, dess första stora AI-konferens och en av de största AI-applikationskonferenserna i världen. Evenemanget var ett imponerande bevis på bredden av branscher där företag nu använder maskininlärning. Det fungerade också som en viktig påminnelse om hur affärsvärlden kan fördunkla och sälja över teknikens förmågor.

Som svar vill jag kort beskriva de fem frågorna jag vanligtvis använder för att bedöma kvaliteten och giltigheten hos ett företags teknologi:

1. Vad är problemet den försöker lösa?

Jag börjar alltid med problemformuleringen. Vad säger företaget att det försöker göra, och är det värt maskininlärning? Vi kanske pratar med Affectiva, som bygger känsloigenkänningsteknik för att exakt spåra och analysera människors humör. Begreppsmässigt är detta ett problem med mönsterigenkänning och skulle därför vara ett problem som maskininlärning skulle kunna hantera (se: Vad är maskininlärning? ). Det skulle också vara mycket utmanande att närma sig på andra sätt eftersom det är för komplicerat att programmera in i en uppsättning regler.

2. Hur ställer sig företaget till det problemet med maskininlärning?

Nu när vi har en konceptuell förståelse av problemet vill vi veta hur företaget kommer att ta itu med det. Ett företag som känner igenkänning kan ta många tillvägagångssätt för att bygga sin produkt. Det kan träna ett datorseendesystem att mönstermatcha på människors ansiktsuttryck eller träna ett ljudsystem att mönstermatcha på människors tonfall. Här vill vi ta reda på hur företaget har omformat sin problemformulering till ett maskininlärningsproblem och bestämma vilken data det skulle behöva mata in i sina algoritmer.

Relaterad berättelse

Relaterad historia

Definitionen av artificiell intelligens utvecklas ständigt, och termen blir ofta förvanskad, så vi är här för att hjälpa till.

3. Hur hämtar företaget sina utbildningsdata?

När vi väl vet vilken typ av data företaget behöver vill vi veta hur företaget går tillväga för att skaffa den. De flesta AI-applikationer använder övervakad maskininlärning, vilket kräver rena, högkvalitativa märkta data. Vem märker uppgifterna? Och om etiketterna fångar något subjektivt som känslor, följer de en vetenskaplig standard? I Affectivas fall skulle du lära dig att företaget samlar in ljud- och videodata frivilligt från användare och anställer utbildade specialister för att märka data på ett strikt konsekvent sätt. Att känna till detaljerna i denna del av pipelinen hjälper dig också att identifiera potentiella källor till datainsamling eller märkningsbias (se: Så här uppstår AI-bias verkligen).

4. Har företaget processer för revision av sina produkter?

Nu ska vi undersöka om företaget testar sina produkter. Hur exakta är dess algoritmer? Är de granskade för partiskhet? Hur ofta omvärderar den sina algoritmer för att se till att de fortfarande presterar upp till par? Om företaget ännu inte har algoritmer som når önskad noggrannhet eller rättvisa, vilka planer har det för att se till att de kommer att göra det innan implementeringen?

5. Bör företaget använda maskininlärning för att lösa detta problem?

Det här är mer ett bedömningssamtal. Även om ett problem burk lösas med maskininlärning är det viktigt att ifrågasätta om det skall vara. Bara för att du kan skapa en plattform för igenkänning av känslor som når minst 80 % träffsäkerhet över olika raser och kön betyder det inte att den inte kommer att missbrukas. Uppväger fördelarna med att ha denna teknik tillgänglig de potentiella kränkningarna av mänskliga rättigheter med känslomässig övervakning? Och har företaget mekanismer på plats för att mildra eventuella negativa effekter?

Enligt min åsikt bör ett företag med en maskininlärningsprodukt av hög kvalitet bocka av alla rutor: det bör ta itu med ett problem som passar för maskininlärning, ha robusta datainsamlings- och revisionsprocesser, ha mycket exakta algoritmer eller en plan för att förbättra dem, och brottas direkt med etiska frågor. Ofta klarar företag de första fyra testerna men inte de sista. För mig är det en stor röd flagga. Det visar att företaget inte tänker holistiskt på hur dess teknologi kan påverka människors liv och har en stor chans att dra en Facebook senare. Om du är en chef som letar efter maskininlärningslösningar för ditt företag bör detta varna dig för att samarbeta med en viss leverantör.

Den här historien dök ursprungligen upp i vårt Webby-nominerade AI-nyhetsbrev The Algorithm. Om du vill få fler artiklar som denna levererade direkt till din inkorg, registrera dig här. Det är gratis.

Dölj