211service.com
Den amerikanska militären vill lära AI lite grundläggande sunt förnuft
HAMMAR: DAVID; TELEFON: ANDRIWIDODO; BANAN: BEN DAVIS | Substantivprojektet
Varhelst artificiell intelligens används kommer du att upptäcka att den har misslyckats på något underhållande sätt. Ta konstiga fel gjorda av översättningsalgoritmer som blandar ihop att ha någon på middag med, ja, ha någon på middag.
Men eftersom AI används i allt mer kritiska situationer, som att köra autonoma bilar, ställa medicinska diagnoser eller dra slutsatser på liv eller död från underrättelseinformation, kommer dessa misslyckanden inte längre att vara ett skratt. Det är därför DARPA , den amerikanska militärens forskningsgren, tar itu med AI:s mest grundläggande brist: den har noll sunt förnuft.
Sunt förnuft är den mörka frågan om artificiell intelligens, säger Oren Etzioni, vd för the Allen Institute for AI , en ideell forskningsorganisation baserad i Seattle som utforskar gränserna för tekniken. Det är lite obeskrivligt, men du ser dess effekter på allt.
DARPA:s nya Machine Common Sense (MCS)-program kommer att köra en tävling som ber AI-algoritmer att förstå frågor som denna:
En elev sätter två identiska plantor i samma typ och mängd jord. Hon ger dem samma mängd vatten. Hon sätter en av dessa växter nära ett fönster och den andra i ett mörkt rum. Anläggningen nära fönstret kommer att producera mer (A) syre (B) koldioxid (C) vatten.
Ett datorprogram behöver en viss förståelse för hur fotosyntes fungerar för att kunna hantera frågan. Att bara mata en maskin med många tidigare frågor kommer inte att lösa problemet på ett tillförlitligt sätt.
Dessa riktmärken kommer att fokusera på språket eftersom det så lätt kan slå sönder maskiner och eftersom det gör testning relativt enkelt. Etzioni säger att frågorna erbjuder ett sätt att mäta framsteg mot sunt förnuft, vilket kommer att vara avgörande.
Teknikföretag är upptagna med att kommersialisera maskininlärningstekniker som är kraftfulla men i grunden begränsade. Deep learning, till exempel, gör det möjligt att känna igen ord i tal eller objekt i bilder, ofta med otrolig noggrannhet. Men tillvägagångssättet bygger vanligtvis på att mata in stora mängder märkt data - en rå ljudsignal eller pixlarna i en bild - till ett stort neuralt nätverk. Systemet kan lära sig att plocka ut viktiga mönster, men det kan lätt göra misstag eftersom det inte har någon uppfattning om den bredare världen.
Däremot utvecklar mänskliga spädbarn snabbt en intuitiv förståelse av världen som fungerar som en grund för deras intelligens.
Det är dock långt ifrån självklart hur man ska lösa problemet med sunt förnuft. Tidigare försök att hjälpa maskiner att förstå världen har fokuserat på att bygga stora kunskapsdatabaser för hand. Detta är en svårhanterlig och i princip aldrig sinande uppgift. Den mest kända sådan insatsen är Cyc , ett projekt som har pågått i decennier .
Problemet kan visa sig vara oerhört viktigt. En brist på sunt förnuft är trots allt katastrofalt i vissa kritiska situationer, och det kan i slutändan hålla artificiell intelligens tillbaka. DARPA har en historia av att investera i grundläggande AI-forskning. Tidigare projekt hjälpte till att skapa dagens självkörande bilar såväl som den mest kända röststyrda personliga assistenten, Siri.
Frånvaron av sunt förnuft hindrar ett intelligent system från att förstå sin värld, kommunicera naturligt med människor, bete sig rimligt i oförutsedda situationer och lära sig av nya erfarenheter, sa Dave Gunning, en programledare på DARPA, i ett uttalande i morse. Denna frånvaro är kanske den viktigaste barriären mellan de snävt fokuserade AI-applikationer vi har idag och de mer generella AI-applikationer vi skulle vilja skapa i framtiden.