Doomsday Grants kommer att främja viktig AI-forskning

Även om du inte är rädd för den förestående ökningen av superintelligenta maskiner, finns det anledning att jubla med nya medel som går till att forska i ämnet, eftersom det kan hjälpa till att göra artificiell intelligens mer praktiskt på kort sikt.

De senaste framstegen inom datavetenskap, särskilt maskininlärning, har sammanfallit med några anmärkningsvärt raka spekulationer om vart artificiell intelligens kan ta oss. Förra året varnade miljardärsentreprenören Elon Musk öppet för att AI-forskning riskerade att kalla fram demonen och kunde utgöra det största existentiella hotet mot mänskligheten. Andra framstående personer, inklusive Bill Gates och Stephen Hawking, har också uttryckt oro över de potentiella riskerna med att utveckla verkligt intelligenta maskiner.

De Future of Life Institute , en organisation som grundades i Cambridge, Massachusetts, för att mildra de potentiella existentiella riskerna med AI, denna vecka meddelade 7 miljoner dollar i bidrag för projekt dedikerade till att hålla AI robust och fördelaktigt. Bidraget finansierades till stor del av Musk, som har gett 10 miljoner dollar till institutet.

Kanske är det vettigt att överväga sådana oönskade resultat, men vi är fortfarande långt ifrån att skapa något vi kan anse som genuint intelligent. Medan några av de 37 projekt som får finansiering från Future of Life Institute utforskar ganska långtgående scenarier som involverar extremt kraftfull AI, tar andra upp viktiga ansträngningar för att göra programvara mer pålitlig, ansvarsfull och användbar i komplexa eller tvetydiga sammanhang.

Till exempel:

* Fuxin Li , en forskare vid Georgia Tech, kommer att studera sätt att förstå och förutsäga fel i djupinlärningssystem. Detta är en mycket givande insats. Även om dessa avancerade neurala nätverk har producerat spektakulära resultat under de senaste åren inom områden som bild- och röstigenkänning, kan de misslyckas på överraskande sätt.

* Stefano Ermon , en biträdande professor vid Stanford University, kommer att undersöka sätt att få autonoma agenter att bete sig rationellt i komplexa situationer. Så småningom kan detta till exempel hjälpa en automatiserad bil att väga upp riskerna med olika handlingar i en komplex situation, vilket gör att den i slutändan kan agera på ett sätt som vi finner mer ansvarsfullt och etiskt acceptabelt.

* Seth Herd , en forskare vid University of Colorado, kommer att försöka tillämpa neurovetenskaplig forskning på mänskligt beslutsfattande på ansträngningar att bygga datorhårdvara med så kallade neuromorfa system, inspirerade av hjärnan. Detta kan ge viktiga insikter om att designa dessa system och peka på några nya tillämpningar.

* Manuela Veloso , en professor vid Carnegie Mellon University, kommer att leda ett försök att utveckla sätt för maskiner att förklara sitt beteende för människor. Det kan vara svårt även för experter att förstå varför en maskin beter sig på ett oväntat sätt. Att förbättra denna situation kan vara särskilt viktigt eftersom robotar börjar arbeta närmare tillsammans med människor.

Ironiskt nog visar dessa forskningsprojekt också hur långt vi är från att bygga något som kan tänkas ta över världen. Och även om det kanske är vettigt att överväga framtida risker medan det fortfarande finns gott om tid, låt oss hoppas att oro över futuristiska scenarier inte utgör en risk för meningsfulla tekniska framsteg.

Dölj