211service.com
Hur datoranvändning har förändrats
Jeanette Wing tror att pålitlig AI och orsaksresonemang kan hjälpa samhället att lösa verkliga problem. Men det blir inte lätt.
27 oktober 2021
Peter Garritano
Det är dags att vi börjar fixera vid data för att lösa våra problem, säger en av världens ledande experter inom datavetenskap.
2006 publicerade Jeannette Wing, då chefen för datavetenskapsavdelningen vid Carnegie Mellon University, en inflytelserik essä med titeln Beräkningstänkande, argumenterar för att alla skulle tjäna på att använda datavetenskapens konceptuella verktyg för att lösa problem inom alla områden av mänsklig strävan.
Den här historien var en del av vårt novembernummer 2021
- Se resten av frågan
- Prenumerera
Wing själv hade aldrig för avsikt att studera datavetenskap. I mitten av 1970-talet började hon på MIT för att ägna sig åt elektroteknik, inspirerad av sin far, en professor inom det området. När hon upptäckte sitt intresse för datavetenskap ringde hon upp honom för att fråga om det var en övergående modefluga. När allt kommer omkring hade fältet inte ens läroböcker. Han försäkrade henne att det inte var det. Wing bytte major och såg sig aldrig tillbaka.
Wing var tidigare vice vd för Microsoft Research och nu verkställande vice vd för forskning vid Columbia University, och är ledande när det gäller att främja datavetenskap inom flera discipliner.
Anil Ananthaswamy frågade nyligen Wing om hennes ambitiösa agenda för att främja pålitlig AI, en av 10 forskningsutmaningar hon är identifierad i sitt försök att göra AI-system mer rättvisa och mindre partiska.
F: Skulle du säga att det är en förändring på gång i hur beräkningen görs?
A: Absolut. Moores lag bar oss långt. Vi visste att vi skulle nå taket för Moores lag, [så] parallell datoranvändning blev framträdande. Men fasförskjutningen var cloud computing. Ursprungliga distribuerade filsystem var ett slags babymoln, där dina filer inte var lokala för din maskin; de var någon annanstans på servern. Cloud computing tar det och förstärker det ännu mer, där data inte är nära dig; datorn är inte nära dig.
Nästa skift handlar om data. Under den längsta tiden fixerade vi oss vid cykler, vilket fick saker att fungera snabbare – processorer, CPU:er, GPU:er och fler parallella servrar. Vi ignorerade datadelen. Nu måste vi fixera oss vid data.
F: Det är datavetenskapens domän. Hur skulle du definiera det? Vilka är utmaningarna med att använda data?
TILL: Jag har en väldigt kortfattad definition. Datavetenskap är studiet av att utvinna värde från data.
Du kan inte bara ge mig ett gäng rådata och jag trycker på en knapp och värdet kommer ut. Det börjar med att samla in, bearbeta, lagra, hantera, analysera och visualisera data och sedan tolka resultaten. Jag kallar det för datalivscykeln. Varje steg i den cykeln är mycket jobb.
F: När du använder big data dyker det ofta upp farhågor om integritet, säkerhet, rättvisa och partiskhet. Hur löser man dessa problem, särskilt inom AI?
TILL: Jag har den här nya forskningsagendan som jag främjar. Jag kallar det pålitlig AI, inspirerad av de årtionden av framsteg vi gjort inom pålitlig datoranvändning. Med pålitlighet menar vi vanligtvis säkerhet, tillförlitlighet, tillgänglighet, integritet och användbarhet. Under de senaste två decennierna har vi gjort stora framsteg. Vi har formella metoder som kan säkerställa riktigheten av ett stycke kod; vi har säkerhetsprotokoll som ökar säkerheten för ett visst system. Och vi har vissa föreställningar om integritet som är formaliserade.
Pålitlig AI ökar föreställningen på två sätt. Helt plötsligt pratar vi om robusthet och rättvisa – robusthet, vilket innebär att om du stör inmatningen störs inte utmatningen av särskilt mycket. Och vi pratar om tolkningsbarhet. Det här är saker som vi aldrig brukade prata om när vi pratade om datoranvändning.
[Också] AI-system är sannolikhetsmässiga till sin natur. Det förflutnas datorsystem är i grunden deterministiska maskiner: de är på eller av, sant eller falskt, ja eller nej, 0 eller ett . Utdata från våra AI-system är i grunden sannolikheter. Om jag säger till dig att din röntgen visar att du har cancer, är det med, säg, 0,75 sannolikhet att den lilla vita fläcken jag såg är elakartad.
Så nu måste vi leva i denna värld av sannolikheter. Ur en matematisk synvinkel använder den probabilistisk logik och tar in mycket statistik och stokastiska resonemang och så vidare. Som datavetare är du inte tränad att tänka på de sätten. Så AI-system har verkligen komplicerat vårt formella resonemang om dessa system.
F: Pålitlig AI är en av de 10 forskningsutmaningar du identifierade för datavetare. Kausalitet verkar vara en annan stor.
S: Kausalitet tror jag är nästa gräns för AI och maskininlärning. Just nu är maskinlärande algoritmer och modeller bra på att hitta mönster och korrelationer och associationer. Men de kan inte berätta för oss: orsakade detta det? Eller om jag skulle göra det här, vad skulle då hända? Och så finns det ett helt annat verksamhetsområde om kausal slutledning och kausal resonemang inom datavetenskap. Statistikgemenskapen har tittat på kausalitet i decennier. De blir ibland lite irriterade på datavetenskapsgemenskapen för att de tror att Åh, det här är en helt ny idé. Så jag vill tacka statistikgemenskapen för deras grundläggande bidrag till kausalitet. Kombinationen av big data och orsaksresonemang kan verkligen flytta fältet framåt.
F: Är du exalterad över vad datavetenskap kan åstadkomma?
TILL: Alla går galet över datavetenskap, eftersom de ser sina områden förvandlas genom användningen av datavetenskapliga metoder på den digitala data som de nu genererar, producerar, samlar in och så vidare. Det är en mycket spännande tid.