211service.com
AI-forskare vill studera AI på samma sätt som samhällsvetare studerar människor
En konceptuell illustration av en forskare som studerar AI Tsjisse Talsma
Mycket bläck har spillts på AI-systemens svarta låda – och hur det gör oss obekväma att vi ofta inte kan förstå varför de tar de beslut de gör. Allt eftersom algoritmer har kommit att förmedla allt från våra sociala och kulturella till ekonomiska och politiska interaktioner, har datavetare försökt svara på ökande krav på deras förklarabarhet genom att utveckla tekniska metoder för att förstå deras beteenden.
Men en grupp forskare från akademi och industri hävdar nu att vi inte behöver penetrera dessa svarta lådor för att förstå, och därmed kontrollera, deras effekt på våra liv. Det här är trots allt inte de första outgrundliga svarta lådorna vi har stött på.
Vi har utvecklat vetenskapliga metoder för att studera svarta lådor i hundratals år nu, men dessa metoder har främst tillämpats på [levande varelser] fram till denna punkt, säger Nick Obradovich, en MIT Media Lab-forskare och medförfattare till en nytt papper publicerades förra veckan i Natur . Vi kan utnyttja många av samma verktyg för att studera de nya black box AI-systemen.
Tidningens författare, en mångsidig grupp forskare från industri och akademi, föreslår att skapa en ny akademisk disciplin som kallas maskinbeteende. Det närmar oss att studera AI-system på samma sätt som vi alltid har studerat djur och människor: genom empiriska observationer och experiment.
På så sätt är en maskinbeteendeare för en datavetare vad en samhällsvetare är för en neurovetare. Den förra försöker förstå hur en agent – vare sig den är artificiell eller biologisk – beter sig i sin livsmiljö, när den samexisterar i grupper och när den interagerar med andra intelligenta agenter. Den senare försöker dissekera beslutsmekanismen bakom dessa beteenden.
Vi ser framväxten av maskiner med byrå, maskiner som är aktörer som fattar beslut och vidtar åtgärder autonomt, sa Iyad Rahwan, en annan Media Lab-forskare och huvudförfattare på tidningen, i en blogginlägg som åtföljer publikationen. Därför måste de studeras som en ny klass av aktörer med sina egna beteendemönster och ekologi.
Detta betyder inte att antyda att AI-system har utvecklat någon form av fri vilja. (Det har de verkligen inte; de är bara glorifierade matematiska modeller.) Men det är tänkt att gå bort från att se AI-system som passiva verktyg som kan bedömas rent genom deras tekniska arkitektur, prestanda och kapacitet. De bör istället betraktas som aktiva aktörer som förändrar och påverkar sina miljöer och människorna och maskinerna runt omkring dem.
Så, hur skulle detta ens se ut? En maskinbeteendeist kan till exempel fråga hur röstassistenter påverkar ett barns personlighetsutveckling. Eller så kan de undersöka hur onlinedejtingalgoritmer har förändrat hur människor träffas och blir kära. I slutändan skulle de studera de framväxande egenskaperna som uppstår när många människor och maskiner samexisterar och samarbetar tillsammans.
Vi är alla ett gigantiskt människa-maskin-system, säger Obradovich. Vi måste erkänna det och börja studera det på det sättet.
Det är viktigt att notera att de flesta av dessa idéer inte är nya. Robotiker har till exempel länge studerat interaktion mellan människa och dator. Och fältet vetenskap, teknik och samhälle har vad som är känt som aktör-nätverksteorin, ett ramverk för att beskriva allt i den sociala och naturliga världen – både människor och algoritmer – som aktörer som på något sätt relaterar till varandra. Men för det mesta har var och en av dessa ansträngningar stoppats i separata discipliner. Att samla dem under ett paraply hjälper till att anpassa deras mål, formalisera ett gemensamt språk och främja tvärvetenskapliga samarbeten. Det kommer att hjälpa oss att hitta varandra, säger Obradovich.
Trots att de är i en distinkt disciplin från AI-forskare, bör maskinbeteendeister fortfarande arbeta nära dem. När de senare upptäcker nya sätt att AI-system beter sig och påverkar människor, kan de förra ta med dessa lärdomar till systemets design. Ju mer varje disciplin kan dra nytta av den andras expertis, desto mer kommer de att kunna säkerställa att artificiella medel gynnar människor snarare än skadar dem.
Vi behöver expertis från forskare från alla beteende- och beräkningsdiscipliner, säger Obradovich. Att ta reda på hur man kan leva med maskiner är ett problem som är för stort för någon disciplin att lösa ensam.