Podcast: När AI blir en barnlek

Trots deras popularitet bland barn, är surfplattor och andra anslutna enheter byggda ovanpå system som inte var designade för att de enkelt ska förstå eller navigera. Men att anpassa algoritmer för att interagera med ett barn är inte utan dess komplikationer - eftersom inget barn är exakt likt ett annat. De flesta igenkänningsalgoritmer letar efter mönster och konsistens för att framgångsrikt identifiera objekt. Men barn är notoriskt inkonsekventa. I det här avsnittet undersöker vi relationen AI har med barn.

Vi träffas:

• Judith Danovitch, docent i psykologi och hjärnvetenskap vid University of Louisville.
• Lisa Anthony, docent i datavetenskap vid University of Florida.
• Tanya Basu, senior reporter på MIT Technology Review.

Krediter:

Det här avsnittet rapporterades och producerades av Jennifer Strong, Anthony Green och Tanya Basu med Emma Cillekens. Vi är redigerade av Michael Reilly.

Jennifer: Det var inte länge sedan som att leka hopscotch, brädspel eller arrangera tekalas med dockor var normen för barn....

Lite tv här och där... en dag i parken... cyklar.

Men ... vi har sett hopscotch vända sig till TikTok ... brädspel blir tv-spel ... och dockor på tefester ... gör mer än att bara prata tillbaka

[Upsot: Barbie ad Barbie.. Det här är min digitala makeover.. Jag sätter in min egen Ipad och öppnar min app.. och spegeln lyser.. Jag gör mitt ögonskuggsläppstift och rouger.. Hur fantastiskt är det?]

Jennifer: Barn utsätts för enheter nästan från födseln och vet ofta hur man använder en pekskärm innan de kan gå.

Saken är ... dessa system är inte riktigt designade för barn.

Så... vad innebär det att bjuda in Alexa till festen?

[ Upsot.. 1'30-1'40 Hej och välkommen till Amazon storytime. Du kan välja allt från pirater till prinsessor. Tycker om det!]

Jennifer: Och... Vad händer när leksaker är anslutna till internet och barn kan fråga dem vad som helst... och de kommer inte bara att svara tillbaka... utan också lära sig av dina barn och samla in deras data.

Jennifer: Jag heter Jennifer Strong och i det här avsnittet utforskar vi relationen AI har med barn.

Judith: Jag heter Judith Danovitch. Jag är docent i psykologi och hjärnvetenskap vid University of Louisville. Så jag är intresserad av hur barn tänker, och specifikt är jag intresserad av hur barn tänker om informationskällor. Till exempel när de har en fråga om något, hur går de tillväga för att ta reda på var de ska hitta svaret och vilka svar man kan lita på.

Jennifer: Så när hon hittade sin son sittande ensam och pratade med Siri en eftermiddag... Det väckte hennes intresse direkt. Hon säger att han var fyra år när han började ställa frågor till den.

Judith: Som, vad heter jag? Och det verkade som om han testade henne för att se vad hon skulle svara som svar. Visste hon faktiskt, du vet, de här sakerna om honom? Det roliga var att enheten tillhörde min man, som heter Nick. Och så när han sa, vad heter jag? Hon sa, Nick. Och han sade: Nej, det här är David. Så du vet, det var rimligt. Det var inte ens det att hon bara sa, jag vet inte, hon sa faktiskt något, men det var fel.

Jennifer: Sedan... började han ställa frågor som var det inte bara om sig själv...

Judith: Vilket var riktigt intressant eftersom det verkade som om han verkligen försökte ta reda på, tittar den här enheten på mig på något sätt och kan den se mig just nu? Och sedan gick han vidare till att ställa vad jag bara kan beskriva som ett riktigt brett spektrum av frågor. Några av dem känner jag igen som ämnen som vi hade pratat om. Så han frågade henne till exempel, äter örnar ormar? Och jag antar att han och min man hade pratat om örnar och ormar nyligen, men då ställde han också några riktigt djupa frågor till henne som han egentligen inte hade ställt till oss. Så vid ett tillfälle frågade han varför saker dör? Vilket du vet är en ganska tung sak för en fyraåring att fråga Siri.

Jennifer: Och allteftersom detta fortsatte... hon började spela in honom i hemlighet .

David: Hur tar man sig ut ur Egypten?

Är rumpa ett dåligt ord?

... Och varför dör saker?

Judith: Senare samma dag efter att jag slutade spela in honom och han hade tappat intresset för den här aktiviteten frågade jag honom lite mer och han berättade att han trodde att det verkligen fanns en liten person där inne. Det var den Siri var. Hon var en liten person i iPaden. Och det var den som svarade på hans frågor. Han hade inte lika bra insikt i var hon fick sina svar ifrån. Så han kunde inte säga, Åh, de kommer från internet. Och det är en av de saker som jag har blivit väldigt intresserad av är, ja, när barn hör dessa enheter, vad, var tror de att den här informationen kommer ifrån? Är det en liten person eller är det, du vet, något annat. Och, och det hänger ihop med frågor om, tror du på det? Höger? Så, ska du lita på vad enheten säger till dig som svar på din fråga?

Jennifer: Det är den sortens tillit som små barn ger sina föräldrar och lärare.

Judith: Anekdotiskt tror jag att föräldrar tänker som, åh, barn är godtrogna och de kommer att lita på allt de ser på internet. Men vad vi faktiskt har funnit både med forskning i USA och med forskning med barn i Kina är att små barn i förskoleåldern omkring fyra till sex faktiskt är väldigt skeptiska till internet och får valet att de hellre skulle rådfråga en person .

Jennifer: Men hon säger att det kan förändras när röstaktiverade enheter blir mer och mer vanliga.

Judith: Och vi har försökt ta reda på om barn har liknande slags intuitioner om enheterna som de har om internet i allmänhet, men vi ser liknande mönster med små barn där återigen små barn som får välja säger, jag skulle hellre gå och fråga en person om information åtminstone när den information har att göra med fakta. Som, du vet, var bor något, var, var kommer dessa saker ifrån? Och det mesta av vår forskning har fokuserat på fakta.

Jennifer: Hon ser en förändring runt 7 eller 8 när barn börjar lita mer på internet och röstassistenter. Men hon vill vara tydlig - det här är tidig forskning... Och det är inte så att barn tror på enheter hundra procent av gångerna när de blir äldre tror de bara på dem Mer ofta.

Men varför är de yngsta barnen... de med stor fantasi... mer skeptiska än äldre barn?

Judith: Yngre barn tror jag är skeptiska ärligt talat, för det är ganska konstiga föremål, eller hur? På något sätt är de som människor, eller hur? Den talar till dig. Den har liksom en konversation fram och tillbaka. Men på andra sätt är dessa enheter inte alls som en person, eller hur? Det är den här konstiga lådan. Den har inte ett ansikte eller ögon eller något sånt, att det antyder att det är ett animerat föremål och det är det naturligtvis inte, eller hur? Så, du vet, för små barn borde det faktiskt vara ganska svårt att lista ut, och det är vettigt att de kanske är försiktiga med det, att de kanske säger, ja, ja, du kanske kan göra vissa saker, men jag Jag kommer att gå med det säkra alternativet är att fråga min mamma eller min lärare om den här sortens konstiga okända sak.

Jennifer: Alexa har mer än 80 000 färdigheter i USA... och det finns utvecklarstöd för färdigheter som riktar sig till barn.

[Skolklockan ringer. Ljuden av barn som pratar som mumlar under nästa VO.]

Jennifer: Sesame Street designade en för barn att leka kurragömma med Elmo...

Elmo: Dags att gissa var Elmo gömmer sig!

Jennifer: Nickelodeon har ett sätt att lägga dem under havet med Svampbob Fyrkant...

[Svampbob Fyrkant-temamusik]

Jennifer: Och så finns det ett spel som heter Kids Court. Det är en app utvecklad av Pretzel Labs för föräldrar som låter oss Alexa bedöma deras barns gräl.

Alexa: Välkommen till barndomstol där allt orättvist äntligen ställs inför rätta. Alla reser sig för den ärade domaren Lexi. Vill du avgöra ett ärende eller höra om tidigare rättegångar?

Barn: Avgör ett ärende.

Alexa: Åklagare, berätta för domstolen vad som hände.

Barn: Brianna läste min dagbok!

Alexa: Kids court skapades för fall som detta. Är den tilltalade närvarande eller frånvarande?

Barn: närvarande.

Alexa: Ansvarade du har problem. Vad vädjar du om? Säg skyldig om du gjorde det eller inte skyldig om du gjorde det.

Brianna: Inte skyldig!

[Musikövergång]

Jennifer: Det finns många företag som erbjuder uppkopplade upplevelser designade för barn. Bland dem röstspel riktade till föräldrar som är försiktiga med skärmtid. Ett system heter Yoto, men det har mycket mer gemensamt med en kassettspelare än en smart högtalare. Nytt innehåll som musik eller berättelser kan läggas till systemet via kort som, när de sätts in i högtalaren, utlöser en nedladdning från Yotos servrar.

Det är inte mycket till det. Det finns ingen röstassistent, ingen kamera, ingen mikrofon... och dess pixlade display är egentligen bara tänkt att visa tiden eller en tecknad bild relaterad till vad som spelas.

Kate Daniels: Det bästa med det är att det är så enkelt. Jag menar, vår yngsta fyllde två igår och han har vetat hur man använder det det senaste året. Du vet? Jag tror inte att det behöver vara snyggt.

Jennifer: Kate och Brian Daniels har precis flyttat från New York City till Boston med sina tre barn i släptåg - som alla är ivriga användare av Yoto.

Parker Daniels: Ett låtalbum som min pappa satte upp är Hamilton. Jag gillar det verkligen.

Jennifer: Det är deras 6-årige son Parker. Han går igenom en pärm fylld med kort ... som används för att styra enheten.

Parker Daniels: Um, och jag är nu... Jag letar efter resten och jag har som en hel bok.

Charlotte Daniels: Och på vissa kort finns det massor av låtar och vissa finns det massor av historier, men olika kapitel.

Jennifer: Och det är hans yngre syster, Charlotte.

Brian Daniels: Så vi kan också spela in historier och sätta dem på anpassade kort så att barnen kan spela de historier som jag kommer på. Och de älskar när jag berättar historier för dem, men jag är inte alltid tillgänglig, du vet, jobbar hemifrån och är upptagen. Så detta tillåter dem att spela dessa berättelser när som helst.

Jennifer: Skärmlösa underhållningsalternativ är nyckeln för den här familjen... Som ... förutom fredagskvällens pizza och en film ... inte spenderar mycket tid samlad runt TV:n. Men förutom att begränsa skärmtiden (medan de fortfarande kan) säger mamma och pappa att de också tycker om att barnen inte har en direkt linje till Google.

Kate Daniels: Vi har fullständig kontroll över vad de har tillgång till, vilket är en annan stor sak. Vi hade en Alexa ett tag som någon hade gett oss och det fungerade inte bra för oss eftersom de kunde säga, Alexa, berätta om, och de kunde välja vad de ville och vi visste inte vad som skulle komma tillbaka så att vi verkligen kan kurera vad de får lyssna på och uppleva.

Jennifer: Ändå erkänner de att de inte riktigt har listat ut hur de ska navigera genom att introducera mer avancerad teknik när det är dags.

Kate Daniels: Jag tycker att det är en riktigt svår fråga. Du vet, vi som föräldrar vill verkligen kurera allt som de utsätts för, men i slutändan kommer vi inte att kunna göra det. Även med all mjukvara där ute till [00:18:06] Storebror, sina egna telefoner och titta på varje textmeddelande och allt de surfar på. Det har jag inte, det är en stor fråga och jag tror inte att vi har svaret än.

--

Fråga: Så en annan anledning till att dessa röstspel blir mer populära är att de är skärmfria, vilket är riktigt intressant och viktigt. Med tanke på att barn vanligtvis rekommenderas att inte ha mer än två timmars skärmtid per dag. Och det är då de är fyra eller fem.

Hej mitt namn är Tanya Basu, jag är seniorreporter på MIT Technology Review och jag täcker människor och teknik.

Särskilt yngre barn bör inte utsättas för så mycket skärmtid. Och ljudbaserad underhållning verkar ofta hälsosammare för föräldrar eftersom det ger dem den förmågan att bli underhållen, att bli utbildad, att tänka på saker på ett annat sätt som i princip inte kräver en skärm framför deras ansikte och potentiellt skapar problem senare på vägen som vi bara inte vet om just nu.

Jennifer: Men att designa dessa system ... är inte utan komplikationer.

Fråga: Mycket av det är att barn lär sig att tala, du vet, du och jag har det här samtalet just nu, vi har en förståelse för vad en dialog är på ett sätt som barn inte gör. Så det finns uppenbarligen det. Det finns också det faktum att barn inte riktigt sitter still. Så du vet, man kan vara långt borta eller skrika eller säga ett ord annorlunda. Och det påverkar uppenbarligen hur utvecklare kan skapa dessa spel. Och en stor sak som många jag pratade med nämnde var det faktum att barn inte är en universell publik. Och jag tror att många glömmer det, speciellt de som utvecklar dessa spel...

Jennifer: Ändå säger hon att barnens förmåga att förstå komplexitet inte bör underskattas.

Fråga: Jag är ärligt talat förvånad över att det inte finns fler spel för barn. Och jag är mest förvånad över att spelen som finns där ute tenderar att vara berättelsespel och inte, du vet, ett brädspel eller något som är visuellt representativt. Vi ser med roblox och många av de mer populära videospelen som kom ut under pandemin, hur komplexa de är och det faktum att barn kan hantera komplexa berättelser, komplext spelande, komplexa rörelser. Men många av dessa röstspel är så enkla. Och mycket av det beror på att tekniken helt enkelt inte finns där. Men jag är förvånad över att fantasin när det gäller att se vart dessa spel är på väg är ganska begränsad än så länge. Så jag är verkligen nyfiken på att se hur dessa spel utvecklas under de närmaste åren.

Jennifer: Vi kommer tillbaka, direkt efter detta.

[MIDROLL]

Lägg till: Det finns alltid den här utmaningen att kasta teknik på barn och bara förvänta sig att de ska anpassa sig. Och jag tror att det är en tvåvägsgata.

Jennifer: Lisa Anthony är docent i datavetenskap vid University of Florida. Hennes forskning fokuserar på att utveckla interaktiv teknik designad för att användas av barn.

Lägg till: Vi vill inte nödvändigtvis ha system som bara förhindrar tillväxt. Du vet, vi vill att barn ska fortsätta växa och utvecklas och inte nödvändigtvis använda AI:n som en krycka för hela den processen, men vi vill att AI:n kanske hjälper. Det skulle kunna fungera som ett bättre stöd på vägen. Om vi ​​tar hänsyn till barns utvecklingsbehov, förväntningar och förmågor när vi utformar dessa system.

Jennifer: Hon arbetar med barn för att förstå hur de beter sig annorlunda med enheter än vuxna.

Lägg till: Så när de trycker på pekskärmen eller när de ritar på pekskärmen, hur ser det ut ur mjukvarusynpunkt som vi sedan kan anpassa våra algoritmer för att känna igen och tolka dessa interaktioner mer exakt. // Så några av utmaningarna som du ser är att verkligen förstå barns behov, förväntningar och förmågor med avseende på teknik, och allt kommer att drivas mycket av deras motoriska färdigheter, utvecklingens framsteg, du vet, deras kognitiva färdigheter , socioemotionella färdigheter och hur de interagerar med världen kommer alla att tillämpas transitivt på hur de kan interagera med teknik.

Jennifer: Till exempel saknar de flesta barn helt enkelt den nivå av skicklighet och motorkontroll som krävs för att trycka på en liten knapp på en pekskärm – trots sina små fingrar.

Lägg till: Så en vuxen kan lägga fingret på pekskärmen, rita en fyrkant och ett jämnt drag, alla fyra sidorna och lyfta upp det, ett barn, speciellt ett litet barn, låt oss säga att fem, sex år kommer förmodligen att välja upp med fingret i varje hörn. Kanske till och med mitt i ett slag och sedan lägga ner den igen för att rätta till sig och avsluta. Och dessa typer av små avvikelser i hur de gör den formen kan faktiskt ha stor inverkan på om systemet kan känna igen den formen om den typen av data inte någonsin användes som en del av utbildningsprocessen.

Jennifer: Att programmera detta i AI-modeller är avgörande, eftersom handskriftsigenkänning och intelligenta handledningssystem dyker upp i allt större utsträckning i klassrummen.

De flesta igenkänningsalgoritmer letar efter mönster och konsistens för att identifiera objekt. Och barn...är notoriskt inkonsekventa. Om du skulle ge ett barn i uppdrag att rita fem rutor i rad kommer var och en att se annorlunda ut än en algoritm.

Barnens behov förändras när de växer... det betyder att algoritmerna också måste förändras.

Så forskare funderar på att införliva lärdomar från barnprogram... som hur barn etablerar sociala anknytningar till animerade karaktärer som ser ut som människor.

Lägg till: Det betyder att de sannolikt kommer att tillskriva sociala förväntningar till sin interaktion med den karaktären. De känner sig varmt mot karaktären. De känner att karaktären kommer att reagera på förutsägbara sociala sätt. Och detta kan vara en fördel om ditt system är redo att hantera det, men det kan också vara en utmaning. Om ditt system inte är redo att hantera det, ser det ut som trä. Det framstår som onaturligt. Barnen kommer att bli avstängda av det.

Jennifer: Hon säger att hennes forskning också har visat att barn reagerar på AI-system som är transparenta och kan lösa problem tillsammans med barnet.

Lägg till: Så barn ville att systemet skulle kunna känna igen det visste inte svaret på deras fråga, eller så visste det inte tillräckligt med information för att svara på din fråga eller slutförde en interaktion och bara säga, jag vet inte, eller berätta för mig , du vet, den här informationen som hjälper mig att svara. Och jag tror att det vi såg, ja, vi tenderar fortfarande att se faktiskt är en designtrend för AI-system där AI-systemet försöker återhämta sig graciöst från fel eller brist på information utan citat utan citat, vilket stör användaren, eller hur. Utan att verkligen involvera dem eller avbryta dem, försöka att på ett graciöst sätt existera i bakgrunden. Barnen var mycket mer toleranta mot misstag och ville behandla det som ett samarbetsproblem, lösning, erfarenhet

Jennifer: Ändå medger hon att det finns en lång väg framför sig när det gäller att utveckla system med kontextuell medvetenhet om interaktion med barn.

Lägg till: Ofta returnerar Google home ungefär som ett utdrag från Googles sökresultat och det kan vara vad som helst som kommer tillbaka, eller hur. Och barnen måste sedan på något sätt lyssna på det här långa och slags obskyra stycket och sedan ta reda på om deras svar någonsin fanns i det stycket någonstans. Och de skulle behöva få sina föräldrars hjälp att tolka informationen och ett tema som man ser mycket i den här typen av arbete och generellt barn och teknik, de vill kunna göra det själva. De vill egentligen inte behöva be sina föräldrar om hjälp eftersom de vill vara oberoende och engagerade i världen på egen hand.

Jennifer: Men hur mycket vi tillåter AI att spela en roll för att utveckla det oberoendet... är upp till oss.

Lägg till: Vill vi att AI ska gå i riktning mot bilar, till exempel, där många av oss för det mesta äger en bil, har ingen aning om hur det fungerar under huven, hur vi kan fixa det, hur vi kan förbättra det. Vilka är konsekvenserna av detta designbeslut eller det designbeslutet? Eller vill vi att AI ska vara något där människor... de är verkligen bemyndigade och de har en potential att förstå dessa stora skillnader, dessa stora beslut. Så jag tror att det är därför för mig är barn och AI-utbildning så viktigt eftersom vi vill se till att de känner att detta inte bara är en svart lådas mysterium i teknologin i deras liv, utan något som de verkligen kan förstå, tänk kritiskt kring påverka förändring och kanske bidra till att bygga också.

[KREDIT]

Jennifer: Det här avsnittet rapporterades och producerades av mig, Anthony Green och Tanya Basu med Emma Cillekens. Vi är redigerade av Michael Reilly.

Tack för att du lyssnade, jag heter Jennifer Strong.

Dölj