211service.com
Varför barn behöver särskilt skydd från AI:s inflytande
Ludovic Toinel / Unsplash
Algoritmer kan förändra barns liv. Barn interagerar med Alexas som kan spela in deras röstdata och påverka deras tal och sociala utveckling. De bingar videor på TikTok och YouTube som skjuts till dem av rekommendationssystem som i slutändan formar deras världsbild.
Algoritmer används också alltmer för att avgöra hur deras utbildning är, om de kommer att få hälsovård och till och med om deras föräldrar anses vara lämpliga att ta hand om dem . Ibland kan detta få förödande effekter: den gångna sommaren har till exempel tusentals studenter förlorat sina universitetsantagningar efter algoritmer -används i stället för pandemi-inställda standardiserade tester - förutspådde felaktigt deras akademiska prestation.
Barn ligger med andra ord ofta i framkant när det kommer till att använda och användas av AI, och det kan göra att de kan skadas. Eftersom de utvecklas intellektuellt och känslomässigt och fysiskt är de väldigt formbara, säger Steve Vosloo, policyspecialist för digital anslutning vid Unicef, FN:s barnfond.
Vosloo ledde utarbetandet av en nya riktlinjer från Unicef utformad för att hjälpa regeringar och företag att utveckla AI-policyer som tar hänsyn till barns behov. De nio nya riktlinjerna släpptes den 16 september och är kulmen på flera samråd med beslutsfattare, forskare inom barnutveckling, AI-utövare och barn runt om i världen. De tar också hänsyn till FN:s konvention om barnets rättigheter, ett fördrag om mänskliga rättigheter som ratificerades 1989.
Riktlinjerna är inte menade att vara ännu en uppsättning AI-principer, av vilka många redan säger samma saker. I januari i år, en recension från Harvard Berkman Klein Center av 36 av de mest framträdande dokumenten som vägledde nationella och företags AI-strategier hittade åtta gemensamma teman – bland dem integritet, säkerhet, rättvisa och förklarbarhet.
Snarare är Unicefs riktlinjer avsedda att komplettera dessa befintliga teman och skräddarsy dem för barn. Till exempel bör AI-system inte bara kunna förklaras – de ska kunna förklaras för barn. De bör också ta hänsyn till barns unika utvecklingsbehov. Barn har ytterligare rättigheter till vuxna, säger Vosloo. De beräknas också stå för minst en tredjedel av onlineanvändarna. Vi pratar inte om en minoritetsgrupp här, påpekar han.
Förutom att mildra AI-skador är målet med principerna att uppmuntra utvecklingen av AI-system som kan förbättra barns tillväxt och välbefinnande. Om de är väl utformade, till exempel, har AI-baserade lärverktyg visat sig förbättra barns kritiska tänkande och problemlösningsförmåga , och de kan vara användbara för barn med inlärningssvårigheter. Emotionella AI-assistenter, även om de är relativt begynnande, kan ge stöd till mental hälsa och har visat sig förbättra de sociala färdigheterna hos autistiska barn. Ansiktsigenkänning, som används med försiktiga begränsningar, kan hjälpa till att identifiera barn som har blivit kidnappade eller människohandel.
Barn bör också utbildas om AI och uppmuntras att delta i dess utveckling. Det handlar inte bara om att skydda dem, säger Vosloo. Det handlar om att stärka dem och ge dem byrån att forma sin framtid.
På tal om missgynnade grupper så är det förstås barn som är de mest missgynnade.
Yi Zeng
Unicef är inte den enda som tänker på frågan. Dagen innan dessa utkast till riktlinjer kom ut släppte Beijing Academy of Artificial Intelligence (BAAI), en organisation som stöds av det kinesiska ministeriet för vetenskap och teknik och Pekings kommunala regering. en uppsättning AI-principer för barn också.
Tillkännagivandet följer ett år efter att BAAI släpptes Beijing AI-principerna , förstås vara de vägledande värdena för Kinas nationella AI-utveckling. De nya principerna som beskrivs specifikt för barn är avsedda att vara en konkret implementering av de mer allmänna, säger Yi Zeng, chef för AI Ethics and Sustainable Development Research Centre vid BAAI som ledde deras utarbetande. De överensstämmer väl med Unicefs riktlinjer, och berör också integritet, rättvisa, förklarabarhet och barns välbefinnande, även om vissa av detaljerna är mer specifika för Kinas oro. En riktlinje för att förbättra barns fysiska hälsa inkluderar till exempel användning av AI för att hjälpa till att hantera miljöföroreningar.
Även om de två ansträngningarna inte är formellt relaterade, är timingen inte heller tillfällig. Efter en översvämning av AI-principer under de senaste åren, säger de båda huvudskrivarna att skapa mer skräddarsydda riktlinjer för barn var ett logiskt nästa steg. På tal om missgynnade grupper är det såklart barn som är de mest missgynnade, säger Zeng. Det är därför vi verkligen behöver [ge] särskild omsorg till denna grupp människor. Teamen konfererade med varandra när de utarbetade sina respektive dokument. När Unicef höll en konsultationsworkshop i Östasien deltog Zeng som talare.
Unicef planerar nu att driva en serie pilotprogram med olika partnerländer för att observera hur praktiska och effektiva deras riktlinjer är i olika sammanhang. BAAI har bildat en arbetsgrupp med representanter från några av de största företagen som driver landets nationella AI-strategi, inklusive utbildningsteknikföretaget TAL, konsumentelektronikföretaget Xiaomi, datorvisionföretaget Megvii och internetjätten Baidu. Förhoppningen är att få dem att börja följa principerna i sina produkter och påverka andra företag och organisationer att göra detsamma.
Både Vosloo och Zeng hoppas att riktlinjerna kommer att öka medvetenheten om dessa frågor genom att formulera den unika oro som AI innebär för barn. Vi kommer in i det här med vidöppna ögon, säger Vosloo. Vi förstår att detta är ett slags nytt territorium för många regeringar och företag. Så om vi med tiden ser fler exempel på att barn inkluderas i AI- eller policyutvecklingscykeln, mer omsorg om hur deras data samlas in och analyseras – om vi ser att AI görs mer förklarlig för barn eller för deras vårdgivare – skulle det vara en vinst för oss.