En ny plattform för sociala medier vill framtvinga vänlighet. Kan det någonsin fungera?

Ms Tech | Pexels

I mellanstadiet och gymnasiet laddade Nora Tan ner de tre stora av sociala medier. Det var bara naturligt. Jag växte upp i en tid då sociala medier verkligen tog fart, säger Tan, en Seattle-baserad produktchef. Jag skapade ett Facebook-konto 2009, ett Instagram-konto 2010, ett Twitter-konto efter det när jag gick i gymnasiet.

När hon nådde college ifrågasatte Tan hennes beslut. Jag funderade på hur innehåll skulle modereras och hur det användes i politiska kampanjer och för att föra fram agendor, säger hon. Besvärad av vad hon lärde sig, tog Tan bort Twitter, använde Instagram bara för att följa naturkonton och nära vänner och laddade ner ett Chrome-tillägg så att när hon skrev in Facebook i sökfältet fick hon bara meddelanden från sina vänner.

Så hon var ganska cynisk när en vän bjöd in henne att bli en privat betatestare för en ny plattform för sociala medier, Telepat , i mars 2019. Hon var särskilt skeptisk som en färgad kvinna inom tekniken. Arton månader senare är det nu Tans endast form av sociala medier.

Telepath grundades av den tidigare Quora-chefen Marc Bodnick, och det visar att dess format på något sätt liknar Quoras. Appen endast för inbjudningar låter användare följa personer eller ämnen. Trådar kombinerar Twitters brådska med Snapchats tillfällighet (inlägg försvinner efter 30 dagar).

Detta är inte särskilt anmärkningsvärt, men Telepaths stora försäljningsargument är: ett internt innehållsmodereringsteam tvingar fram vänlighet och användarna måste visa sina riktiga namn.

Telepaths namnpolicy är avsedd att se till att innehållsmodereringsteamet helt kan fokusera på att upptäcka övergrepp snarare än att spela mullvad med brännarkonton. Det är också ett sätt att humanisera konversation. Vi kräver unika telefonnummer och verifiering så att det inte kan vara ett engångsnummer på Google Voice, säger Tatiana Estévez, chef för community och säkerhet. Flera sock-puppet-konton är där du får några av de otäckaste sakerna på andra plattformar.

Politiken har redan bjudit in några kritik från åskådare som anser att det kan äventyra kvinnor och marginaliserade samhällen.

Det finns en utbredd tro att om människor använder sina juridiska namn kommer de att bete sig bättre i sociala miljöer eftersom andra människor kan identifiera dem och det kan få sociala konsekvenser för deras handlingar, säger J. Nathan Matias , professor och grundare av Citizens and Technology Lab vid Cornell University. Även om det fanns några tidiga bevis för detta på 1980-talet, fanns det inte bevis för en mångfaldig grupp människor, och det stod inte för vad vi nu ser att internet har blivit.

Faktum är att många människor som använder pseudonymer kommer från mer marginaliserade eller utsatta grupper och gör det för att skydda sig från trakasserier och doxxing online.

Doxxing – att använda identifierande information online för att trakassera och hota – är ett livshotande problem för många marginaliserade människor och har försämrat dem på sociala medier som Facebook och Twitter, som har hamnat under eld för att inte skydda individer i riskzonen (även om både Twitter och Twitter) Facebook har försökt gottgöra på senare tid genom att ta bort tweets som främjar desinformation, till exempel). Estévez säger att även om hon är väldigt empatisk för detta och att transpersoner kan identifiera sig med sina valda namn och pronomen, var verifiering av telefonnamn och appens enbart inbjudningsstruktur nödvändiga för att förhindra kränkande beteende.

Med tillstånd från Telepath

Estévez, som tillbringade flera år som frivillig moderator på Quora innan han ledde modereringsteamet, importerade Quoras riktlinjer för communityn Var trevlig, var respektfull till Telepath. Folk svarar bra på att bli bemötta ​​bra, säger hon. Människor är gladare. Människor attraheras verkligen av snälla samhällen och platser där de kan säga sitt och inte känna sig förlöjligade.

Telepaths team har varit mycket medvetna med sitt språk om detta koncept. Vi tog beslutet att använda ordet 'vänlighet' istället för 'civil', säger Bodnick. Civil innebär en regel som du kan komma till kanten av och inte bryta, som att du 'bara var nyfiken' eller 'bara ställde frågor.' Vi tror att vänlighet är ett bra sätt att beskriva goda avsikter, ge varandra fördelen av tvivel , inte engagera sig i personliga attacker. Vi hoppas att det är styrkan att göra dessa bedömningar som attraherar människor.

Historiskt sett har plattformar varit ovilliga att upprätthålla grundläggande användarsäkerhet, än mindre vänlighet, säger Danielle Citron, en juridikprofessor vid Boston University Law School som har skrivit om innehållsmoderering och givit råd till plattformar för sociala medier. Snällhet är ingen dålig idé, säger Citron.

Det är dock extremt vagt och subjektivt, särskilt när skydd av vissa människor kan innebära att kritisera andra. Att ifrågasätta en viss synvinkel – även på ett sätt som verkar kritiskt eller ovänligt – kan ibland vara nödvändigt. De som begår mikroaggressioner bör få veta vad som är fel med deras handlingar. Någon som upprepar ett förtal bör konfronteras och utbildas. I ett flyktigt valår i USA som har sett en rasräkning som inte liknar någonting sedan 1970-talet och en pandemi en gång i generationen förvärrad av desinformation, räcker det kanske inte längre att vara snäll.

Hur kommer Telepath att trä den här nålen? Det kommer att bero på det interna innehållsmodererande teamet, vars jobb det kommer att vara att polisa vänlighet på plattformen.

Det kommer inte nödvändigtvis att vara lätt. Vi har först nyligen börjat förstå hur traumatiskt innehåll moderering kan vara tack vare en serier av artiklar från Casey Newton, tidigare på The Verge, som avslöjade de sweatshopliknande förhållanden som möter moderatorer som arbetar på kontrakt till minimilön. Även om dessa arbetare fick bättre betalt är innehållet många sysslar med onekligen förödande. Samhället håller fortfarande på att ta reda på hur man kan göra innehållsmoderering hanterbar för människor, säger Matias.

På frågan om dessa frågor betonar Estévez att på Telepath kommer innehållsmoderering att vara holistisk och arbetet är tänkt att vara en karriär. Vi är inte ute efter att folk ska göra det här under några månader och gå, säger hon. Jag har inga stora bekymmer.

Telepaths arrangörer tror att modellen endast för inbjudningar kommer att hjälpa i detta avseende (plattformen stöder för närvarande cirka 3 000 personer). Genom att strypa tillväxten till viss del kommer vi att göra det bättre för oss själva, säger Estévez.

Men modellen presenterar en annan fråga. Ett av de genomgripande problemen som många sociala plattformar som har lanserats i USA har haft är ett problem med mångfald, säger Matias. Om de börjar med en grupp användare som inte är olika, kan kulturer byggas upp i nätverket som är ovälkomna och i vissa fall fientliga mot marginaliserade människor.

Den rädslan för en fientlig gruppkultur är välgrundad. Clubhouse, en audio-first social media app som används av många med Silicon Valley band, lanserades till kritisk hylla tidigare i år, bara till ger det tillbaka in i typen av kvinnohatande vitriol som har sipprat in i varje hörn av internet. Bara förra veckan, den hamnade under eld för antisemitism .

Hittills har Telepath dominerats av Silicon Valley-typer, journalister och andra med inflytandesfärer utanför appen. Det är inte en mångfaldig skara, och Estévez säger att laget inser det. Det handlar inte bara om att bjuda in folk; det handlar inte bara om att bjuda in kvinnor och svarta människor, säger hon. Det är så att de [kvinnor och svarta] har en bra erfarenhet, så de ser andra kvinnor och svarta människor och inte blir förklarade för eller får mikroaggressioner.

Det är en knepig balansgång. Å ena sidan kan Telepath kontrollera antalet inlägg och medlemmar som den måste hålla ett öga på genom att upprätthålla en inbjudningsgemenskap av likasinnade medlemmar. Men den typen av miljö kan också bli en ekokammare som inte utmanar normer, motverkar syftet med samtalet i första hand och potentiellt erbjuder ett fientligt mottagande till utomstående.

Tan, den tidiga adoptanten, säger att människorna hon interagerar med verkligen faller i en typ: de är vänsterinriktade och tekniska. De första som använde det kom från Marc [Bodnick] eller Richard [Henry]s nätverk, säger hon och syftar på medgrundarna. Det brukar vara många tekniker. Tan säger dock att appens konversationer är omfattande, och hon har blivit positivt överraskad över diskussionens djup.

Alla sociala medier kan vara en ekokammare, beroende på vem du följer, tillägger hon.

Telepath befinner sig i slutändan i en dragkamp: Är det möjligt att uppmuntra livlig-men anständig debatt på en plattform utan att se den övergå till trakasserier? De flesta användare antar att att vara online innebär att man utsätts för ett visst mått av övergrepp, särskilt om du är kvinna eller från en marginaliserad grupp. Helst behöver det inte vara fallet.

De måste vara engagerade, att det här inte bara är läpparnas bekännelse om att 'vara snäll', säger Citron. Folk rullar ofta ut produkter i beta från och tänker sedan på skada, men då är det för sent. Det är tyvärr historien om internet. Än så länge, men det kanske inte behöver vara det.

Dölj