För att göra Tiktok ofarligt krävs mer teknik

Senast på måndag ska åklagaren i det så kallade Fagerstadådet väcka åtal mot tonårskillen som sitter häktad på sannolika skäl. Den unga mannen som vuxit upp i en liten tätort utanför Västerås har formats av skakiga hemförhållanden, bristande skyddsnät, och framförallt av Tiktok. 

När ny teknik är en del i att det som inte får hända, ändå sker, är det enkelt att hemfalla åt en instinktiv aversion. Men inga skärmtider eller åldersgränser kommer göra plattformarna till säkra kuddrum. För att motverka skadliga digitala miljöer behövs mjukvaruprogram med finare precision och bättre AI-agenter. Att frontierteknik tillåts utvecklas, och premieras, är en avgörande del i arbetet mot radikalism. 

Mannen som sitter häktad för dådet i Fagersta har enligt rapporteringen varit aktiv i ett digitalt nätverk som kallas True Crime Community. Det är ingen organiserad  gemenskap i traditionell mening, såsom en religiös församling eller en scoutkår, utan ett digitalt ekosystem av användare och konton som delar och interagerar med samma typ innehåll. I det här fallet handlar det om filmer och bilder från just verkliga våldsdåd, ofta innehållandes mord. 

Plattformarnas kunder är människor som rör sig sömlöst mellan digitala och fysiska miljöer.

Tiktok-användare som tycker om samma typ av innehåll hittar ofta till varandra i kommentarsfälten och som spridare av innehållet. Tiktok har sedan 2018 regler mot  våldsinnehåll, men i kölvattnet till regleringarna har det uppstått subkulturer som utvecklat egna språkbruk som går runt algoritmerna. Genom att byta ut bokstäver i ord som riskerar att ge utslag i plattformens modereringsverktyg, har så kallat ”algo speech” vuxit fram. 

Efter dådet i Fagersta har både socialminister Jakob Forssmed och Socialdemokraternas partiledare Magdalena Andersson uttryckt att de vill se mer långtgående regleringar mot plattformsföretagen. Men den som väntar på tiden då sociala medier är en digital miljö där enbart snälla lekar leks, kommer få vänta förgäves. Plattformarnas kunder är människor som rör sig sömlöst mellan digitala och fysiska miljöer. De interagerar med både fysiska personer och användarkonton om vartannat, att det därför skapas subkulturer i den digitala miljön, precis som i den fysiska, är ofrånkomligt. 

Icke desto mindre går det inte att bortse från den tydliga kausaliteten mellan användares destruktiva aktivitet i den digitala miljön, och agerande i den fysiska. Den speglas i uppgången av ätstörningar, i röster på extrema partier och i det yttersta i våldsdåd. För att tygla de semi-digitala subkulturerna som rör sig i den skadliga delen av den sociala repertoaren behövs mer teknik – inte mindre. 

Det är genom kraftfullare AI-agenter och mjukvaruprogram, som kan avkoda omskrivningar och snabbare leda om flöden, som de skadliga miljöerna kan tryckas tillbaka. Men för att det ska komma till stånd behövs mer tillåtelse, och bättre incitament. 

Det kräver att diskussionen tar avstamp i tillåtelse och incitament, inte reglering och aversion. 

Det första, mer tillåtelse, behövs för att innovationer som bryter ny mark tenderar att krocka med regler som är utformade i en tidigare teknisk era. Ett tydligt exempel är lagen om att en bil som blir stillastående i väggrenen behöver ställa ut en röd triangel. En självkörande bil kan vara säkrare än en mänsklig förare, och smidigt åka ut i väggrenen ifall ett problem uppdagas av datorn, men det finns ingen förare som kan ställa ut triangeln. På samma sätt kan man tänka sig att utvecklare skulle kunna ta fram modereringsverktyg som inte bara bygger på en användares sökord utan på en sammantagen aktivitetsprofil. Allt som ofta bryter den typen av ackumulerad insamling mot rådande regler. 

Men för att innovation ska ske, behöver den komma med belöning. En innovation definieras i forskningslitteraturen som en kommersiellt gångbar uppfinning. En utvecklare som tagit fram en teknisk produkt som människor efterfrågar, antingen för att den underlättar utförandet av en uppgift eller för att den helt enkelt tillför nöje, behöver kunna tjäna pengar på sin innovation. När politiker talar om skatt på höga inkomster eller rent av skatt på ägande i ett företag, som Vänsterpartiets miljardärsskatt exempelvis, är det en signal till innovatörer som är redo att bli entreprenörer att deras tillskott skulle vara ovälkommet. För att få fram de redskap som politiken dessutom efterfrågar, så som större möjlighet att identifiera radikalisering på plattformarna, behöver teknikutveckling premieras. Både i pengar, och i ordalag från politiker. 

Tonårskillen som nu sitter häktad för dådet i Fagersta har de senaste åren befunnit sig utanför det mellanmänskliga samhället, men omfamnats i en destruktiv TikTok-miljö. De omständigheterna hade sannolikt inte varit annorlunda om exempelvis åldersgränsen för sociala medier höjdes. Däremot skulle verktygen för att identifiera de destruktiva miljöerna kunna vara bättre och företagens egen självreglering kunna optimeras. Det kräver att diskussionen tar avstamp i tillåtelse och incitament, inte reglering och aversion.