Du använder en utdaterad webbläsare som inte längre stöds. Vänligen uppgradera din webbläsare för en bättre upplevelse av timbro.se

Samhälle Krönika

Johanna Grönbäck: Sätt gränser för den nya övervakningen

När tekniken utvecklas måste det principiella skyddet för integriteten försvaras. Annars riskerar fantasin att bli övervakningsteknikens enda begränsning, skriver Smedjans krönikör Johanna Grönbäck.

Ansiktsigenkänning är en av de tekniker som riskerar att leda till ett övervakningssamhälle ingen egentligen vill ha. Foto: Shutterstock

Han var sen till jobbet en morgon. När bussen stannar kliver han av och börjar springa för att vinna tid. Det duggar, som det nästan alltid verkar göra i hans London, och han stoppar händerna i fickorna. Han blir stoppad av polisen. Hans normala morgonbeteende upplevs som misstänkt och övervakningskamerorna med realtidsigenkänning har sett och felaktigt flaggat hans ansikte. Han genomsöks och handfängslas. Det är ett av de fall som uppmärksammats av brittiska BM Studios.

I en övervakad situation kan det vardagliga beteendet bli uppseendeväckande. Det innebär att övervakningen kan inskränka det naturliga, den övervakade slutar slappna av. Men som värde ställt mot ett annat blir integriteten lätt luddig och sekundär, inte minst när möjlig brottsbekämpning lagts i andra vågskålen.

Sedan årsskiftet får den svenska polisen använda sig av ansiktsigenkänning i brottsutredningar. Verktyget får bara användas på redan exporterat material som annars skulle undersökas manuellt. Det är ett mer begränsat användningsområde än den realtidsövervakning som Storbritannien använder. Men det är samma teknik som världen över börjar mötas av misstro.

På flera håll har polisen förbjudits från att använda ansiktsigenkänning

It-företaget IBM meddelade i somras att de slutar erbjuda verktyg för ansiktsigenkänning. De vill inte bidra till teknik som används för massövervakning eller kränkningar av mänskliga rättigheter. Företagets vd efterlyser i stället debatt kring om och hur tekniken bör användas. På flera håll har polisen utretts, begränsats eller förbjudits från att använda ansiktsigenkänning efter att tekniken lett till felaktiga identifieringar och gripanden.

I Sverige är det förvånansvärt tyst. Polisen får utöver att leta i ett avgränsat utredningsmaterial även söka med ansiktsigenkänning i registret som innehåller tidigare dömda och misstänkta. Under året hoppas man komma i gång med tekniken på Skavsta flygplats.

Läs också:

Polisen verkar ivrig. ”I framtiden är kanske nästa steg att kunna använda verktyget i realtid. Det tror jag vi också skulle ha stor nytta av”, säger Stefan Singman, chef på Polisens kamerabevakning, till SVT. Ibland mer än ivrig: Utan tillstånd har man vid flera tillfällen använt ansiktsigenkänningsteknik från Clearview AI. Det är en tjänst som olovligen samlat in tre miljarder ansiktsbilder från sociala medier som Facebook och Linkedin och sedan kopplat dessa till namn och andra personuppgifter. Illegal massövervakning, kallar en kanadensisk dataskyddskommission dess teknik. Den svenska polisen får nu böta 2,5 miljoner kronor för sitt olovliga användande.

I en annan tid hade utvecklingen väckt allmän debatt, kanske rentav några avgångskrav.

I en annan tid hade utvecklingen väckt allmän debatt, kanske rentav några avgångskrav. Men perspektiven och gränsdragningarna ändras. Från den pandemityngda vardagen finns flera exempel på hur integriteten blir sekundär. Med de digitala intygen som ska visa om en person är vaccinerad mot covid-19, riskerar hälsosekretessen som princip att urholkas. Digitaliseringsminister Anders Ygeman (S) påpekar att det sannolikt kommer ställas krav på intyg för att få resa och delta i vissa evenemang. Ett annat exempel är de smittspårningsappar som i länder som Norge och Sydkorea och kartlagt och lagrat medborgares symptom.

När en teknik väl används på ett håll, är det lätt att motivera ytterligare användningsområden. Och när integritet ställs mot sådant som brottsbekämpning blir de förmodade vinsterna av att använda teknik som ansiktsigenkänning tydligare än riskerna.

Britten som småsprang till jobbet är mörkhyad. Ansiktsigenkänningen fungerar därför sämre på hans ansikte. En mörkhyad är för algoritmerna svårare att särskilja från en annan mörkhyad, varför man lättare flaggas felaktigt av systemen. Risken för förväxling är 100 gånger högre än för ljushyade. Så blir övervakningen en större inskränkning för vissa grupper än andra. Några kan hinna i tid, andra får tänka på sina steg.

Det är en betydande del av det som utgör en person som kommer att kunna detaljövervakas.

Riskerna med tekniken är flera. Det är information som kan hamna i fel händer, eller användas i fel syften, som för att identifiera demonstranter. Det är en teknik som utvecklas fort och så småningom kommer att kunna läsa av sådant som en människas trötthet, hjärtfrekvens och läpprörelser.

Det är en ganska betydande del av det som utgör en person som kan och kommer att kunna övervakas på ganska detaljerad nivå. Ansiktsigenkänningen är bara ett av flera verktyg.

Likväl tenderar gränserna för vad som tolereras att vidgas. Få ifrågasätter teknikens potential att göra gott. Fler borde samtidigt lyfta dess risker, inte minst den att hämma en människas naturliga beteende.

Någonstans måste det finnas ett tydligt stopp. Annars riskerar tekniken, med politikens goda minne, begränsa mer än vad den möjliggör.