Samme gamle slagsmål uden afgørelse
Hver gang staten ønsker at indføre et nyt teknologisk redskab, gentager diskussionen sig med slående præcision. Den ene side skriger »Orwell« og »masseovervågning«, inden lovforslaget engang er læst færdigt. Den anden side sukker over et naivt Danmark, der sakker bagud, og antyder, at kritikerne får blod på hænderne næste gang noget ufatteligt går galt.
Argumenterne er så velkendte, at man næsten kan skrive hver sides replikker uden at høre dem. Og dog – denne forudsigelige duel udelader det vigtigste spørgsmål. En spørgsmål, som skulle præge hele samtalen, men som bliver skubbet til siden af de samme frygt- og tillidsdiskurser.
Teknologiens virkning er ikke det afgørende
Pointen er ikke, om algoritmerne virker efter hensigten. Pointen er hvor grænsen går.
Tag den klassiske debat om terrorbekæmpelse gennem prædiktiv overvågning. Hvis Omar El-Hussein var en profil, som staten kunne have opdaget på forhånd – en ung mand med voldsdom, tilknytning til bandemiljø og udtryk for vrede – så beskriver denne profil ikke én terrorist. Den beskriver tusindvis af unge mænd, der aldrig kommer i nærheden af at begå terror.
Her ligger det egentlige knudepunkt. Ikke i spørgsmålet »virker teknologien?« men i »accepterer vi en samfundsmodel, hvor tusinder overvåges for at forhindre nogle få?«
Fra effektivitet til værdi
Debatten bliver lødig, når den bliver ved med at omhandle teknologiens praktiske nytte. En algoritme kan have en succes-rate på 99 procent – men hvis den betyder, at hundredtusinder bliver kategoriseret som »risiko« på tyndt grundlag, så handler det ikke længere om effektivitet. Det handler om hvilket samfund vi ønsker at leve i.
Den samme logik gælder videovårvning, telekommunikationsovervågning, finansiel overvågning og dataslagsmål mellem staten og private aktører. Spørgsmålet om grænserne kan ikke løses ved at måle teknologiens præcision. Det løses ved at tage et demokratisk valg om, hvilke rettigheder og frihedsgrader vi er villige at give fra os – og til hvem.
Indtil vi fokuserer på det spørgsmål i stedet for at fortsætte det samme gamle rituelle skænderi, vil vi blive ved med at diskutere overvågning helt forkert.