Digital overvågning og nye trusler mod selvbestemmelsen

De nye digitale teknologier, vi i stigende grad anvender, overvåger os også ved at indsamle data om os. Hver gang vi er online eller bare bruger vores smartphone – og alle andre produkter med ”smart” foran navnet – afgiver vi data, som vi profileres ud fra. I det, som Shosanna Zuboff har døbt overvågningskapitalismen (Zuboff, 2015; 2019), er brugerdata blevet det nye guld, der høstes og kapitaliseres på af store teknologivirksomheder som Google og Facebook.

Digital overvågning

Tilstrækkeligt meget brugerdata gør det muligt at gennemskue os, vores følelsesliv, og forudsige vores adfærd. Og kan man forudsige adfærd, kan man også lettere påvirke den, hvilket netop er det, som de overvågningskapitalistiske virksomheder gør, og baner vej for at andre gør – for indtjeningens skyld. Denne nye form for datadrevet adfærdsmodificering udgør imidlertid, som denne artikel vil påpege og eksemplificere, en trussel mod individets selvbestemmelse (Zuboff, 2019; Vestergaard, 2019) på et nyt niveau, som elever, lærere og borgere som sådan bør kende til for bedre at kunne modstå dem.

Rovmarketing

Brugerdata anvendes især til individuelt målrettet marketing: Det er lettere at overtale én, når man kan trykke på de rigtige knapper, fordi man allerede kender personen. Det giver brugerdata mulighed for. Facebook formulerer målet med dataindsamlingen som det at vise brugerne ”relevante reklamer”, men brugerdata kan ligeså vel (mis)bruges til aggressiv rovmarketing, hvor personer, der i forvejen er pressede, rammes præcis dér, hvor det gør mest ondt (Hendricks og Vestergaard 2017). Har man problemer med at få økonomien til at hænge sammen, tilbydes man hurtige, men dyre forbrugslån, hvor afdragene rammer præcis dén dag, lønnen udbetales (O’Niel, 2016). Frygter man for sit helbred, kommer der tilbud, som både skræmmer og lover mirakler.

Ideen bag rov-marketing er ”at lokalisere de mest sårbare personer og bruge deres private information imod dem. Det involverer at finde ud af, hvor de lider mest, hvilket er kendt som smertepunktet” (oversat fra O’Niel, 2016). Der er eksempler på, at datakøbmænd – firmaer, der handler data og personlig information uden samtykke fra personerne selv – i USA har solgt lister med yderst udsatte grupper til markedsføringsformål, som ”spansktalende som har søgt på lønningsdagslån online”, personer med genetisk betingede sygdomme, personer med demens, samt lister over personer med tendens til misbrug som alkoholikere, stofafhængige og ludomaner (Committee on Commerce, Science, and Transportation, US Congress, 2015: 81 - 86). At tilbyde en ludoman, som aktivt forsøger at stoppe spilleriet, et hurtigt ”fix” på et onlinekasino er at udnytte et smertepunkt – en sårbarhed – imod vedkommende og forsøge at undergrave personens selvbestemmelse.

Målrettet manipulation

Den form for rovmarketing, som undergraver selvbestemmelsen ved at bruge data imod brugerne og ramme smertepunkterne, har Facebook også åbnet for. Potentielle annoncører er blevet tilbudt hjælp til at vende brugernes sårbarheder imod dem selv. Det er blevet lækket i 2017, at Facebook forsøgte at lokke annoncører ved at tilbyde adgang til sårbare teenagere i perioder, hvor de har det allerværst med sig selv (Tiko, 2017). Annoncører fik muligheden for at målrette reklamer mod 6,4 millioner mentalt sårbare unge ned til 14 år, der føler sig ”usikre”, værdiløse”, ”nervøse”, ”fejlslagne” eller ”ængstelige”.

Facebook solgte ved samme lejlighed sig selv på at kunne afgøre netop det tidspunkt, hvor de unge er hårdest ramt – eller som det (mere fromt) formuleres ”de tidspunkter, hvor unge har brug for et selvtillidsboost” (Ibid.). At ramme en usikker teenager med reklamer for et skønhedsprodukt, der lover mirakler, på netop det tidspunkt, hvor han eller hun føler sig mest utilstrækkelig, er at overskride grænsen mellem overtalelse, som reklamer altid har forsøgt, til målrettet manipulation, og angreb på selvbestemmelsen (Vestergaard, 2019).

Cambridge Analytica

Databaseret rovmarketing bruges også i politiske kampagner. Kender man vælgernes psykologiske profil, er det lettere at påvirke, hvor krydset sættes. I 2016 afholdt den daværende CEO for Cambridge Analytica, Alexander Nix, en præsentation, hvor han talte om fordelene ved datadrevet psykologisk profilering af vælgerne (Cambridge Analytica, 2016). Han lagde ud med at påpege, at det er langt mere effektivt at få folk til at holde sig væk fra ens private strand med at advarselsskilt om, at der er observeret hajer ved stranden, end ved at informere om, at der er adgang forbudt. Nix kalder det ”adfærdskommunikation”. Men han anbefaler basalt set at manipulere med folk med en løgn og styre deres adfærd med frygt.

Samme tilgang anbefales i politik. Alt efter hvilken personlighedstype, man forsøger at influere, gælder det om at skræddersy budskaberne til at resonere bedst med den personens mentalitet. Skal man levere et budskab om retten til at bære våben målrettet til en ængsteligt anlagt person, kan der med fordel spilles på frygten for hjemmerøverier. Som illustration viser Nix en besked med teksten: ”Retten til at eje våben er ikke bare en ret. Det er en forsikringsordning” kombineret med et billede af en hånd, som bryder igennem et dørvindue (oversat efter Cambridge Analytica, 2016). Frygt er en stærk motivationsfaktor. Og hvis man målrettet bruger frygt som middel over for ængstelige personer, som Nix anbefaler, er det igen et eksempel på, at grænsen mellem overtalelse og målrettet (følelses)manipulation krydses (Hendricks og Vestergaard, 2019).

Ambitioner og realiteter

Efter Cambridge Analytica-skandalen i 2018 (hvor mere end 50 millioner amerikaneres data blev misbrugt red.), lukkede virksomheden, men der står nye klar med samme ambitioner. Formilla.com, som sælger software til datadrevet målrettet marketing, fortæller begejstret om fordelene: ”Psykografisk profilering kigger dybere og opdager motivationerne i en persons liv” (oversat efter Widmer, 2017). Tanken, og salgstalen, er, at kan man gennemskue folk og det, der motiverer dem, kan man også styre dem. Som Alexander Polonsky fra dataindsamlingsfirma Bloom formulerer det: ”Du kan gøre ting, som du aldrig har drømt om før. Det er hinsides informationsdeling. Det er at dele tankerne og følelserne bag denne information, og det er ekstremt magtfuldt” (oversat efter Confessore og Hakim, 2017). Magtfuldt for hvem? Ikke for brugeren, som adfærdspåvirkes. Forskningsstudier viser, hvad mange nok også kender fra egen erfaring: Når man er bange, forringes ens evner til rationel tænkning og overvejelse (Jung, m.fl. 2014), og, kan det tilføjes, til at forvalte sig selv.

Men ét er ambitioner og salgstaler, noget andet er realitet. Selvom Cambridge Analytica havde salgstalen, tyder efterfølgende studier nemlig på, at de ikke havde meget mere end dét. Benkler m.fl. (2018) har lavet en solid gennemgang af forsøgene på at manipulere med vælgerne i 2016-valget i USA. De konkluderer, at hvis psykografisk informeret kommunikation overhovedet blev brugt, var det uden udslagsgivende effekt. Det betyder dog ikke, at borgernes selvbestemmelse er velforvaret. Forskerne advarer om det potentiale, som teknikkerne på længere sigt kan udvikles til at virkeliggøre på længere sigt: ”[D]er kan ikke herske meget tvivl om, at sammensmeltningen af teknikker til analyse af meget store dataset, eksperimenter i produktmarketing og det hastigt udviklende felt af adfærdsvidenskaber, vil fortsætte med at forbedre teknikker til følelsesmæssig og psykologisk manipulation […] de ihærdige indsatser fra industriens side sandsynliggør, at platformene vil fortsætte med at forstærke deres evner til at individualisere og vil forsøge at styrke deres evner til succesfuldt at manipulere deres målgruppers præferencer” (Oversat efter Benkler m.fl. 2018. Forfatterens fremhævning). Med sådan et fremtidsperspektiv er der stadig god grund til at forholde sig kritisk til tendenserne til datadrevet overvågning og adfærdspåvirkning, som potentielt kan true selvbestemmelsen på længere sigt.

Emotionelt diktatur

Ifølge den tyske filosof, Byung-Chul Han, er der med individuelt målrettet marketing ved at opstå en ny form for effektiv magtteknik, som han døber ”datadrevet psykopolitik” (Han, 2014). Datadreven psykopolitik anvender emotionelle styringsteknikker, som disponerer til adfærd og beslutninger ved at spille på ubevidste følelsesmæssige strenge, der er utilgængelige for én selv. Han påpeger – på linje med Zuboff (2019) og Vestergaard (2019) – at kender virksomhederne os bedre end vi kender os selv, fordi de tilstrækkelig data til at kunne forudsige, hvordan vi sandsynligvis agerer i forskellige situationer, kan det bane vej for et emotionelt diktatur, hvor vi kontrolleres gennem vores følelsesliv uden selv at opfatte det.

Derfor er (big) dataindsamling og –analyse en trussel mod vores frihed, advarer Han (2016), og optegner et dystert scenarie: ”Big data muliggør forudsigelse af menneskets reaktioner, og fremtiden kan som resultat deraf manipuleres. Big data har evnen til at forvandle folk til marionetdukker. Big data genererer viden, som muliggør herredømme. Og det er big data, som gør det muligt at få adgang til og manipulere med den menneskelige psyke, uden at den person, som det går ud over, er opmærksom på det. Big data betyder essentielt den frie viljes endeligt” (oversat efter Han, 2016).

Tryllekunstnerens tricks

En måde at imødegå truslerne mod selvbestemmelsen er at oplyse om og undervise i de datadrevne teknikker, der udvikles og anvendes, og de økonomiske interesser, der driver dem. Viden er magt, og kender vi manipulationsteknikkerne, kan det styrke modstandskraften over for dem (Vestergaard og Hansen, 2018). Der er en grund til, at tryllekunstnere ikke fortæller om deres tricks. Det gør det til en oplagt kerneopgave for ethvert initiativ eller fag, der arbejder med digital dannelse netop at fortælle om tryllekunstnerne i teknologibranchens tricks og således belyse de nye trusler mod selvbestemmelsen, der er opstået i kølvandet på den digitale revolution.  Oplysningsidealet om (ud)dannelse til myndighed (Kant, 1993 [1783]) – til ansvarlighed, selvstændighed og selvbestemmelse – er stadigt højaktuelt i den digitale tidsalder.

Kreditering

Mads Vestergaard er filosof, forfatter og forsker tilknyttet Center for Information og Boblestudier (CIBS), Københavns Universitet.