Jeg så for nylig en dokumentar, der ændrede mit blik på digital svindel og algoritmisk påvirkning.

Den bærer titlen Hinge is Completely Fucked af YouTube kanalen Moon. Selvom den tager udgangspunkt i datingmarkedet, udgør den en af de skarpeste lektioner i digital manipulation, jeg længe har set. Det er netop den type indsigt, enhver elev burde møde i skolen.

Undersøgelsen blotlægger, hvordan Match Group bag Tinder og Hinge har opbygget en forretningsmodel, der ikke sigter mod at hjælpe brugere videre i livet. Formålet er i stedet at fastholde dem i et uendeligt kredsløb af swipes og betalinger. Selskabets ledelse beskriver det åbent som en maskine med ekstraordinært høje avancer. Hver eneste interaktion, pause og samtale registreres for at fodre en skjult algoritme, der styrer brugerens oplevelse.

Det er måske formelt lovligt, men det udgør manipulation i ordets mest præcise forstand.

Scams og manipulation i unges digitale hverdag

De selv samme mekanismer møder børn og unge dagligt i computerspil, på sociale platforme og i falske beskeder. Mønstret er det samme, uanset om det gælder uigennemskuelige lootboxes eller tillidsbaseret svindel i onlinespil.

Ifølge tal fra organisationer som Center for Digital Pædagogik og undersøgelser hos Finans Danmark udgør unge en markant andel af ofrene for digital svindel. Mange rammes, netop fordi de er vokset op med skærmene og derfor udviser en naturlig, men sårbar tillid til pæne brugerflader og kendte designs.

De fire psykologiske greb bag mekanismerne

Når jeg underviser i teknologiforståelse, bruger jeg den type eksempler til at give eleverne et sprog for det, de intuitivt fornemmer. Den ubehagelige følelse af, at platformen arbejder imod dem snarere end for dem.

Vi gennemgår mekanismerne systematisk. Streaks, der straffer fravær. Uforudsigelige belønninger, der skaber afhængighed ligesom en enarmet tyveknægt. Hemmelige pointscorer, der vurderer brugeren bag kulisserne. Og det endeløse feed, der aldrig lader hjernen finde hvile, fordi en afklaret bruger er en tabt indtægt.

Når eleverne først lærer at gennemskue de fire greb, opdager de dem overalt. Både i spil, der lokker med gratis belønninger, og i beskeder, der forsøger at fremkalde panik. Det er i det øjeblik, digital dannelse forvandler sig fra teori til en personlig beskyttelse.

Digital dømmekraft i praksis

De mest risikable former for manipulation er dem, der fremstår mest troværdige. Dem med gennemført design, professionelt logo og en overbevisende tone, hvor man let forledes til at tro, at alt er i den skønneste orden.

Det er præcis den kritiske sans, vi træner i vores undervisningsforløb for udskolingen. Her arbejder eleverne med algoritmer, datasikkerhed og kildekritik i praksis. De prøver blandt andet kræfter med læringsværktøjet Fake or Real, hvor de lærer at skelne syntetisk indhold og manipulerede budskaber fra virkeligheden.

Vil du give eleverne på din skole et solidt værn mod digital manipulation, kan du læse mere om vores Digitalt Kørekort elevworkshop og vores øvrige workshops og forløb.