For to år siden testede Salling Group ansigtskameraer ved selvbetjeningskasserne i supermarkedet. Salling Group ville ikke fortælle hvad ansigtskameraerne skulle bruges til udover ”overvågning”. Heldigvis var i 2021 en kundestorm mod denne overvågning, og det endte med at Salling Group fjernede ansigtskameraerne ved selvbetjeningskasserne i deres butikker.

En sejr for privatlivet i 2021! Men nu er ansigtskameraerne tilbage hos Bilka, denne gang med mere konkret information om hvad Salling Group vil bruge dem til. Biometrisk ansigtskontrol med kunstig intelligens (AI) skal vurdere om kunderne er gamle nok til at købe alkohol.

Usikker diskriminerende teknologi

Ifølge denne artikel er det teknologi fra virksomheden Yoti som skal bruges til dette. En algoritme vil guestimere din alder og automatisk ”godkende” alle over 25 år. Det er som bekendt ikke grænsen for at købe alkohol, men det skyldes utvivlsomt den store usikkerhed ved biometrisk aldersvurdering. Hvis grænsen sættes til 25 år, er sandsynligheden for at godkende nogen under 16/18 år sikkert tilstrækkelig lav til at Bilka undgår juridiske problemer med lovkrav.

Usikkerhederne ved Yotis aldersestimater ikke er tilfældigt fordelt. Det er et velkendt problem, at usikkerheden ved biometrisk ansigtsgenkendelse afhænger af bl.a. alder, køn og hudfarve. Selv Yotis egen undersøgelse viser et sådant bias. Automatiseret biometrisk ansigtskontrol kan derfor føre til øget diskrimination.

Det er under alle omstændigheder dehumaniserende, at arbitrære AI-systemer skal godkende om vi må købe bestemte varer i butikkerne (”the computer says no” og det er umuligt at finde et menneske at tale med).

Bliver dine ansigtsdata gemt?

Bilka siger, at billedet bliver slettet når alderstjekket er foretaget. Det er altid svært at kontrollere den slags løfter, og det sikreste er naturligvis at kigge væk fra (overvågnings)kameraer. Ansigtsbilledet bliver hos Yoti omsat til en række biometriske mønstre, som bruges til aldersvurdering. Bliver disse personoplysninger også slettet sammen med billedet?

I forhold til AI-systemer er der en særlig grund til at være skeptisk. AI kræver store mængder repræsentative træningsdata til udvikling, test og løbende forbedringer. Hvor Yoti har repræsentative træningsdata fra er uklart. Men sikkert det at AI træningsdata ikke kan slettes med det samme, og ansigtsbilleder kan heller ikke anonymiseres.

Vejen til det totalitære samfund kan være brolagt med gode intentioner

Vejen til helvede er brolagt med gode intentioner, siger et gammelt ordsprog. Det samme gælder for vejen til det totalitære samfund. Hvis overvågning og kontrol bliver gjort nemmere og billigere med automatisering, kommer der mere overvågning og kontrol i samfundet. Det er desværre erfaringen, når den teknologiske udvikling møder politiske og kommercielle interesser. For en uge siden ville en rådmand i Odense have ansigtsgenkendelse i svømmehallerne som en ”ny og smart billetkontrol”.

En frø skal koges langsomt – ellers springer den op af gryden. Hvis ansigtsscanning for at købe dagligvarer bliver normaliseret, kan det brede sig til andre områder, for eksempel alderskontrol for vores adgang til internettet. ”Tag en selfie på din telefon for at se denne webside”, kan blive en udbredt forhindring for adgang til information på internettet.

Der er allerede et kontroversielt EU-lovforslag som vil indføre alderskontrol på en række onlinetjenester (sammen med masseovervågning af private beskeder). Blandt de p.t. kun dårlige løsninger til alderskontrol på internettet kan det måske blive biometrisk ansigtskontrol som Yotis teknologi.

Just say NO

Sig NEJ til ansigtsscanning i Bilka mens det stadig er frivilligt. Også selvom det måske lyder uskyldigt at komme lidt hurtigere gennem selvbetjeningskassen.

Reclaim your face, også i supermarkedet! Protesterne mod Salling Groups ansigtskameraer virkede i 2021.

Kontakt

Jesper Lund, Formand for IT-Politisk Forening
Email: jesper@itpol.dk