De nieuwe grenscontrole van kunstmatige intelligentie van de EU een “leugendetector” noemen, is net zoiets als Brexit een klein meningsverschil onder vrienden vinden. Technocraten hebben iBorderCrtl overmatig gehyped om indruk te maken op klanten en het publiek. Het is echter in staat om enorme hoeveelheden gegevens over u te verzamelen en toe te voegen aan uw bij de overheid aanwezige permanente bestand. Het is Big Brother in actie, en géén leugendetector.
Nog steeds weet de Europese Unie de komende, nieuwe migrantentsunami niet tegen te houden. Hoewel zij doet vóórkomen alsof zij allerlei afdoende maatregelen treft, is er gewoon niet de wil om dat te realiseren, sterker: het is (Merkel- en Macron)beleid om zoveel mogelijk migranten naar Europa te laten komen.
Het nieuwste voorbeeld van “afdoende maatregelen” vinden we in een artikel van The Intercept. Daar lezen we dat grensambtenaren nepwetenschap, technologie en een variant op een notoir schetsmatig stuk apparatuur hebben gecombineerd tot de nieuwste oplossing voor grensbeveiliging.
Het heet “Silent Talker”. Het onderwerpt reizigers aan leugendetectortests gebaseerd op de fictie dat door te kijken naar andere mensen geconstateerd kan worden of zij liegen – door alleen naar hen te kijken. Het is dezelfde pseudo-wetenschap die het nutteloze programma “Behavioral Detection” van de TSA aanstuurt. (De Transportation Security Administration (TSA) is een agentschap van het United States Department of Homeland Security (DHS) dat gezag heeft over de veiligheid van het reizende publiek in de Verenigde Staten.)
Alleen is Silent Talker mogelijk nog erger omdat het zichzelf als een leugendetector beschouwt en het al jaren bekend is dat leugendetectors niet op een betrouwbare wijze leugens kunnen detecteren.
Het werkt als volgt: reizigers uploaden hun paspoorten naar de website van het grensagentschap en worden face-to-“face” gezet met een virtuele politieman, een blauwe geüniformeerde avatar. De software regelt de camera van het apparaat om de gezichts- en oogbewegingen van de reiziger te scannen op “tekenen van liegen”.
Het grappige is: het werkt niet eens als het mensen zijn die face-to-face werken. Een rapport over het Behavioral Detection-programma van de TSA toonde bij het programma het totale gebrek aan een wetenschappelijke achtergrond aan. De rechtvaardiging voor het programma was gebaseerd op geruchten, vermoedens en anekdotisch bewijs. De TSA beweerde dat het harde wetenschap was, maar exacte wetenschappers hebben gezegd dat er geen bewijs is dat de bewering ondersteunt dat iemand leugens kan opsporen door alleen naar de gezichten van mensen te kijken.
Deze onderzoeksresultaten impliceren niet dat mensen hun gezicht willekeurig verplaatsen of dat de configuraties in figuur 4 geen psychologische betekenis hebben. In plaats daarvan onthullen ze dat de gezichtsconfiguraties in kwestie geen “vingerafdrukken” of diagnostische displays zijn die op betrouwbare en specifieke wijze specifieke emotionele toestanden signaleren, ongeacht context, persoon en cultuur. Het is niet mogelijk om op een betrouwbare manier geluk af te leiden uit een glimlach, woede uit een expressie of verdriet uit een frons, zoals veel van de huidige technologie probeert te doen bij het toepassen van wat ten onrechte wordt beschouwd als wetenschappelijke feiten.
In plaats daarvan wijst het beschikbare bewijs van verschillende populaties en onderzoeksdomeinen – zuigelingen en kinderen, volwassenen die in geïndustrialiseerde landen en in afgelegen culturen wonen, en zelfs individuen die aangeboren blind zijn – overweldigend op een andere conclusie: wanneer gezichtsbewegingen emotionele toestanden uitdrukken, zijn die aanzienlijk variabeler en afhankelijk van context dan het algemene beeld toelaat.
[…]
Pogingen om de interne toestand van mensen eenvoudigweg “uit te lezen” door alleen een analyse van hun gezichtsbewegingen, zonder rekening te houden met verschillende aspecten van de context, zijn in het beste geval onvolledig en in het slechtste geval volledig gebrek aan validiteit, hoe geavanceerd de berekeningsalgoritmen ook zijn.
Gezien deze wetenschappelijke achtergrond is het geen verrassing dat het Europese “Silent Talker” leugendetector/gedragsdetectie-programma geen leugens of leugenaars kan detecteren.
Een persoon die wordt geacht te hebben geprobeerd het systeem te misleiden, is gecategoriseerd als “hoog risico” of “gemiddeld risico”, afhankelijk van het aantal vragen waarop hij ten onrechte heeft geantwoord. Onze verslaggever – de eerste journalist die het systeem testte voordat hij eerder dit jaar de Servisch-Hongaarse grens overschreed – gaf eerlijke antwoorden op alle vragen, maar werd door de machine als een leugenaar beschouwd, met vier valse antwoorden op 16 en een score van 48. De Hongaarse politieman die de resultaten van de leugendetector van onze verslaggever beoordeelde, zei dat het systeem suggereerde dat ze aan verdere controles zou moeten worden onderworpen, hoewel deze niet werden uitgevoerd.
De haast om technologie het werk van mensen te laten doen – en de vaste overtuiging dat als iets duur is, het goed moet zijn – heeft geleid tot het verdelen van tijd en geld in deze zeer dubieuze grensveiligheidsinspanning.
Het leugendetectiesysteem van IBorderCtrl is in Engeland ontwikkeld door onderzoekers van de Manchester Metropolitan University, die zeggen dat de technologie “microgebaren” kan oppikken die een persoon maakt bij het beantwoorden van vragen op zijn computer, het analyseren van zijn gezichtsuitdrukkingen, blik en houding.
Een EU-onderzoeksprogramma heeft ongeveer 4,5 miljoen euro in het project gepompt, dat wordt beheerd door een consortium van 13 partners, waaronder het Griekse Center for Security Studies, de Duitse Leibniz University Hannover en technologie- en beveiligingsbedrijven zoals het Hongaarse BioSec, het Spaanse Everis en JAS in Polen.
IBorderCtrl is een technologie die is ontworpen om het voorscreeningsproces te versterken. Maar transparantie-activisten zeggen dat het project niet moet worden uitgerold totdat er meer informatie beschikbaar is over de technologie – zoals de algoritmen die het gebruikt om zijn beslissingen te nemen.
Eerder dit jaar gebruikten onderzoekers van het in Milaan gevestigde Hermes Center for Transparency and Digital Human Rights wetgeving inzake vrijheid van informatie (een soort WOB-verzoek) om interne documenten over het systeem te verkrijgen. Ze ontvingen honderden pagina’s; ze waren echter zwaar geredigeerd, met veel pagina’s volledig zwart.
Er is meer geld onderweg want de Brusselse geldpotten zijn overvol. Bedrijven zullen dubieuze “oplossingen” naar overheden pushen om meer beveiligingsgeld hun kant op te laten komen. Europese landen worden dagelijks getroffen door terroristische of gewelddadige aanvallen, wat betekent dat die bedrijven de wind in de rug hebben, nu het grootste deel van de regeringen zich maar al te graag voor hun karretjes laten spannen. Leveranciers van nepwetenschap weten fervente overtuigingen om te zetten in langlopende overheidscontracten. De Europese Commissie heeft de komende acht jaar bijna 35 miljard euro begroot voor inspanningen op het gebied van grenscontrole.
De eerste zijn is beter dan correct zijn, en regeringen over de hele wereld hebben de bereidheid getoond om onbewezen technologie op hun burgers te laten gebruiken.
Maar er is nog iets anders aan de hand met dit systeem. Afhankelijk van uw mening over privacy en migratie, is dit het begin van een dystopische toekomst rechtstreeks uit een nachtmerrie uit Orwell, of klinkt het als muziek in uw oren. U heeft het hoe dan ook fout.
Als u bijvoorbeeld denkt “we kunnen gewoon iedereen vragen ‘ben je een terrorist?’ en daardoor maken we de EU veiliger voor iedereen” dan neemt u waarschijnlijk aan dat er zoiets bestaat als een leugendetector van Kunstmatige Intelligentie. Dat is er niet. Maak u geen zorgen, dat is een veelgemaakte fout.
Zoals alle leugendetectoren, zijn op kunstmatige intelligentie gebaseerde oplossingen gebaseerd op mis-of-raak-gokken met wat de overheid als een fout op aanvaardbaar niveau beschouwt. Een polygraaf zou bijvoorbeeld een nauwkeurigheidsbeoordeling van 75 tot 90 procent kunnen hebben. Het detecteert geen leugens, het detecteert de subtiele signalen die horen bij liegen. Op deze manier detecteert kunstmatige intelligentie ook geen leugens. Het detecteert biometrische indicatoren die in verband kunnen worden gebracht met liegen – naar verluidt met ongeveer 76 procent succes.
Maar aan de andere kant: de soms gehoorde opvatting dat dit de meest ernstige schending van de mensenrechten op een luchthaven is sinds de dagen dat TSA-agenten in de VS werden opgedragen moslims te profileren, is ook onjuist. Meestal in ieder geval: het gaat veel verder dan alleen maar het lastigvallen van buitenlanders op Amerikaanse luchthavens.
De “leugendetector” is slechts het topje van de ijsberg. Wat u moet weten, is dat in dit geval “leugendetectie” synoniem staat aan “gegevensverzameling”.
Dit nieuwe project van de EU dat op luchthavens actief wordt (en is) wordt geen “operationele leugendetector” genoemd. Het wordt, zoals we eerder meldden, “iBorderCtrl” genoemd. En “leugendetectie” is slechts een deel van wat het doet.
Je hebt mensen die zeggen: “Waarom niet er aan mee doen? Ik heb toch niets te verbergen?”
Het antwoord is dat u, net als iedereen, genoeg te verbergen hebt, of u nu liegt of niet.
Dit is wat iBorderCtrl nog meer doet:
– het compileert een volledig gezichtsprofiel met behulp van video en foto’s
– het schraapt en doorzoekt al uw sociale media-accounts
– het analyseert documenten en handtekeningen
– het maakt en slaat uw digitale stemafdruk op
– het doet aan risicobeoordeling op basis van verzamelde gegevens
– het zoekt naar verborgen personen.
Laten we die laatste functie eens onderzoeken.
Zoeken naar verborgen mensen? Op een vliegveld? Onwaarschijnlijk. Dit, althans volgens informatie van dit project, zoekt naar mensen die zich verbergen. Maar het is pijnlijk duidelijk dat dit is ontworpen voor grensovergangen waar mobiele agenten mensen in de omgeving volgen, en niet op luchthavens. Toch maakt het deel uit van de “leugendetector” op de luchthaven.
Simpel gezegd: iBorderCtrl is een uitgebreid pakket voor gegevensverzameling en bewaking dat robuuster lijkt te zijn dan het pakket dat de Amerikaanse president Trump aan de grens tussen de VS en Mexico in gebruik heeft laten nemen.
De hoeveelheid informatie die de EU hieraan zou kunnen ontlenen – alles variërend van de seksuele identiteit van een persoon tot religieuze en politieke overtuigingen – zou het mogelijk maken individuen te volgen met laserprecisie.
Maar dat is alleen een probleem als u niet gelooft in bevooroordeelde gegevens, een corrupte overheid of valse politieke beloften.