Gezichtsherkenning en het gemak van onrecht

Gezichtsherkenning en het gemak van onrecht

14 november 2020 0 Door Redactie SDB

Het herkennen van het probleem van gezichtsherkenning is belangrijker dan het herkennen van gezichten.

Sommige mensen zijn bezorgd dat de nieuwste generatie krachtige technologische hulpmiddelen die nu wordt ontwikkeld en ingezet, belangrijke kenmerken van beschaafde samenlevingen en het menselijk leven zelf kan ondermijnen. Elon Musk is met name zo bezorgd over het gevaar van kunstmatige intelligentie (AI) dat hij heeft geïnvesteerd in het versnellen van de ontwikkeling ervan.

Musk heeft zijn bezorgdheid geuit en tegelijkertijd de hoop uitgesproken dat als goede, stabiele en verantwoordelijke mensen zoals Elon zelf AI ontwikkelen voordat de slechte mensen het in handen krijgen, zijn bedrijf SpaceX erin zal slagen om het menselijk ras naar Mars te brengen voordat AI’s. de zoektocht om de mensheid tot slaaf te maken is voltooid. Omdat hij bang was dat mensen Mars niet op tijd zouden halen, lanceerde Musk Neuralink , een bedrijf dat belooft mensen in cyborgs te veranderen. Zijn technologie, geïmplanteerd in de hersenen van mensen, zal vermoedelijk een getransformeerde race op hetzelfde niveau brengen als AI en het daarom in staat stellen om de veroveraars van AI te weerstaan.

Hoewel dit verhaal van de race naar de toekomst door tegengestelde krachten van goed en kwaad klinkt misschien als de plot van een sci-fi stripboek, heeft Musk bij verschillende gelegenheden dingen gezegd die echt op dat scenario lijken. Ondertussen wordt AI in tal van domeinen gebruikt, theoretisch met het idee om specifieke problemen op te lossen, maar, realistischer, volgens de aloude wetten van de consumptiemaatschappij als antwoord op het eeuwige streven naar gemak.

In de zoektocht naar gemak is gezichtsherkenning een van de taken die mensen aan AI hebben toegewezen. Blijkbaar is het nu heel goed geworden om de afbeelding van een gezicht te gebruiken om individuen te identificeren. Het kan zelfs beter presteren dan Lady Gaga in het knoestige probleem om Isla Fisher te onderscheiden van Amy Adams.

De rechtshandhaving in de VS heeft zijn interesse getoond in de beloften van extra productiviteit op het gebied van gezichtsherkenning. Net als iedereen wil de politie graag weten met wie ze praten en met wie ze moeten arresteren. Het probleem is dat ze soms mensen arresteren en opsluiten die ten onrechte door de gezichtsherkenning van AI zijn geïdentificeerd. De nauwkeurigheid van de bestaande gereedschappen neemt drastisch af bij niet-blanke gezichten. Dat betekent meer onrechtmatige arrestaties en aanklachten voor zwarte verdachten.

The New York Times doet een schuchtere poging om in deze ethische kwestie te duiken in een artikel dat de ietwat tendentieuze titel draagt: “A Case for Facial Recognition.” Het artikel vat de zaak in de volgende bewoordingen samen: “De evenwichtsoefening waarmee Detroit en andere Amerikaanse steden worstelen, is of en hoe gezichtsherkenningstechnologie moet worden gebruikt die volgens veel wetshandhavers cruciaal is voor het waarborgen van de openbare veiligheid, maar stellen weinig nauwkeurigheidseisen en zijn vatbaar voor misbruik. “

Hier is de definitie van de Daily Devil’s Dictionary van vandaag:

Kritisch (voor):

Een opzettelijk onnauwkeurige term die wordt gebruikt om het belang van een handeling te evalueren die bestaat op een glijdende schaal tussen absoluut essentieel en waarschijnlijk nuttig, waardoor het een gemakkelijke manier is om de overtuiging te creëren dat iets belangrijker is dan het in werkelijkheid is.

Contextuele opmerking

Het adjectief “kritisch” is afgeleid van het Latijnse woord ” criticus ” en heeft betrekking op het idee van “crisis”. Het kwam in de Engels taal in het midden van de 16 ste eeuw met de betekenis “in verband met de crisis van een ziekte.” Als het artikel in The Times ons vertelt dat “veel wetshandhavers” zeggen dat gezichtsherkenning “van cruciaal belang is voor het waarborgen van de openbare veiligheid”, moeten we ons realiseren dat die agenten niet naar een crisis verwijzen, maar voor hun eigen gemak. Gezichtsherkenning kan natuurlijk een crisis veroorzaken wanneer het een verdachte verkeerd identificeert. Maar de crisis is voor de verdachte, niet voor de politie.

De uitdrukking ‘kritiek voor’ is naar mijn mening ‘echt belangrijk’ gaan betekenen, een zeer subjectieve waardering in tegenstelling tot het veel feitelijker klinkende ‘cruciaal’, dat voortkomt uit het idee van de ‘crux’ of de kern van een probleem. . Het artikel onderstreept deze kwestie van subjectiviteit wanneer het meldt dat een zwarte officier die het citeert “nog steeds geloofde dat wetshandhavingsinstanties beter af zijn met gezichtsherkenningssoftware dan niet.” “Beter af” is niet helemaal hetzelfde als “kritiek”.

Maar laten we de bewering dat “wetshandhaving beter af zou zijn” eens nader bekijken. Hoe kunnen we het onderwerp “wetshandhaving” in deze zin ontleden? De term “wetshandhaving” kan een abstract zelfstandig naamwoord zijn dat de officiële functie van het bewaken van gedrag in een gemeenschap betekent om een ​​optimale naleving van wetten te verzekeren. Dit komt naar voren in zinnen als “een van de verantwoordelijkheden van de overheid is om de gemeenschap te voorzien van de middelen voor wetshandhaving”.

Maar wetshandhavers kunnen ook verwijzen naar de politie zelf, de functionarissen die bevoegd zijn om degenen die ervan worden verdacht de wetten te overtreden, aan te houden en aan het gerechtelijk apparaat uit te leveren. Welke is “beter af” dankzij gezichtsherkenning? In het eerste geval, abstracte wetshandhaving – we hebben het over de veiligheid van de gemeenschap. “Beter af” zou dan meer optimaal en eerlijker uitgevoerd betekenen. Bij het tweede zijn het de mannen en vrouwen die het werk doen. Voor hen betekent ‘beter af’ in feite meer gemak.

Dus naar welke is de auteur van het artikel, Shira Ovide, verwijst? De volgende uitleg geeft duidelijk aan dat wetshandhaving voor haar verwijst naar de politie en niet naar de behoeften van de gemeenschap. “Dat is het standpunt van voorstanders van gezichtsherkenning: dat het succes van de technologie bij het oplossen van zaken de tekortkomingen goedmaakt, en dat geschikte vangrails een verschil kunnen maken.” Het draait allemaal om het ‘helpen oplossen van zaken’. Ovide is een technologiespecialist bij The Times, wat haar focus op gemak in plaats van op de ethiek van politiewerk zou kunnen verklaren.

Wat Ovide zegt is oppervlakkig waar, maar dezelfde logica zou kunnen worden toegepast op het houden van slaven. Als we het argument toegeven dat slavernij de landbouwproductie heeft gestimuleerd – wat het natuurlijk deed – zouden we erop kunnen wijzen dat de boost die het geeft de tekortkomingen compenseert. Dat was hoe slavenhouders redeneerden. Het cruciale verschil – in plaats van cruciaal – ligt in het onderzoeken van de aard en de impact van die tekortkomingen. Slaveneigenaren dachten tenslotte ook aan ‘geschikte vangrails’. Ze noemden ze gewoon ‘slavenpatrouilles’.

Dit is waar, voor Ovide, de bureaucratie de logica van het gemak te hulp schiet en de onderliggende logica van de moderne wetshandhaving onthult: de software en verplichte rapporten aan een civiele toezichtsraad over hoe vaak gezichtsherkenningssoftware werd gebruikt. “

Het artikel eindigt met een ietwat dubbelzinnige noot, maar gaat niet in op de morele kwestie en de maatschappelijke gevolgen ervan. Het lijkt het idee te onderschrijven dat met de juiste procedures de winst in efficiëntie de willekeurige schade waard is die het zal veroorzaken.

Historische notitie

De bovenstaande verwijzing naar slavenpatrouilles klinkt misschien overdreven, maar het is niet triviaal. Zoals Chelsea Hansen van het Law Enforcement Museum opmerkt, waren slavenpatrouilles ‘een vroege vorm van Amerikaanse politiezorg’. De strategieën en organisatieprincipes die voortkwamen uit slavenpatrouilles, beïnvloedden de evolutie van de politie in de Verenigde Staten. Ras is altijd een belangrijk, maar meestal niet erkend kenmerk van de Amerikaanse rechtshandhavingscultuur geweest.

De late antropoloog David Graeber pu is brutaal toen hij merkte op dat het strafrechtelijk systeem in de VS “waarneemt een groot deel van de bevolking van die stad niet als burgers worden beschermd, maar als mogelijke doelwitten voor wat alleen kan worden omschreven als een shake neerwaartse operatie bedoeld om op alle mogelijke manieren geld uit de armsten en meest kwetsbaren te wringen. ” Massale opsluiting heeft onder meer een moderne vorm van slavenarbeid mogelijk gemaakt.

Met andere woorden, er is een enorm historisch en cultureel probleem dat de VS moet oplossen. Dat is precies wat er achter het idee zit dat is geformuleerd als ‘de politie verdedigen’. De slogan zelf is misleidend . Wat het echt betekent is “heroverweeg de politie”. Maar de Amerikanen vragen om elk probleem te heroverwegen, lijkt hun vermogen te boven te gaan. Het is altijd gemakkelijker om slechts één simpele praktische taak aan te wijzen, zoals defunding.

Het debat over gezichtsherkenning in de politie moet zich niet richten op de taken van politieagenten en het gemak dat het hen biedt, maar op de relatie tussen rechtshandhaving en de gemeenschap. Maar dat zou uiteindelijk vereisen dat de consumentencultuur zijn verslaving aan het idee van gemak ontwenkt.

Reacties

Reacties