DELEN
fake

“We gaan naar een tijdperk waarin we sceptisch moeten zijn over wat we op video zien,” zegt John Villasenor, een senior fellow bij het Brookings Institution. Villasenor heeft het over deepfakes – video’s die digitaal op onmerkbare manieren worden gemanipuleerd, vaak met behulp van een machine-learningtechniek die bestaande afbeeldingen of audio op bronmateriaal legt. De waarachtigheid van de technologie is alarmerend, betoogt Villasenor, omdat het onze perceptie van waarheid ondermijnt en desastreuze gevolgen kan hebben voor de komende Amerikaanse presidentsverkiezingen.

“Ik denk dat deepfakes op de een of andere manier een kenmerk van de 2020-verkiezingen zullen zijn”, zegt Villasenor. “En hun schaduw zal lang zijn.”

De digitale manipulatie van video kan het huidige tijdperk van “nepnieuws” vreemd lijken.

In een vochtige hoek van internet is het mogelijk om actrices van Game of Thrones of Harry Potter te vinden die zich bezighouden met allerlei seksuele handelingen. Of op zijn minst voor de wereld lijken de vleselijke figuren op die actrices, en de gezichten in de video’s zijn inderdaad van hen. Alles ten zuiden van de nek is echter van verschillende vrouwen. Een kunstmatige intelligentie heeft de bekende beelden bijna naadloos in pornografische scènes gestikt, het ene gezicht verwisseld voor het andere. Het genre is een van de wreedste, meest invasieve vormen van identiteitsdiefstal uitgevonden in het internettijdperk. De kern van de wreedheid is de scherpte van de technologie: een toevallige waarnemer kan de hoax niet gemakkelijk detecteren.

Deze ontwikkeling, die het onderwerp is geweest van veel handwringing in de technische pers, is het werk van een programmeur die de “deepfakes” van de nom de hack volgt. En het is slechts een bètaversie van een veel ambitieuzer project. Een van de landgenoten van deepfakes vertelde Vice’s Moederbordsite in januari dat hij van plan is dit werk te democratiseren. Hij wil het proces verfijnen en verder automatiseren, waardoor iedereen met een paar eenvoudige stappen het ontlichaamde hoofd van een verliefdheid of een ex of een medewerker kan omzetten in een bestaande pornoclip. Er is geen technische kennis vereist. En omdat academische en commerciële laboratoria nog geavanceerdere hulpmiddelen ontwikkelen voor niet-pornografische doeleinden – algoritmen die gelaatsuitdrukkingen in kaart brengen en stemmen nauwkeurig nabootsen – krijgen de smerige vervalsingen binnenkort een nog grotere waarheidsgetrouwheid.

Het internet heeft altijd de zaden van de postmoderne hel bevat. Massale manipulatie, van clickbait tot Russische bots tot het verslavende bedrog dat de nieuwsfeed van Facebook beheerst, is de munteenheid van het medium. Het is altijd een plek geweest waar identiteit angstaanjagend glad is, waar anonimiteit grofheid en verwarring veroorzaakt, waar oplichters de contouren van het zelf kunnen insluiten. In dit opzicht is de opkomst van deepfakes het hoogtepunt van de geschiedenis van het internet tot nu toe – en waarschijnlijk slechts een low-grade versie van wat er gaat komen.

Vladimir Nabokov schreef ooit dat de realiteit een van de weinige woorden is die niets zonder aanhalingstekens betekent. Hij maakte sardonisch een basispunt over relatieve percepties: als jij en ik naar hetzelfde object kijken, hoe weet je dan echtdat we hetzelfde zien? Toch hebben instellingen (media, overheid, academische wereld) mensen geholpen zich te verenigen rond een consensus – geworteld in een geloof in rede en empirisme – over hoe de wereld te beschrijven, zij het een fragiele consensus die de afgelopen jaren is ontrafeld. Sociale media hebben bijgedragen aan een nieuw tijdperk, waardoor individuele ontmoetingen met het nieuws mogelijk zijn dat vooroordelen bevestigen en tegenstrijdige feiten opsporen. De huidige president heeft de komst van een wereld die verder gaat dan de waarheid verder bespoedigd, waardoor de hoogste functie van valsheid en samenzwering wordt geboden.

Maar al snel lijkt dit een tijdperk van onschuld. We zullen binnenkort leven in een wereld waar onze ogen ons routinematig bedriegen. Anders gezegd, we zijn niet zo ver van de ineenstorting van de realiteit.

We klampen ons vandaag vast aan de realiteit, hunkeren er zelfs naar. We leven nog steeds heel erg in de wereld van Abraham Zapruder. Dat wil zeggen, we vereren het soort ruwe beelden dat wordt geïllustreerd door de 8 mm thuisfilm van de moord op John F. Kennedy die de Dallas-clothier door toeval vastlegde. Onbewerkte video heeft een grote autoriteit verworven in onze cultuur. Dat komt omdat het publiek een verblindend, irrationeel cynisme heeft ontwikkeld ten aanzien van rapportage en ander materiaal dat de media hebben verwerkt en verwerkt – een overdreven reactie op een eeuw van reclame, propaganda en hyperbolisch tv-nieuws. De essayist David Shields noemt onze vraatzucht voor de onverbloemde ‘realiteitshonger’.

Schandalig gedrag roept massale verontwaardiging het meest betrouwbaar op wanneer het ‘op de band wordt gevangen’. Dergelijke video heeft een beslissende rol gespeeld bij het vormgeven van de afgelopen twee Amerikaanse presidentsverkiezingen. In 2012 sloeg een barman bij een fondsenwerver in Florida voor Mitt Romney stiekem een ​​record op zijn camera, terwijl de kandidaat ’47 procent’ van de Amerikanen – alle Obama-aanhangers – aan de kaak stelde als verzwakte familieleden van de federale overheid. Er is een sterk argument dat deze heimelijk vastgelegde clip zijn kans om president te worden, heeft gedoemd. De opmerkingen zouden vrijwel zeker niet met zoveel kracht zijn geregistreerd als ze alleen waren opgeschreven en opgeschreven door een verslaggever. De video – met zijn indirecte camerahoek en het gerinkel van omgevingsbestek en obers die voorbijgingen met gevouwen servetten – was veel krachtiger. Al zijn attributen getuigden van zijn onaantastbare oorsprong.

Donald Trump herstelde onwaarschijnlijk van de Access Hollywoodtape, waarin hij opschepte over seksueel misbruik van vrouwen, maar die tape wekte de passies en het geweten van het publiek op als niets anders in de 2016 presidentiële race. Video heeft ook de nabije trigger gegeven voor vele andere recente sociale conflicten. Er waren uitgebreide bewakingsbeelden nodig van de NFL die Ray Rice terugliep en zijn bewusteloze vrouw uit een hotellift sleepte om een ​​zinvolle reactie op huiselijk geweld uit de competitie op te wekken, ondanks een lange geschiedenis van misbruik door spelers. Dan was er de 2016 moord op Philando Castile door een politieagent uit Minnesota, gestreamd naar Facebook door zijn vriendin. Alle rapporten ter wereld, ongeacht de overweldigende statistieken en verpletterende anekdotes, hadden niet geleid tot verontwaardiging over brutaliteit door de politie.

Dat alles brengt ons tot de kern van het probleem. Het is vanzelfsprekend om op je eigen zintuigen te vertrouwen, te geloven wat je ziet – een bedrade neiging die het komende tijdperk van gemanipuleerde video zal benutten. Overweeg recente flitspunten in wat de Universiteit van Michigan, Ovadya, de “infopocalyps” noemt – en stel je voor hoeveel erger ze zouden zijn geweest met gemanipuleerde video. Neem Pizzagate en voeg dan verzonnen beelden toe van John Podesta die naar een kind loert, of erger. Valsheid krijgt plotseling een geheel nieuwe, explosieve emotionele intensiteit.

Maar het probleem is niet alleen de verspreiding van leugens. Gefabriceerde video’s creëren nieuwe en begrijpelijke vermoedens over alles wat we bekijken. Politici en publicisten zullen die twijfel uitbuiten. Wanneer een dader wordt gevangen in een moment van wangedrag, verklaart hij het visuele bewijs eenvoudigweg als een kwaadaardig brouwsel. De president, naar verluidt, heeft deze tactiek al gepionierd: hoewel hij aanvankelijk de authenticiteit van de video van Access Hollywood heeft toegegeven , twijfelt hij nu privé of de stem op de band de zijne is.

Met andere woorden, gemanipuleerde video zal uiteindelijk het geloof vernietigen in onze sterkste overgebleven band met het idee van gemeenschappelijke realiteit. Zoals Ian Goodfellow, een wetenschapper bij Google, tegen MIT Technology Review zei : “Historisch gezien is het een beetje een toeval dat we op video’s kunnen vertrouwen als bewijs dat er echt iets is gebeurd.”

De ineenstorting van de werkelijkheid is geen onbedoeld gevolg van kunstmatige intelligentie. Het is al lang een doelstelling – of op zijn minst een dalliance – van enkele van de meest legendarische architecten van de technologie. In veel opzichten begint het verhaal van Silicon Valley in de vroege jaren 1960 met de International Foundation for Advanced Study, niet ver van de legendarische technische laboratoria die rond Stanford lagen. De stichting is gespecialiseerd in experimenten met LSD. Sommige techneuten die in de buurt werken konden het niet laten om zelf een geestverruimende reis te maken, ongetwijfeld in de naam van de wetenschap. Deze ontwikkelaars wilden machines maken die het bewustzijn konden transformeren op vrijwel dezelfde manier als drugs. Computers zouden ook een gat in de realiteit scheuren, waardoor de mensheid wordt weggevoerd van de alledaagse, grijs-flanel banaliteit van Leave It to BeaverAmerika en naar een veel groovere, meer holistische gemoedstoestand. Steve Jobs beschreef LSD als ‘een van de twee of drie belangrijkste’ ervaringen in zijn leven.

Valse maar realistische videoclips zijn niet het eindpunt van de vlucht uit de realiteit die technologen ons willen laten nemen. De apotheose van deze visie is virtual reality. Het fundamentele doel van VR is om een ​​uitgebreide illusie te creëren dat je op een andere plaats bent. Met zijn bril en handschoenen probeert het onze zintuigen te bedriegen en onze waarnemingen te ondermijnen. Videogames begonnen het proces van het vervoeren van spelers naar een alternatieve wereld en injecteerden ze in een ander verhaal. Maar hoewel games behoorlijk verslavend kunnen zijn, zijn ze nog niet volledig meeslepend. VR heeft de potentie om vollediger te transporteren – we zullen zien wat onze avatars zien en voelen wat ze voelen. Enkele tientallen jaren geleden, nadat hij de opkomende technologie had geprobeerd, noemde de psychedelische pamfleteer Timothy Leary het naar verluidt ‘de nieuwe LSD’.

Het leven kan interessanter zijn in virtuele realiteiten als de technologie uit zijn kinderschoenen komt; de mogelijkheden voor creatie kunnen op wonderbaarlijke wijze worden uitgebreid en verbeterd. Maar als de hype rond VR uiteindelijk wegebt, dan zal het, net als de personal computer of sociale media, uitgroeien tot een enorme industrie, die consumenten wil verslaan omwille van zijn eigen winst, en mogelijk gedomineerd door slechts een of twee uitzonderlijk krachtige bedrijven. (De investeringen van Facebook in VR, met de aankoop van de startende Oculus, zijn nauwelijks geruststellend.)

De mogelijkheid om consumenten te manipuleren zal groeien omdat VR per definitie verwarring schept over wat echt is. Ontwerpers van VR hebben sommige consumenten beschreven als zulke sterke emotionele reacties op een angstaanjagende ervaring dat ze die dikke bril afrukken om te ontsnappen. Studies hebben al aangetoond hoe VR kan worden gebruikt om het gedrag van gebruikers te beïnvloeden wanneer ze terugkeren naar de fysieke wereld, waardoor ze meer of minder geneigd zijn tot altruïstisch gedrag.

Onderzoekers in Duitsland die hebben geprobeerd de ethiek voor VR te codificeren, hebben gewaarschuwd dat het ‘uitgebreide karakter’ ‘kansen biedt voor nieuwe en bijzonder krachtige vormen van zowel mentale als gedragsmatige manipulatie, vooral wanneer commerciële, politieke, religieuze of overheidsbelangen achter de oprichting staan en onderhoud van de virtuele werelden. “Zoals de VR-pionier Jaron Lanier schrijft in zijn onlangs gepubliceerde memoires:” Nooit is een medium zo krachtig geweest voor schoonheid en zo kwetsbaar voor griezeligheid. Virtual reality zal ons testen. Het zal ons karakter meer versterken dan andere media ooit hebben gehad. ”

Misschien zal de maatschappij manieren vinden om met deze veranderingen om te gaan. Misschien leren we de scepsis die nodig is om ze te navigeren. Tot dusverre hebben mensen echter een bijna oneindige gevoeligheid getoond om gedupeerd en bedrogen te worden – gemakkelijk in werelden te vallen die sympathiek zijn voor hun eigen overtuigingen of zelfbeeld, ongeacht hoe excentriek of ronduit verkeerd die overtuigingen ook zijn. Overheden reageren traag op de maatschappelijke uitdagingen die nieuwe technologieën met zich meebrengen en vermijden deze liever. De vraag om te beslissen wat realiteit is, is niet alleen epistemologisch; het is politiek en zou inhouden dat diepgewortelde overtuigingen misleidend worden verklaard.

Weinig individuen zullen de tijd of misschien het vermogen hebben om gedetailleerde fabulaties van waarheid te sorteren. Onze beste hoop is misschien om het probleem uit te besteden en de culturele autoriteit te herstellen naar vertrouwde validators met training en kennis: kranten, universiteiten. Misschien zullen grote technologiebedrijven deze crisis begrijpen en ook deze rol op zich nemen. Omdat ze de belangrijkste toegangspunten tot nieuws en informatie beheren, kunnen ze bijvoorbeeld gemakkelijk gemanipuleerde video’s pletten. Maar om deze rol te spelen, zouden ze bepaalde verantwoordelijkheden moeten aanvaarden die ze tot nu toe grotendeels hebben weerstaan.

Toen Rusland in 2016 Facebook gebruikte om de Amerikaanse presidentsverkiezingen te beïnvloeden, bekende Elon Musk zijn begrip van het menselijk leven. Hij sprak over een theorie, afgeleid van een Oxford-filosoof, die in zijn omgeving in de mode is. Het idee is dat we eigenlijk in een computersimulatie leven, alsof we al personages zijn in een sciencefictionfilm of een videogame. Hij vertelde een conferentie: “De kansen dat we in ‘basisrealiteit’ zijn, zijn er één in miljarden.” Als de leiders van de industrie die onze informatie voorzitten en hopen onze toekomst vorm te geven, het bestaan ​​van de realiteit niet eens kunnen toegeven, dan hebben we weinig hoop het te redden.

Reacties

Reacties

Een bevolking die de vrijheid van meningsuiting, het debat en de waarheid niet respecteert en verdedigt, zal niet lang de vrijheid hebben die voortvloeit uit de vrijheid van meningsuiting, het debat en de waarheid. Deze website respecteert de waarheid en het vereist uw steun denk aan onze sponsors of doe een donatie hier wij zijn blij met elke euro. Zoals u wellicht weet doen de Social Media sites zoals Facebook en Twitter er alles aan om ons bereik tot een minimum te beperken! We zijn daarom meer dan ooit afhankelijk van uw support om het woord bij de mensen te krijgen. Wanneer u bovenstaand artikel nuttig, interessant of leerzaam vond, like het dan en deel het overal waar u maar kunt! Alvast heel hartelijk bedankt voor de support!

LAAT EEN REACTIE ACHTER

Deze website gebruikt Akismet om spam te verminderen. Bekijk hoe je reactie-gegevens worden verwerkt.