30 november 2021

SDB

dagelijks nieuws en blogs

Brussel’s zoektocht naar kunstmatige intelligentie

eu

De Europese Unie heeft een reeks richtlijnen gepubliceerd over hoe bedrijven en overheden ethische toepassingen van kunstmatige intelligentie moeten ontwikkelen.

Deze regels uit Brussel zijn niet zoals die van Isaac Asimov in zijn boek “Three Laws of Robotics.” Ze bieden geen oplossing voor de onduidelijke en diffuse problemen die de samenleving kunnen treffen als Kunstmatige Intelligentie geïntegreerd gaat worden in sectoren als gezondheidszorg, onderwijs en consumententechnologie. Brussel hoopt op dit vlak een leidende rol in de wereld te kunnen vervullen – een wensdroom die gedoemd is te mislukken.

De Europese Commissie zal deze zomer een proefproject starten om ethische richtlijnen te testen die het heeft ontwikkeld voor het gebruik van kunstmatige intelligentie – en nee, we bedoelen hiermee niet dat EU-politici een IQ-upgrade krijgen om ethisch te handelen (wat overigens best wel een goed idee zou zijn).
Bedrijven, overheidsinstellingen en andere organisaties kunnen nu toetreden tot de Europese KI-alliantie (de kunstmatige intelligentie alliantie, niet te verwarren met een andere KI), die de leden officieel zal informeren wanneer de pilot start.

Maar het plan heeft verschillende zwakke punten. Gaat het Brussel wel ècht om ethiek? De zeven opgestelde richtlijnen komen bij ons nogal utopisch over, zeker als we kijken waar ze vandaan komen. We bedoelen dat de Europese Unie nu niet bepaald uitblinkt wat betreft onpartijdigheid en fundamentele rechten (punt 1), betrouwbaarheid (2), privacy en discriminatie (3), transparantie (4), eerlijkheid (5), welzijn – en wie beoordeelt wat positief is? (6), en het waarborgen van zaken (7). Trouwens, waarom zouden we KI-robots nodig hebben in een restaurant of een volledig geautomatiseerde Bol.com-winkel?

“De ethische dimensie van KI is geen overbodige luxe of optie”, zei Andrus Ansip, vicevoorzitter van de Digitale Eengemaakte Markt, in een verklaring. “Onze samenleving kan alleen op basis van vertrouwen ten volle profiteren van technologie. Iedereen heeft baat bij ethische KI en dat kan een concurrentievoordeel voor Europa opleveren: Europa wordt leider op het gebied van mensgerichte KI waarop men kan vertrouwen.”

De EU en vertrouwen….. een contradictio in terminis. Als dat maar goed gaat.

Terwijl de VS een meer vrije marktbenadering hebben, aangedreven door bedrijfsreuzen als Google (dat haar eerste plan na ruim een week al in de kliko gooide) en Amazon, en China voor een gecentraliseerde aanpak heeft gekozen, probeert Brussel officieel een andere weg in te slaan richting het ontwikkelen van KI, door de nadruk te leggen op de rol van ethiek.

Afgelopen zomer heeft de commissie een groep “onafhankelijke” deskundigen aangesteld om te helpen bij het ontwikkelen van een reeks ethische richtlijnen. Die groep heeft zeven algemene richtlijnen opgesteld die onlangs officieel zijn gepresenteerd en zullen worden beoordeeld op een in het leven geroepen forum. We noemen ze even in onze eigen bewoordingen:
1. Menselijke tussenkomst en toezicht: KI-systemen moeten onpartijdige maatschappijen mogelijk maken, door menselijk ingrijpen en fundamentele rechten te ondersteunen en de menselijke autonomie niet te verminderen, beperken of misleiden.
2. Robuustheid en veiligheid: betrouwbare KI vereist dat algoritmen veilig, betrouwbaar en robuust genoeg zijn om met fouten of inconsistenties in alle levensfasen van KI-systemen om te gaan.
3. Privacy en gegevensbeheer: burgers moeten volledige controle hebben over hun eigen gegevens, terwijl gegevens over hen niet zullen worden gebruikt om deze te schaden of te discrimineren.
4. Transparantie: de traceerbaarheid van KI-systemen moet worden gewaarborgd.
5. Diversiteit, non-discriminatie en eerlijkheid: KI-systemen moeten rekening houden met het hele scala aan menselijke moglijkheden, vaardigheden en vereisten, en zorgen voor toegankelijkheid.
6. Maatschappelijk en ecologisch welzijn: KI-systemen moeten worden gebruikt om positieve sociale verandering te bevorderen en duurzaamheid en ecologische verantwoordelijkheid te vergroten.
7. Verantwoording: er moeten mechanismen worden ingesteld om de verantwoordelijkheid en verantwoording voor KI-systemen en hun resultaten te waarborgen.

Om te beginnen is het onduidelijk of het ècht om ethiek gaat – of alleen om acceptatie. Er zijn nogal wat bedenkingen over kunstmatige intelligentie.

Aan de andere kant zijn de richtlijnen tot nu toe vrijblijvend. Ze klinken goed – zo moeten de capaciteiten en doelen van KI transparant worden gemaakt voor de betrokkenen en moeten beslissingen die door KI worden genomen zo veel mogelijk worden uitgelegd. Maar regelgeving is niet gepland – daar zal Brussel ongetwijfeld een eigen draai aan geven.

En het klinkt allemaal wel leuk, maar waar we ons zorgen over maken is de resolutie van het Europees nepparlement over de “Civil Law Rules of Robotics“, en haar aanbeveling aan de Europese Commissie in paragraaf 59 f):

Op de lange termijn een specifieke rechtspersoonlijkheid creëren voor robots, zodat in elk geval de meest geavanceerde autonome robots de status kunnen krijgen van elektronisch persoon die verantwoordelijk is voor het vergoeden van veroorzaakte schade, en eventueel uitgaan van elektronische persoonlijkheid als robots autonome beslissingen treffen of anderszins onafhankelijk reageren met derden.

Het creëren van een juridische status van een “elektronische persoon” voor “autonome”, “onvoorspelbare” en “zelflerende” robots wordt gerechtvaardigd door de onjuiste bevestiging dat aansprakelijkheid voor schade onmogelijk te bewijzen is. Vanuit een technisch perspectief biedt deze resolutie veel vooroordelen op basis van een overwaardering van de feitelijke mogelijkheden van zelfs de meest geavanceerde robots, een oppervlakkig begrip van onvoorspelbaarheid en zelflerend vermogen en, een robotperceptie vervormd door science-fiction en een paar recente sensationele persberichten.

Het bevestigt ons idee dat de parlementariërs van de EU meer lezen in comic-books dan in wetenschappelijke literatuur.

Dat blijkt temeer omdat een juridische status voor een robot niet kan niet worden afgeleid van het model van natuurlijke personen, omdat de robot dan óók mensenrechten zou hebben, zoals bijvoorbeeld het recht op waardigheid, het recht op zijn integriteit, het recht op vergoedingen of het recht op burgerschap, dus direct confronteren met de mensenrechten. Dit zou in tegenspraak zijn met het Handvest van de Grondrechten van de Europese Unie en het Verdrag tot bescherming van de Rechten van de Mens en de fundamentele vrijheden.

Volgens de EU-commissie zal in eerste instantie een proeffase worden gestart waarin de industrie, onderzoeksinstituten en autoriteiten ethische KI-beoordelingslijsten zullen testen die bij de richtsnoeren zijn gevoegd. Op basis van de feedback wil Brussel beslissen over verdere stappen in 2020. U ziet al: het individu is in deze plannen al helemaal weggecijferd.

Het wordt nog interessant om te zien wie verantwoordelijk zal worden gehouden voor Kunstmatige Intelligentie in de EU. Tot dusverre is het een obscuur netwerk van onderzoekers, lobbyisten en gebruikers. Deze zijn niet gebaseerd op ethische richtlijnen, maar op onderzoeksstrategieën en commerciële aspecten.

Vergeet niet dat KI twee kanten heeft: het is zowel fundamenteel onderzoek – als een gigantische, wereldwijde competitie voor de beste geesten en de meest lucratieve producten. Van een “Europese”‘, vooral ethische KI is nog weinig te zien. Eerder een inhaalrace…. de EU heeft herhaaldelijk gezegd dat zij een leider wil zijn in ethische KI, maar deze rol wordt onder omstandigheden gedeeltelijk door de EU opgedrongen. Het vervelende is: de EU kan op dit vlak niet concurreren met Amerika en China – ’s werelds leiders in Kunstmatige Intelligentie – als het gaat om investeringen en baanbrekend onderzoek. Daarom is gekozen voor ethiek als beste keuze om de toekomst van de technologie vorm te geven.

We zijn sceptisch over de aanpak die wordt gevolgd: het idee dat door het creëren van een gouden standaard voor ethische Kunstmatige Intelligentie, die de plaats van de EU in de wereldwijde ontwikkeling van KI moet bevestigen, is wel erg kort door de bocht. Om een leider te zijn in ethische KI moet je éérst leiden in Kunstmatige Intelligentie zelf.

SDB is al meer dan 10 jaar vrij, eerlijk en onafhankelijk. Geen miljardair bezit ons, geen adverteerders controleren ons. Wij zijn een door lezers ondersteunde non-profitorganisatie. In tegenstelling tot veel andere publicaties, houden we onze inhoud gratis voor lezers, ongeacht waar ze wonen of het zich kunnen veroorloven om te betalen.

We hebben geen paywalls en alles blijft gratis zonder censuur. In het post-truth-tijdperk van nepnieuws, echokamers en filterbubbels publiceren we meerdere perspectieven van over de hele wereld.

Iedereen kan bij ons publiceren, maar iedereen doorloopt een rigoureus redactioneel proces. U krijgt dus op feiten gecontroleerde, goed gemotiveerde inhoud in plaats van ruis.

Dit is niet goedkoop. Servers, redacteuren fees en web ontwikkelaars kosten geld. Overweeg alstublieft om ons te steunen als donateur of ondersteunend lid, ook wij hebben onze inkomsten zien dalen in deze heftige tijden daarom, KLIK HIER voor IBAN of via PayPal hieronder!, hartelijke dank en veel leesplezier.

Steun SDB via PayPal veilig en simpel.