{"id":7311,"date":"2022-01-07T06:00:19","date_gmt":"2022-01-07T06:00:19","guid":{"rendered":"http:\/\/www.liberavzw.be\/?p=7311"},"modified":"2022-01-10T06:02:37","modified_gmt":"2022-01-10T06:02:37","slug":"artikel-hoe-europa-achterloopt-op-vlak-van-artificiele-intelligentie","status":"publish","type":"post","link":"https:\/\/www.liberavzw.be\/?p=7311","title":{"rendered":"Artikel: Hoe Europa achterloopt op vlak van AI"},"content":{"rendered":"

\"\"<\/a>Geplande EU-regelgeving op vlak van Artifici\u00eble Intelligentie (AI) dreigt innovatie te ondermijnen, terwijl het de echte risico\u2019s niet aanpakt.<\/strong><\/p>\n

(Dit artikel van Libera!-bestuurder Pieter Cleppe, hoofdredacteur van BrusselsReport<\/a>, verscheen oorspronkelijk op 3 januari 2022 op de website BusinessAM<\/a>.)<\/em><\/p>\n

Volgens een studie van de \u201cInformation Technology and Innovation Foundation\u201d loopt de Europese Unie achter op de Verenigde Staten en China als het gaat om de ontwikkeling en het gebruik van artifici\u00eble intelligentie (AI). De meest futuristische variant daarvan is \u201ckunstmatige algemene intelligentie (Artificial General Intelligence of AGI)\u201d, omschreven als \u201chet vermogen van een intelligente actor om elke intellectuele taak die een mens kan uitvoeren, te begrijpen of te leren\u201d. <\/p>\n

De studie waarin de EU met de V.S. en China wordt vergeleken komt tot een gelijkaardige conclusie als andere studies (de Stanford AI index, het Tortoise AI rapport of het \u201cState of European Tech\u201d rapport). Ze besluit hiertoe op basis van 30 verschillende criteria, waaronder de aanwezigheid van talent, onderzoeksactiviteit, commerci\u00eble ontwikkeling alsook investeringen in hard- en software. Terwijl de V.S. aan de leiding staan in de algemene rangschikking, evenals op belangrijke gebieden zoals investeringen in start-ups en financiering van onderzoek en ontwikkeling, loopt China voorop wanneer het gaat om het aantal \u201csupercomputers\u201d, aangezien het er 500 heeft, wat meer is dan de 113 in de V.S. en de 91 die in de EU staan. Supercomputers worden als belangrijk gezien voor de ontwikkeling van AI, zelfs als datgene wat de vooruitgang van AI \u201cecht mogelijk maakt\u201d.<\/p>\n

In de studie wordt ook opgemerkt dat \u201cde Verenigde Staten hun voorsprong op de Europese Unie hebben behouden of vergroot in bijna 75% van de criteria\u201d. Een belangrijk probleem voor de EU is hierbij de toegang tot risicokapitaal en private equity-financiering. Ook al doet Europa het wel beter op vlak van het aantal gepubliceerde onderzoekspapers betreft, toch \u201cis China de EU voorbijgestreefd als wereldleider in AI-publicaties\u201d.<\/p>\n

De hoofdauteur van het rapport, Daniel Castro, merkte op dat \u201cde Chinese regering van AI een topprioriteit heeft gemaakt en dat de resultaten zichtbaar zijn\u201d. <\/p>\n

Al een aantal jaar staat \u201cAI\u201d in de belangstelling. In 2017 beweerde de Russische president Vladimir Poetin al dat wie een doorbraak bereikt in de ontwikkeling van kunstmatige intelligentie de wereld zal domineren, omdat dit \u201ckolossale kansen en bedreigingen met zich meebrengt die nu moeilijk te voorspellen zijn.\u201d Hij voorspelde daarbij dat toekomstige oorlogen zullen worden uitgevochten door drones, en \u201cwanneer de drones van de ene worden vernietigd door drones van de andere, zal die geen andere keuze hebben dan zich over te geven.\u201d In een reactie hierop tweette Tesla-oprichter Elon Musk dat \u201cChina, Rusland binnenkort allemaal landen [zullen zijn] met een sterke computerwetenschap. Concurrentie om de AI superioriteit op [het] nationale niveau [wordt] hoogstwaarschijnlijk [de] oorzaak zijn van de Derde Wereldoorlog, naar mijn mening.\u201d Het zal niet verbazen dat ook China zeer actief is als het gaat om AI-toepassingen voor defensie, want in 2020 werden bijna 350 aan kunstmatige intelligentie gerelateerde uitrustingscontracten gegund door het Chinese leger en door de Chinese overheid gecontroleerde defensiebedrijven. <\/p>\n

Kortom, kunstmatige intelligentie zal waarschijnlijk niet alleen grote economische, maar ook grote geostrategische gevolgen hebben. Het is niet bepaald mooi om te zien hoe de Europese Unie en haar lidstaten achterop raken.<\/p>\n

Hoe pakt de EU AI aan?<\/strong><\/p>\n

Nogmaals volgens de geciteerde studie \u201cis de grootste uitdaging voor de EU en de lidstaten dat velen in Europa geen vertrouwen hebben in AI en het zien als een technologie die moet worden gevreesd en beperkt, in plaats van verwelkomd en bevorderd\u201d.<\/p>\n

Ter illustratie wordt herinnerd aan het \u201cwitboek\u201d van de Europese Commissie van 2020 over AI, dat een planning bevat voor de verwachte wetgeving, waarin deze vrees voor AI wordt benadrukt en wordt gewezen op \u201cpotenti\u00eble risico\u2019s, zoals ondoorzichtige besluitvorming, discriminatie op grond van geslacht of andere vormen van discriminatie, schending van ons priv\u00e9leven of gebruik voor criminele doeleinden\u201d.<\/p>\n

Hetzelfde wantrouwen ligt aan de basis van de beruchte General Data Protection Regulation (GDPR) van de EU, die ook beperkingen oplegt aan het verzamelen en gebruiken van gegevens die de ontwikkelingen op het gebied van AI kunnen bevorderen. In maart bekritiseerde de Duitse CDU-Europarlementari\u00ebr Axel Voss deze EU-regelgeving met het argument dat \u201cEuropa\u2019s obsessie met gegevensbescherming digitale innovatie in de weg staat\u201d, aangezien \u201cde implementatie van de GDPR een enorm pijnpunt is geweest voor de gemiddelde onderneming, organisatie en burger. Het belangrijkste is echter dat de GDPR een ernstige belemmering vormt voor het vermogen van de EU om nieuwe technologie en dringend noodzakelijke digitale oplossingen te ontwikkelen, bijvoorbeeld op het gebied van e-governance en gezondheid.\u201d Hij voegde eraan toe: \u201cVeel van de belangrijke technologie\u00ebn van de toekomst \u2013 zoals kunstmatige intelligentie, blockchain of single sign-on-oplossingen \u2013 waren al algemeen bekend in 2016, toen de GDPR werd afgerond. En toch maken bepalingen in de wetgeving \u2013 die volgens velen \u201ctechnologieneutraal\u201d had moeten zijn \u2013 het onmogelijk om ze goed te gebruiken of zelfs maar te ontwikkelen.\u201d <\/p>\n

Momenteel doorloopt de zogenaamde AI-wet van de EU de regelgevingsmachine van de EU, nadat het voorstel door de Commissie hiervoor is gelanceerd. In de meest recente versie, die door het roterende voorzitterschap van de Raad van de EU is ingediend, worden bepalingen inzake AI-systemen die uitsluitend voor militaire doeleinden zijn ontwikkeld, uit de werkingssfeer van de verordening gehaald, aangezien nationale veiligheid een exclusief nationale bevoegdheid is. Ook wordt erop aangedrongen AI-systemen die uitsluitend voor wetenschappelijk onderzoek en ontwikkeling zijn ontwikkeld, vrij te stellen.<\/p>\n

Het voorstel van de Commissie voorziet in een verbod op AI-toepassingen wanneer die geacht worden onaanvaardbare risico\u2019s met zich mee te brengen, waaronder bijvoorbeeld \u201csocial credit scores\u201d naar Chinees model. Het Sloveense voorzitterschap van de EU heeft erop aangedrongen dit verbod uit te breiden tot private initiatieven, en de definitie van illegaal gebruik uit te breiden tot het uitbuiten van een \u201csociale of economische situatie\u201d. Dit betekent dat banken dergelijke AI-toepassingen bijvoorbeeld niet zouden kunnen gebruiken om te beoordelen hoe waarschijnlijk het is dat leningen worden terugbetaald. <\/p>\n

Voorts worden ook biometrische identificatiesystemen door de komende AI-regelgeving van de EU gereguleerd, ook al worden deze al in ten minste 11 EU-lidstaten gebruikt. Het is de bedoeling ze enkel toe te staan voor bepaalde doeleinden, zoals de bescherming van kritieke infrastructuur, en het gebruik ervan alleen toe te staan na voorafgaande toestemming van de gerechtelijke autoriteiten, of achteraf, in dringende gevallen, terwijl ook het gebruik ervan zou worden toegelaten voor de autoriteiten. <\/p>\n

De geplande EU-verordening bevat ook een classificatie van AI-gerelateerde activiteiten die worden beschouwd als \u201conaanvaardbaar risico\u201d, \u201choog risico\u201d, \u201cbeperkt risico\u201d of \u201cminimaal risico\u201d, waarbij elke categorie ook gepaard gaat met overeenkomstige verplichtingen. Het gebruik van AI-systemen om verzekeringspremies te schatten, wordt bijvoorbeeld geclassificeerd als \u201choog risico\u201d. Ook hier willen de EU-regeringen aanpassingen bijvoorbeeld door de subcategorie \u201ccriminaliteitsanalyse\u201d uit de categorie \u201cHoog risico\u201d te halen. Ook het Europees Parlement krijgt hierover nog zijn zegje en zal alle beperkingen waarschijnlijk nog aanscherpen. <\/p>\n

Vraagtekens bij de aanpak van de EU<\/strong><\/p>\n

Hoewel de staats- en regeringsleiders tijdens de Europese top in oktober waarschuwden tegen buitensporige administratieve lasten voor KMO\u2019s in het kader van digitaal beleid en daarbij opriepen tot \u201cinnovatievriendelijkheid\u201d, lijkt de nieuw voorgestelde AI-wetgeving niet bepaald in die richting te gaan.<\/p>\n

Bovendien lijken de nieuwe vele beperkingen ook niet de echte risico\u2019s aan te pakken. Dat is althans de mening van Jared Brown, directeur Amerikaans en internationaal beleid van het in Boston gevestigde Future of Life Institute. In een evaluatie van de door de EU voorgestelde AI-wet betoogt hij dat er bij de AI-wet van de EU mazen in de wet zijn, omdat deze specifieke toepassingen van AI reguleert of zelfs verbiedt, maar niet dieper ingaat op de zogenaamde \u201cfunderingsmodellen\u201d of \u201cfoundation models\u201d die aan deze toepassingen ten grondslag liggen. Dat zijn \u201calgoritmen voor machinaal leren die zijn getraind op brede gegevens op massale schaal en die kunnen worden aangepast om een breed scala van functies uit te voeren.\u201d<\/p>\n

Als zo\u2019n funderingsmodel geen bepaalde intentie heeft aangegeven, zou het volgens hem mogelijk zijn dat de toepassingen ervan niet onder de wet kunnen vallen.<\/p>\n

Een voorbeeld: als de wet bijvoorbeeld \u201csocial credit score\u201d-AI-toepassingen zou verbieden, of toepassingen die \u201cde kwetsbaarheden van een specifieke groep personen uitbuiten\u201d, kunnen dergelijke activiteiten toch nog aan een verbod ontsnappen, omdat funderingsmodellen \u2013 door de voorgestelde EU-wetgeving \u201cAI-systemen voor algemene doeleinden\u201d genoemd \u2013 \u201cveel verschillende toepassingen hebben, zodat \u00e9\u00e9n vooringenomenheid of fout in het systeem verschillende sectoren van de samenleving kan treffen\u201d, aldus Brown. Hij geeft het voorbeeld van een anti-moslimvooroordeel, dat \u201cvan invloed zou kunnen zijn op media-artikelen, onderwijsmateriaal, chatbots en andere toepassingen van dit systeem die waarschijnlijk in de nabije toekomst zullen worden ontdekt.\u201d<\/p>\n

De voorgestelde wijzigingen door het Sloveense Raadsvoorzitterschap omvatten ook de behandeling van dergelijke funderingsmodellen, maar zullen niet automatisch onder de wet vallen. Zij zullen alleen onder de wet vallen als het \u201cbeoogde doel\u201d binnen het toepassingsgebied ervan valt. Dit is volgens het Future of Life Institute anders bij de Amerikaanse regelgeving inzake AI, waar zij er wel onder vallen.<\/p>\n

Een gevolg hiervan is ook dat de last om in regel te zijn met de wetgeving zou worden verlegd van de grote Amerikaanse en Chinese techreuzen die eigenaar zijn van de funderingsmodellen, naar de Europese KMO\u2019s en startups die deze modellen gebruiken om AI-toepassingen te cre\u00ebren, iets wat \u201chet relatieve concurrentievermogen van de Europese techsector zou kunnen schaden\u201d, aldus Brown, in een interview met Science Business. Hij zou liever zien dat de EU-regelgeving voor AI zich richt op de algemene kwaliteiten van het hele AI-systeem, zoals of het al dan niet bevooroordeeld is.<\/p>\n

Een andere AI-deskundige, onderzoeker S\u00e9bastien Krier van de Stanford Universiteit, is het hiermee eens en stelt dat \u201cals je een slecht funderingsmodel hebt [\u2026] alles stroomafwaarts ook slecht zal zijn\u201d. Hij voegt eraan toe dat funderingsmodellen volgens hem AI in wezen \u201ccentraliseren\u201d en daardoor potentieel kwetsbaarder maken, bijvoorbeeld door gegevensvergiftiging, omdat \u201cje \u00e9\u00e9n aanvalspunt hebt\u201d.<\/p>\n

Conclusie<\/strong><\/p>\n

E\u00e9n conclusie lijkt alvast duidelijk: waar men ook staat ten aanzien van AI, het lijkt zeer complex om performante regels uit te werken, aangezien zelfs goedbedoelde regelgeving die erop gericht is geen onnodige hindernissen op te werpen voor innovatie, gemakkelijk mazen in de wetgeving kan laten voor de echte risico\u2019s. <\/p>\n

EU-beleidsmakers verwijzen graag naar het belang van het zogenaamde \u201cBrussel-effect\u201d, dat inhoudt dat de EU in staat is regelgeving op te stellen die door een groot deel van de rest van de wereld wordt overgenomen, als gevolg van de grote marktomvang van de EU. Hieraan wordt herinnerd in een rapport van de denktank Carnegie uit 2020 over \u201cEuropa en AI\u201d, waarin het volgende wordt opgemerkt: \u201cCentraal bij de inspanningen van de EU staat de notie van AI die \u201cmade in Europe\u201d is, die aandacht besteedt aan ethische en humane overwegingen, en die in overeenstemming is met de kernwaarden van de mensenrechten en de democratische beginselen.\u201d <\/p>\n

Te oordelen naar wat Amerikaanse academische critici zeggen, is de aanpak van de EU op het gebied van regelgeving ingegeven door angst voor de technologische ontwikkeling, terwijl zij er allicht daarbij toch niet in slaagt de werkelijke risico\u2019s van AI aan te pakken. <\/p>\n

De eerlijkheid gebiedt te zeggen dat het, gezien de grote onzekerheid over hoe deze technologie zich zal ontwikkelen, beter is voorlopig voorzichtig te zijn met al te grote uitspraken over hoe AI best gereglementeerd wordt.<\/p>\n

De Carnegie studie maakt sowieso wel een mooie suggestie die de EU in staat zal stellen om succes te boeken op vlak van AI-ontwikkeling, hoe de regelgeving voor AI er uiteindelijk ook uit zal zien. Ze stelt voor dat de EU, om haar AI-ecosysteem te laten bloeien, \u201ceen inhaalslag moet maken bij het digitaliseren van haar economie\u00ebn en de totstandkoming van de digitale interne markt voor eens en voor altijd moet voltooien.\u201d<\/p>\n

Als er al een schaars positief resultaat uit de Covid-crisis te halen valt, dan is het misschien wel dat veel Europeanen meer vertrouwd zijn geraakt met de digitale wereld. In zekere zin is dit een enorme kans. De EU en haar lidstaten zouden daarom nu prioriteit moeten geven aan een grootschalig programma om eerst de vele hindernissen die nationale en EU-regelgeving voor digitale bedrijven opwerpt binnen de EU in kaart te brengen en deze vervolgens \u00e9\u00e9n voor \u00e9\u00e9n weg te nemen, idealiter niet door harmonisatie op EU-niveau, maar door een methode waarbij lidstaten die elkaars regelgeving gewoonweg wederzijds erkennen. Gezien hoe moeilijk het is om een performant regelgevend kader voor AI uit te werken, is dat misschien wel het nuttigste wat we op dit moment kunnen doen. Het is in elk geval noodzakelijk om dit nu te doen, als we bloeiende AI-industrie in de Europese Unie willen.<\/p>","protected":false},"excerpt":{"rendered":"

Geplande EU-regelgeving op vlak van Artifici\u00eble Intelligentie (AI) dreigt innovatie te ondermijnen, terwijl het de echte risico\u2019s niet aanpakt. (Dit artikel van Libera!-bestuurder Pieter Cleppe, hoofdredacteur van BrusselsReport, verscheen oorspronkelijk op 3 januari 2022 op de website BusinessAM.) Volgens een studie van de \u201cInformation Technology and Innovation Foundation\u201d loopt de Europese Unie achter op de […]<\/p>\n","protected":false},"author":3,"featured_media":0,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[5,6],"tags":[],"class_list":["post-7311","post","type-post","status-publish","format-standard","hentry","category-nieuws","category-publicaties"],"jetpack_featured_media_url":"","_links":{"self":[{"href":"https:\/\/www.liberavzw.be\/index.php?rest_route=\/wp\/v2\/posts\/7311","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.liberavzw.be\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.liberavzw.be\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.liberavzw.be\/index.php?rest_route=\/wp\/v2\/users\/3"}],"replies":[{"embeddable":true,"href":"https:\/\/www.liberavzw.be\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=7311"}],"version-history":[{"count":2,"href":"https:\/\/www.liberavzw.be\/index.php?rest_route=\/wp\/v2\/posts\/7311\/revisions"}],"predecessor-version":[{"id":7313,"href":"https:\/\/www.liberavzw.be\/index.php?rest_route=\/wp\/v2\/posts\/7311\/revisions\/7313"}],"wp:attachment":[{"href":"https:\/\/www.liberavzw.be\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=7311"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.liberavzw.be\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=7311"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.liberavzw.be\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=7311"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}