EU publiceert richtlijnen rond ethisch gebruik van Artificiële Intelligentie
18/04/2019

De Europese Unie heeft afgelopen week een reeks richtlijnen gepubliceerd die bedrijven en overheden een leidraad moeten geven bij het ontwikkelen van AI-toepassingen op een ethische manier.

De hoge vlucht van Artificiële Intelligentie
Artificiële Intelligentie of AI beheerst sinds enige tijd heel wat (juridische) debatten. Technologie is inmiddels zo ver geëvolueerd dat slimme en zelflerende computeralgoritmes heel wat taken kunnen overnemen die klassiek door mensen werden uitgevoerd.

Het gaat daarbij meestal over software die op basis van grote hoeveelheden data patronen kan leren herkennen en uit die patronen bepaalde besluiten kan trekken of acties kan ondernemen.  AI-toepassingen laten bvb toe om bepaalde medische diagnoses sneller en efficiënter geautomatiseerd te stellen dan wanneer een arts zelf hetzelfde werk zou moeten doen. Recente testen tonen bijvoorbeeld aan dat huidkankerdiagnoses met zeer grote precisie door AI-software gesteld kunnen worden.

Maar ook in andere sectoren vindt Artificiële Intelligentie of Machine Learning nuttige toepassingen.  AI kan helpen om verkeersstromen te begeleiden, om individueel rijgedrag te voorspellen (wat erg interessant is voor verzekeraars, die plots het individuele ongevalrisico van een bepaalde persoon kunnen inschatten met grote precisie), consumentengedrag te voorspellen, om onderwijs beter af te stemmen op de noden van studenten, om uit grote hoeveelheden data potentiële fraude te detecteren in bijvoorbeeld de financiële sector of in de online gokwereld, …

Risico’s en bezorgdheden
Heel wat potentiële nuttige toepassingen dus, maar tegelijkertijd stellen zich toch ook heel wat risico’s en bezorgdheden rond het gebruik van Artificiële Intelligentie,  met name op het vlak van privacy, non-discriminatie en individuele vrijheid.  AI laat immers toe om op zeer grote schaal data over mensen te verwerken en data uit verschillende bronnen aan elkaar te koppelen om daaruit soms erg onverwachte besluiten te trekken. Als die besluiten op hun beurt automatisch tot bepaalde gevolgen leiden (iemand krijgt geen verzekering of lening, iemand krijgt geen woning toegewezen, …) kan dat leiden tot discriminatie waartegen de betrokkene zich slechts zeer moeilijk kan verzetten.  Het hilarische “Computer says no” uit de legendarische tv-serie Little Britain wordt zo plots een erg reële situatie.

De EU komt tussenbeide
De EU probeert nu preventief in te grijpen en ervoor te zorgen dat overheden en bedrijven die met AI aan de slag gaan op zijn minst een aantal ethische en democratische principes toepassen die een garantie moeten bieden voor de individuele rechten en vrijheden van de burgers in de Europese Unie.

Hiervoor heeft de EU een groep van 52 deskundigen samengebracht.  Zij hebben op basis van hun specifieke vakkennis en ervaring een lijst opgesteld van zeven basisvereisten waaraan volgens hen alle toekomstige AI-systemen zouden moeten voldoen.  Deze lijst is verwerkt in een verslag met richtlijnen dat deze week publiek gemaakt werd.

Samengevat zijn deze als volgt:

  • Human agency and oversight

AI mag de menselijke autonomie niet in de weg staan. Mensen mogen niet gemanipuleerd of gedwongen worden tot bepaalde gedragingen door AI-systemen en mensen moeten kunnen ingrijpen of toezicht houden op elke beslissing die de software neemt.

  • Technische robuustheid en veiligheid

AI moet veilig en accuraat zijn. AI-systemen moeten bestand zijn tegen externe aanvallen en de werking ervan moet betrouwbaar zijn.

  • Privacy en gegevensbeheer

Persoonsgegevens die door AI-systemen worden verzameld, moeten veilig en vertrouwelijk verwerkt worden.  Ze mogen niet toegankelijk zijn voor onbevoegden en moeten afdoende beveiligd zijn. Dit volgt overigens eigenlijk ook logischerwijze uit een correcte toepassing van de GDPR of AVG, die deze beginselen sowieso ook al oplegt.

  • Transparantie

Gegevens en algoritmen die worden gebruikt om een ​​AI-toepassing te maken, moeten toegankelijk zijn en de beslissingen die door de software worden genomen, moeten begrepen en opgespoord kunnen worden door mensen.

  • Diversiteit, non-discriminatie en eerlijkheid

Diensten aangeboden op basis van AI moeten voor iedereen beschikbaar zijn, ongeacht leeftijd, geslacht, ras of andere kenmerken en vanzelfsprekend mag op basis van deze criteria door de software niet gediscrimineerd worden.

  • Milieu en maatschappelijk welzijn

AI-systemen moeten duurzaam zijn (d.w.z. ze moeten ecologisch verantwoord zijn) en “positieve sociale verandering bevorderen”

  • Verantwoordingsplicht

AI-systemen moeten controleerbaar zijn.  Potentiële negatieve effecten van systemen moeten van tevoren worden onderzocht en gerapporteerd.  Hiermee wordt in se verwezen naar de verplichte Data Protection Impact Assessment (DPIA) of Gegevensbeschermingseffectenbeoordeling onder GDPR of AVG.

Het rapport bevat bovenop bovenstaande principes ook wat een “betrouwbare beoordelingslijst voor AI” wordt genoemd.  Dit is een checklist met vragen waarmee deskundigen mogelijke zwakke plekken of gevaren in AI-software kunnen achterhalen en die moet helpen bij het maken van een voorafgaande impact assessment of effectenbeoordeling, al dan niet onder GDPR of AVG.

Geen bindende wetgeving
Deze richtlijnen zijn niet juridisch bindend, maar ze kunnen vorm geven aan toekomstige wetgeving van de Europese Unie. De EU heeft herhaaldelijk gezegd dat zij een leider wil zijn in ethische AI en heeft met de GDPR laten zien bereid te zijn om verreikende wetten te creëren die digitale rechten beschermen.

De beoordelingslijsten zijn ook slechts voorlopig, maar de EU zal de komende jaren feedback van bedrijven verzamelen, met een eindverslag over hun nut in 2020.

In afwachting heeft de EU de European AI Alliance opgericht, een denktank en overlegorgaan waar experten in AI uit allerlei vakgebieden in discussie kunnen gaan met de EU High Level Expert Group on Artificial Intelligence binnen de Europese Commissie.  Sirius Legal is, samen met vertegenwoordigers van heel wat universiteiten, overheden en beroepsfederaties, overigens actief lid van deze AI Alliance.

 

Zie ook : Sirius Legal ( Mr. Bart Van den Brande )

Mr. Bart Van den Brande Mr. Bart Van den Brande
Partner
bart@siriuslegal.be

Click here to see the ad(s)
Alle artikels Europees recht

Laatste artikels Europees recht

Les consommateurs “online” protégés par le Parlement européen
17/10/2019

En date du 17 avril 2019, le Parlement européen s’est prononcé en faveur d’une meilleure applica...

Les consommateurs “online” protégés par le Parlement européen Read more

De Europese Unie stelt minimale, transparante en voorspelbare arbeidsvoorwaarden vast voor alle w...
17/10/2019

De Richtlijn 2019/1152 van 20 juni 2019 vervangt de Richtlijn 91/533/EEG betreffende de verplichting van de werkgever om d...

De Europese Unie stelt minimale, transparante en voorspelbare arbeidsvoorwaarden vast voor alle werknemers Read more

Export van persoonsgegevens na de Brexit: de klok tikt…
16/10/2019

De Brexit nadert dag na dag en alles wijst erop dat het Verenigd Koninkrijk op 1 november 2019 definitief en zonder akkoor...

Read more

De nieuwe Commissie krijgt vorm - plannen van Ursula von der Leyen voor een sociaal Europa
01/10/2019

Ursula von der Leyen, die Jean-Claude Juncker in november zal opvolgen als voorzitter van de Europese Commissie, heeft haa...

De nieuwe Commissie krijgt vorm - plannen van Ursula von der Leyen voor een sociaal Europa Read more

Laatste artikels van Mr. Bart Van den Brande

Export van persoonsgegevens na de Brexit: de klok tikt…
16/10/2019

De Brexit nadert dag na dag en alles wijst erop dat het Verenigd Koninkrijk op 1 november 2019 definitief en zonder akkoor...

Read more

Het einde voor Thomas Cook: Wie betaalt schadevergoeding voor geannuleerde vluchten?
08/10/2019

Een recent arrest van het Europees Hof van Justitie van afgelopen zomer krijgt plots érg veel relevantie door het j...

Read more

Boetes als je wél toestemming vraagt aan je personeel? Gekker hoeft het niet met die GDPR.
20/09/2019

Wie personeel in dienst heeft, moet personeelsdossiers bijhouden.  Contactgegevens van personeelsleden, sociale zeker...

Read more

Praktische tips voor online handelaars: retourrecht, last of lust?
17/07/2019

Retourrecht is een fundamenteel recht van de consument. Maar wat als hier misbruik van wordt gemaakt? Wat kan je doen als ...

Read more

LexGO Network