EU publiceert richtlijnen rond ethisch gebruik van Artificiële Intelligentie
18/04/2019

De Europese Unie heeft afgelopen week een reeks richtlijnen gepubliceerd die bedrijven en overheden een leidraad moeten geven bij het ontwikkelen van AI-toepassingen op een ethische manier.

De hoge vlucht van Artificiële Intelligentie
Artificiële Intelligentie of AI beheerst sinds enige tijd heel wat (juridische) debatten. Technologie is inmiddels zo ver geëvolueerd dat slimme en zelflerende computeralgoritmes heel wat taken kunnen overnemen die klassiek door mensen werden uitgevoerd.

Het gaat daarbij meestal over software die op basis van grote hoeveelheden data patronen kan leren herkennen en uit die patronen bepaalde besluiten kan trekken of acties kan ondernemen.  AI-toepassingen laten bvb toe om bepaalde medische diagnoses sneller en efficiënter geautomatiseerd te stellen dan wanneer een arts zelf hetzelfde werk zou moeten doen. Recente testen tonen bijvoorbeeld aan dat huidkankerdiagnoses met zeer grote precisie door AI-software gesteld kunnen worden.

Maar ook in andere sectoren vindt Artificiële Intelligentie of Machine Learning nuttige toepassingen.  AI kan helpen om verkeersstromen te begeleiden, om individueel rijgedrag te voorspellen (wat erg interessant is voor verzekeraars, die plots het individuele ongevalrisico van een bepaalde persoon kunnen inschatten met grote precisie), consumentengedrag te voorspellen, om onderwijs beter af te stemmen op de noden van studenten, om uit grote hoeveelheden data potentiële fraude te detecteren in bijvoorbeeld de financiële sector of in de online gokwereld, …

Risico’s en bezorgdheden
Heel wat potentiële nuttige toepassingen dus, maar tegelijkertijd stellen zich toch ook heel wat risico’s en bezorgdheden rond het gebruik van Artificiële Intelligentie,  met name op het vlak van privacy, non-discriminatie en individuele vrijheid.  AI laat immers toe om op zeer grote schaal data over mensen te verwerken en data uit verschillende bronnen aan elkaar te koppelen om daaruit soms erg onverwachte besluiten te trekken. Als die besluiten op hun beurt automatisch tot bepaalde gevolgen leiden (iemand krijgt geen verzekering of lening, iemand krijgt geen woning toegewezen, …) kan dat leiden tot discriminatie waartegen de betrokkene zich slechts zeer moeilijk kan verzetten.  Het hilarische “Computer says no” uit de legendarische tv-serie Little Britain wordt zo plots een erg reële situatie.

De EU komt tussenbeide
De EU probeert nu preventief in te grijpen en ervoor te zorgen dat overheden en bedrijven die met AI aan de slag gaan op zijn minst een aantal ethische en democratische principes toepassen die een garantie moeten bieden voor de individuele rechten en vrijheden van de burgers in de Europese Unie.

Hiervoor heeft de EU een groep van 52 deskundigen samengebracht.  Zij hebben op basis van hun specifieke vakkennis en ervaring een lijst opgesteld van zeven basisvereisten waaraan volgens hen alle toekomstige AI-systemen zouden moeten voldoen.  Deze lijst is verwerkt in een verslag met richtlijnen dat deze week publiek gemaakt werd.

Samengevat zijn deze als volgt:

  • Human agency and oversight

AI mag de menselijke autonomie niet in de weg staan. Mensen mogen niet gemanipuleerd of gedwongen worden tot bepaalde gedragingen door AI-systemen en mensen moeten kunnen ingrijpen of toezicht houden op elke beslissing die de software neemt.

  • Technische robuustheid en veiligheid

AI moet veilig en accuraat zijn. AI-systemen moeten bestand zijn tegen externe aanvallen en de werking ervan moet betrouwbaar zijn.

  • Privacy en gegevensbeheer

Persoonsgegevens die door AI-systemen worden verzameld, moeten veilig en vertrouwelijk verwerkt worden.  Ze mogen niet toegankelijk zijn voor onbevoegden en moeten afdoende beveiligd zijn. Dit volgt overigens eigenlijk ook logischerwijze uit een correcte toepassing van de GDPR of AVG, die deze beginselen sowieso ook al oplegt.

  • Transparantie

Gegevens en algoritmen die worden gebruikt om een ​​AI-toepassing te maken, moeten toegankelijk zijn en de beslissingen die door de software worden genomen, moeten begrepen en opgespoord kunnen worden door mensen.

  • Diversiteit, non-discriminatie en eerlijkheid

Diensten aangeboden op basis van AI moeten voor iedereen beschikbaar zijn, ongeacht leeftijd, geslacht, ras of andere kenmerken en vanzelfsprekend mag op basis van deze criteria door de software niet gediscrimineerd worden.

  • Milieu en maatschappelijk welzijn

AI-systemen moeten duurzaam zijn (d.w.z. ze moeten ecologisch verantwoord zijn) en “positieve sociale verandering bevorderen”

  • Verantwoordingsplicht

AI-systemen moeten controleerbaar zijn.  Potentiële negatieve effecten van systemen moeten van tevoren worden onderzocht en gerapporteerd.  Hiermee wordt in se verwezen naar de verplichte Data Protection Impact Assessment (DPIA) of Gegevensbeschermingseffectenbeoordeling onder GDPR of AVG.

Het rapport bevat bovenop bovenstaande principes ook wat een “betrouwbare beoordelingslijst voor AI” wordt genoemd.  Dit is een checklist met vragen waarmee deskundigen mogelijke zwakke plekken of gevaren in AI-software kunnen achterhalen en die moet helpen bij het maken van een voorafgaande impact assessment of effectenbeoordeling, al dan niet onder GDPR of AVG.

Geen bindende wetgeving
Deze richtlijnen zijn niet juridisch bindend, maar ze kunnen vorm geven aan toekomstige wetgeving van de Europese Unie. De EU heeft herhaaldelijk gezegd dat zij een leider wil zijn in ethische AI en heeft met de GDPR laten zien bereid te zijn om verreikende wetten te creëren die digitale rechten beschermen.

De beoordelingslijsten zijn ook slechts voorlopig, maar de EU zal de komende jaren feedback van bedrijven verzamelen, met een eindverslag over hun nut in 2020.

In afwachting heeft de EU de European AI Alliance opgericht, een denktank en overlegorgaan waar experten in AI uit allerlei vakgebieden in discussie kunnen gaan met de EU High Level Expert Group on Artificial Intelligence binnen de Europese Commissie.  Sirius Legal is, samen met vertegenwoordigers van heel wat universiteiten, overheden en beroepsfederaties, overigens actief lid van deze AI Alliance.

 

Zie ook : Sirius Legal ( Mr. Bart Van den Brande )


Click here to see the ad(s)
Alle artikels Europees recht

Laatste artikels Europees recht

Towards new EU rules for preventing packaging waste?
13/07/2020

The European Commission (“EC”) is collecting data and feedback from stakeholders about the European Union&rsqu...

Towards new EU rules for preventing packaging waste? Read more

Optional deferral of the EU Mandatory Disclosure Directive reporting obligations
25/06/2020

On 24 June 2020, the Council of the European Union (the Council) adopted an amendment to the Mandatory Disclosure Directiv...

Optional deferral of the EU Mandatory Disclosure Directive reporting obligations Read more

CJEU rules that free samples of OTC medicinal products can be provided to pharmacists
15/06/2020

On 11 June 2020, the Court of Justice of the European Union (CJEU) confirmed that it is prohibited to distribute free samp...

Read more

CJEU rules on geographical limitation clauses in wake of PIP scandal
12/06/2020

The CJEU held in this case that an individual cannot rely on the general prohibition of discrimination on grounds of natio...

CJEU rules on geographical limitation clauses in wake of PIP scandal Read more

Laatste artikels van Mr. Bart Van den Brande

Eerste GDPR boete voor Belgisch bedrijf in beroep vernietigd
24/04/2020

De Belgische Gegevensbeschermingsautoriteit legde de voorbije twee jaar erg weinig boetes op in vergelijking met haar coll...

Read more

De GBA publiceert richtlijnen voor GDPR compliance in Direct Marketing
28/02/2020

De Belgische Gegevensbeschermingsautoriteit lanceerde afgelopen week met wat vertraging een 80 pagina’s lange &ldquo...

Read more

Firefox gaat na cookies ook fingerprints blokkeren
10/01/2020

Digital marketing en privacywetgeving zijn in een zeer moeilijke dans verwikkeld.  Dat hebben we de voorbije maanden ...

Read more

500.000 euro boete voor GDPR inbreuken in call centers
02/01/2020

“Hallo meneer, bent u verantwoordelijk voor de energie in uw bedrijf?” Over GDPR en privacy in call centers&he...

Read more

LexGO Network