De progressieve opmars van een ecosysteem met connected tools, apps en andere technologie op basis van het massaal inzamelen en gebruiken van big data, gecombineerd met computervirtuositeit en artificiële intelligentie roept belangrijke vragen op over democratie, mensenrechten, ethiek en bestuur.

Follow-up en geautomatiseerd beheer van patiënten-cohorten, geneeskunde ondersteund door de biologische singulariteit van individuen, preventie van ziekten via de aansturing van biomarkers, empowerment van patiënten dankzij tools voor het bepalen en bewaken van biologische parameters, het zijn maar een paar voorbeelden van de vooruitzichten van gezondheid die beheerd wordt door kunstmatige intelligentie. Wie kan daar nu tegen zijn?

Artificiële intelligentie houdt een belofte in die ze niet alleen kan inlossen  

Artificiële intelligentie is vooral artificieel. Het wordt voorgesteld als een self-learning systeem dat structuren en correlaties kan vinden in een amalgaam van data, maar men vergeet vaak, zo zegt  Matthieu Guillermin (UCLy) dat databases samengesteld moeten worden, parameters ingesteld en gegevens ‘opgeruimd’ moeten worden (tot 90% van de tijd die nodig is om de gegevens te behandelen volgens Julie Jacques (UCLille) en meer nog om correlaties te vinden die niet altijd causale verbanden zijn, maar statistieken.  

De mythe van geanonimiseerde gegevens

Om helemaal operationeel te kunnen zijn heeft artificiële intelligentie hoe langer hoe meer data nodig.  Moet men niet, om innovatief te kunnen zijn, het inzamelen van gevoelige gezondheidsgegevens bevorderen? Omdat het om gevoelige gegevens gaat, stelt men voor om de data te anonimiseren of te de-identificeren op zo’n manier dat men ze onmogelijk opnieuw kan identificeren (sic). Maar volgens Christine Froidevaux (Université Paris-Sud, Cerna) is het ontzettend complex om alle factoren uit te schakelen die identificatie mogelijk maken.  

Daarnaast moet men zich vooral de vraag stellen wie er echt geanonimiseerde gegevens wilt opsluiten in een unieke databank. De strategie van registers wilt vooral verschillende gegevensbanken koppelen om correlaties te concentreren en te verfijnen. Men moet onder ogen zien dat gegevens die echt interessant zijn voor artificiële intelligentie, de industrie en consoorten, data zijn die gekruiste identificatie mogelijk maken en identificatie in contexten. Alleen zo kan men nuttige meta-intelligentie genereren.  

Algoritmecontrole  

Als de verzameling of de overdracht van de gegevens een fundamenteel democratisch debat verdient, hoe zit het dan met de controle van de algoritmen (= een ondubbelzinnige opeenvolging van bewerkingen die het mogelijk maken om een resultaat te verkrijgen) die op hen worden toegepast? Wie definieert ze? Wat doen de algoritmen en wat zijn de uiteindelijke doelen? Op welke stalen wordt ze toegepast? Wie evalueert ze? Wie corrigeert ze?

Datadictatuur?

Governance en de democratische controle van gegevens en algoritmen zijn essentieel omdat artificiële intelligentie organisaties zou kunnen besturen, persoonlijke en collectieve keuzes bepalen en ook onze daden: kan een arts zich baseren op een behandeling die gedefinieerd wordt door artificiële intelligentie? Hoe zit het met de aansprakelijkheid bij fouten of schade veroorzaakt door artificiële intelligentie? Zullen individuen zich kunnen bevrijden van een onvolmaakte epi-genetica en van een zorg of gezondheidsparcours?

Men kan technofiel zijn zonder een datacratie te willen.