De kracht en keerzijde van AI

AI-systemen baseren zich op een enorme hoeveelheid (en vooral westerse) data. Als die data geen goede weergave zijn van de werkelijkheid, kan dat leiden tot discriminerende beslissingen. Het gevolg kan zijn dat bepaalde groepen in de samenleving systematisch benadeeld worden. Zo werd medicatie tot voor kort vooral getest op witte mannen, waardoor er weinig data over vrouwen is. Beslissingen die AI neemt op basis van die data, kunnen irrelevant of zelfs schadelijk zijn voor vrouwen.

Soms komen AI-systemen met resultaten die niet gebaseerd zijn op feiten. Ze geven dan onjuiste informatie, onzinnig taalgebruik of onbetrouwbare voorspellingen. Dat komt doordat ze zelf nieuwe informatie samenstellen op basis van hoe waarschijnlijk die informatie is. In 2023 kregen enkele advocaten bijvoorbeeld een boete omdat ze ChatGPT gebruikt hadden om enkele vergelijkbare zaken op te zoeken. Sommige van die zaken had ChatGPT echter volledig verzonnen.

AI maakt gebruik van heel veel data maar ontwikkelaars van AI-tools houden er niet altijd rekening mee of mensen wel toestemming gaven om hun gegevens te verwerken. AI kan dus zomaar gezondheidsgegevens, financiële gegevens en persoonlijke gegevens (zoals gezichten, stemmen en gesprekken) analyseren zonder dat mensen daar akkoord mee gaan. Er zijn wel AI-tools die beter omgaan met die gegevens, maar daar hangt dan weer een prijskaartje aan. Sta dus altijd stil bij wat je deelt met een AI-tool en de privacy van die gegevens.

Veel AI-modellen zijn moeilijk te doorgronden. We stoppen er data in en er komt een voorspelling uit, maar we weten niet wat er binnenin gebeurt. Dit heet het ‘black box’-probleem. Dit gebrek aan transparantie kan leiden tot wantrouwen en maakt het moeilijk om beslissingen van AI te begrijpen of aan te vechten.

AI-tools hebben een grote hoeveelheid data en rekenkracht nodig om onze instructies op te volgen. Dat kost veel energie en grote hoeveelheden water en laat bijgevolg zijn sporen na op het milieu. Het is dus belangrijk om altijd even na te denken of je wel degelijk een AI tool nodig hebt, of dat er geen milieuvriendelijkere alternatieven zijn (zoals een gewone zoekmachine opdracht).

AI maakt geen onderscheid tussen auteursrechtelijk beschermd materiaal en vrij beschikbare content. AI-modellen kunnen dus per ongeluk werk reproduceren dat beschermd is zonder toestemming of juiste vermelding. Daarnaast is er ook nog geen wettelijk kader dat stelt wie ‘auteur’ is van de output van AI. Daardoor is het niet duidelijk wie mag bepalen wat er gebeurt met een werk dat AI gemaakt heeft.

Te veel leunen op AI brengt risico’s met zich mee. Mogelijk zullen we onze eigen vaardigheden en besluitvorming minder ontwikkelen, wat problematisch kan zijn als AI-systemen falen of verkeerde beslissingen nemen.