De complexe ethiek van AI: hoe het onze menselijkheid kan uithollen én versterken

Als we de machtige bazen van AI-imperiums moeten geloven, bestaat er een aanzienlijke kans dat de mensheid binnen enkele jaren van de aardbol geveegd wordt door hun eigen technologie. De vraag is: moeten we hen inderdaad geloven? Wat zijn de valkuilen en kansen van AI en welke rol kan ethiek spelen in de ontwikkeling ervan? Stefan Buijsman, universitair hoofddocent Responsible AI aan de TU Delft, deelt zijn kijk op de zaak. 

De nieuwskoppen buitelden over elkaar heen deze zomer: van onbedoelde hacks en medewerkers die ontslag namen uit gewetenswroeging tot dystopische voorspellingen over het platleggen van het internet en catastrofale biowapens. Ironisch genoeg kwamen de alarmerende waarschuwingen van de makers van deze producten zelf. In een plotselinge vertoning van eensgezindheid riepen zowel Sam Altman (OpenAI), Dario Amodei (Anthropic) en Elon Musk (SpaceXAI) om regulering van bovenaf. Er zouden nieuwe wetten en gezamenlijke afspraken nodig zijn om een globale ramp af te wenden.

“Was het een marketingstunt of een slecht verkapte poging tot het vormen van een super-kartel”

Volgens sommigen was het slechts een marketingstunt of een slecht verkapte poging tot het vormen van een super-kartel. Maar er waren ook genoeg experts die de zorgen uit Silicon Valley deelden. Omdat ik door de bomen de bots niet meer kon zien, sprak ik met Stefan Buijsman: gerenommeerd AI-wetenschapper en ethicus.

Buijsman promoveerde op zijn twintigste op de filosofie van de wiskunde en schreef het boek ‘AI: Alsmaar Intelligenter’, waarin hij de voor- en nadelen van AI uiteenzet.

Daarnaast richtte hij in 2022 samen met een collega het Digital Ethics Centre van de TU Delft op: een instituut dat helpt om ethische waarden concreet te maken, zodat ze toegepast kunnen worden in het ontwerp van digitale technologieën.

Ethische dilemma’s
Maar wie bepaalt die ethische waarden? Dat is een democratische taak, legt Buijsman uit. “Wij komen niet eventjes binnenlopen om te vertellen wat wel of niet ethisch is aan de hand van een bepaalde filosofische stroming. Wat we wel doen, is om tafel gaan met de mensen die met een specifieke technologie in aanraking komen. We vragen ze welke dingen zij belangrijk vinden. Is dat bijvoorbeeld autonomie, transparantie of privacy?”

“Wij komen niet eventjes binnenlopen om te vertellen wat wel of niet ethisch is”

Deze waarden worden vervolgens meegenomen bij het ontwerpen van nieuwe toepassingen. Al is het niet altijd makkelijk om prioriteiten te bepalen, vertelt Buijsman. “Zo zijn we op dit moment bezig met een project over AI-systemen die gesprekken tussen artsen en patiënten opnemen en samenvatten. Die moeten natuurlijk zo nauwkeurig mogelijk zijn, en ze mogen niet discrimineren. Oftewel: ze moeten voor alle soorten patiënten even goed werken.”

Stefan Buijsman

Maar wat kies je als er één systeem is wat gemiddeld minder nauwkeurig is, maar mensen meer gelijk behandelt, tegenover een ander systeem wat meer discrimineert, maar gemiddeld beter scoort? “Ik heb daar ook geen perfect antwoord op”, zegt Buijsman, “maar wij kunnen als instituut wel helpen inzichtelijk te maken welke keuzes er gemaakt moeten worden. En soms kan de technologie op basis van dit soort discussies nog aangepast of verbeterd worden.”

Twee varianten
Buijsman schreef zijn boek over AI in 2020. Sindsdien is er in een razend tempo veel veranderd. Hoe kijkt hij terug op de afgelopen jaren? “De snelheid waarmee taalmodellen (Large Language Models of LLM’s, red.) zich ontwikkeld hebben en zijn opgenomen in de samenleving, zag denk ik niemand aankomen”, zegt hij. “En dat heeft ook het beeld van AI een beetje vertekend. Een groot deel van de AI-toepassingen zijn namelijk geen taalmodellen, maar wat we noemen ‘beslisondersteunende systemen’, en die zitten heel anders in elkaar.”

“De snelheid waarmee deze taalmodellen zijn opgenomen in de samenleving zag niemand aankomen”

Een beslisondersteunend systeem kan bijvoorbeeld helpen bij het voorraadbeheer van een supermarkt. De tool voorspelt hoeveel producten er op een bepaald moment nodig zijn, op basis van eerdere data, het seizoen, lopende aanbiedingen, enzovoorts. Deze vorm van AI is specifiek getraind voor één doel. “Daardoor krijg je niet steeds een ander antwoord, zoals bij taalmodellen. De output is repliceerbaar en nauwkeurig. Wat in dit geval een hoop voedselverspilling voorkomt.”

Uitlegbaarheid
Een probleem wat beide varianten gemeen hebben, is dat het niet helemaal duidelijk is hoe ze tot hun output komen. “Zodra we AI-systemen zelf patronen laten zoeken, snappen we niet meer goed hoe ze een probleem oplossen. We hebben de code wel, maar dat zijn een miljard berekeningen achter elkaar. Als mens raak je dan natuurlijk het overzicht kwijt, en kun je niet meer uitleggen wat er precies gebeurt.”

Het verbeteren van de ‘uitlegbaarheid’ van resultaten zou helpen bij het maken van ethische keuzes rondom AI-gebruik. “Zonder inzicht in het waarom kun je minder goed verantwoordelijkheid afleggen over het resultaat, of bijsturen op het moment dat het systeem iets geks doet. Zo werd het tijdens corona al gauw een ramp met de automatische bevoorradingssystemen, omdat we ineens massaal toiletpapier en zeep gingen inslaan. Daar waren die AI’s niet op voorbereid, dus moesten ze allemaal handmatig uitgezet en aangepast worden.”

“Een echte oplossing voor het ‘uitlegbaarheidsprobleem’ is nog niet in zicht”

Ondanks de vele ontwikkelingen op AI-gebied, is een echte oplossing voor dit ‘uitlegbaarheidsprobleem’ nog niet in zicht, vertelt Buijsman. Tot die tijd is het daarom vooral zaak om na te denken over wanneer we dit wel of geen probleem vinden. “Er zijn bijvoorbeeld verzekeraars die AI gebruiken om claims te beoordelen. Als jij je geld krijgt, maakt het je vast niet zoveel uit waarom. Dat kun je dus prima aan het systeem overlaten. Maar als je claim wordt afgewezen, dan wil je een verklaring. Dan moet er dus een mens tussen zitten.”

Sci-fi scenario
En dan de hamvraag: gelooft Buijsman in het sci-fi scenario waarin AI nog vóór 2030 de wereld overneemt? “Nee,” zegt hij, “ik maak me niet zo’n zorgen. In mijn ogen is het vooral bangmakerij, met nogal vage definities van Artificial General Intelligence. Als deze bedrijven echt zo ongerust zijn, waarom gaan ze dan gewoon verder, zonder zich daadwerkelijk te richten op veiligheidsmaatregelen? Aan de hacks van afgelopen zomer te zien lijken ze veiligheid niet heel serieus te nemen.”

“Bedrijven als OpenAI en Anthropic slingeren dingen de wereld in zonder na te denken over wat de effecten daarvan zijn”

Volgens Buijsman is het inderdaad deels een marketingtruc, een die bovendien handig afleidt van een veel belangrijker kwaad: de schade die LLM’s nú al aanrichten in de maatschappij. “Bedrijven als OpenAI en Anthropic slingeren dingen de wereld in zonder na te denken over wat de effecten daarvan zijn. Kijk naar wat ChatGPT heeft gedaan met het onderwijs, met onze mentale gezondheid en het creatieve denkvermogen van mensen. We raken een stukje van ons mens-zijn kwijt, en daar hebben ze nooit enige verantwoordelijkheid voor genomen. Dáár hebben we regulering voor nodig.”

En nu?
Maar hoe nu verder? De kans dat AI verdwijnt uit onze samenleving is nihil, en met Trump aan de macht zit doordachte regulering van bovenaf er voorlopig ook niet in. Hoe gaan we dan om met alle uitdagingen die het met zich meebrengt? Daarvoor zijn maatschappelijke debatten nodig, vindt Buijsman. “De vraag die we met elkaar moeten beantwoorden is: welke rollen en taken geven we AI in de maatschappij? Wat vinden we acceptabel, en wat niet? Sociale- en geesteswetenschappers kunnen helpen om dat debat te leiden en te duiden.”

Als je het hem vraagt, zou de rol van AI vooral ondersteunend moeten zijn. “Door technologie slim in te zetten, kunnen we meer tijd maken voor menselijk contact. We leven in een complexe en vergrijzende samenleving, waarin we heel veel doen met steeds minder mensen. Als we bepaalde zaken efficiënter inrichten door automatisering, creëren we op andere plekken juist meer ruimte voor aandacht, empathie en maatwerk. Geen chatbox voor mentale gezondheidszorg dus, maar juist menselijke hulpverleners vrijspelen door AI in te zetten op andere plekken.”

“Geen chatbox voor mentale gezondheidszorg, maar juist menselijke hulpverleners”

Tweesnijdend zwaard
Het blijft een ingewikkeld, tweesnijdend zwaard. Aan de ene kant lijkt AI de essentie van ons mens-zijn uit ons te zuigen, aan de andere kant kan de technologie – indien verstandig ingezet – juist ruimte maken voor méér menselijkheid in de maatschappij. Maar om dat scenario ook echt te realiseren, is het essentieel om ons niet te laten verlammen door een kleine groep mannen aan de top van de tech-piramide, die beweert dat er maar één mogelijke uitkomst is. Om te zorgen dat AI een net good wordt voor de samenleving moeten we allemaal bewuste keuzes maken, weerstand bieden aan bepaalde narratieven, en gemakzuchtige verleidingen weerstaan.

“De eerste denkstap zou altijd moeten zijn: is AI hier wel voor nodig?“

Zoals Buijsman het zegt: “De allereerste denkstap zou altijd moeten zijn: is AI hier wel voor nodig? Het brengt automatisch veel complexiteit met zich mee, die lang niet altijd vereist is. Blijf kritisch nadenken: wat zijn de dingen die je op een menselijke manier wil doen? Dat geldt ook voor je eigen vaardigheden. Welke wil je behouden, en wat besteed je uit? Natuurlijk blijven we deels afhankelijk van de techbedrijven en hoe zij dingen ontwerpen. Maar daarom is het des te belangrijker om ook politiek kritisch te blijven. We hebben allemaal een stem. Laat die horen.”

Foto header: Jenny Kidd & Synthetic Pasts