Denk bij het ontwikkelen van Artificial Intelligence niet alleen aan het voorkomen van gezichtsherkenning of discriminatie op de arbeidsmarkt, maar ook aan onnodig energiegebruik. Daar moet in de voorfase een gevarieerd team eerst over nadenken. In een Stappenplan schetst het Lab Toekomstige Generaties wat er aan het invoeren van AI allemaal vooraf moet gaan.

De toekomst is nooit met zekerheid te voorspellen, maar in een wereld waarin technologie in toenemende mate een stempel op de samenleving drukt, is toekomstgericht denken nodig. Zeker is dit nodig bij de ontwikkeling van hardware en software, waaronder ook kunstmatige of artificiële intelligentie (AI). AI is technologie die computers laat 'denken' en keuzes maken zonder dat de mens hem helpt. Een verzameling (zelflerende) algoritmes vormt de basis daarvan en is geïnstrueerd om gegevens te analyseren om beoordelingen of voorspellingen te doen. Een algoritme is een formule om tot een bepaald doel te komen. 

Toekomstgericht denken gaat over het formuleren van doelen voor de wereld van morgen. In de ontwerpfase van technologie zal men toekomstgericht moeten denken want de technologie die vandaag wordt ontworpen, zal decennialang invloed hebben op huidige en toekomstige generaties. Maar hoe doe je dat? 

Stap 1 is het formuleren van doelen en stap 2 is de implementatie daarvan. 

Stap 1 - Een belangrijk toekomstdoel is onlangs door de Nederlandse Raad van de Toekomst (in 2022 ingesteld door het kabinet): geformuleerd “De Raad voor de Toekomst ziet duurzaamheid in Nederland voor zich in de breedste zin van het woord. Nederland moet streven naar een land waarin mens en natuur in evenwicht zijn en waar de planetaire grenzen niet worden overschreden.” (Raad voor de Toekomst: investeer in welzijn van mens en planeet | SER).
Dit brede toekomstbeeld kan een leidraad zijn voor technologieontwerpers en opdrachtgevers.

Relevant voor het formuleren van doelen is ook de Verordening over AI die het Europees Parlement zojuist goedkeurde (MEPs ready to negotiate first-ever rules for safe and transparent AI | News | European Parliament (europa.eu)).
Deze reguleert het ontwerpen van AI, het gebruik ervan en de verkoop. Zo wordt gezichtsherkenning met slimme camera’s in de publieke ruimte verboden (zoals deze in China worden gebruikt) en mogen bepaalde kenmerken van sollicitanten bij het digitaal analyseren en selecteren van kandidaten geen rol spelen. AI-systemen die verkiezingen kunnen beïnvloeden worden onder toezicht gesteld. Verder moeten softwaresystemen vermelden of een product of tekst door AI is gegenereerd.  De nieuwe regels beogen mensgerichte en betrouwbare AI te bevorderen en de gezondheid, veiligheid, grondrechten en democratie te beschermen tegen de schadelijke gevolgen ervan.

Stap 2 betreft de implementatie: hoe integreer je toekomstdenken in de ontwerpfase van technologie? De non-profitorganisatie, het Lab Toekomstige Generaties, heeft daarvoor een “Stappenplan Toekomstgerichte Technologie” ontworpen om softwaretechnologie (meer) inclusief te maken (Inclusieve Technologie en Arbeidsmarkt - Lab Toekomstige Generaties).

Doel is de technologie op zo’n manier te laten werken dat er geen discriminatie optreedt. De ecologische gevolgen van softwareontwikkeling en -gebruik zijn daarin ook meegenomen. Het Stappenplan vraagt ontwikkelaars bij aanvang van het ontwikkelproces te formuleren wat het doel van de technologie is en aan welke ethische waarden de technologie moet voldoen. Vervolgens wordt dit doel getoetst door een representatieve stakeholdergroep om te bepalen of de waarden worden gerealiseerd. Daarin zitten bijvoorbeeld vertegenwoordigers van de opdrachtgever, ontwikkelaars, eindgebruikers en ecologische- en mensenrechtenexperts. Zo worden de randvoorwaarden voor de ontwikkeling bepaald, waaronder de grootte van de ecologische voetafdruk. 

Voor de ontwikkelfase zelf dient een gevarieerd team te worden gevormd. Idealiter met technische ontwikkelaars en anderen die op het ontwikkeltraject kunnen reflecteren vanuit het gestelde doel, de ethische waarden en de randvoorwaarden. Daarna volgt een testronde. Net zoals bij de toelating van nieuwe medicijnen kunnen in deze fase bijwerkingen worden opgespoord en opgelost. Daarna kan de technologie worden afgeleverd, gevolgd door monitoring en evaluatie. Wijzigingen en updates volgen dezelfde route. Zodoende kunnen softwaretechnologieontwikkelaars zich ook voorbereiden op de nieuwe Europese eisen, die bijvoorbeeld goedkeuring vereisen voor risicovolle AI-technologie. Nieuwe geneesmiddelen volgen een vergelijkbare weg. 

De ecologische voetafdruk van softwaresystemen is in het algemeen een onderbelicht perspectief. De Raad van de Toekomst wijst in zijn toekomstbeeld uitdrukkelijk naar natuurbehoud en de planetaire grenzen. Software werkt op hardware, waarvoor veel soorten metalen en plastics worden gebruikt. De meeste van die waardenketens zijn nog niet circulair georganiseerd (Grondstoffenstrategie 9 december 2022; Grondstoffen voor de grote transities | Kamerstuk | Rijksoverheid.nl) Natuurlijk vergt de ontwikkeling en training van AI-systemen bovendien veel elektriciteit, net als het gebruik van softwaretechnologie en het opslaan van data. Kortom, de ecologische voetafdruk van softwaretechnologieontwikkeling en gebruik is immens. Daarom moet ook daar in de ontwerpfase rekening mee worden gehouden, wat nu niet gebeurt.

Artificial Intelligence levert overigens niet alleen bedreigingen op. Goed gebruikt biedt het ook kansen op versnelling van duurzame ontwikkelingen. P+ publiceerde eerder een inventarisatie van mooie AI-praktijkvoorbeelden.

Bijdrage van Tineke Lambooy (professor Ondernemingsrecht Nyenrode Business Universiteit) en Penny Simmers (onderzoekster en publicist), beide verbonden aan het Lab Toekomstige Generaties