Zijn we te bang voor technologie? Dit is hoe techbedrijven dat kunnen voorkomen:

Jochanan Eynikel
Door Jochanan Eynikel Innoveren
Zijn we te bang voor technologie? Dit is hoe techbedrijven dat kunnen voorkomen:

Drie kwart van de Amerikaanse chauffeurs geeft aan bang te zijn om met zelfrijdende wagens te rijden, zo bleek uit een studie eerder dit jaar van de Amerikaanse automobielorganisatie AAA. Slechts 10% zou zich veiliger voelen in een autonome wagen dan zelf te rijden. Lijden we aan collectieve technofobie? 

Technologie-experts wijzen in ieder geval regelmatig op de (onterechte) angst ten opzichte van disruptieve technologieën zoals slimme robots, artificiële intelligentie (AI) of het alomtegenwoordige ‘blockchain’. Zo bleek ook in het interview dat Bloovi had met BlockchainHUB-oprichter Shermin Voshmgir: Eerst waren we bang voor auto’s. Bij blockchain is dat ook zo. Het duurt even voor we tech vertrouwen (29 mei 2017).

"Een kind van zes staat op veel vlakken nog verder dan de meest geavanceerde robot ter wereld"

Angst is inderdaad een slechte raadgever, maar techbedrijven komen soms niet verder dan technische argumenten. Dat een kind van zes op veel vlakken nog verder staat dan de meest geavanceerde robot, zoals bij het strikken van veters of het openen van een deur. Of dat robots momenteel nog weinig jobs vervangen en dat zelflerende software menselijke denksportkampioenen verslaat, geen enkel zelfbesef heeft. De computer zal niet plots ook een wapen hanteren.

Het is een goede zaak dat doembeelden tot hun ware proporties herleid worden. Alleen is er meer nodig om kritische stemmen te overtuigen. Dat begint bij het begrijpen waar het voorbehoud tegenover de huidige ontwikkelingen vandaan komt. Ik zie daar drie elkaar versterkende oorzaken in.

1. Snelheid. Data en rekenkracht zijn de grondstof en motor achter digitale technologie. Beide nemen exponentieel toe. De rekenkracht van je smartphone bevat meer rekenkracht dan de software die de Apolloraket op de maan deed landen. Ook op vlak van artificiële intelligentie gaat het de laatste jaren zeer snel. Vraag het maar aan de Belg Pieter Abbeel, wereldautoriteit op vlak van AI aan de universiteit van Berkeley en adviseur van Elon Musk. Ook hij stelt dat we maar beter nu al vooruitdenken op mogelijke scenario’s, om er vandaag op te anticiperen (De Tijd 7 mei 2017). Wait and see is steeds minder een optie.

"Je smartphone bevat meer rekenkracht dan de software die de Apolloraket op de maan deed landen"

2. Vrijheid. Intelligente technologie impliceert een zekere vrijheid. Dat wil zeggen: de machine of de software kan zichzelf minstens gedeeltelijk aansturen op basis van informatie die ze uit de omgeving haalt. De zelfrijdende wagen in wording is daar het meest uitgesproken voorbeeld van. Er zijn geen hyperbolische vergelijkingen met zelfbewuste Terminators nodig om te beseffen dat ook dergelijke machines omkadering nodig hebben. Hoe meer ‘vrijheid voor machines, hoe meer nood aan morele standaarden’ concludeert MIT-computerwetenschapper Rosalind Picard recent in een bijlage van The Economist.

3. De black box. Met zelflerende en autonome technologie, wordt het moeilijker om het gedrag ervan te voorspellen of te verklaren. Zelfs voor de ontwerpers van die technologie. Zo ontwikkelde chipmaker Nvidia een zelfrijdende wagen die leerde rijden zonder enige leerinstructie van de ontwerpers. De wagen had zichzelf leren besturen door menselijke chauffeurs te observeren. Elk manoeuvre van de wagen is dus gebaseerd op de input van ettelijke voorbeelden en data. De wagen zet die om in een gedragspatroon. Zolang alles goed gaat, is er geen probleem. Maar als het mis gaat, is het wel moeilijker om het waarom van dat manoeuvre en de verantwoordelijke te achterhalen. Dat noemt men het ‘black box’ probleem.

"Het toelaten van softdrugs voor medisch gebruik zou kunnen leiden tot de algemene aanvaarding van druggebruik. Heel wat reserves tegenover vooruitstrevende innovaties stoelen op hetzelfde argument."

De meeste bedenkingen ten opzichte van nieuwe technologie steunen op het argument van het hellend vlak. Dat stelt dat iets niet goed is omdat het de deur opent voor nieuwe acties met onaanvaardbare gevolgen. Bijvoorbeeld dat het toelaten van softdrugs voor medisch gebruik zou kunnen leiden tot de algemene aanvaarding van druggebruik. Heel wat reserves tegenover vooruitstrevende innovaties stoelen op hetzelfde argument.

Zoals in ‘slimme robots zijn gevaarlijk want uiteindelijk zouden ze de mens kunnen domineren’. Dit kan op basis van de huidige technologische mogelijkheden onzin zijn; het biedt weinig werkwerk tegen het hellend vlak argument. De drie aangehaalde ‘voorbehoudfactoren’ versterken de hellend vlakargumenten ten opzichte van nieuwe technologie. Zo doen de snelle technologische ontwikkelingen ook de vrees toenemen dat de negatieve gevolgen er sneller zullen zijn dan gedacht..

"De vrees voor vooruitstrevende technologie ligt dus niet zozeer in de huidige mogelijkheden van technologie maar in mogelijke toekomstige gevolgen"

De vrees voor vooruitstrevende technologie ligt dus niet zozeer in de huidige mogelijkheden van technologie maar in mogelijke toekomstige gevolgen. Over de toekomst hoor je de grote technologiespelers echter veel minder spreken. Deels is dat terecht. Met boude voorspellingen kom je nergens. Dit neemt niet weg dat je kan nadenken over diverse toekomstscenario’s en hoe je daar als bedrijf of onderzoeker moreel tegenover staat. Wat staat voorop in de ontwikkeling van de technologie? Welke waarden zijn onderliggend aan de innovatie? Waar ligt voor hen de verantwoordelijkheid bij het gebruik ervan?

Niet de technologie op zich, maar de morele visie van wie ze ontwerpt en in handen heeft, bepaalt meer dan ooit het vertrouwen in innovaties. Enkel door die visie op mens en maatschappij te delen en na te leven kan de technologiewereld dat vertrouwen van de burger winnen.