"De grote tech-bedrijven maken een portret van je ziel om jouw gedrag te sturen en zo hun financiële belangen te dienen"

"De grote tech-bedrijven maken een portret van je ziel om jouw gedrag te sturen en zo hun financiële belangen te dienen"

Het web is in gevaar, schrijft www-uitvinder Tim Berners-Lee op de twintigste verjaardag van het web. Hij heeft gelijk, stelt onderzoeksjournalist Franklin Foer. Facebook, Google, Apple en Amazon zijn de Big Four die ons leven vormgeven. Met een niet te stoppen honger naar meer maken ze ons verslaafd en bedreigen ze onze democratie. Hoe het zover is kunnen komen, wat de Big Four werkelijk drijft en hoe we daarmee moeten omgaan zet Foer uiteen in Ontzielde Wereld: de existentiële dreiging van Big Tech. Freelance journativist Mischa Verheijden las het boek en ging naar hem luisteren in het Vlaams Parlement.

“Het web dat tien jaar geleden velen met elkaar verbond, is niet wat nieuwelingen vandaag aantreffen. De plek die ooit een rijk geheel van blogs en websites was, wordt nu verdrukt door een paar dominante platformen. Door de concentratie van macht bij deze zwaargewichten ontstaan poortwachters die kunnen bepalen welke ideeën en meningen worden gezien en verspreid.”

“Ze houden concurrenten van de markt door startups die hun positie uitdagen over te nemen, nieuwe innovaties op te kopen en toptalenten aan te werven. Daar bovenop komt het concurrentievoordeel die hun gebruikersdata hen geven. Dat maakt dat we kunnen verwachten dat de komende twintig jaar veel minder innovatief zal zijn dan de afgelopen twintig jaar ”, schrijft www-uitvinder Tim Berners-Lee in een artikel op Web Foundation, een door hem opgerichte organisatie die strijdt voor de toekomst van het web.

Meest beangstigende boek ooit

Voor zijn dagelijkse The Hugh Hewitt Show interviewt radio talkshowhost Hugh Hewitt verliezend presidentskandidaat Hillary Rodham Clinton over haar boek What Happened. In het gesprek noemt hij Franklin Foers Ontzielde wereld het meest beangstigende boek dat hij ooit las.

Uit het transcript:

Hugh Hewitt (HH): Franklin Foer’s book, World Without Mind, is the scariest book I have read in a long time.

Hillary Rodham Clinton (HRC): Isn’t it?

HH: And it’s about big tech. Yeah, it is. It is the scariest book.

HRC: Yes, it is, and you know, he’s a very thoughtful journalist, as you know, Hugh. And what he’s warning us about is what we should be taking seriously. We get all caught up in trivial stuff all the time. And the future is coming right at us, and honest to goodness, I just think everybody listening to you should be demanding that public officials start coming up with some approaches to how we’re going to protect human beings and our lives from this.

Waarom die ‘public officials’ -ook die van Hillary’s democratische partij niets doen- vertelt Franklin Foer als hij een lezing geeft in het halfrond van het Vlaams Parlement in Brussel.

Franklin: “De verkiezingen hebben veel veranderd. De Democraten zijn boos en zoeken naar een manier om die boosheid in te zetten. Voor het eerst in decennia spreken ze over het probleem van monopolies. Maar ze zijn bang om het op te nemen tegen de technologiebedrijven, omdat zij veel geld geven aan de Democratische partij. Eric Schmidt, de voorzitter van Alphabet (moederbedrijf van Google -MV) was betrokken bij de campagne van Hillary en hielp haar partij met data.”

Richting menselijke ontwikkeling weer zelf bepalen

“Er is een oorlog gaande om je aandacht,” vertelt Franklin tijdens zijn lezing in Brussel, “en het meest waardevolle dat je als mens bezit, is je aandacht. Die aandacht is echter ook de meest waardevolle commodity voor de bedrijven die jouw aandacht proberen te kapen. Ze doen er alles voor.”

Dat technologie onze breinen en de maatschappij heeft gekaapt, stellen ook een aantal oud-medewerkers van Google en Facebook die samen het Center for Humane Technology hebben opgericht. Ze willen via campagnes bewustzijn creëren over de negatieve effecten van sociale media en ze willen technologische oplossingen bedenken die beter zijn voor de mens.

Anonymous stak het verhaal van een aantal van die oud-medewerkers onder de titel This will Change Everything You Know in een video.

Volgens Franklin Foer is Facebook het beste voorbeeld. “Ze verzamelt een ultiem intiem portret van jou en gebruikt het om je engaged te houden. Facebook is een feedbackloop die op basis van je geschiedenis probeert te voorspellen wat het volgende is dat je wilt. Ze weten wat je pleziert en wat je beangstigt en geven je wat je wilt.”

Door onze data te verzamelen hebben de tech-bedrijven een portret van onze ziel gemaakt, dat ze gebruiken om massagedrag (en steeds meer ook individueel gedrag) ongezien te sturen en zo hun financiële belangen te dienen.

Het is niet moeilijk bewondering te hebben voor deze bedrijven, en hun uitvindingen die het leven vaak oneindig veel makkelijker maken, bekent de auteur in de proloog van Ontzielde wereld. Maar, zo schrijft hij, die bewondering heeft lang genoeg geduurd. De tijd is gekomen om over de gevolgen van deze monopolies na te denken en de richting van de menselijke ontwikkeling weer zelf te bepalen.

Als we eenmaal bepaalde drempels hebben overschreden – als we eenmaal de waarden van instituties hebben veranderd, als we eenmaal onze privacy hebben opgegeven – is er geen terugkeer meer mogelijk: dan kunnen we onze verloren individualiteit niet meer herwinnen.

De tech-bedrijven vernietigen iets kostbaars, namelijk de mogelijkheid tot bespiegeling. Ze hebben een wereld geschapen waarin we voortdurend worden bekeken en altijd worden afgeleid. Door onze data te verzamelen hebben ze een portret van onze ziel gemaakt, dat ze gebruiken om massagedrag (en steeds meer ook individueel gedrag) ongezien te sturen en zo hun financiële belangen te dienen.

Alfabet van de Passies, deel 3 - Zoe Beloff

Deze grafiek is een imaginaire voorspelling, gebaseerd op het feit dat meer en meer van onze persoonlijke data online worden opgeslagen, in the cloud. Deze informatie, zoals onder andere miljoenen snapshots, wordt gebruikt om artificiële intelligentie te trainen in het aanleren van pseudo-emotionele eigenschappen. Gezien meer en meer emotionele data worden bijeengesprokkeld en opgeslagen, kunnen we ons monsterlijke data clouds inbeelden, die door de lucht zweven in de vorm van een menselijk gelaat: mobiele, wisselende uitdrukkingen gebaseerd op affectieve data van miljarden mensen.

Whole Earth Catalog

In de grote kantoorparken ten zuiden van San Francisco is monopolie een spiritueel verlangen, een concept dat men daar onbeschaamd omarmt.

Die hunkering naar een monopoliepositie is vreemd genoeg, zo schrijft Franklin, terug te voeren op de tegencultuur van de jaren zestig van de vorige eeuw. Ze kwam voort uit de meest lyrische visies van vrede en liefde. Meer specifiek is deze hunkering begonnen met een kroonprins van het hippiedom. Stewart Brand.

Alleen al hoe Franklin Foer in één hoofdstuk, in vierentwintig pagina’s, helder maakt hoe Brands Whole Earth Catalog bepalend is voor de cultuur van Silicon Valley en dus de manier waarop Facebook, Google, Apple en Amazon ons leven vormgeven is het waard Ontzielde Wereld te lezen.

En het is zo contradictorisch, schrijft Franklin: alles wat de hippies verachten -de zielloze onderwerping van de kudde, de tirannie van de bureaucratie - kon ze terugbrengen tot de computer. Die grote gecentraliseerde systemen onder strakke controle deed volgens technologiehistoricus Paul Ceruzzi denken aan het politieke systeem van de Sovjet-Unie.

Totdat Stewart Brand een ander licht op de computer werpt. Naast essays en artikels was de Whole Earth Catalog bovenal een productcatalogus. Het gaf toegang tot tools die je konden helpen zelfvoorzienend te zijn, je eigen scholing te verzorgen, je eigen omgeving vorm te geven.

Alleen al hoe Franklin Foer in één hoofdstuk, in vierentwintig pagina’s, helder maakt hoe Brands Whole Earth Catalog bepalend is voor de cultuur van Silicon Valley en dus de manier waarop Facebook, Google, Apple en Amazon ons leven vormgeven is het waard Ontzielde Wereld te lezen.

Brand toonde aan hoe mensen de computer, die monsterlijke uitvinding van grote instituten, konden aanwenden als instrument voor persoonlijke bevrijding en contact met de gemeenschap. Technologie kon individuen de macht geven meer zelfvoorzienend en meer zelfexpressief te worden.

En technologie, zo betoogde Brand, had de plagen van de wereld geschapen, maar alleen technologie kon die weer uitbannen. Zo droeg de Whole Earth Catalog de waarden van de tegencultuur over op de technologie.

Wijlen Steve Jobs was zo’n hippie en dat de Whole Earth Catalog zijn bijbel was, zegt hij letterlijk in 2005 tijdens zijn Stanford Commencement Speech: <https://www.youtube.com/watch?v=D1R-jKKp3NA> ‘When I was young, there was an amazing publication called The Whole Earth Catalog, which was one of the bibles of my generation’. Ook sloot hij zijn speech af met de historische laatste woorden op de achterzijde van de laatste editie van de Whole Earth Catalog: ‘stay hungry, stay foolish’.

Bron foto: @HuChangyu via Unsplash

Silicon Valley is heel, de wereld is één

Helemaal in lijn met het gedachtengoed van Stewart Brand presenteren de grote tech-bedrijven zich vandaag als platformen voor persoonlijke bevrijding. Maar wat begon als een bezielende droom om de mensheid te verenigen in een transcendent netwerk is, zo stelt Franklin, de basis geworden van monopolistisch gedrag. In handen van Facebook en Google is de visie van Stewart Brand een voorwendsel voor alleenheerschappij.

Hun ondernemingsplannen zijn opgebouwd rond het idee de wereld tot een groot netwerk te verknopen, een netwerk waarbij individuen in een geest van altruïsme samenwerken om informatie te delen. Maar ondertussen leiden hun algoritmes tot eenheidsworst, privacyschending en een overdosis comfort.

Het resultaat is een onstabiele, bekrompen en slecht geïnformeerde wereld waarin geen ruimte is voor introspectie. Een wereld die niet zelf nadenkt. “Het gevaar,” zo zegt hij in Brussel, “is niet alleen dat we meer geïsoleerd raken van elkaar, maar het tast je intelligentie aan als je eenzijdig wordt gevoed met alleen de dingen die je wilt horen. Zo kun je geen onderscheid meer maken tussen echt nieuws en fake nieuws.”

Die ontzielde wereld wil The Atlantic-onderzoeksjournalist Franklin, de oudere broer van romanschrijver Jonathan Safran Foer, wakker schudden. Het is hem menens de wereld een geweten te schoppen.

Hij maakt zich grote zorgen dat ons intellect hetzelfde lot is beschoren als ons voedingspatroon, vertelt hij: “De introductie van de magnetron vijftig jaar geleden heeft ons voedingspatroon en eetgewoonten veranderd. Het heeft niet alleen de manier waarop we eten bereiden veranderd, het heeft onze smaak veranderd. Het is verslavend door de toevoeging van suikers. Maar op een dag werden we wakker en dachten: holy cow, deze voeding maakt ons dik. Ik maak me zorgen dat we op een dag hetzelfde denken over wat technologie met ons intellect heeft gedaan.”

Phantom buzz

Franklin: “Veel mensen hebben het gevoel dat hun arm is afgekapt als hun smartphone in een andere kamer ligt. Ik was net in Silicon Valley en had er een afspraak met iemand die uit Google is gestapt en me vertelde dat de systemen die ze creëren nog veel verslavender zijn dan we denken. Hij beschreef een fenomeen dat hij de phantom buzz noemt: je hebt het gevoel dat je telefoon trilt, je haalt hem uit je zak en er blijkt niets te zijn.”

Als journalist van The New Republic kent Franklin Foer die verslaving uit eigen ervaring. Nadat Chris Hughes, een kamergenoot van Mark Zuckerberg op Harvard en medeoprichter van Facebook, in 2012 The New Republic overneemt, begint er een veelbelovende en spannende tijd maar gaandeweg verandert de strategie.

Journalistiek is geobsedeerd geraakt door data,” zegt Franklin, “in de newsroom van de New York Times of The Washington Post hangen enorme schermen die tonen hoe populair een artikel is. En hoeveel trafiek er naar dat artikel gaat vanuit Google of Facebook. Op mijn telefoon had ik de app. Mijn ritueel was direct bij het ontwaken te kijken. In de badkamer keek ik opnieuw. En als je dan vindt wat er werkt, dan ga je dat herhalen.

Waarom vertel ik dat? Eens je afhankelijk bent van een platform worden hun waarden jouw waarden. Je doet het zonder nadenken en met de beste intenties. Het is gewoon de zwaartekracht. Het is de manier waarop dingen vallen in dit type universum.”

Alphabet Inc. - Zoe Beloff

Alphabet Inc. is de naam van een cluster van bedrijven die niet enkel focust op technologieën als Google, maar ook op levenswetenschappen en investeringskapitaal. Samen linken deze organisaties onze biologie, de netwerken in het lichaam, aan externe actoren zoals het Internet of Things en de netwerken van mondiaal kapitaal.

Google wil mens en machine samenvoegen

In de volgende hoofdstukken gaat Franklin Foer dieper in op ‘de existentiële dreiging van Big Tech’, tevens de ondertitel van zijn boek. Hij geeft een inkijkje in wat de tech-bedrijven werkelijk drijft en stelt dat er een reëel gevaar is met de manier waarop een aantal grote bedrijven op in zekere mate zichtbare manier de contouren van de publieke ruimte herscheppen.

In de research voor zijn boek kijkt hij op YouTube urenlang naar lezingen van Google's Larry Page en Facebooks Mark Zuckerberg.

Hoewel wij Google niet op die manier zien, is de grootheid van het bedrijf toch echt op artificiële intelligentie (AI) gestoeld, zo schrijft hij.

Als Larry Page zegt dat hij mensen wil samenvoegen met machines, dan is dat volgens hem de natuurlijke evolutie van de mensheid. In zijn ogen zijn we geboren als een cyborg. Dat is de eindbestemming van de mensheid.

Maar Google is toch bovenal een zoekmachine, zul je denken. Wel, ‘als je het zoekprobleem perfect oplost, kun je elke vraag beantwoorden. Dat betekent dat je in feite alles kunt doen’, vertelde Larry Page tijdens een lezing op Stanford, enkele jaren nadat hij er met Sergey Brin Google was gestart.

Franklin is stellig in zijn boek dat Google AI tot ideologie verheft: we mogen rustig stellen dat Google een superieure soort probeert te creëren, die onze natuurlijke vorm overstijgt.

In Brussel zegt hij: “Als Larry Page zegt dat hij mensen wil samenvoegen met machines, dan is dat volgens hem de natuurlijke evolutie van de mensheid. In zijn ogen zijn we geboren als een cyborg. Dat is de eindbestemming van de mensheid.

Als je rond je kijkt, zie je dat gebeuren: ik had hier niet kunnen raken zonder Google Maps of Waze. Dat is natuurlijk fijn, ik ben daar zelf ook blij mee, maar de oprichters van Google praten over de dag dat Google wordt geïmplementeerd in je hersenen.”

Het punt dat Franklin wil maken: “Deze organisaties hebben een mensbeeld, een kijk op hoe de wereld georganiseerd zou moeten zijn. Waar de meeste media-aandacht gaat naar een nieuw snufje op de iPhone of een nieuwe app, wordt het feit dat deze CEO's diepgaande uitspraken doen over de mensheid en hun kijk op de menselijke soort genegeerd.

Laat ik duidelijk zijn: de zoekmachine op zich is een van de grote verworvenheden van menselijke civilisatie. Het is ongelofelijk dat je wat dan ook in een machine kan typen en je direct een antwoord krijgt. De iPhone is een fantastische technologische uitvinding. Ik zeg niet dat we dat zomaar moeten weggooien en terug moeten keren naar de tijd van jagers en verzamelaars. Wat ik beargumenteer, is dat we een gevoel van zelfcontrole moeten behouden in ons leven.”

Facebook fnuikt de vrije wil

Hoewel Facebook de indruk wekt keuzes te bieden, duwt het zijn gebruikers op paternalistische wijze in de richting die het voor hen het beste acht. Wat toevallig ook de richting is die hen grondig verslaafd maakt. Ze knoeien met hoe gebruikers de wereld zien.

Franklin: “Facebook wil je hersengolven lezen. Dat is de visie die ze hebben. Mark Zuckerberg spreekt over menselijke integriteit als je dezelfde persoon bent op het werk, als dat je bent in je slaapkamer. Die integriteit moet er zijn. Als er geen heelheid kan zijn, dan is dat een gebrek aan integriteit.”

In Ontzielde wereld schrijft hij: Mensen tot meer openheid bewegen is de grote uitdaging maar ik denk dat het ons gaat lukken, heeft Mark Zuckerberg gezegd. Volgens Franklin heeft de Facebook-CEO redenen om te geloven dat hij dat doel zal bereiken. Door zijn omvang heeft Facebook buitengewoon veel macht. In die zin heeft Facebook meer weg van een regering dan van een traditioneel bedrijf.

Zonder het te weten, is Mark Zuckerberg de erfgenaam van een lange politieke traditie om de waardeloze politici eruit te gooien en te vervangen door technologie. Een technocratie, waarbij technologen de oude orde haar macht ontnemen en in de geest van de wetenschap regeren.

Een reële bedreiging blijkt uit een citaat dat ik oppikte uit de nieuwsbrief van Marja de Vries. Een citaat van Zbigniew Brzezinski uit zijn boek Between Two Ages: America’s Role in the Technetronic Era uit 1970. Het beschrijft volgens mij redelijk accuraat de bedreiging die ons vandaag, bijna vijftig jaar nadat Brzezinski het opschreef boven het hoofd hangt en waarvoor Franklin Foer ons waarschuwt:

“Een andere bedreiging, minder openlijk, maar niet minder elementair staat tegenover onze democratie. Meer direct gelinkt aan de impact van technologie impliceert het het geleidelijk ontstaan van een meer gecontroleerde en bestuurde samenleving. Zo’n samenleving zou gedomineerd worden door een elite wiens politieke macht berust op een naar verluidt superieure wetenschappelijke knowhow.

Niet gehinderd door de teugels van traditionele liberale waarden, zal deze elite niet aarzelen haar politieke doelen te bereiken door gebruik te maken van de laatste moderne technieken voor het beïnvloeden van het publiek gedrag en om de samenleving onder direct toezicht en controle te houden.

Aanhoudende sociale crisis, de opkomst van een charismatische persoonlijkheid en de exploitatie van de massamedia om het vertrouwen van het publiek te verkrijgen, zouden de stapstenen kunnen zijn in de geleidelijke transformatie van de Verenigde Staten in een in hoge mate gecontroleerde samenleving.

Bovendien zou het mogelijk kunnen zijn – en verleidelijk –
de vruchten van hersenonderzoek en onderzoek naar menselijk gedrag te exploiteren voor strategische politieke doelen.”

Architectuur voorzien die mensen beschermd

De primaire bezorgdheid van de onzerzoeksjournalist is dan ook dat we als burgers een enorme verantwoordelijkheid hebben, omdat we elke zoveel jaar beslissingen nemen over de toekomst van ons land: “Daarvoor hebben mensen kwaliteitsinformatie nodig: als je informatie van slechte kwaliteit krijgt, krijg je slechte kwaliteit burgers.

Vandaag krijgen mensen niet meer de informatie die ze nodig hebben om de voor hen belangrijke rollen te spelen. Deels omdat je aandacht steeds gehijackt wordt door iemand anders. Als je aandacht bij je telefoon is en iemand de hele dag door steeds je aandacht probeert te krijgen, dan ben je hooked door een machine.

Bron foto: Jacob Ufkes via Unsplash

De grote tech-bedrijven willen nu ook je personal assistant worden. Het idee is dat deze artificiële intelligentie je wekt in de morgen en je door de dag gidst. Dat is ongelofelijk efficiënt en we worden er ongetwijfeld beter georganiseerde mensen door.

Maar je bent ook de hele dag in conversatie met een bedrijf die je data wil gebruiken om je te helpen beslissingen te nemen. Je versmelt dus niet alleen met de machine, maar ook met het bedrijf dat die machine aanstuurt.

Data is een extract van je ziel en er is no way dat die bedrijven die mogen bezitten. We moeten als samenleving architectuur voorzien die mensen beschermt.

De meeste mensen zijn zich er niet van bewust dat dat aan het gebeuren is. Deze bedrijven hebben de macht om markten, conversaties en democratie te scheppen: ze bepalen hoe we evolueren als mensheid. Het is volgens mij gevaarlijk om die macht uit handen te geven aan slechts vier organisaties.

Toen de auto werd uitgevonden, waren er geen regels. Auto’s botsten en mensen werden overreden, terwijl ze de straat over staken. Stoplichten en veiligheidsgordels hebben geholpen om tot een situatie te komen die de mensheid dient. Ik denk dat we hetzelfde moeten doen met de nieuwe technologieën die nu worden ontwikkeld. Data is een extract van je ziel en er is no way dat die bedrijven die mogen bezitten. We moeten als samenleving architectuur voorzien die mensen beschermt.”

Smart home - Zoe Beloff

Slimme huizen lijken te zorgen voor onze veiligheid en bescherming, maar ze bekijken ons ook en luisteren ons af. De verzamelde informatie bezorgen ze aan het moederbedrijf. Meer en meer alledaagse voorwerpen zoals wasmachines, televisies, auto’s en zelfs gloeilampen worden gezien als ‘slim’ en ‘autonoom’. Deze apparaten verzamelen continu data van hun gastfamilies, die gestreamd worden naar de moederbedrijven. Deze data zijn bijzonder waardevol voor de bedrijven die ze bezitten. Zo kunnen ze gebruikt worden voor doelgerichte reclamecampagnes. Hoe afhankelijker we van deze apparaten worden, hoe meer we door hen worden verleid .

Controle uitoefenen op onze controle

Franklin: “Maar mensen zijn ook sterk en machtig. Als het over alcohol gaat, zijn de meesten van ons in staat tot terughoudendheid. Zo moeten we ook leren omgaan met technologie. Neem een actieve rol in hoe je omgaat met deze technologieën. Zet notificaties uit, zodat ze niet langer je aandacht opeisen. Verwijder Facebook van je telefoon.”

In dit tijdperk van razendsnelle automatisering, waarin het internet met vrijwel alles en iedereen in verbinding staat, kan de gedachte aan een eigen koers dwaas en zinloos lijken. ‘Juist onze heerschappij lijkt aan onze heerschappij te ontsnappen’ heeft de filosoof Michel Serres betoogd. ‘Hoe kunnen we controle uitoefenen op onze controle?’

Maar er is hoop te putten uit ons inzicht rond voeding, concludeert de auteur Ontzielde wereld afsluitend: Het optimistische vooruitzicht om te kunnen ontsnappen aan de aantrekkingskracht van Facebook, Google en Amazon komt in de vorm van yoghurt, geroosterde muesli en veldsla. De manier waarop meer en meer mensen bewust bezig zijn met wat ze in hun mond stoppen, doet vermoeden dat mensen ook kunnen worden verleid zich evenveel zorgen te maken over wat ze in hun hersenen binnenkrijgen.

Ons geloof in de technologie strookt niet langer volledig met ons geloof in vrijheid, zo schrijft hij in het slothoofdstuk met de veelzeggende titel ‘De papieren opstand’. Hij betoogt dat we momenten kunnen vinden waarop we bewust de baan van de tech-bedrijven en hun ecosystemen verlaten. Daarvoor hoeven we ons niet terug te trekken, maar moeten we onszelf momenten voor onszelf geven.

In dit tijdperk van razendsnelle automatisering, waarin het internet met vrijwel alles en iedereen in verbinding staat, kan de gedachte aan een eigen koers dwaas en zinloos lijken. ‘Juist onze heerschappij lijkt aan onze heerschappij te ontsnappen’ heeft de filosoof Michel Serres betoogd. ‘Hoe kunnen we controle uitoefenen op onze controle?’

Ontzielde wereld: de existentiële dreiging van Big Tech is verschenen bij De Bezige Bij. Lees hier de proloog en koop daarna de papieren versie. Het is je tijd waard! De beelden van Zoe Beloff zijn van haar expo Emoties gaan naar het werk en zijn tot 27 mei 2018 te bezichtigen in het Dr. Guislain museum in Gent. Hier vind je meer info.

Connecteer met 82.177 abonnees