Is A(G)I gevaarlijk?

Overal lees ik hoe nuttig AI in potentie is, vaak nadat eerst gesteld is dat het gevaarlijk kan zijn of worden. Regelmatig wordt er verwezen naar Geoffrey Hinton, de 75 jarige psycholoog en computer wetenschapper. Hinton wordt wel de godfather van AI wordt genoemd. Enkele weken terug nam hij ontslag bij Google, waar hij werkte, naast zijn werk aan de universiteit van Toronto. Ontslag vanwege zijn leeftijd, maar ook omdat hij tot de overtuiging kwam dat de meest rationele beslissing zou zijn de stekker uit AI zoals ChatGPT4 te trekken, omdat het in potentie het eind van de mensheid zou kunnen betekenen. Hij weet dat de stekker er in zal blijven, dus dat we het beste er maar van moeten hopen. Hinton’s waarschuwing spreekt – ik moet het toegeven – ook sterk tot mijn verbeelding. Misschien juist omdat ik dezelfde studieachtergrond heb als Hinton, en ook ik lange tijd geloofde en beweerde dat hiërarchische neuronale netwerken (deep learning) pas tot echte Artificiële Generale Intelligentie (AGI)  zouden leiden. Ik geloofde erin, in de mogelijkheden. De gevaren zijn ondertussen bekend en veelbesproken. In deze blog een argumentatielijn, dat ik telkens niet hoor.

Levende organismen hebben de bijzondere eigenschap dat ze een (tijdelijk) bestand vormen tegen het verval van complexe samenhang, dus tegen entropie. Neem een paar huidcellen, die niet meer aan een levend organisme gekoppeld zijn. Al na enkele dagen vergaan ze (entropie). In een levend organisme, daarentegen, kunnen deze cellen een kleine 10 jaar mee. Het organisme vormt een – zij het tijdelijk – bestand tegen verval. Het laat zelfs een toename van complexe samenhang zien (negatieve entropie: negentropie). De zaken die wij maken – onze cultuur, technologie – laat ook toename van complexe samenhang zien, denk bijvoorbeeld aan samenlevingen en steden. Ook natuurverschijnselen, zoals waterkolken, weersystemen, orkanen, energieontwikkeling bij vuur, etc. laten een tijdelijke toename van complexe samenhang zien (negentropie), om nadat ze uitgeraasd zijn, juist een grotere staat van “verval” (entropie) te hebben opgeleverd. Daarin ontstaat dan vaak weer ruimte voor nieuw leven, bijvoorbeeld nieuw bos na een bosbrand.

Technologieën zijn een eigen leven gaan leiden in onze wereld, als steden, als voedselindustrie, als bouw, als productiefabrieken, als wegennetten en andere infrastructuren, als internet, als blockchain, als AI, kortom, in talloze richtingen. Al deze technologieën groeien, en worden steeds complexer. Ze hebben “greed”, dat wil zeggen, gebruiken grondstoffen en energie om door te ontwikkelen (negentropie), groter te worden, net zoals levende organismen dat doen. Er is alleen een belangrijk verschil tussen organisch leven (negentropie) en anorganische negentropie, en dat laat zich beschrijven als metabolisme (omzetfactor): grondstoffen (bouwstenen) en energie om bestand te blijven (en/of te groeien). Hoe zit dat?

Bij organisch leven is de omvang omgekeerd evenredig gekoppeld aan het metabolisme. Hoe groter bijvoorbeeld een zoogdier, hoe trager het metabolisme. Een olifant heeft in verhouding een veel tragere stofwisseling (verbranding) dan een muis, en een mens (net als de andere primaten) zit daar ergens tussenin. De evolutie heeft dus als het ware een remfactor ingebouwd, waardoor hele grote beesten niet perse enorm veel energie omzetten. Hierdoor is een diverse keur aan organismen in vele omvangen, kleuren en geuren mogelijk. Echter, in anorganische systemen, zit deze rem niet. Een vuur, of een orkaan die zich ontwikkeld, brandt of woedt uit, totdat alle beschikbare grondstoffen door de “greed” zijn opgesoupeerd, en dan valt het systeem volledig om. Steden hebben onder meer “honger” naar bewoners, of bezoekers, en hoe groter de stad, hoe sneller haar hart klopt (meer stress, en bijvoorbeeld blijkt het gemiddeld wandeltempo rechtstreeks gekoppeld te zijn aan de omvang van de stad). Het metabolisme zakt dus niet met de toegenomen omvang, zoals bij dieren, of planten, maar blijft als bij een orkaan, of bosbrand toenemen, totdat alles is opgesoupeerd.

Hinton’s eerste doel was menselijke cognitie begrijpen, als cognitief psycholoog. Dat doen we nog steeds niet, zegt hij. Nu deze vorm van AI werkt, is duidelijk dat het volstrekt anders werkt, als een kettingreactie. Hier ligt mijn bezwaar. Ja, ik heb altijd gepredikt dat echt slimme systemen gebaseerd moeten worden op basis van gekoppelde netwerken (en backpropogation). Nu zijn die netwerken er, en nu zeg ook ik, stop ermee. Waarom? Voor nu slechts één argument: Het is niet te beheersen, het is niet hoe groter, hoe trager (een r-factor ver onder de 1). In plaats daarvan vergroot het, net als veel nieuwe technologie, onze planetaire voetafdruk tot onverantwoorde omvang, juist omdat de r-factor boven de 1 ligt (anorganische “bestanden” worden hierdoor gekenmerkt). Het vuur is een kettingreactie, die pas ophoudt als er geen voeding meer is. Als alle technologische vuren zijn uitgewoed, is het voor ons te laat - juist omdat we als naakte aap altijd afhankelijk zijn geweest van basis technologieën (taal, hefboom, vuur). Gelukkig hebben we ons Zijn (IDG1), Verstand (IDG2), Verantwoordelijkheidsgevoel voor de planeet en elkaar (IDG3) , en wil tot Samenwerken (IDG4), waarmee we de koers kunnen Veranderen (IDG5).