In een op youtube geplaatst filmpje, hoorde ik David Bowie zeggen in een interview uit eind jaren 90 over het toen opkomende internet dat er zeker veel goeds mee zou kunnen worden gedaan, maar, helaas, uiteindelijk nog meer kwaad. De plaatser van het filmpje roemt Bowie's visionaire kwaliteiten, maar zonder iets af of toe te doen aan de zanger zijn visie, heeft dit helaas weinig met visionair zijn te maken. Dit betreft een oer-mechanisme, verwant aan de bekende Jevons Paradox. Zo'n 600 jaar voor Christus schreef Plato in de Republiek "The true creator is necessity, who is the mother of our invention." Technologie filosoof Kranzberg keerde het om, innovation is the mother of necessity, en zo is het, weten we nu (2600 jaar om een paar woorden in de goede volgorde te krijgen...).
Al sinds ons ontstaan hebben we technologie nodig om te overleven: kleding voor het ontbreken van vacht, vuur voor warmte en voedselbereiding en hefbomen (hamers, speren, etc.) voor extra kracht. Technologie is feitelijk vanaf het begin de kracht van beperking! Maar we mogen nooit uit het oog verliezen dat de technologische – kunstmatige – versterking van onze reikwijdte (kracht, macht, heersen over onze biotopen) makkelijk tot uitputting van onze bronnen, en/of van onszelf kan leiden. Dat was al zo toen we bossen platbranden voor landbewerking, of zelfs daarvoor, toen we via talige commando's en met door speren versterkte krachten zo efficiënt konden jagen, dat we hele populaties verdreven. Met de schaalbare technologieën van vandaag (1 keer bedenken, dan via copy-paste duizend keer afdrukken, fabriceren, of via het net verspreiden) is het potentiele gevaar (kwaad) nog exponentieel veel groter.
De kwestie is niet wat er technisch in potentie mogelijk is. Daar kunnen we snel uit zijn, bijna alles. Genezen van tumoren, auto-immuunziekten door toepassing van slimme algoritmes? In potentie ja. Komen tot betere materie-energie transmissie? Zeker. De kwestie is wat ontwikkelde technieken betekenen voor samenlevingen, ons collectieve en individuele gedrag, onze moraal en ethiek, en juist daar staan we steevast onvoldoende en (te) laat bij stil. Tegelijkertijd wordt de wisdom of the crowd, het collectieve gedrag eveneens steevast “gebruikt” (benut klinkt positiever en met het ontstaan van de klasse van bigtech is dat wellicht ondertussen versluimerend taalgebruik). De maatschappij, samenlevingen, worden steevast niet meegenomen bij technologie ontwikkeling om de ontwikkeling, en daar gaat het helemaal verkeerd, al vele jaren, maar steeds sneller en radicaler. Dus we hoeven het niet te hebben over potentiele kansen, als de risico's steevast de kansen overtreffen. Niet meer, we moeten een aantal onaangename conclusies trekken.
Sommige conclusies, zo lijkt het wel, mogen niet getrokken worden, sommige zaken moeten ongezegd blijven. Maar dat we bijvoorbeeld niet mogen zeggen dat generatieve AI slecht is, of dat een steeds grotere efficientie in het (automatisch) onttrekken en gebruiken van zeldzame grondstoffen ten behoeve van meer vervuilende en mens en natuur ondermijnende technologieën niet per se nastrevenswaardig is, wil niet zeggen dat we het omgekeerde moeten prediken. AI gaat de mensheid redden! Meer efficientie zal de mens bevrijden van de door beperking en natuur opgelegde gesels!
Laten we de eerste van deze twee beweringen nader bekijken. AI (met agency) gaat de mensheid redden! Slechts onder een uiterst cynische (en feitelijk kwaadaardige) duiding zou dit waar kunnen zijn: AI leidt tot massa vernietiging. Dat kan bijvoorbeeld doordat generatieve AI zoveel mensen de zin (levenslust) ontneemt om nog onderscheidend te willen/kunnen zijn (schrijven, denken, afbeeldingen maken, muziek maken, kunst in het algemeen, en zelfs vechten en oorlog voeren), dat grote aantallen mensen lethargisch, lusteloos en suicidaal worden, waardoor de druk van 8,2 miljard mensen op de beperkte planetaire middelen afneemt. Een andere uitwerking van dit scenario is dat killer drones hele steden uitmoorden, of desnoods hele landen. Wie het geld heeft, heeft de technologieën en daarmee de macht, en 24/7 surveillance mogelijkheden waar op grond van dodelijke AI agents hun doelwitten kunnen opsporen zijn al geimplementeerd en getraind door het (onwetende) publiek zelf.
Een derde uitwerking van een dergelijk zeer cynisch scenario zou je kunnen ontlenen aan een Dan Brown boek, waarin een door genetische manipulatie gefabriceerde biologisch agent het grote meerendeel van de mensen onvruchtbaar maakt. Wellicht kan AI een rol spelen in het effectief manipuleren van zo'n agent, en zou dan een kleine groep een antistof kunnen hebben, zodat zij in een grotendeels van mensen ontdane wereld opnieuw kunnen beginnen. Maar, u merkt het al, deze scenarios krijgen een steeds hoger conspiracy theory gehalte.
Minder cynisch. Generatieve AI gaat ons helpen ziekten te genezen... Prachtig, maar... Leven we dan straks met laten we zeggen 10 miljard mensen gemiddeld 100 jaar met minder energie en grondstoffen gebruik per persoon dan nu? Het is moeilijk in te zien hoe dat de druk op de natuur, de energie- en vooral materiaal-behoefte per persoon en de behoefte van al die individuen om onderscheidend te zijn zal reduceren. Dan toch weer cynischer, het omgekeerde is veel waarschijnlijker, en als dat uit de hand loopt is er schaarste en strijd/oorlog, waar generatieve AI een grote rol in zal spelen. En dan komen we vanzelf weer bij een van de eerdergenoemde cynische scenario's.
Het is niet leuk om cynisch te zijn. Het zijn de grote claims – de enorme gebaren – waarmee AI “verkocht” (opgedrongen) wordt aan het grote publiek, die maken dat je er nauwelijks anders naar kunt kijken dan langs eenzelfde soort grote lijnen. Herinnert u zich het nog? Generatieve AI is, zo werd direct nadat OpenAI met ChatGPT op de “markt” kwam, van eenzelfde impact als de atoombom, we zullen ons er toe moeten verhouden en wegkijken is geen optie. OpenAI gaat nu agents voor het Amerikaanse leger ontwikkelen. Ons leger – Europa – moet nu wel inspringen, anders worden we onder de voet gelopen. Op linkedin zag ik een post, waarin iemand mensen die weigeren generatieve AI te gebruiken vergelijkt met mensen die een vaccinatie weigerde. Hij bekrachtigde zijn argument met een psychologisch onderzoek, dat liet zien dat mensen telkens als een argument wordt ontkracht waarom ze tegen AI (of vaccinatie) zijn, ze andere argumenten vinden en dus niet van (moreel) standpunt veranderen. Gelukkig zag ik meerdere commentaren die dit (mi onzinnige) argument tackelde, het is 180 graden omgekeerd. Een meisjesschool in Iran kan door VS/Israel uit de lucht worden geschoten door een (foute) genAI analyse, legers kunnen met steeds minder “ skin in the game” (Nassim Talen) grootschalige slachtpartijen aanrichten, schrijvers, kunstenaars en andere burgers kunnen door genAI gemarginaliseerd worden, en het publiek kan als training-soldaten de grote ontregel machinerie fijnmazig versterkt terugspelen in de handen van de aller-machtigste, maar tegen zijn is .. irrationeel. Wat ik tegen de plaatser van de post zou willen zeggen, maar niet heb gedaan, is “Gegroet soldaat met zelf opgelegde dienstplicht in het BigTech leger!”
Geen opmerkingen:
Een reactie posten