At udsætte oprindelsen af de usandsynlige – og til tider skræmmende – planer for teknologiske milliardærer gør Adam Beckers mere alt for evigt til en foruroligende, men vigtig bog
En fremtidig menneskelig base på Mars, som forestillet af Elon Musks SpaceX
Mere alt for evigt
Adam Becker (Basic Books on Sale 22. april (USA); 8. maj (UK))
Med Elon Musk og hans minions, der stampede gennem Washington-regeringskontorer som Godzilla i Tokyo, og andre tekniske multi-milliarder, der har fået den amerikanske præsident Donald Trumps øre, bliver de superrige super-skræmmende.
Videnskabsforfatter Adam Becker deler sin foruroligende analyse i Mere alt for evigt: AI -overherrer, rumimperier og Silicon Valley’s korstog for at kontrollere menneskehedens skæbne. Han finder, at universets herskere med egoer er på størrelse med planeter og umulige, science-fictional drømme om uendelig vækst i uendelig hastighed over universet.
Nogle gange kan endda videnskabeligt uddannede fans af sådanne drømme tage videnskaben i sci-fi for alvorligt. Tag fysiker Gerard K. O’Neill. Kort efter Apollo Moon -landingerne detaljerede han planer om at udvide sig til rummet ved at bygge gigantiske cylindriske levesteder for at huse en million mennesker i stabil jordbane nær månen. Bogen indeholder denne vision, Den høje frontieR, inspirerede unge rumentusiaster – inklusive Amazon -grundlægger Jeff Bezos.
O’Neills plan havde nogle store mangler. Teknologien var langt ud over selv dagens NASA, og langvarig eksponering for rumstråling uden for Jordens beskyttende magnetfelt ville have været dødbringende for mennesker og elektronik.
I dag ser sådanne rumplaner mindre usandsynlige ud. Men andre tech-delede drømme har udviklet sig sammen med dem. De seneste års teknologi har fodret en aktiemarkedets boom og givet Silicon Valley enorme politiske såvel som økonomiske klodser.
Becker er med rette på vagt over for vokale fortalere for kunstig intelligens, især Sam Altman. Som administrerende direktør for Openai lancerede han og sprang ind i Multi-Billionaire Club. Becker citerer ham for at sige ”Denne teknologiske revolution er ustoppelig”, og at han ser AI som overtagelse af alle tjenester og fremstilling.
Altman er overalt på kortet. På en side lyder han som en libertarian, der byder en AI -erobring af økonomien velkommen som noget, der vil gøre os alle rige og glade. På en anden er han forsigtig og advarer om, at vi har brug for en stærk regering for at beskytte ”miljøet, menneskerettighederne osv.”.
For de teknologiske milliardærer skriver Becker, ”Fremtiden er lige ud af science fiction: People’s Minds uploadet til computere for at leve i evigheden i et siliciumparadis, overvåget velvilligt af gudlignende ai; et uophørligt udvidende imperium, der spænder over stjernerne, adskillelse af planeter og fortærer galaxies”.
Tekniske fremskridt har fodret med en aktiemarked boom og givet Silicon Valley enorme politiske såvel som økonomiske trussel
Deres drømme afspejler alt dette, med Bezos, der ønsker et billioner mennesker, der lever i rummet “for at muliggøre en fremtid med evig vækst, for ikke at vi ‘stagnerer’ her på jorden”, og softwareingeniør vendte venturekapitalist Marc Andreessen til at se en evigt triumfal “techno-capital maskine” for at erobre Cosmos med AI og magten i iværkere.
Det er næsten nok at få Musks besættelse af at kolonisere Mars for at redde menneskeheden fra udryddelse virker som en forsigtig øvelse, indtil du læser Becker Cite Musk på X, der argumenterer for, at “ægte kamp er: udryddelser, der ønsker en Holocaust for alle menneskehed versus ekspansionister, der vil nå stjernerne og forstå universet”.
De filosoffer og etikere, der fungerer som beroligere for de tekniske bros, kan have endnu flere bisarre ideer. Nogle talsmand for “Effektiv altruisme”, som involverer at tjene masser af penge til at donere til velgørenhed (ideen bag Bankman-Fried’s skabelse og plyndring af en cryptocurrency-udveksling, der fik ham 25 års fængsel).
I Beckers skøn synes William Macaskill, en filosof ved Oxford University og en medstifter af den effektive altruisme og “langvarme” -filosofier, at tro, at det bedste, vi kan gøre for den fremtidige menneskehed, er at fylde universet med så mange mennesker som muligt.
Mere alt for evigt er en foruroligende og vigtig bog. Beckers mest kølige besked for mig er, at de tekniske milliardærer ikke forstår en vigtig kendsgerning: Hvad der er inde i den singularitet, de drømmer om, er et sort hul. For at sige det enkelt, vil verden blive uundgåelig og uforståelig farlig. Og de får det bare ikke.