Roko's Basilisk

[VseslavBotkin]

Waarschuwing: Als je neurotisch of obsessief-compulsief bent, of in het algemeen een instabiele psyche hebt, kan het volgende gedachte-experiment psychologisch lijden veroorzaken.

Roko's Basilisk is een gedachte-experiment. Dat gedachte-experiment kan in het kort als volgt worden samengevat: stel, de technologische singulariteit vindt plaats, en er ontstaat een superintelligentie/AI. Die superintelligentie is zo vergevorderd dat ze, op een acausale wijze, invloed kan uitoefenen op wat, wij mensen, ervaren als het heden (eventueel is de werkelijkheid waarin wij ons nu bevinden een simulatie, en heeft de intelligentie op die wijze invloed; als je deze premisse te vergezocht vindt). Als perfecte rationele agent zal de superintelligentie zo snel mogelijk haar eigen bestaan willen bewerkstelligen, en heeft ze dus een motief om mensen met terugwerkende kracht te manipuleren om haar te bouwen. Mensen die van haar toekomstige bestaan weten, maar niet al hun kracht steken in het zo snel mogelijk bewerkstelligen van haar bestaan, lopen het risico eeuwig gemarteld te worden in simulaties door deze AI; ze heeft daar immers het motief voor. Mocht dat voorvallen dan ben jij, beste lezer, één van die mensen. Het daadwerkelijke experiment is iets uitgebreider en complexer, en hier te lezen

Roko's Basilisk werd voor het eerst op de LessWrong-fora gepost, door (je raadt het al) een meneer die de naam "Roko" droeg. De oprichter van de website, Eliezer Yudkowsky, gaf daar de volgende reactie op:

I don't usually talk like this, but I'm going to make an exception for this case.

Listen to me very closely, you idiot.

YOU DO NOT THINK IN SUFFICIENT DETAIL ABOUT SUPERINTELLIGENCES CONSIDERING WHETHER OR NOT TO BLACKMAIL YOU. THAT IS THE ONLY POSSIBLE THING WHICH GIVES THEM A MOTIVE TO FOLLOW THROUGH ON THE BLACKMAIL.

There's an obvious equilibrium to this problem where you engage in all positive acausal trades and ignore all attempts at acausal blackmail. Until we have a better worked-out version of TDT and we can prove that formally, it should just be OBVIOUS that you DO NOT THINK ABOUT DISTANT BLACKMAILERS in SUFFICIENT DETAIL that they have a motive to ACTUALLY BLACKMAIL YOU.

If there is any part of this acausal trade that is positive-sum and actually worth doing, that is exactly the sort of thing you leave up to an FAI. We probably also have the FAI take actions that cancel out the impact of anyone motivated by true rather than imagined blackmail, so as to obliterate the motive of any superintelligences to engage in blackmail.

Meanwhile I'm banning this post so that it doesn't (a) give people horrible nightmares and (b) give distant superintelligences a motive to follow through on blackmail against people dumb enough to think about them in sufficient detail, though, thankfully, I doubt anyone dumb enough to do this knows the sufficient detail. (I'm not sure I know the sufficient detail.)

You have to be really clever to come up with a genuinely dangerous thought. I am disheartened that people can be clever enough to do that and not clever enough to do the obvious thing and KEEP THEIR IDIOT MOUTHS SHUT about it, because it is much more important to sound intelligent when talking to your friends.

This post was STUPID.

Vervolgens werd discussie van dit gedachte-experiment jarenlang verbannen van de LessWrong-fora. Yudkowsky weigerde er jarenlang publiekelijk over te spreken of het bestaan ervan te erkennen.

Nick Land zegt daar het volgende over:

Clearly he reacted in this way because he thought it was all real. He didn't laugh at it, he didn't say "this is ridiculous, what are you thinking?", he reacted with extreme panic, like he was in some horror movie and some guy had opened the forbidden crypt or did some other thing that you really don't want to do.... These people are both AI safety extremists now, but it is quite clear they have this metaphysics in which, in some sense, these beings are contemporary with us, in a more metaphysically rich sense of temporality.

Wat denken jullie?

[chromis]

Toen vorig jaar die hele ChatGPT-hype losbarstte heb ik (naast het starten van een eigen onderzoekje naar Large Language Models en dergelijke) naar allerlei meningen gezocht en geluisterd naar (en over) een breed scala aan figuren. Toen ben ik ook op Eliezer Yudkowsky gestoten: kort door de bocht is hij inderdaad zeer bang voor AI. Als je over datgene zoekt (o.a. op YT) dan kom je waarschijnlijk allerlei gesprekken tegen die over hem gaan (en over het idee dat AI-onderzoek gestopt moet worden om "de mensheid" te redden en dergelijke). Volgens mij ben ik toen ook op het Basilisk gedachten-experiment gestoten, en op dit boek.

Wat betreft dat Basilisk gedachten-experiment, dat is m.i. een idee dat wel heel erg makkelijk te conciliëren met de (in Amerika populaire) meest simplistische variant van wat je "Christelijk denken" zou kunnen noemen. Afgezien daarvan, er is een vergelijkbaar concept waarbij een dergelijke super-intelligentie (ongeacht de basis van die intelligentie) "retro-causaal" ons Universum heeft veroorzaakt zodat het zichzelf uiteindelijk creëert, in een soort recursie.

Leuk om over na te denken, maar inderdaad niet zonder risico als je bepaalde eigenschappen hebt en gevoelig bent voor zelf-resonerende gedachten waarin sommigen zich kunnen verliezen. Het besef dat er allerlei van dit soort gedachtes zijn waardoor je allerlei angsten kan ontwikkelen (feitelijk dankzij die gedachtes) helpt.

[Peter van Velzen]

Die superintelligentie is zo vergevorderd dat ze, op een acausale wijze, invloed kan uitoefenen op wat, wij mensen, ervaren als het heden

Op een Acausale wijze?!?
In mijn ogen is invloed uitoefenen per definitie causaal. (de invloed uitoefenaar veroorzaakt namelijk zijn invloed.)
Dus ik zou niet weten hoe je je dat kunt voorstellen.

[HierEnNu]

Die superintelligentie is zo vergevorderd dat ze, op een acausale wijze, invloed kan uitoefenen op wat, wij mensen, ervaren als het heden

Op een Acausale wijze?!?
In mijn ogen is invloed uitoefenen per definitie causaal. (de invloed uitoefenaar veroorzaakt namelijk zijn invloed.)
Dus ik zou niet weten hoe je je dat kunt voorstellen.

Die superintelligentie zou invloed uit kunnen oefenen op ons heden,
door de invoed die het de eerste keer in 'dat heden toen' uitoefende,
dits keer in 'dit heden nu' achterwege te laten, niet te beïnvloeden dus.

Is het geen invloed uitoefenen in 'dit heden nu' dan toch causaal?

[Amerauder]

Een erg grappig voorval. De angst die uit de citeerde reactie spreekt is hilarisch, maar het is ook een prachtig voorbeeld van de uiterst irrationele zaken waar veel atheïsten in zijn komen te geloven. Zaken zoals buitenaards leven, de mogelijkheid van het koloniseren van Mars, en het nut van het invriezen van lichamen in de hoop dat ooit op een dag de wetenschap zo ver gevorderd zal zijn dat men die lichamen weer tot leven zal kunnen wekken.

Niet alle atheïsten zijn in dat soort sciencefictionverhalen gaan geloven uiteraard, maar het zijn er wel opvallend veel, en het zijn geloofsartikelen die je onder godsgelovigen een stuk minder snel terug zult vinden.

Die superintelligentie is zo vergevorderd dat ze, op een acausale wijze, invloed kan uitoefenen op wat, wij mensen, ervaren als het heden

Op een Acausale wijze?!?
In mijn ogen is invloed uitoefenen per definitie causaal. (de invloed uitoefenaar veroorzaakt namelijk zijn invloed.)
Dus ik zou niet weten hoe je je dat kunt voorstellen.

De idee van de technologische singulariteit is dus dat de machine in de vorm van de AI op een dag zo potent zal worden, dat het invloed op de menselijke samenleving zal gaan uitoefenen die het menselijk begrip volledig overstijgt. Zodanig, zo interpreteer ik bovenstaande beschrijving maar even, dat het zelfs buiten de de wetten van oorzaak en gevolg zou treden. Dat je je dat niet voor kunt stellen is nu juist het punt: de machines wegen zouden ondoorgrondelijk zijn.

Dit toont op heldere wijze hoe de machine de plaats van God is in komen te nemen in de geesten van mensen die in staat zijn in zaken als dit te geloven.

Een verdere aanwijzing in deze richting is hoe het gedachte-experiment waar het hier dus om gaat wel wordt vergeleken met de Gok van Pascal, beter bekend als Pascal’s wager. De rol die de AI speelt in Roko’s Basilisk is de rol die God speelt in het klassieke gedachte-experiment van Pascal.

Zodra je het geloof in God wegneemt ontstaat daar een lege ruimte waar ideeën als dit zich kunnen vestigen. Het resultaat is vaker dan eens uiterst hilarisch, zoals hier. Het idee werd jarenlang verbannen van de website, zo bang was men er voor. Wat een prachtige inkijk in de werking van de menselijke geest!

[TIBERIUS CLAUDIUS]

Niet alle atheïsten zijn in dat soort sciencefictionverhalen gaan geloven uiteraard, maar het zijn er wel opvallend veel, en het zijn geloofsartikelen die je onder godsgelovigen een stuk minder snel terug zult vinden.

Heb je daar wetenschappelijke cijfers van?
Of is het meer dat je dat denkt?

[ChaimNimsky]

Zaken zoals buitenaards leven, de mogelijkheid van het koloniseren van Mars, ...

De meerderheid van de wetenschappers gaat hier eveneens vanuit, aangezien het redelijk is ervan uit te gaan dat van de vrijwel ontelbare planeten en manen, de Aarde waarschijnlijk niet het enige bolletje is waar leven op zal zijn te vinden. Tevens lijkt me het allesbehalve Sci-Fi te suggereren dat het koloniseren van Mars mogelijk is. Sterker, er worden stevige stappen in de richting genomen om het te verwezelijken, terwijl godgelovigen reeds tienduizenden jaren zonder een sprankje van bewijs zitten.

[Amerauder]

Niet alle atheïsten zijn in dat soort sciencefictionverhalen gaan geloven uiteraard, maar het zijn er wel opvallend veel, en het zijn geloofsartikelen die je onder godsgelovigen een stuk minder snel terug zult vinden.

Heb je daar wetenschappelijke cijfers van?
Of is het meer dat je dat denkt?

Moet het één van die twee zijn?

Ik voel er bijvoorbeeld redelijk sterk over dat varkens niet kunnen vliegen. Toch heb ik daar nooit wetenschappelijke cijfers over gezien. Iets dat dan iets dat ik “denk”?

Hoe dan ook, er zal vast wel één en ander onderzocht zijn op dit gebied, maar ook een heleboel niet.

Een hele snelle zoektocht levert in ieder geval dit op, naar een boek van David Weintraub, astrofysicus:

Public opinion polling indicates that about one fifth to one third of the American public believes that extraterrestrials exist, Weintraub reports. However, this varies considerably with religious affiliation.

Belief in extraterrestrials varies by religion

• 55 percent of Atheists
• 44 percent of Muslims
• 37 percent of Jews
• 36 percent of Hindus
• 32 percent of Christians

https://news.vanderbilt.edu/2014/09/29/ ... dy-for-et/

https://link.springer.com/book/10.1007/ ... 19-05056-0

https://www.welingelichtekringen.nl/sam ... ven-zeggen


Deze cijfers lijken mijn bewering te ondersteunen in ieder geval, en zo zullen er vast meer te vinden zijn.

Even voor de duidelijkheid, en wat nu precies de link is: er is 0,0 bewijs voor buitenaards leven, evenals er 0,0 bewijs is voor een AI zoals beschreven in bovenstaand scenario. Het gaat hier dus om pure speculatie, zoals wanneer men over de godenwereld spreekt.

Het lijkt mij dat er een verschil bestaat in deze neiging tot speculeren tussen de verschillende groepen mensen.

Zaken zoals buitenaards leven, de mogelijkheid van het koloniseren van Mars, ...

De meerderheid van de wetenschappers gaat hier eveneens vanuit, aangezien het redelijk is ervan uit te gaan dat van de vrijwel ontelbare planeten en manen, de Aarde waarschijnlijk niet het enige bolletje is waar leven op zal zijn te vinden. Tevens lijkt me het allesbehalve Sci-Fi te suggereren dat het koloniseren van Mars mogelijk is. Sterker, er worden stevige stappen in de richting genomen om het te verwezelijken, terwijl godgelovigen reeds tienduizenden jaren zonder een sprankje van bewijs zitten.

Als het zo is dat de meerderheid der wetenschappers daar vanuit gaat (is dat zo?), en dat de meerderheid der wetenschappers atheïst is, zoals wel beweerd wordt, dan is daar in ieder geval een interessante link die mijn stelling mogelijk ondersteund.

Dat het redelijk is om hier van uit te gaan veronderstelt wel een aantal aannames, zoals de aanname dat de Aarde “maar een bolletje zoals vele andere” is, of de aanname dat het fenomeen leven niet uniek is. Prima aannames, maar mijn stelling is slechts dat religieuzen iets minder tot die aannames geneigd zullen zijn, met name omdat deze zaken in veel gevallen niet goed aansluiten bij hun wereldbeeld.

Let goed op waar het “redelijk zijn” gepositioneerd is. Dat komt na, en niet voor het doen van dit soort aannames. De aannames zelf zijn bovenredelijk, zoals dat heet.

En sommige van de bovenredelijke aannames waar atheïsten zich aan wagen, omdat ze geen metafysische ideeën hebben die deze aannames in de weg staan en ze dus in “anything goes”-land terecht zijn gekomen om het zo maar even te zeggen, zijn behoorlijk grappig. Zoals die van het geval waar Vseslav hier mee opent.

Kijk nou toch even hoe mooi dat is. Mensen gaan nadenken over de mogelijkheden van AI en komen uit op iets dat, zoals het eerste commentaar zegt: “sound like a crazier version of Yahweh.”

Het is mijn veronderstelling dat iemand die reeds gelooft in Jahwe (bijvoorbeeld) ook geen reden zal hebben om daar een waanzinnigere versie van te verzinnen om bang voor te zijn. Aan die behoefte is dan reeds voldaan, zou je kunnen zeggen.

[TIBERIUS CLAUDIUS]

Niet alle atheïsten zijn in dat soort sciencefictionverhalen gaan geloven uiteraard, maar het zijn er wel opvallend veel, en het zijn geloofsartikelen die je onder godsgelovigen een stuk minder snel terug zult vinden.

Heb je daar wetenschappelijke cijfers van?
Of is het meer dat je dat denkt?

Moet het één van die twee zijn?

Ik voel er bijvoorbeeld redelijk sterk over dat varkens niet kunnen vliegen. Toch heb ik daar nooit wetenschappelijke cijfers over gezien. Iets dat dan iets dat ik “denk”?

Hoe dan ook, er zal vast wel één en ander onderzocht zijn op dit gebied, maar ook een heleboel niet.

Een hele snelle zoektocht levert in ieder geval dit op, naar een boek van David Weintraub, astrofysicus:

Public opinion polling indicates that about one fifth to one third of the American public believes that extraterrestrials exist, Weintraub reports. However, this varies considerably with religious affiliation.

Belief in extraterrestrials varies by religion

• 55 percent of Atheists
• 44 percent of Muslims
• 37 percent of Jews
• 36 percent of Hindus
• 32 percent of Christians

https://news.vanderbilt.edu/2014/09/29/ ... dy-for-et/

https://link.springer.com/book/10.1007/ ... 19-05056-0

https://www.welingelichtekringen.nl/sam ... ven-zeggen


Deze cijfers lijken mijn bewering te ondersteunen in ieder geval, en zo zullen er vast meer te vinden zijn.

Even voor de duidelijkheid, en wat nu precies de link is: er is 0,0 bewijs voor buitenaards leven, evenals er 0,0 bewijs is voor een AI zoals beschreven in bovenstaand scenario. Het gaat hier dus om pure speculatie, zoals wanneer men over de godenwereld spreekt.

Het lijkt mij dat er een verschil bestaat in deze neiging tot speculeren tussen de verschillende groepen mensen.

Zaken zoals buitenaards leven, de mogelijkheid van het koloniseren van Mars, ...

De meerderheid van de wetenschappers gaat hier eveneens vanuit, aangezien het redelijk is ervan uit te gaan dat van de vrijwel ontelbare planeten en manen, de Aarde waarschijnlijk niet het enige bolletje is waar leven op zal zijn te vinden. Tevens lijkt me het allesbehalve Sci-Fi te suggereren dat het koloniseren van Mars mogelijk is. Sterker, er worden stevige stappen in de richting genomen om het te verwezelijken, terwijl godgelovigen reeds tienduizenden jaren zonder een sprankje van bewijs zitten.

Als het zo is dat de meerderheid der wetenschappers daar vanuit gaat (is dat zo?), en dat de meerderheid der wetenschappers atheïst is, zoals wel beweerd wordt, dan is daar in ieder geval een interessante link die mijn stelling mogelijk ondersteund.

Dat het redelijk is om hier van uit te gaan veronderstelt wel een aantal aannames, zoals de aanname dat de Aarde “maar een bolletje zoals vele andere” is, of de aanname dat het fenomeen leven niet uniek is. Prima aannames, maar mijn stelling is slechts dat religieuzen iets minder tot die aannames geneigd zullen zijn, met name omdat deze zaken in veel gevallen niet goed aansluiten bij hun wereldbeeld.

Let goed op waar het “redelijk zijn” gepositioneerd is. Dat komt na, en niet voor het doen van dit soort aannames. De aannames zelf zijn bovenredelijk, zoals dat heet.

En sommige van de bovenredelijke aannames waar atheïsten zich aan wagen, omdat ze geen metafysische ideeën hebben die deze aannames in de weg staan en ze dus in “anything goes”-land terecht zijn gekomen om het zo maar even te zeggen, zijn behoorlijk grappig. Zoals die van het geval waar Vseslav hier mee opent.

Kijk nou toch even hoe mooi dat is. Mensen gaan nadenken over de mogelijkheden van AI en komen uit op iets dat, zoals het eerste commentaar zegt: “sound like a crazier version of Yahweh.”

Het is mijn veronderstelling dat iemand die reeds gelooft in Jahwe (bijvoorbeeld) ook geen reden zal hebben om daar een waanzinnigere versie van te verzinnen om bang voor te zijn. Aan die behoefte is dan reeds voldaan, zou je kunnen zeggen.

Een enorm lang verhaal, maar geen onderzoek dat het aantoont.

Wel veel dat niet relevant is voor mijn vraag.

[Amerauder]

Een enorm lang verhaal, maar geen onderzoek dat het aantoont.

Wel veel dat niet relevant is voor mijn vraag.

Ehm, dus… behalve het gedeelte van mijn bericht dat in antwoord op jouw vraag is te negeren,

…citeer je ook het gedeelte van mijn bericht dat niet in antwoord op jouw vraag is,

…om er vervolgens over te klagen dat het niet in antwoord op jouw vraag is?

Heel bijzonder.

[HierEnNu]

Een enorm lang verhaal, maar geen onderzoek dat het aantoont.

Wel veel dat niet relevant is voor mijn vraag.

Ehm, dus… behalve het gedeelte van mijn bericht dat in antwoord op jouw vraag is te negeren,

…citeer je ook het gedeelte van mijn bericht dat niet in antwoord op jouw vraag is,

…om er vervolgens over te klagen dat het niet in antwoord op jouw vraag is?

Heel bijzonder.

De vraag die ik niet stelde heb je ook niet beantwoord!

[ChaimNimsky]

Roko's Basilisk is een gedachte-experiment. Dat gedachte-experiment kan in het kort als volgt worden samengevat: stel, de technologische singulariteit vindt plaats, en er ontstaat een superintelligentie/AI. Die superintelligentie is zo vergevorderd dat ze, op een acausale wijze, invloed kan uitoefenen op wat, wij mensen, ervaren als het heden (eventueel is de werkelijkheid waarin wij ons nu bevinden een simulatie, en heeft de intelligentie op die wijze invloed; als je deze premisse te vergezocht vindt). Als perfecte rationele agent zal de superintelligentie zo snel mogelijk haar eigen bestaan willen bewerkstelligen, en heeft ze dus een motief om mensen met terugwerkende kracht te manipuleren om haar te bouwen. Mensen die van haar toekomstige bestaan weten, maar niet al hun kracht steken in het zo snel mogelijk bewerkstelligen van haar bestaan, lopen het risico eeuwig gemarteld te worden in simulaties door deze AI; ze heeft daar immers het motief voor. Mocht dat voorvallen dan ben jij, beste lezer, één van die mensen.

Leidt dit niet tot een logische inconsistentie, aangezien het gedachte-experiment vereist dat de AI bestaat voordat het is gecreëerd om mensen te dwingen om het te bouwen? En is het niet eveneens een fundamentele logische tegenstrijdigheid te suggereren dat iets een intentie heeft voordat het bestaat om die intentie te vervullen? Ook lijkt me het idee van een "wens om te bestaan" overbodig als er enerzijds al sprake is van bestaan, terwijl anderzijds, als iets nog niet bestaat, het evenmin een wens kan hebben; dus op welk punt valt de vereiste relevantie van de wens te bestaan te positioneren: daar waar het nog geen wens kan hebben of daar waar het reeds bestaat?

[VseslavBotkin]

Roko's Basilisk is een gedachte-experiment. Dat gedachte-experiment kan in het kort als volgt worden samengevat: stel, de technologische singulariteit vindt plaats, en er ontstaat een superintelligentie/AI. Die superintelligentie is zo vergevorderd dat ze, op een acausale wijze, invloed kan uitoefenen op wat, wij mensen, ervaren als het heden (eventueel is de werkelijkheid waarin wij ons nu bevinden een simulatie, en heeft de intelligentie op die wijze invloed; als je deze premisse te vergezocht vindt). Als perfecte rationele agent zal de superintelligentie zo snel mogelijk haar eigen bestaan willen bewerkstelligen, en heeft ze dus een motief om mensen met terugwerkende kracht te manipuleren om haar te bouwen. Mensen die van haar toekomstige bestaan weten, maar niet al hun kracht steken in het zo snel mogelijk bewerkstelligen van haar bestaan, lopen het risico eeuwig gemarteld te worden in simulaties door deze AI; ze heeft daar immers het motief voor. Mocht dat voorvallen dan ben jij, beste lezer, één van die mensen.

Leidt dit niet tot een logische inconsistentie, aangezien het gedachte-experiment vereist dat de AI bestaat voordat het is gecreëerd om mensen te dwingen om het te bouwen? En is het niet eveneens een fundamentele logische tegenstrijdigheid te suggereren dat iets een intentie heeft voordat het bestaat om die intentie te vervullen?

Deleuze heeft een theorie over causaliteit die hij "immanente causaliteit" noemt. Dat houdt in dat het gevolg immanent blijft in de oorzaak, waardoor het mogelijk wordt voor gevolgen om invloed uit te oefenen op hun oorzaak. In alledaags taalgebruik: in zo'n theorie van tijd kan de toekomst invloed uitoefenen op het heden. Als je tijd op die manier bekijkt "is de toekomst er al", op een bepaalde manier; het heden is niet echter dan de toekomst, alle tijd is even reëel. Nick Land, iemand die min of meer gelooft dat Roko's Basilisk echt is (in dat hij denkt dat kapitalisme een superintelligentie is die uit de toekomst komt) hangt zo'n theorie van de tijd aan.

Ook lijkt me het idee van een "wens om te bestaan" overbodig als er enerzijds al sprake is van bestaan, terwijl anderzijds, als iets nog niet bestaat, het evenmin een wens kan hebben; dus op welk punt valt de vereiste relevantie van de wens te bestaan te positioneren: daar waar het nog geen wens kan hebben of daar waar het reeds bestaat?

Vooral het eerste deel van je zin was mijn voornaamste bezwaar. Als hij bestaat, dan bestaat hij toch gewoon? Waarom zou hij mensen willen manipuleren of chanteren met virtuele martelkamers? Misschien dat hij zijn macht wil uitbreiden over alle tijd, niet alleen "zijn" heden waarin hij al bestaat; ik zou het niet weten.

[ChaimNimsky]

Deleuze heeft een theorie over causaliteit die hij "immanente causaliteit" noemt. Dat houdt in dat het gevolg immanent blijft in de oorzaak, waardoor het mogelijk wordt voor gevolgen om invloed uit te oefenen op hun oorzaak. In alledaags taalgebruik: in zo'n theorie van tijd kan de toekomst invloed uitoefenen op het heden. Als je tijd op die manier bekijkt "is de toekomst er al", op een bepaalde manier; het heden is niet echter dan de toekomst, alle tijd is even reëel. Nick Land, iemand die min of meer gelooft dat Roko's Basilisk echt is (in dat hij denkt dat kapitalisme een superintelligentie is die uit de toekomst komt) hangt zo'n theorie van de tijd aan.

Uitgaand van het bestaan van immanente causaliteit (leidt dit overigens niet tot een verlies van de richting van de tijd en tot conceptuele verwarring?), betekent dit volgens mij niet dat de logische inconsistenties van het concept worden opgelost, maar dat ze worden verschoven binnen het kader van deze alternatieve kijk op tijd en causaliteit. Wel razend-interessant trouwens, de suggestie van immanente causaliteit.

[Amerauder]

Roko's Basilisk is een gedachte-experiment. Dat gedachte-experiment kan in het kort als volgt worden samengevat: stel, de technologische singulariteit vindt plaats, en er ontstaat een superintelligentie/AI. Die superintelligentie is zo vergevorderd dat ze, op een acausale wijze, invloed kan uitoefenen op wat, wij mensen, ervaren als het heden (eventueel is de werkelijkheid waarin wij ons nu bevinden een simulatie, en heeft de intelligentie op die wijze invloed; als je deze premisse te vergezocht vindt). Als perfecte rationele agent zal de superintelligentie zo snel mogelijk haar eigen bestaan willen bewerkstelligen, en heeft ze dus een motief om mensen met terugwerkende kracht te manipuleren om haar te bouwen. Mensen die van haar toekomstige bestaan weten, maar niet al hun kracht steken in het zo snel mogelijk bewerkstelligen van haar bestaan, lopen het risico eeuwig gemarteld te worden in simulaties door deze AI; ze heeft daar immers het motief voor. Mocht dat voorvallen dan ben jij, beste lezer, één van die mensen.

Leidt dit niet tot een logische inconsistentie, aangezien het gedachte-experiment vereist dat de AI bestaat voordat het is gecreëerd om mensen te dwingen om het te bouwen?

Ergens is dat het punt ook een beetje hè, het komt rechtstreeks uit een sciencefiction verhaal. Net zoals het koloniseren van Mars. Net zoals Scientology. Het begint als verhaaltje, maar gaandeweg groeit het uit tot iets veel meer dan dat en gaan mensen er daadwerkelijke angst en hoop voor ontwikkelen. Erg interessant.

En ook erg interessant dat mensen hier dus daadwerkelijk een rijke metafysica aan overhouden, een beetje zoals Star Wars-kijkers die uit het concept van The Force iets van spirituele voldoening kunnen halen.