Kan een computer bewustzijn hebben?

[Delight]

Tenslotte kunnen we ook de menselijke zenuwcellen die zich in onze hersenen bevinden reduceren tot een complex van finite state Turing-machines die biochemische interacties emuleren.

Dat lijkt mij niet.

[Gralgrathor]

Waar bestaat dat "bewustzijn" dan uit?

In de allereenvoudigste termen: een complex model van de omgeving, inclusief de gedragingen van andere individuen in die omgeving. In het geval van zelfbewustzijn is dat model zo complex dat het bovendien de eigen gedragingen kan analyseren en simuleren.

[Gralgrathor]

Dat lijkt mij niet.

Het is een feit. We kunnen zenuwcellen met computers nabootsen, en zelfs eenvoudige zenuwstelsels, zoals dat van insecten.

[Delight]

Als je gedrag vergelijkt, vergelijk je... gedrag... geen bewustzijn.

Wederom, mijn punt is dat we geen andere manier hebben om objectief naar bewustzijn te kijken. Jij hebt van het bewustzijn van je medemens ook alleen indirect bewijs. Dus hoe kan het bij de beschouwing van het bewustzijn van een artificiële intelligentie ooit anders zijn?

Het zou kunnen zijn dat we bij de mens niet kunnen nagaan of hij of zij bewust is, maar denken dat een machine bewust is zegt ook niks over of die schijn ook werkelijk waar is!

En dát is een veronderstelling waar ik onderbouwing voor zou willen

Die onderbouwing is eenvoudig. We hebben de werking van menselijke zenuwcellen reeds weten na te bootsen met computers. En computers zijn Turing-machines.

Referenties?

Overigens is een parallelle machine te emuleren met een seriële.

Correct. Maar ik denk dat we het er over eens zijn dat een seriële Turing-machine slechts het gedrag van bewustzijn kan emuleren, en nooit echt bewust kan zijn.

Daar ga ik nu vanuit.

[Delight]

Dat lijkt mij niet.

Het is een feit. We kunnen zenuwcellen met computers nabootsen, en zelfs eenvoudige zenuwstelsels, zoals dat van insecten.

Dat is een abstractie van zenuwcellen; om een zenuwcel echt na te bootsen moet je elke atoom, elk elektron nabootsen, inclusief non-locale effecten van verstrengeling.

En daarom ben ik van mening dat een brein, al was het alleen maar in principe, weleens in essentie geen Turing-machine zou kunnen (hoeven) zijn.

[Delight]

Waar bestaat dat "bewustzijn" dan uit?

In de allereenvoudigste termen: een complex model van de omgeving, inclusief de gedragingen van andere individuen in die omgeving. In het geval van zelfbewustzijn is dat model zo complex dat het bovendien de eigen gedragingen kan analyseren en simuleren.

Dan vraag ik me af: wat is het essentiële verschil tussen een eenvoudig model en een complex model? Het zijn dezelfde radertjes.

[Gralgrathor]

Het zou kunnen zijn dat we bij de mens niet kunnen nagaan of hij of zij bewust is, maar denken dat een machine bewust is zegt ook niks over of die schijn ook werkelijk waar is!

En wederom, mijn punt is dat hetzelfde geldt voor denken dat een ander mens bewust is. We kunnen voor bewustzijn in andere mensen en in machines alleen indirect bewijs verkrijgen. Er is geen andere manier.

Referenties?

Bijvoorbeeld: http://www.insectvision.org/flying-inse ... bula-model (zie ook de referenties). Het oorspronkelijke artikel, waarin het gedrag van een honingbij onder bepaalde omstandigheden nauwkeurig werd gesimuleerd met een artificieel neuraal netwerk, kon ik zo gauw niet terugvinden: er is een waar oerwoud aan publicaties over dit onderwerp.

Een belangrijk verschil tussen computer-gesimuleerde neurale cellen in een artificieel neuraal netwerk en een biologisch neuraal netwerk is dat een biologisch neuraal netwerk geen discrete cycli kent. Maar in theorie kan dit worden opgelost door de cycli waarin de gesimuleerde neuronen opereren te verkleinen tot het verschil effectief wegvalt.

wat is het essentiële verschil tussen een eenvoudig model en een complex model?

Complexiteit is het essentiële verschil.

[Delight]

Als het systeem een mechanisme is, wat doet bewustzijn dan?

De radertjes, de bits, de elektronische circuits bepalen wat er gebeurt.

Als er bewustzijn is, moet het (slechts) een getuige van de omgeving zijn. Het bewustzijn, als het niet duaal is, beïnvloedt tenminste niet de radertjes.

[Delight]

Stel dat ik een programma maak dat Eliza enorm veel geavanceerder is, zodanig dat je zou beweren dat het een echte therapeut achter een computer is. De principes blijven nog altijd hetzelfde: bits en elektronische circuits. Wat is het essentiële, principiële verschil?

De complexiteit, zegt Gralgrator. Maar dus niet wel of geen bewustzijn? Zo ja, wat is het verschil dat hier bewustzijn doet ontstaan?

[Delight]

Volgens mij vinden de Peter en Gralgrator dat het brein een machine is, klopt dat?

Als dat zo is, is het geen Turing machine TENZIJ je het brein met een Turing machine zou kunnen nabootsen.

Nog afgezien van de praktische onmogelijkheid hiervan, mis je volgens mij, en dat is mijn argument, de implementatie van verstrengeling in een Turing machine. Misschien wat vergezocht, maar toch...

[Delight]

Ik moet zeggen dat ik nu begin te twijfelen...

[Gralgrathor]

Als er bewustzijn is, moet het (slechts) een getuige van de omgeving zijn. Het bewustzijn, als het niet duaal is, beïnvloedt tenminste niet de radertjes.

Sorry, maar: huh?

Maar dus niet wel of geen bewustzijn?

Het essentiele verschil tussen minder complexe en complexere systemen is natuurlijk complexiteit. Ik beargumenteer niet dat een voldoende complex systeem noodzakelijkerwijs bewust wordt. Mijn stelling is dat complexiteit een voorwaarde voor bewustzijn is.

Volgens mij vinden de Peter en Gralgrator dat het brein een machine is, klopt dat?

Niet zonder de definitie van 'machine' behoorlijk uit te breiden, nee. Wat ik wel zeg is dat bewustzijn een fenomeen is waaraan fysieke processen ten grondslag liggen. En dat die fysieke processen kenbaar zijn, en met behulp van Turing machines met dusdanige accuraatheid geëmuleerd kunnen worden dat er wat betreft relevante effecten geen meetbaar verschil is tussen de emulatie en het originele proces.

Nog afgezien van de praktische onmogelijkheid hiervan

Waarom zou dit onmogelijk zijn?

mis je volgens mij, en dat is mijn argument, de implementatie van verstrengeling in een Turing machine.

Ik denk dat je teveel belang hecht aan kwantumverstrengeling. Op moleculair niveau kunnen inderdaad kwantumeffecten optreden (verstrengeling heeft hier overigens weinig mee te maken), maar mijn insteek is dat de staat van de zenuwcel onder bepaalde condities een stochastisch product is, en dat die ondanks kwantumeffecten goed te modelleren is.

[Delight]

Ik zie het zo: enerzijds hebben we niet aangetoond dat een machine bewustzijn heeft, en anderzijds hebben we niet aangetoond dat een brein geen machine is.

[Gralgrathor]

enerzijds kun je niet aantonen dat een machine bewustzijn heeft

Net zomin als je kunt aantonen dat een mens bewustzijn heeft.

anderzijds kun je niet aantonen dat een brein geen machine is

Wederom, ik denk dat dat de definitie van 'machine' een beetje te ver strekt.

[Peter van Velzen]

Peter: Als we nu een heeeele grote en INGEWIKKELDE wekker hebben (die desgewenst wordt geminiaturiseerd, zodat je een computer krijgt) met veel input en output mogelijkheden, en we winden de wekker op en laten hem zijn werk doen, is er dan een principieel verschil tussen de kleine en de grote wekker?

Of ereen principiëel verschil is? Ik weet het niet. Het hangte er vab af wat je met INGEWIKKELDE bedoelt. Wil het nog steeds een wekker zijn mogelijke informatiebronnen, het internet, teneinde verbinding te krijgem met een atomaire klok via het Network time protocolBovendien kan de klok oook met GPS-satellieten communiceren om bij te houden waar hij is en welke tijdzone daar geldt. Hij kan ook over een kalender beschikken en automatisch zomer- en wintertijd toepassen. M.b.v. zijn kennis omtrent officiële feestdagen kan hij bovendien niet alleen in de weekeinden, maar ook op die feestdagen later afgaan. Uiteraard zal de klok jou vragen hoe laat je op wat voor dagen wilt opstaan. Hij kan jouw agenda raadplegen en je ook waarschuwen wanneer je je gereed moet maken om afspraken na te komen. Daartoe kan hij ook een routeplanner gebruiken en recente file-informatie, om uit te rekenen hoe laat je in de auto of op de bus moet stappen. Of hoe lang je erover doet om er lopend of op de fiets te komen. Wat je dan hebt is eerder een sterk gevanceerde smartphone dan een wekker, maar hij kan je nog altijd wakker maken. Ik denk dat dat een principiëel ander ding is. Een ding dat wel degelijk weet hoe laat het is, en er zelfs een aantal consequenties aan kan verbinden.

Een volgende stap is als het apperaat zelf apps aanschaft om dat hij jou daarmee nog veel nauwkeuriger kan informeren over hoeveel tijd je nog hebt om een geplande actie uit te voeren. HIj kan bijvoorbeeld het weerbericht gebruiken, om daarmee zijn berekeningen te herzien. Op het moment dat het apparaat dat zelf gaat bedenken, heeft het een bewustzijn, dat in de buurt komt van dat van mensen.
Misschien is het dan verstandig om er niet je pincode aan te verklappen.