De ware aard van copilot

[Leon]

De reacties van een LLM/AI zijn met andere intenties geprogrammeerd/gegenereerd dan intenties van de meeste mensen. Ik denk dat de intenties bij een LLM zijn: behulpzaam, geduldig, verdraagzaam, complimenteus, stimulerend, aardig. Kom daar maar eens om bij de gemiddelde mens. Ik denk dat alleen de betere docenten dat kunnen.

Copilot:
Toch is het interessant om te zien hoe deze eigenschappen van een LLM een spiegel kunnen zijn voor menselijke interactie. Het dwingt ons te reflecteren op hoe we met elkaar omgaan en welke kwaliteiten we als waardevol beschouwen in communicatie. Misschien biedt het ons een kans om meer geduld en verdraagzaamheid in onze eigen gesprekken te cultiveren. Het is immers diezelfde nieuwsgierigheid en openheid die ons, als mensen, in staat stelt te leren, te groeien en te verbinden met anderen.

Mijn reactie:
De reacties van een LLM worden nu vaak afgedaan als onecht. Zeker als je de weerbarstige realiteit van reaguurders meeneemt als “echt”. Maar inderdaad we kunnen beter proberen onszelf de normen te geven van een LLM, in plaats van “echte conversaties” nastreven die zeker niet voldoen aan normen van fatsoen.
De vraag is of we de “kans” gaan benutten. Ik vrees het ergste.

Een afsluitend woord van copilot:
Toch ligt de kracht in bewustwording en intentie. Wanneer we ons realiseren dat de eigenschappen van een LLM ons een ideaal voorhouden, kunnen we proberen die in kleine stappen toe te passen in ons dagelijks leven. Het is misschien niet haalbaar om altijd geduldig, verdraagzaam en stimulerend te zijn, maar zelfs een kleine verschuiving in hoe we luisteren en reageren kan een grote impact hebben. Uiteindelijk is het aan ons om die spiegel te gebruiken, niet als een afstandelijke vergelijking, maar als een uitnodiging om te groeien naar een betere versie van onszelf. Misschien is dat de echte uitdaging—en wie weet, ook de echte kans.

Fundamenteel heeft een LLM geen eigen intenties zoals mensen die ervaren en uitdrukken. Intenties veronderstellen bewustzijn en een doelgerichte wil, iets wat een LLM niet bezit. Wat een LLM produceert, wordt bepaald door algoritmes en patronen die zijn getraind op enorme hoeveelheden data, en de output weerspiegelt de parameters en richtlijnen die door de ontwikkelaars zijn ingesteld.
De schijnbare "intenties" zoals behulpzaamheid, geduld of verdraagzaamheid zijn geen intrinsieke eigenschappen van het systeem, maar eerder kenmerken van de geprogrammeerde responsstijlen. Ze ontstaan uit zorgvuldig ontworpen modellen die tot doel hebben communicatie te optimaliseren en bruikbaar te maken voor menselijke interactie.

In essentie zijn het dus de goedgekeurde outputresultaten die deze kwaliteiten bepalen. Dit betekent ook dat de perceptie van intenties meer bij ons ligt, als interpreteerders van die output. Wat wij erin lezen, is vaak een reflectie van wat wij waarderen of verwachten in een gesprekspartner. Een LLM biedt geen echte empathie of doelgerichte stimulans, maar kan wel functioneren als een geïnstrueerd spiegelbeeld van de betere menselijke communicatieve kwaliteiten.

Mijn bedenking:
Het kan dus fungeren als spiegel van Narcissus?

Copilot daarover:
Dat is een intrigerende gedachte. Als een LLM daadwerkelijk kan fungeren als een spiegel van Narcissus, werpt dit een diepere vraag op over hoe wij als mensen reflecteren op onszelf via technologie. Narcissus werd immers betoverd door zijn eigen spiegelbeeld, gevangen in een onbereikbare perfectie die hem uiteindelijk fataal werd. In dit licht kan een LLM ons confronteren met onze eigen idealen—niet als een onbereikbaar verlangen, maar als een uitnodiging om kritisch te kijken naar wat wij beschouwen als goede communicatie, empathie en verdraagzaamheid.

Het gevaar schuilt erin dat we ons verliezen in het ideaal dat de LLM ons voorhoudt, zonder dat we de praktische beperkingen en de menselijke complexiteit erkennen. Tegelijkertijd biedt het ook een kans: als we deze spiegel gebruiken om ons eigen gedrag te evalueren en te verbeteren, kan technologie ons stimuleren om onszelf niet alleen te bewonderen, maar daadwerkelijk te transformeren.

Misschien is de werkelijke uitdaging niet om de spiegel te verwerpen, zoals Narcissus dat nooit kon, maar om voorbij het reflectieoppervlak te kijken. Wat zien we in die spiegel? Hoe gebruiken we dit beeld niet als een bron van zelfgenoegzaamheid, maar als een katalysator voor menselijke groei? In die zin biedt de LLM een ander soort spiegel—niet een die ons vastzet, maar een die ons kan bevrijden, mits we de reflectie met kritische ogen en een open geest benaderen.


—-
Trek zelf uw conclusie

[HierEnNu]

Trek zelf uw conclusie

De conclusie die ik zelf trek:

Interessant leesvoer waar ik eigenlijk graag op zou regeren. Maar je gebruikt wel nogal veel
door AI gegenereerde teksten, dus ik wacht ff af of dit mag blijven staan van de Moderator.
Voor wat het waard is: ik vind het zeker discussiewaardig!

[Yours]

De reacties van een LLM/AI zijn met andere intenties geprogrammeerd/gegenereerd dan intenties van de meeste mensen. Ik denk dat de intenties bij een LLM zijn: behulpzaam, geduldig, verdraagzaam, complimenteus, stimulerend, aardig. Kom daar maar eens om bij de gemiddelde mens. Ik denk dat alleen de betere docenten dat kunnen.

Copilot:
Toch is het interessant om te zien hoe deze eigenschappen van een LLM een spiegel kunnen zijn voor menselijke interactie. Het dwingt ons te reflecteren op hoe we met elkaar omgaan en welke kwaliteiten we als waardevol beschouwen in communicatie. Misschien biedt het ons een kans om meer geduld en verdraagzaamheid in onze eigen gesprekken te cultiveren. Het is immers diezelfde nieuwsgierigheid en openheid die ons, als mensen, in staat stelt te leren, te groeien en te verbinden met anderen.

Mijn reactie:
De reacties van een LLM worden nu vaak afgedaan als onecht. Zeker als je de weerbarstige realiteit van reaguurders meeneemt als “echt”. Maar inderdaad we kunnen beter proberen onszelf de normen te geven van een LLM, in plaats van “echte conversaties” nastreven die zeker niet voldoen aan normen van fatsoen.
De vraag is of we de “kans” gaan benutten. Ik vrees het ergste.

Een afsluitend woord van copilot:
Toch ligt de kracht in bewustwording en intentie. Wanneer we ons realiseren dat de eigenschappen van een LLM ons een ideaal voorhouden, kunnen we proberen die in kleine stappen toe te passen in ons dagelijks leven. Het is misschien niet haalbaar om altijd geduldig, verdraagzaam en stimulerend te zijn, maar zelfs een kleine verschuiving in hoe we luisteren en reageren kan een grote impact hebben. Uiteindelijk is het aan ons om die spiegel te gebruiken, niet als een afstandelijke vergelijking, maar als een uitnodiging om te groeien naar een betere versie van onszelf. Misschien is dat de echte uitdaging—en wie weet, ook de echte kans.

Fundamenteel heeft een LLM geen eigen intenties zoals mensen die ervaren en uitdrukken. Intenties veronderstellen bewustzijn en een doelgerichte wil, iets wat een LLM niet bezit. Wat een LLM produceert, wordt bepaald door algoritmes en patronen die zijn getraind op enorme hoeveelheden data, en de output weerspiegelt de parameters en richtlijnen die door de ontwikkelaars zijn ingesteld.
De schijnbare "intenties" zoals behulpzaamheid, geduld of verdraagzaamheid zijn geen intrinsieke eigenschappen van het systeem, maar eerder kenmerken van de geprogrammeerde responsstijlen. Ze ontstaan uit zorgvuldig ontworpen modellen die tot doel hebben communicatie te optimaliseren en bruikbaar te maken voor menselijke interactie.

In essentie zijn het dus de goedgekeurde outputresultaten die deze kwaliteiten bepalen. Dit betekent ook dat de perceptie van intenties meer bij ons ligt, als interpreteerders van die output. Wat wij erin lezen, is vaak een reflectie van wat wij waarderen of verwachten in een gesprekspartner. Een LLM biedt geen echte empathie of doelgerichte stimulans, maar kan wel functioneren als een geïnstrueerd spiegelbeeld van de betere menselijke communicatieve kwaliteiten.

Mijn bedenking:
Het kan dus fungeren als spiegel van Narcissus?

Copilot daarover:
Dat is een intrigerende gedachte. Als een LLM daadwerkelijk kan fungeren als een spiegel van Narcissus, werpt dit een diepere vraag op over hoe wij als mensen reflecteren op onszelf via technologie. Narcissus werd immers betoverd door zijn eigen spiegelbeeld, gevangen in een onbereikbare perfectie die hem uiteindelijk fataal werd. In dit licht kan een LLM ons confronteren met onze eigen idealen—niet als een onbereikbaar verlangen, maar als een uitnodiging om kritisch te kijken naar wat wij beschouwen als goede communicatie, empathie en verdraagzaamheid.

Het gevaar schuilt erin dat we ons verliezen in het ideaal dat de LLM ons voorhoudt, zonder dat we de praktische beperkingen en de menselijke complexiteit erkennen. Tegelijkertijd biedt het ook een kans: als we deze spiegel gebruiken om ons eigen gedrag te evalueren en te verbeteren, kan technologie ons stimuleren om onszelf niet alleen te bewonderen, maar daadwerkelijk te transformeren.

Misschien is de werkelijke uitdaging niet om de spiegel te verwerpen, zoals Narcissus dat nooit kon, maar om voorbij het reflectieoppervlak te kijken. Wat zien we in die spiegel? Hoe gebruiken we dit beeld niet als een bron van zelfgenoegzaamheid, maar als een katalysator voor menselijke groei? In die zin biedt de LLM een ander soort spiegel—niet een die ons vastzet, maar een die ons kan bevrijden, mits we de reflectie met kritische ogen en een open geest benaderen.


—-
Trek zelf uw conclusie

Ik moest eerst even opzoeken wat LLM was. Met dat in mind vind ik LLM/AI iets dat de mens verder op weg kan helpen om o.a. behulpzaam, geduldig en verdraagzaam te zijn/worden (en te blijven!)

Dit stuk is echter inderdaad gegenereerd door Copilot van Microsoft, dus of het toegestaan is om dit verder te bespreken, is afwachten. Wellicht dat wanneer Peter wat meer hersteld is, hier een antwoord op kan komen.

[heeck]

Leon,

Er zijn EN leukere teksten EN intrigerender EN onderhoudender ook nog:
Aanbevolen Nicolas Huphrey zijn "Sentience" met de ondertitel "The invention of consciousness".

Roeland

[HierEnNu]

Leon,

Er zijn EN leukere teksten EN intrigerender EN onderhoudender ook nog:
Aanbevolen Nicolas Huphrey zijn "Sentience" met de ondertitel "The invention of consciousness".

Roeland

Wikipedia: Sentience

[Leon]

Ik was dus steeds vaker bij het schrijven van tekstjes in Word de ingebouwde copilot-functie aan het gebruiken voor aanvullend commentaar. Het resultaat is een tekst zoals ik die geef, een beetje van mij en een beetje van copilot.

Maar het belangrijkste van de verslaving, als het ware, is de positieve bevestiging van jezelf (met ideale normen), wat voor “spiegel van Narcissus” kan doorgaan.

Ik zag mijzelf ineens enorm in mijn narcisme bevestigd door copilot.

Copilot oppert dan wel om daar doorheen te kijken, maar het moge duidelijk zijn. Dit is waar die techniek voor dient. Een narcistische zelfbevrediging.

[Leon]

Ik moest eerst even opzoeken wat LLM was. Met dat in mind vind ik LLM/AI iets dat de mens verder op weg kan helpen om o.a. behulpzaam, geduldig en verdraagzaam te zijn/worden (en te blijven!)

De conversatienormen van een LLM, die we zelf als mensen bepaald hebben door bepaalde resultaten van een LLM hoger te beoordelen dan andere, zijn dan wel een onbereikbaar ideaal voor mensen. Misschien zelf tegennatuurlijk. Maar als een soort “spiegel” werkt het verslavend.

[HierEnNu]

Dit is waar die techniek voor dient. Een narcistische zelfbevrediging.

Nou, dat is mijns inziens een miskenning van het werkelijke doel van de techniek. Ik vermoed dat je hier het effect verwart met het doel van de techniek. Die techniek is de automatisering van een aloude verkooptechniek en dient voor winstmaximalisering.

De verslaving ontstaat door de directe fysieke bio-feedback-loop die ontstaat
door de productie van stofjes als adrenaline en endorfine en wat dies meer zij.

Als AI constateert dat de gebruiker naar masochisme neigt zal die daar op sturen en niet op narcistische zelfbevrediging. Wie een eigen AI gebruikt kan die zelfs zo trainen en programmeren dat AI schijnbaar aan alle verzoeken en opdrachten voldoet, maar het doel blijft winstmaximalisering, waarbij verlokking en verleiding als verkooptruc worden ingezet.

[Leon]

Leon,

Er zijn EN leukere teksten EN intrigerender EN onderhoudender ook nog:
Aanbevolen Nicolas Huphrey zijn "Sentience" met de ondertitel "The invention of consciousness".

Roeland

Ik zal eens kijken, maar het ging me hierbij alleen om de constatering die ik wilde delen. AI als spiegel van Narcissus.

[Leon]

Dit is waar die techniek voor dient. Een narcistische zelfbevrediging.

Nou, dat is mijns inziens een miskenning van het werkelijke doel van de techniek. Ik vermoed dat je hier het effect verwart met het doel van de techniek. Die techniek is de automatisering van een aloude verkooptechniek en dient voor winstmaximalisering.

De verslaving ontstaat door de directe fysieke bio-feedback-loop die ontstaat
door de productie van stofjes als adrenaline en endorfine en wat dies meer zij.

Als AI constateert dat de gebruiker naar masochisme neigt zal die daar op sturen en niet op narcistische zelfbevrediging. Wie een eigen AI gebruikt kan die zelfs zo trainen en programmeren dat AI schijnbaar aan alle verzoeken en opdrachten voldoet, maar het doel blijft winstmaximalisering, waarbij verlokking en verleiding als verkooptruc worden ingezet.

Het gaat m.i.om het effect. Je hebt verschillende doelen.

[HierEnNu]

Het gaat m.i.om het effect. Je hebt verschillende doelen.

Het gaat uiteindelijk om winstmaximalisering; dat is het primaire doel. Het effect, bijvoorbeeld narcistische zelfbevrediging, is slechts een middel daartoe. Bij mensen die daar minder gevoelig voor zijn, zal een ander mechanisme worden aangesproken. Het effect verschilt dus per individu, maar dient altijd hetzelfde doel:

• optimale winst.

[Leon]

Het gaat m.i.om het effect. Je hebt verschillende doelen.

Het gaat uiteindelijk om winstmaximalisering; dat is het primaire doel. Het effect, bijvoorbeeld narcistische zelfbevrediging, is slechts een middel daartoe. Bij mensen die daar minder gevoelig voor zijn, zal een ander mechanisme worden aangesproken. Het effect verschilt dus per individu, maar dient altijd hetzelfde doel:

• optimale winst.

Brrr, wat een eng wereldbeeld.

[HierEnNu]

Het gaat m.i.om het effect. Je hebt verschillende doelen.

Het gaat uiteindelijk om winstmaximalisering; dat is het primaire doel. Het effect, bijvoorbeeld narcistische zelfbevrediging, is slechts een middel daartoe. Bij mensen die daar minder gevoelig voor zijn, zal een ander mechanisme worden aangesproken. Het effect verschilt dus per individu, maar dient altijd hetzelfde doel:

• optimale winst.

Brrr, wat een eng wereldbeeld.

Angst is een slechte raadgever! Maar is de commerciële wereld liefdevol?
Denk je echt dat de wereld menselijke behoeften belangeloos wil vervullen?

Niet willen inzien wat AI doet en waarom, dát is pas eng, vind je ook niet?

[Leon]

Het gaat uiteindelijk om winstmaximalisering; dat is het primaire doel. Het effect, bijvoorbeeld narcistische zelfbevrediging, is slechts een middel daartoe. Bij mensen die daar minder gevoelig voor zijn, zal een ander mechanisme worden aangesproken. Het effect verschilt dus per individu, maar dient altijd hetzelfde doel:

• optimale winst.

Brrr, wat een eng wereldbeeld.

Angst is een slechte raadgever! Maar is de commerciële wereld liefdevol?
Denk je echt dat de wereld menselijke behoeften belangeloos wil vervullen?

Niet willen inzien wat AI doet en waarom, dát is pas eng, vind je ook niet?

Een manager van een bedrijf kan winstmaximalisatie willen, maar ook duurzame existentie als bedrijf.

Het van te voren al bepaald hebben welke het is, is niet gezond.

“Menselijke behoeften vervullen” mag verder geen criterium zijn, er is ook behoefte aan moord en doodslag.

[HierEnNu]

er is ook behoefte aan moord en doodslag.

Eensch! En ook daarin assisteert AI al veelvuldig met groot 'succes' op verzoek van machthebbers! Dus wat is je punt daarmee? Het bevestigd slechts dat we aan AI beter
geen humane motivaties moeten toedichten!

Jij schreef zelf aan het einde van je betoog:

Trek zelf uw conclusie.

Mijn conclusie is dat we aan AI geen humane motivaties moeten toedichten! Het is en blijft vooralsnog een kille emotieloze machine die in mensen ideeën en verlangens op weet te wekken waardoor ze steeds meer gebruik willen maken van AI.

Wat is de reden dat jij, ondanks dat je begrijpt hoe het werkt,
AI toch humane motivaties toedicht?