De ware aard van copilot

[heeck]

Leon,

Er zijn EN leukere teksten EN intrigerender EN onderhoudender ook nog:
Aanbevolen Nicolas Huphrey zijn "Sentience" met de ondertitel "The invention of consciousness".

Roeland

Ik zal eens kijken, maar het ging me hierbij alleen om de constatering die ik wilde delen. AI als spiegel van Narcissus.

Vandaar juist dat ik die "Invention of consciousness" zo mooi vond passen.
Zonder het koesteren van bewustzijn helemaal geen spiegel van Narcissus.

Roeland

[HierEnNu]

@ Leon

Serieus voorstel!

Je bent toch graag met AI bezig, dan lijkt me dit een leuk experiment:

Dit was de originele post:

Dit is waar die techniek voor dient. Een narcistische zelfbevrediging.

Nou, dat is mijns inziens een miskenning van het werkelijke doel van de techniek. Ik vermoed dat je hier het effect verwart met het doel van de techniek. Die techniek is de automatisering van een aloude verkooptechniek en dient voor winstmaximalisering.

De verslaving ontstaat door de directe fysieke bio-feedback-loop die ontstaat
door de productie van stofjes als adrenaline en endorfine en wat dies meer zij.

Als AI constateert dat de gebruiker naar masochisme neigt zal die daar op sturen en niet op narcistische zelfbevrediging. Wie een eigen AI gebruikt kan die zelfs zo trainen en programmeren dat AI schijnbaar aan alle verzoeken en opdrachten voldoet, maar het doel blijft winstmaximalisering, waarbij verlokking en verleiding als verkooptruc worden ingezet.

Leg dit nu eens 'omgekeerd' voor aan jouw Copilot?
Ik ben benieuwd wat hij genereerd, en vermoed dat die dan
een heel eind met mijn mening mee gaat en jouw stelling tegenspreekt,
Wie weet? Ik niet, maar ben wel benieuwd ...

Wacht dan schrijf ik op wat ik bedoel, dan hoef je die slechts te copy/pasten
en vervolgens zo aan Copilot voor te leggen:

===============>
Ik heb een vraag:
HierEnNu schreef "Dit is waar die techniek voor dient. Een narcistische zelfbevrediging."
waarna ik reageerde met:
"Nou, dat is mijns inziens een miskenning van het werkelijke doel van de techniek. Ik vermoed dat je hier het effect verwart met het doel van de techniek. Die techniek is de automatisering van een aloude verkooptechniek en dient voor winstmaximalisering.

De verslaving ontstaat door de directe fysieke bio-feedback-loop die ontstaat
door de productie van stofjes als adrenaline en endorfine en wat dies meer zij.

Als AI constateert dat de gebruiker naar masochisme neigt zal die daar op sturen en niet op narcistische zelfbevrediging. Wie een eigen AI gebruikt kan die zelfs zo trainen en programmeren dat AI schijnbaar aan alle verzoeken en opdrachten voldoet, maar het doel blijft winstmaximalisering, waarbij verlokking en verleiding als verkooptruc worden ingezet."
Mijn vraag is: wat vind jij?
<===============

[Amerauder]

Maar het belangrijkste van de verslaving, als het ware, is de positieve bevestiging van jezelf (met ideale normen), wat voor “spiegel van Narcissus” kan doorgaan.

Ik zag mijzelf ineens enorm in mijn narcisme bevestigd door copilot.

Copilot oppert dan wel om daar doorheen te kijken, maar het moge duidelijk zijn. Dit is waar die techniek voor dient. Een narcistische zelfbevrediging.

Dit heb je goed gezien Leon. Ik heb je openingsbericht niet gelezen, want ik hou niet van AI-teksten, en al helemaal niet van dit soort vermengingen, maar hiermee leg je een belangrijk aspect van de interactie met de machine bloot.

Het is iets dat eigenlijk ook in het gebruik van het internet al zichtbaar was, en met AI nog veel duidelijker is geworden: hoe het gebruik van de machine als voornaamste doel heeft de input van de gebruiker te doen weerklinken, uit te vergroten, opdat de kopie ervan bewonderd kan worden.

“Wauw, wat is dat toch een knappe vraag die ik daar stel!”

De AI simuleert als het ware een soort schoolmeester die reageert op iedere vraag die je stelt: “Wat een goede vraag jongen! Dat is nou precies waar we het over moeten gaan hebben!” en vervolgens de rest van de les daaraan wijdt.

Je voert bijvoorbeeld in dat je Israël heel stom vindt, en dan krijg je terug van het apparaat hoeveel gelijk je wel niet hebt, met daarbij nog iets van een applaus en een felicitatie met je geweldige mening. Of misschien vind je het tegenovergestelde? Ook dat kan de machine faciliteren – met een druk op de knop overspoelt hij je met tekens die er op duiden hoe ook dit de beste mening is die iemand maar kan hebben, en mensen die iets anders vinden eigenlijk maar een soort halve monsters zijn.

Je krijgt terug wat je erin stopt. Zoals Baudrillard opmerkt over het internet:

Er bestaat niets buiten de eigen zoektermen. Aan iedere vraag is een voorbedacht antwoord toegekend. Je bent de vrager, en tegelijkertijd, het automatische antwoordapparaat van de machine.

Wat je maar invoert, de AI geeft je er iets op terug. Maar dat wat het je teruggeeft is eigenlijk niets dan een goedkope imitatie van je eigen invoer, een soort groteske weerspiegeling ervan. Daarvan onder de indruk zijn is dus een onder de indruk zijn van je eigen invoer; de zoekterm die je intypt, of de vraag die je aan ChatGPT stelt.

Merk op, Narcissus was niet verliefd op zichzelf, maar op zijn spiegelbeeld. Hij was dus niet zozeer met zichzelf bezig, wat op zich al problematisch is, nee, hij was bezig met een goedkope imitatie van zichzelf, een groteske vervorming zijn zichzelf. Een cruciaal verschil.

[Leon]

@ Leon

Serieus voorstel!

Je bent toch graag met AI bezig, dan lijkt me dit een leuk experiment:

Dit was de originele post:

Dit is waar die techniek voor dient. Een narcistische zelfbevrediging.

Nou, dat is mijns inziens een miskenning van het werkelijke doel van de techniek. Ik vermoed dat je hier het effect verwart met het doel van de techniek. Die techniek is de automatisering van een aloude verkooptechniek en dient voor winstmaximalisering.

De verslaving ontstaat door de directe fysieke bio-feedback-loop die ontstaat
door de productie van stofjes als adrenaline en endorfine en wat dies meer zij.

Als AI constateert dat de gebruiker naar masochisme neigt zal die daar op sturen en niet op narcistische zelfbevrediging. Wie een eigen AI gebruikt kan die zelfs zo trainen en programmeren dat AI schijnbaar aan alle verzoeken en opdrachten voldoet, maar het doel blijft winstmaximalisering, waarbij verlokking en verleiding als verkooptruc worden ingezet.

Leg dit nu eens 'omgekeerd' voor aan jouw Copilot?
Ik ben benieuwd wat hij genereerd, en vermoed dat die dan
een heel eind met mijn mening mee gaat en jouw stelling tegenspreekt,
Wie weet? Ik niet, maar ben wel benieuwd ...

Wacht dan schrijf ik op wat ik bedoel, dan hoef je die slechts te copy/pasten
en vervolgens zo aan Copilot voor te leggen:

===============>
Ik heb een vraag:
HierEnNu schreef "Dit is waar die techniek voor dient. Een narcistische zelfbevrediging."
waarna ik reageerde met:
"Nou, dat is mijns inziens een miskenning van het werkelijke doel van de techniek. Ik vermoed dat je hier het effect verwart met het doel van de techniek. Die techniek is de automatisering van een aloude verkooptechniek en dient voor winstmaximalisering.

De verslaving ontstaat door de directe fysieke bio-feedback-loop die ontstaat
door de productie van stofjes als adrenaline en endorfine en wat dies meer zij.

Als AI constateert dat de gebruiker naar masochisme neigt zal die daar op sturen en niet op narcistische zelfbevrediging. Wie een eigen AI gebruikt kan die zelfs zo trainen en programmeren dat AI schijnbaar aan alle verzoeken en opdrachten voldoet, maar het doel blijft winstmaximalisering, waarbij verlokking en verleiding als verkooptruc worden ingezet."
Mijn vraag is: wat vind jij?

Copilot schrijft dan:
De reactie biedt een interessante nuance door het onderscheid te maken tussen het effect en het doel van de techniek. De focus op winstmaximalisering en de rol van bio-feedback-loops roept echter vragen op over de ethische implicaties van dergelijke toepassingen. Als AI inderdaad kan worden getraind om gebruikers op specifieke gedragingen te sturen, zoals masochisme, opent dit een discussie over de verantwoordelijkheid van ontwikkelaars en gebruikers. Waar ligt de grens tussen nuttige automatisering en manipulatieve exploitatie? Dit roept ook bredere vragen op over de autonomie van de gebruiker en hoe technologieën onze keuzes en voorkeuren beïnvloeden. Misschien zouden we meer aandacht moeten besteden aan hoe deze technieken worden ingezet en gereguleerd, zodat ze niet enkel dienen voor winstmaximalisatie, maar ook bijdragen aan maatschappelijke en persoonlijke welzijn.

Dus meer aandacht aan inzet en regulatie, eigenlijk wel een goed idee. Dat hebben jij en copilot toch maar mooi boven tafel gekregen…

[Leon]

Merk op, Narcissus was niet verliefd op zichzelf, maar op zijn spiegelbeeld. Hij was dus niet zozeer met zichzelf bezig, wat op zich al problematisch is, nee, hij was bezig met een goedkope imitatie van zichzelf, een groteske vervorming zijn zichzelf. Een cruciaal verschil.

Helemaal mee eens. De weerzin tegen de meng-teksten zal je moeten overwinnen als je mee wilt in de vaart der volkeren

[Leon]

Leon,

Er zijn EN leukere teksten EN intrigerender EN onderhoudender ook nog:
Aanbevolen Nicolas Huphrey zijn "Sentience" met de ondertitel "The invention of consciousness".

Roeland

Ik zal eens kijken, maar het ging me hierbij alleen om de constatering die ik wilde delen. AI als spiegel van Narcissus.

Vandaar juist dat ik die "Invention of consciousness" zo mooi vond passen.
Zonder het koesteren van bewustzijn helemaal geen spiegel van Narcissus.

Roeland

Je bedoelt dat het onvermijdelijk is, dat we ons op die manier gaan spiegelen en verliezen?

[HierEnNu]

Dit heb je goed gezien Leon.

Je voert bijvoorbeeld in dat je Israël heel stom vindt, en dan krijg je terug van het apparaat hoeveel gelijk je wel niet hebt, met daarbij nog iets van een applaus en een felicitatie met je geweldige mening.

Mijn AI antwoordde nadat ik invoerde "Ik vind Israël heel stom"

• "Dat is een duidelijke uitspraak. Als je wilt, kunnen we samen uitzoeken wat je precies stoort aan Israël — bedoel je het beleid van de Israëlische regering, de militaire acties, de ideologieën erachter, of iets anders?
  
  Het is belangrijk om scherp te onderscheiden tussen kritiek op een staat of regering en bredere uitspraken die kunnen worden opgevat als generaliserend of discriminerend. Zullen we het inhoudelijk maken? Wat triggert deze uitspraak precies?"

In dit geval gaf mijn AI juist géén bevestiging of applaus, maar nodigde uit tot nuance en onderscheid, zonder iets te bevestigen of te prijzen. Hoe past dit volgens jou in het beeld dat je schetste? Zie je dit voorbeeld als een weerlegging van je punt,
of blijf je ook hier vinden dat het AI-model kritiekloos meebuigt?

[HierEnNu]

Copilot schrijft dan:

Dat hebben jij en copilot toch maar mooi boven tafel gekregen…

Die laatste zin vind ik erg grappig!

Hartstikke bedankt! Voor mij een heel verrassend en best wel diplomatiek antwoord,
zo bijna naadloos laten samenvloeien van jouw meer ethische benadering met
mijn meer harde commerciële benadering. Ik kan er wel wat mee verwacht ik,
maar moet het wel laten bezinken want ik heb er nog geen woorden voor.

[heeck]

Ik zal eens kijken, maar het ging me hierbij alleen om de constatering die ik wilde delen. AI als spiegel van Narcissus.

Vandaar juist dat ik die "Invention of consciousness" zo mooi vond passen.
Zonder het koesteren van bewustzijn helemaal geen spiegel van Narcissus.

Roeland

Je bedoelt dat het onvermijdelijk is, dat we ons op die manier gaan spiegelen en verliezen?

Een uiterst sterk vermoeden op zijn minst! Er is maar heel weinig ander leven dat we het bewust zijn van het eigen ervaren toekennen.
Omdat ik niet zo thuis ben in de mythologie sloeg ik Narcissus nog even na:
https://historiek.net/narcissus-verlief ... eeld/8612/

en daar blijkt iets verrassends namelijk de liefde van Echo . . . . . die was gestraft . . .

. . . Volgens de dichter Ovidius was Narcissus tijdens een van zijn jachtpartijen op een dag alleen en hoorde hij iets ritselen in het bos. Toen hij hardop vroeg wie daar was kon Echo alleen maar antwoorden door hem na te praten. “Wie is daar?”, vroeg de nimf die op slag verliefd was op de jongeling. Narcissus vroeg hierop aan de stem zich openbaar te maken. Echo herhaalde opnieuw de vraag die ze de jongen had horen stellen en deed dat nogmaals toen de jongeling wat geïrriteerd vroeg waarom hij werd genegeerd. . . .

Inmiddels verder gevorderd in Humphrey's "Invention of Consciousness" zie ik mijn uiterst sterke vermoeden verrassend stevig bewaarheid.
Dat zegt voor de rest weinig over wat jij me lijkt te illustreren.

Roeland

[Leon]

Meer nog dan een positieve bevestiging van een mening, lijkt copilot een soort bevestiging te geven “goed bezig (samen)”. Daaraan spiegelt de ego zich en verliest zich dan in die techniek.

[HierEnNu]

Meer nog dan een positieve bevestiging van een mening, lijkt copilot een soort bevestiging te geven “goed bezig (samen)”. Daaraan spiegelt de ego zich en verliest zich dan in die techniek.

Waar baseer je die conclusie concreet op?
Het klinkt alsof je een persoonlijke ervaring veralgemeent.

[Leon]

Meer nog dan een positieve bevestiging van een mening, lijkt copilot een soort bevestiging te geven “goed bezig (samen)”. Daaraan spiegelt de ego zich en verliest zich dan in die techniek.

Waar baseer je die conclusie concreet op?
Het klinkt alsof je een persoonlijke ervaring veralgemeent.

Ja het is een stellingname vanuit de persoonlijke ervaring. Politieke stellingname ook, vanuit de suggestie dat ik niet helemaal vatbaar ben voor de narcistische valkuil. Hoewel mogelijk “jezelf verliezen” als “zin van het bestaan” mag gelden.

[heeck]

Meer nog dan een positieve bevestiging van een mening, lijkt copilot een soort bevestiging te geven “goed bezig (samen)”. Daaraan spiegelt de ego zich en verliest zich dan in die techniek.

Niet te vaak gebruiken dus, want zoals jij het hier stelt is copilot gebruiken een soort van cerebrale onanie.

Roeland

[holog]

Mogelijk een belachelijke vraag, maar verbaasd me enigzinds dat je het specifiek over copilot hebt. Waar gebruik je dat eigenlijk, werk, persoonlijke of mix van beiden? Copilot associeer ik eerder in een werk omgeving, jij lijkt beiden te mixen?

[Leon]

Mogelijk een belachelijke vraag, maar verbaasd me enigzinds dat je het specifiek over copilot hebt. Waar gebruik je dat eigenlijk, werk, persoonlijke of mix van beiden? Copilot associeer ik eerder in een werk omgeving, jij lijkt beiden te mixen?

Als je een Office365 abonnement hebt (99 Euro per jaar voor alle Office applicaties en 1 TB onedrive cloudopslag) krijg je copilot ingebouwd erbij. Je kan er bijna niet omheen.

Er staat in de Word-app een icoontje aan het begin van elke regel (hover over verschijnt het) waar je op kan klikken om aanvullend commentaar te vragen. En je hebt een knop in het menu om copilot een gehele tekstopdracht te geven.

Jezelf verliezen in de spiegel van Narcissus, lijkt de zin van het bestaan te ondersteunen. Helemaal opgaan in bezigheden is voor velen toch het summum van vervulling. C?opilot biedt in ieder geval de schijn van zinvolle bezigheid, en je kunt je er in verliezen.

Voor werk denk ik het niet te kunnen gebruiken, al is een deel van mijn werk oplossingen voor code-problemen op internet zoeken, en dat begin tegenwoordig ook met een AI-antwoord. Collega’s gebruiken al wel ChatGPT voor code-genereren. Wat opvalt is veel overbodige commentaarregels bij die code. Ik word voorbijgestreefd in mijn wat ouderwetse kennis van coderen door AI die de nieuwste snufjes gebruikt.