De opmars van kunstmatige intelligentie

[Henry II]

Zoals altijd zal ook dit foutgaan. Enerzijds zijn er bedrijven die graag geld willen verdienen aan AI. Bijv. door een AI als support medewerker de telefoon te laten opnemen, of door het graven in semi-legale databronnen. Dit levert geld op voor bedrijven. En natuurlijk gaat dit ook misbruikt worden door hackers en andere criminelen. En zoals altijd zal ook nu de volksvertegenwoordiging hier te laat op reageren en moet het uiteindelijk worden opgelost door ons belastinggeld. Wij betalen als belastingbetaler dus voor de fouten van onze regering. De volksvertegenwoordiging die bestaat uit mensen die géén technische kennis hebben, en bovendien binnenkort misschien wel gaat bestaan uit een groep mensen die helemaal geen enkele politieke kennis hebben. De nieuwe Kamerleden van PVV en NSC vallen zeker onder die categorie, en zijn misschien al wel gelieerd met bedrijven die hun invloed willen laten gelden. Laten we niet naïef zijn, als de BBB al tien-duizenden euri krijgt van veevoederbedrijven, wat zal een bedrijf als Shell bijv. niet voor elkaar krijgen. We gaan het zien, maar maak je over de digitale veiligheid geen illusies. Als de Binnenlandse Veiligheidsdiensten alles al van je weten, dan kun je raden wat kwaadwillenden van je zullen weten.

[chromis]

Niet zeker wat ik gemist heb - post van 15u geleden
Van Sam Altman

good sign for the resilience and adaptability of people in the face of technological change:

The turing test went whooshing by and everyone mostly went about their lives

Wie weet het antwoord? Dank u wel.

Chromis???

Ik weet niet precies wat de vraag is noch volg ik het AI-gebeuren op de voet maar de "turing test" is iets van de 50's dat ooit "het imitatiespel" werd genoemd.

In die tijdsgeest waren computers voor de meesten onvoorstelbaar, maar de fantasie sloeg toen wel al aardig op hol. Vandaag zijn we verzadigd met die dingen. En: die fantasie heeft populaire media en entertainment (series, ...) ook verzadigd. Dat heeft velen al lang 'voorbereid' op het idee c.q. wens dat 'machines' onze "menselijke cognitie" zouden kunnen krijgen/hebben. Waarheid en implicaties in het midden latende: velen zijn allang gewend aan dit idee, of "hopen dat het kan" (om wat voor reden dan ook) of "geloven dat het kan" (om wat voor reden dan ook). Daarom zou het ongemerkt voorbij kunnen gaan: ik zou het daarom persoonlijk niet willen koppelen aan "resilience and adaptability of people" oid: ik zou het eerder koppelen aan een combinatie van wensdenken en 'domheid'...

...want het is m.i. zeer waarschijnlijk dat er lieden zijn die gewoon misleid willen worden door een chatbot, afgezien van de kwestie dat er nou eenmaal mensen zullen zijn die ongewild misleid zullen worden (omdat ze echt geloven dat ze met een ander mens zitten te chatten): zodra er significant genoeg mensen misleid kunnen worden (ook al zou je kunnen aantonen dat die mensen aan de onderkant van de intelligentie bell-curve zitten) dan heb je zorgelijk genoeg wel een "business case" te pakken om mensen machinaal te manipuleren. Ook al werkt het half: het hoeft maar te werken voor 'de helft van de bell curve'

Geen idee of dat een vraag beantwoord hoor

[HierEnNu]

De kikker allegorie is een leuk verhaal, maar biologisch onderzoek heeft allang uitgewezen dat een kikker ruim op tijd de pan verlaat. Wie dit slechte voorbeeld heeft verzonnen?? Geldt ook voor de goudivs, die maar een geheugen zou hebben van 5 seconden. Dat is ook niet waar.

Ojeetje, dan zal dat verhaal van zout op de staart strooien bij een vogeltje zodat je het gewoon kunt pakken ook wel niet waar zijn? Wel jammer dat zulk soort verhaaltjes wel vaak opgaan voor mensen, maar ja, die mensen hebben dan ook een hogere intelligentie dan kikkers en vogeltjes, , kikkers hebben geen hoge intelligentie maar zijn wel koudbloedige dieren, wat betekent dat hun lichaamstemperatuur wordt beïnvloed door de omgevingstemperatuur. Ze zijn over het algemeen zeer gevoelig voor temperatuurveranderingen en in werkelijkheid zou een kikker waarschijnlijk snel reageren op een verandering in de temperatuur.

Desalniettemin wordt de kikker-allegorie vaak gebruikt om een punt te maken over de geleidelijke acceptatie door mensen van ongunstige omstandigheden. Zulks heeft uiteraard te maken met het onvoldoende gebruiken van de ter beschikking staande hersens. Zoals feitelijk ook gebeurde tijdens het ware[?] verhaal van de kikker
die NIET uit het heter wordende water sprong:

Boiling frog

The boiling frog is an apologue describing a frog being slowly boiled alive. The premise is that if a frog is put suddenly into boiling water, it will jump out, but if the frog is put in tepid water which is then brought to a boil slowly, it will not perceive the danger and will be cooked to death. The story is often used as a metaphor for the inability or unwillingness of people to react to or be aware of sinister threats that arise gradually rather than suddenly.

Version of the story from Daniel Quinn's The Story of B

The boiling frog story is generally offered as a metaphor cautioning people to be aware of even gradual change lest they suffer eventual undesirable consequences. It may be invoked in support of a slippery slope argument as a caution against creeping normality. It is also used in business to reinforce that change needs to be gradual to be accepted. The term "boiling frog syndrome" is a metaphor used to describe the failure to act against a problematic situation which will increase in severity until reaching catastrophic proportions. It thereby encapsulates the barely noticeable impact of slow environmental degradation that has been described by Daniel Pauly as shifting baselines.

Law professor and legal commentator Eugene Volokh commented in 2003 that regardless of the behavior of real frogs, the boiling frog story is useful as a metaphor, comparing it to the metaphor of an ostrich with its head in the sand.

Experiments and analysis

During the 19th century, several experiments were performed to observe the reaction of frogs to slowly heated water. In 1869, while doing experiments searching for the location of the soul, German physiologist Friedrich Goltz demonstrated that a frog that has had its brain removed will remain in slowly heated water, but an intact frog attempted to escape the water when it reached 25 °C.

De kikker die zijn hersens niet meer had kon die niet gebruiken en sprong niet tijdig uit de pan, net zoals mensen die hun hersens niet tijdig [kunnen?] gebruiken geen punt maken van geleidelijk ongunstiger wordende omstandigheden door de geleidelijke acceptatie.

Ik vroeg AI haar kunstige blik te werpen en de kikker te vervangen door een mensenhoofd,
tenslotte zijn wij ons brein, toch? Zou een mensenhoofd wel uit de pan springen?

[Gerard R.]

Mensen, net kikkers. Kunnen alle kanten op springen....
Pas op met AI !

Doet me denken aan langzaam maar zeker steeds heter wordend water ...

De kikker allegorie is een leuk verhaal, maar biologisch onderzoek heeft allang uitgewezen dat een kikker ruim op tijd de pan verlaat. Wie dit slechte voorbeeld heeft verzonnen?? Geldt ook voor de goudivs, die maar een geheugen zou hebben van 5 seconden. Dat is ook niet waar.

Oooo... kippengaasje eroverheen en de kikker blijft zitten met zijn goudvis.

[HierEnNu]

Oooo... kippengaasje eroverheen en de kikker blijft zitten met zijn goudvis.

Bij mensen kiezen we dan niet voor kippengaas, maar voor AI 'eroverheen' ...
... en ja, veel mensen 'blijven zitten' [achter hun PCtje] omdat ze menen
dat gebruik van allerlei apps op Internet gratis is
als ze niet met geld hoeven te betalen!

Sterker, steeds meer mensen zijn blij met de tijdsbesparing doordat Internet inmiddels steeds beter dan zij zelf 'weet' wat hun voorkeur is en zij slechts ff hoeven te klikken zonder al die moeite van keuzes overwegen en het risico dat die pracht aanbieding langs de neus wegglipt als men er eerst een nachtje over slaapt ...

[holog]

Wat grasduinend op Q* krijg ik de vage notie dat Q* in staat is om niet alleen te kunnen redeneren, maar dat zulks inhoudt dat er doelen kunnen worden gesteld en nagestreefd.

En dat zou het belang en daarmee ook de ruzie verklaren.

Bewust-zijn volgt dan binnen maximaal een maand.

Roeland

Heeck, Uw post was van eind november 2023... hoe zit dat nu met dat bewust-zijn ondertussen aub

[heeck]

Wat grasduinend op Q* krijg ik de vage notie dat Q* in staat is om niet alleen te kunnen redeneren, maar dat zulks inhoudt dat er doelen kunnen worden gesteld en nagestreefd.

En dat zou het belang en daarmee ook de ruzie verklaren.

Bewust-zijn volgt dan binnen maximaal een maand.

Roeland

Heeck, Uw post was van eind november 2023... hoe zit dat nu met dat bewust-zijn ondertussen aub

Het gebruik van AI kan je beter bezien in de verdringing van hoe bezigheden voorheen verliepen.
Bewust-zijn is daarbij wel een principieel interessante zaak, maar legt bij die verdringing weinig gewicht in de schaal omdat het publiek waar al die AI op wordt losgelaten geen belang stelt in dat onderscheid *).

Ook de APP-jes op het mobieltje verzekeren een voortdurend verder verweven met en kostenbesparend verschuiven naar de burger. Denk bijvoorbeeld aan het verdwijnen van treintijden op de perrons naar de eigen NS-app waarvoor je de mobiel zelf moet aanschaffen.

Ik zie mijn vooroordelen mooi weergegeven in “Time”.

4 Charts That Show Why AI Progress Is Unlikely to Slow Down

This has many experts worried.
Speaking at the Senate Committee hearing, Amodei said that, if progress continues at the same rate, a wide range of people could be able to access scientific know-how that even experts today do not have within the next two to three years by using AI systems. This could increase the number of people who can “wreak havoc,” he said. “In particular, I am concerned that AI systems could be misused on a grand scale in the domains of cybersecurity, nuclear technology, chemistry, and especially biology.”

Roeland
*)
Over beïnvloeden:
WRR-raport 22 De Menselijke Beslisser

Het rationele keuzemodel is vaak geen goede weergave van de manier waarop mensen hun keuzes bepalen. Maar het menselijk keuzegedrag vertoont wel degelijk een bepaalde systematiek. Daarbij spelen allerlei factoren een rol waarmee in het overheidsbeleid soms weinig rekening wordt gehouden, zoals subtiele invloeden vanuit de omgeving. Dit zijn enkele bevindingen in De menselijke beslisser. Over de psychologie van keuze en gedrag

+===================

[heeck]

Holog,

En deze had je natuurlijk al gezien:
https://www.nature.com/articles/d41586-023-04047-6

Not science fiction
It is unknown to science whether there are, or will ever be, conscious AI systems.

Even knowing whether one has been developed would be a challenge, because researchers have yet to create scientifically validated methods to assess consciousness in machines, Mason says.

“Our uncertainty about AI consciousness is one of many things about AI that should worry us, given the pace of progress,” says Robert Long, a philosopher at the Center for AI Safety, a non-profit research organization in San Francisco, California. . .

Roeland

[holog]

Holog,

En deze had je natuurlijk al gezien:
https://www.nature.com/articles/d41586-023-04047-6

Not science fiction
It is unknown to science whether there are, or will ever be, conscious AI systems.

Even knowing whether one has been developed would be a challenge, because researchers have yet to create scientifically validated methods to assess consciousness in machines, Mason says.

“Our uncertainty about AI consciousness is one of many things about AI that should worry us, given the pace of progress,” says Robert Long, a philosopher at the Center for AI Safety, a non-profit research organization in San Francisco, California. . .

Roeland

Ja tuurlijk want is van AMCS (mathematical), daar heeft Bob wel wat invloed gehad. Zijn vaak toenmalige studenten van hem, dacht ik.

Staan ook achter de petitie dat AI research, verplicht, consciousness zouden moeten studeren.

Edit: de AMCS is me precies voor een redelijk groot deel een soort van een van de spin off's van de hele 'applied category theory community', cfr. 'de proccess ontologie' waar je allerminst van onder de indruk bent.

https://amcs-community.org/events/cats4consc-workshop/

[holog]

Holog,

En deze had je natuurlijk al gezien:

Toevoeging, de AMCS is een van de voorbeeld van communities dat me toch doet bedenken dat quantinuum op een ander soort level zit als andere quantum computing startups, grote spelers of klassieke AI bedrijven, of IBM, Microsoft en zo voort. Kan ook liggen aan het gebrek van kennis van mijne kant

[holog]

Holog,

En deze had je natuurlijk al gezien:
https://www.nature.com/articles/d41586-023-04047-6

Was natuurlijk een zeer goed afleidingsmanoeuvre om mij in te laten trappen, maar snap nog steeds uw voorspelling niet en zie niet in wat er ondertussen zo fundementeel veranderd is tov 2 maand geleden.

[heeck]

Was natuurlijk een zeer goed afleidingsmanoeuvre om mij in te laten trappen, maar snap nog steeds uw voorspelling niet en zie niet in wat er ondertussen zo fundementeel veranderd is tov 2 maand geleden.

Helemaal niet; in tegendeel.
Ik was zelf wat verrast door dit nu al, op zich te verwachten feitje.

Nog naar voren gebracht bij een lezing over “vrije wil” gisteravond en daar zei het niemand iets.
Gelijk overwogen akuut naar huis te gaan. Maar ach dan remt mijn fatsoen me af.

Roeland

[holog]

Was natuurlijk een zeer goed afleidingsmanoeuvre om mij in te laten trappen, maar snap nog steeds uw voorspelling niet en zie niet in wat er ondertussen zo fundementeel veranderd is tov 2 maand geleden.

Helemaal niet; in tegendeel.
Ik was zelf wat verrast door dit nu al, op zich te verwachten feitje.

Nog naar voren gebracht bij een lezing over “vrije wil” gisteravond en daar zei het niemand iets.
Gelijk overwogen akuut naar huis te gaan. Maar ach dan remt mijn fatsoen me af.

Roeland

Ha maar je link / artikel is op datum van eind december. Maar de oproep/petitie waar ze het over hebben in je artikel is reeds veel ouder, nl april 2023.

[heeck]

Tja. Ook al niet opgemerkt.

Roeland

[holog]

Telepathy is vanaf nu een feit.
We are natural born cyborgs.