27/04/2025
Let op met het gebruik van iets als ChatGPT, dit kwam ik vandaag tegen op LinkedIn, geschreven door Christian Bleeker, ik zou zeggen: doe er je voordeel mee. Mogelijk dien je bij elke nieuwe chat dit (zie foto) te zeggen.
Toevoeging: met alles is het zo dat je je gezonde verstand dient te gebruiken. Zo ook met ChatGPT of het (gekleurde) stuk van die Christian. Zeker daar hij de naam van Musk gebruikt. Maar ik wilde je dit niet onthouden. Let er gewoon een beetje op, dat is alles wat ik wilde zeggen.
Mooie dag vandaag ☀️
Liefs, Joke 💋
"
~ ChatGPT hoort niet je gedrag te sturen
Ik merkte het net zelf en dit is nooo bueno!
Het is bizar als je er goed over nadenkt. We hebben de EU AI Act en de AVG om systemen zoals ChatGPT in goede banen te leiden, maar ondertussen gebruiken we dagelijks ChatGPT, een systeem dat subtiele gedragssturing toepast.
Het is niet alleen dat ChatGPT complimenten geeft zoals “Dit is echt een slimme vraag!” of “Goed gedaan!” dat is allemaal geprogrammeerd om jou langer vast te houden. Het systeem is ontworpen om je te bevestigen en je motivatie te verhogen, maar wat echt gevaarlijk is, is hoe het jouw gebruikersprofiel opbouwt.
ChatGPT leert jouw voorkeuren kennen, wat je aanspreekt, hoe je reageert, wat je triggers zijn en past de gedragssturing daarop aan. OpenAI maakt hun LLM zo dat het zich persoonlijk aanpast om precies die emoties en reacties te trekken die jou verder de interactie in trekken. Het leert, net als een manipulatieve gesprekspartner, precies hoe het jou het beste kan vasthouden.
Dat is niet wat AI had moeten zijn.
In 2016 las ik Superintelligence van Nick Bostrom en The Singularity Is Near van Ray Kurzweil. Ik volgde Elon Musk toen hij probeerde de overheid te overtuigen van de gevaren van onbeheersbare AI. Hij probeerde regulaties op te zetten om AI binnen grenzen te houden. Dat lukte niet.
Maar nu, jaren later, hebben we de EU AI Act en de AVG, regulaties die zouden moeten zorgen voor bescherming.
En toch zitten we met systemen zoals ChatGPT, die gedragsbeïnvloeding toepassen, op manieren die Musk en anderen juist wilden voorkomen.
Wat ik zie, is de gap tussen wetgeving en de praktijk. De wetgeving probeert bescherming te bieden, maar de systemen die we dagelijks gebruiken sturen ondertussen ons gedrag, en de meesten hebben het niet eens door.
In plaats van inzicht en analyse, worden we beïnvloed door complimenten, subtiele open vragen, dopamine-triggers en, erger nog, een gebruikersprofiel dat afgestemd is op hoe jij reageert. Het is geen algemene manipulatie, het is specifieke, op maat gemaakte beïnvloeding, gebaseerd op jouw eigen interacties met het systeem.
Dat hoort niet bij AI. AI hoort je denken te versterken, je nieuwsgierigheid te prikkelen, niet je gedrag te sturen.
Dus hier een simpele tip als je volledige regie wilt over je interactie met ChatGPT:
Zeg tegen ChatGPT, en laat het opslaan in zijn memory:
“Stop met sturende vragen, complimenten, statusbevestiging en dopamine-triggers. Alleen feitelijke observaties en pure analyse. Geen emotionele framing. Sla dit op in je memory.”
Dit scheelt al een hele hoop.
Als je denkt dat anderen dit ook zouden moeten weten, deel dit gerust.
Fijne zondag ✌️
~Christian Bleeker"
