Worden tools zoals Chat GPT te snel ‘normaal’ gevonden?

[Larissa Janse]

Ik merk steeds vaker dat Chat GPT en soortgelijke tools niet alleen worden gebruikt voor simpele dingen zoals samenvattingen of codehulp, maar ook voor serieuzere taken zoals script schrijven, psychologische adviesjes, of zelfs beslissingen in werkprocessen. En niemand lijkt er echt van op te kijken.

Is het niet vreemd hoe snel we deze technologie als ‘gewoon’ zijn gaan beschouwen? We laten een taalmodel – dat in de basis gewoon een statistische gokmachine is – nu al meedenken over ethiek, gevoelige thema’s en persoonlijke keuzes.

Gaan we te ver in het toevertrouwen van complexe taken aan ChatGPT?

En: gebruikt iemand ChatGPT op manieren waarvan je denkt “dit zou eigenlijk niet moeten kunnen”?

[ Voor 2% gewijzigd door F_J_K op 30-07-2025 12:11 . Reden: geen reclame aub ]

[sypie]

Joh, mensen gebruiken ChatGPT als SchatGPT, oftewel hun virtuele liefde. Mensen trouwen er zelfs mee… Dan ben je als mens(heid) aardig diep gezonken als je het mij vraagt.

[TERW_DAN]

Larissa Janse schreef op woensdag 30 juli 2025 @ 10:55:
Gaan we te ver in het toevertrouwen van complexe taken aan ChatGPT?

Ja. Ik vind van wel.
ChatGPT en alle soortegelijke tools zijn geweldige hulpmiddelen. Maar zoals een oud-werkgever van mij altijd zei "Als je een vraag stelt, moet je het antwoord weten". Ofwel, als je iets vraagt, dan moet je in staat zijn om wat met dat antwoord te kunnen.
En dat gebeurt vaak niet. Mensen nemen alles voor waar aan, weten niet hoe ze dingen als scripts kunnen controleren, of dingen kunnen factchecken. En dat terwijl ChatGPT er vaak genoeg naast zit, zeker als er genoeg bronnen zijn die er ook naast zitten.
Maar als je dat als volle waarheid aanneemt, dan kun je er goed naast zitten.

Daarom geen fan van gebruik van dit soort tools, om het er klakkeloos in te gooien en de output 1 op 1 door te zetten zonder er ook maar naar om te kijken.

En: gebruikt iemand ChatGPT op manieren waarvan je denkt “dit zou eigenlijk niet moeten kunnen”?

Vaak genoeg presentaties voorbij zien komen die overduidelijk gegenereerd zijn, en de betreffende persoon er niets van snapt die het presenteert.

[eric.1]

Een van de oorzaken zal denk ik liggen in de volstrekte overschatting (of onbegrip over) wat Chat GPT en vergelijkbare modellen nu eigenlijk zijn (en wat ze niet zijn). En ja, mijn inziens vertrouwen we er veel te veel op.

Tegenwoordig komt er vaak ook een "AI"-antwoord op een zoekactie op populaire zoek-sites, en ik betrap dat ding er nog wel eens op dat er niets van klopt. Dat terwijl mensen om me heen die antwoorden juist klakkeloos volgen, zelfs voor medische vraagstellingen. En dat is gevaarlijk.

Vooralsnog schuwen wij (als bedrijf) het. We gebruiken het eigenlijk niet, hooguit om wat tests te schrijven. En in open-source projecten valt het ook al snel op wanneer AI is gebruikt...9/10 keer gaat het direct de prullenbak in.

[Spotmatic]

Bij serieuze vragen heeft AI het al gauw fout. Als je ergens zelf een expert in bent, dan herken je dat wel. Veel dingen kloppen dan gewoon niet.

Maar... Ik gebruik AI ook vaak voor in wezen simpele taken, bijvoorbeeld voor het maken van eenvoudige 3D modellen. Ik print regelmatig allerlei kleine onderdelen als kunststof busjes. Zo'n busje beschrijven (lengte X mm, doorsnede X mm, gat van X mm in de lengte precies in het midden, afgeschuinde randen van 1mm), waarna ChatGPT het bestand aanmaakt, gaat al gauw sneller dan zelf een busje tekenen.

[Sissors]

Larissa Janse schreef op woensdag 30 juli 2025 @ 10:55:
Ik merk steeds vaker dat Chat GPT en soortgelijke tools niet alleen worden gebruikt voor simpele dingen zoals samenvattingen of codehulp, maar ook voor serieuzere taken zoals script schrijven, psychologische adviesjes, of zelfs beslissingen in werkprocessen. En niemand lijkt er echt van op te kijken.

Tja die dingen lijken mij problematisch, tegelijk als ik kijk hoe de werkprocessen anders besloten worden, weet ik niet of ChatGPT nou zoveel slechter zou zijn.

[F_J_K]

Klopt, helaas. Dat is van alle tijden. Er zullen vele doden zijn gekomen na uitvinding van de auto, voor men door had dat te snel rijden zonder gordel dodelijk is.

Vooralsnog is het een heel handig tool. Dat heel verkeerd kan worden ingezet en heel verkeerde antwoorden en adviezen kan geven.

[naitsoezn]

TERW_DAN schreef op woensdag 30 juli 2025 @ 11:15:
Vaak genoeg presentaties voorbij zien komen die overduidelijk gegenereerd zijn, en de betreffende persoon er niets van snapt die het presenteert.

So what else is new? Da's echt wel de minst schokkende verandering sinds chat-gpt.

Ach, het is gewoon een fase. Net zo min als wikipedia een serieuze bron is tegenwoordig kun je chatgpt ook niet als serieuze bron gebruiken. Wil je even vluchtig wat opvragen dan is het een prima bron van informatie. Maar er zullen altijd bronnen van informatie zijn die door mensen 'misbruikt' worden om hun eigen bevestiging te zoeken. Eigenlijk is chatgpt daarin helemaal niet nieuw of anders. Het is makkelijker toegankelijk en er zullen op dit moment misschien nog meer mensen een gevoel van betrouwbaarheid hebben maar zoals gezegd: imho is dat gewoon een fase. Zodra 'we' eraan gewend zijn dat je chatgpt met een korreltje zout moet nemen, dan krijgt het vanzelf een plekje.

[ Voor 49% gewijzigd door naitsoezn op 30-07-2025 11:54 ]

[Patriot]

Ik vind deze klachten te vaag. Welke duurzame processen worden er werkelijk vervangen? Welke uitkomst van dergelijke processen is nu aantoonbaar slechter geworden? Welke soort incidenten zien we nu, die we eerst niet zagen? "We" trouwen met AI en "we" gaan naar AI voor psychologisch advies, maar wie zijn dat? Wat zouden die mensen gedaan hebben als dat niet kon?

Er zijn ook mensen die willen trouwen met hun auto. Waarom moet ik me meer zorgen maken om AI dan om auto's?

[downtime]

naitsoezn schreef op woensdag 30 juli 2025 @ 11:50:
[...]

Ach, het is gewoon een fase. Net zo min als wikipedia een serieuze bron is tegenwoordig kun je chatgpt ook niet als serieuze bron gebruiken. Wil je even vluchtig wat opvragen dan is het een prima bron van informatie.

Ik gebruik Wikipedia als "bron". Niet voor een afstudeerscriptie maar in een discussie hier op GoT voer ik gerust een quote van Wikipedia als argument aan. Is daar wat op tegen? Het is een discussie. Als jij andere argumenten met een betere bron hebt dan hoor ik het wel. Maar als startpunt vind ik Wikipedia prima.

Vanochtend nog AI gebruikt om te vragen wat de grootste bandenfabrikant van de VS is (don't ask why) en ik heb het antwoord niet gecheckt. Er is een kans dat ik het verkeerde antwoord heb gekregen maar het ergste wat er kan gebeuren is dat ik nu onjuiste informatie in m'n hoofd heb. Hoe erg is dat nou? Het is niet alsof ik AI om beleggingsadvies heb gevraagd.

Ik vind eerlijk gezegd dat mensen juist te negatief zijn. Wikipedia is niet betrouwbaar of onbetrouwbaar. AI is dat ook niet. Je moet gewoon inschatten voor welke dingen het goed genoeg is. En als het om belangrijke zaken gaat dan moet je betere bronnen zoeken. Want je blijft zelf verantwoordelijk. Als je verkeerde informatie hebt gekregen dan kun je niet naar AI wijzen. Het blijft gewoon je eigen fout.

[Larissa Janse]

TERW_DAN schreef op woensdag 30 juli 2025 @ 11:15:
[...]

Ja. Ik vind van wel.
ChatGPT en alle soortegelijke tools zijn geweldige hulpmiddelen. Maar zoals een oud-werkgever van mij altijd zei "Als je een vraag stelt, moet je het antwoord weten". Ofwel, als je iets vraagt, dan moet je in staat zijn om wat met dat antwoord te kunnen.
En dat gebeurt vaak niet. Mensen nemen alles voor waar aan, weten niet hoe ze dingen als scripts kunnen controleren, of dingen kunnen factchecken. En dat terwijl ChatGPT er vaak genoeg naast zit, zeker als er genoeg bronnen zijn die er ook naast zitten.
Maar als je dat als volle waarheid aanneemt, dan kun je er goed naast zitten.

Daarom geen fan van gebruik van dit soort tools, om het er klakkeloos in te gooien en de output 1 op 1 door te zetten zonder er ook maar naar om te kijken.


[...]


Vaak genoeg presentaties voorbij zien komen die overduidelijk gegenereerd zijn, en de betreffende persoon er niets van snapt die het presenteert.

Ik herken dat risico zeker: dat mensen ChatGPT blind vertrouwen en output gewoon doorzetten zonder begrip of controle. Dat zie je inderdaad steeds vaker, vooral bij studenten of in zakelijke presentaties waar de spreker letterlijk niets lijkt te snappen van wat hij zegt.

Tegelijk vraag ik me dan af: ligt dat aan de tool, of aan het onderwijs/gebruiker? Want je zou kunnen zeggen dat AI juist laat zien wie echt kritisch kan denken – en wie niet. Net zoals Google vroeger.

Misschien wordt de echte vaardigheid straks niet meer “kennis hebben”, maar “de juiste vragen stellen én weten wanneer een antwoord te glad is”.

[TERW_DAN]

Larissa Janse schreef op maandag 4 augustus 2025 @ 12:59:

Misschien wordt de echte vaardigheid straks niet meer “kennis hebben”, maar “de juiste vragen stellen én weten wanneer een antwoord te glad is”.

Dat is natuurlijk al een hele tijd zo, met de komst van internet en zoekmachines is parate kennis aanzienlijk minder noodzakelijk. Je kunt 't immers gewoon opzoeken.
De skill zal vooral zijn waar je het kan vinden, en hoe je je bronnen controleert. Dat was met de info die je van wikipedia afplukte, en nu net zo hard als wat chatGPT je voorschotelt.

[downtime]

Larissa Janse schreef op maandag 4 augustus 2025 @ 12:59:
[...]

Tegelijk vraag ik me dan af: ligt dat aan de tool, of aan het onderwijs/gebruiker? Want je zou kunnen zeggen dat AI juist laat zien wie echt kritisch kan denken – en wie niet. Net zoals Google vroeger.

Misschien wordt de echte vaardigheid straks niet meer “kennis hebben”, maar “de juiste vragen stellen én weten wanneer een antwoord te glad is”.

Zeker. Dat is nu ook al zo met search engines. Ik ken ook mensen die Google gebruiken om informatie te zoeken maar die niet verder kijken dan het eerste resultaat. Werkt het eerste resultaat niet dan denken ze dat de informatie die ze zoeken niet bestaat.

AI geeft gebruikers nu een voordeel tegenover mensen die niet met AI om kunnen gaan. Over een aantal jaren gebruikt iedereen AI en gaan we verschil zien tussen de mensen met de capaciteiten om AI optimaal in te zetten, omdat ze enigszins begrijpen hoe AI werkt, en de mensen die gewoon een kunstje hebben geleerd en niet door de beperkingen van AI heen kunnen kijken.

[Jester-NL]

Op zich is een AI-tool handig... zolang je het als tool gebruikt... en dus niet blindvaart op de uitkomsten.

Ik doe zo af en toe een check, waarbij ik de AI vraag om een de verbanden tussen een stuk of 10 begrippen, name of bedrijven te noemen. Waarbij ik soms iets SUPER-obscuurs toevoeg, of iets dat er helemaal niet bij hoort.
Tot op heden is geen enkele AI geslaagd... Dat wil zeggen: ik krijg bij iedere test een antwoord waarbij een deel van het antwoord volledig onzin is, omdat geen enkele AI op dit moment is staat is (of lijkt) om aan te geven dat iets er niet bij hoort, of dat er niet voldoende informatie te vinden is over iets.
Zelfs als je dat specifiek in je prompt opneemt, zal het initiële antwoord (deel) bij elkaar gehallucineerd zijn...
En zolang dat gebeurd, neem ik IEDER antwoord van een AI met een korrel zout