De Devschuur Coffee Corner - Iteratie ⑬

[CodeCaster]

D4NG3R schreef op donderdag 1 juni 2023 @ 13:33:
Het is vooral belangrijk om het antwoord te copy-pasten, en niet de vraag.

Zonder ongein; is het niet al een hele poos gedaan met die keet? Heb zelf in ieder geval al jaren het idee dat het met de dag meer en meer toxic werd, zowel vanuit andere gebruikers als mods.

Ik vind Stack Overflow een geweldige resource om veelvoorkomende en acute problemen uit te zoeken bij het implementeren van iets. Krijg je een specifieke compiler of runtime error? Heeft C# een nieuwe syntax? Ben je in een nieuw framework aan het duiken en weet je niet welke klasse/hook/functie/plugin je moet gebruiken en is hun documentatie slecht? Is iets van tooling geüpdatet maar stuk? Dan vind je zó je antwoord.

Je moet alleen de antwoorden lezen en de logica daaruit zelf toepassen; 9 van de 10 antwoorden zijn niet geschikt op één op één over te nemen in jouw code. Het performt niet, klopt niet, compileert niet, houdt geen rekening met uitzonderingen die niet (expliciet) in de vraag worden genoemd, enzovoorts. Het is slechts ter inspiratie.

Qua toxiciteit: ik loop er zelf al lang rond, 13 jaar met account waarvan een groot deel actief. Er is een tijd geweest dat álles qua vragen werd toegestaan. Dat is afgenomen; de wat meer "whiteboard"-achtige ontwerpvragen moeten nu op Software Engineering.SE, en dat is behoorlijk dood. Dingen die meer neigen naar systeembeheer of algemene software moeten op Super User.com of Network Engineering.SE worden gesteld.

Ten tijde van die afscheidingen werd het "you suck"-gehalte erg hoog. "What have you tried?" was een van de meest geplaatste comments, en er was een close-vote-optie die luidde "Asker must demonstrate a minimal understanding", die te pas en te onpas werd gebruikt.

Nu leeft er een subset van gebruikers die vindt dat debugging-vragen het enige soort is dat is toegestaan. Dat is niet zo, maar zij doen wel alsof.

Veel van deze frustratie wordt geuit door commenters en down- en closevoters die het onderwerp van de vraag niet leuk vinden (terwijl het onderwerp wél on-topic is), die de vraag niet begrijpen (maar niet begrijpen dat de vraag wel duidelijk is) of die gewoon gefrustreerd zijn met de gang van zaken op de site. Het is moeilijk vechten tegen dit sentiment, maar het is ook moeilijk vechten tegen een bedrijf dat zo min mogelijk mensen voor het hoofd wil stoten, en daarmee neigt naar "alles en iedereen en hun vragen is welkom". Want wat ze daarmee lijken te vergeten of negeren, is dat je zo de experts wegjaagt.

En dan blijf je over met iets als de Microsoft-forums, waar de lamme de blinde leidt en éénoog koning is.

[D4NG3R]

Ik weet het betere er ook niet van hoor, lurk al jaren accountloos rond als ik op iets doms vast zit, gevoelsmatig holt het in ieder geval achteruit onder veel vragen..

Krijg regelmatig plaatsvervangend het idee van 'Goh sorry dat ik de exacte term niet kende en daarom niet precies wist waar ik op moest zoeken, lul.'

Ik heb het idee dat dat hoge elitisme/gatekeeping-gehalte een paar jaar geleden een stuk minder voor kwam, maar dat kan ik maar zo gruwelijk mis hebben. Het valt mij wel op dat veel andere devs welke ik spreek een vergelijkbaar beeld hebben van SO.

[ Voor 33% gewijzigd door D4NG3R op 01-06-2023 14:06 ]

[CodeCaster]

D4NG3R schreef op donderdag 1 juni 2023 @ 13:58:
Ik weet het betere er ook niet van hoor, lurk al jaren accountloos rond als ik op iets doms vast zit, gevoelsmatig holt het in ieder geval achteruit onder veel vragen..

Krijg regelmatig plaatsvervangend het idee van 'Goh sorry dat ik de exacte term niet kende en daarom niet precies wist waar ik op moest zoeken, lul.'

Ik heb het idee dat dat hoge elitisme/gatekeeping-gehalte een paar jaar geleden een stuk minder voor kwam, maar dat kan ik maar zo gruwelijk mis hebben. Het valt mij wel op dat veel andere devs welke ik spreek een vergelijkbaar beeld hebben van SO.

De lompheid verschilt zwaar per tag. Bij C/C++ en PHP zijn ze daar wat meer van, bij JavaScript/RegEx/Git kan echt alles en C#/.NET zit daar tussenin.

Het probleem is gewoon dat een heleboel mensen heel slecht zijn in een duidelijke vraag stellen. Reviewers worden moe van het beoordelen van honderden slechte vragen per dag, en worden steeds kribbiger. Experts hebben geen zin meer om die ene vraag per honderd te vinden die leuk is om te beantwoorden. Dus dan krijg je dat. Op sites als /r/(Learn)Programming wordt zo'n beetje alles toegestaan, en is de kwaliteit van de antwoorden daar ook naar. Dan is het wel veel gezelliger, maar niet bepaald leerzamer...

Ik zeg dus expliciet niet dat ik die lompheid goedkeur, integendeel, maar ik begrijp een beetje waar het vandaan komt. Mensen die niet herkennen dat ze "bored out" zijn en dat dan maar gaan afreageren.

[ThomasG]

Ik snap het probleem van AI op Stack Overflow niet. In de tijden vóór AI stond SO ook vol met zeer slechte, en soms zelfs volledig onjuiste,, antwoorden. Slechter kan het er dus niet van worden.

Zo staat half SO vol met: "specifieke vraag over library X" en als antwoord: "geen idee, ik gebruik library Y en daar doe je het zus en zo".

[CodeCaster]

ThomasG schreef op donderdag 1 juni 2023 @ 15:18:
Ik snap het probleem van AI op Stack Overflow niet. In de tijden vóór AI stond SO ook vol met zeer slechte, en soms zelfs volledig onjuiste,, antwoorden. Slechter kan het er dus niet van worden.

Het hele probleem van GPT is dat antwoorden er zonder enige moeite mee zijn te genereren, er vervolgens overtuigend uitzien, maar dan incorrect blijken. Ik heb een tiental users gevlagd die bij elkaar tot wel honderd antwoorden hebben gepost die nergens op sloegen, maar dan wel in perfect Engels. En dat is alleen wat ik heb gezien.

Het wordt dus wel sneller slechter, want er zijn niet genoeg mensen die die antwoorden kunnen beoordelen.

Zo staat half SO vol met: "specifieke vraag over library X" en als antwoord: "geen idee, ik gebruik library Y en daar doe je het zus en zo".

Half ook echt. Een alternatief aangereikt krijgen is nog altijd beter dan geen antwoord, toch?

[ThomasG]

CodeCaster schreef op donderdag 1 juni 2023 @ 15:36:
[...]

Het hele probleem van GPT is dat antwoorden er zonder enige moeite mee zijn te genereren, er vervolgens overtuigend uitzien, maar dan incorrect blijken. Ik heb een tiental users gevlagd die bij elkaar tot wel honderd antwoorden hebben gepost die nergens op sloegen, maar dan wel in perfect Engels. En dat is alleen wat ik heb gezien.

Het wordt dus wel sneller slechter, want er zijn niet genoeg mensen die die antwoorden kunnen beoordelen.

Het probleem is niet Chat GPT, het probleem is de gebruiker. Vóór ChatGPT stond SO ook vol met slechte antwoorden, vooral bij bijvoorbeeld PHP en Python. Die zijn gewoon door mensen geschreven, en ook gewoon perfect in Engels. Omdat er een aantal mensen zijn die ChatGPT verkeerd gebruiken moet heel het gebruik van A.I. op SO verboden worden?

[Gropah]

ThomasG schreef op donderdag 1 juni 2023 @ 15:59:
[...]
Het probleem is niet Chat GPT, het probleem is de gebruiker. Vóór ChatGPT stond SO ook vol met slechte antwoorden, vooral bij bijvoorbeeld PHP en Python. Die zijn gewoon door mensen geschreven, en ook gewoon perfect in Engels. Omdat er een aantal mensen zijn die ChatGPT verkeerd gebruiken moet heel het gebruik van A.I. op SO verboden worden?

Draai het eens om. Gebruikers zijn op zoek naar een antwoord. Als een ChatGPT voornamelijk met matige tot slechte antwoorden komt, dan is het toch geen raar idee om dat niet meer als bron toe te staan? Net zoals dat sommige sites/bronnen niet meer worden toegestaan op wikipedia of reddit.

Daarbij voelt voor mij een ChatGPT antwoord ook heel erg als een LetMeGoogleThatForYou-linkje. Het is niet echt vriendelijk, en vaak genoeg ook maar matig behulpzaam. En dat kan nogal als een schoffering voelen als je veel tijd en moeite in je vraag hebt gestoken.

[CodeCaster]

ThomasG schreef op donderdag 1 juni 2023 @ 15:59:
[...]
Omdat er een aantal mensen zijn die ChatGPT verkeerd gebruiken moet heel het gebruik van A.I. op SO verboden worden?

Wat mij betreft wel. Als jij ChatGPT wil gebruiken tijdens het ontwikkelen: be my guest. Jij bent verantwoordelijk voor wat jij produceert.

Het genereert, naast wel eens een correct antwoord, ook de grootste bagger. Het wordt op die site gebruikt door mensen die op z'n best junior, hoogstens student of soms niet eens dat zijn. Ze zijn niet in staat om de correctheid van wat er gegenereerd wordt te beoordelen.

Dus dumpen ze het maar op die site, in de hoop op wat upvotes. Dat is voor zelfgeschreven bagger nog tot daar aan toe, maar nogmaals, het gemak en de snelheid waarmee je plausibel klinkende klinkklare onzin kunt laten genereren, laten mij op jouw vraag "ja" zeggen.

Als je zelfgeschreven code bekritiseert (door ofwel een downvote, dan wel geschreven commentaar), dan krijg je soms nog een "oeps, ik fix het" of dat men het antwoord verwijdert. ChatGPT-antwoorders vertrekken na het dumpen met de noorderzon en reageren niet op vragen of feedback. Dat is gewoon niet hoe het werkt, en door dat toe te staan (of beter gezegd: het handhaven daarop te verbieden), racet de site richting afgrond.

Je hebt bij zo'n community een gezonde verhouding nodig tussen oude, ervaren rotten, leergierige mensen, mensen die anderen durven te bekritiseren, mensen die positief omgaan met opbouwende feedback, en mensen die unieke, interessante vragen stellen. Als de hoeveelheid huiswerkdumps, "write this code for me", "help why doesn't this work" en AI-dumpers te groot wordt, hollen de experts dus weg en blijf je met een vuilnisbelt achter.

En wat betreft de slechte antwoorden:


I'm doing my part!

[ Voor 37% gewijzigd door CodeCaster op 01-06-2023 16:24 ]

[Mugwump]

Zilla schreef op donderdag 1 juni 2023 @ 13:28:
Het copy-pasten van Stack Overflow hoeft niet slecht te zijn. Alleen moet je nog steeds wel zelf nadenken wat je precies copy-paste en of het een kans van slagen heeft. Of ben je dan het niveau van copy-paster al voorbij?

Ik heb letterlijk in de guidelines voor het klaarzetten van een MR / PR gezet dat je in het geval van copy-pasten (uit eigen codebase of van Stack Overflow boeit verder niet) altijd moet begrijpen en kunnen uitleggen wat je gecopy-paste hebt en waarom.

[ThomasG]

Gropah schreef op donderdag 1 juni 2023 @ 16:14:
[...]

Draai het eens om. Gebruikers zijn op zoek naar een antwoord. Als een ChatGPT voornamelijk met matige tot slechte antwoorden komt, dan is het toch geen raar idee om dat niet meer als bron toe te staan? Net zoals dat sommige sites/bronnen niet meer worden toegestaan op wikipedia of reddit.

Daarbij voelt voor mij een ChatGPT antwoord ook heel erg als een LetMeGoogleThatForYou-linkje. Het is niet echt vriendelijk, en vaak genoeg ook maar matig behulpzaam. En dat kan nogal als een schoffering voelen als je veel tijd en moeite in je vraag hebt gestoken.

En dat is dus verkeerd ChatGPT gebruik. ChatGPT als "bron" gebruiken is hetzelfde als Wikipedia als bron gebruiken. De SO vraag in ChatGPT plakken, en het antwoord copy-pasten op SO is fout.

Het kan echter ook leiden tot een beter antwoord. Het schrijven van een antwoord gaat toch wat tijd in zitten, en dat hebben veel mensen vandaag de dag niet meer (schijnt). Je kunt dan een korte versie van het antwoord schrijven (bijvoorbeeld een aantal stappen die je moet doorlopen om het op te lossen), en aan ChatGPT vragen om het beter te formuleren, typfouten eruit te halen en bijvoorbeeld wat vriendelijker te maken. Als je het vervolgens naleest of technisch (nog) klopt, is er toch niets aan de hand? Maar dat zou dan ook niet mogen: "want A.I.". Maar het leid wel tot een beter antwoord?

[Gropah]

ThomasG schreef op donderdag 1 juni 2023 @ 16:27:
[...]
En dat is dus verkeerd ChatGPT gebruik. ChatGPT als "bron" gebruiken is hetzelfde als Wikipedia als bron gebruiken. De SO vraag in ChatGPT plakken, en het antwoord copy-pasten op SO is fout.

Het kan echter ook leiden tot een beter antwoord. Het schrijven van een antwoord gaat toch wat tijd in zitten, en dat hebben veel mensen vandaag de dag niet meer (schijnt). Je kunt dan een korte versie van het antwoord schrijven (bijvoorbeeld een aantal stappen die je moet doorlopen om het op te lossen), en aan ChatGPT vragen om het beter te formuleren, typfouten eruit te halen en bijvoorbeeld wat vriendelijker te maken. Als je het vervolgens naleest of technisch (nog) klopt, is er toch niets aan de hand? Maar dat zou dan ook niet mogen: "want A.I.". Maar het leid wel tot een beter antwoord?

Maar hoe denk jij dat de gemiddelde gebruiker van SO ChatGPT gebruikt?

Snel een antwoord laten genereren om hopelijk wat punten binnen te halen en met een shotgun in een ton schieten dat er wel iets aan punten word binnengehaald, of AI als beginpunt om het daarna zelf te verfijnen?

Ik schat dat de gemiddelde gebruiker sneller voor de eerste aanpak gaat.

[Zilla]

Mugwump schreef op donderdag 1 juni 2023 @ 16:25:
[...]


Ik heb letterlijk in de guidelines voor het klaarzetten van een MR / PR gezet dat je in het geval van copy-pasten (uit eigen codebase of van Stack Overflow boeit verder niet) altijd moet begrijpen en kunnen uitleggen wat je gecopy-paste hebt en waarom.

Het lijkt me dat je altijd wel wilt weten wat je code precies doet, ongeacht waar het vandaan komt. Dus goed documenteren wat een wijziging doet is verstandig. Alhoewel het niet te bureaucratisch moet worden anders ben je wel erg lang bezig met een aanpassing.

[Tjolk]

Zijn er mensen in de zaal hier die wel eens naar SymfonyCon geweest zijn? In december is-ie in Brussel, da's voor mij en mijn collega's (allen Brabo's) goed te bereizen.

In het verleden ben ik wel eens naar Dutch PHP Conference geweest en die vond ik echt wel interessant. Sinds corona zijn die alleen nog maar online en dat trekt mij totaal niet. Helaas hebben ze besloten om dat online only te houden.

Is dit een beetje een vergelijkbaar qua opzet/inhoud? Wat ik zo zie is het niet alleen Symfony maar ook wel andere gerelateerde onderwerpen.

https://live.symfony.com/2023-brussels-con/

[CodeCaster]

Tjolk schreef op vrijdag 2 juni 2023 @ 08:39:
Zijn er mensen in de zaal hier die wel eens naar SymfonyCon geweest zijn? In december is-ie in Brussel, da's voor mij en mijn collega's (allen Brabo's) goed te bereizen.

In het verleden ben ik wel eens naar Dutch PHP Conference geweest en die vond ik echt wel interessant. Sinds corona zijn die alleen nog maar online en dat trekt mij totaal niet. Helaas hebben ze besloten om dat online only te houden.

Is dit een beetje een vergelijkbaar qua opzet/inhoud? Wat ik zo zie is het niet alleen Symfony maar ook wel andere gerelateerde onderwerpen.

https://live.symfony.com/2023-brussels-con/

Ik: CodeCaster in "De Devschuur Coffee Corner - Iteratie ⑬".

Voor twee dagen omzet mislopen en kosten voor vervoer, voer en verblijf was het het niet per se waard, maar het was wel gezellig en je hoort weer eens wat nieuws, zoals waar anderen mee bezig zijn.

[GenGF]

CodeCaster schreef op donderdag 1 juni 2023 @ 13:07:
Nou, RIP Stack Overflow.

Meer leesvoer:

Ze zijn weer mooi in het nieuws met die fratsen van het management...

• Stack Overflow volunteer moderators down tools over secret new policy that obstructs removal of AI-generated content (devclass.com)
• Stack Overflow Moderators Are Striking to Stop Garbage AI Content From Flooding the Site (vice.com)
• Stack Overflow Moderators Go on Strike Over ChatGPT and AI Moderation Block (winbuzzer.com

En dan mis ik er nog wel een paar, denk ik.

[RagingPenguin]

D4NG3R schreef op donderdag 1 juni 2023 @ 13:58:
Ik weet het betere er ook niet van hoor, lurk al jaren accountloos rond als ik op iets doms vast zit, gevoelsmatig holt het in ieder geval achteruit onder veel vragen..

Wat denk ik ook niet helpt op SO is dat de hoogtijddagen aan activiteit toch wel voorbij zijn, maar dat veel vragen en antwoorden die populair zijn dat ook bijna altijd blijven staan - ongeacht hoe verouderd ze ondertussen zijn. Ik gebruikte SO vroeger vooral voor web en os gerelateerde vragen, maar zo'n beetje alles wat je daar nu vind loopt achter op de werkelijkheid.

[farlane]

RagingPenguin schreef op maandag 5 juni 2023 @ 19:36:
[...]
Wat denk ik ook niet helpt op SO is dat de hoogtijddagen aan activiteit toch wel voorbij zijn, maar dat veel vragen en antwoorden die populair zijn dat ook bijna altijd blijven staan - ongeacht hoe verouderd ze ondertussen zijn. Ik gebruikte SO vroeger vooral voor web en os gerelateerde vragen, maar zo'n beetje alles wat je daar nu vind loopt achter op de werkelijkheid.

Waar ga je nu naar toe dan?

[Caelorum]

ChatGPT. Werkt net zo goed voor de vragen waarvoor ik altijd op SO kwam. De meer complexe vraagstukken waren de mailing lists en de github repo issues toch altijd al de beste plek de afgelopen jaren.

[farlane]

Caelorum schreef op woensdag 7 juni 2023 @ 15:26:
ChatGPT. Werkt net zo goed voor de vragen waarvoor ik altijd op SO kwam. De meer complexe vraagstukken waren de mailing lists en de github repo issues toch altijd al de beste plek de afgelopen jaren.

Maar, maar, maar AI generated antwoorden was de reden om niet meer naar SO te gaan....

[Caelorum]

Er is een verschil tussen ongevraagd een AI generated antwoord krijgen en er 1 krijgen als je er zelf naar op zoek bent.

[Gropah]

Caelorum schreef op woensdag 7 juni 2023 @ 17:31:
Er is een verschil tussen ongevraagd een AI generated antwoord krijgen en er 1 krijgen als je er zelf naar op zoek bent.

Plus, het auteur van een profiel kun je op waarde oordelen. Een AI geeft vaak geen zekerheidspercentages over de gegeven antwoorden.

[farlane]

Caelorum schreef op woensdag 7 juni 2023 @ 17:31:
Er is een verschil tussen ongevraagd een AI generated antwoord krijgen en er 1 krijgen als je er zelf naar op zoek bent.

Het verschil zit 'em in wie de vraag intikt. Dan komt het dus neer op hoe goed de vraag is gesteld an de AI?

Gropah schreef op woensdag 7 juni 2023 @ 17:44:
[...]
Plus, het auteur van een profiel kun je op waarde oordelen. Een AI geeft vaak geen zekerheidspercentages over de gegeven antwoorden.

Dat is dan toch een nadeel van ChatGPT en een voordeel van SO en dus een reden om niet naar ChatGPT te gaan? Of begrijp ik je niet?

[breew]

de BBQ kan alvast aan. stackoverflow is down...

[Caelorum]

Het zal aan mij liggen, maar ik gebruik het dus echt al een jaar niet meer en zo vaak komt het ook niet meer omhoog in mijn Google bubbel.

[CodeCaster]

Stack Overflow doubles down on AI: We are seeking functional feedback for the formatting assistant

Ze passen een instructie naar ChatGPT à la "formatteer de volgende vraag opnieuw alsof je een Stack Overflow-guru bent: {originele vraag}". En ze noemen het een "formatting assistant"

Probeer het hier zelf: https://stackoverflow.com/questions/ask?suggest=true

De eerste reactie van een user:

Holy hallucinations, Batman:

Er wordt een hele vraag verzonnen op basis van enkel een URL naar een afbeelding. De afbeelding in kwestie heeft niets met de tekst te maken:



Ik heb het ook suggesties laten doen op een van mijn bestaande vragen:



Tsja. Nee.

[ Voor 29% gewijzigd door CodeCaster op 16-06-2023 13:18 ]

[DevWouter]

Zo lang de LLM (in volksmond AI) niet op een vergelijkbare manier als de mens kan redeneren kan het ook geen mens vervangen. Een LLM blijft nu toch niks meer dan een systeem dat kijkt naar de voorgaande tekst en daarop een iteratie maakt door stukken woorden te voorspellen. Als het getraind is op vergelijkbare vragen dan zal het waarschijnlijk een antwoord afronden die vergelijkbaar is met de antwoorden op die vraag.

[BarôZZa]

Ik vind het wel logisch dat Stack Overflow experimenteert met dat soort tools en als ik naar het voorbeeld kijk dat ze zelf geven, dan zie je duidelijk wat de meerwaarde kan zijn. Dat je het kan slopen is vrij logisch natuurlijk en dat het nog niet perfect(of zelfs goed) werkt ook.

Maar AI is een fantastische ontwikkeling. Ik weet niet of mensen hier al serieus ermee geëxperimenteerd hebben, maar ik was aardig onder de indruk van hoe snel ik met ChatGPT al een testproject kon maken. Het voelde een beetje als samenwerken met een programmeur waarbij je moet omschrijven wat je wil, het moet testen en vervolgens weer vertelt wat er anders moet. In veel gevallen kwam ik op betere code (qua formatting en structuur) uit dan voorbeelden uit repo's op het web. Qua functioneren was het nog niet perfect, maar het bracht me een heel eind en als ik zelf een groot stuk code schrijf zonder het te runnen, dan moet ik ook altijd nog nog wel aanpassingen maken voordat het echt goed is. Codekwaliteit was een stuk beter dan van de juniors bij m'n laatste bedrijf.

Als je dan beseft dat we nog maar een paar maandjes onderweg zijn, dan is het niet lastig om te zien waar het heen gaat. Kwestie van tijd voordat je je hele codebase erin kan knallen en het op de juiste plek de wijzigingen maakt als je vraagt om iets aan te passen.

Ik heb bij bedrijven gezeten waar hele teams van programmeurs bezig waren met allemaal kleine wijzigingen te maken voor klanten(tegen flinke bedragen, uurtje factuurtje). Dat soort simpel werk zie ik AI echt op korte termijn al oppakken.

CodeCaster schreef op donderdag 1 juni 2023 @ 13:48:
[...]

Qua toxiciteit: ik loop er zelf al lang rond, 13 jaar met account waarvan een groot deel actief. Er is een tijd geweest dat álles qua vragen werd toegestaan. Dat is afgenomen; de wat meer "whiteboard"-achtige ontwerpvragen moeten nu op Software Engineering.SE, en dat is behoorlijk dood. Dingen die meer neigen naar systeembeheer of algemene software moeten op Super User.com of Network Engineering.SE worden gesteld.

Ten tijde van die afscheidingen werd het "you suck"-gehalte erg hoog. "What have you tried?" was een van de meest geplaatste comments, en er was een close-vote-optie die luidde "Asker must demonstrate a minimal understanding", die te pas en te onpas werd gebruikt.

Nu leeft er een subset van gebruikers die vindt dat debugging-vragen het enige soort is dat is toegestaan. Dat is niet zo, maar zij doen wel alsof.

Dat was natuurlijk ook hier op Tweakers het geval waardoor je amper nieuwe topics hebt in het devschuur subforum. Beginners mochten niks vragen, want dan werden ze afgekat door de gatekeepers. In plaats van een levendig forum waarbij iedereen elkaars vragen beantwoordt krijg je dan een dode plek.

Wat dat betreft is zoiets als ChatGPT natuurlijk wel goud. Die probeert in ieder geval op een zo beschaafd mogelijke manier je vraag te beantwoorden.

[CodeCaster]

BarôZZa schreef op vrijdag 16 juni 2023 @ 13:58:
Ik vind het wel logisch dat Stack Overflow experimenteert met dat soort tools en als ik naar het voorbeeld kijk dat ze zelf geven, dan zie je duidelijk wat de meerwaarde kan zijn.

Nou nou, het kan code formatteren. En tekst vernachelen, alle creatieve vrijheid eruitmeppen.

Maar AI is een fantastische ontwikkeling.

Ik wil niet zo zijn van "AI bad amirite", maar het (ChatGPT) zuigt momenteel nog bijzonder hard.

Ik weet niet of mensen hier al serieus ermee geëxperimenteerd hebben, maar ik was aardig onder de indruk van hoe snel ik met ChatGPT al een testproject kon maken.

Zeer uitgebreid: van definities, teksten en vertalingen tot samenvattingen, oplossingen voor specifieke programmeervraagstukken, uitleg van code.

Voor tekstverwerking werkt het goed. Voor programmeren minder. Soms werkt het goed, vaak zitten er subtiele maar fundamentele fouten in. Zie ook: Visual Studio, CoPilot.

Als je dan beseft dat we nog maar een paar maandjes onderweg zijn, dan is het niet lastig om te zien waar het heen gaat.

Men is al tientallen jaren bezig. Ik heb, gezien de input en output, het gevoel dat we nu op 80% zitten en dat de laatste 20% naar ver- en diepgaande inzetbaarheid nog wel eens decennia kan duren.

Kwestie van tijd voordat je je hele codebase erin kan knallen en het op de juiste plek de wijzigingen maakt als je vraagt om iets aan te passen.

Ik heb bij bedrijven gezeten waar hele teams van programmeurs bezig waren met allemaal kleine wijzigingen te maken voor klanten(tegen flinke bedragen, uurtje factuurtje). Dat soort simpel werk zie ik AI echt op korte termijn al oppakken.

Tsja, vervangbaar werk is vervangbaar. Als iemand al een issue heeft getikt met "op scherm X moet knop Y nu Z doen", dan zou dat zomaar geautomatiseerd kunnen worden. Misschien ook niet.

Dat was natuurlijk ook hier op Tweakers het geval waardoor je amper nieuwe topics hebt in het devschuur subforum. Beginners mochten niks vragen, want dan werden ze afgekat door de gatekeepers. In plaats van een levendig forum waarbij iedereen elkaars vragen beantwoordt krijg je dan een dode plek.

Wat dat betreft is zoiets als ChatGPT natuurlijk wel goud. Die probeert in ieder geval op een zo beschaafd mogelijke manier je vraag te beantwoorden.

En dat is nu net het hele probleem met die hype: de vraagsteller weet ten eerste niet wat die niet weet en hoe die diens vraag moet stellen; daarnaast weet die doorgaans niet hoe een goed antwoord eruitziet.

Misschien compileert het, en misschien voert het ook nog uit. Maar is het goede code? Houdt het rekening met edgecases die misschien niet expliciet genoemd zijn, maar die iemand met énige ervaring kan bedenken wel verwerkt in diens antwoord en/of code?

Mensen die de vraag in GPT plakken en het antwoord terugcopypasten naar Stack Overflow doen en kunnen dat ook niet.

Dus nee, ik ben na ondertussen een jaar gebruik van GPT-achtigen (nogmaals: CoPilot, Visual Studio IntelliCode, ChatGPT) nog niet bijzonder onder de indruk. Wellicht blaast Claude+ me omver, maar daartoe ben ik nog niet toegelaten.

[Caelorum]

Ach het presteert vooralsnog vergelijkbaar met een heel team geoutsourcete Indiërs. Niet bijster hoge kwaliteit, maar het verrast me soms wel wat de output is.

Ik gebruik het momenteel voor het genereren van user stories, paar zinnen erin klappen en je krijgt een hele US met nagenoeg alles wat ik wil. Klein beetje verbeteren en weer door. Stukken sneller dan zelf alles uittypen.

Verder vraag ik het wel eens wat code te genereren, dat is dan meer een template. Vanuit 2-3 zinnen kan die een hele bulk uittypen, wat me gewoon tijd bespaart. Dat het niet 100% werkt klopt dan wel, maar dat is ook niet het doel. Die laatste 10% kan ik dan nog wel even snel doen/verbeteren.

Copilot en ChatGPT4 zijn in ieder geval bijzonder goed in het templaten

[ Voor 5% gewijzigd door Caelorum op 16-06-2023 14:34 ]

[Verwijderd]

Zo heb ik met co pilot binary search in json objects mogelijk maakt. De meeste binary search is een lijst met strings en je krijgt de index dan terug. In mijn geval scanned die json objects en retourneerd een object. De eerste tests wijzen uit dat ie gemiddeld 1 msec over 1 object retourneren doet. Ook dat process kan nog geoptimaliseerd worden als die lijsten moet teruggeven, zeg 30 stuks kost nu 30 msec, ik denk dat we naar 2/3 msec gaan voor 30 (met index jumps) en dan krijg je dus 3/30 = 0,1 msec per object. En dat in php (lekker snel)

[Marc3l]

Maak de laatste tijd ook vaker gebruik van ChatGPT. voor een nieuwe klus moet ik een spa maken met Vue js. Ik heb alleen ervaring met Vue js in Laravel en heb (en wil) geen lokale node js draaien.

Gebruik Docker dus op zoek (Google) hoe ik dit kon opzetten. Kwam bij een node image uit en express js als webserver.
Dan ga ik altijd wat proberen (als ik vastloop weer verder zoeken enz) om het werkend te krijgen. Uiteindelijk ook wel gelukt. Maar dacht daarna, kan chatGPT dit ook.

Gevraagd om een docker-compose project te genereren om vue-cli te gebruiken om Vue te renderen en een container/service met express js als webserver. En aangegeven dat ik lokaal node js niet heb draaien. Dat doet hij prima.

Enige wat fout ging is dat hij in de Docker service de npm packages moest installeren maar ik heb lokaal geen node js. Dus aangegeven en gaf toen netjes het commando op een tijdelijke Docker container te starten om de packages te installeren.

Dus zie chatGPT eigenlijk als iemand die voor mij Googled. Ik zou zelf ook wel achter de informatie kunnen komen maar laat ChatGPT nu voor mij doen.

Co-pilot is wat wisselend, ene keer krijg ik goede suggesties en andere keer denk ik hoe kom je hier nou weer bij.

[BarôZZa]

CodeCaster schreef op vrijdag 16 juni 2023 @ 14:22:
[...]

Nou nou, het kan code formatteren. En tekst vernachelen, alle creatieve vrijheid eruitmeppen.


[...]

Ik wil niet zo zijn van "AI bad amirite", maar het (ChatGPT) zuigt momenteel nog bijzonder hard.


[...]

Zeer uitgebreid: van definities, teksten en vertalingen tot samenvattingen, oplossingen voor specifieke programmeervraagstukken, uitleg van code.

Voor tekstverwerking werkt het goed. Voor programmeren minder. Soms werkt het goed, vaak zitten er subtiele maar fundamentele fouten in. Zie ook: Visual Studio, CoPilot.

Dat heb je ook als mensen eraan werken. Generative AI gaat veel verder dan code formatten. Je formuleert simpelweg wat je wil hebben en dat ding maakt het. En niet alleen op functieniveau. Je vraagt aan ChatGPT of het een Tetris game wil maken in Javascript, vervolgens genereert het een gehele game. Je runt het in de browser en vraagt vervolgens om quickdrop te implementeren of het SRS, waarbij het weet dat je het Super Rotation System bedoelt. Of als er een bug is dan geef je dat aan en probeert hij het aan te passen.

Werkt het perfect? Nog niet, maar de potentie is er om het vak van programmeur geheel op z'n kop te zetten.

[...]

Men is al tientallen jaren bezig. Ik heb, gezien de input en output, het gevoel dat we nu op 80% zitten en dat de laatste 20% naar ver- en diepgaande inzetbaarheid nog wel eens decennia kan duren.

Het laatste jaar is het heel hard gegaan. De generative AI is echt heel iets anders dan wat we de jaren ervoor hadden. Kan best dat het nog een tijdje gaat duren, maar ik denk juist dat we in een stroomversnelling zijn geraakt doordat de markt nog open ligt en juist iedereen weet dat de huidige oplossingen nog verre van perfect zijn. Er liggen dus enorme kansen als je die weet te tacklen.

[...]

En dat is nu net het hele probleem met die hype: de vraagsteller weet ten eerste niet wat die niet weet en hoe die diens vraag moet stellen; daarnaast weet die doorgaans niet hoe een goed antwoord eruitziet.

Misschien compileert het, en misschien voert het ook nog uit. Maar is het goede code? Houdt het rekening met edgecases die misschien niet expliciet genoemd zijn, maar die iemand met énige ervaring kan bedenken wel verwerkt in diens antwoord en/of code?

Mensen die de vraag in GPT plakken en het antwoord terugcopypasten naar Stack Overflow doen en kunnen dat ook niet.

Dus nee, ik ben na ondertussen een jaar gebruik van GPT-achtigen (nogmaals: CoPilot, Visual Studio IntelliCode, ChatGPT) nog niet bijzonder onder de indruk. Wellicht blaast Claude+ me omver, maar daartoe ben ik nog niet toegelaten.

Als AI de code voor me schrijft en ik met m'n ervaring erdoorheen moet gaan dan is dat nog steeds een stuk sneller dan alles zelf doen. Het idee dat we tegenwoordig iets kunnen vragen en een AI genereert iets wat erop lijkt is in mijn ogen meer dan indrukwekkend. De meest indrukwekkende ontwikkeling van de laatste decennia als je het mij vraagt. Eigenlijk sinds het internet.

[RayNbow]

BarôZZa schreef op vrijdag 16 juni 2023 @ 21:05:
[...] Of als er een bug is dan geef je dat aan en probeert hij het aan te passen.

Je bedoelt, het taalmodel probeert zich er doorheen te bullshitten? Het probleem is dat het taalmodel geen enkel besef heeft of het in staat is om een geldig antwoord te geven.

Werkt het perfect? Nog niet, maar de potentie is er om het vak van programmeur geheel op z'n kop te zetten.

Zolang GPT geen kaas heeft gegeten van waarnemingsrekening zal er voor mij qua programmeerwerkzaamheden niet veel veranderen.

[CodeCaster]

BarôZZa schreef op vrijdag 16 juni 2023 @ 21:05:
[...]


Dat heb je ook als mensen eraan werken. Generative AI gaat veel verder dan code formatten. Je formuleert simpelweg wat je wil hebben en dat ding maakt het. En niet alleen op functieniveau. Je vraagt aan ChatGPT of het een Tetris game wil maken in Javascript, vervolgens genereert het een gehele game. Je runt het in de browser en vraagt vervolgens om quickdrop te implementeren of het SRS, waarbij het weet dat je het Super Rotation System bedoelt. Of als er een bug is dan geef je dat aan en probeert hij het aan te passen.

Werkt het perfect? Nog niet, maar de potentie is er om het vak van programmeur geheel op z'n kop te zetten.


[...]

Het laatste jaar is het heel hard gegaan. De generative AI is echt heel iets anders dan wat we de jaren ervoor hadden. Kan best dat het nog een tijdje gaat duren, maar ik denk juist dat we in een stroomversnelling zijn geraakt doordat de markt nog open ligt en juist iedereen weet dat de huidige oplossingen nog verre van perfect zijn. Er liggen dus enorme kansen als je die weet te tacklen.


[...]

Als AI de code voor me schrijft en ik met m'n ervaring erdoorheen moet gaan dan is dat nog steeds een stuk sneller dan alles zelf doen. Het idee dat we tegenwoordig iets kunnen vragen en een AI genereert iets wat erop lijkt is in mijn ogen meer dan indrukwekkend. De meest indrukwekkende ontwikkeling van de laatste decennia als je het mij vraagt. Eigenlijk sinds het internet.

Je haalt nu verschillende dingen door elkaar.

1. Stack Overflow gebruikt ChatGPT nu in een pilot om vragen opnieuw te formatteren. Dat vernachelt de volledige tekst.
2. Mensen die van toeten noch blazen weten gebruiken ChatGPT om vragen op Stack Overflow te beantwoorden, terwijl de vraag onduidelijk of incompleet is, en/of de copy-paster de vraag noch het gegenereerde antwoord begrijpt, en de output om vele redenen ongeldig is.
3. Met de juiste prompt kun je inderdaad best een simpele samenvatting eruit krijgen, of een correctie van foute code. Dat ontkracht geen enkel punt van 1 of 2.

[BarôZZa]

CodeCaster schreef op vrijdag 16 juni 2023 @ 23:50:
[...]

Je haalt nu verschillende dingen door elkaar.

1. Stack Overflow gebruikt ChatGPT nu in een pilot om vragen opnieuw te formatteren. Dat vernachelt de volledige tekst.
2. Mensen die van toeten noch blazen weten gebruiken ChatGPT om vragen op Stack Overflow te beantwoorden, terwijl de vraag onduidelijk of incompleet is, en/of de copy-paster de vraag noch het gegenereerde antwoord begrijpt, en de output om vele redenen ongeldig is.
3. Met de juiste prompt kun je inderdaad best een simpele samenvatting eruit krijgen, of een correctie van foute code. Dat ontkracht geen enkel punt van 1 of 2.

1. Ja, daarom is het een pilot. En het zijn suggesties, je hoeft ze niet te accepteren als het de tekst vernachelt. Het is een tool om je te helpen om vragen beter te formuleren. Net als dat ik bij een spellingschecker/auto complete ook een verkeerde suggestie niet accepteer.

En als de kinderziektes eruit gehaald kunnen worden, dan is prima te zien waarom het een nuttige tool kan zijn.
2. Copy-pasta troepantwoorden zijn altijd een probleem geweest op SO. Als iemand vraagt om Javascript krijgen ze copy-paste Jquery troep. Uit eindelijk komt hopelijk het beste antwoord naar boven, maar vaak ook niet. En soms zou je willen dat ze iets hadden gecopypaste of ChatGPT hadden gebruikt omdat ze een zelfgemaakte niet werken spaghetti hackfix neerplempen
3. Ik probeer niks te ontkrachten, geef alleen aan dat er meerdere kanten aan zitten en vind het logisch dat ze het doen. De geest is al uit de fles. Je kan nu teksten laten genereren door ChatGPT en je gaat niet tegenhouden dat mensen dat in een text area plakken en submitten. Praktisch onmogelijk om dat eruit te vissen.

[CodeCaster]

BarôZZa schreef op zaterdag 17 juni 2023 @ 10:18:
[...]

1. Ja, daarom is het een pilot. En het zijn suggesties, je hoeft ze niet te accepteren als het de tekst vernachelt. Het is een tool om je te helpen om vragen beter te formuleren. Net als dat ik bij een spellingschecker/auto complete ook een verkeerde suggestie niet accepteer.

En als de kinderziektes eruit gehaald kunnen worden, dan is prima te zien waarom het een nuttige tool kan zijn.

Zo'n 95% van de vragen wordt gesteld door mensen die het Engels amper machtig zijn, of die eigenlijk niet weten waar hun probleem precies ligt.

Die mensen gaan elke door GPT voorgestelde tekst accepteren, omdat het allergrootste probleem is dat het zeer overtuigend in foutloos Engels je probleem herschrijft, terwijl het probleem helemaal niet duidelijk is. Jij en ik negeren misschien wel eens een suggestie van de spellcheck, maar legio mensen accepteren klakkeloos wat er voor ze gegenereerd wordt.

Het gaat vragen schrijven die niet gesteld zijn, het gaat zinnen onnodig verbouwen, het suggereert dingen die de vraagsteller niet begrijpt. Dat zijn geen kinderziektes, dat is een fundamenteel probleem.

2. Copy-pasta troepantwoorden zijn altijd een probleem geweest op SO. Als iemand vraagt om Javascript krijgen ze copy-paste Jquery troep. Uit eindelijk komt hopelijk het beste antwoord naar boven, maar vaak ook niet. En soms zou je willen dat ze iets hadden gecopypaste of ChatGPT hadden gebruikt omdat ze een zelfgemaakte niet werken spaghetti hackfix neerplempen

Met ChatGPT is het oneindig veel makkelijker om perfect lijkende antwoorden te genereren die de plank volledig misslaan. Dat onbeperkt toestaan zorgt voor een aanwas van antwoorden die niemand meer kan controleren.

Een antwoord à la "try this [niet-werkende code]" is al snel te ontkrachten, maar een perfecte woordenbrij waaraan niet valt te tornen terwijl hetgeen er getoond wordt gewoon niet klopt, maakt dat lastiger.

Het klopt dat er te weinig wordt gedownvotet, maar dat krijg je ervan als dat als beledigend wordt ervaren.

3. Ik probeer niks te ontkrachten, geef alleen aan dat er meerdere kanten aan zitten en vind het logisch dat ze het doen. De geest is al uit de fles. Je kan nu teksten laten genereren door ChatGPT en je gaat niet tegenhouden dat mensen dat in een text area plakken en submitten. Praktisch onmogelijk om dat eruit te vissen.

Ik ben zeer bedreven in het eruitpikken van ChatGPT-gebruikers. Het is een zeer typerende schrijfwijze. Ik zeg niet dat ik ze allemaal herken, maar als iemand in tien minuten tien antwoorden post in perfect Engels (maar nogmaals, de vraag eigenlijk helemaal niet beantwoorden) terwijl ze in hun posts van de drie jaar daarvoor niet één keer een shift, punt of komma hebben ingedrukt, tsja...

[ Voor 3% gewijzigd door CodeCaster op 17-06-2023 12:45 ]

[Vihaio]

RayNbow schreef op vrijdag 16 juni 2023 @ 21:23:
[...]

Je bedoelt, het taalmodel probeert zich er doorheen te bullshitten? Het probleem is dat het taalmodel geen enkel besef heeft of het in staat is om een geldig antwoord te geven.


[...]

Grappig om al dat antropomorfisme bij Chat-gpt te zien. Je weet dat het model geen besef heeft, maar denkt wel dat het zich ergens doorheen probeert te lullen. Als Chat-gpt met een raar antwoord komt, wordt er vaak geroepen dat het aan ‘t hallucineren is.
Je zou van programmeurs verwachten dat ze weten dat totaal niet is hoe llms werken, maar de praktijk blijkt toch heel anders.

[Oon]

Vihaio schreef op zaterdag 17 juni 2023 @ 15:19:
[...]


Grappig om al dat antropomorfisme bij Chat-gpt te zien. Je weet dat het model geen besef heeft, maar denkt wel dat het zich ergens doorheen probeert te lullen. Als Chat-gpt met een raar antwoord komt, wordt er vaak geroepen dat het aan ‘t hallucineren is.
Je zou van programmeurs verwachten dat ze weten dat totaal niet is hoe llms werken, maar de praktijk blijkt toch heel anders.

Het probleem zit 'm in de term hallucineren, denk ik. Daarmee heb je het idee dat hij nieuwe informatie bedenkt, maar dat is dan weer net niet wat er gebeurt. Hij probeert met kennis die hij heeft van wat er allemaal mogelijk en het liefst (semi-)relevant is het gat te dichten.

Als je dus een antwoord krijgt dat niet klopt en zegt van 'hé dit klopt niet, leg eens uit hoe je dit antwoord hebt gekregen', krijg je vaak een antwoord dat een leek zo zou geloven omdat het allemaal plausibel en soort van relevant klinkt, maar dat gewoon verkeerd is toegepast of verkeerde aannames doet, omdat de bron waar het uit komt niet specifiek genoeg was.

[RayNbow]

Vihaio schreef op zaterdag 17 juni 2023 @ 15:19:
[...]


Grappig om al dat antropomorfisme bij Chat-gpt te zien. Je weet dat het model geen besef heeft, maar denkt wel dat het zich ergens doorheen probeert te lullen.

Dat laatste denk ik niet, maar antropomorfisme maakt het mogelijk om sommige dingen korter en/of krachtiger op te schrijven.

Het taalmodel is zodanig getraind, dat een tekst produceren dat op een antwoord lijkt beter werd beloond dan een tekst produceren waarin gezegd wordt "ik weet het niet". Op die manier lijkt een chatbot zich te gedragen als een scholier die voor elke tentamenvraag maar iets invult: niet geschoten is altijd mis.

[Mugwump]

Kennelijk heeft een of andere grappenmaker een vulnerability gemeld in versie 2.15.x de Jackson library voor JSON (de)serialization. De makers van de library zijn het er niet helemaal mee eens aan de comments op hun eigen github te zien:

Whoever filed CVE https://www.mend.io/vulnerability-database/CVE-2023-35116 should go fuck themselves.

[DevWouter]

Mugwump schreef op maandag 19 juni 2023 @ 09:08:
Kennelijk heeft een of andere grappenmaker een vulnerability gemeld in versie 2.15.x de Jackson library voor JSON (de)serialization. De makers van de library zijn het er niet helemaal mee eens aan de comments op hun eigen github te zien:


[...]

Het lijkt er inderdaad op dat men nu steeds vaker en onnodig het verkeerd gebruik van iets als een bug gebruikt.

Kwam een tijdje terug dit verhaal tegen: https://daniel.haxx.se/blog/2023/06/12/nvd-damage-continued/ waarbij men een super specifiek bug als een 9 scoorde maar het uiteindelijk met veel moeite de andere partij kon overtuigen dat het maximaal een 5.9 is en dat is met een zeer negatieve bril.

[Mugwump]

DevWouter schreef op maandag 19 juni 2023 @ 10:02:
[...]


Het lijkt er inderdaad op dat men nu steeds vaker en onnodig het verkeerd gebruik van iets als een bug gebruikt.

Kwam een tijdje terug dit verhaal tegen: https://daniel.haxx.se/blog/2023/06/12/nvd-damage-continued/ waarbij men een super specifiek bug als een 9 scoorde maar het uiteindelijk met veel moeite de andere partij kon overtuigen dat het maximaal een 5.9 is en dat is met een zeer negatieve bril.

Ja hier is het ook een incorrecte report. Het zou erom gaan dat er een DoS attack gedaan kan worden met een bepaalde string omdat die tot een stack overflow zou leiden.

Dat is echter helemaal niet waar. Wat wordt gerapporteerd is dat wanneer je er zelf een recursieve datastructuur ingooit (dus een lijstje met zichzelf als element feitelijk), dan krijg je een stackoverflow. Maar dat is heel wat anders.

[Ryada]

Vihaio schreef op zaterdag 17 juni 2023 @ 15:19:
[...]


Grappig om al dat antropomorfisme bij Chat-gpt te zien. Je weet dat het model geen besef heeft, maar denkt wel dat het zich ergens doorheen probeert te lullen. Als Chat-gpt met een raar antwoord komt, wordt er vaak geroepen dat het aan ‘t hallucineren is.
Je zou van programmeurs verwachten dat ze weten dat totaal niet is hoe llms werken, maar de praktijk blijkt toch heel anders.

Veel mensen snappen ook niet dat het model geen besef heeft. Programmeurs komen ook in alle soorten en maten, hoe vaak ik mensen dingen moet uitleggen die voor mij vanzelf sprekend zijn en andersom blijft mij altijd herinneren dat niemand alles weet en we allemaal onze beperkingen hebben.
Voor de 1 is Chat-GPT ook heel fijn omdat die persoon het als een tool gebruikt, de andere persoon kan er een hekel aan hebben omdat die het als een lifeline ziet en blind accepteerd wat het geeft.

[CodeCaster]

Vihaio schreef op zaterdag 17 juni 2023 @ 15:19:
[...]


Grappig om al dat antropomorfisme bij Chat-gpt te zien. Je weet dat het model geen besef heeft, maar denkt wel dat het zich ergens doorheen probeert te lullen. Als Chat-gpt met een raar antwoord komt, wordt er vaak geroepen dat het aan ‘t hallucineren is.
Je zou van programmeurs verwachten dat ze weten dat totaal niet is hoe llms werken, maar de praktijk blijkt toch heel anders.

Ik denk dat dit een te pedante voorstelling van zaken is. ChatGPT is zwaar getuned door mensen. Het is niet alsof men met een uitspraak als "hij verzint onzin" ChatGPT plots een persoonlijkheid, gender en zelfs intelligentie (of de afwezigheid daarvan) toedicht.

Met "er doorheen proberen te lullen" wordt dan uiteraard ook bedoeld dat het model dusdanig is geconfigureerd dat het de voorkeur heeft om tekst te blijven genereren, in plaats van te outputten "dat weet ik niet".

[Caelorum]

Het is sowieso een onzindiscussie. Als je wilt bepalen of ChatGPT een persoonlijkheid of intelligentie heeft wens ik je veel success. We zijn er na decennia nog steeds niet achter of die zaken iets nodig hebben dat inherent onmogelijk is zelf te maken of dat het simpelweg een gevolg is van een heel complet if/then/else netwerk (en ons beperkt vermogen tot het begrijpen van dat resultaat en de versimpeling die wij automatisch maken ervan).

Of om het zo te zeggen:
Ik praat geregeld met een offshore team. ChatGPT snapt beter wat ik zeg, geeft betere en accuratere antwoorden en is meer natuurgetrouw en logischer in vervolgvragen dan sommigen in dat team. Ik zou zelfs zeggen dat ChatGPT meer persoonlijkheid en intelligentie toont dan een aantal in dat team. Dus waar zit het hem nou dat ChatGPT dan minder menselijk zou zijn in gedrag dan die mensen in het team? Gebaseerd puur op de interactie met het ding wordt het een lastig verhaal.

(En nee ik zeg hier niet dat het leeft. Persoonlijk denk ik dat het daarvoor een feedbackloop nodig heeft waarbij alle interacties ook realtime teruggekoppeld moet worden het model in. Maar ik denk dat, even los van de haalbaarheid daarvan, je daar voorzichtig mee moet zijn.)

[DevWouter]

Mugwump schreef op maandag 19 juni 2023 @ 11:18:
[...]


Ja hier is het ook een incorrecte report. Het zou erom gaan dat er een DoS attack gedaan kan worden met een bepaalde string omdat die tot een stack overflow zou leiden.

Dat is echter helemaal niet waar. Wat wordt gerapporteerd is dat wanneer je er zelf een recursieve datastructuur ingooit (dus een lijstje met zichzelf als element feitelijk), dan krijg je een stackoverflow. Maar dat is heel wat anders.

Ik had hem gelezen. Ik zou het enigzins logisch vinden als het probleem ontstond bij het parsen als er data aangeleverd werd met een recursieve verwijzing, maar het gaat hier om het serializeren.

En je kan niet alle bugs van de dev-user opvangen.

[DevWouter]

Caelorum schreef op maandag 19 juni 2023 @ 13:43:
Het is sowieso een onzindiscussie. Als je wilt bepalen of ChatGPT een persoonlijkheid of intelligentie heeft wens ik je veel success. We zijn er na decennia nog steeds niet achter of die zaken iets nodig hebben dat inherent onmogelijk is zelf te maken of dat het simpelweg een gevolg is van een heel complet if/then/else netwerk (en ons beperkt vermogen tot het begrijpen van dat resultaat en de versimpeling die wij automatisch maken ervan).

Of om het zo te zeggen:
Ik praat geregeld met een offshore team. ChatGPT snapt beter wat ik zeg, geeft betere en accuratere antwoorden en is meer natuurgetrouw en logischer in vervolgvragen dan sommigen in dat team. Ik zou zelfs zeggen dat ChatGPT meer persoonlijkheid en intelligentie toont dan een aantal in dat team. Dus waar zit het hem nou dat ChatGPT dan minder menselijk zou zijn in gedrag dan die mensen in het team? Gebaseerd puur op de interactie met het ding wordt het een lastig verhaal.

(En nee ik zeg hier niet dat het leeft. Persoonlijk denk ik dat het daarvoor een feedbackloop nodig heeft waarbij alle interacties ook realtime teruggekoppeld moet worden het model in. Maar ik denk dat, even los van de haalbaarheid daarvan, je daar voorzichtig mee moet zijn.)

Dat is omdat ChatGPT kijkt naar jouw schrijfstijl en daarop voorspelt wat het volgende word is, dus dat sluit sneller aan als iemand een compleet andere schrijfstijl heeft. Het klinkt in mijn oren dat je een gesprek kan voeren over wat beide kunnen doen om te zorgen dat de communicatie beter verloopt. Waarschijnlijk ergert de andere zich ook dat die zich niet verstaanbaar kan maken.

[Caelorum]

DevWouter schreef op maandag 19 juni 2023 @ 13:56:
[...]
Dat is omdat ChatGPT kijkt naar jouw schrijfstijl en daarop voorspelt wat het volgende word is, dus dat sluit sneller aan als iemand een compleet andere schrijfstijl heeft. Het klinkt in mijn oren dat je een gesprek kan voeren over wat beide kunnen doen om te zorgen dat de communicatie beter verloopt. Waarschijnlijk ergert de andere zich ook dat die zich niet verstaanbaar kan maken.

Mooie aannames. Je mag invullen wat je wil, maar dat is helaas niet de situatie. Ik weet heel goed hoe een taalmodel als ChatGPT werkt. Deze ontwikkelaars zullen daarnaast ongetwijfeld een stuk beter overkomen als zij goed Engels zouden kunnen of ik goed Hindi. Ik ben daarnaast prima in staat een goed gesprek te voeren met ze in hun gebrekkig Engels. Dat maakt het gesprek alleen niet soepeler dan met ChatGPT. Daarnaast heeft ChatGPT het regelmatig wel bij het goede eind en deze ontwikkelaars met hun half jaar aan werkervaring helaas niet.

Hoe dan ook was dat het hele punt niet. Als je wilt gaan discussiëren over of iets leeft of niet of wel of geen intelligentie/persoonlijkheid heeft, mag je eerst die begrippen gaan definiëren. En hou er dan ook rekening mee met de outliers bij mensen zoals degene met zware vormen van autismel, leerstoornissen, dementie e.d. Er zijn best wat vlakken waarop ChatGPT duidelijk door de mand valt IMO, maar ik snap best dat voor sommigen het ding lijkt alsof het leeft. Iets met spreekwoorden over eenden en zo.

Zolang we het er nog niet eens over eens kunnen zijn of bomen intelligent zijn of niet is het hopeloos om te oordelen over een taalmodel als dit. (Sommige bomen communiceren met elkaar via de wortels en/of geur).

[ Voor 6% gewijzigd door Caelorum op 19-06-2023 14:31 ]

[ThomasG]

Caelorum schreef op maandag 19 juni 2023 @ 14:29:
[...]

Zolang we het er nog niet eens over eens kunnen zijn of bomen intelligent zijn of niet is het hopeloos om te oordelen over een taalmodel als dit. (Sommige bomen communiceren met elkaar via de wortels en/of geur).

Wat een dooddoener. Dit gebeurt bij alles waarbij onderling verschillende definities van een woord gehanteerd worden. Daarom is het ook erg belangrijk om van begin af aan te zorgen dat iedereen het over hetzelfde heeft.

[RayNbow]

Caelorum schreef op maandag 19 juni 2023 @ 14:29:
Als je wilt gaan discussiëren over of iets leeft of niet of wel of geen intelligentie/persoonlijkheid heeft, mag je eerst die begrippen gaan definiëren.

Ik weet niet of een definitie nuttig zal zijn, zeker niet een binaire definitie, maar iets als ChatGPT lijkt intelligent over te komen in bepaalde situaties omdat het gegeven antwoord lijkt te komen van iemand die je vraag begrijpt.

Maar zelf zou ik ChatGPT niet bijster intelligent noemen. Het kan veel kennis oplepelen en deels generaliseren, maar het zou helpen als een systeem ook kan reflecteren en geproduceerde stellingen kan toetsen (en het liefst voordat het de stelling poneert). Zie bijv. een interactie als hieronder:


Ook bijv. de redenering in de eerste reactie in onderstaande screenshot rammelt:

[Caelorum]

ThomasG schreef op maandag 19 juni 2023 @ 15:14:
[...]
Wat een dooddoener. Dit gebeurt bij alles waarbij onderling verschillende definities van een woord gehanteerd worden. Daarom is het ook erg belangrijk om van begin af aan te zorgen dat iedereen het over hetzelfde heeft.

Uiteraard, maar voor een abstract concept als deze is het wel wat lastiger. Dat kan je ook merken aan de discussie hier.

RayNbow schreef op maandag 19 juni 2023 @ 15:15:
[...]

Ik weet niet of een definitie nuttig zal zijn, zeker niet een binaire definitie, maar iets als ChatGPT lijkt intelligent over te komen in bepaalde situaties omdat het gegeven antwoord lijkt te komen van iemand die je vraag begrijpt.

Maar zelf zou ik ChatGPT niet bijster intelligent noemen. [...]

Oh ik ook niet. De "intelligentie" komt geheel van wat het heeft weten te abstraheren van bronnen zonder het te vernaggelen.
Of om de eerste zin van de wikipedia pagina te pakken.

[...]Intelligentie is een mentale eigenschap met veel verschillende functies zoals de mogelijkheid overeenkomsten en verschillen op te merken in waarnemingen, zich in de ruimte te oriënteren, te redeneren, plannen te maken, problemen te doorgronden en op te lossen, in abstracties te denken, ideeën en taal te begrijpen en te produceren, informatie op te slaan in het geheugen en daar weer uit op te halen en te leren van ervaringen[...]

Alles in dikgedrukt kan het systeem sowieso niet, de andere wel al is het vaak in (zeer) beperkte mate.

Maar het is ook maar net hoe hoog je de lat legt. Ik vind het ding best intelligent, zoals ik een muis intelligent vind. Het is zeker niet van het niveau van een gemiddeld mens in generieke settings, maar in specifieke settings/voor specifieke taken is het intelligent genoeg (of vertoond het intelligent genoeg gedrag) dat het bruikbaarder is dan toch wel een aantal persoon die ik in professionele setting tegen ben gekomen.

[DevWouter]

ThomasG schreef op maandag 19 juni 2023 @ 15:14:
[...]
Wat een dooddoener. Dit gebeurt bij alles waarbij onderling verschillende definities van een woord gehanteerd worden. Daarom is het ook erg belangrijk om van begin af aan te zorgen dat iedereen het over hetzelfde heeft.

CC @Caelorum

Dierenpsychologen zien ook elke keer de definitie van menselijke intelligent verschoven worden wanneer een dier voldoet aan de definitie. Zal waarschijnlijk ook met AI gaan gebeuren zelfs wanneer de AI singularity al lang en breed achter ons ligt.

[RagingPenguin]

DevWouter schreef op maandag 19 juni 2023 @ 21:19:
[...]


CC @Caelorum

Dierenpsychologen zien ook elke keer de definitie van menselijke intelligent verschoven worden wanneer een dier voldoet aan de definitie. Zal waarschijnlijk ook met AI gaan gebeuren zelfs wanneer de AI singularity al lang en breed achter ons ligt.

"any sufficiently advanced technology algorithm is indistinguishable from magic intelligence"

[ThomasG]

Caelorum schreef op maandag 19 juni 2023 @ 16:44:
[...]

Uiteraard, maar voor een abstract concept als deze is het wel wat lastiger. Dat kan je ook merken aan de discussie hier.

Het is zeker lastig. Maar eigenlijk wel essentieel. Zulke dingen zien wij namelijk dagelijks op de werkvloer, met klanten, etc. etc. Niet per se over het woord "intelligentie", het kan van alles zijn. Er ontstaat een discussie, misverstand, of zelfs een (groot) probleem. En dan blijkt meestal dat het allemaal voorkomen had kunnen worden als alle partijen over hetzelfde spraken. Zelfs bij hele eenvoudige woorden kunnen mensen soms al een totaal andere interpretatie hebben. Persoon A heeft definieert het als X, en persoon B als Y. Ze hebben beide gelijk met hun definitie, maar zijn het met elkaar oneens omdat ze in feite gewoon langs elkaar heen praten. Daarom stellen wij ook altijd vast wat er, in de context van het project, mee bedoeld wordt.

[.oisyn]

https://neal.fun/password-game/

[CurlyMo]

.oisyn schreef op dinsdag 27 juni 2023 @ 21:11:
https://neal.fun/password-game/

Ik loop al direct vast op:

code:

The digits in your password must add up to 25.

Een 2 en een 23 in het wachtwoord werkt niet. Ook niet een aap2+23mies als wachtwoord.

[.oisyn]

23 is een getal. De *digits* moeten optellen tot 25. Dus bijvoorbeeld 997.

[CurlyMo]

.oisyn schreef op dinsdag 27 juni 2023 @ 21:40:
23 is een getal. De *digits* moeten optellen tot 25. Dus bijvoorbeeld 997.

Precies, dit werkt voor dat criterium wel:

code:

1,2,3,4,5,6,4

[.oisyn]

Die komma's hoeven dus niet he

[CurlyMo]

.oisyn schreef op dinsdag 27 juni 2023 @ 21:41:
Die komma's hoeven dus niet he

Klopt, geef me mijn proces om de regels te begrijpen

[gekkie]

Nah Rule 11 .. wordle .. tijd om af te haken, zo erg is zelfs de password poiicy op de day job niet.

[CurlyMo]

gekkie schreef op dinsdag 27 juni 2023 @ 21:45:
Nah Rule 11 .. wordle .. tijd om af te haken, zo erg is zelfs de password poiicy op de day job niet.

about

Zojuist succesvol opgelost

[.oisyn]

OMG, het is het echt waard om even door te spelen naar rule 20

[MatHack]

.oisyn schreef op dinsdag 27 juni 2023 @ 21:54:
OMG, het is het echt waard om even door te spelen naar rule 20

LOL @ stap 20, deed uiteindelijk het langst over de chess move notatie.

[.oisyn]

MatHack schreef op dinsdag 27 juni 2023 @ 23:55:
[...]


LOL @ stap 20, deed uiteindelijk het langst over de chess move notatie.

Ja same here. Ik zag de zet wel maar het duurde even voor ik doorhad dat ik er ook een + achter moest zetten vanwege schaak

[RedFox]

Ben niet zo'n schaker, dus had de boel even gesimuleerd op chess.com

[CodeCaster]

.oisyn schreef op dinsdag 27 juni 2023 @ 21:54:
OMG, het is het echt waard om even door te spelen naar rule 20

RIP Paul

[ Voor 89% gewijzigd door CodeCaster op 28-06-2023 11:25 ]

[Caelorum]

Zal me wel vergissen, maar volgens mij is vandaag de combinatie van rule 9 en 11 onmogelijk aangezien er geen negatieve nummers bestaan in het Romeinse cijfersysteem en je met de fracties ook niet heel ver komt.

[.oisyn]

Caelorum schreef op woensdag 28 juni 2023 @ 11:38:
Zal me wel vergissen, maar volgens mij is vandaag de combinatie van rule 9 en 11 onmogelijk aangezien er geen negatieve nummers bestaan in het Romeinse cijfersysteem en je met de fracties ook niet heel ver komt.

Welke letters van het Wordle woord van vandaag is dan een Romeins cijfer?
Oh wacht, je schrijft het in hoofdletters. Niet doen dus

Als je de captcha bedoelt, die kun je refreshen he

[ Voor 12% gewijzigd door .oisyn op 28-06-2023 11:43 ]

[Rhip]

Caelorum schreef op woensdag 28 juni 2023 @ 11:38:
Zal me wel vergissen, maar volgens mij is vandaag de combinatie van rule 9 en 11 onmogelijk aangezien er geen negatieve nummers bestaan in het Romeinse cijfersysteem en je met de fracties ook niet heel ver komt.

Of het wordle woord niet in all caps schrijven

[Caelorum]

.oisyn schreef op woensdag 28 juni 2023 @ 11:39:
[...]

Welke letters van het Wordle woord van vandaag is dan een Romeins cijfer?
Oh wacht, je schrijft het in hoofdletters. Niet doen dus :P[...]

oh fuck...

Als je de captcha bedoelt, die kun je refreshen he

nee, bedoelde de combinatie van dat woord en de cijfers optellen naar 35.

[.oisyn]

Caelorum schreef op woensdag 28 juni 2023 @ 11:45:

nee, bedoelde de combinatie van dat woord en de cijfers optellen naar 35.

Ja maar de captcha kan ook interfereren met die regel.

[Caelorum]

.oisyn schreef op woensdag 28 juni 2023 @ 11:50:
[...]


Ja maar de captcha kan ook interfereren met die regel.

ahja, klopt, maar die had ik al laten regenereren.

[MatHack]

Had gisteren in een poging ook ruzie met een aantal regels toen ik bij de vraag over het periodieke stelsel kwam, oa de Romeinse cijfers en het land hadden elementen in zich... En bij die poging kwam ik al over het gevraagde atomaire getal heen.

[.oisyn]

Het land hoeft ook niet in hoofdletters . Kwa Romeinse cijfers heb je natuurlijk altijd V en VII (de enige twee factoren van 35), dus dat zijn minstens het element Vanadium (V, 23) en Jodium (I, 53), en dat 2x als je geen andere kleine letters erachter zet wat het andere elementen maakt (Ir is alweer 77)

[CodeCaster]

.oisyn schreef op woensdag 28 juni 2023 @ 12:10:
Het land hoeft ook niet in hoofdletters . Kwa Romeinse cijfers heb je natuurlijk altijd V en VII (de enige twee factoren van 35), dus dat zijn minstens het element Vanadium (V, 23) en Jodium (I, 53), en dat 2x als je geen andere kleine letters erachter zet wat het andere elementen maakt (Ir is alweer 77)

XXXV werkte ook, het hoeft niet te vermenigvuldigen?

[Ealanrian]

.oisyn schreef op dinsdag 27 juni 2023 @ 21:54:
OMG, het is het echt waard om even door te spelen naar rule 20

nu is het wachten tot iemand hiervan z'n password policy maakt

[Caelorum]

CodeCaster schreef op woensdag 28 juni 2023 @ 11:24:
[...]


RIP Paul

....

[CodeCaster]

Caelorum schreef op woensdag 28 juni 2023 @ 12:36:
[...]

....

Ik zat op mobiel.

[ZpAz]

Ik zit al vast bij rule 14. Ik weet niet of het elk dag hetzelfde land is. Maar het doet mij op zijn minst mediterraans aan en heb elk land in en om de zee al geprobeerd. Van de embed url wordt ik ook niet wijzer, hoopte dat ik daar coordinaten in zou zien.

[Caelorum]

ZpAz schreef op woensdag 28 juni 2023 @ 12:39:
Ik zit al vast bij rule 14. Ik weet niet of het elk dag hetzelfde land is. Maar het doet mij op zijn minst mediterraans aan en heb elk land in en om de zee al geprobeerd. Van de embed url wordt ik ook niet wijzer, hoopte dat ik daar coordinaten in zou zien.

Ik vermoed dat random gekozen wordt bij aanvraag bij google. Tenzij je een Arabisch bolwerk voor je hebt?

[ZpAz]

Caelorum schreef op woensdag 28 juni 2023 @ 12:42:
[...]

Ik vermoed dat random gekozen wordt bij aanvraag bij google. Tenzij je een Arabisch bolwerk voor je hebt?

Ik had ook al een aantal arabische landen geprobeerd. Ik zie zowel een kerktoren (voornamelijk door het kruis, de bouwstijl kon een minaret zijn) als volgens mij minaretten.

[Caelorum]

ZpAz schreef op woensdag 28 juni 2023 @ 12:44:
[...]


Ik had ook al een aantal arabische landen geprobeerd. Ik zie zowel een kerktoren (voornamelijk door het kruis, de bouwstijl kon een minaret zijn) als volgens mij minaretten.

[Afbeelding]

[Afbeelding]

Dat is een andere dan die ik had, maar ik vermoed Israel en dan zelfs zeer waarschijnlijk Jeruzalem.

[ZpAz]

Caelorum schreef op woensdag 28 juni 2023 @ 12:45:
[...]

Dat is een andere dan die ik had, maar ik vermoed Israel en dan zelfs zeer waarschijnlijk Jeruzalem.

Ah. Had die al gedaan, maar had puntjes op de ë. Thanks.

Eerder tell aviv dan denk ik, als ik rond kijk, ik zit aan het water

[ Voor 14% gewijzigd door ZpAz op 28-06-2023 12:49 ]

[Caelorum]

ZpAz schreef op woensdag 28 juni 2023 @ 12:47:
[...]
Ah. Had die al gedaan, maar had puntjes op de ë. Thanks.

Engels he


Ik had net 1 of ander ding in Kuwait. Kon beperkt rondlopen, maar had er geen snars aan. Uiteindelijk maar een lijst met moslimlanden opgezocht aangezien het een vrij typische bouwstijl was. Zijn er gelukkig niet zoveel in het middenoosten

[ Voor 40% gewijzigd door Caelorum op 28-06-2023 12:49 ]

[Caelorum]

ZpAz schreef op woensdag 28 juni 2023 @ 12:47:
[...]
Eerder tell aviv dan denk ik, als ik rond kijk, ik zit aan het water

Klinkt logischer. Dacht dat Jeruzalem ook een meer had, maar zie inderdaad dat het dichtstbijzijnde stuk water wel even wat uit de buurt ligt.

[.oisyn]

Wat mij wel hielp is het zoeken naar een landmark (berg oid) en dan een google image search doen.

CodeCaster schreef op woensdag 28 juni 2023 @ 12:20:
[...]

XXXV werkte ook, het hoeft niet te vermenigvuldigen?

Ah ja duh, 35 zelf is natuurlijk ook een deler

[ Voor 18% gewijzigd door .oisyn op 28-06-2023 12:59 ]

[CodeCaster]

RIP Paul again.

[.oisyn]

CodeCaster schreef op woensdag 28 juni 2023 @ 13:00:
RIP Paul again.

[Afbeelding]

Goed om te weten dat het dus geen zin heeft om van tevoren een video uit te zoeken

[Caelorum]

Je kan overigens filteren op de duur bij YouTube dus zou niet heel moeilijk moeten zijn.

[Caelorum]

.oisyn schreef op woensdag 28 juni 2023 @ 12:59:
Wat mij wel hielp is het zoeken naar een landmark (berg oid) en dan een google image search doen.
[...]

Screenshot maken en de foto er gewoon meteen in knallen.

[.oisyn]

Caelorum schreef op woensdag 28 juni 2023 @ 13:20:
[...]

Screenshot maken en de foto er gewoon meteen in knallen.

Ik snap je reactie niet. Dat is hoe ik het doe, ja. Maar het is denk ik handig als je screenshot iets herkenbaars bevat

[ Voor 12% gewijzigd door .oisyn op 28-06-2023 13:31 ]

[Caelorum]

.oisyn schreef op woensdag 28 juni 2023 @ 13:30:
[...]
Ik snap je reactie niet. Dat is hoe ik het doe, ja. Maar het is denk ik handig als je screenshot iets herkenbaars bevat

Gewoon de hele foto doen?

[.oisyn]

Caelorum schreef op woensdag 28 juni 2023 @ 13:43:
[...]

Gewoon de hele foto doen?

Je kunt draaien he, het is een 360 view.

[Caelorum]

.oisyn schreef op woensdag 28 juni 2023 @ 13:44:
[...]

Je kunt draaien he, het is een 360 view.

Oh kon ik niet. Alleen naar 5 vaste punten.

[armageddon_2k1]

Bij jullie Teams ook lekker down?

[Caelorum]

armageddon_2k1 schreef op woensdag 28 juni 2023 @ 14:11:
Bij jullie Teams ook lekker down?

nope, helaas

[armageddon_2k1]

Niet refreshen dan ;-)

[.oisyn]

PAUL WAS OVERFED

[.oisyn]

Caelorum schreef op woensdag 28 juni 2023 @ 13:20:
Je kan overigens filteren op de duur bij YouTube dus zou niet heel moeilijk moeten zijn.

Niet op exacte duur. Je hebt 3 categorieën, dat is het

.edit: fuck, video gevonden, zit er een C in de URL

[ Voor 10% gewijzigd door .oisyn op 28-06-2023 21:01 ]