Geen zorgen, over een jaar of twee heb je genoeg verhalen om het gebruik van AI te ontmoedigen.

[...]
Kunnen we die experimenten/conclusies ook ergens zien of lezen?
Nee, want het is vooral frustratie, N=1, en de experimenten zijn niet formeel noch reproduceerbaar (want fucking AI is altijd random).
Om je een idee te geven, mijn laatste experiment was om een lijst van 25 games te produceren die allemaal moesten voldoen aan 10 zeer expliciete vragen over gameplay/mechanics en waarbij er maar 1 game per serie was toegestaan. Los dat het kwam met games die niet voldeden aan de eisen, heb ik de (in dit geval ChatGPT) er meerdere keren op moeten wijzen dat Portal 1 en Portal 2 in dezelfde serie vallen.
En bij code heb ik het helemaal opgegeven. Zodra je een ongebruikelijk algoritme beschrijft (maar wel in detail) dan nog doet die een "nah, bro, I can do better, watch me!" waarbij het iets doet dat compleet afwijkt maar wel lijkt alsof het werkt. De enige reden waarom het uiteindelijk toch het juiste resultaat produceerde was omdat ik het verbood om unit test aan te passen, en die zelf ging schrijven.
Uiteindelijk heeft het algoritme 12 dagen gekost wat ik zelf binnen een 5 dagen had kunnen schrijven. En de enige reden waarom dat de uiteindelijk versie werkte is omdat ik de laatste 7 dagen het intensief begeleid heb en de AI regelmatig onderbrak wanneer die weer de verkeerde kant uitging.
En dan... Dan heb je nog de vele malen dat AI een tekst/code herschrijft waarbij het de betekenis omdraaide.
En voordat je denkt dat het aan de prompt of input ligt, nee, het is een systematisch probleem waarbij verschillende experts al aangegeven hebben dat het eigenlijk niet op te lossen is tenzij het compleet systeem op zijn kop gaat.[...]
Dat artikel is denk ik niet te lezen? Toont enkel een summary waar verder weinig in staat, over software development sowieso niets.
Vreemd, ik kan het artikel volledig lezen (ook zonder ad-blocker).
Korte versie: AI (in de tech industry waaronder coding) zorgt er vooral voor dat mensen werk doen waar niet om gevraagd wordt, verdeeld hun aandacht (multi-tasking) onnodig waardoor het opgeleverde werk van lagere kwaliteit is, en maakt de werkzaamheden eenzamer waardoor de voordelen die normaal uit interactie ontstaan verdwijnen. De gebruikers van AI verzetten
wel meer werk, maar produceren
niet meer waarde.
[...]
Junioren (of lui zonder enige kennis die gaan vibe coden) die alles op AI inzetten zijn denk ik ook verloren maar als senior weet je denk ik heel goed waar je tijd kunt besparen door t AI te laten doen en waar je echt zelf de handen vies moet maken. De juiste dingen prompten is ook al een hele kunst, want je krijgt wat je vraagt en als dat bagger is komt er ook bagger uit. Het betreffende model scheelt ook enorm.
En dat is de kern van het probleem. Mensen denken dat het kunst is. Nope, het is statisch model waarbij de uiteindelijke prompt bijna altijd random is (
https://www.ibm.com/think/topics/llm-temperature) waardoor verhalen van succes bijna altijd een kern van
Wikipedia: Survivorship bias heeft.
"Doubt—the concern that my views may not be entirely correct—is the true friend of wisdom and (along with empathy, to which it’s related) the greatest enemy of polarization." -- Václav Havel