LLMs en de negatieve effecten ervan

[LangeTreeDorpie]

De frontier bedrijven zijn constant bezig met bangmakerij alsof ze een of ander monster aan het ontwikkelen zijn met (fake?) breakouts/hacks, human replements, dystopian worlds, etc. Als ze binnenkort hun IPO gaan doen moet natuurlijk wel het idee leven dat groots is wat zij aan het ontwikkelen zijn. Maar ondertussen hebben ze de meest efficiente cash-oven in de geschidernis gemaakt (https://isaiprofitable.com/). Meer dan 1T dollar gone.. (Met dat geld hadden we ook climaat verandering kunnen aanpakken, ik noem maar wat)

Als we nou eens goed kijken wat er vandaag de dag echt gemaakt is, en niet naar de bangmakerij kijken. Dan zien we dat heel de USA vol met blokkendozen gebouwd wordt, met peperdure hardware, die letterlijk geen usecase heeft mocht dit LLM avontuur falen. Het gebruikt zoveel energie en water dat het voor de lokale bevolking de Kwh prijs keer 3 is gegaan. Het verspreid enorm veel desinformatie en maakt het internet een grote slop vuilnisbelt. De hyperscalers zijn momenteel zoveel aan het lenen omdat ze geen liquide meer hebben. Moet je het effect eens kijken op de US treasuries (https://www.cnbc.com/quotes/US10Y, https://www.cnbc.com/quotes/US30Y). Dit duppelt door in heel de economie, ook voor nederlanders die een hypotheek willen. Ook de hardware prijzen vliegen omhoog, dat raak ons als tweakers dan weer Zo zijn er nog veel meer negatieve effecten.

Zelf denk ik dat ze gewoon een nieuwe advertentie machine aan het bouwen zijn die nog gerichter ads aan de gebruikers kan voorschotelen. Eigenlijk waar die bedrijven toch al mee bezig waren voor LLMs.

(Ja ik ben een software engineer, en ja ik heb toegang tot de nieuwste claude modelen, en ja ik gebruik ze dagelijks. Makkelijke taken, zoals logs analyseren doen ze enorm goed. Maar complexe taken en onderhoudbare code generenen, nee)

Ik ben altijd wel een beetje sceptisch, maar ben erg benieuwd wat anderen van mijn mening denken en ik vind het ook belangrijk dat er naar de negative kant wordt gekeken van deze ontwikkeling!

Mijn vraag is, hoe lang willen we hier nog mee doorgaan als samenleving en wanneer bereiken we een break-even punt waar het verder ontwikkelen van deze LLMs niet meer opweegt tegen de negatieve effecten? En ik zou graag willen weten wat jullie nog allemaal als negatieve effecten zien

[ Voor 3% gewijzigd door LangeTreeDorpie op 01-10-2026 12:33 ]

[dmantione]

Kan dit zo doorgaan? Nee. OpenAI zou er financieel behoorlijk slecht voorstaan. Over Oracle zegt dit nieuwsbericht genoeg:

https://www.dutchitleader...-nog-niet-operationeel-is

Anthropic lijkt er iets beter voor te staan en SpaceX heeft voorlopig nog gelovigen die bereid zijn er geld in te werpen.

Kunstmatige intelligentie is een enorme milieuramp en iedere hoop dat klimaatdoelen gehaald gaan worden kun je uit je hoofd zetten.

Maar, omdat de zaak onhoudbaar is gaat er een enorme financiële crisis komen. Kunstmatige intelligentie gaat niet verdwijnen, maar er zal overblijven wat rendabel is. In dat opzicht denk ik dat China nu al gewonnen heeft: Hun bedrijven hebben enorm veel minder geïnvesteerd en hun KI heeft veel minder rekenkracht nodig zonder dat het slechter is.

[GarBaGe]

LangeTreeDorpie schreef op donderdag 1 oktober 2026 @ 11:56:
...Mijn vraag is, hoe lang willen we hier nog mee doorgaan als samenleving en wanneer bereiken we een break-even punt waar het verder ontwikkelen van deze LLMs niet meer opweegt tegen de negatieve effecten?...

Dat is een vrij simpele vraag.
Alle AI bedrijven zitten enorm in de schulden met cirkel financiering.
Op een gegeven moment moeten de schulden toch betaald gaan worden uit opbrengsten die (kennelijk) nog niet hoog genoeg zijn. (ROI)
Zelf een $200 p.m. abo is niet genoeg, dus is er nu ook een $500 p.m. abo.
Uiteindelijk klapt de bubbel en blijft er 5% over.
Met de laatste trends van enshitification wordt iedereen nu lekker gemaakt met AI, zodat je straks daar een mooi abonnement voor kan afsluiten.

[Ernemmer]

Ik denk niet dat je het alleen over de negatieve effecten moet hebben in een topic, want meestal zitten er ook positieve kanten aan iets.

Je moet dit zien als zakelijke oplossing, als een ai straks 90% van de vragen aan een helpdesk goed kan oplossen, misschien zelfs met inlogrechten op systemen van je bedrijf met 10000 werknemers, dan kan je zo 10-20 ETF ontslaan. Als die ai dan 20k per maand kost scheelt dat nog steeds een berg geld.

Ik gebruik het nu ook steeds vaker, gewoon een 100 euro abonnement en het scheel me nu al zo'n 20 uur per maand.
Moet je nagaan wat een ai over een jaar of 5 kan een hoe efficiënt het dan kan werken.

En je krijgt nu al veel sneller veel beter resultaat tov een jaar geleden, dat scheelt tijd en rekenkracht.

[ Voor 22% gewijzigd door Ernemmer op 01-10-2026 13:17 ]

[dmantione]

Dat 100-euro-abonnement gaat de komende periode dus met een factor 10 á 20 omhoog moeten om de kosten te dekken. Mogelijk vind je 20 uur werkbesparing dan nog steeds de moeite, misschien vind je het dan te duur. Zeker is dat die bedrijfsmodellen zoals ze nu zijn onhoudbaar zijn.

[LangeTreeDorpie]

GarBaGe schreef op donderdag 1 oktober 2026 @ 13:06:
[...]

Zelf een $200 p.m. abo is niet genoeg, dus is er nu ook een $500 p.m. abo.
Uiteindelijk klapt de bubbel en blijft er 5% over.
Met de laatste trends van enshitification wordt iedereen nu lekker gemaakt met AI, zodat je straks daar een mooi abonnement voor kan afsluiten.

Precies! Vooral door dit argument blijf ik sceptisch. Want zoals ik het nu zie als software engineer kan ik heeft mijn breincapaciteit outsourcen en het mogelijk iets sneller programeren als voorheen. Maar hierdoor ben en blijf ik afhankelijk van de LLMs om vervolg aanpassingen aan mijn code te maken. En hoe groter het project wordt, des te meer tokens je nodig hebt om het project in je LLM context te laden.

Ik zie dit op mijn werk op veel plekken gebeuren, mensen die absoluut niet meer zelf nadenken en er duizenden AI credits tegenaan gooien. Ik vind dit erg schrijnend om te zien. Want wie zegt dat LLMs niet nog veel duurder in de toekomst gaan worden en wie gaat dan die POC-like code opruimen en onderhouden. Binnen mijn afdeling zijn alle managers en hoger nog steeds van je moet LLMs overal voor gebruiken. Mijn collega's sporen ook iedereen aan om het te gebruiken. Misschien ben ik te pessimistisch, of LLM ontkenner maar ik wil gewoon niet afhankelijk worden van iets daar voornamelijk in de handen van US big tech is.

Mensen zeggen mij wel eens; van joh komt allemaal goed, we gaan gewoon zelf opensource LLMs hosten. Maar ik zie daar voorlopig geen toekomst in. Hardware is te onbetaalbaar om genoeg compute capaciteit te kopen om een "slim" model te draaien en dan hebben we het nog niet eens over operational costs gehad.

Verder geloof ik er wel in dat deze techniek een usecase heeft en in de toekomst zal blijven bestaan. Maar het geld wat er in omgaat en de manier dat mensen (en vooral CEOs) erover praten is gewoon echt ver van de huidige realiteit.

[GarBaGe]

LangeTreeDorpie schreef op donderdag 1 oktober 2026 @ 14:14:
[...]
Ik zie dit op mijn werk op veel plekken gebeuren, mensen die absoluut niet meer zelf nadenken en er duizenden AI credits tegenaan gooien. Ik vind dit erg schrijnend om te zien. Want wie zegt dat LLMs niet nog veel duurder in de toekomst gaan worden en wie gaat dan die POC-like code opruimen en onderhouden. Binnen mijn afdeling zijn alle managers en hoger nog steeds van je moet LLMs overal voor gebruiken. Mijn collega's sporen ook iedereen aan om het te gebruiken. Misschien ben ik te pessimistisch, of LLM ontkenner maar ik wil gewoon niet afhankelijk worden van iets daar voornamelijk in de handen van US big tech is.
...

Een beetje codebase gaat langer mee dan een AI hype van 2 jaar.
Idealiter is degene die de main code schrijft NIET degene die de tests schrijft (op basis van TDD) en NIET degene die de review doet.
Je kan AI/LLM inzetten, maar dan hooguit op 1 van deze 3 plekken.
Anders keurt de slager zijn eigen vlees.

[LangeTreeDorpie]

GarBaGe schreef op donderdag 1 oktober 2026 @ 14:27:
[...]

Een beetje codebase gaat langer mee dan een AI hype van 2 jaar.
Idealiter is degene die de main code schrijft NIET degene die de tests schrijft (op basis van TDD) en NIET degene die de review doet.
Je kan AI/LLM inzetten, maar dan hooguit op 1 van deze 3 plekken.
Anders keurt de slager zijn eigen vlees.

Ik ben het 100% met je eens, maar je wil niet weten hoe wild-west het er op sommige plekken aan toe gaat.

Ja die AI hype gaat pas 2 jaar mee, maar die ramt er zoveel code uit dat normaal 10 jaar zou duren. Dus ja codebases gaan in zeer rap tempo van 100% human code naar ver onder de 50%. Mensen worden lui als ze 1000 regels LLM code moeten review en stampen gewoon op de approve knop en mergen maar. Sommige projecten zijn tegenwoordig zelf alleen nog maar markdown (instructies voor LLMs om code te genereren). Maar bedenk dit scenario eens:

Wat als de tester ook de opdracht krijgt om LLMs te gebruiken?
Wat als de review ook wordt gedaan door LLM-assisted reviews?
En wat als de system integrator ook de opdracht krijgt om LLMs te gebruiken?

Wat ik hier zeg zie ik gewoon met eigen ogen gebeuren. En wie is er hier nu verantwoordelijk voor de bugs? Niemand voelt zich aangesproken/owner.

[ Voor 6% gewijzigd door LangeTreeDorpie op 01-10-2026 14:38 ]

[dmantione]

Voorbeeldje van vandaag:

code:

procedure classificeer_stijl(idx: integer);
var
  bi: integer;
begin
  with stijlen[idx] do
  begin
    categorie := 0;
    if not is_pt_naam(naam) then
      exit;
    if familie = 'text' then
    begin
      if length(props) = 0 then
        categorie := 2;
    end
    else if familie = 'paragraph' then
    begin
      if lijst_stijl <> '' then
        categorie := 3
      else if (length(props) = 0) and (length(tabstops) = 0) then
        categorie := 1
      else if (length(props) = 0) and (length(tabstops) > 0) then
      begin
        bi := vind_benoemd(parent);
        if (bi >= 0) and tabstops_subset(tabstops, nbenoemd[bi].tabstops) then
          categorie := 1;
      end;
    end;
  end;
end;

In bovenstaande code gebruikt de KI een integer als enumeratie, en nog erger: Ook een string als enumeratie. Alhoewel C-programmeurs niet anders weten dan integers als enumeratie te gebruiken, doen zij dat tenminste nog met symbolische constanten. Waarden hardcoderen is erg dubieus. Nadat ik de KI op zijn donder gaf:

code:

procedure classificeer_stijl(idx: integer);
var
  bi: integer;
begin
  with stijlen[idx] do
  begin
    categorie := cat_onbepaald;
    if not is_pt_naam(naam) then
      exit;
    if familie = fam_text then
    begin
      if length(props) = 0 then
        categorie := cat_tekst;
    end
    else if familie = fam_paragraph then
    begin
      if lijst_stijl <> '' then
        categorie := cat_lijst
      else if (length(props) = 0) and (length(tabstops) = 0) then
        categorie := cat_alinea
      else if (length(props) = 0) and (length(tabstops) > 0) then
      begin
        bi := vind_benoemd(parent);
        if (bi >= 0) and tabstops_subset(tabstops, nbenoemd[bi].tabstops) then
          categorie := cat_alinea;
      end;
    end;
  end;
end;

Opgelost. Dit voorbeeld is erg sympomatisch voor het gebruik van KI voor programmeertaken: Ja, de KI kan programmeren en levert een werkend programma af. Echter, het is nog altijd essentieel om de gegenereerde code tot in detail te lezen en te begrijpen, ik ben daarom enorm sceptisch over vibe-coden: Je moet nog steeds met een programmeursgeest naar de code kijken en zorgen dat die onderhoudbaar wordt, alleen het schrijfwerk neemt de KI je uiteindelijk uit handen (in veel gevallen nog steeds zinvol). Uiteindelijk zijn hardgecodeerde waarden net zo verwarrend voor een KI als voor een menselijke programmeur.

Voorlopig hoeven programmeurs dan ook nog niet voor hun baan te vrezen.

[ Voor 3% gewijzigd door dmantione op 01-10-2026 15:06 ]

[LangeTreeDorpie]

Echter, het is nog altijd essentieel om de gegenereerde code tot in detail te lezen en te begrijpen, ik ben daarom enorm sceptisch over vibe-coden: Je moet nog steeds met een programmeursgeest naar de code kijken en zorgen dat die onderhoudbaar wordt, alleen het schrijfwerk neemt de KI je uiteindelijk uit handen (in veel gevallen nog steeds zinvol). Uiteindelijk zijn hardgecodeerde waarden net zo verwarrend voor een KI als voor een menselijke programmeur.

Voorlopig hoeven programmeurs dan ook nog niet voor hun baan te vrezen.

Ja volledig mee eens en ik ben ook zeker niet bang voor mijn baan (paar jaar geleden wel een beetje). Maar we komen in een tijd dat niemand zich meer bekend voelt in een code base. Alsof het is geschreven door een collega die alweer ergens anders werkt.

Ik ben vooral bang dat we jaren aan code aan het vergallen zijn en dat er weer jaren nodig is om alle vibe coded trash op te ruimen. Dan hebben we gewoon niks bereikt met die hele avontuur. In plaats van al die tokens die ik per maand krijg, heb ik liever een extra collega

[LangeTreeDorpie]

Ernemmer schreef op donderdag 1 oktober 2026 @ 13:11:
Ik gebruik het nu ook steeds vaker, gewoon een 100 euro abonnement en het scheel me nu al zo'n 20 uur per maand.
Moet je nagaan wat een ai over een jaar of 5 kan een hoe efficiënt het dan kan werken.

En je krijgt nu al veel sneller veel beter resultaat tov een jaar geleden, dat scheelt tijd en rekenkracht.

Even voor jouw usecase (zag dat je bouwkundig ingenieur bent op je profiel ) Vind je het niet spannend om een LLM iets te laten berekenen? LLMs beweren het 100% bij het rechte eind te hebben, maar werkelijk is dat 80%. Die overige 20% van de keren, maakt die fouten. Lijkt me best kritiek in de bouw

[ Voor 23% gewijzigd door LangeTreeDorpie op 01-10-2026 14:52 ]

[Ernemmer]

dmantione schreef op donderdag 1 oktober 2026 @ 13:29:
Dat 100-euro-abonnement gaat de komende periode dus met een factor 10 á 20 omhoog moeten om de kosten te dekken. Mogelijk vind je 20 uur werkbesparing dan nog steeds de moeite, misschien vind je het dan te duur. Zeker is dat die bedrijfsmodellen zoals ze nu zijn onhoudbaar zijn.

Tegen de tijd dat het duurder zou moeten worden zal het ook beter zijn en sneller werken en heb je er dus minder van nodig.

[Ernemmer]

LangeTreeDorpie schreef op donderdag 1 oktober 2026 @ 14:51:
[...]

Even voor jouw usecase (zag dat je bouwkundig ingenieur bent op je profiel ) Vind je het niet spannend om een LLM iets te laten berekenen? LLMs beweren het 100% bij het rechte eind te hebben, maar werkelijk is dat 80%. Die overige 20% van de keren, maakt die fouten. Lijkt me best kritiek in de bouw

Ik laat de LLM niks berekenen, ik gebruik het om plugins voor Revit te maken die voor mij veel dagelijkse taken overnemen.
- aanmaken tekeningen
- kopieren tekeningen
- printen in batch
- parameters beheren
- links en werksets beheren
etc.

Ik ben nu bezig met iets wat voor mij de maatvoering op de tekening kan zetten, dan scheelt het mij nog weer een uur of 4 per week. En dit is iets wat de LLM niet hoeft te berekenen, Revit kan alleen juiste maatvoering weergeven.

En verder gebruik ik het voor hobby, browser plugins, kleine html programmaatjes en dat soort dingen.

[ Voor 6% gewijzigd door Ernemmer op 01-10-2026 14:57 ]

[LangeTreeDorpie]

Ernemmer schreef op donderdag 1 oktober 2026 @ 14:51:
[...]

Tegen de tijd dat het duurder zou moeten worden zal het ook beter zijn en sneller werken en heb je er dus minder van nodig.

Als LLMs slimmer worden gebruiken ze meer GPU compute en meer geheugen. Zolang er geen nieuwe hardware (nieuwe Nvidia kaarten, etc) uitkomt betekend dat gewoon meer hardware en meer stroomverbruik. En waarschijnlijk dus ook hogere abo kosten.

Maar wie weet wat voor efficientie slagen ze nog gaan maken

[Vishari Beduk]

dmantione schreef op donderdag 1 oktober 2026 @ 14:34:
Voorbeeldje van vandaag:

code:

procedure classificeer_stijl(idx: integer);
var
  bi: integer;
begin
  with stijlen[idx] do
  begin
    categorie := 0;
    if not is_pt_naam(naam) then
      exit;
    if familie = 'text' then
    begin
      if length(props) = 0 then
        categorie := 2;
    end
    else if familie = 'paragraph' then
    begin
      if lijst_stijl <> '' then
        categorie := 3
      else if (length(props) = 0) and (length(tabstops) = 0) then
        categorie := 1
      else if (length(props) = 0) and (length(tabstops) > 0) then
      begin
        bi := vind_benoemd(parent);
        if (bi >= 0) and tabstops_subset(tabstops, nbenoemd[bi].tabstops) then
          categorie := 1;
      end;
    end;
  end;
end;

In bovenstaande code gebruikt de KI een integer als enumeratie, en nog erger: Ook een string als enumeratie. Alhoewel C-programmeurs niet anders weten dan integers als enumeratie te gebruiken, doen zij dat tenminste nog met symbolische constanten. Waarden hardcoderen is erg dubieus. Nadat ik de KI op zijn donder gaf:

code:

procedure classificeer_stijl(idx: integer);
var
  bi: integer;
begin
  with stijlen[idx] do
  begin
    categorie := cat_onbepaald;
    if not is_pt_naam(naam) then
      exit;
    if familie = fam_text then
    begin
      if length(props) = 0 then
        categorie := cat_tekst;
    end
    else if familie = fam_paragraph then
    begin
      if lijst_stijl <> '' then
        categorie := cat_lijst
      else if (length(props) = 0) and (length(tabstops) = 0) then
        categorie := cat_alinea
      else if (length(props) = 0) and (length(tabstops) > 0) then
      begin
        bi := vind_benoemd(parent);
        if (bi >= 0) and tabstops_subset(tabstops, nbenoemd[bi].tabstops) then
          categorie := cat_alinea;
      end;
    end;
  end;
end;

Opgelost. Dit voorbeeld is erg sympomatisch voor het gebruik van KI voor programmeertaken: Ja, de KI kan programmeren en levert een werkend programma af. Echter, het is nog altijd essentieel om de gegenereerde code tot in detail te lezen en te begrijpen, ik ben daarom enorm sceptisch over vibe-coden: Je moet nog steeds met een programmeursgeest naar de code kijken en zorgen dat die onderhoudbaar wordt, alleen het schrijfwerk neemt de KI je uiteindelijk uit handen (in veel gevallen nog steeds zinvol). Uiteindelijk zijn hardgecodeerde waarden net zo verwarrend voor een KI als voor een menselijke programmeur.

Voorlopig hoeven programmeurs dan ook nog niet voor hun baan te vrezen.

Ik herken dit totaal niet. Weet niet wat voor LLM jij gebruikt?

Ik gebruik Claude opus en die maakt dit soort fouten echt niet meer. En levert gewoon degelijk werk af. Het gewoon eng zo goed als opus is. En ik ben er daarom ook 100% van overtuigd dat programmeurs wel degelijk over een paar jaar bijna niet meer bestaan (tenzij de datacenters op zwart gaan).

[DeNachtwacht]

Ik snap niet goed waarom deze discussie niet gewoon in Ontwikkelingen omtrent Artificial Intelligence kan? Dat is namelijk precies waar dat topic over gaat.

[ Voor 16% gewijzigd door DeNachtwacht op 01-10-2026 18:30 ]