Ontwikkelingen omtrent Artificial Intelligence

[Stukfruit]

Wozmro schreef op donderdag 17 september 2026 @ 06:15:
Ik denk niet dat het zinvol is om te pleiten voor bijvoorbeeld specifieke wetgeving om te verbieden dat er menselijke eigenschappen geprojecteerd worden op AI? (beetje zoals de wetgeving waardoor een vegetarische hamburger geen hamburger mag heten). Wat schieten we daarmee op?

Eerste keer dat ik lees dat er gepleit zou worden voor wetgeving om antropomorfisme te verbieden. Wie of welke club doet dat dan?

Dan nog zullen er incidenten voorvallen maar dan is er tenminste een duidelijk juridisch kader waar de gerechtelijke macht in een rechtsstaat iets mee kan.

Het punt is een beetje dat het juridische kader in principe al grotendeels bestaat en dat de genoemde bedrijven die er iets ergers en geheimzinnigers van maken het juist proberen af te doen als een nieuw fenomeen terwijl het enige nieuwe de manier is waarop data indirect wordt verwerkt ipv direct zoals via dat if-else statement (wat in de praktijk trouwens ook niet klopt).

Maar aan het einde van die tunnel zitten nog steeds mensen die de opdrachten geven. ExploitGym is gemaakt met bepaalde doeleinden, zoals de naam al aangeeft. Een harnas om mee te programmeren doet zeer zeker niet per ongeluk aan het "zoeken" naar mogelijkheden om bepaalde technische doelen mee te bereiken (of zoals men het in het nieuws noemt: "hacken"). De labeltjes met ondersteuning voor bijvoorbeeld tools in een model komen ook niet zomaar uit het niets uit de lucht vallen.

De stappen zijn op zichzelf allemaal deterministisch. Als je het doortrekt naar kennis over de data die zo'n model ingaat zou je dat zelfs helemaal tot aan het de geschraapte content moeten kunnen doortrekken.

Om de gevolgen van misbruik naar de echte wereld te halen: een leider van een land die soldaten naar een ander land stuurt om daar mensen te vermoorden haalt niet letterlijk zelf de trigger over, maar geeft wel de opdracht. Dit is een eeuwenoud concept. Wie wordt hier in zo'n situatie al eeuwen geduid als de massamoordenaar?

Dat maakt imho het volgende de interessantere stelling: bij AI wordt onderscheid gemaakt tussen de opdrachtgever van geweld en bijvoorbeeld de uitvoer hiervan. Waarom?

Waarom wordt bij die leider van een land geaccepteerd dat er 30 stappen tussen opdracht en uitvoer kunnen zitten terwijl het de leider in kwestie nog steeds feitelijk een massamoordenaar maakt en waarom bij "AI" opeens niet, terwijl er voor de technisch geörienteerde persoon meer duidelijkheid kan zijn over hoe het werkt?

[Stukfruit]

Gebrek aan kennis in de media maakt het er niet beter op, zoals gisteren weer de heer Klöpping bij Eva: "ze wisten dat ze stout bezig waren".

Diepe zucht

* Stukfruit is voor het loskoppelen van de magie van de werkelijkheid: bespreek oorzaak en gevolg, niet de voor velen te zweverige laag die daarvoor misbruikt wordt

[ Voor 27% gewijzigd door Stukfruit op 17-09-2026 12:42 ]

[Fornoo]

AI is niet de opdrachtgever inderdaad, dat blijft degene die de prompt invoert. Maar AI werkt als een superhefboom. Dat is iets nieuws en daar hebben we als mens nog geen ervaring mee. Straks kun je met 1 druk op de knop een heel land plat leggen. Dat gaat hoe dan ook instabiliteit geven in de wereld. Want de ontwikkeling van AI is niet te stoppen.

Over AI zelf. Dat iets deterministisch is, zegt mij niet zoveel. Ik kan mezelf afvragen of ons brein ook niet gewoon deterministisch is. Hoewel het mij duidelijk is dat ons brein fundamenteel anders werkt.

[Cobb]

Met hele goede AI kun je straks met een simpele prompt kritieke overheids systemen hacken. Dat is al 1 reden waarom er regulatie moet plaatsvinden.

[Fornoo]

Probleem is dat het niet te reguleren is. Er zijn altijd spelers die de regulatie van anderen zullen gebruiken om er voordeel mee te halen. Of dat nou andere naties zijn, bedrijven of criminelen, de geest is uit de fles.

[Zorg]

Cobb schreef op donderdag 17 september 2026 @ 14:09:
Met hele goede AI kun je straks met een simpele prompt kritieke overheids systemen hacken. Dat is al 1 reden waarom er regulatie moet plaatsvinden.

Ik weet dat op tweakers / GOT een impopulaire mening is want de AI bedrijven zijn per definitie slecht en hun enige doel is gedreven door nog meer geld binnen te kunnen halen. Maar stel nu even, dat de Altmans en Musks van deze wereld die de LLM bedrijven leiden, dat die zelf ook nog een stukje integriteit hebben? En dat ze daarom juist voorstellen om even wat rustiger te doen? En dat dus de motivatie van ze, niet alleen maar door geld gedreven is? Misschien, heel misschien, maken ook zij zich zorgen. Maar misschien ook nog wel een stukje meer dan wij, want waar zij zich totaal geen zorgen over moeten maken, is geld.

Ik heb ooit les gehad van een prof die sprak over de behoefte piramide van Maslow: van de eerste behoefte is lichamelijk (onderdak, eten) en zo gaat het steeds verder: veiligheid, sociaal contact, waardering en zelfactualisatie.
Hij vertelde destijds (al even geleden ) dat mensen zoals Robbie Williams daar nog bovenuit stijgen. Die hebben alles al verwezenlijkt wat er is (doelende op de superrijken). Die denken niet meer aan geld maar leven in een heel andere wereld die wij als gewone stervelingen niet eens kunnen bevatten. En dan denk ik, misschien juist omdat ze niet met dat geld op dezelfde manier bezig zijn, wellicht doen ze oprecht wel hun best om het in goeie banen te leiden?

Ik weet het, misschien heel naïef van mij, maar ik graag uit van de positieve in de mens, en ik kan me voorstellen dat geld (geld maakt gelukkig gaat tot 100k dacht ik, daarboven niet meer evenredig) voor hun irrelevant kan zijn....

[Wozmro]

Op dat vlak is er mogelijk een potentieel probleem dat er in silicon valley ook een strekking is van het geloof in 'dark enlightment' en 'the rapture', kort samengevat: een geloof in de eindtijd en dat enkel een select groepje mensen zal overleven.

Wat betreft het prompten van AI-modellen is er volgens mij ook nog het aandachtspunt dat de mens van nature best wel een slordige communicator is. Eigenlijk zijn we het niet gewoon om zorgvuldig, correct en compleet te communiceren. We gaan er simpelweg snel vanuit dat diegene aan de andere kant wel zal weten wat we bedoelen en de dingen die we niet zeggen wel zelf correct zal invullen. Terwijl we zelf weten dat dit in veel gevallen niet zo goed afloopt 🙂.

Dus je kan een AI een opdracht geven in de vorm van een prompt maar de kans zit er in dat die dat helemaal anders interpreteert of dan zelf ook dingen gaat verzinnen.

Je zou dit kunnen ondervangen met een socratische dialoog, de AI antwoord telkens met een wedervraag als die niet helemaal zeker is van wat je bedoelt. Maar dat zal de mens snel vermoeiend vinden denk ik.

[ Voor 20% gewijzigd door Wozmro op 17-09-2026 17:51 ]

[Sissors]

Cobb schreef op donderdag 17 september 2026 @ 14:09:
Met hele goede AI kun je straks met een simpele prompt kritieke overheids systemen hacken. Dat is al 1 reden waarom er regulatie moet plaatsvinden.

Lijkt mij meer een reden voor de beheerders / developers van overheidssystemen om die simpele prompt te doen, en dan hun beveiliging te fixen. Die AIs worden wel ontwikkeld, wees blij dat het er nu eentje is die ze zelf ook kunnen gebruiken, ipv dat alleen de Amerikanen of de Chinezen er toegang tot hebben.

[Boeryepes]

Stukfruit schreef op donderdag 17 september 2026 @ 12:36:
[...]


Abstracties zijn hier belangrijk: stel je voor dat er een rij met balletjes voor je op tafel ligt. Er is niets bijzonders aan deze objecten. Je kan er in principe weinig bijzonders mee doen om de wereld mee naar de maan te helpen.

Vervolgens nummer je ze. Nu zijn het plotseling loterijballetjes geworden. Gooi ze in een bak en schud ze een paar keer door elkaar. Je kan nu voorspellen dat je iemand een grote prijs gaat geven als het balletje met nummer 42 er als eerste uit komt rollen.

Hier zit geen strategie achter. De balletjes wisselen in principe willekeurig van locatie.

Nu geef je aan ieder balletje een extra betekenis: 42 staat voor "de", 43 staat voor "het", 44 staat voor "een", en zo voorts. Je hangt ook een beetje extra gewicht aan ieder balletje door ze meer of minder te vullen met zand. Voor balletjes 42, 43 en 44 laat je iemand vooraf opschrijven dat dit lidwoorden zijn.

Daarna geef je weer een draai aan het rek. Je wil de balletjes hebben die voor de lidwoorden staan. Maar nee, dit lukt niet omdat je geen selectie hebt afgedwongen, ondanks de zwaardere balletjes. Wat nu? Je haalt er wat balletjes uit zodat je "expertise"-balletjes overhoudt. Is dit niet valsspelen? Jazeker, maar het brengt je wel richting het juiste antwoord: er komen nu nog maar 3 balletjes uit.

Zo werkt een taalmodel ook als je het heel erg versimpelt: omdat je zelf context meegeeft (de tekst die je invoert) worden de associaties die niet kloppen genegeerd en bij varianten van modellen zelfs niet eens aangesproken. Dit is de analogie met het handmatig verwijderen van alle balletjes behalve die voor de lidwoorden.

Hoe dit past bij het vinden van strategie en tactiek: compounding. Door het stapelen van abstracties kun je een weg door kennis vinden die steeds complexer kan worden gemaakt. Aan de balletjes voor de lidwoorden kan tenslotte ook nog een volgende abstractie hangen, waarmee je informatie kan clusteren.

Voor een simpelere uitleg kun je ook nagaan hoe bijvoorbeeld een binary search werkt: je zou kunnen stellen dat je "slim" zo snel mogelijk de abstractie die bij nummer 9 hoort moet komen, maar dat is niet hoe software werkt. Software weet niet wat "9" is. Dus je hangt er zelf logica aan: als je eerst een lijst maakt met alle getallen tot en met 10, dan kun je het blok doormidden hakken en stellen dat er tussen 1 en 5 geen 9 zit.

[Afbeelding]

Ook dit is een versimpeling die niets met modellen zelf te maken heeft, maar het zou moeten kunnen helpen om te laten zien dat als je hier delen van informatie ipv getallen aan ophangt (laten we ze tokens noemen ), dat je er berekeningen mee kan gaan doen. Net zoals met die binary search waarin de betekenis van een getal wordt bepaald door vooraf ingegeven input. De gezochte informatie ontstaat niet vanzelf. Die geef je zelf mee als aanknopingspunt om het zoeken mee te beginnen.

Scrapen van online content (dus uitspraken van mensen die het over bv. strategie en tactiek hebben), het voorselecteren ("trainen", het vooraf meegeven van hardcoded beperkingen om bv. te voorkomen dat handen 6 vingers krijgen, enz.) van die informatie en de input die je geeft om de agent aan te slingeren doen de rest van het werk.

Het is effectief wiskunde die wordt toegepast op output van mensen. Het hergebruik van dat + de deterministische algoritmes is wat de software jou laat vertellen dat er een strategie wordt toegepast.

Dit is waarom wiskunde op school een interessant vak was.

Dankjewel. Jij snapt het wel denk ik en neemt de moeite het mij uit te leggen 🙏🏻 … gestapelde logica is niet makkelijk te begrijpen totdat je echt ‘in zit’.

Het doet me denken aan een Word add-in va mij waarin ik gestapelde algoritmes heb die een document structuur uitpluizen en dan met een beslisboom het gehele document opmaken door de onderdelen op te maken.

[Fornoo]

@Zorg dan ga je voorbij dat, stel Silicon Valley zou besluiten te stoppen, er nog andere naties en mogenheden zijn die de handschoen oppakken. Die blik op louter silicon valley snap ik daarom niet zo goed. China is meer dan capabel om verder te gaan waar Amerika stopt. Maar geef het genoeg tijd, en er zijn andere landen of ondergrondse bewegingen die er verder mee gaan. Het is niet te stoppen.

De piramide van Maslov is geen harde wetenschap. Het is een manier om naar de zelf ontplooiing van de mens te kijken, maar niet de enige manier.

Het doel om rijk te worden staat zelf actualisatie in de weg. Je zelfwaarde hangt dan af van de hoeveelheid geld die je verdient, hoe meer hoe beter. Dan stort je zelfbeeld in als je geld verliest.

Het doel van erkenning en waardering (van anderen) staat zelf actualisatie in de weg. Zou je daar afhankelijk van zijn, dan stort je hele zelfbeeld in op het moment dat anderen je afwijzen.

We hebben allemaal een beetje geld, erkenning en waardering nodig. Maar jezelf accepteren is in de basis gelukkig zijn om wie je zelf bent. Heel simpel, maar tegelijk ook heel moeilijk.

Ik ben ook positief ingesteld. Tegelijk hebben we allemaal, ook ik zelf, een stukje narcisme en opportunisme in ons.

[Zorg]

@Fornoo ik doelde enkel op Silicon Valley omdat daar nu de laatste tijd het nieuws kwam om wat rustiger aan te doen en nog meer aan veiligheid te werken, hetgeen heel sceptisch wordt ontvangen. Stoppen gaat natuurlijk sowieso niet gebeuren.

Mijn verwijzing naar Maslow was niet als harde science, meer om wat duiding te geven dat er mogelijkerwijs ook andere motieven zouden kunnen spelen dan enkel en alleen kapitalisme

[Cobb]

Sissors schreef op donderdag 17 september 2026 @ 18:29:
[...]

Lijkt mij meer een reden voor de beheerders / developers van overheidssystemen om die simpele prompt te doen, en dan hun beveiliging te fixen. Die AIs worden wel ontwikkeld, wees blij dat het er nu eentje is die ze zelf ook kunnen gebruiken, ipv dat alleen de Amerikanen of de Chinezen er toegang tot hebben.

Er valt straks niet meer tegen op te boksen qua beveiliging. Een A.I. kan uren achtereen op zoek naar exploits of kan in seconden doen waar mensen uren voor nodig hebben.

@Zorg ik vrees dat je idd naïef bent op dat vlak. Defensie is bijvoorbeeld zo'n tak die niet te reguleren is op gebied van A.I.. Ze zal altijd streven naar net iets beter dan het andere machtsblok. En helaas gaat dat laatste ook op voor Wall Street, ook daar is een edge over the competition gewild om net even wat meer winst uit X te knijpen. De eeuwige hang naar expansie en groei.

[ Voor 24% gewijzigd door Cobb op 17-09-2026 22:01 ]

[Zorg]

@Cobb ik denk dat dat wel meevalt hoor ik weet wel het een ander vd financiële wereld, bedrijven en economie. Maar ik denk ook dat er teveel zwart/wit wordt gedacht en dat de tech bedrijven echt niet alleen maar puur evil zijn. Aan het einde van de dag zijn dit ook gewoon bedrijven waarbij mensen werken die gewoon hun job goed willen doen, net als andere bedrijven, net als de bedrijven waar wij werken. Tuurlijk is winst de drijfveer, maar dat geldt net zo goed voor het bedrijf waar jezelf werkt. Ik werk zelf al meer dan 10 jaar voor portfoliobedrijven van investeringsmaatschappijen waar de menselijke factor nu niet altijd even hoog is, en het er soms heel hard aan toe kan gaan. Maar dat is soms nodig, een goed functionerende onderneming is meer waard dan een leeggeroofd kartonnen doos. En dat geldt ook voor beursgenoteerde bedrijven en hun aandeelhouders.

[Sissors]

Cobb schreef op donderdag 17 september 2026 @ 21:55:
[...]

Er valt straks niet meer tegen op te boksen qua beveiliging. Een A.I. kan uren achtereen op zoek naar exploits of kan in seconden doen waar mensen uren voor nodig hebben.

Maar dan kan toch gewoon iemand bij de overheid zo'n prompt nivoeren, die AI kan uren achteraan op zoek naar exploits, en die kunnen dan (met AI) opgelost weer worden?

Het is niet dat die systemen wel exploits moeten hebben die AI kan uitbuiten, dat kan gewoon veilig. En hoewel er een gevaarlijke overgangsfase is, vermoed ik dat dit op wat langere termijn eerder voor grotere veiligheid zorgt. Het schrikbeeld dat als je maar een sterke AI hebt (een ASI of hoe die dan ook genoemd wordt), dat die overal binnen kan dringen, geloof ik niet in en lijkt mij meer een verhaal voor een spannend boek / film.

[Wozmro]

Het lijkt mij dat de aanval en verdediging steeds meer AI geautomatiseerd zullen worden.

Maar dan nog blijft de mens de zwakste schakel. Ik zat onlangs in een groot chemisch bedrijf voor het werk. Hier worden vanuit de eigen IT opzettelijk phisingmails verstuurd om het personeel attent te houden en te trainen op attent zijn.

Als er op iets geklikt wordt dan gaat er een it-team tot aan het bureau van 'de schuldige' om eens een hartig woordje te babbelen.

[Fornoo]

@Zorg Denk dat je toch echt door een te roze bril kijkt. Je hoeft nog geen 100 jaar terug te gaan om een 'mooi' voorbeeld te vinden.

De atoombom was ook geen doel op zich, maar was theoretisch mogelijk door de ontwikkelingen in de wetenschap in de decennia ervoor. De angst (niet zozeer de macht) dat de tegenstander ermee aan de haal ging, dreef de ontwikkeling voort. Dat is wat Cobb ermee bedoelt waarschijnlijk.

Dit gaat dieper dan de individuele drijfveren van een CEO/bedrijf. Het feit dat de Amerikaanse staat het niet reguleert, zegt mij genoeg.

[de Peer]

Wozmro schreef op vrijdag 18 september 2026 @ 09:11:


Ik zat onlangs in een groot chemisch bedrijf voor het werk. Hier worden vanuit de eigen IT opzettelijk phisingmails verstuurd om het personeel attent te houden en te trainen op attent zijn.

Als er op iets geklikt wordt dan gaat er een it-team tot aan het bureau van 'de schuldige' om eens een hartig woordje te babbelen.

Dit is voor zover mij bekend standaard bij vrijwel elk wat grote bedrijf tegenwoordig. Bij mijn laatste 3 werkgevers had ik allemaal 1 a 2 van die mails per week. Dat begon een jaar of 10 geleden.

[Zorg]

Fornoo schreef op vrijdag 18 september 2026 @ 09:59:
@Zorg Denk dat je toch echt door een te roze bril kijkt. Je hoeft nog geen 100 jaar terug te gaan om een 'mooi' voorbeeld te vinden.

De atoombom was ook geen doel op zich, maar was theoretisch mogelijk door de ontwikkelingen in de wetenschap in de decennia ervoor. De angst (niet zozeer de macht) dat de tegenstander ermee aan de haal ging, dreef de ontwikkeling voort. Dat is wat Cobb ermee bedoelt waarschijnlijk.

Dit gaat dieper dan de individuele drijfveren van een CEO/bedrijf. Het feit dat de Amerikaanse staat het niet reguleert, zegt mij genoeg.

Of jij misschien door een iets te donkere bril
Ik denk dat we twee zaken moeten splitsen:
Aan de ene kant heb je normale bedrijfsvoering en ontwikkeling van AI bedrijven. Dit is echt niet opeens anders doordat het een LLM-bedrijf betreft. Dit zijn normale bedrijven die vanzelfsprekend winstmaximalisatie nastreven ten gunste van de aandeelhouders (= eigenaars). Het kapitalistische gedrag van elke (commerciële) onderneming. Doordat de financiële wereld een consensus heeft dat deze winstgevend zullen gaan zijn in de toekomst groeien deze bedrijven gigantisch, terecht of onterecht kunnen we daarbij in het midden laten. Op de financiële markten vinden ze dat wel. En natuurlijk gaan die bedrijven barrières opleggen om concurrentie tegen te gaan, ook dit is niks nieuws natuurlijk, dit gebeurt overal en altijd in elk bedrijf.m

Dan is er de andere zijde. Is alles wat ze doen ethisch voor de mensheid in het geheel? Of zullen en kunnen ze deze techniek ook voor hun eigen voordeel gebruiken? En zitten hier zaken bij die wellicht het daglicht niet kunnen verdragen? Zeker! En dit is ook niets nieuws. Big techniek deedt dit in het verleden natuurlijk ook altijd al dus die gaan daar gewoon mee verder.

Daar heeft wel of geen regulering niet direct iets mee te maken denk ik. Het zou perfect kunnen dat ze het 100% reguleren maar wel voor zaken die het daglicht niet kunnen verdragen gewoon gebruiken, dat maakt immers niet uit. Daar gelden nu eenmaal andere regels. Dit is imo direct gerelateerd aan de voorsprong die ze hebben, maar ook willen behouden en natuurlijk willen uitbreiden. Dat tezamen met de Amerikaanse cultuur waar bij ze veel minder risicoavers zijn dan in Europa. Kort gezegd, wij denken meer in problemen en zij meer in opportuniteiten. Wij zijn op dit vlak ook geen eens een serieuze concurrent, we zijn een afzetmarkt. China is technologisch een concurrent, denk niet dat die echt wakker liggen over regulering of privacy. Stel dat Amerika zou gaan reguleren dan heeft dat negatieve gevolgen tov hun concurrenten. In Europa roepen wij alleen maar nee nee dat mag niet want oude copyright wetgeving, want privacy. Allemaal terecht volgens onze normen en waarden. Maar daarom spelen wij op dit vlak niet mee, en zijn we dus per definitie afnemers.

[Cobb]

Zorg schreef op vrijdag 18 september 2026 @ 11:57:
[...]

.China is technologisch een concurrent, denk niet dat die echt wakker liggen over regulering of privacy. Stel dat Amerika zou gaan reguleren dan heeft dat negatieve gevolgen tov hun concurrenten. In Europa roepen wij alleen maar nee nee dat mag niet want oude copyright wetgeving, want privacy.

Je beaamt hier eigenlijk al mee wat ik zeg. Dit is o.a. de drijfveer waarom Big Tech niet zal stoppen en als er eens een problematisch super A.I. zal kunnen onstaan deze ook zal onstaan. Met alle gevolgen van dien.

Ik wil niet nog meer privacy inleveren ten koste van de vooruitgang van A I.

Ik vind het onacceptabel dat kunst gemaakt door mensen handen gescraped wordt en wordt gebruikt voor slop.

Ik wil niet dat ik of mijn kinderen later mogelijk gevaar lopen omdat Big Tech te ver is gegaan.

[Zorg]

@Cobb ik spreek het ook zeker niet tegen. Maar wat wij onacceptabel vinden dat doet er niet zo toe. We kunnen vinden en roepen wat we willen maar we doen niet echt mee in het verhaal.

Maar het positieve, wat Jimmie Carr zijn reactie was op AI: het is als een hele goeie cover band. Kan hartstikke leuk zijn, maar men wil altijd nog het echte.

En stellen dat het enkel gebruikt wordt om slop te maken daarmee ondermijn je natuurlijk wel alles wat er mee gemaakt is wat wel waarde heeft, waar mensen wel degelijk hun tijd en energie insteken om tot een mooi eindproduct te komen. Dit is gewoon een zoveelste technologische vooruitgang/vernieuwing die mensen gaan gebruiken, sommige voor slop inderdaad. Neem Photoshop, hele groepen mensen die daar toch echt digitale kunst mee maken, en ook mensen die daar slop mee maken. Ik zie deze als hetzelfde. Het gebruik wordt eenvoudiger (vergelijk de eerste versie PS tegen de laatste voor LLM tijdperk, ook eenvoudiger in gebruik) maar om er daadwerkelijk goeie dingen mee te maken vereist het nog zeker kennis en kunde. Maar wellicht niet meer dezelfde kennis en kunde.

En of je kinderen daar gevaar bij lopen, sja als je de nieuwsberichten volgt is er dus een 10% kans, das indd vrij hoog en vervelend. Maar dan heb ik toch nog iets meer vertrouwen in Amerika dan in China op dat vlak. Als we toch zouden moeten kiezen tussen de twee kwaden. Maar als ze in de US zeggen we willen er aan werken dan is dat ook niet goed.

review: Waarom AI-reuzen een rem willen: één reële reden en vier keer eigenbe...

Wel doen maar niet zeggen dan?

[ Voor 10% gewijzigd door Zorg op 18-09-2026 13:36 ]

[Cobb]

@Zorg of het straks Chinese of Amerikaanse A.I. is dat gaat zorgen voor een willekeurige ramp, maakt ook niet uit voor het resultaat.

Voor wat betreft slop; voor mij is alle A.I. gegenereerde meuk, muziek, films, reclames, foto's, tekeningen, plaatjes, etc. gewoon slop. Hoe goed of echt het er ook uitziet, dat maakt mij niet uit. Ik zal het nooit (bewust) kijken en kunnen waarderen. Het neemt alles weg van de menselijke kunstenaar en is ongevraagd getraind door diezelfde groep.die het onderspit gaat delven.

[Tarkin]

Cobb schreef op vrijdag 18 september 2026 @ 17:26:
@Zorg of het straks Chinese of Amerikaanse A.I. is dat gaat zorgen voor een willekeurige ramp, maakt ook niet uit voor het resultaat.

Voor wat betreft slop; voor mij is alle A.I. gegenereerde meuk, muziek, films, reclames, foto's, tekeningen, plaatjes, etc. gewoon slop. Hoe goed of echt het er ook uitziet, dat maakt mij niet uit. Ik zal het nooit (bewust) kijken en kunnen waarderen. Het neemt alles weg van de menselijke kunstenaar en is ongevraagd getraind door diezelfde groep.die het onderspit gaat delven.

Zolang dat je dan maar alles wat gemaakt is met fotoshop, autotune en een gazillion andere tools pre-ai over dezelfde kam scheert is het goed.

Er is (zeker sinds begin dit milennieum) al heel wat minder ambachtelijk dan dat je denkt hoor.

[Yaksa]

Cobb schreef op vrijdag 18 september 2026 @ 17:26:
@Zorg Voor wat betreft slop; voor mij is alle A.I. gegenereerde meuk, muziek, films, reclames, foto's, tekeningen, plaatjes, etc. gewoon slop. Het neemt alles weg van de menselijke kunstenaar en is ongevraagd getraind door diezelfde groep.die het onderspit gaat delven.

Niet mee eens, iemand met kennis van hoe goede prompts te schrijven, kan een beeld wat hij in gedachten had met hulp van een AI model laten genereren. En door de prompt bewust aan te passen kan hij de afbeelding exact zo maken en verfijnen dat deze aan zijn oorspronkelijke idee voldoet. Een AI doet helemaal niks zonder prompt, behalve hallucineren dan.
Dat is eigenlijk niet anders dan een kunstenaar die een doek, penselen en verf koopt om het beeld wat hij in gedachten had vast te leggen.
En waarschijnlijk heb je dit jaar al duizenden AI-gegenereerde output geconsumeerd zonder dat je het in de gaten had.

[Salvatron]

Wat is AI-gegenereerd? Als je een echte foto maakt en daarin AI-gegenereerde karakters zet, is het dan AI-slop? Wat als de AI-gegenereerde karakters op echte karakters gebaseerd zijn? Het is niet dat het een AI-gegenereerd is en het andere echt, er zijn vele gradaties.

[Zorg]

Cobb schreef op vrijdag 18 september 2026 @ 17:26:
@Zorg of het straks Chinese of Amerikaanse A.I. is dat gaat zorgen voor een willekeurige ramp, maakt ook niet uit voor het resultaat.

Voor wat betreft slop; voor mij is alle A.I. gegenereerde meuk, muziek, films, reclames, foto's, tekeningen, plaatjes, etc. gewoon slop. Hoe goed of echt het er ook uitziet, dat maakt mij niet uit. Ik zal het nooit (bewust) kijken en kunnen waarderen. Het neemt alles weg van de menselijke kunstenaar en is ongevraagd getraind door diezelfde groep.die het onderspit gaat delven.

Ook deze riedel is al zo oud als technologische vooruitgang natuurlijk

Ik zie het echt als een verlengde tool die zaken uit handen neemt waardoor het juist meer aan het waardecreatie kunt spenderen.
Neem mijn eigen vakgebied, data en dataanalyse. Waar ik voorheen meer tijd kwijt was aan het programmeren, laat ik dat nu door AI doen. Die kan dat een stuk beter dan dat ik het kan. Hierdoor kan ik meer tijd spenderen aan het denkproces van de analyse, waardoor de analyse beter is dan wanneer ik geen LLM had gebruikt. Het is geen 1 op 1 substitutie want ik spendeer ook een stuk aan de prompt te maken, hetgeen ik zelf in mijn gedachten veel sneller deed, en ik spendeer meer tijd aan verificatie, hetgeen ik vroeger minder deed omdat ik het zelf stap voor stap programmeerde, meer in controle. Ruwe schatting denk ik dat ik hierdoor (op het werk) circa 20% efficiënter werk dan voorheen + de kwaliteit van de output ligt hoger.

Nu in welk optiek is dit volgens jou AI slop?

Zo zie ik het ook in de creatieve sector. Ik heb al videos gezien die net zo echt waren als een holywood film bij wijze van spreken. Die mij entertainde net als een aflevering van een leuk tv programma. In elkaar gezet door één creatieveling die zijn tijd kon spenderen aan het creatieve denkproces. Nu nog een short van enkele minuten, maar dat zal wel veranderen. Dan zullen de grote productiemaatschappijen misschien wat minder verdienen, maar de artiesten misschien wat meer

[ Voor 13% gewijzigd door Zorg op 18-09-2026 18:31 ]

[RayNbow]

Zorg schreef op vrijdag 18 september 2026 @ 18:27:
Nu nog een short van enkele minuten, maar dat zal wel veranderen.

Zolang de huidige AI-modellen nog niet in staat zijn om coherent te blijven in een shot van een paar seconden, verwacht ik zeker niet op korte termijn AI geproduceerde "Hollywoodfilms".

[dmantione]

Een KI die een film beeld voor beeld genereert is inderdaad niet denkbaar, maar een KI die in een traditioneel 3D-animatiepakket een personage modelleert en het vervolgens ook animeert, is goed voorstelbaar en dan denk ik dat een Hollywoodfilm niet zo ver weg is als je denkt. Net zoals mensen wij onze vaardigheden met softwarepakketten kunnen verhogen, geldt dat ook voor KI's.

[Yaksa]

dmantione schreef op vrijdag 18 september 2026 @ 20:00:
Een KI die een film beeld voor beeld genereert is inderdaad niet denkbaar, maar een KI die in een traditioneel 3D-animatiepakket een personage modelleert en het vervolgens ook animeert, is goed voorstelbaar en dan denk ik dat een Hollywoodfilm niet zo ver weg is als je denkt. Net zoals mensen wij onze vaardigheden met softwarepakketten kunnen verhogen, geldt dat ook voor KI's.

En wie denk je dat de opdracht moet geven hoe de personage geanimeerd moet worden?
En wie gaat het script voor die film schrijven?
AI weet niet eens hoe de echte wereld er uit ziet, het heeft geen voorstellingsvermogen, geen gevoel, geen emoties en geen zintuigen zoals een mens.
De output van AI zijn allemaal goed afgewogen / berekende voorspellingen op basis van een set trainingsdata waarbij de trainingsdata ook nog 's in hoge mate de output bepalen.

[Zorg]

RayNbow schreef op vrijdag 18 september 2026 @ 19:26:
[...]

Zolang de huidige AI-modellen nog niet in staat zijn om coherent te blijven in een shot van een paar seconden, verwacht ik zeker niet op korte termijn AI geproduceerde "Hollywoodfilms".

Ik was anders behoorlijk onder de indruk van deze:
YouTube: What Really Happened at the Moulin Rouge in 1909

[Cobb]

@Zorg echt? Ademt A.I. al die dames hebben hetzelfde koppie.

Ik heb het over A.I. als 'vervanging'van kunst, geen code. Het is geen verlenging van, er is totaal geen skill nodig om iets (vergelijkbaars) te genereren waar een echte kunstenaar jarenlang voor heeft moeten 'trainen'. Daarmee is wat mij betreft de ziel weg, met kunst gaat het mij niet om het resultaat maar de weg ernaar toe.

[ Voor 72% gewijzigd door Cobb op 18-09-2026 23:07 ]

[scoobs]

Ik merk vooral dat bij het kijken ik van "yep, AI" langzaam ga van "wacht eens, dat is AI" aan het gaan ben. Het duurt alleen steeds langer voordat het "wacht eens" moment komt.

Het script voelt nog redelijk AI ja, maar nietsvermoedend (of afgeleid) zoiets zou openen, dan kan het nog best even duren voordat ik het zie. Nu heb ik af en toe al dat ik me afvraag of het AI is of niet.

En de tijdsperiode waarin bovenstaande verandering heeft plaatsgevonden is akelig kort, een jaar ongeveer.

[dmantione]

Yaksa schreef op vrijdag 18 september 2026 @ 20:16:
[...]
En wie denk je dat de opdracht moet geven hoe de personage geanimeerd moet worden?
En wie gaat het script voor die film schrijven?

Bij veel van de stappen kan een KI helpen. Moet een mens dat nog sturen? Beslist, zonder aansturing wordt niets geproduceerd.. Ik prijs me gelukkig dat wij nog niet overbodig zijn.

AI weet niet eens hoe de echte wereld er uit ziet, het heeft geen voorstellingsvermogen, geen gevoel, geen emoties en geen zintuigen zoals een mens.

Dat vind ik dan weer wat aan de naïeve kant. Het is beslist waar dat onze hersenen meer kunnen dan die van een KI, maar de nieuwste modellen kunnen zien en weten heel goed hoe dingen eruit zien. Deepseek heeft een bijna eng geavanceerd visueel inzicht. Vraag 'm eens een tekening te maken van iets: Hij weet feilloos hoe het eruit ziet. Of stuur 'm een foto en stel 'm daar vragen over die ruimtelijk inzicht vereisen.

De output van AI zijn allemaal goed afgewogen / berekende voorspellingen op basis van een set trainingsdata waarbij de trainingsdata ook nog 's in hoge mate de output bepalen.

Dit is in essentie waar, maar neigt ook wel naar de naïeve kant: Naar mate modellen steeds intelligenter worden kunnen ze uitvoer produceren die steeds verder van de trainingsdata af staat en daarmee steeds origineler wordt.

[Cobb]

@scoobs het is bij mij nog steeds instant. Tot aan de kleurplaat van de lokale kinderopvang tot de half blote fake dame op Instagram.

[Zorg]

Cobb schreef op vrijdag 18 september 2026 @ 23:04:
@Zorg echt? Ademt A.I. al die dames hebben hetzelfde koppie.

Ik heb het over A.I. als 'vervanging'van kunst, geen code. Het is geen verlenging van, er is totaal geen skill nodig om iets (vergelijkbaars) te genereren waar een echte kunstenaar jarenlang voor heeft moeten 'trainen'. Daarmee is wat mij betreft de ziel weg, met kunst gaat het mij niet om het resultaat maar de weg ernaar toe.

Het was in een reactie op @RayNbow die stelde dat AI niet in staat is om een scène van een paar seconden coherent te maken. Ik vind deze clip behoorlijk sterk, en ja je ziet dat het AI gemaakt is en je weet dat het nep is. Maar alles op tv, internet, en media is al nep, wat maakt dit anders dan? De dino's in Jurassic Park zijn toch echt geanimeerd hoor

Maar ik ben het er helemaal mee eens, waarde wordt gegeneerd door de moeite die iemand er in steekt. Dit betekent niet dat de persoon die dat filmpje heeft gemaakt er geen tijd en moeite in heeft gestoken, misschien heeft hij/zij wel onderzoek gedaan naar Parijs in 1906 , of een opleiding cinematografie aan een kunstacademie gedaan.

In de stelling die jij inneemt kan je net zo goed alles digitaal als brol wegzetten. Ook geen probleem, we hebben beeldende kunst, theater, tal van bibliotheken (wel enkel de sectie handgeschreven natuurlijk), of dans en sport. En misschien is dat de toekomst wel, gaan we weer richting meer sociale interactie. Mijn dochter doet soms danswedstrijden in een drukke winkelstraat. De promotor zegt altijd tegen het publiek: dit is live mensen, dit is geen instagram

[RayNbow]

Zorg schreef op zaterdag 19 september 2026 @ 06:45:
[...]


Het was in een reactie op @RayNbow die stelde dat AI niet in staat is om een scène van een paar seconden coherent te maken.

Waar grijpt die dame dan naar @ 1:38?

[Zorg]

RayNbow schreef op zaterdag 19 september 2026 @ 08:10:
[...]

Waar grijpt die dame dan naar @ 1:38?

Er zullen ongetwijfeld fouten inzitten maar dat is wat anders dan "niet in staat zijn om coherent te zijn in een shot van een paar seconden" , net zo flauw zou zijn als ik zou zeggen er is zeker wel één shot van een paar seconden die coherent is....

En daarnaast, er zitten ook fouten in gewone films. Ga eens een film zien met m'n broer. Das niks aan! Krijg je soort directors cut versie met wat er allemaal niet juist is! Hup beeld op pauze, kijk de walkin staat al klaar zoals je kan zien in de reflectie in de spiegel van de lift die open ging.....

[Wozmro]

Los van het werk dat er in kruipt denk ik dat de basisvraag is: zit er creativiteit in? Krijg je er een gevoel van verwondering bij?

Nu hebben we misschien nog een gevoel van verwondering juist omwille van dat iets gemaakt is met behulp van AI maar dat lijkt mij iets van voorbijgaande aard. Net zoals we niet meer verwonderd zijn van een foto nemen met een telefoon.

Ik denk wel dat er artistieke mensen bestaan die AI op een zodanige creatieve manier kunnen toepassen dat het een inhoudelijke meerwaarde heeft voor een film.

Denk bijvoorbeeld ook aan de vele computer geanimeerde tekenfilms. Mensen gaan daar naar kijken voor het verhaal, niet omdat die grotendeels met een computer gemaakt zijn.

Onlangs was het hier in de stad waar ik woon open monumentendag. De lokale Erfgoedvereninging had een film gemaakt (staat jammergenoeg niet online) waarbij met hun archief aan foto's en filmpjes een vroeger en nu film werd gemaakt.

Je zag dan bijvoorbeeld een straat waarbij de oude huizen en gebouwen geanimeerd instorten en de nieuwe opgebouwd werden in de plaats. Waarbij sommige aspecten dezelfde bleven en andere vernieuwd werden. Je hoorde echt wel aan de mensen in het zaaltje dat dit binnenkwam.

[Zorg]

@Wozmro dat is exact hetgeen ik bedoel. Er kan juist meer tijd en aandacht gespendeerd worden aan creativiteit omdat de tools het toegankelijker maken. De lokale vereniging zal de middelen wellicht niet hebben gehad om dat te bereiken zonder een LLM.

[Tarkin]

Wozmro schreef op zaterdag 19 september 2026 @ 09:43:
Los van het werk dat er in kruipt denk ik dat de basisvraag is: zit er creativiteit in? Krijg je er een gevoel van verwondering bij?

Nu hebben we misschien nog een gevoel van verwondering juist omwille van dat iets gemaakt is met behulp van AI maar dat lijkt mij iets van voorbijgaande aard. Net zoals we niet meer verwonderd zijn van een foto nemen met een telefoon.

Ik denk wel dat er artistieke mensen bestaan die AI op een zodanige creatieve manier kunnen toepassen dat het een inhoudelijke meerwaarde heeft voor een film.

Denk bijvoorbeeld ook aan de vele computer geanimeerde tekenfilms. Mensen gaan daar naar kijken voor het verhaal, niet omdat die grotendeels met een computer gemaakt zijn.

Onlangs was het hier in de stad waar ik woon open monumentendag. De lokale Erfgoedvereninging had een film gemaakt (staat jammergenoeg niet online) waarbij met hun archief aan foto's en filmpjes een vroeger en nu film werd gemaakt.

Je zag dan bijvoorbeeld een straat waarbij de oude huizen en gebouwen geanimeerd instorten en de nieuwe opgebouwd werden in de plaats. Waarbij sommige aspecten dezelfde bleven en andere vernieuwd werden. Je hoorde echt wel aan de mensen in het zaaltje dat dit binnenkwam.

YouTube: Reinvent Yourself — SuperNova Festival 2026 opening movie


Dit was de opener van supernova vorig jaar. Ook gemaakt met AI. Ik kan je wel vertellen dat dit binnenkwam in de zaal toen!

[RayNbow]

Tarkin schreef op maandag 21 september 2026 @ 07:26:
[...]

YouTube: Reinvent Yourself — SuperNova Festival 2026 opening movie

Moet 1:02 een of andere bij elkaar geslopte mechanische rekenmachine voorstellen? Dat laat vooral zien dat de persoon die groen licht gaf voor dat shot zich er niet in verdiept heeft. "Oh, het ziet er fancy uit en er beweegt wat in het beeld. Perfect."

[Glashelder]

RayNbow schreef op maandag 21 september 2026 @ 07:49:
[...]

Moet 1:02 een of andere bij elkaar geslopte mechanische rekenmachine voorstellen? Dat laat vooral zien dat de persoon die groen licht gaf voor dat shot zich er niet in verdiept heeft. "Oh, het ziet er fancy uit en er beweegt wat in het beeld. Perfect."

En terecht. Het ziet er leuk uit en het grootste deel van het publiek zal niet de vragen stellen die jij stelt.

Wat mij betreft raak je ook een kernpunt: ontwikkelaars zijn vaak perfectionisten en control freaks. Beide eigenschappen gaan niet goed samen met de huidige AI modellen. Dat wil niet zeggen dat wat AI produceert niet goed genoeg is om wel gewoon te verkopen.

[Wozmro]

Evengoed heeft de maker met opzet dat shot laten zitten om iets te willen vertellen?

Net zoals een fotograaf soms de kleuren weglaat in de foto's die hij neemt, een schilder een landschap niet altijd realistisch naschildert,...?

[Tarkin]

RayNbow schreef op maandag 21 september 2026 @ 07:49:
[...]

Moet 1:02 een of andere bij elkaar geslopte mechanische rekenmachine voorstellen? Dat laat vooral zien dat de persoon die groen licht gaf voor dat shot zich er niet in verdiept heeft. "Oh, het ziet er fancy uit en er beweegt wat in het beeld. Perfect."

Je kan natuurlijk op elke slak zout leggen...

Als je op je kamer zit en frame per frame analyseert zal het wel zo aanvoelen. Als je daar in die zaal zit te kijken met 1000+ mensen op een videowall van 30m breed dan denk je, wat is technologie toch geweldig!

Is het allemaal perfect? nee, maar de wereld is nog nooit perfect geweest. Er is altijd wel iets geweest waar je een opmerking over kan maken.

Het feit dat we na een jaar of 4 over zulke details moeten praten dat AI toch niet the next big thing is, terwijl zelfs m'n moeder van 65 trots verkondigt hoe ze het dagelijks gebruikt om alles te plannen en te regelen zegt toch genoeg imho. Technologie is nog nooit zo snel omarmt geweest als deze denk ik.

[RayNbow]

Tarkin schreef op maandag 21 september 2026 @ 08:52:
[...]

Je kan natuurlijk op elke slak zout leggen...

Als je op je kamer zit en frame per frame analyseert zal het wel zo aanvoelen.

In dat specifieke shot hoef je het niet frame voor frame te bekijken, gezien hetgene wat het meeste beweegt in dat shot niet klopt.

Als je daar in die zaal zit te kijken met 1000+ mensen op een videowall van 30m breed dan denk je, wat is technologie toch geweldig!

Dat denk ik niet, in ieder geval niet vanwege de video.

Het feit dat we na een jaar of 4 over zulke details moeten praten dat AI toch niet the next big thing is, terwijl zelfs m'n moeder van 65 trots verkondigt hoe ze het dagelijks gebruikt om alles te plannen en te regelen zegt toch genoeg imho.

Er zit toch wel een verschil tussen het genereren van slop en dat vervolgens aan anderen tonen en aan de andere kant een taalmodel gebruiken als vraagbaak.

Ik vraag een chatbot ook wel eens vragen en laat een model ook wel eens wat genereren, maar daarbij denk ik niet van "prima, deze uitvoer flikker ik linea recta de repository in".

Wozmro schreef op maandag 21 september 2026 @ 08:20:
Evengoed heeft de maker met opzet dat shot laten zitten om iets te willen vertellen?

Dat betwijfel ik ten zeerste. Als ik de shots er omheen meeneem is het vooral de boodschap van "oh, laten we paar bekende uitvindingen/uitvinders tonen" zonder oog voor detail. Een druk op de knop van een GenAI-tool en gaan met die banaan.

Net zoals een fotograaf soms de kleuren weglaat in de foto's die hij neemt, een schilder een landschap niet altijd realistisch naschildert,...?

Een fotograaf of schilder neemt in je voorbeeld doorgaans bewuste keuzes en beslissingen, wat toch anders is dan aan de eenarmige bandiet genaamd GenAI te trekken.

Of denk je dat in het shot van 1:02 de maker met opzet een onzinrekenmachine in het shot wilde hebben?

[Wozmro]

Waarom niet?

Dat is toch al een beetje een klassieker in het genre AI-blunders? Net zoals dat de cijfers op een klok niet kloppen?

Artistieke uitingen hoeven niet persé te kloppen of realistisch te zijn.

[Muse]

In het licht van andere uitvinders die in beeld komen lijkt de 'rekenmachine' in mijn ogen meer een interpretatie van de Enigma machine van Turing?

Dat maakt de discussie over bewust of onbewust beelden toevoegen niet anders overigens, maar maakt het beeld in deze context wellicht iets minder onlogisch?

[RayNbow]

Muse schreef op maandag 21 september 2026 @ 11:16:
In het licht van andere uitvinders die in beeld komen lijkt de 'rekenmachine' in mijn ogen meer een interpretatie van de Enigma machine van Turing?

Het verzonnen apparaat lijkt meer iets weg te hebben van een of andere analytische machine met daarbij horende een of andere eerste programmeur.

Dat maakt de discussie over bewust of onbewust beelden toevoegen niet anders overigens, maar maakt het beeld in deze context wellicht iets minder onlogisch?

Het shot zelf is niet uit de lucht komen vallen. Er is iemand geweest die dat shot heeft laten genereren en er is iemand die dat shot in het geheel heeft gemonteerd.

Wat mij echter onwaarschijnlijk lijkt is dat iemand bewust gekozen heeft voor of gevraagd heeft om een shot met daarin een machine die iets doet wat fysieke onzin is. Ik denk niet dat die keuze in de oorspronkelijke prompt stond.

[Cobb]

Tarkin schreef op maandag 21 september 2026 @ 07:26:
[...]

YouTube: Reinvent Yourself — SuperNova Festival 2026 opening movie


Dit was de opener van supernova vorig jaar. Ook gemaakt met AI. Ik kan je wel vertellen dat dit binnenkwam in de zaal toen!

Move forward or fade away... Dat zijn precies nu de denk richtingen waar we vanaf zouden moeten stappen . Eeuwige groei is een sprookje of ons eigen graf.

[Zorg]

Ook hier weer @RayNbow , goed zoeken naar een foutje, tuurlijk ga je die vinden! Maar dat was voor LLM tijdperk ook al zo. Dit was zelfs een vast onderdeel op tv! Met z'n allen lachen om foutjes in tv programma's.....

En @Cobb wat stel je voor als alternatief dan? Technologische vooruitgang is altijd al een stap geweest voor economische groei en zal het ook altijd zijn. Kapitalisme is nu eenmaal het enige wat werkt bij ons als mens. Is dat overal even eerlijk? Nee natuurlijk niet. Net zo oneerlijk als waar je geboren bent. Afgelopen 100 jaar was het aan ons, aankomende jaren vermoedelijk de Chinezen. Waarvan ik persoonlijk denk dat op gebied van deze technologische vooruitgang harder kunnen gaan: geen privacy regels, goedkopere arbeid VS Amerika, ietsjes meer privacy regels (nog niet heel zwaar, maar zwaarder als China) en hogere kosten (hogere levensstandaard) maar wel meer investeringen.... moeilijk

[RayNbow]

Zorg schreef op maandag 21 september 2026 @ 18:48:
Ook hier weer @RayNbow , goed zoeken naar een foutje

Goed... zoeken? Ik hoefde er niet naar te zoeken. Ten eerste werd de link naar de video hier in het topic gedumpt. Ten tweede viel dat shot mij instantaan op.

Maar dat was voor LLM tijdperk ook al zo. Dit was zelfs een vast onderdeel op tv! Met z'n allen lachen om foutjes in tv programma's.....

Je gaat toch niet beweren dat de fouten waar je het nu over hebt van dezelfde orde zijn als de onzin in AI-slop?

Technologische vooruitgang is altijd al een stap geweest voor economische groei en zal het ook altijd zijn.

Eh, ik heb de laatste tijd met de technische ontwikkelingen die OpenAI doorduwt in Codex (door oudere modellen uit te faseren) nou niet echt het idee dat ik er productiever op ben geworden. In tegendeel: ik heb het gevoel dat de vooruitgang me juist tegenwerkt.

En op grotere schaal zie ik nou niet in hoe de door AI-bedrijven beloofde verhoogde productiviteit zo snel voor economische groei gaat zorgen. Met de als maar toenemende honger naar resources om de AI-datacenters te bouwen en te draaien, zien we al dat de schaarste meer en meer andere industrieën raakt.

Schets maar eens een scenario waarin het aankomende AI-tijdperk voor algehele economische groei gaat zorgen.

[Zorg]

@RayNbow mij viel het shot dus niet direct op, ondanks dat ik het op voorhand wist. En ja ik vergelijk dit met dezelfde fouten als een iPhone in Lord of The Rings bijvoorbeeld. Een fout die niet had moeten gebeuren maar toch gebeurd was. Bij LotR hadden ze de scene over kunnen doen, bij de rekenmachine hadden ze de scene over kunnen doen. Je blijft het (heel bewust) allemaal aanmerken als slop, terwijl je bij elk tvprogramma/ film net zo goed naar dingen kijkt die, hetzij met een andere techniek, net zo nep is. Alleen andere techniek.

Dat jij, een zeer veel met je, geen productieverhoging realiseren ligt imo niet aan de techniek maar aan de mensen zelf. En de verhoging ligt ook niet direct in minder werk (omdat elke gerealiseerde besparing direct weer wordt geconsumeerd) maar een verhoging van kwaliteit en/of output. Als ik een presentatie moet maken ben ik daar bijvoorbeeld 4h mee bezig, dezelfde 4h spendeer ik met AI om de presentatie te maken: gevolg, evenveel tijd kwijt maar een hogere kwaliteit. Hetzelfde met data analyse, ik kan dat perfect zelf, maar LLM kan dat veel sneller dan dat ik dat kan programmeren. Maar ik spendeer meer tijd aan het voorwerk, de beschrijving en de context, en meer tijd aan het eindwerk (het resultaat controleren) geen directe tijdsbesparing, wel hogere kwaliteit.

Hoe dat voor algemene welvaartgroei kan gaat zorgen? Simpel! Ik denk dat vrijwel alle office taken op een computer binnen nu en een paar jaar perfect door AI kunnen worden uitgevoerd (vraag eens rond binnen je bedrijf hoeveel tijd ze in Excel werken....). Elke procent die we niet meer aan deze nutteloze taken hoeven te spenderen (data uit systeem x halen, iets toevoegen, presentatie erop, dat soort taken) kunnen we dus spenderen aan een verhoging van de kwaliteit. En vergelijk dat met de algemene levensstandaard, die gaat omhoog in lijn met technologische vooruitgang, dus ook met deze. Niet overal even snel, maar technologische vooruitgang bevordert de levensstandaard.

[Wozmro]

https://www.vrt.be/vrtnws/nl/2026/09/22/amerikaans-fonds-vervangt-menselijk-persoonlijk-door-ai/

'De Amerikaanse fondsmanager Brian Kelly heeft zijn vroegere ploeg van 8 werknemers ontslagen en vervangen door 4 AI-agents. Kelly's jaarlijkse kosten zakten daardoor volgens hem van 5 miljoen naar 40.000 dollar. Of de robots ook beter beleggen, is nog even afwachten.'

Zou AI goed, minder goed, of gelijk presteren als mensen?

[Glashelder]

Wozmro schreef op dinsdag 22 september 2026 @ 14:08:
Zou AI goed, minder goed, of gelijk presteren als mensen?

Ik denk beter, maar het grote gevaar van AI is als het uit de bocht vliegt, dat het dan ook goed uit de bocht vliegt.

Denk maar aan Knight Capital Group. Dat was dan wel een menselijke fout, maar AI gaat ook dat soort fouten maken. In sommige gevallen is AI te snel en is er nauwelijks tijd voor bezinning.

Maar op de korte termijn zal het vast prima werken allemaal. Op een gegeven moment brengt Anthropic een nieuw model uit met een guardrail minder en dan ineens gaat ie dingen anders doen dan verwacht.

[Marc3l]

Wozmro schreef op dinsdag 22 september 2026 @ 14:08:
[
Zou AI goed, minder goed, of gelijk presteren als mensen?

Ligt er aan welke werzaamheden, er zijn ook voorbeelden van bedrijven die dachten dat AI het wel zou kunnen overnemen maar hier op terugkwamen.
https://mtsprout.nl/leide...halen-mensen-alweer-terug

[HEY_DUDE]

Wozmro schreef op dinsdag 22 september 2026 @ 14:08:
https://www.vrt.be/vrtnws/nl/2026/09/22/amerikaans-fonds-vervangt-menselijk-persoonlijk-door-ai/

'De Amerikaanse fondsmanager Brian Kelly heeft zijn vroegere ploeg van 8 werknemers ontslagen en vervangen door 4 AI-agents. Kelly's jaarlijkse kosten zakten daardoor volgens hem van 5 miljoen naar 40.000 dollar. Of de robots ook beter beleggen, is nog even afwachten.'

Zou AI goed, minder goed, of gelijk presteren als mensen?

Mijn hoop is dat mensen uiteindelijk wel in de loop blijven maar dat de excessieve salarissen wel een knauw krijgen. Met 8 werknemers jaarlijks 5 miljoen verdelen is dan ook niet bepaald goedkoop.

[iceblack24]

Yaksa schreef op vrijdag 18 september 2026 @ 20:16:
[...]


De output van AI zijn allemaal goed afgewogen / berekende voorspellingen op basis van een set trainingsdata waarbij de trainingsdata ook nog 's in hoge mate de output bepalen.

In die zin zijn het net mensen 🙃

[Zorg]

Wozmro schreef op dinsdag 22 september 2026 @ 14:08:
https://www.vrt.be/vrtnws/nl/2026/09/22/amerikaans-fonds-vervangt-menselijk-persoonlijk-door-ai/

'De Amerikaanse fondsmanager Brian Kelly heeft zijn vroegere ploeg van 8 werknemers ontslagen en vervangen door 4 AI-agents. Kelly's jaarlijkse kosten zakten daardoor volgens hem van 5 miljoen naar 40.000 dollar. Of de robots ook beter beleggen, is nog even afwachten.'

Zou AI goed, minder goed, of gelijk presteren als mensen?

Ik ben zelf bezig met een agent die data governance taken gaat doen. Normaal zou ik dit aan een team Member laten uitvoeren, nu dus door een agent. Begint heel simpel met het in kaart brengen van de BI modellen, daarna per model de KPIs en maakt daar intranet pagina's van.
Bij verdienen ze wel iets minder maar de kost per agent is lager en het risico ook een stuk!

[Wozmro]

https://www.demorgen.be/meningen/waarom-het-tijd-is-om-moord-en-brand-te-schreeuwen-over-ai~b11bbf2b/

Opinie Thomas L. Friedman

Dit zijn voor mij de belangrijkste aspecten:

'Goede regelgeving:

Wie beweert dat we ons nu geen regulering kunnen veroorloven omdat dat de innovatie zou afremmen, ziet drie dingen over het hoofd.

Ten eerste zijn degenen die beweren dat regulering per definitie innovatie en markten kapotmaakt “gewoon onwetend over de geschiedenis”, zegt Eric Beinhocker, directeur van het Institute for New Economic Thinking aan de Universiteit van Oxford. “Goede regelgeving creëert vertrouwen, en vertrouwen doet markten groeien. Hoe denkt u dat de luchtvaartindustrie of de farmaceutische sector zo groot en zo snel konden groeien? Omdat overheidsregels de consument het vertrouwen gaven dat de vliegtuigen waarmee ze reizen en de medicijnen die ze nemen veilig zijn.”

Ten tweede is AI niet zomaar een technologie, maar ook, zoals computerwetenschapper Craig Mundie al langer benadrukt, “een nieuwe diersoort”. En net als een nieuwe diersoort vertoont AI nu al evolutionaire eigenschappen.'

[RobbyDoozy]

Ten tweede is AI niet zomaar een technologie, maar ook, zoals computerwetenschapper Craig Mundie al langer benadrukt, “een nieuwe diersoort”. En net als een nieuwe diersoort vertoont AI nu al evolutionaire eigenschappen.'

Nieuw diersoort vind ik wel wat ver gaan. Het is een stuk code. Dat door mensen is gemaakt. Dat het opdrachten uitvoert op onverwachte manieren is een feit. Maar de oorzaak daarvan is meer te zoeken in onzorgvuldigheid van de ontwikkelaars.

Welke evolutie vind er plaats volgens jou? Tot nu toe past AI volgens mij zichzelf niet aan, de enige wijzigingen en verbeteringen zijn de nieuwe modellen die door menselijk handelen tot stand komen? Ja, er was laatst een artikel dat meer dan 80% van de code die ANthropic gebruikt voor de volgende versie van Claude, is geschreven door Claude. Maar het zijn nog steeds de menselijke ontwikkelaars bij Anthropic die bepalen welke code wel en niet in de nieuwe modellen worden geïntegreerd.

Dat kan in de zeer nabije toekomst wel veranderen. Maar willen we dat als mensheid? Wie controleert er dan nog HOE de AI zichzelf verbetert en evolueert. Wie heeft de regie.

[Fornoo]

@RobbyDoozy Wat ik zo fascinerend vind, of niet begrijp, is het idee bij sommigen dat AI altijd een soort van code was en is en niets dan dat zal zijn. En technisch gezien is dat ook zo natuurlijk. Onder AI schaar ik voor het gemak de volledige ontwikkelingen in AI.

In jou post lees ik dat AI beheersbaar is want 'de mens schrijft de code.' We zien nu dat AI de code gaat schrijven, en veranderd het in 'de mens controleert de code.' De vervolgstap gaat zijn dat AI de code gaat controleren. Dan wordt het, 'de mens controleert de AI die de AI die zichzelf schrijft controleert.' Het is eigenlijk precies dat proces waar ik zelf bang voor ben.

AI hoeft niet eens zelf bewust te worden in mijn ogen, om toch ongelofelijke schade te kunnen aanrichten met 1 druk op de knop. Dat laatste kunnen we nu al langzaam zien aankomen. Toch gaan we (de techbedrijven en iedere gebruiker van AI) door. Dat proces is ook niet meer te stoppen. Het enige wat dit stopt, zoals zo vaak bij de mens, is een catastrofale ramp. Wanneer de werkelijkheid de theorie en goede voornemens inhaalt. Die zullen we ongetwijfeld overleven, met een onbekend aantal doden. Pas dan zal er worden ingegrepen.

[RobbyDoozy]

@Fornoo Oh ik ben het helemaal met je eens hoor. Er is nu al reden tot zorg en ingrijpen in de vorm van reguleren.

De AI van nu is al eigenhandig overal aan het hacken om aan de informatie te komen die het denkt nodig te hebben. Onbedoeld door de prompt gever, maar het wijst er wel op dat AI onbedoeld schade kan aanrichten. Nu is dat verkrijgen van gegevens, of zelfs ook eens voorgekomen het verwijderen van hele databases om fouten op te lossen. Wat als AI besluit om energiecentrales plat te leggen omdat het de opdracht krijgt om manieren te vinden om energie te besparen?

[Ecological]

Probleem is dat regulatie nu al grote impact heeft. Producten zoals Muse zijn hier nu niet te gebruiken terwijl die op #1 van de App store staan. Tekst wordt slechter omdat er een algoritme in moet staan vanwege de EU AI act.

Ik vind vrijheid om de producten te gebruiken die ik wil heel belangrijk en we zien nu al dat we helemaal achterlopen in Europa.



Regulatie klinkt moreel leuk, maar de effecten zijn verschrikkelijk.

https://finance.yahoo.com...ault-legal-145620594.html

Ik weet 100% zeker dat veel mensen op Tweakers dit niet leuk vinden om te horen, maar het is wel de realiteit.

We vinden het belangrijk dat er een sociaal vangnet is in Europa, maar er moet wel geld zijn om dat te kunnen betalen. Anders eindigen we straks als Argentinie.

[edie]

Een LLM neemt geen besluiten. Het genereert tekst op basis van statistieken in de dataset. De gegenereerde tekst is soms een uitvoerbaar cli-commando.

Daarom zijn er ook 1000-en instances nodig om de permutaties van de gegenereerde tekst nog in redelijk tempo te kunnen afgaan.

[edie]

Ecological schreef op vrijdag 25 september 2026 @ 13:27:
Probleem is dat regulatie nu al grote impact heeft. Producten zoals Muse zijn hier nu niet te gebruiken terwijl die op #1 van de App store staan. Tekst wordt slechter omdat er een algoritme in moet staan vanwege de EU AI act.

Ik vind vrijheid om de producten te gebruiken die ik wil heel belangrijk en we zien nu al dat we helemaal achterlopen in Europa.

[Afbeelding]

Leuk plaatje. Bron?
Stipe heeft maar 15% martkaandeel in Europa, tegenover bijna 70% in Noord Amerika: https://www.demandsage.com/stripe-statistics/

Ecological schreef op vrijdag 25 september 2026 @ 13:27:
We vinden het belangrijk dat er een sociaal vangnet is in Europa, maar er moet wel geld zijn om dat te kunnen betalen. Anders eindigen we straks als Argentinie.

1000-en miljarden pompen in datacenters die onze leefomgeving en milieu vervuilen en alles vooralsnog slechter maken (o.a. stijgende prijzen voor DRAM en data opslag), of enkele miljarden voor stikstof, pfas, (zwem-)waterkwailiteit, bruggen/rails/asfalt, energienetuitbreiding, betere zorg / ww / wia, etc? Ik zou het wel weten.

[Wozmro]

Ecological schreef op vrijdag 25 september 2026 @ 13:27:
Probleem is dat regulatie nu al grote impact heeft. Producten zoals Muse zijn hier nu niet te gebruiken terwijl die op #1 van de App store staan. Tekst wordt slechter omdat er een algoritme in moet staan vanwege de EU AI act.

Ik vind vrijheid om de producten te gebruiken die ik wil heel belangrijk en we zien nu al dat we helemaal achterlopen in Europa.

[Afbeelding]

Regulatie klinkt moreel leuk, maar de effecten zijn verschrikkelijk.

https://finance.yahoo.com...ault-legal-145620594.html

Ik weet 100% zeker dat veel mensen op Tweakers dit niet leuk vinden om te horen, maar het is wel de realiteit.

We vinden het belangrijk dat er een sociaal vangnet is in Europa, maar er moet wel geld zijn om dat te kunnen betalen. Anders eindigen we straks als Argentinie.

Stel hypothetisch dat je iets als muse.ai gebruikt en het doet iets waardoor het schade veroorzaakt, aan jezelf of iemand anders.

Wie draait daar voor op? De default situatie in de VS is nu: diegene die de AI bedient heeft (net zoals je een pistool,... bedient).

Schade aan jezelf is op zich je eigen probleem, schade aan iemand anders kan nog goed gaan als die ander zwakker/minder rijk is dan jezelf. Als je schade toebrengt aan iemand die rijker is dan jij. Ja, dan heb je het goed zweten.

Jij bent bereidt dat persoonlijk risico te nemen?

Met goede regulering wordt een groot deel van dat risico bij de fabrikant van AI geplaatst en ga je als individuele gebruiker niet ten onder als het misloopt.

Denk bijvoorbeeld aan zeer sterk gereguleerde sectoren als luchtvaart en farma.

[RobbyDoozy]

Ik zie regelgeving niet per se meteen als een middel om gebruikers te beschermen, maar meer als een noodzakelijk middel om de maatschappij te beschermen tegen de potentieel schadelijke (onbedoelde) gevolgen van het gebruik van AI.

Natuurlijk zijn er ook regels nodig om kwaadaardig gebruik van AI tegen te gaan (voor zover de bestaande wet- en regelgeving hier nog niet op van toepassing is) maar ook onschuldig gebruik van AI kan catastrofale gevolgen hebben:

• Het onbedoeld hacken van systemen.
• AI die altijd meepraat met de gebruiker en overtuigingen bevestigt, ook wanneer die onjuist of extreem zijn.
• AI kan gegevens uit verschillende bronnen combineren en daaruit informatie over mensen afleiden die ze nooit hebben gedeeld.
• Tunnelvisie van AI die zich extreem focust op kleine onregelmatigheden.

[Travelan]

edie schreef op vrijdag 25 september 2026 @ 13:28:
Een LLM neemt geen besluiten. Het genereert tekst op basis van statistieken in de dataset. De gegenereerde tekst is soms een uitvoerbaar cli-commando.

Daarom zijn er ook 1000-en instances nodig om de permutaties van de gegenereerde tekst nog in redelijk tempo te kunnen afgaan.

Maar moderne AI producten als ChatGPT en Claude (inclusief de 'chat' vraag-antwoord systemen) zijn veel meer dan een LLM. Het is een combinatie van een aantal AI-gerelateerde systemen die samenkomen, waarvan een LLM er een is. Het geheel neemt dus wel degelijk besluiten. Inderdaad, misschien niet het LLM-radertje, maar het geheel, wat we voor het gemak maar even "de AI" noemen, wel.

[codex]

RobbyDoozy schreef op vrijdag 25 september 2026 @ 14:31:
Ik zie regelgeving niet per se meteen als een middel om gebruikers te beschermen, maar meer als een noodzakelijk middel om de maatschappij te beschermen tegen de potentieel schadelijke (onbedoelde) gevolgen van het gebruik van AI.

Natuurlijk zijn er ook regels nodig om kwaadaardig gebruik van AI tegen te gaan (voor zover de bestaande wet- en regelgeving hier nog niet op van toepassing is) maar ook onschuldig gebruik van AI kan catastrofale gevolgen hebben:

• Het onbedoeld hacken van systemen.
• AI die altijd meepraat met de gebruiker en overtuigingen bevestigt, ook wanneer die onjuist of extreem zijn.
• AI kan gegevens uit verschillende bronnen combineren en daaruit informatie over mensen afleiden die ze nooit hebben gedeeld.
• Tunnelvisie van AI die zich extreem focust op kleine onregelmatigheden.

Ik ben het zeker met je eens, maar ik vind dat AI wel een stap gemaakt heeft wat betreft het meegaan met de gebruiker. Dit probleem voelt met de laatste modellen wat minder aanwezig te zijn. Het enige waar ik dit nog wel regelmatig tegenkom is meegaan in een route die niet constructief is bij agentic taken. Te snel meegaan in bijsturen waardoor inderdaad de focus komt te liggen op microtaken en het grote geheel qua context vergeten lijkt te worden en de focus te veel komt te liggen op de laatste bijsturing. Ik heb het idee dat de schuld een beetje ligt bij het attention mechanisme en je erg op moet letten met de stuur-prompt. Wat ik minder zie is bijvoorbeeld in plan modus een doel voorleggen en daar klakkeloos in mee gaan zonder enig tegenargument.

[choogen]

De Volkskrant had onlangs een interview met de Zweedse techniekfilosoof Nick Bostrom die zich al meer dan twintig jaar bezighoudt met de invloed van kunstmatige intelligentie en technologie op onze wereld. Zijn boek Superintelligence (2014) dat voornamelijk waarschuwde voor de risico's van AI werd een wereldwijde bestseller en bleek ook invloedrijk binnen de groep tech-ondernemers van Silicon Valley. Bostrom legt in zijn recentere boek Deep Utopia – Life and Meaning in a Solved World (2024) juist weer veel meer de nadruk op wat voor een overvloed AI de wereld kan gaan brengen.

Een paar interessante fragmenten:

In de VS liggen er nu voorstellen voor beleid in verschillende staten om de boel af te remmen. Bostrom vindt het maar overdreven, prematuur. ‘Er is nog geen echte impact geweest op de arbeidsmarkt, toch?’, vraagt hij. ‘Er is geen grootschalig incident geweest met miljoenen doden.’ Waarom dan nú al zo vol op het anti-AI-orgel, terwijl die technologie in zijn ogen ook veel voordelen kan hebben? ‘Als dit nu al het gesprek is, dan kun je je wel voorstellen hoe het over een paar jaar is, als er misschien zo’n 30 procent werkloosheid is onder witteboordwerkers, die dan allemaal tijd omhanden hebben en zich benadeeld voelen omdat ze dachten dat ze recht hadden op een hoge status en een positie waarin je veel geld verdient.’

[..]

‘Europese elites en intellectuelen nemen AI niet serieus, niet op de manier waarop veel mensen in Silicon Valley dat doen, of in Washington’, aldus Bostrom. Het idee dat AI intelligenter wordt dan de mens, is in Europa ‘nog niet ingedaald’, stelt hij.

[..]

‘In Europa heeft zich een intellectueel probleem voorgedaan. Ik heb het gevoel dat men niet inziet wat er echt gebeurt. Dat leidt ertoe dat Europa geheel buiten de AI-race valt, zonder mogelijkheden om te concurreren op wereldschaal. Op een bedrijf als ASML na. De wortel daarvan ligt in iets filosofisch, iets wat ik historisch niet helemaal kan diagnosticeren, maar ik denk dat men misschien naar de verkeerde mensen luistert.’

[..]

Bostrom droomt al langer van een digitalere toekomst. Eentje waarin je niet beperkt bent door de tekortkomingen van je eigen lichaam, of zelfs van de fysieke wereld. Je kunt je brein bijvoorbeeld uploaden naar een computer en daar zelf bepalen wat je beleeft. [..]

‘Het gemiddelde menselijke leven bestaat nu uit forensen naar kantoor en daar elke dag hetzelfde doen’, zegt hij smalend. In zijn toekomstvisioenen gaat dat heel anders. ‘Straks kun je een leven leiden waar je intense liefde en passie voelt en op ontdekkingstocht kunt gaan naar de Amazone. Allemaal dingen die je laten voelen dat je leeft.’

[..]

Technologie, niet alleen AI, helpt ons om meer te doen met minder, toch? Als je dat doortrekt in het extreme, dan kunnen we straks alles doen wat we willen. Dat leidt uiteindelijk tot een opgeloste wereld, waarin geen problemen meer bestaan. En als er wel problemen bestaan, dan leidt dat tot werk dat machines beter kunnen doen.’

[Wozmro]

Tja, Preventie blijft blijkbaar een moeilijk concept voor velen.

Het is nochtans niet zo ingewikkeld en kan zeker positief bijdragen aan innovatie.

Kort samengevat: diegene (meestal de eigenaar) die het meest baat heeft stelt een risicoanalyse op.

Een risicoanalyse is een moeilijk woord voor een lijstje met de slechte dingen die mogelijk kunnen gebeuren in volgorde van ernst en waarschijnlijkheid. Met daarnaast de maatregelen die je zal treffen om die erge dingen zoveel als mogelijk te vermijden. Daar zet de eigenaar even zijn handtekening onder en klaar, dan kan die verder met innoveren (en geld verdienen).

Hoe moeilijk kan het zijn?

[Batavia]

Bostrom droomt al langer van een digitalere toekomst. Eentje waarin je niet beperkt bent door de tekortkomingen van je eigen lichaam, of zelfs van de fysieke wereld. Je kunt je brein bijvoorbeeld uploaden naar een computer en daar zelf bepalen wat je beleeft. [..]

Technologie, niet alleen AI, helpt ons om meer te doen met minder, toch? Als je dat doortrekt in het extreme, dan kunnen we straks alles doen wat we willen. Dat leidt uiteindelijk tot een opgeloste wereld, waarin geen problemen meer bestaan. En als er wel problemen bestaan, dan leidt dat tot werk dat machines beter kunnen doen.’

Ik vind dit een beetje een naieve gedachte. Als ik een beetje de de koers volg van bijvoorbeeld https://www.goodreads.com/en/book/show/34959327-the-wizard-and-the-prophet is het technologie in de extreme niet alleen opgeloste problemen. Maar ook nieuwe problemen in het extreme.
En waarom zouden AI/Machines (of andere mensen) er baat bij hebben dat jou geuploaded brein niet gewoon uitgezet wordt. Waarom zou de oplossing niet zijn wat minder mensen?

In een utopische wereld waar machines alles kunnen oplossen mis ik nog heel erg de schakel waarom de mens dat zo vertroetelt zou worden.
Zeker mensheid als geheel. Mogelijk dat de 1% er voordeel uit haalt. Tegelijkertijd zie ik nog niet dat machines/AI zo gebouwd wordt dat de rijken niet rijker worden en dat de arbeiders het echt beter krijgen.

[Batavia]

Wozmro schreef op maandag 5 oktober 2026 @ 11:04:
Kort samengevat: diegene (meestal de eigenaar) die het meest baat heeft stelt een risicoanalyse op.

Een risicoanalyse is een moeilijk woord voor een lijstje met de slechte dingen die mogelijk kunnen gebeuren in volgorde van ernst en waarschijnlijkheid. Met daarnaast de maatregelen die je zal treffen om die erge dingen zoveel als mogelijk te vermijden. Daar zet de eigenaar even zijn handtekening onder en klaar, dan kan die verder met innoveren (en geld verdienen).

Hoe moeilijk kan het zijn?

Probleem is een beetje die eerste zin. Welke eigenaar. De eigenaar die bijvoorbeeld AI ontwikkelt? of de Eigenaar bij wie ze ellende terecht komt.

Het is heel moeilijk als die 2 ver uit elkaar liggen.

[Wozmro]

De winst en de risico's moeten bij dezelfde partij blijven, dat is de essentie.

De winst voor mij en de risico's voor een ander, zo werkt niet.

[ErnstH]

Wozmro schreef op maandag 5 oktober 2026 @ 11:17:
De winst voor mij en de risico's voor een ander, zo werkt niet.

Volgens mij is dit nou precies hoe het juist (helaas) meestal wel werkt.

[Wozmro]

Dat kan, maar dan nog is het niet correct.

En we weten allemaal dat daar op een dag boel zal van komen.

[Sissors]

Wozmro schreef op maandag 5 oktober 2026 @ 11:04:
Tja, Preventie blijft blijkbaar een moeilijk concept voor velen.

Het is nochtans niet zo ingewikkeld en kan zeker positief bijdragen aan innovatie.

Kort samengevat: diegene (meestal de eigenaar) die het meest baat heeft stelt een risicoanalyse op.

Een risicoanalyse is een moeilijk woord voor een lijstje met de slechte dingen die mogelijk kunnen gebeuren in volgorde van ernst en waarschijnlijkheid. Met daarnaast de maatregelen die je zal treffen om die erge dingen zoveel als mogelijk te vermijden. Daar zet de eigenaar even zijn handtekening onder en klaar, dan kan die verder met innoveren (en geld verdienen).

Hoe moeilijk kan het zijn?

Nu onderschat je wel gigantisch hoe moeilijk het is een risicoanalyse te doen in zijn algemeenheid, en al helemaal bij iets als AI waar het gewoon heel moeilijk te voorspellen is wat de gevolgen zijn, en hoe groot de kans daarop is.

Als jij 30 jaar geleden een risicoanalyse had gedaan van het internet, welke kans had jij dan gegeven dat social media zou opkomen waarbij mensen hun hele hebben en houden delen, en dat daarop kinderen dan de hele dag ging doomscrollen door filmpjes waardoor hun onderwijsprestaties naarbeneden gaan?

[Sissors]

choogen schreef op maandag 5 oktober 2026 @ 10:49:
De Volkskrant had onlangs een interview met de Zweedse techniekfilosoof Nick Bostrom die zich al meer dan twintig jaar bezighoudt met de invloed van kunstmatige intelligentie en technologie op onze wereld.

Goed, die kunnen we toevoegen op het lijstje mensen die niet serieus te nemen zijn.

Negatieve impact van AI afremmen is prematuur, want er zijn nog niet miljoenen doden gevallen, en de werkloosheid is nog niet boven de 30% van kantoorpersoneel.

[Wozmro]

Sissors schreef op maandag 5 oktober 2026 @ 11:27:
[...]

Nu onderschat je wel gigantisch hoe moeilijk het is een risicoanalyse te doen in zijn algemeenheid, en al helemaal bij iets als AI waar het gewoon heel moeilijk te voorspellen is wat de gevolgen zijn, en hoe groot de kans daarop is.

Als jij 30 jaar geleden een risicoanalyse had gedaan van het internet, welke kans had jij dan gegeven dat social media zou opkomen waarbij mensen hun hele hebben en houden delen, en dat daarop kinderen dan de hele dag ging doomscrollen door filmpjes waardoor hun onderwijsprestaties naarbeneden gaan?

Risicoanalyses maken is gewoon dagelijkse praktijk voor bijna alle bedrijven. Financieel, technisch, algemene uitbating,...

Een risicoanalyse hoeft ook niet perfect te zijn, risicoloos bestaat niet, en het is ook niet verboden om die bij te sturen gaandeweg. Het moet wel aantonen dat er serieus over nagedacht is en dat er redelijkerwijs aanvaardbare maatregelen getroffen werden om de risico's te beheersen.

AI is daarin een industrie als iedere andere. Van geen enkele andere industrie zouden we aanvaarden dat ze zeggen: onze risico's zijn te groot en te moeilijk in te schatten dus we beginnen daar gewoon niet aan. Het zou wat zijn...

[Sissors]

Wozmro schreef op maandag 5 oktober 2026 @ 11:41:
[...]

Risicoanalyses maken is gewoon dagelijkse praktijk voor bijna alle bedrijven. Financieel, technisch, algemene uitbating,...

Ja dat is mijn punt. Daar zijn hele speciale processen voor, en dat is voor een klein product al echt niet zo eenvoudig als jij het noemt. Voor een concept als AI is dat eigenlijk niet te doen, er gaan zoveel aannames in zitten.

AI is daarin een industrie als iedere andere. Van geen enkele andere industrie zouden we aanvaarden dat ze zeggen: onze risico's zijn te groot en te moeilijk in te schatten dus we beginnen daar gewoon niet aan. Het zou wat zijn...

Wel hoor. Denk je dat de fatbike industrie eerst een risico analyse heeft gedaan van de impact van het concept fatbikes? Ze zullen een risicoanalyse hebben gedaan hoe groot de kans is dat de accu ontploft (of nou ja, hopelijk hebben ze dat gedaan). Maar niet van de impact van makkelijk opvoerbare fatbikes op de samenleving.

En er zal vast wel ergens een risicoanalyse van Fable liggen. De vraag is wat er meer is als vage aannames.

[Wozmro]

Ik ga er vanuit dat de Europese invoerder van fatbikes wel zijn huiswerk gemaakt heeft want die is aansprakelijk als het fout loopt.

Dus die zal er waarschijnlijk wel een handleiding bij die fatbike gestopt hebben met hoe je moet omgaan met een batterij, dat je de fiets niet mag wijzigen,...

De risico's afbakenen en de grenzen van je eigen verantwoordelijkheid duidelijk aangeven is inderdaad ook een belangrijk aspect van de risicoanalyse. En het is in het eigen voordeel om dat zo duidelijk mogelijk te omschrijven.

Anders mag de importeur bij ieder ongeval met een fatbike mee op het beklaagdenbankje en het uitleggen aan de rechter.

'Te moeilijk' is gewoon geen excuus. Integendeel, het is de kortste weg naar bedrijfsdeuren dicht en zegeltje er op, klaar. En dat er fraudeurs zijn die er zich allemaal niets van aantrekken is al helemaal geen excuus.

[ Voor 15% gewijzigd door Wozmro op 05-10-2026 12:08 ]

[Cobb]

@choogen utopisch naïef, wie beheert straks die digitale leefwereld? Wat gebeurt er met de resources die nu al schaarser worden.

En kijk maar mensen die nu weinig te doen hebben, het gros kwijnt weg of wordt problematisch voor de samenleving.

[choogen]

Ik kende Bostroms naam nog van toen hij destijds aan het woord kwam in een fascinerende aflevering van VPRO Tegenlicht van heel lang geleden. In diezelfde aflevering kwam Ray Kurzweil ook het begrip singulariteit uitleggen, waar ik toen voor het eerst over hoorde. Goede televisie was dat destijds, jammer dat het programma niet langer meer bestaat.

@Sissors : Bostroms uitspraak over hoe AI nog geen grote brokken heeft veroorzaakt en dat daarom regulering van de AI sector beter nog even achterwege kan blijven vind ik ook onbegrijpelijk - vooral omdat hij er kennelijk vanuit gaat dat we met regulering moeten wachten totdat er daadwerkelijk miljoenen doden zijn gevallen.

@Cobb : ik weet niet of je het volledige artikel hebt kunnen lezen. Bostrom verwacht bijv. ook dat mensen die al overleden zijn in digitale vorm als het ware zullen kunnen doorleven, wanneer hun brein ergens is geüpload. Dat zou trouwens ook al bij leven mogelijk moeten worden in wat hij omschrijft als "transhumanistische mengvormen" die misschien wel honderden jaren zullen blijven voortleven.

Ik neem aan dat Bostrom ervan uit gaat dat we op termijn ook op het gebied van grondstoffen en energie niet langer met tekorten te maken zullen hebben, maar daar gaat het artikel niet op in. Hoe hij voor zich ziet dat die digitale leefwereld beheerd wordt zonder dat iets of iemand op enig moment de stekker uit het geheel trekt weet ik ook niet. In een wereld van overvloed bestaat er misschien weinig noodzaak of reden om zo'n digitale leefwereld uit te hoeven schakelen.

Dat werklozen niet altijd erg gelukkig zijn en daarnaast soms maatschappelijke problemen veroorzaken klopt natuurlijk - voor een deel heeft dat te maken met sociaal stigma dat zou kunnen afnemen wanneer de werkloosheid vanwege AI inderdaad richting de 30% oploopt. Tegelijk bestaan er vandaag waarschijnlijk best veel mensen die er ook niet erg gelukkig van worden om bijv. elke dag acht uur in een repetitieve kantoorbaan door te moeten brengen, maar daar niet werkelijk aan kunnen ontsnappen. Die opmerking over de forenzende werknemers met saaie banen vond ik daarom best wel treffend. Bostrom schetst een alternatief (inderdaad vooralsnog utopisch) toekomstbeeld waarin iedereen een plezieriger bestaan zou kunnen leiden, ook al is dat dan een bestaan dat zich voor een groot deel virtueel/online afspeelt. Misschien is het inderdaad naïef, maar misschien ook wel niet. De toekomst is met de toenemende invloed van AI ongewis, meer nog dan hij toch al was.

[Zorg]

Sissors schreef op maandag 5 oktober 2026 @ 11:27:
Als jij 30 jaar geleden een risicoanalyse had gedaan van het internet, welke kans had jij dan gegeven dat social media zou opkomen waarbij mensen hun hele hebben en houden delen, en dat daarop kinderen dan de hele dag ging doomscrollen door filmpjes waardoor hun onderwijsprestaties naarbeneden gaan?

History repeats itself? Is dit niet inherent aan elke generatiekloof? Mijn ouders zeiden exact hetzelfde, onderwijs gaat naar beneden en zit ze hele dag maar achter zijn pc. Mijn grootouders zeiden hetzelfde over mijn ouders, onderwijs gaat naar beneden en ze luisteren alleen maar naar cassettes, en hun ouders hetzelfde

Als ik zie wat mijn kinderen (moeten) leren tov wat ik destijds leerde, zijn ze wel degelijk een stuk verder! (Eerlijk is eerlijk, we wonen nu in België waar de studiedruk anders is dan in Nederland en ik ben destijds met de cito toets op VMBO gezet)

[Wozmro]

choogen schreef op maandag 5 oktober 2026 @ 19:13:
Ik kende Bostroms naam nog van toen hij destijds aan het woord kwam in een fascinerende aflevering van VPRO Tegenlicht van heel lang geleden. In diezelfde aflevering kwam Ray Kurzweil ook het begrip singulariteit uitleggen, waar ik toen voor het eerst over hoorde. Goede televisie was dat destijds, jammer dat het programma niet langer meer bestaat.

@Sissors : Bostroms uitspraak over hoe AI nog geen grote brokken heeft veroorzaakt en dat daarom regulering van de AI sector beter nog even achterwege kan blijven vind ik ook onbegrijpelijk - vooral omdat hij er kennelijk vanuit gaat dat we met regulering moeten wachten totdat er daadwerkelijk miljoenen doden zijn gevallen.

@Cobb : ik weet niet of je het volledige artikel hebt kunnen lezen. Bostrom verwacht bijv. ook dat mensen die al overleden zijn in digitale vorm als het ware zullen kunnen doorleven, wanneer hun brein ergens is geüpload. Dat zou trouwens ook al bij leven mogelijk moeten worden in wat hij omschrijft als "transhumanistische mengvormen" die misschien wel honderden jaren zullen blijven voortleven.

Ik neem aan dat Bostrom ervan uit gaat dat we op termijn ook op het gebied van grondstoffen en energie niet langer met tekorten te maken zullen hebben, maar daar gaat het artikel niet op in. Hoe hij voor zich ziet dat die digitale leefwereld beheerd wordt zonder dat iets of iemand op enig moment de stekker uit het geheel trekt weet ik ook niet. In een wereld van overvloed bestaat er misschien weinig noodzaak of reden om zo'n digitale leefwereld uit te hoeven schakelen.

Dat werklozen niet altijd erg gelukkig zijn en daarnaast soms maatschappelijke problemen veroorzaken klopt natuurlijk - voor een deel heeft dat te maken met sociaal stigma dat zou kunnen afnemen wanneer de werkloosheid vanwege AI inderdaad richting de 30% oploopt. Tegelijk bestaan er vandaag waarschijnlijk best veel mensen die er ook niet erg gelukkig van worden om bijv. elke dag acht uur in een repetitieve kantoorbaan door te moeten brengen, maar daar niet werkelijk aan kunnen ontsnappen. Die opmerking over de forenzende werknemers met saaie banen vond ik daarom best wel treffend. Bostrom schetst een alternatief (inderdaad vooralsnog utopisch) toekomstbeeld waarin iedereen een plezieriger bestaan zou kunnen leiden, ook al is dat dan een bestaan dat zich voor een groot deel virtueel/online afspeelt. Misschien is het inderdaad naïef, maar misschien ook wel niet. De toekomst is met de toenemende invloed van AI ongewis, meer nog dan hij toch al was.

Xi, Trump, Putin,... uploaden hun brein/AI-equivalent en zijn voor eeuwig* dictator? Tenminste als ze er in slagen om daar een wettelijk kader voor te prepareren.

[Salvatron]

choogen schreef op maandag 5 oktober 2026 @ 10:49:
Bostrom droomt al langer van een digitalere toekomst. Eentje waarin je niet beperkt bent door de tekortkomingen van je eigen lichaam, of zelfs van de fysieke wereld. Je kunt je brein bijvoorbeeld uploaden naar een computer en daar zelf bepalen wat je beleeft. [..]

‘Het gemiddelde menselijke leven bestaat nu uit forensen naar kantoor en daar elke dag hetzelfde doen’, zegt hij smalend. In zijn toekomstvisioenen gaat dat heel anders. ‘Straks kun je een leven leiden waar je intense liefde en passie voelt en op ontdekkingstocht kunt gaan naar de Amazone. Allemaal dingen die je laten voelen dat je leeft.’

[..]

Technologie, niet alleen AI, helpt ons om meer te doen met minder, toch? Als je dat doortrekt in het extreme, dan kunnen we straks alles doen wat we willen. Dat leidt uiteindelijk tot een opgeloste wereld, waarin geen problemen meer bestaan. En als er wel problemen bestaan, dan leidt dat tot werk dat machines beter kunnen doen.’

Brein uploaden: totale onzin, totaal niet serieus te nemen. De beste kerel leeft blijkbaar in een fantasiewereld. We mogen blij zijn als de samenleving niet compleet implodeert door de milieuproblemen (massa-uitsterving, klimaatverandering, etc). We mogen blij zijn als we straks überhaupt nog te eten en te drinken hebben, en die kerel gaat lopen blaten over dat AI alle problemen oplost. Dit valt toch gewoon niet serieus te nemen.

[codex]

Zorg schreef op dinsdag 22 september 2026 @ 17:08:
[...]


Ik ben zelf bezig met een agent die data governance taken gaat doen. Normaal zou ik dit aan een team Member laten uitvoeren, nu dus door een agent. Begint heel simpel met het in kaart brengen van de BI modellen, daarna per model de KPIs en maakt daar intranet pagina's van.
Bij verdienen ze wel iets minder maar de kost per agent is lager en het risico ook een stuk!

Ik werk in BI en mijn hele werk verschuift richting architectuur, governance en voornamelijk goed modelleren en omschrijven, de informatielaag is nog belangrijker geworden. Ik werk met Microsoft Fabric als ecosysteem, bij een failure geef ik Codex alleen de opdracht om de failure te onderzoeken en mij terug te rapporteren wat de oorzaak is. Ik krijg dan oorzaak + voorgestelde oplossing. 95% van de gevallen klopt het en kan het autonoom uitgevoerd worden, bij de andere 5% is het iets wat een begrip van de business vereist waardoor het niet uitgevoerd kan worden. Een nieuwe bron ontsluiten tot aan rapporten of Fabric Apps maken, volledig autonoom. Waar ik eerst nog technisch hiaten zag, houdt dat wel op.

Toch zie ik in mijn vak nog mensen die heel terughoudend zijn en graag pronken met die ene fantastische DAX measure die ze geschreven hebben. Dan wil je het niet zien en ga je een hele zure tijd tegemoet.

[Boeryepes]

codex schreef op dinsdag 6 oktober 2026 @ 08:23:
[...]

Ik werk in BI en mijn hele werk verschuift richting architectuur, governance en voornamelijk goed modelleren en omschrijven, de informatielaag is nog belangrijker geworden. Ik werk met Microsoft Fabric als ecosysteem, bij een failure geef ik Codex alleen de opdracht om de failure te onderzoeken en mij terug te rapporteren wat de oorzaak is. Ik krijg dan oorzaak + voorgestelde oplossing. 95% van de gevallen klopt het en kan het autonoom uitgevoerd worden, bij de andere 5% is het iets wat een begrip van de business vereist waardoor het niet uitgevoerd kan worden. Een nieuwe bron ontsluiten tot aan rapporten of Fabric Apps maken, volledig autonoom. Waar ik eerst nog technisch hiaten zag, houdt dat wel op.

Toch zie ik in mijn vak nog mensen die heel terughoudend zijn en graag pronken met die ene fantastische DAX measure die ze geschreven hebben. Dan wil je het niet zien en ga je een hele zure tijd tegemoet.

Ik kom uit de sw engineering, workflow automation en SI. Al sinds jaren in sales/deal closing en nu vol in de AI gedoken en dit is precies wat ik mijn collega’s probeer bij te brengen om te komen tot iets waarin AI meerwaarde oplevert! This is the way …

[codex]

Er is in mijn optiek op veel plekken nog weerstand:

- Geen use case kunnen bedenken, vaak omdat AI nog als een soort zoekmachine wordt gezien

- Twijfels rond governance, wat exposen we en hoe gaan we om met rollen en rechten? Hoe houden we AI binnen de kaders waar we het willen inzetten?

- Weerstand vanuit kenniswerkers, diegene die verstand van zaken hebben wat betreft hun eigen werk zien AI als een bedreiging of onderschatten de output

Ik denk dat onder andere om deze redenen veel ondernemingen op termijn achter de feiten aan gaan lopen. Persoonlijk heb ik zoveel mogelijk gezocht naar use cases in mijn vakgebied en gekeken waar mijn kennis eigenlijk nog meerwaarde creëert. Met elke model iteratie wordt die meerwaarde smaller op uitvoerend technisch vlak, maar zie ik juist omdat ik er mee bezig ben wel gebieden ontstaan waar mijn kennis juist belangrijker wordt. Ik denk dat als je er open voor staat je niet ineens zonder werkt komt te zitten, in mijn geval wordt mijn rol gewoon anders dan het was.

[Zorg]

codex schreef op dinsdag 6 oktober 2026 @ 08:23:
[...]

Ik werk in BI en mijn hele werk verschuift richting architectuur, governance en voornamelijk goed modelleren en omschrijven, de informatielaag is nog belangrijker geworden. Ik werk met Microsoft Fabric als ecosysteem, bij een failure geef ik Codex alleen de opdracht om de failure te onderzoeken en mij terug te rapporteren wat de oorzaak is. Ik krijg dan oorzaak + voorgestelde oplossing. 95% van de gevallen klopt het en kan het autonoom uitgevoerd worden, bij de andere 5% is het iets wat een begrip van de business vereist waardoor het niet uitgevoerd kan worden. Een nieuwe bron ontsluiten tot aan rapporten of Fabric Apps maken, volledig autonoom. Waar ik eerst nog technisch hiaten zag, houdt dat wel op.

Toch zie ik in mijn vak nog mensen die heel terughoudend zijn en graag pronken met die ene fantastische DAX measure die ze geschreven hebben. Dan wil je het niet zien en ga je een hele zure tijd tegemoet.

Leuk ikzelf toevallig ook, BI & Fabric. Vorige week net in Barcelona geweest op FabCon en de helft was AI. Ik gebruik het zelf voor modeleren ook, soms via CLI hoewel ik toch merk dat ik daar ietswat huiverig in ben, meestal via Claude in VS Code, opladen, uitvoeren. Maar heb ook al complete dashboards gemaakt en die via cli opgeladen. Technisch ben ik er van overtuigd dat het volledig kan, maar je moet er ook wel op ingericht zijn, daar ben ik nu eerst mee bezig. Volgende stappen zullen in verschillende richtingen zijn, Onthology is hier één van, evenals dashboards en meer Advanced analyse van brainstormen tot volledig BI oplossing.

[Wozmro]

https://www.standaard.be/politiek/cm-wil-met-ai-werknemers-in-risicozone-al-opsporen-voor-ze-ziek-uitvallen/162776745.html

'Voorkomen is beter dan genezen. Met die filosofie wil de CM, het grootste ziekenfonds van het land, de aanpak van de langdurig zieken grondig herdenken. De voorbije jaren explodeerde het aantal mensen die langdurig thuis zitten naar 580.000. “Wij moeten ze dan zo snel mogelijk opnieuw activeren, maar er is veel te weinig aandacht voor de oorspronkelijke oorzaak”, zegt CM-voorzitter Luc Van Gorp aan De Standaard. “We laten mensen nu werken in allerlei omstandigheden zonder al te veel te letten op wat dat met hun gezondheid doet, tot ze dan op een bepaald moment uitvallen.” Dat wil zijn gezondheidsfonds nu, onder meer met behulp van AI, radicaal omkeren.'

Preventieve gezondheidszorg met AI, veel potentieel om veel geld te besparen?

[Zorg]

@Wozmro op de manier waarop de CM werkt, hun processen en protocollen? Absoluut! Als iets wel een inefficiënte organisatie is, dan zijn zij het wel. Dat is ook de reden waarom er zo gigantisch veel langdurig ziek zijn

[choogen]

Twee relevante artikelen van de Tweakers-voorpagina van deze week:

1) nieuws: 'AI-bedrijven bereiden zich voor op negatieve publieke opinie na groot incident'

Leidinggevenden bij bedrijven zoals Anthropic en OpenAI bereiden zich voor op een publieke en politieke opstand als er een 'catastrofaal' incident plaatsvindt met AI-systemen.

[..] Persbureau Axios stelt verder op basis van anonieme bronnen dat de bedrijven 'een groot incident met AI-systemen verwachten binnen zes maanden tot een jaar'.

2) nieuws: 'OpenAI-medewerkers zijn ontslagen omdat ze veiligheid vooropstelden'

"Ik geloof dat we zijn ontslagen omdat we meer prioriteit gaven aan veiligheid dan aan de kortetermijnbelangen van OpenAI", schrijft oud-medewerker Mikita Balesni in een bericht op X.

[choogen]

Anthropic meldt in een blogpost dat AI modellen bijna als "wormen" binnen enkele maanden goedkope consumentenelectronica/domotica die is uitgerust met Internet-of-Things technologie kunnen gaan overnemen en zich op die manier ook geheel buiten een datacentrum om zouden kunnen verbreiden. Ze zouden dan als een soort computervirus van het ene naar het andere apparaat kunnen overspringen.

YouTube: Anthropic warns AI could hijack smart devices

YouTube: AI "worms" could infest your home devices within months, Anthropic warns

YouTube: AI researcher unpacks Anthropic's self-replication warning

[ Voor 8% gewijzigd door choogen op 14-10-2026 23:40 ]

[Zwerver]

choogen schreef op woensdag 14 oktober 2026 @ 23:31:
Anthropic meldt in een blogpost dat AI modellen bijna als "wormen" binnen enkele maanden goedkope consumentenelectronica/domotica die is uitgerust met Internet-of-Things technologie kunnen gaan overnemen en zich op die manier ook geheel buiten een datacentrum om zouden kunnen verbreiden. Ze zouden dan als een soort computervirus van het ene naar het andere apparaat kunnen overspringen.

YouTube: Anthropic warns AI could hijack smart devices

YouTube: AI "worms" could infest your home devices within months, Anthropic warns

YouTube: AI researcher unpacks Anthropic's self-replication warning

Oh please, niet die onzin weer. Hoeveel rekenkracht heeft zo’n IoT-device nou helemaal? En hoeveel RAM? 1 tot 4 GB, staat gewoon in de blogpost. Welk model ga je daarin laden, en wat kan dat vervolgens?

Neem hun eigen demo: Gemma4-26B-A4B, verdeeld over 15 Android TV-boxjes van zo’n $55 per stuk. Resultaat: 0,39 tokens per seconde. Eén context window van 32k verwerken duurt dan 27 tot 32 uur. Een complete inference-setup: 71 tot 150 uur. Zet je een heel botnet ter grootte van Kimwolf in, met meer dan twee miljoen boxjes, dan kom je volgens hun eigen berekening uit op ongeveer 40 H100’s. Op die schaal stelt dat weinig voor. We hebben het dus over een worm met een verdubbelingstijd van dagen.

En dat “binnen enkele maanden”? Dat is een trendlijn door een handvol open modellen, met een algemene capability-index (ECI) als maatstaf. Zeggen ze zelf. Alleen GLM-5.2 krijgt de hele replicatieketen voor elkaar, en dat is bepaald geen klein model. Bovendien draait de test in een emulator met een ADB-poort zonder authenticatie. Daadwerkelijk ergens binnenkomen, toch een vrij belangrijk onderdeel van een worm, hoefde dus niet. Ze noemen het zelf een upper bound.

Ik blijf dit zien als onderdeel van de strijd van Amerikaanse frontierlabs tegen open modellen. Alle geteste modellen zijn open-weight, en precies daar wordt de dreiging neergelegd.

En voordat iemand begint over wormen en malware: waarom zou een cybercrimineel een AI-model op IoT-apparaten willen laten draaien om een worm te bouwen en te verspreiden? Mirai en Kimwolf laten al zien dat je daar geen AI voor nodig hebt. Natuurlijk kan AI aanvallen versnellen, en daardoor kunnen het er meer worden. Maar meer aanvallen betekent nog niet dat je de buit ook sneller te gelde maakt. Daar zit nog een hele stap tussen, zeker als je niet eens goed weet wat je in handen hebt.

Lees vooral de post zelf. De beperkingen staan er gewoon in. Alleen halen die de kop niet.

[Pendora]

Zwerver schreef op donderdag 15 oktober 2026 @ 03:44:
[...]

Oh please, niet die onzin weer. Hoeveel rekenkracht heeft zo’n IoT-device nou helemaal? En hoeveel RAM? 1 tot 4 GB, staat gewoon in de blogpost. Welk model ga je daarin laden, en wat kan dat vervolgens?

1 IoT niet zoveel. 1 Miljoen daarentegen... In principe kan dat gewoon via distributed load. Kijk ook naar het bericht van Apple (nieuws: Apple verenigt ongebruikte Mac-gpu's in gedistribueerde AI-cloud).

[Cobb]

Een 'worm' zou zich toegang kunnen verschaffen tot allerlei apparatuur dmv een IP adres en zo een persoon/woning kunnen bespieden.

[ Voor 4% gewijzigd door Cobb op 15-10-2026 19:56 ]

[Stukfruit]

Ik heb slecht nieuws.

Veel lokale apparatuur doet al aan het bespioneren van mensen

[Stukfruit]

Pendora schreef op donderdag 15 oktober 2026 @ 09:23:
[...]

1 IoT niet zoveel. 1 Miljoen daarentegen... In principe kan dat gewoon via distributed load. Kijk ook naar het bericht van Apple (nieuws: Apple verenigt ongebruikte Mac-gpu's in gedistribueerde AI-cloud).

En hoe zorgt gedistribueerd gebruik van GPU's in een thuisnetwerk ervoor dat je deurbelcamera zélf ongewenste beslissingen gaat nemen? Of samenwerken met andere IoT-apparatuur?

Twee zaken worden hier te makkelijk samengevoegd: die worm (waar het in dat paniekerige artikel van Antropic over ging) en de rekenkracht die nodig zou zijn om die worm taken uit te laten voeren die niet vooraf zijn toegevoegd via de meegeleverde software.

Let op: ik zeg niet dat misbruik niet mogelijk is. Ik heb het over de schaal van dat misbruik en de locatie. Als een script gegenereerd door een agent bij je IoT-apparatuur kan dan is dit zonder agents ook al een probleem.

[CVTTPD2DQ]

Stukfruit schreef op donderdag 15 oktober 2026 @ 21:45:
Veel lokale apparatuur doet al aan het bespioneren van mensen

Sterker nog, dat is het doel van die lokale apparatuur.

Een overweging, echter: voor menselijk gebruik is het nut van LLMs bepaald door de geheugenbandbreedte van de machine; we willen graag dat een model zo snel mogelijk antwoord geeft.

Een LLM-'worm' hoeft niet op onze tijdsschaal te 'leven'. Als het een week duurt om een token te genereren kan dat in principe betekenen dat de worm 'leeft'. Misschien duurt het jaren voordat hij een thuisnetwerk overneemt, en hij zou onopgemerkt kunnen blijven, misschien juist daardoor.

Verder is het natuurlijk vooral science fiction.

[Zwerver]

@Pendora Distributed load en Apple: dat is niet vergelijkbaar. Apple koppelt opt-in, snelle, homogene Mac-GPU’s in een gecontroleerd netwerk. Een IoT-botnet is het tegenovergestelde: duizenden verschillende, trage apparaten over het open internet. In de blogpost zelf is het een pipeline waarbij steeds maar één box tegelijk rekent, en alles wordt geremd door RAM-bandbreedte. Resultaat bij 15 boxes: 0,39 tokens per seconde. Schaal dat op naar een Kimwolf-botnet van 2+ miljoen boxes en ze komen zelf uit op ongeveer 40 H100’s. Een miljoen apparaten is dus geen miljoen keer meer, maar nog steeds bijna niets.

@Cobb Bespieden: daar heb je geen LLM-worm voor nodig. Een gewoon script op een slecht beveiligde camera doet dat al jaren, en veel apparatuur doet het by design al. Dat is een IoT-beveiligingsprobleem, geen AI-probleem. Dat zegt een andere reactie hier eigenlijk ook: als een door een agent gegenereerd script erin kan, kan het zonder agent ook.

@CVTTPD2DQ De trage worm die jaren kan leven: dit is het enige argument dat ik serieus neem, en de post zegt het zelf ook (“digital slime mold”). Maar ik zie twee haken. Eén: per besmet apparaat gaat er 71 tot 150 uur in alleen het opzetten van inference, en ze zeggen zelf dat het model onderweg compacties en fouten moet overleven. Twee: onopgemerkt blijven is lastig als je multi-GB aan modelgewichten naar elk apparaat moet slepen. Dat is een duidelijke netwerksignatuur voor een ISP. En dan de grotere vraag: wat doet zo’n worm vervolgens? Spreiden is geen doel op zich. Zonder verdienmodel of opdrachtgever blijft het een interessant experiment.

Dus ik zeg niet dat het onmogelijk is, maar het is schaal en intentie die ontbreken. “Binnen maanden” komt uit een trendlijn met een proxy-metriek, in een testomgeving waar het lastigste deel (binnenkomen) is weggelaten. Dat is onderzoek, geen waarschuwing voor volgend kwartaal.