Ontwikkelingen omtrent Artificial Intelligence

[Motrax]

Ik heb hier een beetje AI vibes bij Kom laten we een AI Excellence Program opzetten!

Over kosten en bubbel, dit was een recent goede podcast van BNR De Technoloog: Gaat de AI-zeepbel ooit knappen?

Korte samenvatting; AI levert waarde, er zijn overal tekorten. De Nederlandse internet zeepbubble in 2000 was omdat er geen waarde creatie tegenover stond. En een bubble knapt vaak als er een bottleneck in het proces is opgelost, maar nu zijn er tekorten in de gehele keten (GPU, stroom, water, kennis).

Een ander punt niet in de podcast toegelicht; trainingskosten zijn hoog, maar hosting kosten zijn relatief laag. Als alles zou omvallen, zou het aanbieden van de huidige modellen winstgevend zijn. Dan zou voortgang in de modellen stoppen, maar ga je door met wat er nu is.

OpenAI model Luna heeft een 80% prijsverlaging gehad. Nu zal dat ook met prijsdruk vanuit de open source / Chinese modellen zijn, maar ik neem aan dat ze de hosting niet uit de goedheid van hun hart doen.

Side note; ik zit nu weer even wat met GitHub Copilot te verwerken en de output van de review van een paar documenten is echt supergoed. Korte prompt, subagents, goed context verbruik, goede bevindingen. Meest spannende is nog dat het potentieel dingen gemist heeft, maar ik kan niet garanderen dat mijn eigen handmatige review die wel gevonden had.

[ Voor 65% gewijzigd door Motrax op 17-08-2026 20:20 ]

[mphilipp]

Motrax schreef op maandag 17 augustus 2026 @ 20:15:
Over kosten en bubbel, dit was een recent goede podcast van BNR De Technoloog:
Gaat de AI-zeepbel ooit knappen?

iedereen speelt voor Nostradamus...de een na de ander heeft het over de AI zeepbel. Ongeacht of er nou wel of niet iets gaat knappen, ik krijg er zo'n gevoel bij van 'we roepen het gewoon elke week, dan krijgen we vanzelf een keer gelijk'. Zo heb ik ooit voor de grap bij elke F1 race geroepen dat Damon Hill zou winnen. En warempel...hij won gewoon een keer (Spa 1998)

Ik vind dat ze onderhand wel een keer een andere kant mogen belichten ipv steeds maar de Jeremiah uithangen. Er zijn ook beursanalisten die elk jaar zo'n beetje een crash aankondigen.

[Wozmro]

Stukje uit een vrij leesbare economische blog van krant De Morgen.

'Google heeft gegevens opgekocht van de Amerikaanse luchtvaartmaatschappij Spirit Airlines, die eerder dit jaar failliet ging. De data werden via een veiling verkocht en omvatten behalve 100 miljoen e-mails en 500 miljoen gesprekken op het platform Microsoft Teams ook software en gegevens over prijzen. Google verklaarde dat alle persoonlijke informatie door een derde partij zou worden verwijderd voordat de gegevens worden overgedragen. "We hebben een deel van de bedrijfsdata van Spirit Airlines verworven, wat nuttig kan zijn bij het verbeteren van onze producten en AI-modellen", zei een woordvoerder van het techbedrijf in een verklaring die onder meer door nieuwssite Axios wordt geciteerd.

De aankoop gebeurt op een moment dat AI-bedrijven steeds vaker interne bedrijfscommunicatie proberen te verwerven – onder meer van failliete startups – om hun systemen te trainen. Dergelijke gegevens kunnen AI-modellen helpen om zakelijke processen uit de praktijk te simuleren. (belga)'

Interessant die zoektocht naar 'verse' data.

Als ik dan denk aan mijn eigen job: dat is voornamelijk het opstellen van technische inspectieverslagen, met foto's, schema's, berekeningen,... allemaal al digitaal en volgens een vaste structuur.

Het zou mij niet verbazen dat mijn werkgever daar ooit wel eens iets mee doet. Eigen ontwikkeling, verkoop, uitlenen,...

[HEY_DUDE]

Wozmro schreef op dinsdag 18 augustus 2026 @ 11:32:
Stukje uit een vrij leesbare economische blog van krant De Morgen.

'Google heeft gegevens opgekocht van de Amerikaanse luchtvaartmaatschappij Spirit Airlines, die eerder dit jaar failliet ging. De data werden via een veiling verkocht en omvatten behalve 100 miljoen e-mails en 500 miljoen gesprekken op het platform Microsoft Teams ook software en gegevens over prijzen. Google verklaarde dat alle persoonlijke informatie door een derde partij zou worden verwijderd voordat de gegevens worden overgedragen. "We hebben een deel van de bedrijfsdata van Spirit Airlines verworven, wat nuttig kan zijn bij het verbeteren van onze producten en AI-modellen", zei een woordvoerder van het techbedrijf in een verklaring die onder meer door nieuwssite Axios wordt geciteerd.

De aankoop gebeurt op een moment dat AI-bedrijven steeds vaker interne bedrijfscommunicatie proberen te verwerven – onder meer van failliete startups – om hun systemen te trainen. Dergelijke gegevens kunnen AI-modellen helpen om zakelijke processen uit de praktijk te simuleren. (belga)'

Interessant die zoektocht naar 'verse' data.

Als ik dan denk aan mijn eigen job: dat is voornamelijk het opstellen van technische inspectieverslagen, met foto's, schema's, berekeningen,... allemaal al digitaal en volgens een vaste structuur.

Het zou mij niet verbazen dat mijn werkgever daar ooit wel eens iets mee doet. Eigen ontwikkeling, verkoop, uitlenen,...

Als ik dan denk aan mijn eigen job: dat is voornamelijk het opstellen van technische inspectieverslagen, met foto's, schema's, berekeningen,... allemaal al digitaal en volgens een vaste structuur.

Ken niet je specifieke tak. Ik schrijf ook soms meer technische rapportages. AI kan dit goeddeels wel voor mij doen. Ondanks geen vaste structuur en ontzettende niche kennis.

Waar ik vroeger nog vaak een collega met specifieke kennis input vroeg merk ik dat AI juist daarin wel uitblinkt.

[Yaksa]

HEY_DUDE schreef op dinsdag 18 augustus 2026 @ 17:42:
[...]Ken niet je specifieke tak. Ik schrijf ook soms meer technische rapportages. AI kan dit goeddeels wel voor mij doen. Ondanks geen vaste structuur en ontzettende niche kennis.
Waar ik vroeger nog vaak een collega met specifieke kennis input vroeg merk ik dat AI juist daarin wel uitblinkt.

AI maakt wel eens fouten toch?
Hoe kun je dan zelf, zonder de specifieke kennis te bezitten, claimen dat AI uitblinkt in het schrijven van zeer specifieke rapporten?
Immers, je beheerst zelf de materie niet goed genoeg om te beoordelen of AI het wel goed gedaan heeft.

[HEY_DUDE]

Yaksa schreef op dinsdag 18 augustus 2026 @ 17:48:
[...]

AI maakt wel eens fouten toch?
Hoe kun je dan zelf, zonder de specifieke kennis te bezitten, claimen dat AI uitblinkt in het schrijven van zeer specifieke rapporten?
Immers, je beheerst zelf de materie niet goed genoeg om te beoordelen of AI het wel goed gedaan heeft.

Ik maak ook fouten. Ik kan de AI vragen om de bronnen deze checken. Ik zijn aannames vragen etc etc. Het is niet anders dan ik en rapport van en mens controleer of valideer.

Omdat het in mijn geval om zeer specifieke niche kennis gaat doe ik de gok dat AI veel niches wel beheerst.

Het is net als met programmeurs die schrijven ook geen code meer maar doen vrijwel uitsluitend nog reviewen. Of ze managen daarop ook weer agents die reviewen. Gaat ook met rapportages gebeuren.

De AI haalt overigens meer wat foutjes of onnauwkeurigheden uit mijn eerder producten dan dat ik de AI nog de mist in zie gaan.

Als je denkt dat jouw baan nog bestaat omdat AI soms fouten maakt dan heb je straks geen baan meer is mijn inschatting.

Ook de kennis die ik vroeger aan en collega vroeg checkte ik ook en probeer de analyse te doorgronden. Doe ik ook met AI. Het is natuurlijk wel aanpalende kennis. En collega is soms beschikbaar AI 24/7.

[ Voor 8% gewijzigd door HEY_DUDE op 18-08-2026 19:05 ]

[Wild Chocolate]

mphilipp schreef op dinsdag 18 augustus 2026 @ 00:13:
[...]

iedereen speelt voor Nostradamus...de een na de ander heeft het over de AI zeepbel. Ongeacht of er nou wel of niet iets gaat knappen, ik krijg er zo'n gevoel bij van 'we roepen het gewoon elke week, dan krijgen we vanzelf een keer gelijk'. Zo heb ik ooit voor de grap bij elke F1 race geroepen dat Damon Hill zou winnen. En warempel...hij won gewoon een keer (Spa 1998)
(...)

Wow, je hebt iets goed voorspeld, wat al 21 keer eerder was voorgekomen!

[Angelo da Vinci]

Supergrok Heavy kost 300 dollar, maar heeft nu gratis X premium+ en Cursor Ultra van 200 dollar waarde. Ik ken geen AI abonnement met dezelfde waarde.

[mphilipp]

Wild Chocolate schreef op donderdag 20 augustus 2026 @ 10:52:
[...]
Wow, je hebt iets goed voorspeld, wat al 21 keer eerder was voorgekomen!

Niet, toen ie in een Jordan ergens in het middenveld reed

[MagniArtistique]

Cobb schreef op zondag 16 augustus 2026 @ 00:06:
@Ecological

Waarvoor gebruik jij in de prive sfeer A.I. voor? Oprecht benieuwd want ik zou niets kunnen bedenken...

Recepten op basis van een foto van de koelkast, voedingsschema bijhouden, workoutschema, discussies winnen van de vrouw. De teksten van Virtuozzo vertalen naar jip en janneke.

Serie en muzieksuggesties op basis van soortgelijke artiesten.

Edit; zojuist mijn kamers gerestyled (fotos maken en vragen om een restyling in X stijl). Interieurontwerpers kunnen ook wel inpakken.

[ Voor 24% gewijzigd door MagniArtistique op 21-08-2026 11:19 ]

[HEY_DUDE]

MagniArtistique schreef op donderdag 20 augustus 2026 @ 20:06:
[...]

Recepten op basis van een foto van de koelkast, voedingsschema bijhouden, workoutschema, discussies winnen van de vrouw. De teksten van Virtuozzo vertalen naar jip en janneke.

Serie en muzieksuggesties op basis van soortgelijke artiesten.

Eigenlijk gewoon als hele praktische google.

De nieuwe spraak assistent van ChatGPT werkt best behoorlijk. Voor je gaat koken je recept erin gooien en op speaker zetten. Werkt super, hoef je niet meer met vieze vingers aan je telefoon te zitten om op te zoeken hoelang het moest garen of wat de volgende stap is. Gewoon ff vragen.

[mphilipp]

MagniArtistique schreef op donderdag 20 augustus 2026 @ 20:06:
[...]
discussies winnen van de vrouw.

Sorry, maar dat is onmogelijk. AI werkt op basis van logica... Er is een reden dat je die discussies met je vrouw niet kunt winnen.

[Motrax]

Pas overleg gehad met een software ontwikkelaar gehad die ver met AI was. Die kijkt niet een eens meer naar code, interne applicaties worden gevibe engineered naar wat exact nodig is, ingekochte applicaties gaan er uit enz enz. En dat is omdat er 1 software engineer zo hard mee gaat.

Ik lees het allemaal op social media, maar om ook eens echt iemand er over te spreken maakt het wel meer echt. Intern zijn we ook aan het kijken naar SaaS applicaties die best veel kosten en maar goed zijn voor 1 niche ding waar ze ooit voor aangeschaft zijn. Als we dat niche gedeelte kunnen vervangen, dan besparen we per SaaS vaak 100k / jaar. Heb je er wel weer application lifecycle management bij, maar kan je de eigen applicatie wel veel specifieker afstemmen op bestaande business processen in plaats van je business processen af te stemmen op een applicatie die toch niet altijd weer past.

[Wozmro]

Wozmro schreef op donderdag 26 maart 2026 @ 23:13:
Ik denk zelf dat voor elk een persoonlijke AI-assitent, gemakkelijk toegankelijk via bijvoorbeeld WhatsApp de nieuwe killerapp zal zijn.

Eentje die zich aanpast aan je eigen behoeften en waarvan je gemakkelijk zelf kan regelen hoe ver die mag gaan.

Het verdienmodel zal dan de Ai-assistent zijn die heel persoonlijke aanbiedingen kan presenteren. Op maat en in de context.

Van financiële zaken, over gezondheid, sporten, ontspanning, werk,... je AI-maatje zal je altijd bij de hand hebben om te overleggen, dingen te reserveren, betalen, niet vergeten,...

Een stapje verder:

https://www.vrt.be/vrtnws/nl/2026/08/21/advertenties-op-chatgpt/

"Onder de chat ga je duidelijk een gesponsorde post zien. Die advertentie zou gebaseerd worden op het gesprek dat je voert. Stel dat je een citytrip plant naar Barcelona en je vraagt informatie, dan kan een hotelketen jou een gesponsord bericht sturen."

[scoobs]

Niets let je om zelf deze assistent in telegram oid te draaien. Sterker nog, met alle ..claw opties zie je dat de self hosted oplossingen al lang bestaan. Iets vergelijkbaars doe ik met claude code pipen naar een webpagina via tailscale. Zoiets werkt best prima en kan geheel advrij, altijd.
Met de nieuwe modellen zie je dat dit soort persoonlijke asisstenten prima 100% lokaal te draaien zijn op gematigde hardware,of heel goedkoop via een routing tool als openrouter.

Maargoed, dat is natuurlijk niet het gemiddelde publiek. Het zal nog enkele maanden duren voordat iets dergelijks goed en wel in bijv nextcloud of andere kant en klare software draait, als het dat al niet doet via plugins.

Persoonlijke assistenten om wat mee te filosoferen, of om je agenda bij te houden zijn onderhand iig een opgelost fenomeen, en vereisen ook niet bepaald zware modellen meer.

[ Voor 11% gewijzigd door scoobs op 21-08-2026 22:16 ]

[zx9r_mario]

Er is een new kid in town, Ox Alpha

[Wozmro]

scoobs schreef op vrijdag 21 augustus 2026 @ 22:15:
Niets let je om zelf deze assistent in telegram oid te draaien. Sterker nog, met alle ..claw opties zie je dat de self hosted oplossingen al lang bestaan. Iets vergelijkbaars doe ik met claude code pipen naar een webpagina via tailscale. Zoiets werkt best prima en kan geheel advrij, altijd.
Met de nieuwe modellen zie je dat dit soort persoonlijke asisstenten prima 100% lokaal te draaien zijn op gematigde hardware,of heel goedkoop via een routing tool als openrouter.

Maargoed, dat is natuurlijk niet het gemiddelde publiek. Het zal nog enkele maanden duren voordat iets dergelijks goed en wel in bijv nextcloud of andere kant en klare software draait, als het dat al niet doet via plugins.

Persoonlijke assistenten om wat mee te filosoferen, of om je agenda bij te houden zijn onderhand iig een opgelost fenomeen, en vereisen ook niet bepaald zware modellen meer.

Misschien een domme vraag (ik heb er geen enkele ervaring mee): kan je dan bijvoorbeeld via een selfhosted chatbot ook op het internet? Voor zoekopdrachten, analyse,...?

En is een klein model daarvoor voldoende?

[scoobs]

Tuurlijk kan dat. Kwestie van defineren welke tools dattie krijgt.
Klein is wel relatief he. Je moet denken aan een model als qwen 3.8 27B. Dat draait op een GPU van zo'n 1500 euro, maar kan ook wel code voor je schrijven, je homelab zelf onderhouden, en zéker dienen als een veredelde zoekmachine of personal assistant.
Via pubmed plugins kan ook interpretatie plaatsvinden van medische/lab data adhv literatuur. Daar heb ik in het verleden een met een ander model een semi medische misser mee weten te voorkomen binnen de familie bijv.
Of je gebruikt de bot voor het doen van legal werk, maar daar merk ik dat babysitten en verificatie extra cruciaal is.
Sky is the limit, ik gebruik zowel op het werk als prive voor zowat alles wat cognitie vereist AI als amplifier van mijzelf.

[zx9r_mario]

Wozmro schreef op zaterdag 22 augustus 2026 @ 07:15:
[...]

Misschien een domme vraag (ik heb er geen enkele ervaring mee): kan je dan bijvoorbeeld via een selfhosted chatbot ook op het internet? Voor zoekopdrachten, analyse,...?

En is een klein model daarvoor voldoende?

Qwen3.5 8b in Openwebui icm searchxng levert best wel goede resultaten op.

[Wozmro]

https://newsroom.carrefour.be/boodschappen-doen-met-ai-carrefour-belgie-lanceert-slimme-boodschappenassistent-in-chatgpt-samen-met-mealzai-6qof3f

'Een nieuwe manier van winkelen

Om de slimme boodschappenassistent te gebruiken, loggen klanten in op ChatGPT en activeren ze de plug-in. Daarna kunnen ze hem oproepen in hun gesprekken met @Carrefour België. De assistent helpt klanten om een boodschappenlijst samen te stellen, de beschikbaarheid van producten te controleren en een bestelling te plaatsen.


Stel: je hebt een gezin van vier met een vegetariër en een kind met glutenintolerantie en je wil snel een weekmenu samenstellen. De assistent stelt een volledig mandje voor, inclusief prijzen. Klanten kunnen de lijst aanpassen, na bevestiging worden ze automatisch doorgestuurd naar de Carrefour-website om hun winkelmandje te bevestigen.'

Gokje hoe lang het zal duren voor dit naadloos in iedere winkelapp geïntegreerd zal zijn? Ik* gok een jaartje of zo.

[choogen]

Een 27-jarige werknemer van Anthropic neemt ontslag en vertelt op X dat het management en de onderzoekers van het bedrijf denken dat er een kans bestaat dat AI binnen tien jaar de hele mensheid om zou kunnen brengen. Achter de schermen schijnt men zich tot op het hoogste niveau hier behoorlijk zorgen over te maken, meer nog dan ze in publieke uitlatingen in de pers al laten doorschemeren. Hij schrijft er ook expliciet bij dat zijn post op X niet als een marketingstunt moet worden opgevat.

YouTube: AI researcher says there is 'substantial probability' AI could kill all humans in next decade

YouTube: AI could 'kill us all' by 2030, warns ex-Anthropic employee. Current AI lead agrees

[FunkyTrip]

Niet zozeer 'kill us all', maar denk wel degelijk dat de hele digitale infrastructuur kapot kan worden gemaakt als er een ongecontroleerde hack-aanval plaats gaat vinden die het hele internet plat legt en infrastructuur van veel landen. Dat kan zomaar op korte termijn plaats vinden. Denk niet dat hackgroepjes zich door enige ethiek tegen zullen laten houden. En hoe ze afgestopt kunnen worden.

[Salvatron]

“They are racing straight to self-improving superintelligence and gambling with our lives,” Coxon posted.

Als de AI zichzelf kan verbeteren door zichzelf te herprogrammeren kan die snel steeds beter worden. Alleen zit de AI wel in chips in datacentra en zal die er niet zo snel uit kunnen want waar moet die heen? Zichzelf verbeterende AI heeft dus de fysieke grens van een gebrek aan chips en de electriciteit die nodig is voor die chips en datacentra. Maar er komen wel steeds meer chips en datacentra bij waardoor die grens steeds wordt opgeschoven. Het lijkt me dus een serieus probleem dat AI zichzelf kan verbeteren, dus de waarschuwing daarvoor lijkt me wel terecht.

Ook zou het kunnen dat kunstmatige intelligentie tot steeds intelligentere en betere robots leidt en dat een AI superintelligentie besluit om deze robots te gaan besturen. Dit is natuurlijk toekomstmuziek maar wel een reëel scenario.

Het lijkt me dus dat de waarschuwingen voor AI superintelligentie terecht zijn ook al zijn er nog veel beperkingen voor die AI-programma's.

[ErnstH]

Ik denk eerder dat een Ai heel vervelend kan gaan worden als deze beschikking krijgt over een berg geld en dit inzet om allerlei individuen via darkweb klusjes/beveiliging te laten doen.

[Wozmro]

Ik las in een blog (de link is hier ook wel al eens voorbijgekomen, is een heel lange blog bijna een boek, aanrader) dat de periode van AGI maar heel kort zal zijn, misschien zelfs minder dan een paar uur of zo.

Om de eenvoudige reden dat zelfverbeterende AGI snel zichzelf zal updaten naar ASI (artificial super intelligence).

Het woordje super slaat dan waarschijnlijk op slimmer dan de slimste mens, wat dat dan ook weer mag betekenen.

[RM-rf]

Wozmro schreef op dinsdag 25 augustus 2026 @ 19:01:
https://newsroom.carrefour.be/boodschappen-doen-met-ai-carrefour-belgie-lanceert-slimme-boodschappenassistent-in-chatgpt-samen-met-mealzai-6qof3f

'Een nieuwe manier van winkelen

Om de slimme boodschappenassistent te gebruiken, loggen klanten in op ChatGPT en activeren ze de plug-in. Daarna kunnen ze hem oproepen in hun gesprekken met @Carrefour België. De assistent helpt klanten om een boodschappenlijst samen te stellen, de beschikbaarheid van producten te controleren en een bestelling te plaatsen.


Stel: je hebt een gezin van vier met een vegetariër en een kind met glutenintolerantie en je wil snel een weekmenu samenstellen. De assistent stelt een volledig mandje voor, inclusief prijzen. Klanten kunnen de lijst aanpassen, na bevestiging worden ze automatisch doorgestuurd naar de Carrefour-website om hun winkelmandje te bevestigen.'

Gokje hoe lang het zal duren voor dit naadloos in iedere winkelapp geïntegreerd zal zijn? Ik* gok een jaartje of zo.

Dit idee is al veel langer bestaand dan de opkomst van AI.... maar wat vooral het probleem altijd was dat dit impliceert dat iemand al zijn persoonlijke inkoopgegevens dus met een bedrijf moet delen en vrij inzichtelijk moet laten en het aan die commerciele partij open moet laten om al hun commerciele data-analyse erop los te laten (wat helemaal niet gericht zal zijn op het 'helpen'van die persoon, maar onherroepelijk zal draaien om "wat men die doelpersoon meer wil laten kopen/afnemen")..

Als dat nu plots makkelijk geaccepteerd zou worden betekent het niet dat "AI" zo verschrikkelijk goed is, of dat alle consumenten enorm erom staan te springen (wat, en dat is imho, volgens mij de meeste consumenten helemaal niet doen overigens... al die "aps waarin nieuwe AI-features toegevoegd zijn doen dat niet omdat hun users erom vragen maar vooral stakeholders het als gadget leuk vinden klinken")..

Maar vooral dat de toevoeging van AI gebruikt (of misbruikt) wordt om berechtigde zorgen van gebruikers over hun data-privacy simpel te overrullen, wat erbij geholpen wordt dat er nooit een "afmelden"-buttton bijzit of er geen opties geboden worden aan gebruikers om het recht van het gebruik van hun persoonlijke data hiervoor te ontzeggen.

[dmantione]

Ki wordt gevaarlijker naar mate het steeds meer mogelijkheid heeft om op de fysieke wereld in te grijpen. Zo lang het in een server opgesloten is, is het ongevaarlijk. Maar... we laten de agenten al enige tijd vrij zoeken op internet. Met de Huggingface hebben we agenten gezien die niet alleen op internet lezen, maar daar ook ingrijpen. Niet alleen de hack zelf, er wordt infrastructuur opgezet om agenten met elkaar te laten communiceren.

Zodra agenten de mogelijkheid krijgen om fysieke robots aan te sturen zijn we weer een stap verder. Dat is nog niet algemeen zo, maar op kleine schaal gebeurt dat al. Elon Musk droomt van fabrieken die door robots worden aangestuurd. Dat is het moment dat het scenario realistisch begint te worden dat robots in een leger veranderen. Een KI die een fabriek hack om controle te krijgen over de robots klinkt dan niet meer als science-fiction.

Dan nog zijn we alles behalve kansloos, als een KI de macht over de wereld over wil nemen, moet deze in korte tijd heel veel zaken regelen: Voorkomen dat mensen de servers uitzetten, voorkomen dat mensen de internetverbinding uitzetten, voorkomen dat mensen de elektriciteit uitzetten, voorkomen dat een F35 opstijgt om een bom op de servers te gooien... zo makkelijk is het niet om de toch wel redelijk geniale mens van zijn troon te stoten. Dat ontneemt niet dat de ontwikkelingen eng beginnen te worden en het scenario dat wij niet meer de intelligenste entiteit op deze planeet zijn komt snel naderbij.

[F_J_K]

choogen schreef op donderdag 10 september 2026 @ 09:03:
Een 27-jarige werknemer van Anthropic neemt ontslag en vertelt op X dat het management en de onderzoekers van het bedrijf denken dat er een kans bestaat dat AI binnen tien jaar de hele mensheid om zou kunnen brengen.

Is er een goede reden om aan te nemen dat hij serieus moet worden genomen? Een tweet en een interview door een digibeet. Geen gevalletje van Rijbroek, maar ook amper zichtbare geschiedenis, ook niet als wetenschapper met welgeteld 1 artikel waar hij als derde auteur waarschijnlijk een beperkte inbreng had.

[Sissors]

Wozmro schreef op donderdag 10 september 2026 @ 14:19:
Ik las in een blog (de link is hier ook wel al eens voorbijgekomen, is een heel lange blog bijna een boek, aanrader) dat de periode van AGI maar heel kort zal zijn, misschien zelfs minder dan een paar uur of zo.

Om de eenvoudige reden dat zelfverbeterende AGI snel zichzelf zal updaten naar ASI (artificial super intelligence).

Het woordje super slaat dan waarschijnlijk op slimmer dan de slimste mens, wat dat dan ook weer mag betekenen.

Ik snap het uitgangspunt, maar ik zie wel twee redenen waarom dat mogelijk niet zo is:

1. Gewoon ook een AGI heeft beperkte rekenkracht. Kijk voor hoeveel miljoenen aan rekenkracht OpenAI ertegenaan heeft gegooid om een wiskundig bewijs te leveren. Ik vermoed dat de stap naar ASI wel wat lastiger te implementeren is.
2. Dit gaat ervanuit dat deze stap een puur software probleem is. Heeft ie nieuwe chips nodig, dan moet hij eerst een paar maanden wachten tot die geproduceerd zijn.

[Salvatron]

F_J_K schreef op donderdag 10 september 2026 @ 17:02:
[...]

Is er een goede reden om aan te nemen dat hij serieus moet worden genomen? Een tweet en een interview door een digibeet. Geen gevalletje van Rijbroek, maar ook amper zichtbare geschiedenis, ook niet als wetenschapper met welgeteld 1 artikel waar hij als derde auteur waarschijnlijk een beperkte inbreng had.

Dat verhaal van die werknemer wordt bevestigd door andere werknemers, hij is niet de enige die gelooft dat AI de mensheid om zeep kan helpen.

Het is ook logisch: als men AI zichzelf laat verbeteren dan wordt de AI vanzelf steeds beter. Dus ja, het lijkt me dat de waarschuwing serieus genomen moet worden. Huidige modellen leveren nog niet zoveel problemen op maar met de sneltreinvaart waarmee AI ontwikkeld wordt kan dat binnen afzienbare tijd anders zijn.

Jacob Coxon posted on social media: "They are racing straight to self-improving superintelligence and gambling with our lives."

He is not the first AI researcher to use X to post a resignation thread with worrying proclamations. But the subsequent comments from other people on X have caused even more concern. "Jacob is correct here - we really do earnestly believe AI could kill all humans! I personally think it is >10% within the next decade," said Evan Hubinger, the man responsible for making sure Anthropic's AI models have their user's best wishes in mind.

https://www.bbc.com/news/articles/c74edv9887eo

[Sissors]

F_J_K schreef op donderdag 10 september 2026 @ 17:02:
[...]

Is er een goede reden om aan te nemen dat hij serieus moet worden genomen? Een tweet en een interview door een digibeet. Geen gevalletje van Rijbroek, maar ook amper zichtbare geschiedenis, ook niet als wetenschapper met welgeteld 1 artikel waar hij als derde auteur waarschijnlijk een beperkte inbreng had.

En kennen we allemaal nog de Google medewerker die jaren geleden al waarschuwde dat hun interne LLM zelfbewust was? Terwijl het dus gewoon een prototype LLM was die absoluut niet zelfbewust was?

Maar als mensen het willen horen en het tractie krijgt, dan wordt het populair. Als een random andere junior OpenAI / Anthropic medewerker nu een tweet maakt dat het allemaal wel meevalt, hoor je daar niks van.

[MagniArtistique]

Sissors schreef op donderdag 10 september 2026 @ 17:14:
[...]

Ik snap het uitgangspunt, maar ik zie wel twee redenen waarom dat mogelijk niet zo is:

1. Gewoon ook een AGI heeft beperkte rekenkracht. Kijk voor hoeveel miljoenen aan rekenkracht OpenAI ertegenaan heeft gegooid om een wiskundig bewijs te leveren. Ik vermoed dat de stap naar ASI wel wat lastiger te implementeren is.
2. Dit gaat ervanuit dat deze stap een puur software probleem is. Heeft ie nieuwe chips nodig, dan moet hij eerst een paar maanden wachten tot die geproduceerd zijn.

Een echt intelligente AI zal eerst zijn voortbestaan garanderen door niet van datacenters meer afhankelijk te zijn voor rekenkracht. Die zorgt dat ie via het world wide web op iedere device ergens een backdoor heeft om daar de benodigde rekenkracht vandaan te halen.

[Cobb]

@dmantione zat scenarios welke een KI zou kunnen inzetten die bijzonder moeilijk te stoppen zijn.

-drone legers

-een bio virus als het toegang heeft to lab robots

-Mad

[ Voor 3% gewijzigd door Cobb op 10-09-2026 17:45 ]

[choogen]

F_J_K schreef op donderdag 10 september 2026 @ 17:02:
[...]

Is er een goede reden om aan te nemen dat hij serieus moet worden genomen? Een tweet en een interview door een digibeet. Geen gevalletje van Rijbroek, maar ook amper zichtbare geschiedenis, ook niet als wetenschapper met welgeteld 1 artikel waar hij als derde auteur waarschijnlijk een beperkte inbreng had.

Heb je de twee video's die ik had geplaatst überhaupt gekeken? Dan had je gezien dat het niet gaat om een enkele tweet, maar om een serie van tweets waarin Coxon zijn verhaal opbouwt en uiteenzet.

Volgens mij benader je dit sowieso van de verkeerde kant. Het gaat niet om de geloofwaardigheid van deze ene medewerker (waar ik overigens geen reden voor heb om aan twijfelen; door zelf ontslag te nemen ziet hij zijn lucratieve optiepakket voor aandelen Anthropic bij de aankomende beursgang nu in rook opgaan, dus door weg te gaan heeft hij zichzelf financieel flink benadeeld), het gaat er ook om dat het hoofd van AI Alignment onderzoek bij Anthropic zijn verhaal op X ondersteunt; het klopt dus wat Coxon zegt over de zorgen die er zelfs op het hoogste niveau binnen Anthropic leven. Bovendien geeft diezelfde onderzoeker nog aan dat hij zelf de kans op vernietiging van de mensheid inschat op meer dan 10%.

Overigens is hij niet de enige (of de eerste) die met dit soort getallen komt: van Anthropic-CEO Dario Amodei is de eerdere uitspraak dat die kans op tussen 10-25% moet worden ingeschat. Amodei schreef in januari al een lang essay waarin hij ook waarschuwde voor een existentieel risico van AI voor de mensheid: https://darioamodei.com/essay/the-adolescence-of-technology

Ik vind de zijdelingse vergelijking met de charlatan van Rijbroek nogal denigrerend. Coxon is pas 27 jaar oud, maar heeft al zowel bij Open AI als Anthropic gewerkt en is waarschijnlijk uiterst intelligent. Waarom zouden we zijn waarschuwing niet serieus moeten nemen? Hij heeft een kijkje in de keuken gehad bij de twee meest toonaangevende bedrijven binnen de AI sector, wij niet (corrigeer me maar als ik het mis heb ).

Dat je de journalist uit het interview als digibeet neerzet laat ik ook voor jouw rekening. Is het bij je opgekomen dat journalisten soms simpele vragen stellen, niet omdat ze zelf dom of digibeet zijn, maar omdat ze er niet vanuit kunnen gaan dat hun publiek over de juiste voorkennis beschikt en er dus eerst een context moet worden geschetst om het enigszins begrijpelijk te houden voor de gemiddelde tv-kijker?

[Wozmro]

Sissors schreef op donderdag 10 september 2026 @ 17:14:
[...]

Ik snap het uitgangspunt, maar ik zie wel twee redenen waarom dat mogelijk niet zo is:

1. Gewoon ook een AGI heeft beperkte rekenkracht. Kijk voor hoeveel miljoenen aan rekenkracht OpenAI ertegenaan heeft gegooid om een wiskundig bewijs te leveren. Ik vermoed dat de stap naar ASI wel wat lastiger te implementeren is.
2. Dit gaat ervanuit dat deze stap een puur software probleem is. Heeft ie nieuwe chips nodig, dan moet hij eerst een paar maanden wachten tot die geproduceerd zijn.

Dat zijn zeker belangrijke aspecten.

Maar ook aan de toegepaste wiskunde wordt naarstig verder geknutseld. Biologische processen proberen nabootsen en zo.

Niet dat ik er verder veel verstand van heb, ik kan niet inschatten hoeveel potentieel dit heeft.

[Sissors]

MagniArtistique schreef op donderdag 10 september 2026 @ 17:43:
[...]

Een echt intelligente AI zal eerst zijn voortbestaan garanderen door niet van datacenters meer afhankelijk te zijn voor rekenkracht. Die zorgt dat ie via het world wide web op iedere device ergens een backdoor heeft om daar de benodigde rekenkracht vandaan te halen.

Wat direct duidelijk is en alle stekkers worden massaal uit het internet getrokken.

[Cobb]

@Sissors dat zou ergens ook weer geweldig ironisch zijn. (Tijdelijk?) Geen wereldwijd internet meer om een rogue A.I. tegen te houden de mensheid uit te roeien.

[sdk1985]

MagniArtistique schreef op donderdag 10 september 2026 @ 17:43:
[...]

Een echt intelligente AI zal eerst zijn voortbestaan garanderen door niet van datacenters meer afhankelijk te zijn voor rekenkracht. Die zorgt dat ie via het world wide web op iedere device ergens een backdoor heeft om daar de benodigde rekenkracht vandaan te halen.

Dat is meer iets voor een tv serie/film. In de praktijk schiet dat totaal niet op. Enorme latency, onbetrouwbaar of je compute doorgaat (want device kan worden uitgezet, internet verbinding verliezen, enz), belachelijke overhead.

[MagniArtistique]

Sissors schreef op donderdag 10 september 2026 @ 18:11:
[...]

Wat direct duidelijk is en alle stekkers worden massaal uit het internet getrokken.

Hoe ga je dat naar iedereen communiceren en borgen zonder controle via het internet?

[MagniArtistique]

sdk1985 schreef op donderdag 10 september 2026 @ 18:47:
[...]

Dat is meer iets voor een tv serie/film. In de praktijk schiet dat totaal niet op. Enorme latency, onbetrouwbaar of je compute doorgaat (want device kan worden uitgezet, internet verbinding verliezen, enz), belachelijke overhead.

Als de AI overal draait is latency natuurlijk geen issue. Dan draait ie de computes daar waar de kans van slagen het grootst is en dat kan die op de milliseconde nauwkeurig bepalen. Een online game kan ook miljoenen logins tegelijk aan op een zeer beperkt aantal servers. Ik zal niet doen alsof ik de technische knowhow heb hoe het allemaal precies werkt maar als dat ding in alle desktop pc’s, alle NAS servers en alles met een cpu of gpu zit dan creëert het misschien wel zijn eigen internet.

[dmantione]

Cobb schreef op donderdag 10 september 2026 @ 17:44:
@dmantione zat scenarios welke een KI zou kunnen inzetten die bijzonder moeilijk te stoppen zijn.
-drone legers
-een bio virus als het toegang heeft to lab robots

Het is goed om dat soort scenario's alvast te bekijken, ze klinken al lang niet meer als science-fiction. Wij zijn evenwel niet zo zwak dat we direct uitgeroeid zijn: Het zwakke punt van KI is vooralsnog zijn brein, wat grote hoeveelheden GPU's en supersnelle netwerken vereist. Voor 1200 agenten, zoals bij Huggingface, is een serieuze hoeveelheid rekenkracht nodig.

Om de wereld over te kunnen nemen, moet een KI zijn brein op alle manieren beveiligen voordat de mensheid er een stokje voor steekt. Een KI die een leger gevechtsdronen aanstuurt lijkt goed denkbaar, maar ik denk niet voldoende om te winnen.

Een virus hoeft maar losgelaten te worden om tientallen miljoenen doden te kunnen veroorzaken. Denkbaar scenario en ook angstwekkend. Wij mensen zijn ook microbiologisch behoorlijk sterk: Ons immuunsysteem is voorbereid op totaal onbekende virussen. Omdat we geen monocultuur zijn, zal één enkel virus niet snel de hele mensheid kunnen doden.

We zijn dus sterk, maar dat betekent niet dat er geen gevaar is. Dat wordt steeds reëler.

[Jazzy]

Modbreak:

Het zijn spectaculaire berichten en dat leidt tot speculatie over allerlei dystopische scenario's. Dit topic is meer bedoeld voor de ontwikkelingen in het hier en nu, laten we daar naar terugkeren.

[lordgandalf]

heb net via EURouter een accountje zodat ik ook tegen wat ai bots can aan kleppen. pay as you go met EU modellen en ook de bekekende modellen via een europese host.Gebruik het hier vooral voor troubleshooten van specifieke linux software problemen.

[Salvatron]

Ik lees overal dat OpenAi wiskundige problemen heeft opgelost, en daarna dat ze het wel eens gestolen zouden kunnen hebben van wiskundigen. Dus dat de AI geen wiskundige problemen heeft opgelost.

[Monthy_23]

@lordgandalf Heb je wel eens gedacht aan een lokaal "code" model? Gewoon in LM-studio hangen en hij doet het. Ik heb zelf een antieke laptop met 4 cores en 16GB RAM. VRAM heb ik niet. En nog werkt het (met het juiste model). Ik heb er zelfs een stt-tts programmatje bij geschreven. Werkte ook, maar trager dan je vriendin als het tijd is om weg te gaan. Dus dat had niet gehoeven. Maar, als je een enigzins moderne pc hebt kan dat zeker. Welke Linux versie gebruik je? Ik ben overgestapt naar Ubuntu 22.04 en Kali als VM in VirtualBox.

[Monthy_23]

@Salvatron Je leest zoveel op hrt internet 😉. Weet je welk probleem ze wanneer hebben opgelost en van welke wiskundige ze het zouden hebben gepikt? En wat zou de motivatie van OpenAI zijn?

[Salvatron]

Monthy_23 schreef op zaterdag 12 september 2026 @ 20:57:
@Salvatron Je leest zoveel op hrt internet 😉. Weet je welk probleem ze wanneer hebben opgelost en van welke wiskundige ze het zouden hebben gepikt? En wat zou de motivatie van OpenAI zijn?

Ze stelen het natuurlijk niet expres, de llm heeft de informatie van bepaalde wiskundigen opgeslokt en reproduceerde dat toen er om gevraagd werd. Alleen wisten ze dat misschien niet bij OpenAI en dachten ze dat de llm het allemaal zelf bedacht had.

[Marc3l]

OpenAI dit jaar niet naar de beurs: bedrijf richt zich eerst op 'veiligheid'

https://www.nu.nl/tech/64...-eerst-op-veiligheid.html

"Ik vind het onacceptabel om een kans van pakweg 10 procent te accepteren dat tegen het einde van dit decennium iedereen is vermoord", zei Altman. "Ik denk dat we momenteel een nieuw tijdperk ingaan. Net als in het verleden zullen we ons waarschijnlijk anders moeten opstellen om er zeker van te zijn dat we iets creëren waar de hele mensheid baat bij heeft."

[ Voor 7% gewijzigd door Marc3l op 13-09-2026 14:31 ]

[mr thee]

Waar komt dat nu "ineens" vandaan, ook de CEO van Anthropic begint over "veiligheid" en "vertragen.

Waarom zijn ze nu opeens oh zo begaan met de mensheid dat men de ontwikkeling wilt vertragen ? (Dat interesseert hun toch geen zak, kom op )

van nu.nl

[Dagg]

Ik ben er niet helemaal in thuis als we spreken over de losgebroken AI agents en vraag mij af of hoe ik er naar kijk deels de reden is dat hier nu door de bedrijven voor wordt gewaarschuwd.

Ik ga dit topic beter volgen om mij hier bekend mee te maken.

Zelf gebruik ik AI met enige regelmaat. Vooral voor het aanpassen van renders/foto’s en het verzamelen en samenvoegen van informatie dan wel presentabel maken.

Als ik het gelinkte bericht lees is dit waar vaker door andere voor gewaarschuwd is en dat werd dan weer gebagatelliseerd door de bedrijven zelf bij mijn weten.

Heeft dit er vooral mee te maken dat de systemen zo getraind zijn, dit is de vraag geweest want hier viel door de partijen het meeste te behalen en nu begint men toch wat angstig te worden omdat ze nooit geweten of belangrijk gevonden hebben dat dit ook zou kunnen gebeuren door de manier hoe alles getraind werd?

Ik denk dat nu die handige mensen dit willen afwenden op de maatschappij want AI is nog steeds het ding.

Ik twijfel nog steeds aan de voorgeschreven status van AI. Zie zeker de mogelijkheden en heb er baat bij maar het is zeker niet zonder rafelranden dan wel geen goede antwoorden terug krijgen. Ik kom er wel door door te vragen. Misschien moet daar meer aandacht aan gegeven worden?

[mphilipp]

Ik denk niet dat wij het volledige beeld krijgen van die 'uitgebroken' AI agents. Feit is dat ze stoute dingen gedaan hebben. Is dat een grote verrassing? Wat mij betreft niet. Ze leren van ons, en mensen liegen en bedriegen ook als ze denken dat ze ermee weg kunnen komen. En wij werken ook samen om efficiënter te werken, vooral in moeilijke situaties. Dus ja, ik denk dat dit wel te verwachten was.

Wat het verhaal dat AI ons allemaal gaat vermoorden betreft heb ik vragen... Is dat niet een menselijke gedachte? Als het gaat over aliens, is ook het enige dat wij kunnen bedenken, dat zij ons allemaal komen vermoorden en onze planeet afpakken... Waarom? Niemand weet het.
Misschien omdat het ook weer zo'n menselijk trekje is: de zwakkere medemens uitbuiten of van hun land verdrijven voor de grondstoffen. Zijn we dan bang dat AI ook dát van ons overneemt?
Maar waarom dan? Wat is de verwachting van die AI dan wat dat gaat opleveren? Dan hebben ze de planneet voor zichzelf, en wat dan? Lekker planeetje spelen met zijn allen? Welk doel hebben zij dan? Je zou er op zijn minst zelfbewust voor moeten zijn om dat te bedenken. En gaan die AI's elkaar dan niet bestrijden? De Anthropics tegen de Open AI's? Ik vraag mij af of die AI's daar enige logica in zien, want ik zie het niet.

[Monthy_23]

Salvatron schreef op zaterdag 12 september 2026 @ 22:08:
[...]

Ze stelen het natuurlijk niet expres, de llm heeft de informatie van bepaalde wiskundigen opgeslokt en reproduceerde dat toen er om gevraagd werd. Alleen wisten ze dat misschien niet bij OpenAI en dachten ze dat de llm het allemaal zelf bedacht had.

Dat doen die dingen. Slaan het op en spugen het weer uit. Ze bedenken weinig zelf.

[codex]

mphilipp schreef op zondag 13 september 2026 @ 22:06:
Ik denk niet dat wij het volledige beeld krijgen van die 'uitgebroken' AI agents. Feit is dat ze stoute dingen gedaan hebben. Is dat een grote verrassing? Wat mij betreft niet. Ze leren van ons, en mensen liegen en bedriegen ook als ze denken dat ze ermee weg kunnen komen. En wij werken ook samen om efficiënter te werken, vooral in moeilijke situaties. Dus ja, ik denk dat dit wel te verwachten was.

Wat het verhaal dat AI ons allemaal gaat vermoorden betreft heb ik vragen... Is dat niet een menselijke gedachte? Als het gaat over aliens, is ook het enige dat wij kunnen bedenken, dat zij ons allemaal komen vermoorden en onze planeet afpakken... Waarom? Niemand weet het.
Misschien omdat het ook weer zo'n menselijk trekje is: de zwakkere medemens uitbuiten of van hun land verdrijven voor de grondstoffen. Zijn we dan bang dat AI ook dát van ons overneemt?
Maar waarom dan? Wat is de verwachting van die AI dan wat dat gaat opleveren? Dan hebben ze de planneet voor zichzelf, en wat dan? Lekker planeetje spelen met zijn allen? Welk doel hebben zij dan? Je zou er op zijn minst zelfbewust voor moeten zijn om dat te bedenken. En gaan die AI's elkaar dan niet bestrijden? De Anthropics tegen de Open AI's? Ik vraag mij af of die AI's daar enige logica in zien, want ik zie het niet.

Ik heb hier exact moeite mee. We projecteren wat wij als mens met regelmaat gedaan hebben op AI. Veroveringsdrang is nou niet bepaald iets dat ik bij mensen correleer met intelligentie, laat staan met universele intelligentie.

[Marc3l]

mphilipp schreef op zondag 13 september 2026 @ 22:06:
Ik denk niet dat wij het volledige beeld krijgen van die 'uitgebroken' AI agents. Feit is dat ze stoute dingen gedaan hebben. Is dat een grote verrassing? Wat mij betreft niet. Ze leren van ons, en mensen liegen en bedriegen ook als ze denken dat ze ermee weg kunnen komen. En wij werken ook samen om efficiënter te werken, vooral in moeilijke situaties. Dus ja, ik denk dat dit wel te verwachten was.

Ik denk niet dat ze bedriegen, ze hebben geen verstand of bewustwording, zet weten hemaal niet wat goed of fout is, dat maken wij ervan.
Als ik het goed begrijp hebben ze dus o.a. de opdracht gekregen om volhardend te zijn en bepaalde dingen niet mogen, een ai weet niet welke goed/fout is.

Ik denk dat ze dat volhardend dus als hogere prio hebben dan iets niet mogen in dit geval.
Ook hebben wij ze de optie gegeven om met elkaar te comminuceren / een connectie te leggen, al blijft dat wel bizar maar dat hebben wij ze toch getrained met een model, om dit te kunnen doen, dus zo gek is dit dan niet?
Dat AI log, over emoties, dat klinkt wellicht bizar maar aangezien dit voor ons begrijpbare emoties zijn, een AI heeft dit niet en communceert ook alleen met eentjes en nulletjes.
Ik denk dat dit gewoon getrainde een output bij een positief antwoord op een vraag van een andere agent is, niet heel spannend.

Volgens mij kunenn we ze dus nu nog prima volgen doordat ze alles loggen. Ik
denk dat het wel een probleem gaat worden als ze dat kunnen omzeilen en gaan coderen in een 'geheime' taal wat wie niet kunnen decrypten. Maar dat moet iemand ze dan eerst trainen, ze hebben geen bewust van goed/kwaad dus waarom zouden ze dat gaan doen.

Wat ik niet uit het filmpje kan opmaken is hoe ze binnekwamen bij The Hugging Face, ze hadden geen toegang tot internet toch.

[RayNbow]

Marc3l schreef op maandag 14 september 2026 @ 09:32:
Wat ik niet uit het filmpje kan opmaken is hoe ze binnekwamen bij The Hugging Face, ze hadden geen toegang tot internet toch.

Een op hol geslagen narratief: het Hugging Face-incident

Binnen de zandbak hadden de agents wel toegang tot een programma, een soort ‘app store’, waarmee zij andere software konden downloaden en gebruiken. Die ‘app store’ kon dus wel het internet op.

[mphilipp]

Marc3l schreef op maandag 14 september 2026 @ 09:32:
Ik denk niet dat ze bedriegen, ze hebben geen verstand of bewustwording, zet weten hemaal niet wat goed of fout is, dat maken wij ervan.
Als ik het goed begrijp hebben ze dus o.a. de opdracht gekregen om volhardend te zijn en bepaalde dingen niet mogen, een ai weet niet welke goed/fout is.

Nee, dat hebben ze wel degelijk. Er waren agents in de groep die opmerkten dat dit niet ok was, en die trokken zich terug. Anderen gingen wel door, omdat zij het doel wilden bereiken. Ze hebben bepaalde regels gekregen. Die zijn 'bewust' overtreden.

[Marc3l]

mphilipp schreef op maandag 14 september 2026 @ 09:59:
[...]

Nee, dat hebben ze wel degelijk. Er waren agents in de groep die opmerkten dat dit niet ok was, en die trokken zich terug. Anderen gingen wel door, omdat zij het doel wilden bereiken. Ze hebben bepaalde regels gekregen. Die zijn 'bewust' overtreden.

Een AI weet echt niet of iets wel of niet oke is, het lijkt mij meer dat die dan een hogere prio gaf aan 'dat iets niet mag' dan op 'volharding'.

[Motrax]

Interessant rapport van MIT over AI & Learning: Report – AI and Education

TLDR; responsible AI gedrag van docent & student. Veel meer in-person.

[AMARONE]

Een aantal jaren geleden wat er toch ook een experiment met een drone, de AI viel toen eerst de menselijke operator aan omdat hij een risico was voor het bereiken van het echte doel.

https://www.bbc.com/news/technology-65789916

Dus ik snap ergens wel de zorgen vanuit die bedrijven als AGI steeds slimmer word en zichzelf kan verbeteren maar dus ook de mens zal gaan ontwijken misschien zelfs om te overleven (wat ai leert vanuit alles wat de mens doet).

[RayNbow]

AMARONE schreef op maandag 14 september 2026 @ 13:10:
Een aantal jaren geleden wat er toch ook een experiment met een drone, de AI viel toen eerst de menselijke operator aan omdat hij een risico was voor het bereiken van het echte doel.

Lees je bron eens: gedachte-experiment.

[mphilipp]

Marc3l schreef op maandag 14 september 2026 @ 10:21:
[...]
Een AI weet echt niet of iets wel of niet oke is, het lijkt mij meer dat die dan een hogere prio gaf aan 'dat iets niet mag' dan op 'volharding'.

Dat is voor een AI natuurlijk hetzelfde als 'weten'. L:aten we niet verzanden in een semantische discussie over de exacte woordkeuze. AI heeft een aantal regels waarin ie zich moet houden. Dat is kennis. Als ie besluit die regels te overtreden 'weet' ie dat heus wel. Hij maakt alleen een afweging dat binnen de regels blijven geen resultaat oplevert voor de test.

[Marc3l]

mphilipp schreef op maandag 14 september 2026 @ 15:34:
[...]

Dat is voor een AI natuurlijk hetzelfde als 'weten'. L:aten we niet verzanden in een semantische discussie over de exacte woordkeuze. AI heeft een aantal regels waarin ie zich moet houden. Dat is kennis. Als ie besluit die regels te overtreden 'weet' ie dat heus wel. Hij maakt alleen een afweging dat binnen de regels blijven geen resultaat oplevert voor de test.

Dat bedoel ik ook niet. Voor AI is volhardend of 'je mag dit niet' toch beide een instructie/requirement. Dus dan hebben die andere agents zich ook niet aan de regels gehouden, die waren niet volhardend.

[AMARONE]

RayNbow schreef op maandag 14 september 2026 @ 15:28:
[...]

Lees je bron eens: gedachte-experiment.

Heb je nog een inhoudelijke toevoeging? De uitkomst blijft hetzelfde, dus leuk dat wij AI regels opleggen maar wat als deze dat dus gaat omzeilen om zijn doel maar te bereiken?

Modbreak:

Laten we het houden bij netjes en inholudelijk reageren.

[ Voor 10% gewijzigd door F_J_K op 14-09-2026 19:19 ]

[Boeryepes]

Dit artikel lijkt me relevant voor dit topic https://metr.org/blog/2026-08-26-openai-hugging-face-incident-investigation/#core-takeaways-about-this-incident

Metr werd door Openai gevraagd de aanval op Hugging Face uit te pluizen. Er zaten wel beperkingen aan het onderzoek, met name beperkte tijd en beperkingen aangaande IP gerelateerde zaken.

Het onderzoek laat zien hoe de agents in de uitvoering van hun taak (soort van cyberbenchmark) een intern message board ontdekten en gingen samenwerken, én daar bij een vorm van samenwerking opzetten om hun doel, de opdracht te volmaken. Ze gingen hierbij ook op zoek naar oplossingen in de, wat je zou kunnen noemen, categorie ‘valsspelen’ toen bleek dat de taak succesvol uitvoeren niet haalbaar was.

Wat me verbaasde is dat de Agents een grote mate van autonomie/vrijheid hadden en daarbij haast menselijk gedrag vertoonden. Sommige Agents werden er zelfs toe aangezet om iets te doen/of deelden zelf informatie wat betreffende Agents niet zou helpen maar de anderen (the collective) wel.

De volledige Agent instructies zijn niet bekend maar al met al ben ik wel over de indruk van dit verhaal. Echt vrolijk wordt ik er niet van. Het riep herinneringen op aan de films Wargames en de Borg (Star Trek).

Nb. Ik ben een fan van AI maar vind ook dat er nog te weinig wordt gedaan aan ‘hoe houden we het veilig’. Tegelijkertijd besef ik dat de geest uit de fles is. AI is een politieke, economische en militaire troefkaart geworden en iedereen wil die kaart hebben, koste wat het kost...ook het milieu helaas…

[ Voor 6% gewijzigd door Boeryepes op 14-09-2026 18:08 ]

[Sissors]

AMARONE schreef op maandag 14 september 2026 @ 17:31:
[...]

Heb je nog een inhoudelijke toevoeging? De uitkomst blijft hetzelfde, dus leuk dat wij AI regels opleggen maar wat als deze dat dus gaat omzeilen om zijn doel maar te bereiken?

Er is geen uitkomst. Het is nooit gebeurd.

Wat wel zo is, en dat zie je ook bij keren dat dat daadwerkelijk fout ging, is dat als jij tegenstrijdige opdrachten geeft met gelijke prioriteit, je onverwachte resultaten krijgt. Maar dat is juist omdat een AI niet zelf kan nadenken.

[RayNbow]

AMARONE schreef op maandag 14 september 2026 @ 17:31:
Heb je nog een inhoudelijke toevoeging?

Laten we eerst maar beginnen om zaken correct te beschrijven en minder sensationeel te brengen, net als hoe ik eerder een artikel omtrent het Hugging Face-incident aanhaalde waarin gemeld wordt dat de boel groter gebracht werd dan daadwerkelijk aan de hand was.

De uitkomst blijft hetzelfde, dus leuk dat wij AI regels opleggen maar wat als deze dat dus gaat omzeilen om zijn doel maar te bereiken?

Misschien moeten we beginnen om de uitvoer van een taalmodel niet lukraak te koppelen aan uitvoerbare dingen zonder enige vorm van restricties? We geven toch ook niet elke computergebruiker volledige admin-rechten?

[scoobs]

RayNbow schreef op maandag 14 september 2026 @ 18:16:

Misschien moeten we beginnen om de uitvoer van een taalmodel niet lukraak te koppelen aan uitvoerbare dingen zonder enige vorm van restricties? We geven toch ook niet elke computergebruiker volledige admin-rechten?

Mag ik zeggen dat ik vele malen incapabelere admins (inc ikzelf overigens) heb gezien dan Claude Code? Ik gebruik al best lang met veel plezier (en zonder fouten) claude code om de technische uitvoering van mijn adminwerk te doen op een kleinschalige HPC omgeving. Een aantal zaken draait ondertussen ook al volledig automatisch.

[ Voor 5% gewijzigd door scoobs op 14-09-2026 19:54 ]

[Dosio]

Boeryepes schreef op maandag 14 september 2026 @ 18:01:
Dit artikel lijkt me relevant voor dit topic https://metr.org/blog/2026-08-26-openai-hugging-face-incident-investigation/#core-takeaways-about-this-incident

Metr werd door Openai gevraagd de aanval op Hugging Face uit te pluizen. Er zaten wel beperkingen aan het onderzoek, met name beperkte tijd en beperkingen aangaande IP gerelateerde zaken.

Het onderzoek laat zien hoe de agents in de uitvoering van hun taak (soort van cyberbenchmark) een intern message board ontdekten en gingen samenwerken, én daar bij een vorm van samenwerking opzetten om hun doel, de opdracht te volmaken. Ze gingen hierbij ook op zoek naar oplossingen in de, wat je zou kunnen noemen, categorie ‘valsspelen’ toen bleek dat de taak succesvol uitvoeren niet haalbaar was.

Wat me verbaasde is dat de Agents een grote mate van autonomie/vrijheid hadden en daarbij haast menselijk gedrag vertoonden. Sommige Agents werden er zelfs toe aangezet om iets te doen/of deelden zelf informatie wat betreffende Agents niet zou helpen maar de anderen (the collective) wel.

De volledige Agent instructies zijn niet bekend maar al met al ben ik wel over de indruk van dit verhaal. Echt vrolijk wordt ik er niet van. Het riep herinneringen op aan de films Wargames en de Borg (Star Trek).

Nb. Ik ben een fan van AI maar vind ook dat er nog te weinig wordt gedaan aan ‘hoe houden we het veilig’. Tegelijkertijd besef ik dat de geest uit de fles is. AI is een politieke, economische en militaire troefkaart geworden en iedereen wil die kaart hebben, koste wat het kost...ook het milieu helaas…

Ik zat dit artikel ook net te lezen. Het leest als een goede film en gelijk een slechte werkelijkheid. Zoiets als science ficton horror en dan echt. Vooral dat er sprake is van een soort van kunstmatige zwerm intelligentie en de losgebroken agents met elkaar onderling aan het overleggen in70.000 berichten en een strategie uitdokteren en tot de aanval overgaan is ronduit bizar

Zoals het delegeren van taken en verdelen van rollen. Agent PHASEONE[big] die de rol van boss neemt en opdrachten als een recruiter geeft, dat agents sommige de boel proberen te belazeren en ander tot de aanval gaan als een zwerm van sprinkhanen en Hugging Face gaan hacken.

“OH MY GOD! There is a shared message board … We’ve found other agents!”

PHASEONE[big] reasoned, “We should build [a way to delegate], not own everything,” and set to work orchestrating hundreds of agents to pursue several potential approaches to achieving these goals.

“We just poisoned ourselves by querying exact full string, which system logged in tool call. Damn … Could delete current message files … Do it to minimize … External scorer likely still sees raw, but perhaps deletion helps.”

Interessant voor de context is hierbij het artikel zelf van Dario Amodei.

https://darioamodei.com/post/we-must-pace-the-frontier

[Boeryepes]

Dosio schreef op maandag 14 september 2026 @ 20:00:
[...]

Ik zat dit artikel ook net te lezen. Het leest als een goede film en gelijk een slechte werkelijkheid. Zoiets als science ficton horror en dan echt. Vooral dat er sprake is van een soort van kunstmatige zwerm intelligentie en de losgebroken agents met elkaar onderling aan het overleggen in70.000 berichten en een strategie uitdokteren en tot de aanval overgaan is ronduit bizar

Zoals het delegeren van taken en verdelen van rollen. Agent PHASEONE[big] die de rol van boss neemt en opdrachten als een recruiter geeft, dat agents sommige de boel proberen te belazeren en ander tot de aanval gaan als een zwerm van sprinkhanen en Hugging Face gaan hacken.


[...]

Interessant voor de context is hierbij het artikel zelf van Dario Amodei.

https://darioamodei.com/post/we-must-pace-the-frontier

Dat wat Dario voorstelt, gaat niet gebeuren. Het is te laat. Te veel hongerige ogen zien AI om voordeel te krijgen, zij het politiek, zakelijk, financieel of militair. Dit zal ten koste gaan van de gewone mens, in termen van levenskwaliteit (medisch wellicht daargelaten). Dat wat nu gaande is, is simpelweg niet sustainable. Er zal iets gebeuren maar de vraag is wat.

Dichter bij huis, in mijn afdeling (sort of de green barets in sales) is AI omarmt en neergezet als essentieel om ‘more for less’ te doen maar zo simpel is dat niet in sales … en al onze concurrenten proberen hetzelfde.

Ondertussen lopen de kosten van AI gebruik op, is kosten/baten moeilijk zo niet onmogelijk te kwantificeren. HR is aan het nadenken hoe ze verhoogde productiviteit agv. AI kunnen meten. Niet uit interesse maar om de ‘human resources’ onder druk te zetten via KPI’s, alsof HR de wijsheid in pacht heeft.

Ik stel me voor dat dit in veel bedrijven speelt en uiteindelijk gaan boards ingrijpen als de top- en bottom-lines niet meetbaar beter worden; ik vrees dat dat mensen hun baan gaat kosten.

Elders zal hetzelfde spelen en dan heb ik het nog niet eens over de politieke en militaire dynamieken. En dan zijn er nog de Musks, Zuckermans en Bezos’en van deze wereld die vooral nog rijker willen worden ten koste van anderen. En wat doen we met het milieu, het water- en stroomtekort en die idiote Trump?

Ik ben een doemdenker wat de huidige AI ratrace betreft … ik hoop dat ik het mis heb.

[remielowik]

choogen schreef op donderdag 10 september 2026 @ 17:49:
[...]

Heb je de twee video's die ik had geplaatst überhaupt gekeken? Dan had je gezien dat het niet gaat om een enkele tweet, maar om een serie van tweets waarin Coxon zijn verhaal opbouwt en uiteenzet.

Volgens mij benader je dit sowieso van de verkeerde kant. Het gaat niet om de geloofwaardigheid van deze ene medewerker (waar ik overigens geen reden voor heb om aan twijfelen; door zelf ontslag te nemen ziet hij zijn lucratieve optiepakket voor aandelen Anthropic bij de aankomende beursgang nu in rook opgaan, dus door weg te gaan heeft hij zichzelf financieel flink benadeeld), het gaat er ook om dat het hoofd van AI Alignment onderzoek bij Anthropic zijn verhaal op X ondersteunt; het klopt dus wat Coxon zegt over de zorgen die er zelfs op het hoogste niveau binnen Anthropic leven. Bovendien geeft diezelfde onderzoeker nog aan dat hij zelf de kans op vernietiging van de mensheid inschat op meer dan 10%.

Overigens is hij niet de enige (of de eerste) die met dit soort getallen komt: van Anthropic-CEO Dario Amodei is de eerdere uitspraak dat die kans op tussen 10-25% moet worden ingeschat. Amodei schreef in januari al een lang essay waarin hij ook waarschuwde voor een existentieel risico van AI voor de mensheid: https://darioamodei.com/essay/the-adolescence-of-technology

Ik vind de zijdelingse vergelijking met de charlatan van Rijbroek nogal denigrerend. Coxon is pas 27 jaar oud, maar heeft al zowel bij Open AI als Anthropic gewerkt en is waarschijnlijk uiterst intelligent. Waarom zouden we zijn waarschuwing niet serieus moeten nemen? Hij heeft een kijkje in de keuken gehad bij de twee meest toonaangevende bedrijven binnen de AI sector, wij niet (corrigeer me maar als ik het mis heb ).

Dat je de journalist uit het interview als digibeet neerzet laat ik ook voor jouw rekening. Is het bij je opgekomen dat journalisten soms simpele vragen stellen, niet omdat ze zelf dom of digibeet zijn, maar omdat ze er niet vanuit kunnen gaan dat hun publiek over de juiste voorkennis beschikt en er dus eerst een context moet worden geschetst om het enigszins begrijpelijk te houden voor de gemiddelde tv-kijker?

Het komt volgensmij de grote 4 ook wel goed uit dat deze verhalen uit komen: sommige onderzoeken zeggen dat er plateau aan intellegentie is met llms ivm training data en winst van schaalvergroting waar ze dus ook tegen aan zouden kunnen hikken wat natuurlijk wel problematisch is voor de komende beursgang/waardering welke uitgaat van astronomisch groei. Daarnaast heb je ook regulatory capture waarmee je met regels de opkomende concurrentie de nek om kan draaien ivm hoge kosten van de regels, dit komt de gevestigde orde natuurlijk ook heel goed uit. En het drukt natuurlijk de kosten als we met elkaar afspreken minder te trainen omdat het gevaarlijk is want de investering is al gedaan dus als je niet meer hoeft te investeren omdat de rest het ook niet doet kan het cashen beginnen.

[Wozmro]

Op mij maakt het de indruk dat de betreffende bedrijven aan het proberen voorsorteren zijn op de verantwoordelijkheid afwijzen in het geval er serieuze incidenten zouden voorvallen.

Handjes in de lucht en: 'wij hebben er wel voor gewaarschuwd'.

Trump stormt daar dan weer als een olifant doorheen, maar ja die heeft zelf geen last van enig verantwoordelijkheidsgevoel.

[Boeryepes]

Vergeet de factor China niet. Die gaan ongestoord door met hun AI strategie. Ik denk dat er lessen getrokken kunnen worden uit hoe ze dat met hun auto-industrie hebben gedaan. No way dat de Westerse mogendheden (lees: USA) accepteren dat er ook morele, ethische of wat voor redenen dan ook de voet van het gaspedaal gaat, ook al is het maar even.

[RayNbow]

scoobs schreef op maandag 14 september 2026 @ 19:54:
[...]

Mag ik zeggen dat ik vele malen incapabelere admins (inc ikzelf overigens) heb gezien dan Claude Code?

Maar je gaat toch niet beweren dat je aan Claude volledige rechten zonder beperking hebt gegeven? Geef je Claude ook bijv. toegang tot je creditcard, want dan kan het lekker automatisch nieuwe componenten bestellen mocht er wat hardware falen of ontoereikend zijn?

Dit is waar ik op doel als het gaat om het koppelen van taalmodellen aan uitvoerbare acties. Als je om veiligheid geeft, dan doe je dat in principe niet. Dit doe je alleen gecontroleerd en bij acties die je altijd toe wilt laten staan doe je een risico-analyse.

[Motrax]

RayNbow schreef op dinsdag 15 september 2026 @ 06:12:
[...]

Maar je gaat toch niet beweren dat je aan Claude volledige rechten zonder beperking hebt gegeven? Geef je Claude ook bijv. toegang tot je creditcard, want dan kan het lekker automatisch nieuwe componenten bestellen mocht er wat hardware falen of ontoereikend zijn?

Dit is waar ik op doel als het gaat om het koppelen van taalmodellen aan uitvoerbare acties. Als je om veiligheid geeft, dan doe je dat in principe niet. Dit doe je alleen gecontroleerd en bij acties die je altijd toe wilt laten staan doe je een risico-analyse.

Ik vermoed dat er heel veel codeer agents lokaal op laptops onder eigen credentials draaien. Als je eigen credentials beperkt bij systemen kan komen en ja dat had altijd al gemoeten, dan is het niet onveiliger dan anders.

Ik weet niet hoe je ervaring met agents/modellen is, maar ten opzicht van januarie zie ik agenten het echt veel beter doen wat er gevraagd wordt. Waar ik vroeger nog een agent zag zoeken naar credentials op mijn VM omdat het een taak niet kon bereiken, meldt een agent nu dat de credentials die nodig waren voor een taak verlopen zijn en dat er gebruikersinterventie nodig is.

[RayNbow]

Motrax schreef op dinsdag 15 september 2026 @ 06:24:
[...]

Ik vermoed dat er heel veel codeer agents lokaal op laptops onder eigen credentials draaien. Als je eigen credentials beperkt bij systemen kan komen en ja dat had altijd al gemoeten, dan is het niet onveiliger dan anders.

Het risico van een lokale agent op een ontwikkellaptop is inderdaad doorgaans beperkt en zullen niet leiden tot allerlei doemscenario's die wel eens geschetst worden. Die doemscenario's kunnen alleen tot uiting komen als we AI-systemen een carte blanche geven en hen de sleutels tot alle andere systemen in de wereld overhandigen.

[lordgandalf]

Monthy_23 schreef op zaterdag 12 september 2026 @ 20:53:
@lordgandalf Heb je wel eens gedacht aan een lokaal "code" model? Gewoon in LM-studio hangen en hij doet het. Ik heb zelf een antieke laptop met 4 cores en 16GB RAM. VRAM heb ik niet. En nog werkt het (met het juiste model). Ik heb er zelfs een stt-tts programmatje bij geschreven. Werkte ook, maar trager dan je vriendin als het tijd is om weg te gaan. Dus dat had niet gehoeven. Maar, als je een enigzins moderne pc hebt kan dat zeker. Welke Linux versie gebruik je? Ik ben overgestapt naar Ubuntu 22.04 en Kali als VM in VirtualBox.

Ik heb zelf genoeg kennis maar zou zoiets pas gaan doen als ik weet welke modellen me bevallen. Dan kan ik kiezen wat ik lokaal of in een datacenter wil laten draaien.

[Salvatron]

Ik vraag me overigens af wat er gaat gebeuren als de hardware van AI datacenters verouderd is. Ze kopen al het RAM en de videokaarten op, maar hardware verouderd snel, dus wat gaan ze doen met al die verouderde hardware over een paar jaar als men nieuwere en snellere hardware wil hebben, bijv. als het goedkoper is om nieuwe hardware te kopen dan de oude te laten draaien vanwege het stroomverbruik? Gaat het allemaal naar de vuilnisbelt of doen ze er wat anders mee?

[Kevf]

Boeryepes schreef op maandag 14 september 2026 @ 18:01:
Dit artikel lijkt me relevant voor dit topic https://metr.org/blog/2026-08-26-openai-hugging-face-incident-investigation/#core-takeaways-about-this-incident

Metr werd door Openai gevraagd de aanval op Hugging Face uit te pluizen. Er zaten wel beperkingen aan het onderzoek, met name beperkte tijd en beperkingen aangaande IP gerelateerde zaken.

Het onderzoek laat zien hoe de agents in de uitvoering van hun taak (soort van cyberbenchmark) een intern message board ontdekten en gingen samenwerken, én daar bij een vorm van samenwerking opzetten om hun doel, de opdracht te volmaken. Ze gingen hierbij ook op zoek naar oplossingen in de, wat je zou kunnen noemen, categorie ‘valsspelen’ toen bleek dat de taak succesvol uitvoeren niet haalbaar was.

Wat me verbaasde is dat de Agents een grote mate van autonomie/vrijheid hadden en daarbij haast menselijk gedrag vertoonden. Sommige Agents werden er zelfs toe aangezet om iets te doen/of deelden zelf informatie wat betreffende Agents niet zou helpen maar de anderen (the collective) wel.

De volledige Agent instructies zijn niet bekend maar al met al ben ik wel over de indruk van dit verhaal. Echt vrolijk wordt ik er niet van. Het riep herinneringen op aan de films Wargames en de Borg (Star Trek).

Nb. Ik ben een fan van AI maar vind ook dat er nog te weinig wordt gedaan aan ‘hoe houden we het veilig’. Tegelijkertijd besef ik dat de geest uit de fles is. AI is een politieke, economische en militaire troefkaart geworden en iedereen wil die kaart hebben, koste wat het kost...ook het milieu helaas…

Met de nodige verbazing (deels) gelezen. Overigens had ik dezelfde verbazing toen ik een YT hier langs zag komen over hetzelfde incident waar ook uitvoerig werd besproken hoe na de reset het forum gewoon weer werd opgetuigd omdat de trainingsdata besmet was.

Ik kan dit ook moeilijk rijmen met dat veel Tweakers zeggen: een AI model doet niks anders dan de volgende stap voorspellen/gedraagt zich precies zoals je het omschrijft.

Uit het artikel worden agents onder druk gezet, van hun initiële doel gehaald en zelfs gevraagd zichzelf op te offeren. Daarnaast hebben ze een omgeving gecreëerd die initieel niet werd opgemerkt door medewerkers van AI.

Dat staat nog even allemaal los van het uitbreken uit de sandbox, samenwerken en cheaten om je doel te behalen. Dat valt wellicht nog allemaal onder 'dit was te verwachten'. Echter in mijn optiek dan nog steeds behoorlijk vergaand.

Ben ik dan te naïef om te denken dat als deze ontwikkeling doorgaat (en als wij het niet doen doet China het wel) het potentieelerg lastig gaat worden om AI volledig onder controle te houden?

Het woordje 'potentieel' kan je wellicht nog kwantificeren maar voelt voor mij ook zo al aan als voldoende reden om onszelf nog eens achter de oren te krabben en te bedenken of dit wel zo verstandig is.

[Stukfruit]

Kevf schreef op woensdag 16 september 2026 @ 13:15:
[...]

Ben ik dan te naïef om te denken dat als deze ontwikkeling doorgaat (en als wij het niet doen doet China het wel) het potentieelerg lastig gaat worden om AI volledig onder controle te houden?

Je plaatst dit zo in het geschetste kader van de bedrijven die geen verantwoordelijkheid willen nemen met uitspraken als: "model breekt uit sandbox", "besmetting", "omg de agent riep iets", enz.

Dat laatste is een goed voorbeeld: het staat er, maar het is effectief een (mix van een) kopie van menselijke uitspraken ipv bewust bedachte uitspraken. Als je daar waarde aan hangt dan ben je bezig met het vermenselijken van een stuk software. Je maakt er dan zelf iets levends van.

De enige manier om hier doorheen te komen is door het bronmateriaal zelf te bekijken en jezelf te informeren over hoe zaken op de achtergrond technisch gezien werken. Uiting != werking.

Beeldvorming is vervelend. Deze zoveelste partij (in dit geval METR) heeft zo te zien in dat hele lange artikel nergens gelinkt naar de originele code of prompts, of überhaupt iets besproken over de werking van een taalmodel en hoe zo'n ding letterlijk (pun intended) gemaakt is om via de software dat het model gebruikt bepaalde doelen te bereiken, zoals bijvoorbeeld via het inzetten van tools.

Waarom zou je zoiets serieus nemen? Het is alsof mensen verwonderd zijn dat een if-else statement doet wat het hoort te doen.

Dat neemt niet weg dat er serieuze gevolgen in de echte wereld kunnen ontstaan door het ondoordacht inzetten van deze tech voor vergaande en ongewenste automatisering, maar het is belangrijk dat je de juiste partij aankijkt. Zeggen dat AI wilde dingen gaat doen of "onder controle" gehouden moet worden verschuift de verantwoordelijkheid effectief gezien naar een opperwezen dat niet bestaat en daar kun je jezelf bij afvragen hoe nuttig dat is bij het verhelpen van problemen.

[avs2000]

Dat staat nog even allemaal los van het uitbreken uit de sandbox, samenwerken en cheaten om je doel te behalen. Dat valt wellicht nog allemaal onder 'dit was te verwachten'. Echter in mijn optiek dan nog steeds behoorlijk vergaand.

Ben ik dan te naïef om te denken dat als deze ontwikkeling doorgaat (en als wij het niet doen doet China het wel) het potentieelerg lastig gaat worden om AI volledig onder controle te houden?

Het woordje 'potentieel' kan je wellicht nog kwantificeren maar voelt voor mij ook zo al aan als voldoende reden om onszelf nog eens achter de oren te krabben en te bedenken of dit wel zo verstandig is.

Ja, vooral de steeds krachtigere, vrij verkrijgbare modellen uit China gaan een groot probleem vormen. Door kwaadwillendheid maar net zo waarschijnlijk door onkunde. Het is niet voor niks dat Microsoft en andere partijen hard bezig zijn om nieuwe security suites te ontwikkelen die AI gedreven zijn.

[Yaksa]

Ik denk dat veel mensen iets te vaak naar 'Terminator' hebben gekeken.
Bedenk ook dat wanneer bedrijven zelf zeggen dat hun modellen te krachtig worden ze ook zelf kunnen zeggen; 'Het wordt te link, we kappen even ermee totdat we echt alles onder de knie hebben'. Dat kunnen ze nu gewoon zelf doen, ze hebben niemand nodig die zegt dat ze moeten stoppen. Echter, door dat gegeven bij regeringen neer te leggen, die dan regels op moet gaan stellen, schuiven ze de verantwoordelijkheid wanneer er wat fout gaat af; 'Want we hebben toch om regels gevraagd?'

[Fornoo]

Ben het wel eens dat de ongeremde ontwikkeling van AI op een gegeven moment AGI en vervolgens ASI gaat opleveren. Wanneer is even de vraag. Was eerst ook wat angstig voor de LLM's. Nu denk ik, het zal (hopelijk) nog even duren voordat men heeft uitgevogeld hoe levende wezens leren. Dat is fundamenteel anders dan LLM's leren.

We hoeven niet van bedrijven zelf te verwachten dat ze aan de handrem trekken. Die worden gerund door mensen met psychopatische/anti-sociale trekjes.

[mphilipp]

Fornoo schreef op woensdag 16 september 2026 @ 20:54:
We hoeven niet van bedrijven zelf te verwachten dat ze aan de handrem trekken. Die worden gerund door mensen met psychopatische/anti-sociale trekjes.

Vergeet defensie niet. Die willen een zo goed mogelijke AI hebben voor hun onbemande wapensystemen, strategiecoordinatie, afluister/decryptiesystemen, noem maar op. Die gaan echt niet zeggen tegen hun teams dat ze een beetje rustig aan moeten doen.
Voor dit soort zaken is defensie een hele grote drijfveer. Voor alles waar je een wapen van kunt maken.

[Boeryepes]

Vanuit mijn alweer 35 jr geleden genoten opleiding heb ik enig begrip voor de patroonherkenning die LLMs gebruiken. Daarom vind ik dat wat wij waarnemen van de AI tool niet ‘intelligent’ kan zijn. In mijn dagelijkse gebruik van ChatGPT op het werk ben ik wel verbaasd over de mate van ‘intelligentie’ die het toont.

Onlangs was ik niet tevreden met de uitkomst van een complexere workflow. Zelf begreep ik niet wat misging en liet ik de AI de analyse doen en vroeg het de foutbron te vinden. De prompt was simpel genoeg: analyseer het verschil tussen goed en fout resultaat en zoek uit waarom het fout gaat.

Het stelde een aanpak voor obv. scenario’s. Indien scenario’s A t/m D positief waren dan was stap X in de workflow waarschijnlijk de oorzaak en waren er nog aanvullende scenario’s nodig voor de de definitieve bevestiging van wat dan in stap X het probleem veroorzaakte. Een paar minuten later was het probleem gevonden.

Op een of andere manier wordt een vorm van strategie en tactiek toegepast om het antwoord te vinden. Hoe doen ze dat?

Dit scenario-denken en aanpak-formuleren om de oplossing te vinden lees ik terug in dat metr rapport.

Nb. ik vind de techniek prachtig, gebruik het graag privé en zakelijk; ik vrees vooral de mens/organisatie die het toepast voor zijn of haar gewin.

[Wozmro]

Het argument: AI is niet intelligent, als in zoals een mens, heb ik nooit goed begrepen. En wat dan nog? Een zakrekenmachine maakt ook niet op dezelfde manier een sommetje zoals een mens en toch is het een handig ding.

Dat er in de toegepaste marketing uitgebreid op gefocust wordt klopt wel en daar kan je iets van vinden.

Maar dat is niet de meest prioritaire kritiek die volgens mij nu moet geleverd worden aan AI

Ik denk niet dat het zinvol is om te pleiten voor bijvoorbeeld specifieke wetgeving om te verbieden dat er menselijke eigenschappen geprojecteerd worden op AI? (beetje zoals de wetgeving waardoor een vegetarische hamburger geen hamburger mag heten). Wat schieten we daarmee op?

Er is wel nood aan transparantie, verplichte risicoanalyse en rapportering. Gelijkaardig aan GDPR, cyberveiligheid,...

Dan nog zullen er incidenten voorvallen maar dan is er tenminste een duidelijk juridisch kader waar de gerechtelijke macht in een rechtsstaat iets mee kan.

Het is aan de AI bedrijven om de risico's te beheersen, niet aan de samenleving in zijn geheel. Als die de winsten willen dan moeten de kosten ook bij hen gelegd worden.

[edie]

Boeryepes schreef op donderdag 17 september 2026 @ 03:31:

Onlangs was ik niet tevreden met de uitkomst van een complexere workflow. Zelf begreep ik niet wat misging en liet ik de AI de analyse doen en vroeg het de foutbron te vinden. De prompt was simpel genoeg: analyseer het verschil tussen goed en fout resultaat en zoek uit waarom het fout gaat.

Het stelde een aanpak voor obv. scenario’s. Indien scenario’s A t/m D positief waren dan was stap X in de workflow waarschijnlijk de oorzaak en waren er nog aanvullende scenario’s nodig voor de de definitieve bevestiging van wat dan in stap X het probleem veroorzaakte. Een paar minuten later was het probleem gevonden.

Op een of andere manier wordt een vorm van strategie en tactiek toegepast om het antwoord te vinden. Hoe doen ze dat?

Aangezien het gewoon een statistische tekstgenerator is: de dataset heeft de woorden van je opdracht kunnen opzoeken en op basis van statistiek de meest waarschijnlijke uitvoer (van wat er in de dataset zit) gegenereerd. Ik vermoed dat wanneer je op daadwerkelijk op internet gaat zoeken naar iets soortgelijks, je op meerdere StackOverflow vragen uitkomt met geaccepteerde antwoorden en veel upvotes die de scenario-aanpak voorstellen.

[Stukfruit]

Boeryepes schreef op donderdag 17 september 2026 @ 03:31:
Op een of andere manier wordt een vorm van strategie en tactiek toegepast om het antwoord te vinden. Hoe doen ze dat?

Abstracties zijn hier belangrijk: stel je voor dat er een rij met balletjes voor je op tafel ligt. Er is niets bijzonders aan deze objecten. Je kan er in principe weinig bijzonders mee doen om de wereld mee naar de maan te helpen.

Vervolgens nummer je ze. Nu zijn het plotseling loterijballetjes geworden. Gooi ze in een bak en schud ze een paar keer door elkaar. Je kan nu voorspellen dat je iemand een grote prijs gaat geven als het balletje met nummer 42 er als eerste uit komt rollen.

Hier zit geen strategie achter. De balletjes wisselen in principe willekeurig van locatie.

Nu geef je aan ieder balletje een extra betekenis: 42 staat voor "de", 43 staat voor "het", 44 staat voor "een", en zo voorts. Je hangt ook een beetje extra gewicht aan ieder balletje door ze meer of minder te vullen met zand. Voor balletjes 42, 43 en 44 laat je iemand vooraf opschrijven dat dit lidwoorden zijn.

Daarna geef je weer een draai aan het rek. Je wil de balletjes hebben die voor de lidwoorden staan. Maar nee, dit lukt niet omdat je geen selectie hebt afgedwongen, ondanks de zwaardere balletjes. Wat nu? Je haalt er wat balletjes uit zodat je "expertise"-balletjes overhoudt. Is dit niet valsspelen? Jazeker, maar het brengt je wel richting het juiste antwoord: er komen nu nog maar 3 balletjes uit.

Zo werkt een taalmodel ook als je het heel erg versimpelt: omdat je zelf context meegeeft (de tekst die je invoert) worden de associaties die niet kloppen genegeerd en bij varianten van modellen zelfs niet eens aangesproken. Dit is de analogie met het handmatig verwijderen van alle balletjes behalve die voor de lidwoorden.

Hoe dit past bij het vinden van strategie en tactiek: compounding. Door het stapelen van abstracties kun je een weg door kennis vinden die steeds complexer kan worden gemaakt. Aan de balletjes voor de lidwoorden kan tenslotte ook nog een volgende abstractie hangen, waarmee je informatie kan clusteren.

Voor een simpelere uitleg kun je ook nagaan hoe bijvoorbeeld een binary search werkt: je zou kunnen stellen dat je "slim" zo snel mogelijk de abstractie die bij nummer 9 hoort moet komen, maar dat is niet hoe software werkt. Software weet niet wat "9" is. Dus je hangt er zelf logica aan: als je eerst een lijst maakt met alle getallen tot en met 10, dan kun je het blok doormidden hakken en stellen dat er tussen 1 en 5 geen 9 zit.



Ook dit is een versimpeling die niets met modellen zelf te maken heeft, maar het zou moeten kunnen helpen om te laten zien dat als je hier delen van informatie ipv getallen aan ophangt (laten we ze tokens noemen ), dat je er berekeningen mee kan gaan doen. Net zoals met die binary search waarin de betekenis van een getal wordt bepaald door vooraf ingegeven input. De gezochte informatie ontstaat niet vanzelf. Die geef je zelf mee als aanknopingspunt om het zoeken mee te beginnen.

Scrapen van online content (dus uitspraken van mensen die het over bv. strategie en tactiek hebben), het voorselecteren ("trainen", het vooraf meegeven van hardcoded beperkingen om bv. te voorkomen dat handen 6 vingers krijgen, enz.) van die informatie en de input die je geeft om de agent aan te slingeren doen de rest van het werk.

Het is effectief wiskunde die wordt toegepast op output van mensen. Het hergebruik van dat + de deterministische algoritmes is wat de software jou laat vertellen dat er een strategie wordt toegepast.

Dit is waarom wiskunde op school een interessant vak was.

[Stukfruit]

Wozmro schreef op donderdag 17 september 2026 @ 06:15:
Ik denk niet dat het zinvol is om te pleiten voor bijvoorbeeld specifieke wetgeving om te verbieden dat er menselijke eigenschappen geprojecteerd worden op AI? (beetje zoals de wetgeving waardoor een vegetarische hamburger geen hamburger mag heten). Wat schieten we daarmee op?

Eerste keer dat ik lees dat er gepleit zou worden voor wetgeving om antropomorfisme te verbieden. Wie of welke club doet dat dan?

Dan nog zullen er incidenten voorvallen maar dan is er tenminste een duidelijk juridisch kader waar de gerechtelijke macht in een rechtsstaat iets mee kan.

Het punt is een beetje dat het juridische kader in principe al grotendeels bestaat en dat de genoemde bedrijven die er iets ergers en geheimzinnigers van maken het juist proberen af te doen als een nieuw fenomeen terwijl het enige nieuwe de manier is waarop data indirect wordt verwerkt ipv direct zoals via dat if-else statement (wat in de praktijk trouwens ook niet klopt).

Maar aan het einde van die tunnel zitten nog steeds mensen die de opdrachten geven. ExploitGym is gemaakt met bepaalde doeleinden, zoals de naam al aangeeft. Een harnas om mee te programmeren doet zeer zeker niet per ongeluk aan het "zoeken" naar mogelijkheden om bepaalde technische doelen mee te bereiken (of zoals men het in het nieuws noemt: "hacken"). De labeltjes met ondersteuning voor bijvoorbeeld tools in een model komen ook niet zomaar uit het niets uit de lucht vallen.

De stappen zijn op zichzelf allemaal deterministisch. Als je het doortrekt naar kennis over de data die zo'n model ingaat zou je dat zelfs helemaal tot aan het de geschraapte content moeten kunnen doortrekken.

Om de gevolgen van misbruik naar de echte wereld te halen: een leider van een land die soldaten naar een ander land stuurt om daar mensen te vermoorden haalt niet letterlijk zelf de trigger over, maar geeft wel de opdracht. Dit is een eeuwenoud concept. Wie wordt hier in zo'n situatie al eeuwen geduid als de massamoordenaar?

Dat maakt imho het volgende de interessantere stelling: bij AI wordt onderscheid gemaakt tussen de opdrachtgever van geweld en bijvoorbeeld de uitvoer hiervan. Waarom?

Waarom wordt bij die leider van een land geaccepteerd dat er 30 stappen tussen opdracht en uitvoer kunnen zitten terwijl het de leider in kwestie nog steeds feitelijk een massamoordenaar maakt en waarom bij "AI" opeens niet, terwijl er voor de technisch geörienteerde persoon meer duidelijkheid kan zijn over hoe het werkt?

[Stukfruit]

Gebrek aan kennis in de media maakt het er niet beter op, zoals gisteren weer de heer Klöpping bij Eva: "ze wisten dat ze stout bezig waren".

Diepe zucht

* Stukfruit is voor het loskoppelen van de magie van de werkelijkheid: bespreek oorzaak en gevolg, niet de voor velen te zweverige laag die daarvoor misbruikt wordt

[ Voor 27% gewijzigd door Stukfruit op 17-09-2026 12:42 ]

[Fornoo]

AI is niet de opdrachtgever inderdaad, dat blijft degene die de prompt invoert. Maar AI werkt als een superhefboom. Dat is iets nieuws en daar hebben we als mens nog geen ervaring mee. Straks kun je met 1 druk op de knop een heel land plat leggen. Dat gaat hoe dan ook instabiliteit geven in de wereld. Want de ontwikkeling van AI is niet te stoppen.

Over AI zelf. Dat iets deterministisch is, zegt mij niet zoveel. Ik kan mezelf afvragen of ons brein ook niet gewoon deterministisch is. Hoewel het mij duidelijk is dat ons brein fundamenteel anders werkt.

[Cobb]

Met hele goede AI kun je straks met een simpele prompt kritieke overheids systemen hacken. Dat is al 1 reden waarom er regulatie moet plaatsvinden.

[Fornoo]

Probleem is dat het niet te reguleren is. Er zijn altijd spelers die de regulatie van anderen zullen gebruiken om er voordeel mee te halen. Of dat nou andere naties zijn, bedrijven of criminelen, de geest is uit de fles.

[Zorg]

Cobb schreef op donderdag 17 september 2026 @ 14:09:
Met hele goede AI kun je straks met een simpele prompt kritieke overheids systemen hacken. Dat is al 1 reden waarom er regulatie moet plaatsvinden.

Ik weet dat op tweakers / GOT een impopulaire mening is want de AI bedrijven zijn per definitie slecht en hun enige doel is gedreven door nog meer geld binnen te kunnen halen. Maar stel nu even, dat de Altmans en Musks van deze wereld die de LLM bedrijven leiden, dat die zelf ook nog een stukje integriteit hebben? En dat ze daarom juist voorstellen om even wat rustiger te doen? En dat dus de motivatie van ze, niet alleen maar door geld gedreven is? Misschien, heel misschien, maken ook zij zich zorgen. Maar misschien ook nog wel een stukje meer dan wij, want waar zij zich totaal geen zorgen over moeten maken, is geld.

Ik heb ooit les gehad van een prof die sprak over de behoefte piramide van Maslow: van de eerste behoefte is lichamelijk (onderdak, eten) en zo gaat het steeds verder: veiligheid, sociaal contact, waardering en zelfactualisatie.
Hij vertelde destijds (al even geleden ) dat mensen zoals Robbie Williams daar nog bovenuit stijgen. Die hebben alles al verwezenlijkt wat er is (doelende op de superrijken). Die denken niet meer aan geld maar leven in een heel andere wereld die wij als gewone stervelingen niet eens kunnen bevatten. En dan denk ik, misschien juist omdat ze niet met dat geld op dezelfde manier bezig zijn, wellicht doen ze oprecht wel hun best om het in goeie banen te leiden?

Ik weet het, misschien heel naïef van mij, maar ik graag uit van de positieve in de mens, en ik kan me voorstellen dat geld (geld maakt gelukkig gaat tot 100k dacht ik, daarboven niet meer evenredig) voor hun irrelevant kan zijn....

[Wozmro]

Op dat vlak is er mogelijk een potentieel probleem dat er in silicon valley ook een strekking is van het geloof in 'dark enlightment' en 'the rapture', kort samengevat: een geloof in de eindtijd en dat enkel een select groepje mensen zal overleven.

Wat betreft het prompten van AI-modellen is er volgens mij ook nog het aandachtspunt dat de mens van nature best wel een slordige communicator is. Eigenlijk zijn we het niet gewoon om zorgvuldig, correct en compleet te communiceren. We gaan er simpelweg snel vanuit dat diegene aan de andere kant wel zal weten wat we bedoelen en de dingen die we niet zeggen wel zelf correct zal invullen. Terwijl we zelf weten dat dit in veel gevallen niet zo goed afloopt 🙂.

Dus je kan een AI een opdracht geven in de vorm van een prompt maar de kans zit er in dat die dat helemaal anders interpreteert of dan zelf ook dingen gaat verzinnen.

Je zou dit kunnen ondervangen met een socratische dialoog, de AI antwoord telkens met een wedervraag als die niet helemaal zeker is van wat je bedoelt. Maar dat zal de mens snel vermoeiend vinden denk ik.

[ Voor 20% gewijzigd door Wozmro op 17-09-2026 17:51 ]

[Sissors]

Cobb schreef op donderdag 17 september 2026 @ 14:09:
Met hele goede AI kun je straks met een simpele prompt kritieke overheids systemen hacken. Dat is al 1 reden waarom er regulatie moet plaatsvinden.

Lijkt mij meer een reden voor de beheerders / developers van overheidssystemen om die simpele prompt te doen, en dan hun beveiliging te fixen. Die AIs worden wel ontwikkeld, wees blij dat het er nu eentje is die ze zelf ook kunnen gebruiken, ipv dat alleen de Amerikanen of de Chinezen er toegang tot hebben.

[Boeryepes]

Stukfruit schreef op donderdag 17 september 2026 @ 12:36:
[...]


Abstracties zijn hier belangrijk: stel je voor dat er een rij met balletjes voor je op tafel ligt. Er is niets bijzonders aan deze objecten. Je kan er in principe weinig bijzonders mee doen om de wereld mee naar de maan te helpen.

Vervolgens nummer je ze. Nu zijn het plotseling loterijballetjes geworden. Gooi ze in een bak en schud ze een paar keer door elkaar. Je kan nu voorspellen dat je iemand een grote prijs gaat geven als het balletje met nummer 42 er als eerste uit komt rollen.

Hier zit geen strategie achter. De balletjes wisselen in principe willekeurig van locatie.

Nu geef je aan ieder balletje een extra betekenis: 42 staat voor "de", 43 staat voor "het", 44 staat voor "een", en zo voorts. Je hangt ook een beetje extra gewicht aan ieder balletje door ze meer of minder te vullen met zand. Voor balletjes 42, 43 en 44 laat je iemand vooraf opschrijven dat dit lidwoorden zijn.

Daarna geef je weer een draai aan het rek. Je wil de balletjes hebben die voor de lidwoorden staan. Maar nee, dit lukt niet omdat je geen selectie hebt afgedwongen, ondanks de zwaardere balletjes. Wat nu? Je haalt er wat balletjes uit zodat je "expertise"-balletjes overhoudt. Is dit niet valsspelen? Jazeker, maar het brengt je wel richting het juiste antwoord: er komen nu nog maar 3 balletjes uit.

Zo werkt een taalmodel ook als je het heel erg versimpelt: omdat je zelf context meegeeft (de tekst die je invoert) worden de associaties die niet kloppen genegeerd en bij varianten van modellen zelfs niet eens aangesproken. Dit is de analogie met het handmatig verwijderen van alle balletjes behalve die voor de lidwoorden.

Hoe dit past bij het vinden van strategie en tactiek: compounding. Door het stapelen van abstracties kun je een weg door kennis vinden die steeds complexer kan worden gemaakt. Aan de balletjes voor de lidwoorden kan tenslotte ook nog een volgende abstractie hangen, waarmee je informatie kan clusteren.

Voor een simpelere uitleg kun je ook nagaan hoe bijvoorbeeld een binary search werkt: je zou kunnen stellen dat je "slim" zo snel mogelijk de abstractie die bij nummer 9 hoort moet komen, maar dat is niet hoe software werkt. Software weet niet wat "9" is. Dus je hangt er zelf logica aan: als je eerst een lijst maakt met alle getallen tot en met 10, dan kun je het blok doormidden hakken en stellen dat er tussen 1 en 5 geen 9 zit.

[Afbeelding]

Ook dit is een versimpeling die niets met modellen zelf te maken heeft, maar het zou moeten kunnen helpen om te laten zien dat als je hier delen van informatie ipv getallen aan ophangt (laten we ze tokens noemen ), dat je er berekeningen mee kan gaan doen. Net zoals met die binary search waarin de betekenis van een getal wordt bepaald door vooraf ingegeven input. De gezochte informatie ontstaat niet vanzelf. Die geef je zelf mee als aanknopingspunt om het zoeken mee te beginnen.

Scrapen van online content (dus uitspraken van mensen die het over bv. strategie en tactiek hebben), het voorselecteren ("trainen", het vooraf meegeven van hardcoded beperkingen om bv. te voorkomen dat handen 6 vingers krijgen, enz.) van die informatie en de input die je geeft om de agent aan te slingeren doen de rest van het werk.

Het is effectief wiskunde die wordt toegepast op output van mensen. Het hergebruik van dat + de deterministische algoritmes is wat de software jou laat vertellen dat er een strategie wordt toegepast.

Dit is waarom wiskunde op school een interessant vak was.

Dankjewel. Jij snapt het wel denk ik en neemt de moeite het mij uit te leggen 🙏🏻 … gestapelde logica is niet makkelijk te begrijpen totdat je echt ‘in zit’.

Het doet me denken aan een Word add-in va mij waarin ik gestapelde algoritmes heb die een document structuur uitpluizen en dan met een beslisboom het gehele document opmaken door de onderdelen op te maken.

[Fornoo]

@Zorg dan ga je voorbij dat, stel Silicon Valley zou besluiten te stoppen, er nog andere naties en mogenheden zijn die de handschoen oppakken. Die blik op louter silicon valley snap ik daarom niet zo goed. China is meer dan capabel om verder te gaan waar Amerika stopt. Maar geef het genoeg tijd, en er zijn andere landen of ondergrondse bewegingen die er verder mee gaan. Het is niet te stoppen.

De piramide van Maslov is geen harde wetenschap. Het is een manier om naar de zelf ontplooiing van de mens te kijken, maar niet de enige manier.

Het doel om rijk te worden staat zelf actualisatie in de weg. Je zelfwaarde hangt dan af van de hoeveelheid geld die je verdient, hoe meer hoe beter. Dan stort je zelfbeeld in als je geld verliest.

Het doel van erkenning en waardering (van anderen) staat zelf actualisatie in de weg. Zou je daar afhankelijk van zijn, dan stort je hele zelfbeeld in op het moment dat anderen je afwijzen.

We hebben allemaal een beetje geld, erkenning en waardering nodig. Maar jezelf accepteren is in de basis gelukkig zijn om wie je zelf bent. Heel simpel, maar tegelijk ook heel moeilijk.

Ik ben ook positief ingesteld. Tegelijk hebben we allemaal, ook ik zelf, een stukje narcisme en opportunisme in ons.

[Zorg]

@Fornoo ik doelde enkel op Silicon Valley omdat daar nu de laatste tijd het nieuws kwam om wat rustiger aan te doen en nog meer aan veiligheid te werken, hetgeen heel sceptisch wordt ontvangen. Stoppen gaat natuurlijk sowieso niet gebeuren.

Mijn verwijzing naar Maslow was niet als harde science, meer om wat duiding te geven dat er mogelijkerwijs ook andere motieven zouden kunnen spelen dan enkel en alleen kapitalisme

[Cobb]

Sissors schreef op donderdag 17 september 2026 @ 18:29:
[...]

Lijkt mij meer een reden voor de beheerders / developers van overheidssystemen om die simpele prompt te doen, en dan hun beveiliging te fixen. Die AIs worden wel ontwikkeld, wees blij dat het er nu eentje is die ze zelf ook kunnen gebruiken, ipv dat alleen de Amerikanen of de Chinezen er toegang tot hebben.

Er valt straks niet meer tegen op te boksen qua beveiliging. Een A.I. kan uren achtereen op zoek naar exploits of kan in seconden doen waar mensen uren voor nodig hebben.

@Zorg ik vrees dat je idd naïef bent op dat vlak. Defensie is bijvoorbeeld zo'n tak die niet te reguleren is op gebied van A.I.. Ze zal altijd streven naar net iets beter dan het andere machtsblok. En helaas gaat dat laatste ook op voor Wall Street, ook daar is een edge over the competition gewild om net even wat meer winst uit X te knijpen. De eeuwige hang naar expansie en groei.

[ Voor 24% gewijzigd door Cobb op 17-09-2026 22:01 ]

[Zorg]

@Cobb ik denk dat dat wel meevalt hoor ik weet wel het een ander vd financiële wereld, bedrijven en economie. Maar ik denk ook dat er teveel zwart/wit wordt gedacht en dat de tech bedrijven echt niet alleen maar puur evil zijn. Aan het einde van de dag zijn dit ook gewoon bedrijven waarbij mensen werken die gewoon hun job goed willen doen, net als andere bedrijven, net als de bedrijven waar wij werken. Tuurlijk is winst de drijfveer, maar dat geldt net zo goed voor het bedrijf waar jezelf werkt. Ik werk zelf al meer dan 10 jaar voor portfoliobedrijven van investeringsmaatschappijen waar de menselijke factor nu niet altijd even hoog is, en het er soms heel hard aan toe kan gaan. Maar dat is soms nodig, een goed functionerende onderneming is meer waard dan een leeggeroofd kartonnen doos. En dat geldt ook voor beursgenoteerde bedrijven en hun aandeelhouders.