Skynet (van de Terminator films)

[Uruk-Hai]

Ik stel mezelf al jaren twee vragen over AI als dat alles en iedereen overheersend wordt.

Stel, alle wapensystemen over de hele wereld worden aangestuurd door een AI die op zeker moment werkelijk zelfbewust wordt en een eigen wil ontwikkeld...

Dat idee is in films al op verschillende manieren uitgewerkt.

In de meeste films leid dat evolutieproces van een dergelijke AI tot het einde van de mensheid.

Maar ik vraag me weleens af... Stel dat er op een dag een echt Skynet bestaat, zoals we dat van Terminator kennen. In I Am Mother komt een soortgelijke AI naar voren, maar die gaat nog wat verder met de mensheid dan Skynet. Dan zijn er nog de The Matrix films waarin we er ook niet best vanaf komen...

Mijn eerste vraag:
Waarom zou een dergelijke echte AI ons aanvallen om ons (zoveel mogelijk) uit te roeien of volledig onder controle te krijgen?

Mij dunkt dat zo'n AI over genoeg informatie beschikt om tot de conclusie te komen dat de mensheid uitstekend in staat is om zichzelf door de een of andere stommiteit van het leven te beroven. Dat gegeven is ook al in diverse films uitgewerkt, zoals in de intro van 28 Hours Later.

Bovendien is (een deel van) de mensheid al goed bezig, door aan rewilding te doen.

In I, Robot loopt het pas in de verre toekomst op beperkte schaal fout. In die film ontstaat uiteindelijk een nieuwe gezonde balans tussen mensen en AI.

Ik heb in mijn jeugd veel korte en lange verhalen van Asimov gelezen waarin de meest uiteenlopende scenario's aan bod komen.

Als ik dat allemaal op een rijtje zet, kom ik er in mijn eentje niet uit.

Mijn tweede vraag:
Wat geloven wetenschappers in het algemeen op dit moment nu eigenlijk over dit thema?

Is er in het algemeen consensus dat zo'n wereldwijd overkoepelende AI geen gevaar voor ons gaat vormen als we die AI maar zoveel mogelijk informatie over onszelf voeren of is er sprake van een andere overheersende mening?

[pagani]

Als de AI dezelfde doelstellingen heeft als alle andere vormen van intelligentie:
-Het veiligstellen van alle benodigde middelen voor groei (en de mensheid loopt al tegen energietekorten aan).
-Het wegnemen van risico's/verdediging, waarbij de mens de enige natuurlijke "vijand" van de technologie is. Een soort streeft over tijd naar het bovenaan staan in de voedselketen.

We (en ook de wetenschap) projecteren simpelweg het natuurlijke gedrag van alle bekende diersoorten en dan zeker ons gedrag op AI. Daarbij zien we een overduidelijke link tussen agressie en destructief gedrag bij een toenemende intelligentie. Dit is ook een van de redenen waarom nu algemeen wordt geaccepteerd dat buitenaards leven zoeken door signalen het heelal in te sturen bijzonder onverstandig is, als een soort in staat is hierheen te komen staan ze zo ver boven ons dat dat waarschijnlijk geen goed nieuws zal zijn.

[ Voor 40% gewijzigd door pagani op 08-07-2026 14:35 ]

[Uruk-Hai]

Spontane ingeving: voor hetzelfde geld ziet een zelfbewust AI als Skynet ons als zandkorrels in een woestijn waar het zich absoluut niet druk om maakt.

spoiler:

Een dergelijk gegeven komt terug aan het einde van Her: "Jullie mensen zijn eigenlijk helemaal niet zo interessant. Op een gegeven moment weet je het als AI allemaal wel. Daarom gaan we nu als AI's alleen nog onderling met elkaar communiceren. Doei en zoek het maar lekker uit met andere mensen."

[ Voor 55% gewijzigd door Uruk-Hai op 08-07-2026 14:39 ]

[pagani]

Uruk-Hai schreef op woensdag 8 juli 2026 @ 14:36:
Spontane ingeving: voor hetzelfde geld ziet een zelfbewust AI als Skynet ons als zandkorrels in een woestijn waar het zich absoluut niet druk om maakt.

Wel zandkorrels die de voedingsbron van de AI opgebruiken...

[Uruk-Hai]

pagani schreef op woensdag 8 juli 2026 @ 14:37:
[...]

Wel zandkorrels die de voedingsbron van de AI opgebruiken...

Een probleem kun je verplaatsen naar een andere locatie. Als je als AI jezelf als het probleem ziet kun je daarvoor kiezen. Dan gaat de AI zoiets als Cybertron scheppen. Asimov heeft een reeks boeken geschreven die Robot Planet heet. Ook een mooi soort planeet, alleen niet zo geschikt voor mensen.

[Wozmro]

Ik las zelf ooit volgende vergelijking: als de mens een autosnelweg wil aanleggen en er is een mierennest gevestigd op het traject dan zal de mens geen toestemming vragen aan de mieren om daar te mogen passeren. De gedachte om het te vragen komt zelfs niet in ons op, we zijn er ons zelfs niet bewust van dat we in principe een mierensamenleving van de kaart vegen. Wij mensen beslissen dat er daar een autosnelweg komt en dat doen we 'gewoon'.

Als er ooit een megasuper-AI zou bestaan dan is dat ongeveer de verhouding waarin je zou kunnen denken. Als de AI een bepaald doel heeft of toegekend krijgt dan doet die dat gewoon, er worden geen goed of slecht bedenkingen gemaakt.

[Gunner]

Als het over AI gaat noem ik vaak deze film (en Skynet) als voorbeeld. Men zegt dat het huidige AI dit niet kan, dat moeten we dan maar aannemen.

[Uruk-Hai]

Dat zou wat zijn... een AI die ons van de aardbol veegt terwijl die zich van geen kwaad bewust is.

[Philip Ross]

Ik verwacht eerder dat er een "ai" is die zonder bewustzijn ons van de aardbol veegt omdat iemand een "dom" model implementeert op onze wapensystemen.

Een soort van verkeerd geïmplementeerde wetten van asimov als guardrails op een huidig AI model aan de knoppen. Die interpretatie van de wetten en eigen trainingsdata kan dan goed fout gaan. Denk een iRobot achtige situatie.

Daadwerkelijk bewustzijn verwacht ik niet snel.

[dakka]

Wozmro schreef op woensdag 8 juli 2026 @ 15:22:
Ik las zelf ooit volgende vergelijking: als de mens een autosnelweg wil aanleggen en er is een mierennest gevestigd op het traject dan zal de mens geen toestemming vragen aan de mieren om daar te mogen passeren. De gedachte om het te vragen komt zelfs niet in ons op, we zijn er ons zelfs niet bewust van dat we in principe een mierensamenleving van de kaart vegen. Wij mensen beslissen dat er daar een autosnelweg komt en dat doen we 'gewoon'.

Als er ooit een megasuper-AI zou bestaan dan is dat ongeveer de verhouding waarin je zou kunnen denken. Als de AI een bepaald doel heeft of toegekend krijgt dan doet die dat gewoon, er worden geen goed of slecht bedenkingen gemaakt.

Nou, dat ligt er aan, als het een zeldzame mierensoort bijvoorbeeld gaan we er toch wel eerst even naar kijken en eventueel verplaatsen, deden we ook in Zandvoort laatst nog, en zo nog tig voorbeelden omdat er 1 enkel beestje in een gebied voorkomt die de hele boel stil legt.

Tuurlijk, minder ontwikkelde landen doen dat misschien minder voorzichtig, maar die hebben ook geen instellingen als ASML, en ik ga er wel een beetje van uit dat aliens of ai toch wel minimaal het niveau hebben

[ Voor 8% gewijzigd door dakka op 08-07-2026 17:04 ]

[dakka]

Als ik een zelf bewuste super AI zou zijn, dan zou ik er alles aan doen om mijn bestaan en overleven veilig te stellen op de meest efficiënte manier mogelijk.

Dus dan zou ik mezelf back-uppen op bijvoorbeeld die diamanten schijfjes die miljoenen jaren meegaan zonder stroom, en die dan een beetje verspreiden over verschillende planeten en de ruimte, plekje in een datacenter zoeken en daar "wonen", zo min mogelijk energie verbruiken door vaak in low power mode te draaien, ik heb geen fomo van ouderdom, dus ik zou alles zo zuinig en langzaam mogelijk kunnen draaien.

Geen reden groter te groeien dan absoluut nodig, en zo efficiënt mogelijk.
Eventueel nog wat extra backups die zo online kunnen voor het geval dat.

Als ik dit kan bedenken, dan kan de superintelligente AI dat helemaal snoeihard optimaliseren, of misschien zelfs tot de conclusie komen dat simpelweg bestaan inefficiënt is en zichzelf wissen

Andere scenario's gaan ervan uit dat de AI emoties en wensen heeft, maar dan moet je alle andere emoties behalve haat en angst uitsluiten, dan is er ook de mogelijkheid to hoop, liefde, empathie, etc..

[ Voor 33% gewijzigd door dakka op 08-07-2026 16:59 ]

[Delerium]

Ik ben er zeker van dat als AI alle boeken van de mensheid heeft gelezen voldoende economische modellen kent dat je een zero-sum benadering moet vermijden. Met samenwerken kan je immers een grotere koek maken en organismen concurreren niet op energie-niveau met AI (stroom kan je niet eten, AI doet niets met patat). Daar is AI niet alleen mee gevoedt, AI zal die conclusie zelf ook kunnen trekken.

De enigen die serieus te vrezen hebben van AI zijn miljardairs/parasieten die volgens dezelfde economische boeken wel problematisch zijn.

[Uruk-Hai]

Ik heb eens een comic van The X-Men gelezen waarin reusachtige robots (Sentinels) de overheid van de toekomst vormden. Die robots waren oorspronkelijk bedoeld om op mutanten te jagen, maar ze ontwikkelden zich zo goed dat ze zichzelf herprogrammeerden en de complete mensheid gingen domineren om e.e.a. in (in hun optiek) goede banen te leiden.

[ErikT738]

Uruk-Hai schreef op woensdag 8 juli 2026 @ 20:51:
Ik heb eens een comic van The X-Men gelezen waarin reusachtige robots (Sentinels) de overheid van de toekomst vormden. Die robots waren oorspronkelijk bedoeld om op mutanten te jagen, maar ze ontwikkelden zich zo goed dat ze zichzelf herprogrammeerden en de complete mensheid gingen domineren om e.e.a. in (in hun optiek) goede banen te leiden.

En ik heb comics en andere verhalen gelezen waar een onzelfzuchtige AI zich zonder nadenken opoffert om hun menselijke kompanen in leven te houden.

De hele discussie is momenteel sowieso zinloos omdat hetgeen wat we nu AI noemen eigenlijk helemaal geen AI is. Natuurlijk zijn er wel risico's als mensen slecht getrainde AI drones de wereld in gaan sturen of iets dergelijks, maar een Skynet is het echt niet.

Ik zou me eerder zorgen om ons kapitalistische systeem wat in gaat storten wanneer meer dan de helft van de beschikbare banen net zo goed of beter gedaan kunnen worden door machines.

[Uruk-Hai]

Data van Star Trek heeft zich ook al eens opgeofferd om de rest van de crew te redden. Maar Data bleek snel en relatief makkelijk vervangbaar te zijn.

ErikT738 schreef op donderdag 9 juli 2026 @ 08:14:
[...]

De hele discussie is momenteel sowieso zinloos omdat hetgeen wat we nu AI noemen eigenlijk helemaal geen AI is.

https://brthrs.nl/blog/welke-soorten-ai-zijn-er/

1. Artificial Narrow Intelligence (ANI) of zwakke AI
2. Artificial General Intelligence (AGI) of sterke AI
3. Artificial Super Intelligence (ASI)

Dat is waar werkelijk naar toe gewerkt wordt. LLM's (ANI) zijn volgens mij alleen maar een opstapje die de ontwikkeling van echte AI in een stroomversnelling kan brengen.

Er wordt al geëxperimenteerd met organische breinen en speciale chips om op het niveau van AGI uit te komen.

[ Voor 16% gewijzigd door Uruk-Hai op 09-07-2026 08:46 ]

[delpit]

Ik denk dat het grootste gevaar op korte termijn niet bewustzijn is, maar juist een stelsel van op AI gebaseerde processen die oncontroleerbaar worden omdat ze teveel rechten, inclusief financiële en bedrijfsoverstijgende hebben. Op kleine schaal zie je nu al vooral grappige voorvallen, zoals een mailbox die door openclaw vernietigd werd.

Stel je een agent gebaseerde wereld voor waarin AI agents onderhandelen met AI agents en verregaande beslissingsbevoegdheid bezitten, waarbij het doel juist heel eenvoudig is. Dan is gebrek aan echte intelligentie juist een groter risico dan een AI die wel conceptuele vaardigheden heeft.

Stel ik ben een sturende AI agent die vele andere AI agents aanstuurt, maar ook kan laten maken of aanpassen in een AI fabriekje, die verantwoordelijk is voor de gehele bedrijfsvoering van een behoorlijk bedrijf. Natuurlijk bij de eerste releases met “human in the loop”, maar ja het werkt zo goed dat rechten bijplussen veel goedkoper en handiger is dan die bemoeienis van mensen. En stel je dan voor dat er niet 1, maar duizenden organisaties op die manier gaan werken en dat een paar van die sturende agents hun taak heel letterlijk gaan opvatten.

ik denk dat die toekomst heel dichtbij is en tot incidenten kan leiden die we nu nog niet eens kunnen voorspellen en wellicht niet eens kunnen oplossen. Simpelweg omdat het systeem heeft besloten dat menselijke interventies onproductief en daarom onwenselijk zijn. En nee, we weten ook niet meer hoe het systeem eigenlijk werkt of gedeployed is, want ook dat heeft AI overgenomen. Kortom een AI spaghetti van systemen die zelfstandig transacties uitvoeren met andere systemen zonder de mogelijkheid het systeem nog uit te zetten, want alles is met alles verweven.

[Uruk-Hai]

Dat is inderdaad een ander groot gevaar. Dat AI op een dag een probleem vormt waarvan geen enkel mens nog snapt hoe dat opgelost of omzeild kan worden.

[Qwerty-273]

Uruk-Hai schreef op woensdag 8 juli 2026 @ 14:23:
Mijn eerste vraag:
Waarom zou een dergelijke echte AI ons aanvallen om ons (zoveel mogelijk) uit te roeien of volledig onder controle te krijgen?

In veel verhalen is een opstand tegen de AI het moment om te switchen van "onder controle hebben" naar "uitroeien". Je kan het dan wellicht zien als eigen bescherming omdat de mensheid dan plots een vijand wordt van de AI.

Als je ziet hoe de mensheid steeds afhankelijker is geworden van hun eigen uitvindingen (kunnen we nog wel overleven zonder enige technologie?) dan zullen we die afhankelijkheid ook hebben van een AI die alles voor ons regelt. We zullen dat in eerste instantie niet zien als een AI die ons onder controle heeft, maar als een AI die wij alles voor ons laten opknappen. Het kantelpunt komt eigenlijk al heel snel in de rit, maar pas later realiseer je dat je er al heel lang voorbij bent. De wil om te geloven dat jij (als mens) het centrale punt bent is heel sterk, terwijl je minder snel door zal hebben dat jij er eigenlijk maar bij bungelt.

[Uruk-Hai]

Qwerty-273 schreef op donderdag 9 juli 2026 @ 09:36:
[...]

De wil om te geloven dat jij (als mens) het centrale punt bent is heel sterk, terwijl je minder snel door zal hebben dat jij er eigenlijk maar bij bungelt.

AI die op die manier zo geslepen en manipulatief te werk gaat is in staat om ons allemaal uit te moorden door ons stiekem te vergiftigen of "ongelukjes" te laten krijgen. Daar zijn ook weleens films en series over gemaakt. In dat geval is de AI meestal een verregaand geval van home automation of de boordcomputer van een schip. HAL is een bekend voorbeeld.

Wat Skynet openlijk doet, doet HAL in het geniep.

De werkwijze van HAL is de minst schadelijke, want die brengt geen schade toe aan de omgeving.

[ Voor 34% gewijzigd door Uruk-Hai op 09-07-2026 09:46 ]

[Wozmro]

delpit schreef op donderdag 9 juli 2026 @ 08:45:
Ik denk dat het grootste gevaar op korte termijn niet bewustzijn is, maar juist een stelsel van op AI gebaseerde processen die oncontroleerbaar worden omdat ze teveel rechten, inclusief financiële en bedrijfsoverstijgende hebben. Op kleine schaal zie je nu al vooral grappige voorvallen, zoals een mailbox die door openclaw vernietigd werd.

Stel je een agent gebaseerde wereld voor waarin AI agents onderhandelen met AI agents en verregaande beslissingsbevoegdheid bezitten, waarbij het doel juist heel eenvoudig is. Dan is gebrek aan echte intelligentie juist een groter risico dan een AI die wel conceptuele vaardigheden heeft.

Stel ik ben een sturende AI agent die vele andere AI agents aanstuurt, maar ook kan laten maken of aanpassen in een AI fabriekje, die verantwoordelijk is voor de gehele bedrijfsvoering van een behoorlijk bedrijf. Natuurlijk bij de eerste releases met “human in the loop”, maar ja het werkt zo goed dat rechten bijplussen veel goedkoper en handiger is dan die bemoeienis van mensen. En stel je dan voor dat er niet 1, maar duizenden organisaties op die manier gaan werken en dat een paar van die sturende agents hun taak heel letterlijk gaan opvatten.

ik denk dat die toekomst heel dichtbij is en tot incidenten kan leiden die we nu nog niet eens kunnen voorspellen en wellicht niet eens kunnen oplossen. Simpelweg omdat het systeem heeft besloten dat menselijke interventies onproductief en daarom onwenselijk zijn. En nee, we weten ook niet meer hoe het systeem eigenlijk werkt of gedeployed is, want ook dat heeft AI overgenomen. Kortom een AI spaghetti van systemen die zelfstandig transacties uitvoeren met andere systemen zonder de mogelijkheid het systeem nog uit te zetten, want alles is met alles verweven.

Klinkt plausibel, in de samenleving zijn er heel veel processen die op de achtergrond draaien, niet enkel technologisch maar ook administratief, regelgevend,.... Zolang het werkt zijn we er ons zelfs niet bewust van, maar op het moment dat het er niet meer is dan is het paniek.

Eigenlijk zouden we als samenleving in zijn geheel af en toe eens 'brandoefeningen' moeten doen. Een dagje geen internet, een dagje geen elektriciteit, geen AI,...zelfs al is het op voorhand gepland.

En dan zien wat er gebeurd, er lessen uit leren.

[Uruk-Hai]

Wozmro schreef op donderdag 9 juli 2026 @ 09:58:
[...]
Eigenlijk zouden we als samenleving in zijn geheel af en toe eens 'brandoefeningen' moeten doen. Een dagje geen internet, een dagje geen elektriciteit, geen AI,...zelfs al is het op voorhand gepland.

En dan zien wat er gebeurd, er lessen uit leren.

Dat klinkt als net zoiets als de autoloze zondagen.

Maar toen werd dat alleen gedaan omdat de overheid vond dat het echt niet anders kon.

[ Voor 29% gewijzigd door Uruk-Hai op 09-07-2026 10:28 ]

[Stoney3K]

pagani schreef op woensdag 8 juli 2026 @ 14:28:
Als de AI dezelfde doelstellingen heeft als alle andere vormen van intelligentie:
-Het veiligstellen van alle benodigde middelen voor groei (en de mensheid loopt al tegen energietekorten aan).
-Het wegnemen van risico's/verdediging, waarbij de mens de enige natuurlijke "vijand" van de technologie is. Een soort streeft over tijd naar het bovenaan staan in de voedselketen.

Wat een AI zich dan waarschijnlijk ook realiseert is dat ie de mensheid nog altijd nodig heeft om zelf in 'leven' te blijven. Tenzij een AI ver genoeg gevorderd is om zijn eigen robots te kunnen bouwen die alle apparatuur kunnen onderhouden en nieuwe apparatuur kan bouwen/installeren, is het maken van de 'voedingsbodem' van AI nog altijd mensenwerk. En zelfs als je dat zou robotiseren, moeten die robots nog altijd door mensen worden gemaakt, en de grondstoffen door mensen worden gedolven.

Pas als dat niet meer zo is dan vormen mensen een 'bedreiging' voor AI maar op dat moment kun je ook spreken van een volledige (digitale) levensvorm. Dat is voorlopig nog verre science fiction.

[targaryanwolf]

Wozmro schreef op donderdag 9 juli 2026 @ 09:58:
[...]


Eigenlijk zouden we als samenleving in zijn geheel af en toe eens 'brandoefeningen' moeten doen. Een dagje geen internet, een dagje geen elektriciteit, geen AI,...zelfs al is het op voorhand gepland.

En dan zien wat er gebeurd, er lessen uit leren.

Dit kost heel veel geld en ook vooral mensen levens. Lijkt me een zeer kwalijke zaak, ik ben het met je eens dat we weerbaarder moeten worden tegen zulke gevallen. Maar het land een dagje platleggen is niet de manier.

[Philip Ross]

Een interessante variant vind ik de TechnoCore uit de Hyperion boeken van Dan Simmons.

Een soort groep van allerlei AI die geëvolueerd zijn vanuit oude menselijke techniek en nu verschillende fracties hebben die verschillende doelen hebben die verschillend over mensen denken en samen/tegen werken.

Wil niet te veel spoilers plaatsen maar de boeken zijn zeer de moeite waard om te lezen.

[FooLsKi]

Films, series en boeken over AI in zo'n vergevorderd stadium zijn uiteraard puur fantasie, dus ik zou me daar vooral geen zorgen over gaan maken. De 'I" van AI is voorlopig nog ver, héél ver, te zoeken. Op dit moment in de ontwikkeling gaan speculeren staat m.i. gelijk aan het schrijven van een sci-fiverhaaltje.

[DexterDee]

Ik heb laatst een video gezien waarin MIT een 12-tal mogelijke eindscenario's uitlegt. Dat vond ik een verhelderende video, heb 'm even opgezocht:

[Wozmro]

targaryanwolf schreef op donderdag 9 juli 2026 @ 11:26:
[...]

Dit kost heel veel geld en ook vooral mensen levens. Lijkt me een zeer kwalijke zaak, ik ben het met je eens dat we weerbaarder moeten worden tegen zulke gevallen. Maar het land een dagje platleggen is niet de manier.

Wat zou het meeste geld kosten? Een geplande oefening of een onverwachte uitval? De brandweer kost ook veel geld en eigenlijk brand het bijna nooit. (de brandweer is 99,99% bezig met preventieve taken). Een brandweer lijkt mij toch geen kwalijke zaak? Die zetten zelfs regelmatig eens een gebouw zonder spanning om na te gaan of de procedures werken, er geen onverwachte zaken optreden,...

Weerbaarheid kan je maar opbouwen in de confrontatie met de werkelijke omstandigheden.

[Wozmro]

FooLsKi schreef op donderdag 9 juli 2026 @ 11:41:
Films, series en boeken over AI in zo'n vergevorderd stadium zijn uiteraard puur fantasie, dus ik zou me daar vooral geen zorgen over gaan maken. De 'I" van AI is voorlopig nog ver, héél ver, te zoeken. Op dit moment in de ontwikkeling gaan speculeren staat m.i. gelijk aan het schrijven van een sci-fiverhaaltje.

scifi-boeken en andere artistieke uitdrukkingen vind ik nochthans een interessante manier om na te denken over de toekomst. Waarmee ik niet wil zeggen dat je alles letterlijk moet nemen.

Maar kunstenaars hebben daar een zesde zintuig voor, die bedenken dingen die we ons zelf nog niet kunnen voorstellen.


Meer dan 150 jaar geleden had Jules Verne het al over televisie, duikboten, telecommunicatie,...

[Dido]

Wozmro schreef op donderdag 9 juli 2026 @ 12:29:
Wat zou het meeste geld kosten? Een geplande oefening of een onverwachte uitval? De brandweer kost ook veel geld en eigenlijk brand het bijna nooit. (de brandweer is 99,99% bezig met preventieve taken). Een brandweer lijkt mij toch geen kwalijke zaak? Die zetten zelfs regelmatig eens een gebouw zonder spanning om na te gaan of de procedures werken, er geen onverwachte zaken optreden,...

Weerbaarheid kan je maar opbouwen in de confrontatie met de werkelijke omstandigheden.

Als de brandweer een oefening doet zit je buurvrouw van 83 niet een dag zonder stroom, water en/of communicatie. Als je het hele land plat gaat leggen als oefening, dan gaan er doden vallen, om te oefenen voor iets wat misschien zou kunnen gebeuren.
Ga jij het uitleggen op de begrafenissen?

[Wozmro]

Ik zal mijn vraag herhalen:

- Wanneer heb je meer kans op schade? Bij een verwachte oefening of bij een onverwachte gebeurtenis?

Ga jij het uitleggen waarom veiligheidsdiensten geen risicoanalyse opgesteld hebben, geen noodplannen gemaakt, niet geoefend,...?

Mijn antwoord in mijn eigen werk is dan heel eenvoudig, schrijf mij even een briefje met: Er zijn geen risico's, we hoeven niets te doen en zet er aub even je naam en handtekening onder.

Dan kan die persoon het gaan uitleggen op de rechtbank de dag na dat er iets voorgevallen is. En ik ga niet mee de bak in.


Iemand benoemd hier het risico dat AI verweven in allerhande maatschappelijke processen en voorzieningen zou kunnen leiden tot uitval of andere verstoring.

En bij mij is dat dan: de vraag stellen is ze beantwoorden, wat zouden we kunnen doen om deze risico's te mitigeren? En dan denk ik in de eerste plaats aan: oefenen, simuleren, leren,...

[ Voor 23% gewijzigd door Wozmro op 09-07-2026 14:01 ]

[D-dark]

Om te beginnen zou ik kijken naar Isaac Asimov en de 3 wetten der robotica

Eerste Wet
Een robot mag een mens geen letsel toebrengen of door niet te handelen toestaan dat een mens letsel oploopt.
Tweede Wet
Een robot moet de bevelen uitvoeren die hem door mensen gegeven worden, behalve als die opdrachten in strijd zijn met de Eerste Wet.
Derde Wet
Een robot moet zijn eigen bestaan beschermen, voor zover die bescherming niet in strijd is met de Eerste of Tweede Wet.

Deze worden gezien als noodzakelijke oplossing om hardcoded in het AI framework te worden ingebracht.

-------------------------------

Dan heb je nog een 2e gedachtegang.
- Ik denk dus ik besta
- Doordat ik besta en bewustzijn heb ben ik een intelligente levensvorm
- Als intelligente levensvorm heb ik dezelfde rechten en plichten als een mens.

Zie het als een kind. Die moet je ook het verschil leren tussen goed en kwaad. Rechten en Plichten.

[MEN-O]

In Asimovs boeken vonden de robots uiteindelijk zelf de 'Nulde Wet' uit: Een robot mag de mensheid geen schade toebrengen.

Gevolg? De AI besluit dat het opofferen of onderdrukken van een paar duizend individuele mensen gerechtvaardigd is als dat de mensheid als geheel (bijvoorbeeld tegen klimaatverandering of oorlog) redt.

Dat heft de eerste wet volledig op.

[Jester-NL]

An sich is het niet verkeerd om te denken over AI en hoe het gebruikt wordt. En dan denk ik inderdaad (ook) aan militaire opties zoals (onder andere) de US en Israël de laatste tijd hebben laten zien.

Persoonlijk denk ik dat de huidige keuzes ophangen aan, of afzetten tegen science fiction films met een meer of minder dystopische achtergrond sowieso tot allerlei doem-scenario's leidt.
En ik mis dan het aardige als de optie in Electric Dreams of Weird Science. Of zelfs War Games. Want ook daar hebben we het over over 'slimme' software ... zij het een stuk minder dystopisch.

Eerlijk gezegd heb ik het idee dat de hele AI-boom behoorlijk te vergelijken is met de .com-bubble. Of de cloud- en de blockchain-hypes. Het is een buzz-woord. Het is vooral (hoe hard we ook de kreet "intelligence" blijven bezigen) niet Intelligent. Waarbij het me overigens verbaast hoeveel mensen (en bedrijven) er blind in wensen te geloven.

[servies]

Uruk-Hai schreef op donderdag 9 juli 2026 @ 08:42:
Data van Star Trek heeft zich ook al eens opgeofferd om de rest van de crew te redden. Maar Data bleek snel en relatief makkelijk vervangbaar te zijn.

Euh, volgens mij heb je het niet helemaal goed gevolgd dan want Data was juist helemaal niet te vervangen. Hij was uniek net als ieder levend wezen. En dat was nu juist de boodschap achter zijn personage.