Ontwikkelingen omtrent Artificial Intelligence

[dawg]

@RayNbow zeer interessante video, bedankt voor de link.

[mphilipp]

RayNbow schreef op zaterdag 18 juli 2026 @ 22:06:
[...]
De taalmodellen van nu lijken intelligentie te hebben, maar dat hebben ze niet. Ze kunnen veel prompts "begrijpen" en daarbij doorgaans passende antwoorden genereren. Door de passende antwoorden kunnen ze best nuttig zijn.

Ik noem het dan ook 'Artificial Cleverness' ipv intelligentie.

[Stukfruit]

dawg schreef op zaterdag 18 juli 2026 @ 18:17:
[...]

Aha. Ik weet niet wie Sabine Hossenfelder is? Ik had ook nog nooit van Hinton gehoord, of dat de podcast die u linkt (ik heb er enkele van hem gezien) oplichterij is (waarom eigenlijk? En wat is er dan mis met Hinton?)

Zie haar Wikipedia-pagina en vooral de bijbehorende video's. En hier een hint van wat Steven Bartlett promoot. In het kort: desinformatie.

Wat betreft Hinton: roept dingen over "apex intelligence" en uitspraken zoals:

Hinton:
"We should recognize that this stuff is an existential threat. And we have to face the possibility that unless we do something soon, we're near the end."

En deze:

Hinton:
Some of the risks were always very obvious like people would use AI to make autonomous lethal weapons. That is, things that go around deciding by themselves who to kill. Other risks, like the idea that they would one day get smarter than us... and maybe we'd become irrelevant. I was slow to recognize that.

En deze (uit de eerste 10 minuten van de podcast, niet uit de geknipte highlights aan het begin):

Hinton:
First of all, I want to make a distinction between two completely different kinds of risk. There's risk that come from people misusing AI. And that's what most of the risks and all of the short-term risks. And then there's risks that come from AI getting super smart and suddenly it doesn't need us.

Bartlett:
"Is that a real risk?"

Hinton:
"And I mainly talk about that second risk because lots of people say, 'is that a real risk?'... And, yes it is. Now, we don't know how much of a risk it is. We've never been in that situation before. We've never had to deal with things smarter than us. So, really the thing about that existential threat is that we have no idea how to deal with it. We have no idea what it's going to look like. And anybody who tells you they know just what's going to happen and how to deal with it, they're talking nonsense.

Wat hij voornamelijk steeds doet is het gelijkstellen van menselijke hersenen aan de digitale variant die nu gebruikt wordt voor taalmodellen. Blijkt niet uit bovenstaande quote maar wel uit de eerste tien tot vijftien minuten van de podcast. Het is alsof hij zegt dat er automatisch een paard zou moeten kunnen ontstaan omdat je een hoefijzer hebt uitgevonden om sneller mee te lopen.

Je zou een serieuze discussie kunnen hebben over de gevolgen van het gebruik van huidige AI als automatiseringsvorm. Dat is mogelijk, de tech is er en de partijen die het willen misbruiken voor eigen gewin zijn er duidelijk ook. Dat is een cocktail waar je weinig moeite voor hoeft te doen.

Maar deze man neemt het een stap verder door te gaan fantaseren en daar vliegt hij uit de bocht. Zoals hij zelf zegt: niemand kan het weten. Maar wat we wel weten is wat er nu ligt qua techniek en kennis, waar hij een mechanische Turk van maakt door opzettelijk (zie quote hierboven) in te gaan op "wat als"-zaken. Dat is wat religie ook doet: "wat als"?

Het is wel interessant als je het hypothetisch houdt. Hij lijkt het alleen serieus te nemen.

Dat is niet de enige podcast die ik gezien heb, voor het punt (meer een vraag):

Is het realistisch dat AI agents binnen nu en vijf haar (relatief) grote delen van het cognitieve (waaronder autonoom besturen van voertuigen) (en/of creatieve) werk van ons over kunnen nemen, en is onze samenleving daar dan klaar voor?

Stel dat we door AI agents ~25-40% werkloosheid zouden krijgen. Daarvoor komen volgens mij niet (veel) nieuwe banen voor in de plaats want cognitief.

Als je weglaat dat het niet zal ontstaan door een zelfbewuste AI dan kun je de werkloosheidseffecten vast voor elkaar krijgen, maar neem je dan ook mee dat huidige AI qua begrip van wat er aan data doorheen gaat aan alle mogelijke kanten geholpen wordt met trucjes?

In de modellen zelf, via skills, via architectuurdocjes, via agents.md, via systemprompts, via heel veel hulpscripts die weinig met AI te maken hebben, via harnassen die op zichzelf ook weinig met AI te maken hebben, ETL-pipelines voor data die nog steeds gemaakt moeten worden om belangrijke data überhaupt als context mee te kunnen krijgen, via tekst/afbeelding/geluid/video (puur voor context, niet voor begrip), enz.

Eigenlijk alles wat nodig is om de transformatie (waar die T in GPT voor staat) van natural language -> naar bijpassende output te krijgen. Vergis je niet in het werk dat erachter schuilt.

De volgende meme geldt nog steeds:

[ Voor 3% gewijzigd door Stukfruit op 19-07-2026 01:14 ]