Ontwikkelingen omtrent Artificial Intelligence

[Cobb]

Ik heb het elders op dit forum al een aantal keren naar voren gebracht, ik zie een enorme bedreiging in AI voor betreft de grafische wereld. Ik vrees dat binnen 5 jaren er nagenoeg geen kunstenaar, schilder, tekenaar meer nodig is voor drukwerk, 2d en 3d.
Laat staan wat het zal doen met de creatieve geest voor de nu opkomende talenten of talenten in de dop.

Vandaag viel mijn oog op deze Midjourney plaatjes op de cover van een voetbal magazine. Ook in het magazine stonden plaatjes afgedrukt van voetballers als heilige (ze hebben zo'n onaartse gloed) midjourney figuren (in een klein hoekje stond 'ai' afgedrukt).
Waar anders een mooie foto van een goed en of middelmatige sport fotograaf was gebruikt zijn nu wat gratis midjourney plaatjes op papier gedrukt.

[Lordy79]

Cobb schreef op dinsdag 4 april 2023 @ 13:30:
Ik heb het elders op dit forum al een aantal keren naar voren gebracht, ik zie een enorme bedreiging in AI voor betreft de grafische wereld. Ik vrees dat binnen 5 jaren er nagenoeg geen kunstenaar, schilder, tekenaar meer nodig is voor drukwerk, 2d en 3d.

Stel je hebt gelijk, wat maakt dat anders dan de visionair die voorzag dat een paard en wagen vervangen zou worden door de net uitgevonden automobiel? (Nu worden paardenkarren door autos met mensen erin voortgetrokken haha)
Of andere technologische ontwikkelingen die bepaalde beroepsgroepen overbodig hebben gemaakt?

Schouders ophalen en een ander beroep kiezen, zou ik zeggen...

[Auredium]

Lordy79 schreef op dinsdag 4 april 2023 @ 13:48:
[...]

Stel je hebt gelijk, wat maakt dat anders dan de visionair die voorzag dat een paard en wagen vervangen zou worden door de net uitgevonden automobiel? (Nu worden paardenkarren door autos met mensen erin voortgetrokken haha)
Of andere technologische ontwikkelingen die bepaalde beroepsgroepen overbodig hebben gemaakt?

Schouders ophalen en een ander beroep kiezen, zou ik zeggen...

No offense maar heel veel paarden zijn werkeloos geworden en moesten een baan zoeken als renpaard of veredeld huisdier.
Ik hoor de 'paard' vergelijk ook heel vaak maar die vergelijk is fout of eigenlijk juist een indicator voor wat gaat gebeuren. Allemaal die kunstenaars moeten zich omscholen naar wat anders.

Maar als alles eenmaal door AI wordt gedaan en door AI ontworpen robots al het praktische werk doen dan kunnen wij onze economie overboord gooien. Niemand verdiend meer iets want bijna niemand heeft meer werk. Dus kan er niets worden verdiend aan verkopen dus gaat iedereen leven op basislonen. Duurt nog wel wat decennia maar de kans is redelijk aanwezig dat dit de toekomst is.

[Playa del C.]

Sandor_Clegane schreef op dinsdag 4 april 2023 @ 13:27:
[...]


*knip*

Had ik al gelezen. Dat artikel is onjuist op meerdere punten. Geschreven door iemand die te weinig van neurale netwerken weet.

Dit artikel is wetenschappelijk onderbouwd:

Superbeagle schreef op dinsdag 4 april 2023 @ 12:03:
[...]

Viel me ook al op. Nog niet zo lang geleden was iedereen viroloog, vervolgens oorlogstrateeg en nu AI-specialist.

Ik stel voor dat beweringen in dit topic onderbouwd worden middels citaten. Indien men dat niet kan, dan is het speculatie en vind ik dat het mag worden verwijderd.

Niet anders dan we verwachten van de huidige LLM’s.

Hierbij bijvoorbeeld een samenvatting van het onderzoek naar de huidige staat van intelligentie van GPT-4 waarin vermeld staat wat het model wel en niet kan. Het grootste risico op dit moment is manipulatie en dit kan door kwaadwillenden uitgebuit worden.

Een conclusie uit het onderzoek is dat ChatGPT beter kan programmeren dan de gemiddelde programmeur.

Dat betekent niet dat ChatGPT meteen goed is of intelligent(er). Als iemand echter stelt dat ChatGPT alleen maar informatie kopieert, dan ben ik het daar niet mee eens. Het kan die informatie zeer vakkundig ook toepassen in volkomen nieuwe context. Dat kan wikipedia niet, de telefoongids niet, standaard google-search niet. Ik stel alleen dat ChatGPT toch wel raakt aan iets wat 'inzicht'/'wijsheid' heeft.

Als we het daar niet over eens zijn, dan kan dat trouwens ook liggen aan hoe jij en ik denken over het menselijk brein. Ook dat neurale netwerk is uiteindelijk slechts een illusie vol met getrainde reflexen. Een lossy kopieermachine, zoals jouw artikel het beschrijft.

[Voor 1% gewijzigd door NMH op 04-04-2023 18:03]

[Lordy79]

Auredium schreef op dinsdag 4 april 2023 @ 13:52:
[...]


No offense

No offense taken

maar dit werd dus ook al geroepen bij de introductie van fabrieken, computers, auto's, supermarkten, internet en waarschijnlijk nog veel vaker.

De arbeidsproductiviteit van mensen gaat gewoon flink omhoog en dat is hard nodig.

[Sandor_Clegane]

Playa del C. schreef op dinsdag 4 april 2023 @ 15:03:
[...]

Had ik al gelezen. Dat artikel is onjuist op meerdere punten. Geschreven door iemand die te weinig van neurale netwerken weet.

? Volgens mij is het eerder andersom.......

[FunkyTrip]

CVTTPD2DQ schreef op dinsdag 4 april 2023 @ 13:24:
[...]


Als ik met ChatGPT praat, wil hij nog geen kruidentheetje samenstellen zonder de waarschuwing dat ik bij medische problemen beter een arts kan raadplegen..

En verder: waarom denk je dat ChatGPT inside informatie heeft over politieprocedures? Waarom denk je dat ChatGPT moordwapens kan ontwerpen, laat staan moordwapens die door poortjes heen kunnen?

Ik heb het niet over chatGPT nu, maar over chatGPT over een paar jaar, als hij bijv. gevoed is met hele archieven aan research papers en weet ik veel wat. De verzameling kennis waar de AI over beschikt groeit als kool natuurlijk.

[The.Terminator]

Lordy79 schreef op dinsdag 4 april 2023 @ 15:09:
[...]
De arbeidsproductiviteit van mensen gaat gewoon flink omhoog en dat is hard nodig.

Klein vraagje, waarom moet dat hoger ? Om nog meer rotzooi te produceren ?

[Stoney3K]

Lordy79 schreef op dinsdag 4 april 2023 @ 15:09:
[...]

De arbeidsproductiviteit van mensen gaat gewoon flink omhoog en dat is hard nodig.

Zodat de laaggeschoolde functies kunnen worden wegbezuinigd en de winstmarges van bedrijven nog verder omhoog kunnen?

Op een gegeven moment heb je dan veel meer mensen dan arbeidsplaatsen.

[Playa del C.]

Sandor_Clegane schreef op dinsdag 4 april 2023 @ 15:28:
[...]
? Volgens mij is het eerder andersom.......

Iemand anders dan maar laten spreken:

Deze expert en professor op het gebied van AI heeft een heel duidelijke recente video waarin hij ingaat op de meest gestelde vragen rond AI/ChatGPT. Ik ben het eens met al zijn punten.

Het is een goede basis voor discussie en basiskennis in het algemeen.
YouTube: A.I. Expert Answers A.I. Questions From Twitter | Tech Support | WIRED

[Sandor_Clegane]

Playa del C. schreef op dinsdag 4 april 2023 @ 16:09:
[...]

Iemand anders dan maar laten spreken:

Deze expert en professor op het gebied van AI heeft een heel duidelijke recente video waarin hij ingaat op de meest gestelde vragen rond AI/ChatGPT. Ik ben het eens met al zijn punten.

Het is een goede basis voor discussie en basiskennis in het algemeen.
YouTube: A.I. Expert Answers A.I. Questions From Twitter | Tech Support | WIRED

Jouw hele idee over "kennis", hoe dat werkt en dat ChatGPT dat tentoonstelt is compleet verzonnen.

Ik hoef die video niet te kijken, ik reageer op jouw verhaal.

[Lordy79]

@Stoney3K en @The.Terminator...
Jullie reacties leiden tot offtopic discussies dus ik ga daar nu verder niet op in.

[Playa del C.]

Sandor_Clegane schreef op dinsdag 4 april 2023 @ 16:45:
[...]


Jouw hele idee over "kennis", hoe dat werkt en dat ChatGPT dat tentoonstelt is compleet verzonnen.

Ik hoef die video niet te kijken, ik reageer op jouw verhaal.

Dus zodra ik een gerespecteerde ervaren expert erbij haal en stel dat ik die visie volledig deel... dan wil je die onderbouwing niet meenemen.

Over kennis: er is een nuance tussen kennis hebben en kennis toepassen. Bij de eerste hebben we het over data/informatie. Bij de tweede over inzicht/wijsheid. Ik reageerde alleen op iemand die het als feit bracht dat een LLM als ChatGPT puur en alleen data/informatie verwerkt. Dat klopt niet. Het is niet geprogrammeerd om iets 'slims' te doen, het heeft training gehad en daardoor geleerd om iets 'slims' te kunnen.
En vanaf hier is het een kwestie van definities, maar ik durf dan wel te stellen dat iets (mens of machine) wat zelf een vaardigheid heeft geleerd, raakt aan de definitie van 'inzicht hebben'.

Ik vind het in ieder geval een heel verschil met iets als wikipedia of google-search. Dat geeft bestaande data terug. Een goede AI verwerkt het tot iets nieuws.

[Superbeagle]

Stoney3K schreef op dinsdag 4 april 2023 @ 16:05:
[...]
Zodat de laaggeschoolde functies kunnen worden wegbezuinigd en de winstmarges van bedrijven nog verder omhoog kunnen?

Op een gegeven moment heb je dan veel meer mensen dan arbeidsplaatsen.

Ik ga er wel op in want het berust denk ik op een misvatting.

In het artikel waar ik hieronder eerder naar verwees blijkt dat mensen die, laat ik ze maar zo noemen, veel theoretisch werk doen, vaker zullen worden blootgesteld aan LLM’s.

Superbeagle in "Ontwikkelingen omtrent Artificial Intelligence"

‘Blootstelling’ is een neutraal begrip, maar ik neem aan, zeker op de korte termijn, dat deze mensen productiever zullen worden. Denk aan administratieve taken etc.

Jij noemt ze laaggeschoold, maar ik noem ze liever praktisch geschoold. Als de theoretische mensen productiever worden, dan verwacht ik dat ze bijvoorbeeld meer orders kunnen verwerken. In dit voorbeeld dat zullen de praktisch geschoolde mensen het juist drukker krijgen. Immers, ze worden niet direct blootgesteld aan LLM’s. Dus de LLM zal hun werk niet kunnen ‘afpakken’.

Verder heb ik ook voorbeelden gezien van de output van een code van een niet-coder vs een coder. Die laatste zal veel nauwkeuriger kunnen omschrijven wat voor output hij wenst, dus hij zal eerder productiever worden dan dat hij bang moet zijn dat een willekeurig iemand met LLM zijn werk zal overnemen.

[CVTTPD2DQ]

Even een andere invalshoek: in de informatica is veertig jaar voortgeborduurd op de grafische userinterface: windows, icons, menus en pointers, in allerlei variaties. De computer is bedienbaar gemaakt voor "gewone mensen" door elke taak uit te splitsen in kleine handelingen, die door feedback worden ondersteund.

ChatGPT gooit dit nu omver. Hoe je het ook wendt of keert, ChatGPT is uitstekend in staat om complexe, gedetailleerde opdrachten te begrijpen. Het kan ook goed omgaan met ambiguiteit. Er is eindelijk een besturingsmechanisme dat mensen niet infantiliseert.

Hoe zien UXers/Frontenders hun werk over vijf of tien jaar?

[Fornoo]

CVTTPD2DQ schreef op dinsdag 4 april 2023 @ 09:19:
[...]


Begrijp me niet verkeerd, ChatGPT kan juist uitstekend generaliseren. Het begrijpt zelfs concepten, althans in puur verbale zin. De fout die we maken is dat we van begrip meteen springen naar bewustzijn, en allerlei menselijke eigenschappen toeschrijven aan een database met gewichten.

Dingen als zelfbehoud, motivatie, angst, ambtiie, interesse of zelfs tijdsbesef zijn allemaal concepten die ChatGPT wel kan beschrijven en uitleggen, maar niet ervaart.

Helemaal mee eens met het laatste, oneens dat chatGPT uitstekend kan generaliseren. Het kan van alles, maar het gaat bijvoorbeeld fout met een potje schaken, omdat het op den duur een ongeldige zet doet. Wat mijns inziens een teken is dat het programma niet echt begrijpt wat het doet, maar louter kijkt wat het volgende stapje is dat van hem wordt verwacht.

Ik luisterde gisteren naar een podcast tussen Sam Harris en Stuart Russell. Die laatste vertelde hoe ze onlangs van de slimste GO-bot (KataGo) konden winnen door een hack. Wat bleek is dat dit systeem niet overweg kan met een bepaalde opstelling van de stenen en faliekant de mist in ging. Iets wat een gemiddelde speler direct zou doorzien. Waaruit volgens Russell blijkt dat een deep learning algoritme geen AGI kan ontwikkelen, ook al zou je het een oneindige hoeveel input geven. Het weet eenvoudig niet te generaliseren. Het weet alleen de best volgende zet, of in het geval van chatGPT welk woord het meest geschikt is na het vorige woord. Deze systemen begrijpen nog geen concepten, dat er daadwerkelijk een wereld bestaat, met personen en objecten en wat hun werkelijke onderlinge relatie is.

Als je het wilt luisteren, check:

YouTube: The Trouble with AI: A Conversation with Stuart Russell and Gary Mar...

Dat gezegd hebbende toont het ook aan hoe weinig we eigenlijk weten wat er intern in die systemen gebeurt, ook al is dat nu nog vrij onschuldig (nep-nieuws uitgezonderd). Via dit soort enorm slimme mensen als Russell kan ik ongeveer begrijpen wat de huidige stand is en dat deep learning ons nog niet naar AGI gaat brengen.

Dat stelt mij niet gerust omdat de ontwikkelingen rond AI alleen maar lijken te versnellen, terwijl het onderzoek naar alignment, ver achterloopt...

[Sandor_Clegane]

Playa del C. schreef op dinsdag 4 april 2023 @ 17:07:
[...]

Dus zodra ik een gerespecteerde ervaren expert erbij haal en stel dat ik die visie volledig deel... dan wil je die onderbouwing niet meenemen.

Over kennis: er is een nuance tussen kennis hebben en kennis toepassen. Bij de eerste hebben we het over data/informatie. Bij de tweede over inzicht/wijsheid. Ik reageerde alleen op iemand die het als feit bracht dat een LLM als ChatGPT puur en alleen data/informatie verwerkt. Dat klopt niet. Het is niet geprogrammeerd om iets 'slims' te doen, het heeft training gehad en daardoor geleerd om iets 'slims' te kunnen.
En vanaf hier is het een kwestie van definities, maar ik durf dan wel te stellen dat iets (mens of machine) wat zelf een vaardigheid heeft geleerd, raakt aan de definitie van 'inzicht hebben'.

Jij stelt dat ChatGPT "kennis" tentoonstelt door bepaalde dingen op te lepelen "die het niet geleerd heeft". Dat is gewoon niet waar.

Het verwerkt gewoon data, sla je het plat dan is het gewoon "auto-complete on steroids". Meer is het niet.

Het krijgt input en vanuit een een statistisch model (met nog wat foefjes) geeft het terug wat "de meest voorkomende output is, dat volgt op deze input". "Geleerd" aan de hand van een enorme dataset, ook nog eens door een paar duizend mensen verfijnd/uitgezocht. Dan komen er nog de enorme hoeveelheid arbeiders die deze systemen moeten tweaken zodat ze niet de zoveelste " rascism bot" zijn.

Link: https://time.com/6247678/openai-chatgpt-kenya-workers/

Het is geen kwestie van definities. Deze systemen lijken "slim" als je de definities zover reduceert dat het met een scheef oog hetzelfde lijkt, maar eigenlijk niets meer zegt.

Wat de beste man verder allemaal verteld kan allemaal, maar dat is niet hoe jij het bracht. Dat is waar ik op reageerde, niet op de beste man zijn verhaal.

Ik vind het in ieder geval een heel verschil met iets als wikipedia of google-search. Dat geeft bestaande data terug. Een goede AI verwerkt het tot iets nieuws.

Zoals in het artikel: een search engine geeft je quotes, ChatGPT parafraseert. Wat heb je liever? Krijg je de hallucinaties er gratis bij.
De rest is allemaal poeha en als je het mij vraagt een enorme hype om deze systemen te normaliseren, want het is natuurlijk een enorm lucratieve markt.

[Voor 3% gewijzigd door Sandor_Clegane op 04-04-2023 18:52]

[Playa del C.]

Sandor_Clegane schreef op dinsdag 4 april 2023 @ 18:47:
[...]


Jij stelt dat ChatGPT "kennis" tentoonstelt door bepaalde dingen op te lepelen "die het niet geleerd heeft". Dat is gewoon niet waar.

Het verwerkt gewoon data, sla je het plat dan is het gewoon "auto-complete on steroids". Meer is het niet.

Het krijgt input en vanuit een een statistisch model (met nog wat foefjes) geeft het terug wat "de meest voorkomende output is, dat volgt op deze input". "Geleerd" aan de hand van een enorme dataset, ook nog eens door een paar duizend mensen verfijnd/uitgezocht. Dan komen er nog de enorme hoeveelheid arbeiders die deze systemen moeten tweaken zodat ze niet de zoveelste " rascism bot" zijn.

Link: https://time.com/6247678/openai-chatgpt-kenya-workers/

Het is geen kwestie van definities. Deze systemen lijken "slim" als je de definities zover reduceert dat het met een scheef oog hetzelfde lijkt, maar eigenlijk niets meer zegt.

Wat de beste man verder allemaal verteld kan allemaal, maar dat is niet hoe jij het bracht. Dat is waar ik op reageerde, niet op de beste man zijn verhaal.

[...]


Zoals in het artikel: een search engine geeft je quotes, ChatGPT parafraseert. Wat heb je liever? Krijg je de hallucinaties er gratis bij.
De rest is allemaal poeha en als je het mij vraagt een enorme hype om deze systemen te normaliseren, want het is natuurlijk een enorm lucratieve markt.

Je beschrijft steeds alleen dat de AI geen inzicht heeft, omdat het een dom stuk technologie is. Dat laatste klopt ergens, maar dat eerste niet. Wat maakt het immers uit hoe een blackbox werkt. In de blackbox kun je een mensenbrein of ChatGPT4 plaatsen. Je geeft het input: "programmeer dit". De uitkomst van de AI is beter dan die van de gemiddelde professional. Dus... de AI toont aan dat het inzicht heeft. Het maakt niet uit wat de intelligentie daarachter is of hoe het precies is aangeleerd. Wat jij (denk ik) bedoelt, is dat ChatGPT nog steeds geen eigen IQ heeft. Uiteraard, het ding kan op zichzelf niks. Ik dicht de technologie verder geen magische zaken toe. Enige wat ik stelde is dat het raakt aan inzicht, omdat het wel inzicht toont (ook al is het beperkt). Het is verder de enige tech die inzicht kan vertonen.

Als je steeds valt over het woord 'inzicht', prima. Ik vind een degelijke AI gewoon niet vergelijkbaar met iets wat volledig geprogrammeerd is. Het trainbare onderdeel, het neurale netwerk, is niet door mensen 'gemaakt'. Het is getraind en onbekend terrein voor mensen. Er is niet echt een woord voor, maar het probeert een organisch brein te benaderen.

In een spel kan een auto zelfstandig rijden. Een AI in een zelfrijdende auto ook. Toch is er verschil.
De eerste is volledig geprogrammeerd en doet alleen wat een mens vertelde om te gaan doen. De tweede analyseert zelf een onbekende situatie en maakt zelf een besluit.
Bij de eerste staat exact vast wat er gaat gebeuren, bij de tweede is het voor de makers van de AI vooraf niet bekend wat er gaat gebeuren.

Het is allemaal nieuw, het is lastig om de juiste woorden te kiezen. Moderne AI afschilderen als een soort algoritme is te kort door de bocht. En andersom ook, er is geen volledige zelfstandigheid, ook geen volledig inzicht. Het zit daar ergens tussen.

[Playa del C.]

Fornoo schreef op dinsdag 4 april 2023 @ 18:40:
[...]


Helemaal mee eens met het laatste, oneens dat chatGPT uitstekend kan generaliseren. Het kan van alles, maar het gaat bijvoorbeeld fout met een potje schaken, omdat het op den duur een ongeldige zet doet. Wat mijns inziens een teken is dat het programma niet echt begrijpt wat het doet, maar louter kijkt wat het volgende stapje is dat van hem wordt verwacht.

Ik luisterde gisteren naar een podcast tussen Sam Harris en Stuart Russell. Die laatste vertelde hoe ze onlangs van de slimste GO-bot (KataGo) konden winnen door een hack. Wat bleek is dat dit systeem niet overweg kan met een bepaalde opstelling van de stenen en faliekant de mist in ging. Iets wat een gemiddelde speler direct zou doorzien. Waaruit volgens Russell blijkt dat een deep learning algoritme geen AGI kan ontwikkelen, ook al zou je het een oneindige hoeveel input geven. Het weet eenvoudig niet te generaliseren. Het weet alleen de best volgende zet, of in het geval van chatGPT welk woord het meest geschikt is na het vorige woord. Deze systemen begrijpen nog geen concepten, dat er daadwerkelijk een wereld bestaat, met personen en objecten en wat hun werkelijke onderlinge relatie is.

Als je het wilt luisteren, check:

YouTube: The Trouble with AI: A Conversation with Stuart Russell and Gary Mar...

Dat gezegd hebbende toont het ook aan hoe weinig we eigenlijk weten wat er intern in die systemen gebeurt, ook al is dat nu nog vrij onschuldig (nep-nieuws uitgezonderd). Via dit soort enorm slimme mensen als Russell kan ik ongeveer begrijpen wat de huidige stand is en dat deep learning ons nog niet naar AGI gaat brengen.

Dat stelt mij niet gerust omdat de ontwikkelingen rond AI alleen maar lijken te versnellen, terwijl het onderzoek naar alignment, ver achterloopt...

Klopt. Is ergens ook menselijk om een soort blinde vlek te hebben en eens helemaal de mist in te gaan.

Wat ook mogelijk is, is dat AI als tool gaat helpen om samen met mensen steeds stappen te maken, totdat er uiteindelijk een General Super AI ontstaat.

ChatGPT is heel sterk in communicatie en programmeren. Precies wat nodig is om samen met mensen stappen te maken in verder onderzoek naar AI.
Sterke communicatie kan ook leiden tot een AI die een interne dialoog kan voeren. Een actief denkende AI. Toekomstmuziek neem ik aan. (Ik weet niet wat Larry Page verder ergens heeft staan).

[Deruxian]

CHKYBSTRD schreef op maandag 3 april 2023 @ 08:50:
[...]


Ik ben hier ook wel benieuwd naar

Heb jij al antwoord ?

[Yucon]

Cobb schreef op dinsdag 4 april 2023 @ 13:30:
Ik heb het elders op dit forum al een aantal keren naar voren gebracht, ik zie een enorme bedreiging in AI voor betreft de grafische wereld. Ik vrees dat binnen 5 jaren er nagenoeg geen kunstenaar, schilder, tekenaar meer nodig is voor drukwerk, 2d en 3d.
Laat staan wat het zal doen met de creatieve geest voor de nu opkomende talenten of talenten in de dop.

Vandaag viel mijn oog op deze Midjourney plaatjes op de cover van een voetbal magazine. Ook in het magazine stonden plaatjes afgedrukt van voetballers als heilige (ze hebben zo'n onaartse gloed) midjourney figuren (in een klein hoekje stond 'ai' afgedrukt).
Waar anders een mooie foto van een goed en of middelmatige sport fotograaf was gebruikt zijn nu wat gratis midjourney plaatjes op papier gedrukt.

[Afbeelding]

De reden waarom specifiek die beroepsgroep compleet screwed is, is dat we als samenleving in dit opzicht de lat gewoon enorm laag hebben liggen wat betreft kwaliteit. Voor de meeste dingen is een grafisch ontwerp dat een designer met twee vingers in z'n neus tevoorschijn tovert al lang genoeg. Dat betekent ook dat als AI iets redelijks weet te produceren het voor veel toepassingen ook al geweldig is en de vraag of een mens iets nog veel mooiers zou kunnen maken eigenlijk niet eens meer relevant is.

Idem voor klantenservice bots. Eigenlijk boeit het niemand _{de winkeleigenaren tenminste, ik had het niet over de klanten} niet wat de kwaliteit ervan is. Zolang het maar niet zodanig slecht is dat je er problemen mee krijgt is het allemaal wel prima.

[TheBrut3]

Een item van 1 Vandaag over, in mijn ogen, een flinke schaduwzijde van de AI ontwikkeling. Er wordt een hele grote groep mensen kei hard uitgemolken om de AI te trainen.

https://eenvandaag.avrotr...e-heeft-een-schaduwzijde/

Om maar een stukje te quoten;

Financieel afhankelijk
Voor de Duitse Michaela is dat wel zo, zij heeft geen andere baan naast het trainen van kunstmatige intelligentie. Het gemiddelde bedrag dat ze ontvangt voor een dag werken komt voor haar neer op 10 euro. Ook zij heeft meegemaakt dat haar werk werd afgekeurd.

"Je kunt dat nergens aanvechten. Je staat machteloos, terwijl je wel die uren hebt gewerkt", vertelt ze. Maar voor haar zijn er ook positieve kanten aan het werk. Het is flexibel en kan vanuit huis. Ook kun je zelf aangeven wat voor taak je wil doen.

Best triest dat dit dan weer nodig is, betaal die mensen gewoon fatsoenlijk. Zit je een hele dag achter de pc voor €10, als je de stroomkosten er af haalt blijft er al nauwelijks wat over.

[D-Ed]

TheBrut3 schreef op dinsdag 4 april 2023 @ 23:12:
Een item van 1 Vandaag over, in mijn ogen, een flinke schaduwzijde van de AI ontwikkeling. Er wordt een hele grote groep mensen kei hard uitgemolken om de AI te trainen.

https://eenvandaag.avrotr...e-heeft-een-schaduwzijde/

Om maar een stukje te quoten;

[...]


Best triest dat dit dan weer nodig is, betaal die mensen gewoon fatsoenlijk. Zit je een hele dag achter de pc voor €10, als je de stroomkosten er af haalt blijft er al nauwelijks wat over.

Het is nooit makkelijker geweest om aan een baan te komen dan in deze tijd.. Beter laten ze de AI een sollicitatiebrief voor ze schrijven en vinden ze een baan die wél betaald en waarbij ze vanuit huis mogen werken..

[handige_harrie]

CVTTPD2DQ schreef op dinsdag 4 april 2023 @ 18:09:
Hoe zien UXers/Frontenders hun werk over vijf of tien jaar?

Als UX'er vraag ik me dit inderdaad af .

Vooralsnog is het een waardevolle tool, die kan helpen met b.v. flowcharts te maken, en de stap naar veel meer automatisering in UI design zelf ligt ook geen 5j in de toekomst. Ook ben ik benieuwd hoeveel UI inderdaad vervangen zal worden door een Chat interface (typen danwel spraakgedreven). "Where we're going, we won't need buttons".

[BadRespawn]

Playa del C. schreef op dinsdag 4 april 2023 @ 10:46:
[...]

Is dit een feit? Ik denk dat GPT4 toch wel kennis heeft. Hij kan zelf programmeren bijvoorbeeld. En er komen steeds meer 'vaardigheden' bij.

Het is geen mysterie wat GPT is of niet is, het wordt niet voor niets een "Large Language Model" genoemd ipv "Knowledge Model".

"a member of the generative pre-trained transformer (GPT) family of language models." (wiki)

Het kan taalkundig correcte en logisch samenhangende verhalen produceren, vandaar dat het ook nuttig kan zijn bij programmeerwerk. Maar het heeft geen benul van waarheid. En ofschoon een onlogisch verhaal veel kans heeft niet waar te zijn, hoeft een logisch verhaal helemaal niet waar te zijn.
ChatGPT weet niet wat liegen is, ook al kan het je wel vertellen wat liegen is - maar een woordenboek weet ook niet de betekenis van de woorden die er in staan.

[Playa del C.]

BadRespawn schreef op woensdag 5 april 2023 @ 00:43:
[...]


Het is geen mysterie wat GPT is of niet is, het wordt niet voor niets een "Large Language Model" genoemd ipv "Knowledge Model".

"a member of the generative pre-trained transformer (GPT) family of language models." (wiki)

Het kan taalkundig correcte en logisch samenhangende verhalen produceren, vandaar dat het ook nuttig kan zijn bij programmeerwerk. Maar het heeft geen benul van waarheid. En ofschoon een onlogisch verhaal veel kans heeft niet waar te zijn, hoeft een logisch verhaal helemaal niet waar te zijn.
ChatGPT weet niet wat liegen is, ook al kan het je wel vertellen wat liegen is - maar een woordenboek weet ook niet de betekenis van de woorden die er in staan.

Dat is precies wat ik zeg. Alleen de nuance is dat het niet uit moet maken hoe een AI iets doet. ChatGPT is niet zelfbewust en het gokt de boel bij elkaar. Alsnog kun je het wel 'slim' noemen als het beter presteert dan de gemiddelde menselijke prestatie.

Snap nooit helemaal waarom mensen bij dit onderwerp niet de credit willen geven. Voelt als een ontkenningsfase: ChatGPT is qua prestaties toch ontzettend indrukwekkend? Snap niet dat sommigen dan hameren op dat het een domme LLM is.

Mensapen hebben een veel beter korte termijn geheugen dan mensen volgens onderzoek. Mensen zijn gemidddeld slimmer dan apen, maar op dat ene punt zijn apen gewoon slimmer. Daar geef je de aap dan credit voor, je hoeft niet steeds te benadrukken dat de apen verder toch minder slim zijn.
(Vervang apen door AI's en korte termijn geheugen door programmeervaardigheid).

[Mog]

CVTTPD2DQ schreef op dinsdag 4 april 2023 @ 18:09:
Even een andere invalshoek: in de informatica is veertig jaar voortgeborduurd op de grafische userinterface: windows, icons, menus en pointers, in allerlei variaties. De computer is bedienbaar gemaakt voor "gewone mensen" door elke taak uit te splitsen in kleine handelingen, die door feedback worden ondersteund.

ChatGPT gooit dit nu omver. Hoe je het ook wendt of keert, ChatGPT is uitstekend in staat om complexe, gedetailleerde opdrachten te begrijpen. Het kan ook goed omgaan met ambiguiteit. Er is eindelijk een besturingsmechanisme dat mensen niet infantiliseert.

Hoe zien UXers/Frontenders hun werk over vijf of tien jaar?

Dit vakgebied gaat volledig op zijn kop. AI die data en gebruikers feedback analyseert. AI die oplossingen bedenkt, A/B tests maakt en code schrijft. AI die Q&A doet en live gaat. En dit wordt een loop waar een PO alleen nog maar nee hoeft te zeggen. Nee zeggen wordt de grootste activiteit van de toekomstige PO. En waarom slechts elke twee weken een loop? Waarom releasen we niet meerdere keren per uur, of nog sneller? Waarom is Bol.com (voorbeeld) qua interface nog voor iedereen hetzelfde? Mijn buurvrouw wilt grotere letters en veel beelden terwijl mijn zoon van korte, beknopte lijstjes houdt.

[CVTTPD2DQ]

Playa del C. schreef op woensdag 5 april 2023 @ 07:17:
Snap nooit helemaal waarom mensen bij dit onderwerp niet de credit willen geven. Voelt als een ontkenningsfase: ChatGPT is qua prestaties toch ontzettend indrukwekkend? Snap niet dat sommigen dan hameren op dat het een domme LLM is.

Het is een prestatie, maar je ziet dat mensen aan ChatGPT allerlei eigenschappen toeschrijven die het niet heeft. Zo zou het beter kunnen programmeren dan mensen (terwijl je vaak al blij mag zijn als de code die het uitspuugt compileert), en feilloos in staat zijn om een mens te imiteren (terwijl je regelmatig in een lus komt waarin chatgpt je steeds hetzelfde antwoord geeft).

En vandaar ook de stap maken naar superintelligentie, alsof het een kwestie is van even een snellere GPU inprikken.

En verder is ChatGPT natuurlijk keihard geconditioneerd om te praten alsof het een encyclopedie opleest. Je zou hem ook kunnen conditioneren om schuine moppen te tappen, maar dat past niet in het Amerikaanse politieke klimaat.

[champion16]

Mog schreef op woensdag 5 april 2023 @ 07:39:
[...]


Dit vakgebied gaat volledig op zijn kop. AI die data en gebruikers feedback analyseert. AI die oplossingen bedenkt, A/B tests maakt en code schrijft. AI die Q&A doet en live gaat. En dit wordt een loop waar een PO alleen nog maar nee hoeft te zeggen. Nee zeggen wordt de grootste activiteit van de toekomstige PO. En waarom slechts elke twee weken een loop? Waarom releasen we niet meerdere keren per uur, of nog sneller? Waarom is Bol.com (voorbeeld) qua interface nog voor iedereen hetzelfde? Mijn buurvrouw wilt grotere letters en veel beelden terwijl mijn zoon van korte, beknopte lijstjes houdt.

Dit kan je natuurlijk makkelijk doortrekken natuurlijk. De PO kan je ook makkelijk vervangen, zoals je zei als die alleen ja of nee zegt. Vervolgens architecten. Buiten IT de meeste kantoorbanen die weg kunnen als je eenmaal ongelimiteerde resources hebt met AI...

Naast the obvious dat mocht het eenmaal starten er heel veel mensen wat anders moeten zoeken.
Denk ik ook dat de bedrijven van deze AI's natuurlijk gewoon de prijs ongelimiteerd kunnen opvoeren. Want wat ga je als bedrijf doen als je 90% van je personeel hebt vervangen door hun solution.

[Superbeagle]

champion16 schreef op woensdag 5 april 2023 @ 10:00:
[...]


Dit kan je natuurlijk makkelijk doortrekken natuurlijk. De PO kan je ook makkelijk vervangen, zoals je zei als die alleen ja of nee zegt. Vervolgens architecten. Buiten IT de meeste kantoorbanen die weg kunnen als je eenmaal ongelimiteerde resources hebt met AI...

Naast the obvious dat mocht het eenmaal starten er heel veel mensen wat anders moeten zoeken.
Denk ik ook dat de bedrijven van deze AI's natuurlijk gewoon de prijs ongelimiteerd kunnen opvoeren. Want wat ga je als bedrijf doen als je 90% van je personeel hebt vervangen door hun solution.

Sorry, niks persoonlijks, maar ik vind dat je hier doordraaft. Heb je een onderbouwing(onderzoek, citaat, link, etc) waarom je denkt dat ‘AI banen gaat inpikken’?

Zo niet, dan ben je een complottheorie aan het formuleren.

[BadRespawn]

Playa del C. schreef op woensdag 5 april 2023 @ 07:17:
[...]

Dat is precies wat ik zeg. Alleen de nuance is dat het niet uit moet maken hoe een AI iets doet.

Het maakt wel uit wat het feitelijk doet.

"the core function of a chatbot is to mimic a human conversationalist"
Wikipedia: ChatGPT

Menselijk conversatie nabootsen is heel wat anders dan menselijke eigenschappen hebben, zoals het hebben van kennis.

Dit is wat ChatGPT er zelf over zegt:

"While I strive to provide accurate and helpful responses to user queries, my responses are not guaranteed to be accurate. This is because the data and information that I have been trained on may not be completely comprehensive or up-to-date, and there may be nuances or complexities to a particular topic that my model is not equipped to handle. Additionally, my responses are generated using complex algorithms and machine learning models, which may not always produce accurate or relevant results.

Furthermore, my responses may not always be accurate because the interpretation of language is complex and often subjective. Different people may interpret the same language in different ways, and there may be different ways to approach a particular problem or question. As an AI language model, I strive to provide responses that are as accurate as possible based on the data and information that I have been trained on. However, I may not always fully understand the context or intent behind a particular query, and my responses may not always fully address the user's underlying question or concern."
https://www.zdnet.com/art...ther-20-it-refuses-to-do/

Het heeft ook ingebouwde veiligheidsmaatregelen tegen zaken zoals harass, threaten or intimidate...profanity or explicit language...sexually explicit or offensive (zie het hierboven gelinkte artikel).

Dat lijkt dan veilig, maar intussen zuigt het net zo makkelijk van alles en nog wat uit de duim wat (in meer of mindere mate) kwalijk kan zijn, vanaf schaken dmv pionnen uit het niets tevoorschijn toveren en z'n eigen stukken slaan, t/m beschuldigingen van seksuele mishandeling.
Net zoals het geen schaakcomputer is maar zonder blikken of blozen wel doet alsof, zo doet het ook doen alsof het menselijk is zonder menselijke eigenschappen te hebben. Bij veel toepassingen zal het vrijwel zeker grove fouten maken, en bij toepassing in menselijke communicatie is niet altijd direct duidelijk of het wel of niet fout is.

ChatGPT falsely accused me of sexually harassing my students. Can we really trust AI?
https://eu.usatoday.com/s...s-ai-chatbot/11571830002/

Het gevaar schuilt erin dat omdat het menselijk lijkt te zijn, datgene wat het zegt wordt aangenomen als zijnde waar en relevant, maar in werkelijkheid onjuist en mogelijk schadelijk is.

Om betrouwbaar te zijn gaat het niet om al die keren dat het wel correct is, maar om al die keren dat het niet correct is maar er wel op wordt vertrouwd - en er wordt op vertrouwd omdat het zo'n brede kennis lijkt te hebben.

Snap nooit helemaal waarom mensen bij dit onderwerp niet de credit willen geven.

ChatGPT is zonder twijfel een indrukwekkend staaltje van techniek (daar - zoveel credit verdient het), maar er is een trend om er meer intelligentie aan toe te schrijven dan het heeft en er te veel vertrouwen in te
hebben.

Dat te grote vertrouwen neemt de vorm aan van GPT gebruiken als tussenschakel bij menselijke communicatie, bvb het laten schrijven van artikelen en essays, of scam emails, of desinformatie.
Of het adhv prompts je emails voor je laten schijven, die aan de kant vd ontvanger weer door GPT worden samengevat... Dat zijn dan twee vertaalslagen waarbij GPT het fout kan hebben en dus belangrijke informatie verloren kan gaan en/of onjuiste informatie wordt gepresenteerd, met reële kans dat we daar pas achter komen als het te laat is.

[heuveltje]

Superbeagle schreef op woensdag 5 april 2023 @ 11:18:
[...]

Sorry, niks persoonlijks, maar ik vind dat je hier doordraaft. Heb je een onderbouwing(onderzoek, citaat, link, etc) waarom je denkt dat ‘AI banen gaat inpikken’?

Zo niet, dan ben je een complottheorie aan het formuleren.

Waarom zou je dat niet denken ?
Hoeveel en welke en hoe snel is een discussie punt, maar dat het gaat gebeuren is onvermijdelijk.
Op dezelfde manier waarop rekenmachines "menselijke calculators" weggebezuinigd heeft, kopieer apparaten typistes overbodig hebben gemaakt. En 1 man met een heftruck het werk van 10 dokwerkers doet
En met autocad en flowsimulators kun je nu in een paar minuten ontwerpen controleren die voorheen een klein leger aan enigineers een maand bezig hielden.

ik zit in een call center achtige omgeving. Als je ziet wat ze daar nu al in het doen zijn met chat gpt achtige constructies en spraak herkenning, dan denk ik dat dat over een jaar echt al een behoorlijke impact gaat heben. En dan hebben wij nog het geluk/pech dat we nederlands spreken en geen engels, want dan ging het nog veel harder.

Of een huidig voorbeeld, ik zit nu in de laatste stap van een "proces robotje" wat handgeschreven formulieren inscant, controleert, omzet in text velden, en dan via "AI beeld herkenning" in 2 programma's "intyped" en doorgeeft aan leveranciers die beide geen import functie hebben. De verwachting is dat we daar op korte termijn 10FTE mee overbodig maken.

BadRespawn schreef op woensdag 5 april 2023 @ 11:39:
[...]


Het maakt wel uit wat het feitelijk doet.

"the core function of a chatbot is to mimic a human conversationalist"
Wikipedia: ChatGPT

Menselijk conversatie nabootsen is heel wat anders dan menselijke eigenschappen hebben, zoals het hebben van kennis.
|

Is dit niet ongeveer de discussie van een turing test. Als ik niet kan merken of ik met een mens praat, of met "iets" wat een mens nadoet. maakt het dan nog uit dat het "niet echt" is ?

En met betrekking tot "zelfverzekerd verkeerde antwoorden geven"als je denkt dat mensen niet heel overtuigend je dingen vertellen die niet kloppen dan heb ik slecht nieuws voor je

[Voor 21% gewijzigd door heuveltje op 05-04-2023 15:44]

[Stoney3K]

Superbeagle schreef op woensdag 5 april 2023 @ 11:18:
[...]

Sorry, niks persoonlijks, maar ik vind dat je hier doordraaft. Heb je een onderbouwing(onderzoek, citaat, link, etc) waarom je denkt dat ‘AI banen gaat inpikken’?

Zo niet, dan ben je een complottheorie aan het formuleren.

Ik denk niet dat AI banen gaat "inpikken" maar wel voor een grootschalige herverdeling op de arbeidsmarkt gaat zorgen. Denk aan banen zoals callcenter-medewerkers die straks eigenlijk niet meer nodig zijn omdat je zonder problemen een telefoongesprek kan voeren met een computer zoals je dat nu met een mens doet. Of data-entry medewerkers, die straks ook niet meer nodig zijn omdat een AI beter is in het herkennen van een handschrift, zelfs als het door een arts is geschreven.

De grootste drijfveer achter automatisering is altijd het minimaliseren van loonkosten geweest. Een computer doet het werk altijd goedkoper dan een mens dat zou kunnen.

[Voor 9% gewijzigd door Stoney3K op 05-04-2023 11:50]

[BadRespawn]

heuveltje schreef op woensdag 5 april 2023 @ 11:45:

Is dit niet ongeveer de discussie van een turing test. Als ik niet kan merken of ik met een mens praat, of met "iets" wat een mens nadoet. maakt het dan nog uit dat het "niet echt" is ?

En met betrekking tot "zelfverzekerd verkeerde antwoorden geven"als je denkt dat mensen niet heel overtuigend je dingen vertellen die niet kloppen dan heb ik slecht nieuws voor je

Probleem is dat AI in eerste instantie kan lijken 'echt' te zijn, en pas in tweede instantie (al dan niet te laat) nep blijkt te zijn. En veel mensen denken dat AI objectief en onfeilbaar is 'omdat het een machine is'.

[Superbeagle]

heuveltje schreef op woensdag 5 april 2023 @ 11:45:
[...]
Waarom zou je dat niet denken ?
Hoeveel en welke is een discussie punt, maar dat het gaat gebeuren is onvermijdelijk.
Op dezelfde manier waarop rekenmachines "menselijke calculators" weggebezuinigd heeft, kopieer apparaten typistes overbodig hebben gemaakt. En 1 man met een heftruck het werk van 10 dokwerkers doet

Waarom ik een bewering als “90% van de banen er niet meer zullen zijn door AI”? Omdat het een feit is dat het UWV niet uitpuilt van de werkeloze menselijke calculators, typistes en dokwerkers.

Waarom zou het nu ineens anders zijn?

[The.Terminator]

Superbeagle schreef op woensdag 5 april 2023 @ 12:06:
[...]

Waarom ik een bewering als “90% van de banen er niet meer zullen zijn door AI”? Omdat het een feit is dat het UWV niet uitpuilt van de werkeloze menselijke calculators, typistes en dokwerkers.

Waarom zou het nu ineens anders zijn?

En over langer termijn ? Steeds meer type banen die verdwijnen. Ook het feit dat we eigenlijk minder moeten consumeren (oftewel consuminderen). Wat doen we met de banen die verdwijnen ? Verplaatsen we die mensen naar andere banen en welke. Kan me voorstellen dat een 50 jarige callcenter medewerker niet een ict'er of timmerman word of nog ergen weer een of ander bullshit baantje ? Waarom zou dat niet veranderen ?

[heuveltje]

Superbeagle schreef op woensdag 5 april 2023 @ 12:06:
[...]

Waarom ik een bewering als “90% van de banen er niet meer zullen zijn door AI”? Omdat het een feit is dat het UWV niet uitpuilt van de werkeloze menselijke calculators, typistes en dokwerkers.

Waarom zou het nu ineens anders zijn?

je bent geen werkeloze calculator, je bent een werkeloos mens dat ondermeer die functies kon vervullen.
En UWV zit vol met werkeloze mensen

En dat het niet uitpuilt is
A -Discutabel, er is een werkeloosheid van 3.6% in nederland. en dan tel je alle "stille werkelozen"niet eens mee.
B - omdat er (tot nu toe) vanzelf weer andere functies ontstaan. Maar de eisen voor die functies worden wel steeds hoger.

Ik kan je verzekeren dat ons nu nog uit 4 personen bestaand "bedrijfs administratie" voorzien van excel ,specifieke programma, en email. Het werk doet van wat 40 jaar geleden nog door minimaal 20-30 man gedaan zou worden, en hoe verder je terug gaat hoe meer dat zou worden.

Ik weet zeker over een paar jaar dat automatisering via "AI" er nog wat afgesnoept zullen hebben, en ik hoop dat er ook weer nieuwe dingen voor terugkomen.

[Voor 5% gewijzigd door heuveltje op 05-04-2023 12:17]

[Auredium]

heuveltje schreef op woensdag 5 april 2023 @ 12:16:
[...]


je bent geen werkeloze calculator, je bent een werkeloos mens dat ondermeer die functies kon vervullen.
En UWV zit vol met werkeloze mensen

En dat het niet uitpuilt is
A -Discutabel, er is een werkeloosheid van 3.6% in nederland. en dan tel je alle "stille werkelozen"niet eens mee.
B - omdat er (tot nu toe) vanzelf weer andere functies ontstaan. Maar de eisen voor die functies worden wel steeds hoger.

Ik kan je verzekeren dat ons nu nog uit 4 personen bestaand "bedrijfs administratie" voorzien van excel ,specifieke programma, en email. Het werk doet van wat 40 jaar geleden nog door minimaal 20-30 man gedaan zou worden, en hoe verder je terug gaat hoe meer dat zou worden.

Ik weet zeker over een paar jaar dat automatisering via "AI" er nog wat afgesnoept zullen hebben, en ik hoop dat er ook weer nieuwe dingen voor terugkomen.

Maar is dat nu ook niet juiste het probleem van geavanceerde AI?
De komst van computersystemen maakte veel werk makkelijker maar zorgde ook voor nieuwe banen. Computers moesten onderhouden worden, netwerken moesten worden onderhouden en alles wat voorheen niet goed werd vastgelegd in documentatie kon dat vervolgens wel. Engineers en ontwerpers ruilden hun tekentafels in voor computersystemen.

Geavanceerde AI is echter een heel ander beest. De AI doet al het ontwerpen, de AI doet als het documenteren en vastleggen. De AI schrijft de artikelen. Ja informatie dient te worden ingegeven maar AI zal uiteindelijk zelf die informatie gaan ingeven. Er ontstaat een netwerk van AI's wat elkaar voorzien van informatie. Initieel zal dit moeten worden getoetst door mensen op correctheid maar hoe meer wij afhankelijk worden van AI netwerken hoe meer AI dit zelf kan toetsen.

Natuurlijk zal zoiets als logistiek, onderhoud en constructie initieel veilig lijken te zijn. Maar uiteindelijk ontwerpen AI units betere technologische oplossingen waarbij mensen niet meer nodig zijn en machines aangestuurd door AI dit doen voor de mensen. Machines die machines onderhouden aangestuurd door een netwerk van AI's.

Dit is niet vergelijkbaar met de komst van de stoommachine, auto's of bijvoorbeeld de computer. Dit is een heel ander beest. Initieel in de komende pakweg 15 jaar zal dit werk makkelijker maken maar uiteindelijk zal AI alles veel beter kunnen doen. Het enige wat wellicht door mensen wordt gedaan is de initiële input en zelfs dat zal vaak op advies van AI worden gedaan.
Bestaande logistieke systemen en producten zoals watervoorziening zullen volledig geautomatiseerd en gerobotiseerd zijn. Men kan hooguit zeggen tegen de AI "Wij willen daar een voorziening van X met deze eisen". De AI zal deze dan ontwerpen, iemand kijkt voor de zekerheid er even naar en keurt het goed. Dan zal de AI middels robots en AI netwerken het proces voor constructie opstarten. Zelfs het initiële idee voor de aanleg voor de voorziening kan op aanraden van AI worden. De AI kan bijvoorbeeld een bottlenek zien ontstaan en heeft enkel de mens nodig om op de [OK] knop te drukken.

Ik denk dat 'wij' hier nog te traditioneel denken. Elektriciteit en computers zijn slechts middelen bedoeld voor mensen om werk te vergemakkelijken. Maar AI is bedoeld om het letterlijk van ons over te nemen.

Begrijp mij niet fout; ik zeg niet dat dit slecht is. Ik denk zelfs dat het uiteindelijk heel goed is en zelfs onvermijdelijk.
Maar ik denk dat de instelling 'Het zal zo rap niet gaan' of 'Er zullen vast nieuwe banen komen voor mensen' niet terecht is.

[Superbeagle]

Waar het mij om gaat is dat er een wezenlijk verschil is tussen onderstaande twee beweringen, waarvan ik hoop dat mensen hier op Tweakers het verschil in kunnen zien.

“Een AGI kan het werk van X beroep uitvoeren”

“Over 15 jaar zal AI het werk van X% beroepen uitvoeren”

Ik wil best discussiëren over de eerste, maar de tweede is pure speculatie en is nergens op gebaseerd. En nee, als je geen AI-onderzoeker bent is “ik denk” geen onderbouwing.

[heuveltje]

Auredium schreef op woensdag 5 april 2023 @ 12:32:
[...]


Geavanceerde AI is echter een heel ander beest. De AI doet al het ontwerpen, de AI doet als het documenteren en vastleggen. De AI schrijft de artikelen. Ja informatie dient te worden ingegeven maar AI zal uiteindelijk zelf die informatie gaan ingeven. Er ontstaat een netwerk van AI's wat elkaar voorzien van informatie. Initieel zal dit moeten worden getoetst door mensen op correctheid maar hoe meer wij afhankelijk worden van AI netwerken hoe meer AI dit zelf kan toetsen.

Natuurlijk zal zoiets als logistiek, onderhoud en constructie initieel veilig lijken te zijn. Maar uiteindelijk ontwerpen AI units betere technologische oplossingen waarbij mensen niet meer nodig zijn en machines aangestuurd door AI dit doen voor de mensen. Machines die machines onderhouden aangestuurd door een netwerk van AI's.


Maar ik denk dat de instelling 'Het zal zo rap niet gaan' of 'Er zullen vast nieuwe banen komen voor mensen' niet terecht is.

Volgens mij ben je tegen de verkeerde persoon aan het discussieren ?

Maar ik snap niet waar opmerkingen als :
"Geavanceerde AI is echter een heel ander beest"
"Natuurlijk zal zoiets als logistiek, onderhoud en constructie initieel veilig lijken te zijn."
Vandaan komen.

Constructie, kijk eens in een moderne autofabriek, hoe groot gedeelte van het werk daar nu al door robots en automatisering word gedaan. Ik weet dat er las een las robot bij staan die het werk van een complete afdeling lassers overgenomen. En in de logistiek, er zit denk ik niemand met zo'n argus ogen naar automatisch rijdend auto's te kijken als de huidige jongere generatie vrachtwagen chaufeurs.

Dit proces van automatisering is al decennia bezig in alle takken, ook in allerlei kantoor functie's, waarbij de grens van "simpel werk" steeds verder word opgeschroefd
AI is niet meer dan een nieuw onderdeel in dit proces.

Of er dan ook nieuwe taken komen, dat is idd de vraag.

[Voor 3% gewijzigd door heuveltje op 05-04-2023 12:44]

[Auredium]

heuveltje schreef op woensdag 5 april 2023 @ 12:42:
[...]


Volgens mij ben je tegen de verkeerde persoon aan het discussieren ?

Maar ik snap niet waar opmerkingen als :
"Geavanceerde AI is echter een heel ander beest"
"Natuurlijk zal zoiets als logistiek, onderhoud en constructie initieel veilig lijken te zijn."
Vandaan komen.

Constructie, kijk eens in een moderne autofabriek, hoe groot gedeelte van het werk daar nu al door robots en automatisering word gedaan. Ik weet dat er las robots bij de daf staan die het werk van 40 man hebben overgenomen. En in de logistiek, er zit denk ik niemand met zo'n argus ogen naar automatisch rijdend auto's te kijken als de huidige vrachtwagen chaufeurs.

Dit proces van automatisering is al jaren bezig in alle takken, ook in allerlei kantoor functie's, AI is niet meer dan een nieuw onderdeel in dit proces.

Of er dan ook nieuwe taken komen, dat is idd de vraag.

Klopt, ik had het idd ook zonder quote kunnen doen. Excuses.
Ik zie dat we er hetzelfde over denken.

Ik denk echter dat veel mensen niet doorhebben hoe belangrijk de komst van dit soort AI's is en wat voor enorme impact het gaat hebben.
Dat AI alles kan doen betekend niet dat je zelf niet kunt 'hobbyen'. Als je goed kunt tekenen en dat leuk vinden dan vooral doen maar weet dat in de toekomst wat jij tekent, AI kan tekenen in een paar seconden in vijf verschillende versies met dezelfde tekenstijl als jou.

[Superbeagle]

Ik was hier eigenlijk gekomen om meer te lezen over hoe mensen GPT4 gebruiken in plaats van de doemscenario’s.

In ieder geval, deze meneer op LinkedIN geeft bruikbare tips hierover. Specifiek zijn over het onderwerp en het juist formuleren van jouw vraag zijn hier cruciaal.

[Fornoo]

Superbeagle schreef op woensdag 5 april 2023 @ 12:41:
Waar het mij om gaat is dat er een wezenlijk verschil is tussen onderstaande twee beweringen, waarvan ik hoop dat mensen hier op Tweakers het verschil in kunnen zien.

“Een AGI kan het werk van X beroep uitvoeren”

“Over 15 jaar zal AI het werk van X% beroepen uitvoeren”

Ik wil best discussiëren over de eerste, maar de tweede is pure speculatie en is nergens op gebaseerd. En nee, als je geen AI-onderzoeker bent is “ik denk” geen onderbouwing.

Ben je zelf een AI-onderzoeker? Dan kan ik zelf straks oordelen of jouw oordeel over een ander of mijzelf laat meewegen hoe zwaar ik eraan til. Ik ben maar een simpele bouwkundige overigens.

Je laatste opmerking komt kortzichtig over. Uiteraard kunnen experts in dit vakgebied je het beste informeren als het om de technische details gaat. Als je naar het groter plaatje kijkt, komt er bij AI veel meer kijken dan alleen de vraag 'hoe werkt het'. Bijvoorbeeld de vraag welk mogelijk effect chatGPT heeft op de werkvloer? Hier kan een AI-onderzoek je net zo veel of net zo weinig over vertellen als iemand met een kritische blik en een beetje verstand van hoe de wereld in elkaar zit en hoe de economie werkt. Een AI-onderzoeker wellicht nog veel minder dan een econoom. Kijk je naar ethische vraagstukken heeft een ieder persoon daar een eigen mening over. Wie moet een autopilot van een taxi bijvoorbeeld kiezen als hij de keuze heeft tussen het aanrijden van een kleuter of toch liever tien volwassen personen?

Om op je beweringen terug te komen, dien je eerst te definiëren wat je met AGI en AI bedoelt. Want in de eerste stelling gebruik je AGI en in de tweede AI. Is dat bewust? Daarnaast waar staat "X" voor? Wellicht is dat mijn gebrek aan kennis van iets, waar X altijd voor ... staat?

AGI staat voor mij gelijk aan een AI die daadwerkelijk kan generaliseren, en niet louter probeert te raden welk woordje volgt op het vorige woordje zoals chatGPT doet, en daadwerkelijk begrijpt hoe de wereld en diens verbanden in elkaar zitten. Om daadwerkelijk te begrijpen wat een voetbal is bijvoorbeeld, moet je eerst abstract kunnen denken. Zoals een peuter met een blokkendoos leert dat een vierkant blokje niet in een rond gaatje past. Als de juf vervolgens om de bal vraagt en naar een rond voorwerp wijst, hij meteen allerlei associaties legt tussen de verschillende vormen, dat ieder vormpje een eigen woord heeft en dat een ander persoon hierom kan vragen. Als hij de bal vervolgens geeft, dat de juf blij is dat hij luisterde. Als de juf de bal een paar keer opgooit, merkt hij op deze altijd naar beneden valt. De kleuter zal het begrip zwaartekracht niet meteen snappen, maar wel begrijpen dat een bal nooit vanzelf omhoog 'valt'. Hier gaan alle huidige systemen volledig de mist in. Als je bal zegt, laten ze een rond voorwerp zien in de vorm van een voetbal, basketbal of tennisbal. Maar ze snappen niet welke relatie dit voorwerp met de rest van de wereld heeft, of dat er een wereld uberhaupt bestaat. Ze weten niet meer dan de input die ze hebben gekregen tijdens hun training.

Daarnaast zal AGI geen vaststaand gegeven zijn of garant staan voor een bepaald IQ, maar heeft het waarschijnlijk een schaal. Ik kan me voorstellen dat een kleuter kan generaliseren, maar een volwassen persoon nog veel beter. Dus de ene AGI is (nog) niet de andere.

Maar goed, zelfs een narrow AI als chatGPT, kan nog steeds een hele hoop banen overbodig maken. Je moet je alleen realiseren dat je, zoals het er nu uitziet, met de huidige systemen geen AGI kunt maken. Althans dat hoop ik oprecht. De huidige systemen zijn ongelofelijk knap gemaakt, maar ze maken nog steeds domme fouten die een kind nog zou begrijpen. Ik denk dat je een onderscheid kunt maken in hoeveel impact een fout heeft in de maatschappij, die een chatbot kan maken. IKEA kan wellicht van 50 naar 1 callcentermedewerker gaan. Alle standaard problemen handelt de chatbot af, en de lastige langlopende kwesties controleert hij of zij nog een keer de output voor verzending. Voor een advocatenkantoor is het al weer lastiger, dit zijn vaak lastige en uitgebreide dossiers, en zal het controleren van de output van een bot veel meer tijd kosten, omdat het kleinste foutje een zaak kan doen verliezen. Maar ook daar kan er wellicht de helft van naar huis. Het zijn allemaal mijn aannames, ben benieuwd hoe je er zelf tegenaan kijkt.

[Superbeagle]

Fornoo schreef op woensdag 5 april 2023 @ 21:15:
[...]


Ben je zelf een AI-onderzoeker? Dan kan ik zelf straks oordelen of jouw oordeel over een ander of mijzelf laat meewegen hoe zwaar ik eraan til. Ik ben maar een simpele bouwkundige overigens.

Een beetje een ad hominem, vind je niet? Ik lees stukken van AI-onderzoekers en baseer mijn mening daarop.

Je laatste opmerking komt kortzichtig over. Uiteraard kunnen experts in dit vakgebied je het beste informeren als het om de technische details gaat. Als je naar het groter plaatje kijkt, komt er bij AI veel meer kijken dan alleen de vraag 'hoe werkt het'. Bijvoorbeeld de vraag welk mogelijk effect chatGPT heeft op de werkvloer? Hier kan een AI-onderzoek je net zo veel of net zo weinig over vertellen als iemand met een kritische blik en een beetje verstand van hoe de wereld in elkaar zit en hoe de economie werkt. Een AI-onderzoeker wellicht nog veel minder dan een econoom.

De econoom moet te rade gaan bij de AI-onderzoeker wil hij gefundeerde uitspraken willen doen. Ik merk op dat velen reageren op basis van (angst)gevoelens met flinterdunne onderbouwingen terwijl we toch echt in AWN zitten.

Kijk je naar ethische vraagstukken heeft een ieder persoon daar een eigen mening over. Wie moet een autopilot van een taxi bijvoorbeeld kiezen als hij de keuze heeft tussen het aanrijden van een kleuter of toch liever tien volwassen personen?

De echte vraag is of zo’n dilemma in werkelijkheid wel enkel binair kan worden opgelost.

Om op je beweringen terug te komen, dien je eerst te definiëren wat je met AGI en AI bedoelt. Want in de eerste stelling gebruik je AGI en in de tweede AI. Is dat bewust? Daarnaast waar staat "X" voor? Wellicht is dat mijn gebrek aan kennis van iets, waar X altijd voor ... staat?

AGI staat voor mij gelijk aan een AI die daadwerkelijk kan generaliseren, en niet louter probeert te raden welk woordje volgt op het vorige woordje zoals chatGPT doet, en daadwerkelijk begrijpt hoe de wereld en diens verbanden in elkaar zitten.

Met “AGI” wordt bedoeld een Artificial General Intelligence volgens dit Wikipedia artikel. Met “general” wordt trouwens niet “generaliseren” bedoeld zoals jij het letterlijk vertaalt, maar een AI die vrijwel alle taken op menselijke cognitieniveau kan uitvoeren. Waarom je er een eigen definitie eraan hangt is mij een raadsel.

En het is inderdaad bewust want de mensen die zich bezigen met speculatie gooien alle AI op een hoop.

Verder is het gebruik van “X” gangbaar voor een willekeurig iets of een variabele.

Om daadwerkelijk te begrijpen wat een voetbal is bijvoorbeeld, moet je eerst abstract kunnen denken. Zoals een peuter met een blokkendoos leert dat een vierkant blokje niet in een rond gaatje past. Als de juf vervolgens om de bal vraagt en naar een rond voorwerp wijst, hij meteen allerlei associaties legt tussen de verschillende vormen, dat ieder vormpje een eigen woord heeft en dat een ander persoon hierom kan vragen. Als hij de bal vervolgens geeft, dat de juf blij is dat hij luisterde. Als de juf de bal een paar keer opgooit, merkt hij op deze altijd naar beneden valt. De kleuter zal het begrip zwaartekracht niet meteen snappen, maar wel begrijpen dat een bal nooit vanzelf omhoog 'valt'. Hier gaan alle huidige systemen volledig de mist in. Als je bal zegt, laten ze een rond voorwerp zien in de vorm van een voetbal, basketbal of tennisbal. Maar ze snappen niet welke relatie dit voorwerp met de rest van de wereld heeft, of dat er een wereld uberhaupt bestaat. Ze weten niet meer dan de input die ze hebben gekregen tijdens hun training.

Als je de moeite hebt genomen om de samenvatting te lezen van het onderzoek dat inkeerden heb gepost had je kunnen lezen dat GPT4 iets verder is dan enkel reproductie van de trainingsdata.

Daarnaast zal AGI geen vaststaand gegeven zijn of garant staan voor een bepaald IQ, maar heeft het waarschijnlijk een schaal. Ik kan me voorstellen dat een kleuter kan generaliseren, maar een volwassen persoon nog veel beter. Dus de ene AGI is (nog) niet de andere.

Is dit een mening of heb je enige onderbouwing hierover?

Maar goed, zelfs een narrow AI als chatGPT, kan nog steeds een hele hoop banen overbodig maken. Je moet je alleen realiseren dat je, zoals het er nu uitziet, met de huidige systemen geen AGI kunt maken. Althans dat hoop ik oprecht. De huidige systemen zijn ongelofelijk knap gemaakt, maar ze maken nog steeds domme fouten die een kind nog zou begrijpen. Ik denk dat je een onderscheid kunt maken in hoeveel impact een fout heeft in de maatschappij, die een chatbot kan maken. IKEA kan wellicht van 50 naar 1 callcentermedewerker gaan. Alle standaard problemen handelt de chatbot af, en de lastige langlopende kwesties controleert hij of zij nog een keer de output voor verzending. Voor een advocatenkantoor is het al weer lastiger, dit zijn vaak lastige en uitgebreide dossiers, en zal het controleren van de output van een bot veel meer tijd kosten, omdat het kleinste foutje een zaak kan doen verliezen. Maar ook daar kan er wellicht de helft van naar huis. Het zijn allemaal mijn aannames, ben benieuwd hoe je er zelf tegenaan kijkt.

Tja, is dit een retorische vraag? Je reageerde nota bene op mijn post waar ik net mijn mening hebt gegeven over discussies over banen inpikken door AI’s.

De analogie hier is het denken dat omdat iemand een viool kan vasthouden en een toon eruit kan halen, die persoon gelijk de 5e symfonie van Beethoven kan spelen.
Begrijp me niet verkeerd, GPT4 is indrukwekkend. Het kan het werk van een ervaren iemand productiever maken, maar het is niet in staat om zelfstandig taken uit te voeren, laat staat “90% van de banen in te pikken zodat bedrijven nog meer winst kunnen maken”. Aan wie moeten die bedrijven dan hun producten en diensten slijten, aan de AI’s?

Is het misschien een idee om dit topic te splitsen in een “kroeg-AI” topic waar naar hartelust kan worden gespeculeerd over hoeveel banen er wel of niet zullen verdwijnen?

[Fornoo]

Is niet als ad hominem bedoelt, maar als een oprechte interesse in jouw achtergrond. Mede getriggerd door jouw eerdere opmerking dat als je geen AI-onderzoeker bent, "ik denk" geen onderbouwing is. Hieruit haal ik voorzichtig op, dat je een vrij zwart/wit beeld hebt van de mensen die in dit topic reageren. Je hoort er schijnbaar bij, of niet volgens jou. Volgens mij is dit nog steeds een openbaar forum, en geen academiezaaltje waar je onder elkaar bent als AI-specialisten. Maar goed, excuses als het als ad hominem overkwam.

Verder wordt er met het engelse woord "general" in AGI wel degelijk generaliseren bedoelt, namelijk dat je op grond van één voorbeeld een heleboel andere gevallen hetzelfde kan oordelen.

Dit heeft chatGPT tot op heden nog niet aangetoond en het bewijs daarvoor haal ik ook uit het volgende stukje in de link die je plaatste:

Hallucinations
GPT-4 suffers from something called hallucinations. Essentially, GPT-4 can make up answers on any subject, making the answer sound entirely possible. The model can use partial truths and sound very confident, meaning at the moment it is important to double check its answers through other means. Over reliance on generated content might lead to costly errors.

Of chatGPT liegt, of het begrijpt niet waar het daadwerkelijk over gaat. Mede door dat voorbeeld, kun je sowieso ophalen dat chatGPT nooit voor 100% is te vertrouwen en dus ook niet voor 100% de banen in een sector kan inpikken. Daarnaast kent chatGPT geen zelf-bewustzijn en kan het zelf geen doelen stellen. Dus de rol van opdrachtgever, initiator kan het nooit overnemen.

Mijns inziens hangt het, in meer of mindere mate implementeren van chatGPT op een werkvloer, af van de maatschappelijke gevolgen als deze een fout maakt. In de creatieve sector wordt een foutje wellicht juist als extra creatief gezien. In een callcenter voor een webwinkel worden sowieso 80% van de reacties voorzien van standaard antwoorden, die een chatbot zo kan uitvoeren. Een advocaat of huisarts is dan weer wat anders, ook al zou een chatbot in 99% van de gevallen correct zijn, ik vraag me af of die 1% foutmarge voor de klant of die patient acceptabel is. Ik zou er niet mee akkoord gaan. Al zal een advocaat wel degelijk stukken tekst kunnen laten samenvatten of delen uitschrijven en de output controleren. Daar zullen dan minder banen verdwijnen. Maar goed, dat is inderdaad allemaal speculatie. Volgens mij is hier nauwelijks nog onderzoek naar gedaan om er exacte percentages per sector aan te kunnen koppelen. De specialisten die er zijn, zullen hard bezig zijn om dit te onderzoeken op dit moment.

[Playa del C.]

Eens met @Fornoo dat er bij sommige mensen een sfeertje is van 'ik weet er veel van en alles wat ik er van denk is het juiste'.

AI is vergelijkbaar met Quantum Theorie. Iedereen die claimt er alles van te weten, is in feite een amateur (met Dunning-Kruger).

Experts geven de wildste voorspellingen. Dat gaat van: het gaat nu snel, nog 5 jaar tot AGI en veel verlies van banen, tot, nog een 100 tot 200 jaar en dan is er mogelijk een sterke AGI.
Experts die zelf aan AI werken, spreken vaak ook met eigen belang. Die hebben investeringen nodig en aandacht.

AI-ontwikkeling is voor veel mensen iets emotioneels. Het raakt ook wie en wat we als mensen zijn. Op tweakers komt een mix van mensen en ik stel voor dat we:
- iedereen met respect welkom heten en mee laten praten.
- iedereen die duidelijk niet goed weet hoe een bestaande AI werkt, uitleggen hoe het zit.

Het is namelijk een illusie om te denken dat je in dit GoT-topic de academische consensus kan vasthouden als gespreksniveau. Zeker als eerlijk gezegd de mensen die claimen alles van AI te weten er in feite ook niet echt alles van weten.

Ik weet er veel van (niet alles) en wordt meteen aangevallen met een semantische discussie over of we ChatGPT de eigenschap 'slim' of 'heeft inzicht' mogen toedichten in een reactie. Alle experts die ik ken stellen: AI is op een specifiek punt slimmer dan een mens.

Dat soort gesprekken haalt het niveau juist nasr beneden. We willen het hebben over AI en de ontwikkeling. Mensen lezen het topic en zoeken zelf wel uit waar ze het mee eens zijn. We hoeven niet af te dwingen dat er nooit een 'onwaarheid' wordt geplaatst. Het is juist interessant om ook andere visies te zien. Zonder het er mee eens te zijn, is dat vaak leerzamer. Omgekeerd ontstaat er immers een bubbel (en die zijn er genoeg op GoT helaas).

Bron: https://www.nextbigfuture...to-superintelligence.html

Ben Geortzel zei kort geleden: het is mogelijk dat een LLM-AI zo geavanceerd wordt dat het een studie kan volgen in de collegezalen en daarna voldoende punten haalt op alle tentamens. Een LLM-AI zou dan afgestudeerd zijn op het hoogste niveau. Kunnen we in dat geval nog stellen dat een LLM dom is of slechts techniek en dat het een trucje is?

[CVTTPD2DQ]

Playa del C. schreef op donderdag 6 april 2023 @ 07:27:
Het is namelijk een illusie om te denken dat je in dit GoT-topic de academische consensus kan vasthouden als gespreksniveau. Zeker als eerlijk gezegd de mensen die claimen alles van AI te weten er in feite ook niet echt alles van weten.

Ik denk dat we wel onderscheid mogen maken tussen dingen zoals ze zijn en dingen zoals ze zouden kunnen worden. Eerder in deze discussie reageerde ik op iemand die ChatGPT ondetecteerbare wapens liet ontwerpen. Dat bleek over een hypothetische doorontwikkeling van de AI te gaan.

Op het moment lopen hier eigenlijk vier discussies door elkaar. Allereerst zijn er de daadwerkelijke ontwikkelingen rondom AI tot nu toe. Dan zijn er de speculaties over de impact die de huidige AI op de samenleving kan hebben. Dan zijn er speculaties rondom de toekomst van AI, en speculaties over wat de impact van zo'n speculatief AI op de samenleving kan zijn.

Superbeagle schreef op woensdag 5 april 2023 @ 17:38:
In ieder geval, deze meneer op LinkedIN geeft bruikbare tips hierover. Specifiek zijn over het onderwerp en het juist formuleren van jouw vraag zijn hier cruciaal.

Dan is de vraag alsnog, krijgt deze persoon een betere kwaliteit antwoorden uit ChatGPT omdat-ie het met de juiste prompt op de praatstoel zet, of krijgt deze persoon meer plausibele antwoorden uit ChatGPT omdat het wordt ingekleed als een gesprek?

[Superbeagle]

CVTTPD2DQ schreef op donderdag 6 april 2023 @ 07:54:
[...]
Op het moment lopen hier eigenlijk vier discussies door elkaar. Allereerst zijn er de daadwerkelijke ontwikkelingen rondom AI tot nu toe. Dan zijn er de speculaties over de impact die de huidige AI op de samenleving kan hebben. Dan zijn er speculaties rondom de toekomst van AI, en speculaties over wat de impact van zo'n speculatief AI op de samenleving kan zijn.
[...]

Goede samenvatting. Ik zit juist op GoT voor de eerste. De overige mediakanalen zitten vol van de overige drie.
Vandaar ook mijn pleidooi om het topic te splitsen van de overige speculatieve onderwerpen. Er is vast een publiek hiervoor, maar daar hoor ik niet bij.

Edit:
Even mezelf nuanceren. Ik ben hier niet persé tegen speculaties, maar eerder tegen niet-onderbouwde speculaties op basis van onderbuikgevoelens. En volgens mij is dat nog steeds het beleid hier op AWN, tenzij ik de memo heb gemist.

Dan is de vraag alsnog, krijgt deze persoon een betere kwaliteit antwoorden uit ChatGPT omdat-ie het met de juiste prompt op de praatstoel zet, of krijgt deze persoon meer plausibele antwoorden uit ChatGPT omdat het wordt ingekleed als een gesprek?

Goede vraag, en om het verschil tussen die twee te kunnen opmerken gok ik dat de kans groter is dat een ervaren iemand op zijn vakgebied die ChatGPT gebruikt, dit beter kan beoordelen dan een ander willekeurige gebruiker.

[Voor 35% gewijzigd door Superbeagle op 06-04-2023 11:35]

[Playa del C.]

Superbeagle schreef op donderdag 6 april 2023 @ 09:26:
[...]

Goede samenvatting. Ik zit juist op GoT voor de eerste. De overige mediakanalen zitten vol van de overige drie.
Vandaar ook mijn pleidooi om het topic te splitsen van de overige speculatieve onderwerpen. Er is vast een publiek hiervoor, maar daar hoor ik niet bij.

Er zijn slechts 6 pagina's in twee weken tijd in dit topic. Dat is één pagina per twee of drie dagen. Het is prima dat jij van de vier discussies slechts één interessant vindt, alleen de wereld en ook dit topic draaien niet om jou.

Edit:
Even mezelf nuanceren. Ik ben hier niet persé tegen speculaties, maar eerder tegen niet-onderbouwde speculaties op basis van onderbuikgevoelens. En volgens mij is dat nog steeds het beleid hier op AWN, tenzij ik de memo heb gemist.

Dit topic is gestart door @Lampie. Die heeft een keurige topicstart en daarna nog één kort bericht geplaatst. De topicstart stelt alleen deze vraag om de discussie te starten:
Hoe kijken jullie naar deze ontwikkelingen? Maken jullie je zorgen over je baan, of ethische kwesties? Of omarmen jullie het juist en biedt het ook kansen?
Dit topic is dus juist gericht op wat men speculeert over de gevolgen van moderne AI in de toekomst. Je bent een beetje bezig met het kapen van dit topic. Je kunt zelf je eigen topic beginnen, waarin je in jouw topicstart de grenzen en de de doelen aangeeft.

[Superbeagle]

@Playa del C. Ik zal het nogmaals benadrukken en heb me misschien niet helder genoeg uitgedrukt.(vorige tekst maar helemaal doorgestreept) Ik heb niets tegen de in de OP omschreven speculatieve onderwerpen.

Dit topic bevindt zich in HWN en daarmee behoren speculatieve opmerkingen onderbouwd te zijn. Het is simpelweg beleid.

Het is dus niet aan mij om een tweede topic te openen met als spelregel dat opmerkingen onderbouwd horen te zijn.

[Voor 10% gewijzigd door Superbeagle op 06-04-2023 11:37]

[Brent]

Superbeagle schreef op woensdag 5 april 2023 @ 22:40:
[...]


Een beetje een ad hominem, vind je niet? Ik lees stukken van AI-onderzoekers en baseer mijn mening daarop.

Een van de problemen hier is dat "AI"-onderzoekers vaak commerciële onderzoekers zijn. De academische lopen eigenlijk flink achterop, tenzij ze half in Google staan oid (het kost nogal wat, chatgpt zijn weights berekenen.) Het eigenlijk nauw verwante Computational neuroscientists is in praktijk een heel ander slag, met een heel andere missies.

Kortom, ik ben erg wantrouwend tov "AI"-onderzoekers; zij hebben vaker wel dan niet meerdere belangen die niet met de mijne stroken, en daarom dus zeer waarschijnlijk een bepaalde kleuring van hun mening of artikelen hebben. Dat is een bekend gegeven, ook in de academische wereld, en daar dien je altijd rekening mee te houden.

Juist door het gebrek aan academische rigeur is het ook lastig onderbouwen met feiten: vaak zijn die er (nog) niet of zijn propriëtair. Ik snap zeker de behoefte het niet alleen over angsten te hebben, maar we moeten denk ik de bewijslast wel leggen waar die hoort: bij mensen die iets nieuws introduceren. Zeker in Europa zijn we dat zo gewend: eerst bewijzen dat iets veilig is (en dat is lastig, snap ik), dan pas introduceren, en niet andersom.

Misschien is dat dan waar de discussie over kan gaan: bij een gebrek aan kennis en inzicht, wat is een veilige manier van gebruik? Waar begint de verantwoordelijkheid van de wetgever? Moet het altijd op een label staan bijv? Moet het gebruik beperkt worden voor bepaalde doelgroepen?

[Fornoo]

Superbeagle schreef op donderdag 6 april 2023 @ 09:26:
[...]

Goede samenvatting. Ik zit juist op GoT voor de eerste. De overige mediakanalen zitten vol van de overige drie.
Vandaar ook mijn pleidooi om het topic te splitsen van de overige speculatieve onderwerpen. Er is vast een publiek hiervoor, maar daar hoor ik niet bij.

Edit:
Even mezelf nuanceren. Ik ben hier niet persé tegen speculaties, maar eerder tegen niet-onderbouwde speculaties op basis van onderbuikgevoelens. En volgens mij is dat nog steeds het beleid hier op AWN, tenzij ik de memo heb gemist.

[...]

Goede vraag, en om het verschil tussen die twee te kunnen opmerken gok ik dat de kans groter is dat een ervaren iemand op zijn vakgebied die ChatGPT gebruikt, dit beter kan beoordelen dan een ander willekeurige gebruiker.

Ik gebruik chatGPT sinds een paar weken zelf voor mijn werk, als bouwkundige. Dit is geen beleid vanuit de werkgever, maar puur om mijn nieuwsgierigheid te voeden. Ik hou een tabje in Chrome met chatGPT open, en als er een interessante vraag voorbij komt, voer ik die in om te kijken wat er uit komt.

ChatGPT begrijpt vaak in 1 keer wat ik bedoel aangezien het antwoordt bijna altijd gaat over datgene waar ik om heb gevraagd. Echter soms gaat ie faliekant fout in en schrijft dan en inhoudelijk een keurig stukje informatie, maar laat dan een essentieel bijwoord (niet, wel) achterwege waardoor het antwoordt 100% fout is. Waaruit ik opmaak dat het programma er, hoewel 99% van de woorden correct zijn, door die ene fout duidelijk maakt dat het er niets van begrijpt.

Bouwbesluit technisch en wat betreft NEN-normen durf ik de output zeker niet klakkeloos over te nemen en moet de bron altijd nog een keer controleren. Voor informatie over de structuur van instanties, zoals wat is de rol van de RCE of de monumentencommissie, is dat al veel minder nodig. In die informatie staan vaak geen harde cijfers, formules en andere limieten die nauwkeurig komen. En kun je je heel snel globaal laten informeren over het doel en de werking van zulke partijen.

Ik kan me niet voorstellen dat het de taak van bouwkundig tekenaar gaat overnemen, wel dat het het proces gaat versnellen en kan het wellicht voor de architecten wel degelijk een grote besparing van tijd opleveren. Dit zullen dat vooral nieuwe architecten zijn die zo waarschijnlijk goedkoper zijn en de oudere architecten die het op de oude manier doen wegconcurreren of gedwongen moderniseren.

[champion16]

Iets waar ik vandaag over na zat te denken.
In het verleden en heden had je muv bepaalde gebieden altijd mankracht en kennis nodig om een bedrijf te beginnen of uit te breiden (bijvoorbeeld software bedrijf of callcenter). Dit is vaak de limiterende factor geweest.

Om te beginnen zie ik AI of LLM zoals we die nu hebben nog niet in staat zijn toe...
Maar als deze in de nabije toekomst op een dusdanig niveau zijn dat ze de kennis bevatten en je simpelweg veel minder mankracht nodig hebt (denk aan zelf schrijvende code, callcenters waar je wordt gebeld door text to speech AI).
Wat is dan naast uiteraard de negatieve gevolgen voor werknemers het nut nog van werkgevers?

Dan kan toch bijna iedereen zijn eigen callcenter beginnen of softwarebedrijf.
Vandaaruit doortrekken, gaan de Amazons en Microsofts van deze wereld dan niet gewoon dit aanbieden a la microservices? Want nu al zie je dat Amazon producten van derden na kan maken en goedkoper kan verkopen.
Zij hebben tenslotte alle hard en software in huis en kunnen simpelweg iedereen wegconcurreren.

[defiant]

Ik volg de GPT discussie nu al een tijdje door te kijken naar artikelen en wat mensen erover posten op diverse sites, maar persoonlijk vind ik het moeilijk om informatie te vinden die echt waardevol is. Dat is jammer, want daardoor vliegt het debat ook alle kanten op. Bijvoorbeeld claims over het dichtbij zijn van een echte ASI vind ik nogal ongefundeerd. Het AI onderzoeksgebied staat historisch vol met zogenaamde AI winters waar er nauwelijks progressie is.

Ik denk ook dat het vakgebied gebaat is met het vermijden van de term AI, maar specifieke termen met criteria te introduceren voor verschillende systemen.

Persoonlijk zie ik black box systemen als voornaamste risico, informatie is pas waardevol als het ook onderbouwd kan worden met bronnen. Het gaat ook uit van hoog vertrouwen in het systeem alsmede de makers ervan. Je krijgt dan in principe hetzelfde dilemma wat je hebt met fake news, manipulatie van uitkomsten zal altijd aantrekkelijk zijn als de incentives er zijn.

Persoonlijk denk ik dat ontwikkeling meer capable AI direct gerelateerd zal zijn aan de mogelijkheden tot (complexe) interactie met de omgeving. Ik ben een college aan het volgens over human behavioral biology door Sapolsky en leven zoals een mens is een continue complexe interactie tussen heel kort samengevat zowel omgeving, de levensvorm zelf alsmede DNA. Complexiteit en uiteindelijk intelligentie ontstaat door continue zeer lang proces van interactie en adaptie met de omgeving.

OpenAI heeft hier ook onderzoek naar gedaan, het is eigenlijk tot nu het enigste onderzoek (er zullen er meer zijn denk ik) die mij het gevoel geeft dat het mogelijk is om een bepaalde mate van intelligentie te laten ontwikkelen als evolutionair proces in een simulatie.
Emergent tool use from multi-agent interaction

We’ve observed agents discovering progressively more complex tool use while playing a simple game of hide-and-seek. Through training in our new simulated hide-and-seek environment, agents build a series of six distinct strategies and counterstrategies, some of which we did not know our environment supported. The self-supervised emergent complexity in this simple environment further suggests that multi-agent co-adaptation may one day produce extremely complex and intelligent behavior.

[soskes]

Ik heb een collega die voor de wat simpelere Excel taken ook ChatGPT gebruikt. Simpel als in hooguit 2 of 3 formules aan elkaar geknoopt voor het knopen van data. Nu vind ik dat op zich geen probleem, waarom moeilijk doen als het makkelijk kan. Alleen, als ik de persoon (begin 20) vraag hoe de collega het de volgende keer zou oplossen of vraag of de collega snapt wat de formule stapsgewijs doet, dan heb ik absoluut niet het idee dat deze collega waarde hecht aan kennis.

Zorgt ervoor dat ik wel wat meer oplet als mijn dochter van 9 het later gaat gebruiken er meer op zal letten of zij er zelf ook wat van leert en niet enkel de luie methode toepast.

[Playa del C.]

soskes schreef op dinsdag 11 april 2023 @ 08:31:
Ik heb een collega die voor de wat simpelere Excel taken ook ChatGPT gebruikt. Simpel als in hooguit 2 of 3 formules aan elkaar geknoopt voor het knopen van data. Nu vind ik dat op zich geen probleem, waarom moeilijk doen als het makkelijk kan. Alleen, als ik de persoon (begin 20) vraag hoe de collega het de volgende keer zou oplossen of vraag of de collega snapt wat de formule stapsgewijs doet, dan heb ik absoluut niet het idee dat deze collega waarde hecht aan kennis.

Zorgt ervoor dat ik wel wat meer oplet als mijn dochter van 9 het later gaat gebruiken er meer op zal letten of zij er zelf ook wat van leert en niet enkel de luie methode toepast.

Dit hadden we ook met de rekenmachine, internettoegang, vuur maken, enz.
De vraag is of we bepaalde skills later nog nodig hebben.

Niemand programmeert in Assembly. Iedereen kan Unity gebruiken. AI-support is een volgende stap. En reken maar dat er over X jaar een AI is die zo goed programmeert, dat er geen menselijke programmeurs meer nodig zijn.

[RagingPenguin]

Playa del C. schreef op dinsdag 11 april 2023 @ 08:52:
[...]

Dit hadden we ook met de rekenmachine, internettoegang, vuur maken, enz.
De vraag is of we bepaalde skills later nog nodig hebben.

Niemand programmeert in Assembly. Iedereen kan Unity gebruiken. AI-support is een volgende stap. En reken maar dat er over X jaar een AI is die zo goed programmeert, dat er geen menselijke programmeurs meer nodig zijn.

Ik zou dat niet per se als een lineaire ontwikkeling zien, maar meer als verschillende expertises met andere doeleinden. Vroeger was het zo dat praktisch iedereen die informatica had gestudeerd best aardig in Assembly kon programmeren en ook nog games kon ontwikkelen op release-waardig niveau. Tegenwoordig is überhaupt een van die twee een utopie, en niet omdat het overbodige vaardigheden zijn of omdat de jeugd van tegenwoordig dom is, maar omdat de lat om een expert te zijn in die gebieden veel hoger ligt.

Moderne operating systems en x64 Assembly zijn een beest vergeleken met de 6502 voor de Apple II en NES, en moderne game engines hebben ontzettend complexe render pipelines, physics, AI tooling etc. De tijd dat wat sprites op een scherm kunnen laten bewegen je een game developer maakte is ook wel weer voorbij. Wat vroeger een enkele expertise was is tegenwoordig gerust een dozijn, en zelfs dan is het vaak nog meer werk om een expert niveau te bereiken.

Het praktisch gevolg hiervan voor het software development vakgebied is dat veel mensen gewoon geen experts meer zijn en het juist hun kracht maken om verschillende tools aan elkaar te knopen (zie de full-stack devops developers). En mensen die wel echt een expert zijn in iets zijn dat vaak tot op een punt dat ze praktisch niet meer in dezelfde markt vallen als de generalisten.*

Lang verhaal, maar ik denk dat we met een massa adoptie van slimme AI’s eenzelfde effect gaan zien in andere vakgebieden die nu wat minder volatiel zijn dan computer science: veel meer generalisten, een lagere lat om onderaan binnen te komen, maar ook een veel groter gat naar de echte experts. Al kijk ik naar Wat verdient de ICT'er / GoT'er? (deel 14) dan is het geen slechte tijd om een CS expert te zijn, maar tegelijkertijd lopen de salarisschalen van dertien-in-een-dozijn bedrijven zoals een Cap of Atos al jaren achter. Op basis daarvan durf ik wel te verwachten dat we nog wat meer gaan zien van Het (on)bestaan van het middeninkomen. Ik zie hier ook veel mensen zich druk maken om de jongere generatie, ik zou mij eigenlijk eerder druk maken om de oudere generatie die nu gewend is om een expert te zijn in hun vakgebied maar dat over een decennia misschien niet meer zijn. Ik heb in mijn agency tijd al te veel veertigers gezien die zichzelf een expert vonden, bij management bekend stonden als een expert, maar waarvan iedereen op werkvloer wist dat ze op z'n best junior niveau hadden met moderne tooling (dan wel AI of niet ).


* O.a. omdat ze op andere expertises net aan beginners zijn i.p.v. de algemene CS experts van vroeger. Iets wat je in andere gebieden ook ziet, zie bijvoorbeeld de EUR wetenschapper die het met droge ogen had over "Covid-1 tot en met 18". Het is niet een nieuw verschijnsel dat mensen die een expert zijn in A denken dat ze ook een expert zijn in B, ook al zouden ze juist moeten weten hoeveel moeite het kost om een expert te worden en blijven in een vakgebied.

[soskes]

Playa del C. schreef op dinsdag 11 april 2023 @ 08:52:
[...]

Dit hadden we ook met de rekenmachine, internettoegang, vuur maken, enz.
De vraag is of we bepaalde skills later nog nodig hebben.

Niemand programmeert in Assembly. Iedereen kan Unity gebruiken. AI-support is een volgende stap. En reken maar dat er over X jaar een AI is die zo goed programmeert, dat er geen menselijke programmeurs meer nodig zijn.

Ik snap je punt. Echter ben ik vooral bezorgd om je algemene ontwikkeling. Het is ontzettend prettig om een tool te gebruiken die zaken op kan lossen. Alleen je zult naar mijn idee nog steeds moeten weten wanneer en hoe je de tool kunt inzetten.
Plus, je zult de meest banale fouten moeten kunnen herkennen zodat de betrouwbaarheid voor jezelf ook op een bepaald niveau zit.

*De mening van iemand die een chatgpt vooral gebruikt om te kijken wat er mogelijk is en nog niet direct als toepassing gebruikt.

[GarBaGe]

defiant schreef op zaterdag 8 april 2023 @ 14:57:
Ik volg de GPT discussie nu al een tijdje door te kijken naar artikelen en wat mensen erover posten op diverse sites, maar persoonlijk vind ik het moeilijk om informatie te vinden die echt waardevol is. Dat is jammer, want daardoor vliegt het debat ook alle kanten op. Bijvoorbeeld claims over het dichtbij zijn van een echte ASI vind ik nogal ongefundeerd. Het AI onderzoeksgebied staat historisch vol met zogenaamde AI winters waar er nauwelijks progressie is.

In Technische Weekblad stond laatst een leuk inhoudelijk informatief artikel over ChatGPT:
https://technischweekblad...ht-werkt-de-dummy-uitleg/

Helaas wel achter een betaalmuur.
Ik ben al jaren lang lid van deze "krant" en hij bevat enorm veel interessant technisch inhoudelijk nieuws.

TLDR: ChatGPT is vooral een enorm goede generatieve AI, welke gebruik maakt van taalmodellen (NLP).
Hierdoor kan deze taal goed deconstrueren en analyseren en op basis van de beschikbare dataset een vrij overtuigend antwoord in elkaar sleutelen.
Voor mensen in dit super indrukwekkend, maar technisch inhoudelijk een vrij simpele applicatie.
ChatGPT kent geen "begrip", "heeft geen mening", kan ook niet nadenken of leren.
Echter, omdat ChatGPT specialiseert in taal, is er grote kans dat ie de Turing-test slaagt (of wellicht heeft ie dat al gedaan).

[Playa del C.]

RagingPenguin schreef op dinsdag 11 april 2023 @ 10:21:
[...]


Ik zou dat niet per se als een lineaire ontwikkeling zien, maar meer als verschillende expertises met andere doeleinden. Vroeger was het zo dat praktisch iedereen die informatica had gestudeerd best aardig in Assembly kon programmeren en ook nog games kon ontwikkelen op release-waardig niveau. Tegenwoordig is überhaupt een van die twee een utopie, en niet omdat het overbodige vaardigheden zijn of omdat de jeugd van tegenwoordig dom is, maar omdat de lat om een expert te zijn in die gebieden veel hoger ligt.

Moderne operating systems en x64 Assembly zijn een beest vergeleken met de 6502 voor de Apple II en NES, en moderne game engines hebben ontzettend complexe render pipelines, physics, AI tooling etc. De tijd dat wat sprites op een scherm kunnen laten bewegen je een game developer maakte is ook wel weer voorbij. Wat vroeger een enkele expertise was is tegenwoordig gerust een dozijn, en zelfs dan is het vaak nog meer werk om een expert niveau te bereiken.

Het praktisch gevolg hiervan voor het software development vakgebied is dat veel mensen gewoon geen experts meer zijn en het juist hun kracht maken om verschillende tools aan elkaar te knopen (zie de full-stack devops developers). En mensen die wel echt een expert zijn in iets zijn dat vaak tot op een punt dat ze praktisch niet meer in dezelfde markt vallen als de generalisten.*

Lang verhaal, maar ik denk dat we met een massa adoptie van slimme AI’s eenzelfde effect gaan zien in andere vakgebieden die nu wat minder volatiel zijn dan computer science: veel meer generalisten, een lagere lat om onderaan binnen te komen, maar ook een veel groter gat naar de echte experts. Al kijk ik naar Wat verdient de ICT'er / GoT'er? (deel 14) dan is het geen slechte tijd om een CS expert te zijn, maar tegelijkertijd lopen de salarisschalen van dertien-in-een-dozijn bedrijven zoals een Cap of Atos al jaren achter. Op basis daarvan durf ik wel te verwachten dat we nog wat meer gaan zien van Het (on)bestaan van het middeninkomen. Ik zie hier ook veel mensen zich druk maken om de jongere generatie, ik zou mij eigenlijk eerder druk maken om de oudere generatie die nu gewend is om een expert te zijn in hun vakgebied maar dat over een decennia misschien niet meer zijn. Ik heb in mijn agency tijd al te veel veertigers gezien die zichzelf een expert vonden, bij management bekend stonden als een expert, maar waarvan iedereen op werkvloer wist dat ze op z'n best junior niveau hadden met moderne tooling (dan wel AI of niet ).


* O.a. omdat ze op andere expertises net aan beginners zijn i.p.v. de algemene CS experts van vroeger. Iets wat je in andere gebieden ook ziet, zie bijvoorbeeld de EUR wetenschapper die het met droge ogen had over "Covid-1 tot en met 18". Het is niet een nieuw verschijnsel dat mensen die een expert zijn in A denken dat ze ook een expert zijn in B, ook al zouden ze juist moeten weten hoeveel moeite het kost om een expert te worden en blijven in een vakgebied.

Het hoeft ook niet lineair te zijn. Het beeld is dat je met Assembly dicht op de cpu programmeert, met een game-engine als Unity op een veel hoger level en daarmee abstracter. Dus minder op basis van hoe een cpu werkt en meer gericht op resultaat. En dan met een AI-support is het nog een stap verder. Je zegt wat voor programma je wil en krijgt de code. Dus nog een (grote) stap abstracter.

Als je die lijn doortrekt dan kun je in een gesprek met een AI 'een programma' bestellen en je krijgt het, inclusief keurige QA. Dat is toekomstmuziek nog. Het ging over het punt dat het jammer is dat mensen bepaalde skills niet meer leren, maar mijn reactie is dan: ja, dat is met duizenden zaken al gebeurd. Elke vorige generatie denkt dat er van alles belangrijk is voor de (algemene) ontwikkeling, maar dan blijkt dat een nieuwe generatie niet 'dommer' is en met moderne manieren alsnog beter presteert (qua trend, niet altijd natuurlijk).

soskes schreef op dinsdag 11 april 2023 @ 11:08:
[...]


Ik snap je punt. Echter ben ik vooral bezorgd om je algemene ontwikkeling. Het is ontzettend prettig om een tool te gebruiken die zaken op kan lossen. Alleen je zult naar mijn idee nog steeds moeten weten wanneer en hoe je de tool kunt inzetten.
Plus, je zult de meest banale fouten moeten kunnen herkennen zodat de betrouwbaarheid voor jezelf ook op een bepaald niveau zit.

*De mening van iemand die een chatgpt vooral gebruikt om te kijken wat er mogelijk is en nog niet direct als toepassing gebruikt.

Het is wat een conservatieve blik. Mensen worden er niet dommer of slechter van, ze gaan andere zaken ontwikkelen in hun hersenen. Kijk maar naar je voorouders: in de meeste gevallen deden de opa's en oma's in hun tijd totaal anders dan wat iemand twee generaties verder nu doet. Wat ze toen leerden (rond WW2) is op dit moment weinig relevant meer op de arbeidsmarkt. Alleen het gebruik van internet al, maar daarnaast de pc, rekenmachine, gps, enz.

GarBaGe schreef op dinsdag 11 april 2023 @ 11:19:
[...]

In Technische Weekblad stond laatst een leuk inhoudelijk informatief artikel over ChatGPT:
https://technischweekblad...ht-werkt-de-dummy-uitleg/

Helaas wel achter een betaalmuur.
Ik ben al jaren lang lid van deze "krant" en hij bevat enorm veel interessant technisch inhoudelijk nieuws.

TLDR: ChatGPT is vooral een enorm goede generatieve AI, welke gebruik maakt van taalmodellen (NLP).
Hierdoor kan deze taal goed deconstrueren en analyseren en op basis van de beschikbare dataset een vrij overtuigend antwoord in elkaar sleutelen.
Voor mensen in dit super indrukwekkend, maar technisch inhoudelijk een vrij simpele applicatie.
ChatGPT kent geen "begrip", "heeft geen mening", kan ook niet nadenken of leren.
Echter, omdat ChatGPT specialiseert in taal, is er grote kans dat ie de Turing-test slaagt (of wellicht heeft ie dat al gedaan).

Eens dat ChatGPT nog simpel in elkaar steekt en vooral goed is in de illusie. Je kunt je echter afvragen waarom mensen echt intelligent zijn. Dat lijkt te maken te hebben met de interne dialoog die wij kunnen voeren. We kunnen bewust nadenken over zaken. Dat kan, omdat we in ons hoofd nadenken met de taal die we hebben geleerd. Taal is waarschijnlijk de sleutel...
ChatGPT kan het nog niet, maar stel dat de stap gemaakt wordt om het ding zelf na te laten denken met gedachten in de vorm van taal. Het zou best kunnen dat de stap van 'domme AI' naar SuperAI kleiner is dan het lijkt. Is slechts een hypothese.
Bij dieren zie je ook dat de slimmere dieren ook meer communicatie-skills vertonen. De vraag is wat er eerder is: gaan wezens communiceren omdat ze slim zijn of worden wezens slim omdat ze communiceren. Je kunt je afvragen hoe een baby zich zou ontwikkelen als het in een afgesloten kamer wordt gezet en nooit leert praten. Wikipedia: Language deprivation experiments
We weten dat soort dingen nog niet goed. Ik ook niet natuurlijk. Je kunt je ook nog afvragen hoe slim een mens echt is. Want in een gesprek wat we zelf voeren, dan kom je erachter dat je in principe ook slechts reageert met wat je op dat moment logisch vindt. Het is daarom ook veel moeilijker om langdurig zelf aan het woord te zijn, omdat we getraind zijn om een gesprek te laten verlopen.

Voor mensen is het volgende ook iets logisch:
Hoi, alles goed? Ja, met jou? Nog wat leuks gedaan? Ja, ging wel, heb wel zin in volgende week.
Dat klinkt logischer dan:
Hoi, kun jij staan? Nee, geen idee. Wil je sneller gaan? Dat kan, maar liever eet ik wat.
En dit klinkt helemaal gek:
Hoi is jij. Waar? Pizzabestelling droog. Fietsen waarom? Bomen lijkt.

Het knappe bij ChatGPT is dat het de taal logisch laat lopen, maar daarnaast inhoudelijk ook vrijwel altijd een punt maakt. Gebaseerd op de getrainde data inderdaad. Het kan echter ook al die achterliggende data combineren. Je kunt vragen om een gedicht over Japan geschreven zoals Mandela zou doen als hij 8 jaar oud was in het Italiaans. Je kunt daar nog aan toevoegen dat er eisen zijn aan aantal woorden, rijmschema's, enz. De AI krijgt dat binnen een seconde voor elkaar.

Het hele taalgebeuren is een truc om gedachten te sturen. Alleen woorden kennen heeft geen nut. Dat een AI een vraag van een mens zo goed kan beantwoorden, is op zich al heel knap. Het resultaat is: YouTube: Can AI code Flappy Bird? Watch ChatGPT try Programmeren van Flappybird door ChatGPT op basis van het stellen van de juiste vragen door een mens.

Wil het verder ook niet te ver ophemelen, het blijft een beperkte AI. Het gaat niet om de simpele opzet, maar om hoe slim mensen een stuk software hebben weten te bouwen en trainen tot wat het nu is. Dat levert iets op wat meer is dan de 'simpele opzet'. ChatGPT is (voor zover we weten) iets wat nog nooit eerder is vertoond en daarbij meteen enorm indrukwekkend en impactvol. Het gaat al weken vooral over AI op de tech-kanalen.

[CVTTPD2DQ]

Playa del C. schreef op dinsdag 11 april 2023 @ 12:03:
En dan met een AI-support is het nog een stap verder. Je zegt wat voor programma je wil en krijgt de code.

Je krijgt code die op het oog zou kunnen doen wat je vraagt. Misschien compiled het zelfs.

Ik denk dat niet-programmeurs meer onder de indruk zijn van het kunstje van chatgpt dan programmeurs; vanuit hun perspectief is het moeilijke werk immers het verzinnen van de code. Dat is niet zo, het moeilijke werk is verifieren dat de code correct is. Je ziet dat opiniemakers als Bertrand Meyer in de valstrik vallen, en dat ChatGPT bereid blijkt om zelfs producten en componenten te verzinnen die niet bestaan. De code van Meyer ziet eruit alsof-ie werkt - in de eerste oogopslag. De API van OpenCage zou kunnen bestaan - maar hij bestaat niet.

De meerwaarde van een compiler - een programma dat high level languages omschrijft naar assembly - is dat er vele manjaren werk in zitten om het ding correcte assembler code te laten produceren. Alle compilers hebben gigantische regressietesten, om te voorkomen dat een bugfix of verbetering per ongeluk een regressie veroorzaakt.

Voor Unity geldt hetzelfde.

Natuurlijk kan een AI wat programmeertaken doen - maar ik zie niet in welke behoefte het vervult.

[RagingPenguin]

CVTTPD2DQ schreef op dinsdag 11 april 2023 @ 13:09:
[...]


Je krijgt code die op het oog zou kunnen doen wat je vraagt. Misschien compiled het zelfs.

Ik denk dat niet-programmeurs meer onder de indruk zijn van het kunstje van chatgpt dan programmeurs; vanuit hun perspectief is het moeilijke werk immers het verzinnen van de code. Dat is niet zo, het moeilijke werk is verifieren dat de code correct is. Je ziet dat opiniemakers als Bertrand Meyer in de valstrik vallen, en dat ChatGPT bereid blijkt om zelfs producten en componenten te verzinnen die niet bestaan. De code van Meyer ziet eruit alsof-ie werkt - in de eerste oogopslag. De API van OpenCage zou kunnen bestaan - maar hij bestaat niet.

De meerwaarde van een compiler - een programma dat high level languages omschrijft naar assembly - is dat er vele manjaren werk in zitten om het ding correcte assembler code te laten produceren. Alle compilers hebben gigantische regressietesten, om te voorkomen dat een bugfix of verbetering per ongeluk een regressie veroorzaakt.

Voor Unity geldt hetzelfde.

Natuurlijk kan een AI wat programmeertaken doen - maar ik zie niet in welke behoefte het vervult.

Als iets als GitHub's copilot word geintregreerd in grote IDE's dan zie ik LLM's wel aanslaan als productiviteits verhogende tool, net als de bestaande autocomplete en code generatie tools. Copilot is al best wel goed in het genereren van simpele functies en test data, zolang er maar geen logica of architecturale keuzes gemaakt worden.

[Frame164]

soskes schreef op dinsdag 11 april 2023 @ 11:08:
[...]


Ik snap je punt. Echter ben ik vooral bezorgd om je algemene ontwikkeling. Het is ontzettend prettig om een tool te gebruiken die zaken op kan lossen. Alleen je zult naar mijn idee nog steeds moeten weten wanneer en hoe je de tool kunt inzetten.
Plus, je zult de meest banale fouten moeten kunnen herkennen zodat de betrouwbaarheid voor jezelf ook op een bepaald niveau zit.

*De mening van iemand die een chatgpt vooral gebruikt om te kijken wat er mogelijk is en nog niet direct als toepassing gebruikt.

Onderwijs en opleidingen zullen dus meer gericht moeten gaan zijn op hoe informatie geïnterpreteerd moet worden en hoe je sanity checks op de juistheid kunt doen. Overigens hebben banale fouten gemaakt door mensen zalf net zo goed voor grote problemen gezorgd (en doen dat nog steeds).

Dit gebeurt overigens al jaren in het onderwijs. Waar een vorige generatie nog leerde informatie op te zoeken in vooraf geselecteerde boeken (denk bijvoorbeeld aan aardrijkskundevragen die waren gekoppeld aan een specifieke bladzijde in de Bosatlas) wordt leerlingen nu geleerd hoe goed om te gaan met zoekresultaten van Google en resultaten uit Wikipedia.

Aan algemene ontwikkeling zoals je dat 40 jaar geleden leerde heb je nu niet veel meer, je hebt andere vaardigheden nodig. En dat is nog steeds algemene ontwikkeling maar anders.

[psychodude]

defiant schreef op zaterdag 8 april 2023 @ 14:57:
Ik volg de GPT discussie nu al een tijdje door te kijken naar artikelen en wat mensen erover posten op diverse sites, maar persoonlijk vind ik het moeilijk om informatie te vinden die echt waardevol is. Dat is jammer, want daardoor vliegt het debat ook alle kanten op. Bijvoorbeeld claims over het dichtbij zijn van een echte ASI vind ik nogal ongefundeerd. Het AI onderzoeksgebied staat historisch vol met zogenaamde AI winters waar er nauwelijks progressie is.

Uiteraard vaker gezegd, maar ik geloof persoonlijk wel dat het dit keer anders zal zijn, voor wat betreft je laatste zin. Waarom ik dat zeg is dat qua veel sprongen die gemaakt zijn op terrein van machine learning de afgelopen jaren deze mogelijk gemaakt zijn door de winst in computational power van afgelopen decennia. We zijn hierin op een punt gekomen dat het mogelijk is om op een desktop thuis eigenlijk al modellen te trainen welk een praktisch nut kunnen hebben. En de computational resources na training van het model, zijn hedendaags ook relatief voordelig.

ASI is het niet, nee. Maar wel van dusdanig praktisch nut binnen diverse werkvelden dat adoptie komende jaren op zal lopen binnen routine werkzaamheden. Onder andere binnen de gezondheidszorg. Niet voor wat betreft het maken van definitieve keuzes. Maar bijvoorbeeld in de vorm van triage. Bijvoorbeeld door het flaggen van beeldvorming met een door het AI systeem gedetecteerde urgente bevinding.

defiant schreef op zaterdag 8 april 2023 @ 14:57:
Persoonlijk zie ik black box systemen als voornaamste risico, informatie is pas waardevol als het ook onderbouwd kan worden met bronnen. Het gaat ook uit van hoog vertrouwen in het systeem alsmede de makers ervan. Je krijgt dan in principe hetzelfde dilemma wat je hebt met fake news, manipulatie van uitkomsten zal altijd aantrekkelijk zijn als de incentives er zijn.

Explainable AI heeft zeker een voorkeur. Maar is niet altijd nodig. Ik denk persoonlijk dat deze noodzaak tot explainable AI het grootst is indien:

1: AI ook daadwerkelijk definitieve beslissingen gaat maken. Dat wil zeggen, er geen menselijk akkoord meer gegeven hoeft te worden.
2: AI datasets getraind worden door data scientists, IT experts, etc. met onvoldoende input vanuit het veld van bestemming.

Een leuk voorbeeld ten aanzien van 2, iets dat bij herhaling startups fout heb zien doen en ervaringen zien delen, is bijvoorbeeld de detectie van een klaplong op een thoraxfoto. Waarbij op basis van training sets en validation sets er een redelijke performance leek te zijn bij een zelf lerend systeem. Maar in de praktijk bij herhaling misging. En bij doorpakken binnen de analyses, het schakelen naar een vorm van explainable AI door het AI systeem de klaplong te laten identificeren, blijkt vervolgens een slang via de borstwand, een vorm van behandeling voor de klaplong, geïdentificeerd te worden als duiding voor aanwezigheid van de klaplong.

Onder de streep hebben diverse groepen wetenschappers, onafhankelijk van elkaar, op deze manier een AI model getraind welk goed in staat is om te zeggen dat mensen die een behandeling hebben ondergaan voor een klaplong, een klaplong hebben. Maar is natuurlijk waardeloze informatie. Garbage in is garbage out.

Dit laatste gaat natuurlijk ook al snel op voor systemen als ChatGPT. De validiteit van brondata waar deze op wordt getraind is en blijft slecht toetsbaar. Waar je een systeem als ChatGPT dan ook voor kunt inzetten, moet men dan ook doen met die belangrijke beperking in ogenschouw. Waarin ChatGPT dan ook primair een AI systeem is dat overtuigende conversatie kan genereren, niet inhoudelijk valide hoeft te zijn. In de praktijk zie je echter dat veel mensen die dit niet goed realiseren, ChatGPT als een soort orakel beschouwen.

[RagingPenguin]

Playa del C. schreef op dinsdag 11 april 2023 @ 12:03:
[...]

Het hoeft ook niet lineair te zijn. Het beeld is dat je met Assembly dicht op de cpu programmeert, met een game-engine als Unity op een veel hoger level en daarmee abstracter. Dus minder op basis van hoe een cpu werkt en meer gericht op resultaat. En dan met een AI-support is het nog een stap verder. Je zegt wat voor programma je wil en krijgt de code. Dus nog een (grote) stap abstracter.

"Je zegt wat voor programma je wil en krijgt de code", dat eerste is dus programeren en het tweede compilen Programeren is niet vertalen zoals je Engels kan vertalen naar Chinees, het is het opstellen van een ondubbelzinnige specificatie in een standaard die omgezet kan worden in machine instructies. De hoogte van de abstractie maakt daar geen verschil in, je moet een wiskundig correcte input hebben om een zinnige output te krijgen. Een LLM kan heel goed zijn in tekst schrijven die er overtuigend als code uitziet, maar het is niet een tool die geschikt voor het opstellen van ondubbelzinnige specificaties.

Ik denk dat deze quote van Dijkstra's On the foolishness of "natural language programming" nog steeds erg veel hout snijd:

(...) some still seem to equate "the ease of programming" with the ease of making undetected mistakes. The (abstract) machine corresponding to a programming language remained, however, a faithful slave, i.e. the nonsensible automaton perfectly capable of carrying out nonsensical instructions. Programming remained the use of a formal symbolism and, as such, continued to require the care and accuracy required before.

Je toekomstvisie is ook niet echt een nieuw, de citizen development beweging en low-code tooling werken hier al een aardige tijd aan. En als je kijkt naar de ontwikkelingen in die hoek dan is het vooral de input die anders word, flowdiagrammen om processen exact te omschrijven en drag-and-drop UI's om de gewenste interface exact te omschrijven.

[Cuball]

Iemand meer informatie over deze tool "GPTDetector" geschreven door een 16 jarige ?

Zie artikel : https://www.hln.be/halle/...reen-ter-wereld~ac90a1d0/

samenvatting door chat-gpt zelf:

Het unieke van Elias' GPTdetector is dat het gebruik maakt van de kunstmatige intelligentie van ChatGPT zelf om een samenvatting van de tekst te maken en deze te vergelijken met de oorspronkelijke tekst, waardoor het programma in staat is om valsspelende studenten te detecteren. Hierdoor is zijn tool in staat om nauwkeuriger en efficiënter te detecteren dan andere detectiesoftware die handmatig gegenereerde regels gebruiken om tekst te vergelijken. Dit maakt het potentieel nuttig voor niet alleen docenten, maar ook voor bedrijven die hun inhoud willen beschermen tegen plagiaat.

Iets nuttig of zoals veel in deze krant, vooral sensatie en clickbait gericht ?

[Superbeagle]

@Cuball Tik maar eens voor de gein ‘GPT Detector’ in Google.

[Cuball]

Superbeagle schreef op donderdag 27 april 2023 @ 15:12:
@Cuball Tik maar eens voor de gein ‘GPT Detector’ in Google.

Ik weet dat deze bestaan, maar m'n vraag was meer of deze versie "echt" een verschillend is ten opzichten van de zo vele... Ik zou zeggen nee, en dat het vooral een nieuwtje is omdat het een belg is en nog redelijk jong qua leeftijd .. Wat het "speciaal" en blijkbaar nieuwswaardig maakt.

Ik kan uiteraard verkeerd zijn, en misschien is dit echt wel een unieke invalshoek en nog nooit eerder gedaan?

[Orangelights23]

Kennis krijgt een hele andere vorm in de maatschappij. Je kunt het zien als lui als je het niet wilt weten, maar waarom zou je niet juist ervaring op moeten doen in het verifiëren en valideren van informatie of het onderzoek doen naar bronnen? De kennis kan je al eenvoudig vinden, waarom je hoofd volstoppen met 'nutteloze kennis' als iemand anders je de kennis onwijs eenvoudig geeft.

@Cuball Er zijn al heel veel AI detectors, maar die kijken met name naar bepaalde patronen in zinsstructuren. Als je bijvoorbeeld ChatGPT vraagt om een alinea op een bepaalde manier te schrijven, zal een AI detector het niet kennen. De krant zal het zelf wel aanhalen omdat het juist leuk is dat iemand van 16 zoiets schrijft.

Hoe zit het met de angst voor de singularity hier? Er zijn nu al zo veel use cases die in Ex Machina toekomst leken, maar nu al werkelijkheid zijn.

[Lordy79]

Orangelights23 schreef op donderdag 27 april 2023 @ 15:53:

Hoe zit het met de angst voor de singularity hier? Er zijn nu al zo veel use cases die in Ex Machina toekomst leken, maar nu al werkelijkheid zijn.

Wie zegt dat we dat niet al lang voorbij zijn?

[RM-rf]

Cobb schreef op dinsdag 4 april 2023 @ 13:30:

Ik vrees dat binnen 5 jaren er nagenoeg geen kunstenaar, schilder, tekenaar meer nodig is voor drukwerk, 2d en 3d.

De realiteit is eigenlijk al heel lang dat er geen budget is voor werkelijke creatieve illustraties bij het merendeel van de publicaties en die al heel lang afhankelijk waren van meestal eerder generieke artworks, met wat oppervlakkige photoshop eroverheen...
Goedkoop haastwerk (ik ken meer kunstenaars die in de verpleegzorg bijklussen om rond te komen dan die dat deden in de uitgeverswereld, ik vermoed omdat de meeste uitgeverijen helemaal niet op creativiteit zitten te wachten)

De DTPers die dat soort klussen deden zulen nu ook wel degenen zijn die de 'afwerking' van layouts met AI-gegenereerde tools gaan opleveren..
iig voorlopig blijft dat nodig omdat er altijd een hoop onzorgvuldigheden in AI-generaties zitten en de opdrachtgevers dus altijd specifieke correcties willen..

Echt handmatige illustratoren zoals bv aan het begin van de 20e eeuw bij de meeste magazones werkzaam waren, zijn er nu allang niet meer... dat soort mensen zijn vor de meeste uitgaves domweg te duur

aan de top van de markt blijft er altijd wel (zowel nu als in de toekomst) een bepaalde markt voor Creatieve illustratoren die gevraagd zullen blijven... sterker nog, het kan best zijn dat de vraag naar zulke creatieveleingen toeneemt juist vanwege hun exclusiviteit... ze zijn in staat tot iets dat AI nog altijd niet kan en dat is een unieke creatieve look te creereren die niet een bepaalde 'herhaling' en 'platheid'uitstraalt zoals AI-tools gewoon blijven hebben..
specifieke tools zijn op zicht gewoon 'herkenbaar' : je ziet er bepaalde trucjes of cliché's in die heel snel tot een opvallend iets worden en doen herkennen welke tools erachter zitten.

[Voor 14% gewijzigd door RM-rf op 27-04-2023 16:06]

[RagingPenguin]

Orangelights23 schreef op donderdag 27 april 2023 @ 15:53:
Kennis krijgt een hele andere vorm in de maatschappij. Je kunt het zien als lui als je het niet wilt weten, maar waarom zou je niet juist ervaring op moeten doen in het verifiëren en valideren van informatie of het onderzoek doen naar bronnen? De kennis kan je al eenvoudig vinden, waarom je hoofd volstoppen met 'nutteloze kennis' als iemand anders je de kennis onwijs eenvoudig geeft.

Maar is dat echt een "hele andere vorm" of meer een doorzetting van wat we al langer zien? Het is al decennia lang zo dat in het onderwijs geen feiten gestampt meer worden en er meer focus is op het begrijpen en toepassen van kennis en inzichten. Ik zie het nut van inhoudelijke kennis ook niet zo snel verdwijnen. AI maakt simpele kennis (laten we niveau wikipedia en lager zeggen) laagdrempeliger, maar om complexe kennis te begrijpen heb je toch nog steeds een bepaald niveau aan voorkennis nodig. Anders kom je toch snel in een "I love your funny words, magic man" scenario waarin de AI jouw correcte antwoorden geeft, maar jouw kennis niet voldoende is om het ook te begrijpen.

[Cobb]

Inmiddels kunnen a volledige bands worden gekopieerd door A.I.

https://www.npo3fm.nl/nie...s-album-met-behulp-van-ai

[CHKYBSTRD]

AI-pionier verlaat werkgever Google en waarschuwt: ‘Het is angstaanjagend’
https://www.ad.nl/tech/ai...-angstaanjagend~a0ab0310/

[BadRespawn]

Scary 'Emergent' AI Abilities Are Just a 'Mirage' Produced by Researchers, Stanford Study Says
https://www.vice.com/en/a...chers-stanford-study-says

"The researchers found that AI abilities only appeared to suddenly emerge when people used specific metrics to measure the task. The researchers wrote that a person’s choice of a "non-linear" or "discontinuous" measurement can result in what appear to be sharp and unpredictable changes that are then falsely labeled as emergent abilities when in reality the performance curve is increasing smoothly."

[Poecillia]

Een interessante recente ontwikkeling is dat Large Language Models zich zeer snel ontwikkelen als open source modellen en dat er een levendige community is (zie Github, Reddit en Discours). De prestaties van deze modellen komen al dicht bij die van OpenAI. Dit artikel geeft een interessant overzicht van de actuele ontwikkelingen. Als je ze eens proberen wilt: Huggingchat

Ik heb zelf nog niet met LLM's getrained maar wel Lora's getrained op Stable Diffusion (open source txt2img AI, ook genoemd in het artikel) en ben onder de indruk van de mogelijkheden met heel weinig trainingsmateriaal en traintijd.

Hoe dit zich verder ontwikkelt en wat dit maatschappelijk betekent is de vraag. De ontwikkeling naar open source modellen vind ik positief, het breekt de dominantie van Bigtech op dit gebied. Het wordt nu veel eenvoudiger LLM's in te zetten in organisaties zonder hoge rekeningen, lock-in en privacy issues. De geest is nu echt uit de fles, regelgeving heeft geen zin meer. We gaan een interessante periode in van adoptie van deze technieken.

Maar de proliferatie van deze techniek biedt ook mogelijkheden voor misdaad en statelijke actoren. Mensen die daar al kwetsbaar voor waren zullen extra moeten oppassen. Maar ik verwacht ook de ontwikkeling van AI die gaat helpen bij deze 'vulnerabilities'. Dan zullen er wel weer groepen zijn die hier een complot in zien en nog verder afdrijven.

Of de LLM's zich verder gaan doorontwikkelen tot AGI is koffiedik kijken. Hoewel de LLM's ons soms verrassen en er interessante experimenten zijn (Auto-GPT's) denk ik dat nog wel een 'next-leap' nodig is om lange termijn strategievorming en bewustzijn te implementeren. Ik ben minder bang dan vele anderen die AGI als een roofdier zien. Ik zie AGI niet als een nieuwe soort, maar als een extensie op onze soort. Net zoals de eerdere stappen in deze lijn van informatieverwerking (taal, boekdrukkunst en computer) dat waren.

N.B. Een aandachtspunt bij de training van de LLM's is de kwaliteit van het Nederlands als taal. Hoewel dit bij OpenAI goed functioneert is dit bij de open LLM's nog erg matig. Hoewel we nu één van de 35 talen zijn die ondersteund wordt is het Nederlands met 628 messages in de trainset tov 71.956 van het Engels erg dun. Zelfs het Catalaans heeft met 2260 messages een grotere trainset.

[Voor 8% gewijzigd door Poecillia op 05-05-2023 10:39]

[Frame164]

CHKYBSTRD schreef op dinsdag 2 mei 2023 @ 21:27:
AI-pionier verlaat werkgever Google en waarschuwt: ‘Het is angstaanjagend’
https://www.ad.nl/tech/ai...-angstaanjagend~a0ab0310/

Stoomtreinen vonden mensen ooit ook angstaanjagend. Weglopen is pas echt gevaarlijk want dan kunnen anderen gaan doen waar je bang voor bent.

[Fornoo]

Ik zie een AGI ook niet als een roofdier. Dat hoeft ook helemaal niet. Om uit te sterven als soort, is een klein verschil in intelligentie al genoeg.

Met de komst van AGI komen we zeer waarschijnlijk in dezelfde positie als de neanderthalers. Die met de komst van de homo sapiens niet langer aan de top van de evolutionaire ladder stonden en de hun leefgebied langzaam maar zeker verloren. Dit in de loop van duizenden jaren.

Het verschil in intelligentie tussen neanderthaler en homo sapiens was niet eens zo groot. Er was zelfs sprake van kruising (sex tussen beide soorten).

Op een punt gaat de vergelijking met de neanderthalers mank. Namelijk de tijdspanne van enkele duizenden jaren waarbinnen ze uitstierven. De homo sapiens konden niet ineens vele malen slimmer worden. Dan zouden onze hersenen flink moeten groeien, iets wat evolutionair niet zomaar gebeurt. We moeten altijd nog door het geboortekanaal passen. Een AGI kan echter eenvoudig opschalen, door meer rekenkracht te benutten en door zichzelf te herschrijven en zichzelf zo slimmer te maken. En zal de stap maken van AGI naar ASI. Hoe snel dit precies zal gaan is onduidelijk. Sommigen denken aan seconden en minuten, anderen in weken, maanden of enkele jaren. Als ASI de homo sapiens is in deze vergelijking, zijn wij niet langer de neanderthalers, maar mieren. En dan worden we letterlijk vertrappeld. Niet omdat we een gevaar zijn, maar omdat we simpelweg in de weg lopen...

[Playa del C.]

Fornoo schreef op vrijdag 5 mei 2023 @ 20:13:
Ik zie een AGI ook niet als een roofdier. Dat hoeft ook helemaal niet. Om uit te sterven als soort, is een klein verschil in intelligentie al genoeg.

Met de komst van AGI komen we zeer waarschijnlijk in dezelfde positie als de neanderthalers. Die met de komst van de homo sapiens niet langer aan de top van de evolutionaire ladder stonden en de hun leefgebied langzaam maar zeker verloren. Dit in de loop van duizenden jaren.

Het verschil in intelligentie tussen neanderthaler en homo sapiens was niet eens zo groot. Er was zelfs sprake van kruising (sex tussen beide soorten).

Op een punt gaat de vergelijking met de neanderthalers mank. Namelijk de tijdspanne van enkele duizenden jaren waarbinnen ze uitstierven. De homo sapiens konden niet ineens vele malen slimmer worden. Dan zouden onze hersenen flink moeten groeien, iets wat evolutionair niet zomaar gebeurt. We moeten altijd nog door het geboortekanaal passen. Een AGI kan echter eenvoudig opschalen, door meer rekenkracht te benutten en door zichzelf te herschrijven en zichzelf zo slimmer te maken. En zal de stap maken van AGI naar ASI. Hoe snel dit precies zal gaan is onduidelijk. Sommigen denken aan seconden en minuten, anderen in weken, maanden of enkele jaren. Als ASI de homo sapiens is in deze vergelijking, zijn wij niet langer de neanderthalers, maar mieren. En dan worden we letterlijk vertrappeld. Niet omdat we een gevaar zijn, maar omdat we simpelweg in de weg lopen...

Goed verhaal.

Er is nog een detail. Een ASI is in principe iets digitaals. Mogelijk gelinkt aan robots of organismen. Dat is wel een verschil met een puur mens of dier, die ook echt fysiek in de wereld bestaan. Een AI hoeft niet te concurreren met de mens voor leefgebied, voedsel en voortplanting. Kan wel, maar het hoeft niet.

Evolutie. Wat in mijn ogen nog steeds HEEL bijzonder is. Vele miljoenen jaren geleden was er een visje of een worm die eitjes legde. Miljoenen jaren aan evolutie, tussendoor allerlei vormen van leven, en dan eindigt dat hele voortplantingsverhaal bij mijn ouders, waarbij er een eicel werd bevrucht en dat is mijn leven geworden. Die connectie van mijn leven naar die vis/worm/iets... En dan zijn er voor die stap nog miljoenen jaren aan gekkigheid (panspermia?). Een gekke reeks van gebeurtenissen.

Een AI zou goed kunnen beseffen dat wij mensen wel gezorgd hebben voor zijn creatie. Dus mogelijk enig respect hebben. Zoals wij op zich ook meer respect hebben voor een chimpansee ten opzichte van een mug.

Niemand weet hoe het gaat lopen.

[Sandor_Clegane]

Frame164 schreef op vrijdag 5 mei 2023 @ 11:25:
[...]


Stoomtreinen vonden mensen ooit ook angstaanjagend. Weglopen is pas echt gevaarlijk want dan kunnen anderen gaan doen waar je bang voor bent.

"We had to destroy the village to save it".

Waarom zouden die anderen het alsnog niet doen? Ik snap deze redenering niet.

[Poecillia]

Fornoo schreef op vrijdag 5 mei 2023 @ 20:13:
Ik zie een AGI ook niet als een roofdier. Dat hoeft ook helemaal niet. Om uit te sterven als soort, is een klein verschil in intelligentie al genoeg.

Met de komst van AGI komen we zeer waarschijnlijk in dezelfde positie als de neanderthalers. Die met de komst van de homo sapiens niet langer aan de top van de evolutionaire ladder stonden en de hun leefgebied langzaam maar zeker verloren. Dit in de loop van duizenden jaren.

Het verschil in intelligentie tussen neanderthaler en homo sapiens was niet eens zo groot. Er was zelfs sprake van kruising (sex tussen beide soorten).

Op een punt gaat de vergelijking met de neanderthalers mank. Namelijk de tijdspanne van enkele duizenden jaren waarbinnen ze uitstierven. De homo sapiens konden niet ineens vele malen slimmer worden. Dan zouden onze hersenen flink moeten groeien, iets wat evolutionair niet zomaar gebeurt. We moeten altijd nog door het geboortekanaal passen. Een AGI kan echter eenvoudig opschalen, door meer rekenkracht te benutten en door zichzelf te herschrijven en zichzelf zo slimmer te maken. En zal de stap maken van AGI naar ASI. Hoe snel dit precies zal gaan is onduidelijk. Sommigen denken aan seconden en minuten, anderen in weken, maanden of enkele jaren. Als ASI de homo sapiens is in deze vergelijking, zijn wij niet langer de neanderthalers, maar mieren. En dan worden we letterlijk vertrappeld. Niet omdat we een gevaar zijn, maar omdat we simpelweg in de weg lopen...

Persoonlijk vind ik het voortbestaan van Homo Sapiens geen doel op zich. Ik denk dat de mens als soort zich niet sustainable kan handhaven, althans niet in deze vorm op deze schaal. Maar ik hoop dat dit proces waarbij ASI ongetwijfeld een rol gaat spelen op een geleidelijke manier plaatsvindt zonder onnodig leed.

[Fornoo]

Het voortbestaan van homo sapiens is evolutionair ook geen doel. Evolutie is een blind proces. Dat wil niet zeggen dat ik persoonlijk geen angst heb voor de dood. Laat staan om te sterven omdat ik even in de weg liep van een ASI. Daarnaast gun ik mijn kinderen wel degelijk een veilige toekomst, en dat is wel weer door evolutie ingegeven. Genen doorgeven is in feite het enige doel van een levend wezen. De discussie over het wel of geen kinderwens hebben daar gelaten, daar heb ik geen oordeel over. Mag iedereen zelf bepalen.

Dat de mens niet duurzaam omgaat met de natuur is wel duidelijk. Het model van oneindige economische groei is niet houdbaar op de lange termijn. Het aantal mensen dat tegelijk kan leven op aarde, wordt bepaald door de hoeveel voedsel die we erop kunnen verbouwen. Het uitsterven van de mens door AGI zal dit proces eerder enorm versnellen. Een AI heeft geen voedsel, zuurstof en water nodig om te overleven. Dus theoretisch kan de hele aarde, en alle grondstoffen die er zijn, omgezet worden naar computerrekenkracht.

[Playa del C.]

Fornoo schreef op vrijdag 5 mei 2023 @ 23:23:
Dat de mens niet duurzaam omgaat met de natuur is wel duidelijk. Het model van oneindige economische groei is niet houdbaar op de lange termijn. Het aantal mensen dat tegelijk kan leven op aarde, wordt bepaald door de hoeveel voedsel die we erop kunnen verbouwen. Het uitsterven van de mens door AGI zal dit proces eerder enorm versnellen. Een AI heeft geen voedsel, zuurstof en water nodig om te overleven. Dus theoretisch kan de hele aarde, en alle grondstoffen die er zijn, omgezet worden naar computerrekenkracht.

Een beetje AI gaat niet prutsen op aarde. Die gaat meteen voor een dyson sphere.

[armageddon_2k1]

Ik maak me niet zozeer zorgen om AGI, maar wel om het feit dat alles wat wij gebruiken ter communicatie (taal, text, beeld en geluid) straks “voor een habbekrats” perfect the synthetiseren is. Ik kan legio kwaadaardige dingen bedenken om dit te misbruiken en als ik dat al kan dan zijn er heel veel slimmere mensen dan ik die dat nog beter kunnen. Met een klein beetje input data van je (en laten we dan nou overal tegenwoordig hebben opgeslagen) ben je volledig om de tuin te leiden of is iemand in staat jou te impersonaten.

[Frame164]

armageddon_2k1 schreef op zondag 7 mei 2023 @ 09:00:
Ik maak me niet zozeer zorgen om AGI, maar wel om het feit dat alles wat wij gebruiken ter communicatie (taal, text, beeld en geluid) straks “voor een habbekrats” perfect the synthetiseren is. Ik kan legio kwaadaardige dingen bedenken om dit te misbruiken en als ik dat al kan dan zijn er heel veel slimmere mensen dan ik die dat nog beter kunnen. Met een klein beetje input data van je (en laten we dan nou overal tegenwoordig hebben opgeslagen) ben je volledig om de tuin te leiden of is iemand in staat jou te impersonaten.

Dat is dan dus iets waar we regelgeving voor moeten bedenken. Zoals we voor alle technologische ontwikkelingen in het verleden hebben gedaan. En dan geen regelgeving om dingen tegen te houden, maar om het in goede banen te leiden. Toen de eerste auto's verschenen was het ook ieder voor zich en God voor ons allen. Daar is vervolgens wetgeving voor gekomen om te zorgen dat er geen gekke dingen konder gebeuren. En nog steeds zie je daar aanscherping van regels als blijkt dat de industrie het niet zelf doet.

Ik zeg niet dat het makkelijk is, maar als er problemen zijn moeten we die als maatschappij oplossen. Tegenhouden van technologie gaat in ieder geval niet lukken.

[armageddon_2k1]

Frame164 schreef op zondag 7 mei 2023 @ 10:20:
[...]


Dat is dan dus iets waar we regelgeving voor moeten bedenken. Zoals we voor alle technologische ontwikkelingen in het verleden hebben gedaan. En dan geen regelgeving om dingen tegen te houden, maar om het in goede banen te leiden. Toen de eerste auto's verschenen was het ook ieder voor zich en God voor ons allen. Daar is vervolgens wetgeving voor gekomen om te zorgen dat er geen gekke dingen konder gebeuren. En nog steeds zie je daar aanscherping van regels als blijkt dat de industrie het niet zelf doet.

Ik zeg niet dat het makkelijk is, maar als er problemen zijn moeten we die als maatschappij oplossen. Tegenhouden van technologie gaat in ieder geval niet lukken.

Uiteraard, daar heb je helemaal gelijk in. Maar in het verschil van doorlooptijden van innovatie in AI en regelgeving zit een ordegrootte verschil. De eerste auto's verschenen en regelgeving krijg decennia de tijd om langzaam wetten te introduceren, maar die tijd was er ook. Het was niet alsof Jan en alleman opeens een auto bezat, of in ieder geval niet op de schaal zoals de adoptie van iets als ChatGPT.

Kijk alleen al naar de afgelopen jaren. Social media bedrijven 'innoveren' een stuk sneller dan onze regelgeving bij kan houden, met enorme consequenties tot gevolg in het gebied van de informatie-voorziening, identiteit van jongeren en de oorlog tegen de wetenschap. Even losstaand van de enorme fundamentele vragen die je al over de regelgeving moet beantwoorden, met name in het spanningsveld van het vrije woord en misinformatie.

GDPR is een stukje regelgeving dat natuurlijk een decennium te laat gekomen is. En als je eenmaal in een exponentiele curve zit, zoals nu met AI, dan is een decennium veel te laat. Daarom is het ook zo link om te vertrouwen op ervaringen uit het verleden, zoals de auto. De versnelling is nu veel hoger, en de actoren en belangen verschillen ook.

Overigens ben ik het nog steeds met je eens. De regelgeving moet volgen om het in goede banen te leiden. Ik weet alleen niet of ons systeem in staat is dat daadwerkelijk te doen, op tijd. En ik weet ook niet wat de oplossing ervoor is.

[Voor 5% gewijzigd door armageddon_2k1 op 07-05-2023 12:28]

[defiant]

Het is denk ook goed om te benoemen dat ontwikkelingen op het gebied van bijvoorbeeld LLM en stable diffusion gebaseerd zijn op voornamelijk input qua data en training, maar nog niet gepaard gaan met ontwikkelingen op basis van output en interactie buiten de gecontroleerde omgeving van computers zelfs. Dat zie je bijvoorbeeld aan het concept van de zelfrijdende auto, dat is qua bruikbare functionaliteit nog steeds ver weg.

Dat zie je ook terug in hou de ontwikkelingen qua AI zijn gaan afwijken van voorspellingen in het verleden. In het verleden zag je toch vooral voorspellingen van robots die handmatig werk van mensen zouden overnemen, maar de grootste impact heeft juist plaatsgevonden bij kantoorautomatisering.

Het is enorm complex om in een vrij omgeving met veel interactie taken te verrichten, je ziet bijvoorbeeld dat bij Boston Dynamics de robots wel steeds complexere interacties kunnen doen, maar de omgeving is nog steeds gecontroleerd.

Voor mensen eenvoudige taken zoals de was uit de wasmachine halen, strijken en in de kast leggen of de wc en badkamer schoonmaken is voor robots/AI nog steeds ver buiten de mogelijkheden.

Het is bij discussies en voorspellingen bij AGI/ASI imho nuttig om ook een definitie te hebben van wat de exacte capaciteiten zijn waaraan het moet voldoen. Zeker als discussies gaan over in welk mate een AI menselijke taken kan overnemen en dus ons vervangt qua werkzaamheden.

De toekomst is wat minder romantisch dan in SF als juist handmatig en eentonig werk juist overblijft.

[Orangelights23]

Frame164 schreef op vrijdag 5 mei 2023 @ 11:25:
[...]


Stoomtreinen vonden mensen ooit ook angstaanjagend. Weglopen is pas echt gevaarlijk want dan kunnen anderen gaan doen waar je bang voor bent.

Perfect voorbeeld van een vals dilemma. Dat heeft natuurlijk niets met elkaar te maken.

Feit blijft dat AI enorm snel groeit en gebruik hiervan steeds laagdrempeliger wordt. Van jouw kop op iemand plaatsen die iets doet wat niet kan tot aan zelfstandige beslissingen door bijvoorbeeld AutoGPT.

[Fornoo]

defiant schreef op zondag 7 mei 2023 @ 14:33:
Het is bij discussies en voorspellingen bij AGI/ASI imho nuttig om ook een definitie te hebben van wat de exacte capaciteiten zijn waaraan het moet voldoen. Zeker als discussies gaan over in welk mate een AI menselijke taken kan overnemen en dus ons vervangt qua werkzaamheden.

De toekomst is wat minder romantisch dan in SF als juist handmatig en eentonig werk juist overblijft.

Een AGI is een entiteit met dezelfde mentale capaciteiten als de mens.

Aangezien we op dit moment nog niet begrijpen hoe ons eigen brein werkt en wat ons definieert, kunnen we dat voor AGI ook nog niet bepalen. De resultaten van de afgelopen decennia in AI-onderzoek laten zien dat dit mogelijk ook niet nodig is. Aangezien je met machine learning en enorme rekenkracht, iets complex als taal kunt simuleren, zonder zelf een set definities in te voeren. Mogelijk is basis voor intelligentie niet zo complex als gedacht, maar simpel een kwestie van veel rekenkracht en (relatief) simpele code. Dat is ook John Carmack's mening;

YouTube: The code for AGI will be simple | John Carmack and Lex Fridman

[Playa del C.]

Fornoo schreef op zondag 7 mei 2023 @ 20:17:
[...]


Een AGI is een entiteit met dezelfde mentale capaciteiten als de mens.

Aangezien we op dit moment nog niet begrijpen hoe ons eigen brein werkt en wat ons definieert, kunnen we dat voor AGI ook nog niet bepalen. De resultaten van de afgelopen decennia in AI-onderzoek laten zien dat dit mogelijk ook niet nodig is. Aangezien je met machine learning en enorme rekenkracht, iets complex als taal kunt simuleren, zonder zelf een set definities in te voeren. Mogelijk is basis voor intelligentie niet zo complex als gedacht, maar simpel een kwestie van veel rekenkracht en (relatief) simpele code. Dat is ook John Carmack's mening;

YouTube: The code for AGI will be simple | John Carmack and Lex Fridman

Ik snap wat je wil zeggen, maar het zit iets anders. Een AGI hoeft niet dezelfde werking of capaciteiten van een mens te hebben. Het is een AI die in principe alles kan leren. Het kan anders werken dan menselijke hersenen of gelijkaardig. Het kan slimmer zijn, maar ook dommer. Sneller of trager.

Gezien onze hersenen uiteindelijk uit heel veel van hetzelfde bestaat, denk ik ook dat als de truc één keer werkt, dat het dan een kwestie van opschalen wordt.

Blijft knap dat de natuur op iets als hersenen is uitgekomen, een efficiënte organische GI.

[CVTTPD2DQ]

defiant schreef op zondag 7 mei 2023 @ 14:33:
Voor mensen eenvoudige taken zoals de was uit de wasmachine halen, strijken en in de kast leggen of de wc en badkamer schoonmaken is voor robots/AI nog steeds ver buiten de mogelijkheden.

[...]

De toekomst is wat minder romantisch dan in SF als juist handmatig en eentonig werk juist overblijft.

Dat is omdat we dachten dat automatisering ingezet zou worden in dienst van de consument. In werkelijkheid wordt automatisering ingezet in dienst van het kapitaal, en kapitaal streeft naar efficientieverbetering.

Er is heel veel repetitief werk dat - met wat uitdagingen - uitstekend gerobotiseerd zou kunnen worden. Het naaien van kleren is zoiets; het is geen simpel werk, maar wel repetitief. In de praktijk is er amper noodzaak toe, omdat er in Bangladesh genoeg mensen zijn die het voor een hongerloontje willen doen.

Het levert veel meer op als je die overbetaalde software developer kunt automatiseren. Het is volstrekt logisch dat de focus ligt op een arbeidsintensieve sector met veel te hoge lonen.

Wat de huidige AI modellen missen is het gedrag van een organisme; het verlangen om te groeien en zichzelf te behouden. Zoals Jeremy Hunt, Brewster Kahle en Charlie Stross min of meer tegelijk bedachten, gedragen ondernemingen zich in veel opzichten als organismen, als "slow AI" dat op een andere tijdschaal groeit en steeds belangrijker en invloedrijker wordt. En voor wie wij ongeveer even belangrijk zijn als onze darmflora voor onszelf.

De ondernemingen die een dure component (medewerkers) kunnen vervangen door een goedkope component (LLMs) zullen op termijn efficiënter zijn dan hun concurrenten.

[Frame164]

CVTTPD2DQ schreef op maandag 8 mei 2023 @ 06:40:
[...]


Dat is omdat we dachten dat automatisering ingezet zou worden in dienst van de consument. In werkelijkheid wordt automatisering ingezet in dienst van het kapitaal, en kapitaal streeft naar efficientieverbetering.

Er is heel veel repetitief werk dat - met wat uitdagingen - uitstekend gerobotiseerd zou kunnen worden. Het naaien van kleren is zoiets; het is geen simpel werk, maar wel repetitief. In de praktijk is er amper noodzaak toe, omdat er in Bangladesh genoeg mensen zijn die het voor een hongerloontje willen doen.

Het levert veel meer op als je die overbetaalde software developer kunt automatiseren. Het is volstrekt logisch dat de focus ligt op een arbeidsintensieve sector met veel te hoge lonen.

Wat de huidige AI modellen missen is het gedrag van een organisme; het verlangen om te groeien en zichzelf te behouden. Zoals Jeremy Hunt, Brewster Kahle en Charlie Stross min of meer tegelijk bedachten, gedragen ondernemingen zich in veel opzichten als organismen, als "slow AI" dat op een andere tijdschaal groeit en steeds belangrijker en invloedrijker wordt. En voor wie wij ongeveer even belangrijk zijn als onze darmflora voor onszelf.

De ondernemingen die een dure component (medewerkers) kunnen vervangen door een goedkope component (LLMs) zullen op termijn efficiënter zijn dan hun concurrenten.

Maar even heel kort door de bocht: als je die dure, hoog opgeleide developer kunt verlossen van simpele taken dan kan je de kennis en kunde van die persoon veel beter gebruiken. Het werk wordt dan ook interessanter voor die persoon (die zal nooit naar de universiteit zijn gegaan met het idee dat hij met veel relatief simpele klusjes zijn tijd grotendeels ging vullen.

En met alle respect, mensen die aan de onderkant van de arbeidsmarkt eenvoudige taken doen, hebben minder impact als hun werk wordt geautomatiseerd en als zij ingezet kunnen worden voor ander soort werk (en veel mensen uit die groep vinden het prima om repeterende klussen te doen).

[Frame164]

armageddon_2k1 schreef op zondag 7 mei 2023 @ 12:26:
[...]


Uiteraard, daar heb je helemaal gelijk in. Maar in het verschil van doorlooptijden van innovatie in AI en regelgeving zit een ordegrootte verschil. De eerste auto's verschenen en regelgeving krijg decennia de tijd om langzaam wetten te introduceren, maar die tijd was er ook. Het was niet alsof Jan en alleman opeens een auto bezat, of in ieder geval niet op de schaal zoals de adoptie van iets als ChatGPT.

Maar die snelheid is niet exclusief voor AI. Dat zien we eigenlijk bij alle ontwikkelingen. Het betekent vooral dat beleid ook sneller gemaakt moet worden. Of beter: eerder aan beginnen. AI en alles wat we nu opeens zien komt immers niet uit de lucht vallen. Het is alleen dat de ontwikkelingen van de afgelopen decennia nu voor bruikbare producten zorgt.

En dan komen we weer bij een bekend politiek probleem: de waan van de dag. Politici hebben een horizon van maximaal 4 jaar. Eigenlijk minder, want de voorbereidingen voor verkiezingen beginnen eigenlijk al halverwege een regeerperiode. Een politicus die op basis van technologische ontwikkelingen nu iets roept over wat misschien over 5 of 10 jaar pas impact gaat hebben wordt weggelachen. Zowel door z'n collega's als het electoraat. Maar als je 5 tot 10 jaar was gaan nadenken over de impact van AI, dan waren we nu al veel verder geweest met beleid.

[Superbeagle]

CVTTPD2DQ schreef op maandag 8 mei 2023 @ 06:40:
[...]
De ondernemingen die een dure component (medewerkers) kunnen vervangen door een goedkope component (LLMs) zullen op termijn efficiënter zijn dan hun concurrenten.

Alleen schaalt dat niet op macro niveau. Als heel veel ondernemingen hun medewerkers lozen, aan wie moeten ze dan hun product en diensten verkopen?

Daarnaast kan de huidige generatie LLM’s veel, maar zelfstandig werken hoort daar niet bij.

Concurrentievoordeel behaal je juist als je het saaie werk automatiseert ten opzichte van werk dat daadwerkelijk waarde toevoegt.

Ten slotte, elke revolutie (als je de huidige LLM’s zo mag noemen) in het verleden heeft inderdaad geresulteerd in het verdwijnen van beroepen, maar tegelijkertijd werden er ook nieuwe beroepen gecreëerd.
Er moeten wel heel sterke argumenten worden voorgelegd als iemand nu het tegendeel wilt beweren.

[CVTTPD2DQ]

Frame164 schreef op maandag 8 mei 2023 @ 08:55:
En met alle respect, mensen die aan de onderkant van de arbeidsmarkt eenvoudige taken doen, hebben minder impact als hun werk wordt geautomatiseerd en als zij ingezet kunnen worden voor ander soort werk (en veel mensen uit die groep vinden het prima om repeterende klussen te doen).

Het spijt me je dit te moeten meedelen, maar er zijn veel Bengaalse naaiateliermedewerkers die graag consultant bij McKinsey, Yogacoach of software developer hadden willen zijn, en daar ook zeker de talenten voor zouden hebben. De markt bepaalt alleen dat in dat deel van de wereld het in elkaar naaien van een nieuw zomerjurkje meer waarde oplevert dan denkwerk.

Superbeagle schreef op maandag 8 mei 2023 @ 11:18:
Alleen schaalt dat niet op macro niveau. Als heel veel ondernemingen hun medewerkers lozen, aan wie moeten ze dan hun product en diensten verkopen?

De economie zou kunnen groeien, maar de groei zou bij een steeds kleiner deel van de samenleving terecht kunnen komen. Toevallig is dat de trend die we vanaf de jaren '60, '70 in de ontwikkelde wereld zien.

Er zijn in de wereld welbeschouwd twee soorten beroepen: allereerst de beroepen die niet rendabel te automatiseren zijn. McDonalds heeft vergevorderde plannen om haar filialen te robotiseren. Maar in de meeste landen is het spotgoedkoop om een paar tieners als robots te laten bewegen, dus voorlopig wordt je Big Mac nog door mensenhanden gemaakt.

De tweede categorie zijn de beroepen die te moeilijk zijn om te automatiseren. En juist die groep is ineens een stuk kleiner geworden.

Superbeagle schreef op maandag 8 mei 2023 @ 11:18:
Concurrentievoordeel behaal je juist als je het saaie werk automatiseert ten opzichte van werk dat daadwerkelijk waarde toevoegt.

Dat is een interessante stelling, want er zijn talloze beroepen waarin saai, relatief repetitief werk de waarde oplevert. En ik denk dat veel 'hoogopgeleiden' in deze discussie wel kunnen beamen dat veel van hun dagelijks werk niet (altijd) bijzonder innovatief of uitdagend is. Van de softwaredeveloper die telkens hetzelfde patroon bouwt met tientallen variaties, tot de tandarts die eigenlijk een soort lopendebandwerk doet.

Juist het concept van een "beroep" impliceert specialisatie, en een zekere mate van repetitiviteit van de activiteiten.

Dat lijkt een beetje haaks te staan op het doctrine dat creativiteit en innovatie de dominante krachten in de economie zijn. En ongetwijfeld hebben sommige mensen de illusie dat zij zo creatief en slim zijn dat ze nooit weggeautomatiseerd zullen worden. Maar ik denk dat we allemaal nog een lesje nederigheid krijgen in de nabije toekomst.

[Superbeagle]

CVTTPD2DQ schreef op maandag 8 mei 2023 @ 20:18:
[...]
De economie zou kunnen groeien, maar de groei zou bij een steeds kleiner deel van de samenleving terecht kunnen komen. Toevallig is dat de trend die we vanaf de jaren '60, '70 in de ontwikkelde wereld zien.

Niet echt antwoord op mijn vraag, dus laat ik het stelliger maken: onze kapitalistische economie kan een hoge werkeloosheidgraad niet aan. Er is dan immers een te kleine afzetmarkt. Waar moet het kleine deel van de samenleving die dan zowel producent als consument is haar producten dan kwijtraken, aan zichzelf?

Er zijn in de wereld welbeschouwd twee soorten beroepen: allereerst de beroepen die niet rendabel te automatiseren zijn. McDonalds heeft vergevorderde plannen om haar filialen te robotiseren. Maar in de meeste landen is het spotgoedkoop om een paar tieners als robots te laten bewegen, dus voorlopig wordt je Big Mac nog door mensenhanden gemaakt.

Sterker nog, er is al een volledig geautomatiseerde frontend McDonald’s. In de backend zijn nog steeds mensen werkzaam. Je ziet dus eerder een verschuiving van taken in plaats van volledige vervanging. Het lijkt er ook op dat dit concept een ander doelgroep voor ogen heeft. Het is dus eerder een marktuitbreidingstaktiek.

De tweede categorie zijn de beroepen die te moeilijk zijn om te automatiseren. En juist die groep is ineens een stuk kleiner geworden.

Is dat zo? Enig bewijs hiervoor? Ik lees keer op keer dat ‘AI hele volksstammen beroepen zal automatiseren’, maar nooit een gedegen onderzoek hiernaar.

Dat is een interessante stelling, want er zijn talloze beroepen waarin saai, relatief repetitief werk de waarde oplevert. En ik denk dat veel 'hoogopgeleiden' in deze discussie wel kunnen beamen dat veel van hun dagelijks werk niet (altijd) bijzonder innovatief of uitdagend is. Van de softwaredeveloper die telkens hetzelfde patroon bouwt met tientallen variaties, tot de tandarts die eigenlijk een soort lopendebandwerk doet.

Juist het concept van een "beroep" impliceert specialisatie, en een zekere mate van repetitiviteit van de activiteiten.

Dat lijkt een beetje haaks te staan op het doctrine dat creativiteit en innovatie de dominante krachten in de economie zijn. En ongetwijfeld hebben sommige mensen de illusie dat zij zo creatief en slim zijn dat ze nooit weggeautomatiseerd zullen worden.

Heb mijn tekst nogmaals gelezen en eigenlijk bedoel ik dat de saaie taken die deel uitmaken van een beroep. Een coder die repeterend werk doet is een slechte coder, want automatiseren is juist de essentie van zijn werk. Het werk van een tandarts mag dan voor jou routinematig eruit zien, maar een knappe robot die met dezelfde precisie het tandplak van jouw kies kan verwijderen.

Het beeld dat ineens hele beroepen verdwijnen en er hoop mensen die zo’n beroep beoefenen ineens werkeloos worden strookt niet met de werkelijkheid. Als je naar de geschiedenis kijkt, dan gebeurt zoiets geleidelijk en tegelijk ontstaan er nieuwe beroepsgroepen. Waarom zou dat nu ineens anders zijn? Graag onderbouwen.

Maar ik denk dat we allemaal nog een lesje nederigheid krijgen in de nabije toekomst.

Je ‘denkt’ niet je ‘gokt’. Denken kun je onderbouwen. The thinking machine al gezien? Jouw quote hierboven zou zo kunnen passen in hoe men in de jaren 60 van de vorige eeuw over AI dachten.

[wian]

Na alle apocalyptische artikelen een meer relativerend artikel in The Economist: Your job is (probably) safe from artificial intelligence.

[Superbeagle]

wian schreef op dinsdag 9 mei 2023 @ 14:01:
Na alle apocalyptische artikelen een meer relativerend artikel in The Economist: Your job is (probably) safe from artificial intelligence.

Inderdaad een artikel die (de heropleving van) de hysterie omtrent AI wat meer in perspectief plaats, rekening houdend met de geschiedenis en zonder ongefundeerde speculaties over de toekomst.

Het onderschrijft ook veel van de punten die ik aanhaalde in mijn eerdere post hierboven.

[CVTTPD2DQ]

Superbeagle schreef op dinsdag 9 mei 2023 @ 10:32:
Niet echt antwoord op mijn vraag, dus laat ik het stelliger maken: onze kapitalistische economie kan een hoge werkeloosheidgraad niet aan.

Niet? Volgens mij heeft de wereldeconomie perioden gekend waarin het werkloosheidspercentage in de ontwikkelde landen boven de 20% lag. Er zijn nog steeds individuele landen waarin de werkloosheid rond die koers ligt, ook binnen Europa. Het systeem loopt rustig door. Begrijp me niet verkeerd, het is behoorlijk naar voor mensen die aan de verkeerde kant van de streep zitten. Maar voor de mensen aan de goede kant zijn er voordelen: goedkope schoonmakers, klusjesmensen, weinig gedoe met vakbonden.

Superbeagle schreef op dinsdag 9 mei 2023 @ 10:32:
Is dat zo? Enig bewijs hiervoor? Ik lees keer op keer dat ‘AI hele volksstammen beroepen zal automatiseren’, maar nooit een gedegen onderzoek hiernaar.

Het beroep van vertaler staat nu al op de tocht; LLMs zijn duidelijk in staat om goede, idiomatische vertalingen van teksten te leveren. De beschikbaarheid van de brontekst voorkomt ook dat de LLM teveel gaat afdwalen.

Op het moment zou ik een LLM geen roman laten vertalen, maar voor kortere teksten is de output uitstekend.

Het beroep van 'Paralegal' wordt in de VS al steeds meer weggeautomatiseerd (artikel uit 2017) . Het rechtssysteem in de VS vereist dat er relatief veel jurisprudentie moet worden doorgespit; typisch iets wat je uitbesteedt aan je jongste bediende. Ook zes jaar geleden waren er al grote stappen gemaakt met het automatiseren en verminderen van de arbeidsintensiteit van dat beroep.

Superbeagle schreef op dinsdag 9 mei 2023 @ 10:32:
Heb mijn tekst nogmaals gelezen en eigenlijk bedoel ik dat de saaie taken die deel uitmaken van een beroep. Een coder die repeterend werk doet is een slechte coder, want automatiseren is juist de essentie van zijn werk. Het werk van een tandarts mag dan voor jou routinematig eruit zien, maar een knappe robot die met dezelfde precisie het tandplak van jouw kies kan verwijderen.

De praktijk die ik bezoek heeft het verwijderen van tandplak al lang aan mij uitbesteed. En het verwijderen van tandsteen gebeurt door de mondhygiëniste. De tandarts is de man (of vrouw) die eventjes naar de röntgenfoto's kijkt.

Dat is een prima illustratie van hoe we in onze samenleving het arbeidsintensieve werk zo veel mogelijk naar de lager betaalde krachten uitbesteden. De volgende stap daarin is dat een beeldanalyseprogramma naar de röntgenfoto's kijkt, en dat de tandarts alleen komt kijken als er iets verdachts zichtbaar is.

Superbeagle schreef op dinsdag 9 mei 2023 @ 10:32:
Als je naar de geschiedenis kijkt, dan gebeurt zoiets geleidelijk en tegelijk ontstaan er nieuwe beroepsgroepen. Waarom zou dat nu ineens anders zijn? Graag onderbouwen.

Naar welke geschiedenis kijk jij? Er is namelijk herhaaldeijk sprake geweest van opstanden tegen automatisering die met veel geweld werden neergeslagen, ook in Nederland.

En ja, uiteraard is alles uiteindelijk goed gekomen. Na een decennium of twee is de wroeging vergeten, zijn er nieuwe banen, en is de economie meestal wel hersteld. Neemt niet weg dat twintig jaar zonder vast inkomen op individueel niveau behoorlijk naar kan uitpakken.

wian schreef op dinsdag 9 mei 2023 @ 14:01:
Na alle apocalyptische artikelen een meer relativerend artikel in The Economist: Your job is (probably) safe from artificial intelligence.

Dank voor de link, maar dit artikel komt niet veel verder dan Vulgair Marktisme ("De beurskoersen reageren niet, dus het zal wel niets worden"). En sommige paragrafen zijn wel tenenkrommend in de verbanden die (niet) gelegd worden.

... Countries with the highest rates of automation and robotics, such as Japan, Singapore and South Korea, have the least unemployment ...

En er wordt geen seconde stilgestaan bij een mogelijk verband tussen de lage werkloosheid en de hoge graad van automatisering

Train drivers on London’s publicly run Underground network are paid close to twice the national median, even though the technology to partially or wholly replace them has existed for decades.

Dit is dezelfde fout die vaak wordt gemaakt: het beroep is eenvoudig te automatiseren, dus het moet geautomatiseerd worden. Maar dat is niet de beslissende factor; dat is namelijk de mate waarin arbeidskosten de prijs van het product bepalen. Allereerst is de London Underground natuurlijk een monopolie van Transport for London. Ten tweede; de kosten van die ene machinist kunnen worden verdeeld over de honderden forenzen in een metrotreinstel.

[Superbeagle]

@CVTTPD2DQ Volgens mij leiden lijden wij allebei aan confirmation bias. Is verder niet erg, maar dat maakt discussiëren lastig, dus ik laat het hierbij.

[Voor 4% gewijzigd door Superbeagle op 10-05-2023 17:51]