Ontwikkelingen omtrent Artificial Intelligence

[Lampie]

Welkom bij deze forumdiscussie over de ontwikkelingen op het gebied van artificial intelligence (AI)! AI heeft de afgelopen jaren grote sprongen gemaakt en heeft een enorme impact op ons dagelijks leven. Het wordt gebruikt in tal van toepassingen, zoals zelfrijdende auto's, slimme assistenten, medische diagnoses en nog veel meer.

Maar met de groei van AI komen ook nieuwe uitdagingen en vraagstukken naar voren. Hoe kunnen we ervoor zorgen dat AI eerlijk en ethisch wordt ontwikkeld en toegepast? Wat zijn de potentiële risico's van AI-technologieën? En hoe kunnen we ervoor zorgen dat we de controle behouden over deze snel evoluerende technologie?

In deze discussie willen we graag jullie meningen, ideeën en vragen horen over de ontwikkelingen op het gebied van AI. Wat zijn de meest veelbelovende toepassingen van AI die je hebt gezien? Wat zijn de grootste uitdagingen waarmee de AI-gemeenschap te maken heeft? En welke maatregelen zouden we moeten nemen om ervoor te zorgen dat AI veilig en verantwoord wordt ontwikkeld en ingezet?

Bovenstaande intro is overigens gegenereerd met ChatGPT Ik kon nog geen algemeen discussie topic vinden om te discussieren over deze ontwikkeling, vandaar dit topic.

OpenAI, de organisatie die voorop lijkt te lopen met ontwikkelingen op dit gebied, geeft aan dat 80% van de werkenden de invloed van AI gaat merken op hun werk of zelfs het bestaansrecht van hun baan.
Op het moment van schrijven zijn sommige tools en platforms veel in het (tech)nieuws te vinden en volgen de ontwikkelingen zich enorm snel op. Een aantal voorbeelden waar veel over gepraat wordt, al is de lijst met interessante apps te lang om hier op te sommen:

Afbeeldingen genereren op basis van prompts
- DALL-E 2
- Stable Diffusion
- Midjourney - Zie ook dit topic
AI Assistent (chat)
ChatGPT - Ontwikkeld door OpenAI
Bard - Ontwikkeld door Google
Development
Github CoPilot - AI Development Assistent geïntegreerd in IDE's

Hoe kijken jullie naar deze ontwikkelingen? Maken jullie je zorgen over je baan, of ethische kwesties? Of omarmen jullie het juist en biedt het ook kansen?

[boxlessness]

AI had de belofte om al het saaie en zinloze werk voor ons te gaan doen, zodat wij mensen tijd zouden hebben voor creatieve en expressieve dingen zoals kunst en zorg.
Het lijkt er nu op dat AI juist de creatieve zaken automatiseert, en voor ons mensen de niet-automatiseerbare klusjes over laat.

Ok, bovenstaande is wat gedramatiseerd, maar ik vind de huidige richting van AI als (e.g.) schrijver en image-generator wel zorgelijk. Zorgelijk in de zin van dat een AI nu al dingen beter kan waar een mens zelfs met jaren aan ervaring in een vaardigheid niet meer aan kan tippen.
Op veel vlakken is dit de dood van het meesterschap... waar vele jaren van leren, vallen, en op staan, culmineren in ongekende hoogte van menselijke vaardigheid.

Technisch is dit natuurlijk prachtig... en voor "saaie" beroepen/taken is dit een vooruitgang... maar de filosofie heeft nog geen antwoord over wat dit gaat betekenen voor ons "mens-zijn". Sterker nog, dit is de eerste keer in de historie dat filosofie achter de feiten aan loopt: de technologische ontwikkeling gaat sneller dan dat filosofie en ethiek bij kunnen benen.

En dat maakt deze ontwikkeling best wel eng.

[ErikT738]

Ik denk dat alle ontwikkelingen in AI uiteindelijk positief zijn, onder de voorwaarde dat deze makkelijk en goedkoop beschikbaar zijn voor het publiek. Uiteraard zal er ook een hoop ellende ontstaan terwijl de maatschappij leert met deze nieuwe situatie om te gaan, o.a. voor mensen die hun baan verliezen.

@boxlessness Ik weet niet of je gelijk hebt m.b.t. de "dood van het meesterschap". Als je alleen al kijkt naar bijvoorbeeld het genereren van afbeeldingen met AI dan valt direct op dat de beste werken nog steeds inzicht, vaardigheden en veel werk vereisen. Het verschil is alleen dat het werk en de vaardigheden niet langer dezelfde zijn als die een schilder honderd jaar geleden zou hebben. Eigenlijk zitten we al langer in een vergelijkbare situatie, waar klassieke teken- en schildermethoden plaats hebben gemaakt voor digitaal tekenwerk met bijvoorbeeld Photoshop.

Overigens zal AI er wel voor zorgen dat er veel minder artiesten nodig zijn. Als je geen "meesterwerk" nodig hebt is het nu immers makkelijk om zelf een afbeelding te genereren.

[AlphaRomeo]

Ik zie het als een nieuw stuk gereedschap in de gereedschapskist voor iedereen. Ik denk dat het verschil gemaakt wordt door de mensen die weten het gereedschap te gebruiken, en hen die dat niet kunnen.

Maar als Software Engineer maak ik me wel een klein beetje zorgen of ik persoonlijk dat gereedschap even snel zal leren gebruiken als de jongere collega's om mijn heen (ik ben nog geen 40, maar toch).

[boxlessness]

ErikT738 schreef op vrijdag 24 maart 2023 @ 10:44:
@boxlessness Ik weet niet of je gelijk hebt m.b.t. de "dood van het meesterschap". Als je alleen al kijkt naar bijvoorbeeld het genereren van afbeeldingen met AI dan valt direct op dat de beste werken nog steeds inzicht, vaardigheden en veel werk vereisen. Het verschil is alleen dat het werk en de vaardigheden niet langer dezelfde zijn als die een schilder honderd jaar geleden zou hebben. Eigenlijk zitten we al langer in een vergelijkbare situatie, waar klassieke teken- en schildermethoden plaats hebben gemaakt voor digitaal tekenwerk met bijvoorbeeld Photoshop.

Overigens zal AI er wel voor zorgen dat er veel minder artiesten nodig zijn. Als je geen "meesterwerk" nodig hebt is het nu immers makkelijk om zelf een afbeelding te genereren.

Het probleem wat ik hier in zie is dat de drempel te hoog wordt om te investeren in een vaardigheid om ergens enorm goed in te worden. Het maken van kunst is één ding, maar we zien dat terug in meer velden.

In de zorg en software (de domeinen waar ik in actief ben) zie je ook dat de drive om beter te worden weggenomen is/wordt:
In de zorg wordt alles geprotocolleerd om consistentie en goede uitkomst voor de patiënt te verzekeren. De uitkomst voor de patiënt is natuurlijk heel fijn, maar alle autonomie wordt weggenomen bij de uitvoerder van de zorg. Het gevolg is dat er een incentive verdwijnt om beter te worden in dat wat je doet.

In software development is eenzelfde trend aan de gang. Het code-klopwerk is voor een groot deel al vervangen door aan-elkaar-knoop-werk en administratief werk. En met AI (welke ik verwacht dat nog beter gaat worden) gaan het code-klopwerk nog meer verdwijnen.
Het uiteindelijke resultaat gaat natuurlijk beter zijn (geen bugs! Yay!), maar de incentive om te investeren en groeien in een dergelijke vaardigheid valt daarmee weg.

Wanneer we werk uitsluitend bekijken vanuit een economisch perspectief (input --> output) dan is dit natuurlijk een mooie ontwikkeling.

Maar ik denk dat we niet uit het oog moeten verliezen wat werk betekent in ons mens-zijn. Wij mensen zijn reizigers... we beginnen ergens, en reizen naar een bestemming. En de reis, de ervaringen die wij op dat pad tegen komen, zijn veeeeel belangrijker dan de uiteindelijke bestemming. De belevenissen en de groei die we op die reis doormaken geeft ons onze zingeving; niet de bestemming. Met andere woorden: Op onze reis tussen geboorte en dood, is de dood niet het doel.

De filosofische vraag is wat onze reis nu gaat zijn? Wat gaat onze reis/groei als mens zijn wanneer we die niet langer in ons werk kunnen maken?
En dat vraagstuk speelt breder dan alleen maar bij AI, want door ons economische denken lopen we het risico dat we uitsluitend dienstbaar worden gemaakt voor de economische output, zonder dat we daar zingeving voor terug krijgen.

[defiant]

Het probleem met modellen die gebaseerd zijn op trainingsdata, is dat de input qua trainingsdata vaak wel duidelijk is, maar wat algoritmes produceren qua aan resulterende model is vaak een black box. D.w.z. het is vaak niet duidelijk hoe een algoritme tot een resultaat komt.

Dat zorgt er altijd voor dat je het resultaat handmatig moet verifiëren. De verleiding zal denk ik groot zijn om die verificatie stap achterwege te laten. Je krijgt dan het probleem van wie er op diverse vlakken verantwoordelijk is voor de resultaten op moreel, ethisch en vooral ook op juridisch vlak.

Een ander probleem hierdoor is het ontstaan van feedback loops, op dit moment is de trainingsdata vaak nog afkomstig van geselecteerde en bewerkte data afkomstig van mensen. Bijvoorbeeld wikipedia of kunst. Echter vanaf nu zal het risico zijn dat de trainingsdata wordt beïnvloed door output van die zelfde modellen. Stel je voor er vind een trend plaatst van het genereren van Chat GPT artikelen, die zullen ook weer indexed worden en gebruikt worden voor training en input.

M.a.w. je krijgt het probleem van de kwaliteit van de trainingsdata en het kunnen herkennen van door mensen geproduceerde content en door algoritmes.

Ik denk maatschappelijk dat er wel een impact te verwachten is, een hoop wat bedrijven en mensen doen is niet het produceren van originele ideeën, maar het opnieuw itereren over bestaande ideeën en oplossingen met variaties erin.

[Frame164]

defiant schreef op vrijdag 24 maart 2023 @ 11:34:
Dat zorgt er altijd voor dat je het resultaat handmatig moet verifiëren.

Maar daardoor zullen de resultaten uiteindelijk steeds beter worden. Een kind moet ook een aantal jaren leren voordat hij/zij de arbeidsmarkt op kan.

Qua AI zal dat betekenen dat vragen waar we nu nog niet helemaal de juiste antwoorden op krijgen, we over een tijdje wel gewoon de juiste antwoorden krijgen. En dan zijn er weer nieuwe zaken niet kloppen.

[Yucon]

Frame164 schreef op vrijdag 24 maart 2023 @ 12:09:
[...]


Maar daardoor zullen de resultaten uiteindelijk steeds beter worden. Een kind moet ook een aantal jaren leren voordat hij/zij de arbeidsmarkt op kan.

Qua AI zal dat betekenen dat vragen waar we nu nog niet helemaal de juiste antwoorden op krijgen, we over een tijdje wel gewoon de juiste antwoorden krijgen. En dan zijn er weer nieuwe zaken niet kloppen.

Dat hangt van de precieze situatie af. Als er een steeds groter deel van de online content door AI gegenereerd wordt zal er ook een steeds groter deel van de AI input afkomstig van AI zijn. Dan krijg je een zelfde soort echokamer als wappies die elkaars youtube filmpjes blijven delen.

Dat is geen mooi toekomstbeeld. Eigenlijk zou je een markering op content moeten hebben dat deze niet voor AI training meegenomen wordt. Net zoiets als je aan sites toe kunt voegen om ze buiten de zoekmachineindexering te houden.

Als het specifiek om creatieve dingen gaat zou je verwachten dat er ook steeds meer naar elkaar toe trekt. Het vraagt heel wat van AI om op het punt uit te komen om zelf een nieuwe kunststroming uit te vinden.

Verder ben ik niet alleen maar negatief. Voor een deel zijn chatGPT en consorten ook wel weer een handige productiviteitstool. De echte rillingen krijg ik meer van de speeltjes van Boston Dynamics.

[CVTTPD2DQ]

Frame164 schreef op vrijdag 24 maart 2023 @ 12:09:
Maar daardoor zullen de resultaten uiteindelijk steeds beter worden. Een kind moet ook een aantal jaren leren voordat hij/zij de arbeidsmarkt op kan.

Daar is nog wel een doorbraak voor nodig. Die LLMs weten niet wat ze niet weten. Jij en ik weten van onszelf wanneer we even een naslagwerk open moeten trekken, of iemand moeten vragen ons werk te laten controleren. Een LLM heeft op het moment een ongeremde fantasie.

Dat zie je met die "grafische"-modellen ook. Ze kunnen bijna fotorealistische beelden genereren, maar een hand met precies vijf vingers blijft moeilijk.

Die doorbraak kan er morgen zijn. Maar het kan ook nog tien jaar duren.

ErikT738 schreef op vrijdag 24 maart 2023 @ 10:44:
Eigenlijk zitten we al langer in een vergelijkbare situatie, waar klassieke teken- en schildermethoden plaats hebben gemaakt voor digitaal tekenwerk met bijvoorbeeld Photoshop.

Overigens zal AI er wel voor zorgen dat er veel minder artiesten nodig zijn. Als je geen "meesterwerk" nodig hebt is het nu immers makkelijk om zelf een afbeelding te genereren.

Sterker nog, hetzelfde werd in de 19e eeuw gezegd over de opkomende fotografie. Waarom zou je uren zwoegen achter een ezel als je binnen een half uur een beeld kon maken dat foutloos was?

Over de kunst maak ik me nog het minste zorgen; die vindt zichzelf altijd opnieuw uit. Maar de geschiedenis is vol van specialisten (schoenlappers, hoefsmeden, wolververs) die door de techniek overbodig zijn gemaakt, en in de armoede zijn gestort.

[defiant]

CVTTPD2DQ schreef op vrijdag 24 maart 2023 @ 13:11:
Daar is nog wel een doorbraak voor nodig. Die LLMs weten niet wat ze niet weten. Jij en ik weten van onszelf wanneer we even een naslagwerk open moeten trekken, of iemand moeten vragen ons werk te laten controleren. Een LLM heeft op het moment een ongeremde fantasie.

Judea Pearl is o.a. van mening dat machines pas echt intelligent zijn als ze ook causaal kunnen redeneren over informatie.

To Build Truly Intelligent Machines, Teach Them Cause and Effect

But as Pearl sees it, the field of AI got mired in probabilistic associations. These days, headlines tout the latest breakthroughs in machine learning and neural networks. We read about computers that can master ancient games and drive cars. Pearl is underwhelmed. As he sees it, the state of the art in artificial intelligence today is merely a souped-up version of what machines could already do a generation ago: find hidden regularities in a large set of data. “All the impressive achievements of deep learning amount to just curve fitting,” he said recently.

In his new book, Pearl, now 81, elaborates a vision for how truly intelligent machines would think. The key, he argues, is to replace reasoning by association with causal reasoning. Instead of the mere ability to correlate fever and malaria, machines need the capacity to reason that malaria causes fever. Once this kind of causal framework is in place, it becomes possible for machines to ask counterfactual questions — to inquire how the causal relationships would change given some kind of intervention — which Pearl views as the cornerstone of scientific thought.

Ik denk dat hij daarin wel een belangrijk punt heeft. En als een AI kan redeneren dan wordt AI ook minder een black box, want dan is die ook in staat om uit te leggen hoe die redenatie tot stand is gekomen.

[ErikT738]

Yucon schreef op vrijdag 24 maart 2023 @ 12:23:
Als het specifiek om creatieve dingen gaat zou je verwachten dat er ook steeds meer naar elkaar toe trekt. Het vraagt heel wat van AI om op het punt uit te komen om zelf een nieuwe kunststroming uit te vinden.

Vergeet niet dat er altijd nog een mens aan de knoppen draait en voor input zorgt. Je vraagt de AI niet een nieuwe kunststroming uit te vinden maar vindt mogelijk zelf een nieuwe kunststroming uit. Misschien zelfs eentje die zonder hulp van AI niet mogelijk zou zijn.

Dat hangt van de precieze situatie af. Als er een steeds groter deel van de online content door AI gegenereerd wordt zal er ook een steeds groter deel van de AI input afkomstig van AI zijn. Dan krijg je een zelfde soort echokamer als wappies die elkaars youtube filmpjes blijven delen.

Zoals je zelf aangeeft zijn mensen ook heel goed in het creëren van allerhande onzin waar je een AI liever niet mee traint. Ik weet dus niet in hoeverre dit echt problematisch zou zijn. Idealiter wordt de trainingsdata gewoon goed gecureerd.

[CVTTPD2DQ]

defiant schreef op vrijdag 24 maart 2023 @ 13:20:
Judea Pearl is o.a. van mening dat machines pas echt intelligent zijn als ze ook causaal kunnen redeneren over informatie.

Er zijn genoeg indicaties dat mensen in hun dagelijkse beslissingen eerst intuitief naar een conclusie springen, en pas causaal gaan redeneren als hen gevraagd wordt hun beslissing te verklaren. Zonder het argument van Pearl in detail te hebben gelezen lijkt het in een traditie te passen waarin we de lat voor intelligentie telkens een stukje hoger leggen zodra machines ons voorbijstreven.

[CousinBoneless]

Interessant topic.

We are on the edge of change comparable to the rise of human life on Earth. — Vernor Vinge

Ik kan iedereen aanraden om dit eens te lezen:

Wil je een samenvatting toevoegen of het relevante deel quoten? Zo is het een linkdrop.

[Voor 16% gewijzigd door NMH op 24-03-2023 14:35]

[defiant]

CVTTPD2DQ schreef op vrijdag 24 maart 2023 @ 13:40:
Er zijn genoeg indicaties dat mensen in hun dagelijkse beslissingen eerst intuitief naar een conclusie springen, en pas causaal gaan redeneren als hen gevraagd wordt hun beslissing te verklaren. Zonder het argument van Pearl in detail te hebben gelezen lijkt het in een traditie te passen waarin we de lat voor intelligentie telkens een stukje hoger leggen zodra machines ons voorbijstreven.

Ik denk dat je dan eerst een definitie moet hebben van wat AI is, zonder dat kan je niet bepalen of we de lat steeds hoger( of lager wat dat betreft) leggen.

[eric.1]

Ik maak me geen zorgen over mijn eigen baan, we hebben dusdanig veel werk dat wat hulp van AI niet verkeerd is. En in zekere zin gebruiken we dit al.

Echter maak ik me wel zorgen over de implicaties in de maatschappij. AI is erg goed in bepaalde taken, en ik vrees dat:
1.) onze basiskennis verder zal verzwakken
2.) een lichting studenten in de overgangsfase significant gebruik zal maken van AI zonder dat dit realistisch gedetecteerd kan worden
3.) de meest 'eenvoudige' banen als eerste worden vervangen door AI, wat het gat tussen de onderkant en midden/bovenkant alleen maar vergroot.

[YakuzA]

Voor code lijkt het me wel wat problematisch, aangezien code gegenereerd door AI waarschijnlijk geen copyright op geclaimd kan worden of auteursrecht op rust.

Net zoals plaatjes gecreëerd door AI daar momenteel niet onder lijkt te vallen.

[Lampie]

Zelf ben ik ook werkzaam in de IT en maak ik me wel een klein beetje 'zorgen' om de toekomst van 5+ jaar verder. De komende tijd zal er vermoed ik nog een beetje gespeeld worden met allerhande tools die beschikbaar komen en moet de kwaliteit ook dusdanig goed zijn dat een organisatie er solide op kan bouwen.
Maar als er steeds sneller hoogwaardige kwaliteit software gemaakt kan worden, kan het heel goed zijn dat er gesneden gaat worden in het aantal FTE dat bijvoorbeeld op een afdeling werkzaam is.

[TheBrut3]

Ik vraag mij af of mensen genoeg kijken naar de (potentiele) nadelen.
Je ziet bijvoorbeeld dat ChatGPT al wordt gebruikt door scam bendes, zodat ze teksten krijgen in het correct Nederlands. Verder kan het maken van code ook gebruikt worden door kwaadwillende.

[Yucon]

TheBrut3 schreef op vrijdag 24 maart 2023 @ 16:20:
Ik vraag mij af of mensen genoeg kijken naar de (potentiele) nadelen.
Je ziet bijvoorbeeld dat ChatGPT al wordt gebruikt door scam bendes, zodat ze teksten krijgen in het correct Nederlands. Verder kan het maken van code ook gebruikt worden door kwaadwillende.

Tja, maar die gebruiken waarschijnlijk ook ms office in plaats van een ganzenveer. Als je iets hebt dat de productiviteit in de bovenwereld vergroot kun je er gif op innemen dat dat ook in de onderwereld gebeurt. Maar dat is met alles.

[CVTTPD2DQ]

TheBrut3 schreef op vrijdag 24 maart 2023 @ 16:20:
Verder kan het maken van code ook gebruikt worden door kwaadwillende.

Je bedoelt, mensen die nog kwaadwillender zijn dan Adtech bedrijven en Blockchainfraudeurs?

[SPee]

Een stukje tekst vanuit het (vervolg) artikel wat CousinBoneless hierboven linkte (enkel snel doorgekeken):

The answer is simple: its motivation is whatever we programmed its motivation to be.

En dat zal een probleem worden.
Elke omgeving waar ik kom is het "het is een complexe omgeving en je hebt veel tijd nodig om hiermee bekend te raken (als het je al lukt)". En dat zijn nog de "simpele" kantoor omgevingen.
Als het daar al moeilijk is om alles te doorgronden; hoe kunnen we dan een (super) AI maken waar die complexiteit veel uitgebreider en groter is?
Kleine stukjes kunnen begrijpen; ja, dat zal wel lukken. Maar grotere stukken code en samenhang; dat wordt onmogelijk. Dus als er een 'bug' in zit waar de AI iets niet kan begrijpen; hoe kunnen wij het dan oplossen?

Denk maar aan de volledig zelfrijdende auto's; dat zijn in de laatste jaren ook enkel maar hele, hele kleine stapjes in gezet. De stap met co-pilot en adaptive cruise-control was een grote stap, ja. Maar die stap verder waar Elon Musk over fantaseerde is niet dichterbij gekomen. En nu zie je ook dat de investeringen daarin omlaag gaan.

Ik denk dat het met AI ook zo zal gaan. De eerste stappen zijn gezet, we zijn nu een grote stap verder. Maar de volgende iteratie zal weer een tijd op zich laten wachten.

[SPee]

Daarbij denk ik ook dat we tegen problemen aanlopen van de onvolkomenheden die een AI nu heeft.

Er wordt gefantaseerd dat een AI kan helpen bij schone energie, CO2 reductie, een betere wereld maken.
Maar wat als de AI en fout maakt in zijn oplossing voor kernfusie. Dan spenderen we veel resources aan het najagen van spoken, of het gaat fout en de mensheid gaat ten onder aan een grote explosie.

Laten we dan eerst die zelfrijdende auto's maken voordat we een quantum computer en Super AI gebruiken om het verleden aan te passen.
Travelers, leuke serie

[YakuzA]

Lampie schreef op vrijdag 24 maart 2023 @ 16:05:
Zelf ben ik ook werkzaam in de IT en maak ik me wel een klein beetje 'zorgen' om de toekomst van 5+ jaar verder. De komende tijd zal er vermoed ik nog een beetje gespeeld worden met allerhande tools die beschikbaar komen en moet de kwaliteit ook dusdanig goed zijn dat een organisatie er solide op kan bouwen.
Maar als er steeds sneller hoogwaardige kwaliteit software gemaakt kan worden, kan het heel goed zijn dat er gesneden gaat worden in het aantal FTE dat bijvoorbeeld op een afdeling werkzaam is.

De robotisering van de fabrieken heeft ook niet geleid tot vermindering van de arbeidsplaatsen benodigd.

Voor AI zitten er natuurlijk ook infinite bugs in, dus de software engineer krijgt dan ook wat hoogwaardiger werk.

[woutertjez]

Het succes en de potentiële positieve impact van AI op ons leven zal naar mijn mening grotendeels afhangen van onze discipline als mensheid om de groei te beteugelen.

De black-box approach leidt nu tot een ongebreidelde groei aan mogelijkheden. Maar gaan we er mee akkoord dat bijvoorbeeld een AI systeem een racial bias heeft welke we niet kunnen verklaren? Wat als een AI systeem van een bank minder leningen goedkeurt voor zwarte mensen?

We hebben als mensheid grote stappen gezet om de gelijkheid en gelijkwaardigheid van ons allen te waarborgen. Maar we zien dat zelfs met een primitieve vorm van AI zoals social media er al flink gemorreld wordt aan onze vooruitgang als beschaving. De relatief simpele algoritmes van social media zorgden er al voor dat mensen in een bubbel van hun eigen waarheid verkeren.

Als we straks de antwoorden van AI altijd als "waar" gaan beschouwen, omdat ze 99% van de tijd gelijk heeft, begeven we ons op zeer glad ijs.

De NY Times publiceerde gisteren een sterke "guest essay" van Yuval Noah Harari (yes, die van het boek Sapiens) waar mijn bovenstaande betoog op is gebaseerd. Hierin argumenteert hij ook dat het beteugelen van AI ons zelfs een voorsprong zou kunnen geven op andere landen (zoals China).

[Yucon]

Hier ook nog een artikel van The Guardian. Het is een interview met Jaron Lanier.

Hij stelt hierin dat we naar zijn idee niet bang hoeven te zijn dat AI ons op een gewelddadige manier zou vernietigen. Wel meent hij dat we 'insane' zouden worden omdat ons brein niet goed met tiktok-achtige manipulatietechnieken om kan gaan.

[FunkyTrip]

AlphaRomeo schreef op vrijdag 24 maart 2023 @ 11:04:
Maar als Software Engineer maak ik me wel een klein beetje zorgen of ik persoonlijk dat gereedschap even snel zal leren gebruiken als de jongere collega's om mijn heen (ik ben nog geen 40, maar toch).

Het valt mij juist op dat de jongere collega's vooral truukjes leren en weinig intrinsieke kennis hebben van de tooling die ze gebruiken. De oudere generatie zit met hun neus in regedit, event viewers en weetikveel wat. Jongere generatie heeft al moeite met de command prompt. Als er dan ook maar iets tegen zit, dan snappen ze niet hoe ze het moeten oplossen omdat ze niets snappen van wat er onder de motorkap zit.
Net als ik geen idee heeft hoe mijn auto een beetje werkt terwijl mijn vader nog regelmatig de motorkap open had om wat te fixen of te vervangen.

[Jaerock]

CousinBoneless schreef op vrijdag 24 maart 2023 @ 13:46:
Interessant topic.

We are on the edge of change comparable to the rise of human life on Earth. — Vernor Vinge

Ik kan iedereen aanraden om dit eens te lezen:

Dank voor de link, interessant lees materiaal. Mijn AI optimisme is echter wel gedraaid naar doemdenken. Als dit de toekomst is zie ik de mensheid dit niet beteugelen en moeten wij nog maar even genieten van onze positie als mensheid zolang het duurt...

[handige_harrie]

CVTTPD2DQ schreef op vrijdag 24 maart 2023 @ 13:11:
[...]

Dat zie je met die "grafische"-modellen ook. Ze kunnen bijna fotorealistische beelden genereren, maar een hand met precies vijf vingers blijft moeilijk.

Die doorbraak kan er morgen zijn. Maar het kan ook nog tien jaar duren.

Het is een detail, maar wellicht tekenend; in midjourney v5 hebben ze het probleem met de handen opgelost.

Verder kan ik podcasts van Lex Fridman warm aanbevelen. Hij werkt zelf in AI research een heeft vele groten uit het domein voor lange gesprekken achter de microfoon gehad. Meest recent nog: Sam Altman van OpenAI. Maar ook filosofen die er cynischer over denken.

[Yucon]

FunkyTrip schreef op zaterdag 25 maart 2023 @ 15:08:
[...]


Het valt mij juist op dat de jongere collega's vooral truukjes leren en weinig intrinsieke kennis hebben van de tooling die ze gebruiken. De oudere generatie zit met hun neus in regedit, event viewers en weetikveel wat. Jongere generatie heeft al moeite met de command prompt. Als er dan ook maar iets tegen zit, dan snappen ze niet hoe ze het moeten oplossen omdat ze niets snappen van wat er onder de motorkap zit.
Net als ik geen idee heeft hoe mijn auto een beetje werkt terwijl mijn vader nog regelmatig de motorkap open had om wat te fixen of te vervangen.

Het een sluit het ander niet uit. Mijn moeder weet meer telefoonnrs uit haar hoofd dan ik, maar ik kan zonder twijfel beter met google overweg. De terechte vraag is welke vaardigheid belangrijker is in 2023.

Overigens moppert je vader waarschijnlijk weer "dat je aan de auto's van vandaag niets meer zelf kunt doen" terwijl zijn jongere versie al in dat hidden feature menuutje zou zitten dat tevoorschijn komt na 3x toeteren en 2x de richtingaanwijzer naar rechts terwijl je op hetzelfde moment aan de volumeknop draait. Of de oorzaak van dat rare kraakje bij elkaar googled op een forum.

[champion16]

Lampie schreef op vrijdag 24 maart 2023 @ 16:05:
Zelf ben ik ook werkzaam in de IT en maak ik me wel een klein beetje 'zorgen' om de toekomst van 5+ jaar verder. De komende tijd zal er vermoed ik nog een beetje gespeeld worden met allerhande tools die beschikbaar komen en moet de kwaliteit ook dusdanig goed zijn dat een organisatie er solide op kan bouwen.
Maar als er steeds sneller hoogwaardige kwaliteit software gemaakt kan worden, kan het heel goed zijn dat er gesneden gaat worden in het aantal FTE dat bijvoorbeeld op een afdeling werkzaam is.

Een geruststelling, als IT zo snel geautomatiseerd kan worden dan kan dat net zo snel met de meeste kantoorbanen...

[boxlessness]

Yucon schreef op maandag 27 maart 2023 @ 06:43:
[...]

Het een sluit het ander niet uit. Mijn moeder weet meer telefoonnrs uit haar hoofd dan ik, maar ik kan zonder twijfel beter met google overweg. De terechte vraag is welke vaardigheid belangrijker is in 2023.

Overigens moppert je vader waarschijnlijk weer "dat je aan de auto's van vandaag niets meer zelf kunt doen" terwijl zijn jongere versie al in dat hidden feature menuutje zou zitten dat tevoorschijn komt na 3x toeteren en 2x de richtingaanwijzer naar rechts terwijl je op hetzelfde moment aan de volumeknop draait. Of de oorzaak van dat rare kraakje bij elkaar googled op een forum.

Dit raakt zijdelings ook het onderwerp van AI: systemen zijn dusdanig complex dat het steeds moeilijker is om tot de kern van het probleem te komen.
Alle menselijke kennis is opgebouwd in lagen, en iedereen werkt aan de oppervlakte van deze diepe oceaan van kennis, maar weet niet wat er zich in de verre diepte af speelt.

Nu was dit vroegah ook al: e.g. wanneer een stuk ijzer in je auto af breekt heb je kennis nodig van metallurgie om te begrijpen waarom.

Het gevaar is dat we collectief afhankelijk worden van het blijven werken van deze complexe systemen, en dat we bij het falen van een systeem niet meer de kennis hebben om deze te corrigeren. Onze afhankelijkheid wordt al zichtbaar wanneer bijvoorbeeld het pin-systeem even plat ligt. De signalen vanuit Twitter zijn een voorbeeld dat vertrekkende kennis in een bedrijf de continuïteit van het systeem kan ondermijnen.
Recent AI nieuws toont ook dat we de kern niet helemaal begrijpen: AI die in een "existentiële crisis" komt, of begint te schelden. Vervolgens wordt er een pleister geplakt, maar ik heb niet de indruk dat de kern gefixed wordt.

AI is het punt waar de complexiteit van de machine het menselijk begrip voorbij streeft.

Nu is ons leven natuurlijk al gebouwd op heel veel black-boxes die we als individu niet begrijpen. Maar er is nog altijd het vertrouwen dat er iemand is die de black-box kan fixen als deze het niet meer doet. Dat vertrouwen heb ikzelf in ieder geval niet meer wanneer het op AI aan komt.

[Sandor_Clegane]

boxlessness schreef op maandag 27 maart 2023 @ 09:29:
[...]

Dit raakt zijdelings ook het onderwerp van AI: systemen zijn dusdanig complex dat het steeds moeilijker is om tot de kern van het probleem te komen.
Alle menselijke kennis is opgebouwd in lagen, en iedereen werkt aan de oppervlakte van deze diepe oceaan van kennis, maar weet niet wat er zich in de verre diepte af speelt.

Nu was dit vroegah ook al: e.g. wanneer een stuk ijzer in je auto af breekt heb je kennis nodig van metallurgie om te begrijpen waarom.

Het gevaar is dat we collectief afhankelijk worden van het blijven werken van deze complexe systemen, en dat we bij het falen van een systeem niet meer de kennis hebben om deze te corrigeren. Onze afhankelijkheid wordt al zichtbaar wanneer bijvoorbeeld het pin-systeem even plat ligt. De signalen vanuit Twitter zijn een voorbeeld dat vertrekkende kennis in een bedrijf de continuïteit van het systeem kan ondermijnen.
Recent AI nieuws toont ook dat we de kern niet helemaal begrijpen: AI die in een "existentiële crisis" komt, of begint te schelden. Vervolgens wordt er een pleister geplakt, maar ik heb niet de indruk dat de kern gefixed wordt.

AI is het punt waar de complexiteit van de machine het menselijk begrip voorbij streeft.

Nu is ons leven natuurlijk al gebouwd op heel veel black-boxes die we als individu niet begrijpen. Maar er is nog altijd het vertrouwen dat er iemand is die de black-box kan fixen als deze het niet meer doet. Dat vertrouwen heb ikzelf in ieder geval niet meer wanneer het op AI aan komt.

Heeft ook te maken met het feit dat dingen expres verstopt worden/moeilijker gemaakt worden om te doorgronden: "something happened".

Ze zijn er om te gebruiken, niet om zelf aan te sleutelen.

[Poecillia]

Artificial intelligence houdt me al langere tijd bezig en als data scientist ben ik zelf ook betrokken bij dit onderwerp. Mijn positie hierover tot dusverre was dat we mooie toepassingen hebben gezien van Narrow AI (Alphago, Deepmind, Tesla autopilot) maar dat AGI nog ver weg was. (Artificial general intelligence (AGI) is the ability of an intelligent agent to understand or learn any intellectual task that human beings or other animals can). Met de introductie van OpenAI's ChatGPT ben ik mijn mening aan het herzien. Ik heb inmiddels meerdere interessante gesprekken gevoerd over uiteenlopende onderwerpen en ChatGPT ook ingezet voor codering in Python. Ik ben onder de indruk van de kennis en veelzijdigheid. Niet dat ChatGPT geen fouten maakt, maar in het algemeen is de respons van goede kwaliteit. Inmiddels is GPT4 al weer beschikbaar en ben ik me gaan verdiepen in hoe deze 'Large Language Models' precies werken en wat hun prestaties zijn. Hierbij enkele bronnen:

Korte toegankelijke beschrijving van de werking/training van de GPT familie met veel links met verdieping (voor wie meer wil weten van transformers en self-attention): https://towardsdatascienc...-limitations-35c990c133c5
Evaluatie (download de pdf) van de performance van GPT4: https://arxiv.org/abs/2303.12712
Podcast van Lex Fridman met OpenAI CEO SAM Altman: https://www.youtube.com/watch?v=L_Guz73e6fw&t=66s
Natuurlijk gebeurt er ook bij de andere spelers (Google, Meta etc) veel op dit gebied, maar mijn indruk is dat OpenAI/MS voorop loopt.

Ik denk inderdaad dat we de komende tijd een flinke sprong voorwaarts gaan zien in de toepassing van AI. Nu al zien we dat tekstschrijvers/editors en grafisch ontwerpers AI gebruiken. Programmeurs zijn ook enthousiast. Ik denk dat we ook brede toepassing zullen zien van transfer learning: het basismodel aanvullen met domeinspecifieke kennis zodat domeinspecifieke taken kunnen worden uitgevoerd. Er zijn heel veel use cases te bedenken in callcenters, serviceverlening en andere administratieve dienstverlening. In eerste instantie zal het hierbij gaan om taken waarbij het risico en de impact van fouten laag is, maar met controle mechanismes kunnen geavanceerdere taken worden uitgevoerd. Dit zal op termijn de administratieve dienstverlening disrupten, waarbij oude businessmodellen verdwijnen en nieuwe efficiëntere modellen daarvoor in de plaats komen.

In de fysieke wereld zie ik AI wel impact hebben in de planning en werkvoorbereiding, maar minder in de uitvoering. Large Language Models zijn per definitie niet gericht op de fysieke wereld, waarbij de eisen t.a.v. kwaliteit en reproduceerbaarheid hoog zijn. Dat is jammer, want het zijn juist de fysieke delen van de economie (industrie, installatie, logistiek, maar ook gezondheidszorg) die kampen met personeelstekorten. Ik denk dan ook dat we een transitie krijgen van een 'white collar' economie naar 'blue collar' economie.

Waar AI ook veel invloed gaat hebben is in de informatievoorziening in brede zin. Ik doel hier op media, social media, zoeken/advertising/marketing en politiek. Deze wereld wordt nu al sterk beïnvloedt door de perverse algoritmen van big tech. AI biedt deze sector de mogelijkheid om hierin verder te optimaliseren en monitoren. Maar aan de gebruikerskant biedt het ook de mogelijkheid om geautomatiseerd content te genereren. Waarbij groepen verder uit elkaar drijven. Ik ben bang dat we nog niet van de bubbles af zijn en dat er misschien wel een anti-AI beweging op gang komt. Daarbij lopen overheden achter de muziek aan in regelgeving en toepassing (die per definitie weer gewantrouwd wordt). In een wereld met een kostbare energietransitie, klimaatverandering/migratie en globale spanningen stemt me dat helaas niet positief. Misschien moet AGI zich maar snel ontwikkelen om ons bij het handje te nemen bij deze ontwikkeling, want ik ben bang dat de evolutie ons niet voorzien heeft van de capaciteiten om dit zelf op te lossen.

[CHKYBSTRD]

CousinBoneless schreef op vrijdag 24 maart 2023 @ 13:46:
Interessant topic.

We are on the edge of change comparable to the rise of human life on Earth. — Vernor Vinge

Ik kan iedereen aanraden om dit eens te lezen:

[mbr] Wil je een samenvatting toevoegen of het relevante deel quoten? Zo is het een linkdrop. [/mbr]

Dit stuk met veel interesse gelezen, dank.

What we do know is that humans’ utter dominance on this Earth suggests a clear rule: with intelligence comes power. Which means an ASI, when we create it, will be the most powerful being in the history of life on Earth, and all living things, including humans, will be entirely at its whim—and this might happen in the next few decades.

Toch wel beangstigend om te lezen. Mooi om te denken dat alle problemen die wij ervaren opgelost kunnen worden door een ASI. Maar wat nou als de mensheid het grote probleem is.

[Cyberblizzard]

Ik lees dit als 'de bezitter/gebruiker zal de macht hebben', en niet de AI zelf?

[CHKYBSTRD]

Cyberblizzard schreef op woensdag 29 maart 2023 @ 15:25:
Ik lees dit als de 'bezitter/gebruiker zal de macht hebben', en niet de AI zelf?

In eerste instantie maar waarom zou uiteindelijk de AI zelf niet bezitter/gebruiker worden.

[Cyberblizzard]

quote: https://www.vrt.be/vrtnws...risico-gevaar-samenlevin/

"Systemen van artificiële intelligentie die concurreren met de intelligentie van de mens kunnen grote risico's inhouden voor de samenleving en de mensheid. Dat blijkt uit uitgebreid onderzoek."

Zo start de open brief van de non-pro­fit­or­ga­ni­sa­tie Future of Life Institute waarin de gevaren van artificiële intelligentie (AI) worden aangekaart. "Geavanceerde AI zou een ingrijpende verandering kunnen betekenen in de geschiedenis van het leven op aarde, en zou met de gepaste zorg en middelen moeten worden beheerd", gaat de brief verder.

"Helaas gebeurt dat niet, ook al zijn AI-laboratoria de afgelopen maanden verwikkeld geraakt in een uit de hand gelopen race om steeds krachtigere digitale breinen te ontwikkelen die niemand - zelfs hun makers niet - kan begrijpen, voorspellen of op een betrouwbare manier controleren."

Maar toch een kanntekening:

quote: https://www.standaard.be/cnt/dmf20230127_92585171

Opvallend is dat de brief heel nadrukkelijk oproept om alleen de ontwikkeling stil te leggen van systemen ‘krachtiger dan GPT-4’. Koploper OpenAI zou dus de ontwikkeling van een hypothetisch GPT-5 voor zes maanden moeten stilleggen, maar concurrenten zouden ongestoord verder kunnen werken om hun achterstand op OpenAI in te halen. Dat kan de reden zijn dat de topmensen van OpenAI niet, maar die van de concurrenten wél bij de ondertekenaars zijn. Ook het ontwikkelen van AI-toepassingen gebaseerd op bestaande AI-modellen zou niet worden gehinderd.

[Superbeagle]

Cyberblizzard schreef op woensdag 29 maart 2023 @ 15:25:
Ik lees dit als 'de bezitter/gebruiker zal de macht hebben', en niet de AI zelf?

Dan moet je het stuk maar eens goed teruglezen en vooral deel 2.

Op een gegeven moment zal een ASI zo intelligent zijn ten opzichte van ons als wij ten opzichte van bijvoorbeeld een spin.

De spin zal macht proberen uit te oefenen op een mens door die proberen te vangen in een spinnenweb. Heb ik persoonlijk vaak genoeg meegemaakt.

Zoveel macht als een spin op een mens heeft, zal een bezitter/gebruiker hebben op een ASI.

[Poecillia]

Hierboven zie ik weer staan dat niemand AI kan begrijpen, kan voorspellen of controleren. Maar geldt dat ook niet voor het menselijk brein? Dat vinden we ook acceptabel. Ik denk dat er heel veel controle en monitoring zit op AI. De Reinforcement Learning from Human Feedback (RLHF) waar het succes van de GPT's op zijn gebaseerd is, zou je kunnen zien als de opvoeding van de ruwe kennis. We moeten niet naïef zijn, en selectief zijn bij de inzet en het vooral heel veel gebruiken zodat we het goed leren kennen.

[Cyberblizzard]

Superbeagle schreef op woensdag 29 maart 2023 @ 19:42:
[...]

Dan moet je het stuk maar eens goed teruglezen en vooral deel 2.

Op een gegeven moment zal een ASI zo intelligent zijn ten opzichte van ons als wij ten opzichte van bijvoorbeeld een spin.

De spin zal macht proberen uit te oefenen op een mens door die proberen te vangen in een spinnenweb. Heb ik persoonlijk vaak genoeg meegemaakt.

Zoveel macht als een spin op een mens heeft, zal een bezitter/gebruiker hebben op een ASI.

Het is moeilijk te voorspellen waar het zal eindigen, maar sommigen zullen makkelijker beïnvloedbaar zijn dan anderen. Sommigen laten zich nu al vangen door nepnieuws en complottheorieën, terwijl anderen zich enkel informeren via officiële kanalen met professionele journalisten. Ik heb geen behoefte om met chatbots te praten en zit niet op sociale media, dus het zal me ook niet snel beïnvloeden. De machine heeft een knop en ik zet die niet aan. De vraag is wel of de maatschappij als geheel zich zal laten vangen, net zoals er nu al een groot deel van bvb. Trump-kiezers zich laat vangen door nepnieuws en complottheorieën, en daardoor de hele maatschappij beïnvloeden. Bij de vorige verkiezingen gebeurde het met trollenlegers, bij de volgende verkiezingen misschien door AI, dat op veel grotere schaal, verfijnder en persoonlijker kan opereren. Eigenlijk nemen sociale media feeds, gestuurd door algoritmes, ook al een loopje met de realiteit en met de ideeën van mensen. In die zin kan je dus wel stellen dat AI het nu al van de mens overneemt.

[maratropa]

We hebben met al onze techniek etc ondanks de beloften tot nu toe nog geen betere wereld kunnen bouwen voor een groot deel van de bevolking op aarde, dus de vraag is of AI dat dan wel gaat doen.

gezien het binaire karakter van de uitkomst en de risico's is grote voorzichtigheid geboden.

Alleen biedt het mogelijkheden tot grote voorsprong op de concurrentie dus kijkend naar hoe mensen zijn is het niet te verbieden of te stoppen, commercieel, militair, etc.

Als de eerste ASI ook meteen de laatste is laten we dan samen ons best doen en deze dan 1 hele duidelijke taak geven: Een AI killer. Beschermen van mens, dier en planeet. Alles boven een bepaalde grens = weg.
Ik snap, waar trek je de grenzen, hoe geef je dit vorm. Het zou natuurlijk lol zijn als deze AI uiteindelijk ons omlegt met goede bedoelingen.

Wordt er eigenlijk met prio gewerkt aan een AI AI neutralizer?

[Auredium]

Ik denk dat er grofweg twee takken zijn die worden besproken:
1) De technische voor en nadelen van de huidige ontwikkelingen.
2) De economische gevolgen.

Hierbij moet ook goed worden opgelet op sommige zaken. Elon Musk was in 2016 bijvoorbeeld groot voorstander van OpenAI. Nu is hij kwaad want Microsoft heeft met zijn kapitaalinjectie praktisch alleen gebruik weten te krijgen over OpenAI terwijl er tekenen zijn dat hij het wilt gebruik in sommige van zijn producten zoals waarschijnlijk Tesla en mogelijk Twitter. Het is belangrijk om dit te onthouden omdat zijn motivatie grotendeels financieel is. Zijn angst voor AI is er natuurlijk ook maar die heeft Bill Gates vroeger ook geuit. Maar als puntje bij paaltje komt zijn de economische voordelen voor beide heren belangrijker dan de maatschappelijke risico's van dergelijke AI.

Een andere zaak waarin de ontwikkeling belangrijk is is het type werk wat dit vervangt. Machines en robots vervangen hoofdzakelijk praktisch werk wat in veel gevallen door lager geschoolde mensen wordt gedaan. Programmeurs, ontwikkelaars e.d. met een HBO of Universitaire opleiding maken zich niet veel zorgen erover als havenwerkers of vuilnismannen hun baan verliezen door automatisering via robots. AI zoals OpenAI echter raakt alle lagen van de bevolking en specifiek die lagen die juist niet veel handenarbeid doen. Het zijn nit alleen artiesten die in gevaar zijn; engineers kunnen ook plotseling de assistent van een AI worden en slechts automatisch gegenereerde ontwerpen nalopen op eventuele foutjes (iets wat gaandeweg steeds minder relevant wordt). Dus plotseling is je 6 of 7 cijferig salaris in gevaar. Dit hoor je nog niet veel maar ik denk dat veel mensen zich wel achter de oren krabben. De AI is nu al behoorlijk goed en de ontwikkeling versnelt enkel. Als jij programmeur bent en je verdient hiermee je geld, heb jij dan nog wel over tien jaar een baan?

Ik weet dat de instinctieve reactie van veel mensen is 'met zo'n vaart zal het niet gaan' maar ik denk dat dit vooral naïef denken is. Ik verwacht veel weestand op mijn blik maar ik verwacht dat wij het begin van het einde zien van ons huidige economische model. AI zal ook robotica in een versnelling brengen. Uiteindelijk zal een hoop van ons werk worden vervangen en wellicht komt er wat nieuws voor terug maar wat? AI en robotica kan zo goed als alles vervangen. Als niemand meer werk heeft verdient niemand meer geld en hebben bedrijven niemand meer om aan te verkopen. Je kunt dan wel kunstmatig geld gaan rondpompen met uitkeringen maar op dat moment bestaat de economie bijna letterlijk uit monopolie geld.

That said geeft AI ook iedereen meer mogelijkheden. Als een heel simpel voorbeeld. Stel je hebt een groep die D&D speelt. Iedereen kan nu zijn eigen karakter maken inclusief art en video. Iedereen kan een realistische familie stamboom maken. De Dungeon master kan eenvoudig een geloofwaardige wereld plus quests maken. Een geloofwaardige topografie en een geschiedenis van die wereld. Iedere 'NPC' in de wereld heeft zijn eigen geschiedenis en familie stamboom die realistisch is. Zelf continentale platen, hoogteverschillen weermodellen zijn beschikbaar voor de D&D wereld dankzij AI. En dat beschikbaar door enkel wat dingen in te geven bij de AI. Voor de komst van dit soort AI was dat de hooguit de natte droom van een fanatiek D&D master en was deze persoon afhankelijk van bedrijven die minder gedetailleerde zaken uit brachten soms in stijlen die niet helemaal waren wat men wilde.

[Cyberblizzard]

Auredium schreef op donderdag 30 maart 2023 @ 14:40:
Ik weet dat de instinctieve reactie van veel mensen is 'met zo'n vaart zal het niet gaan' maar ik denk dat dit vooral naïef denken is. Ik verwacht veel weestand op mijn blik maar ik verwacht dat wij het begin van het einde zien van ons huidige economische model. AI zal ook robotica in een versnelling brengen. Uiteindelijk zal een hoop van ons werk worden vervangen en wellicht komt er wat nieuws voor terug maar wat? AI en robotica kan zo goed als alles vervangen. Als niemand meer werk heeft verdient niemand meer geld en hebben bedrijven niemand meer om aan te verkopen. Je kunt dan wel kunstmatig geld gaan rondpompen met uitkeringen maar op dat moment bestaat de economie bijna letterlijk uit monopolie geld.

Of we kunnen eindelijk AI en robots ons werk laten doen, terwijl wij van het leven kunnen genieten Dan moeten we enkel een wettelijke kader creëren om alle welvaart eerlijk te verdelen.

[autje]

Cyberblizzard schreef op donderdag 30 maart 2023 @ 15:17:
[...]

Of we kunnen eindelijk AI en robots ons werk laten doen, terwijl wij van het leven kunnen genieten Dan moeten we enkel een wettelijke kader creëren om alle welvaart eerlijk te verdelen.

Dit dus. Het lijkt mij een ideaalbeeld. Als werk in principe gratis wordt omdat je het kunt laten doen door iets wat geen loon vraagt, dan wordt al het andere ook gratis en gaan we richting de Wall-E toekomst (maar hopelijk kunnen we er beter mee omgaan). Was dat ook niet het idee wat men oorspronkelijk had bij automatisering? Mensen zouden minder gaan werken. Helaas ziet men nu AI als een middel om de productiviteit van mensen te verhogen, want geld.

Let wel: een ideaalbeeld. De mens zou de mens niet zijn als ze dat niet om zeep zouden helpen .

[TheBrut3]

Auredium schreef op donderdag 30 maart 2023 @ 14:40:
2) De economische gevolgen.

Ook economisch, maar buiten de arbeidsmarkt; Wat als een AI met het kapitaal van BlackRock of Vanguard kan gaan traden? Zo'n AI is mega snel en kan met dergelijk kapitaal de markt beïnvloeden.
Lijkt mij dat de hele aandelenbeurs voor particulieren instort.

Poecillia schreef op woensdag 29 maart 2023 @ 19:43:
Hierboven zie ik weer staan dat niemand AI kan begrijpen, kan voorspellen of controleren. Maar geldt dat ook niet voor het menselijk brein? Dat vinden we ook acceptabel.

Maar hoeveel impact kan een mens hebben? Buiten de extreme gevallen als Poetin, Jong-un en dat soort gevallen.

De meeste individuen hebben we redelijk in de hand en daar hebben we als samenleving 'macht' over, bijvoorbeeld een gevangenisstraf wanneer je een misdaad begaat. Hoe zit dat wanneer een AI zelf kan leren en zichzelf dus ook kan 'verspreiden' buiten een gecontroleerd netwerk en zorgt voor doden?

[Voor 46% gewijzigd door TheBrut3 op 30-03-2023 15:37]

[Superbeagle]

OpenAi, OpenResearch en University of Pennsylvania hebben recent een paper gepubliceerd over welke beroepsgroepen de meeste blootstelling hebben aan LLM’s zoals GPT4.

Het woordje blootstelling is hier van belang, want het hoeft niet te betekenen dat die beroepsgroepen, weliswaar slechts geldig voor de Amarikaanse arbeidsmarkt, hoeven te vrezen voor hun baan. Het kan ook zo zijn dat ze productiever worden.

[Auredium]

TheBrut3 schreef op donderdag 30 maart 2023 @ 15:33:
[...]

Ook economisch, maar buiten de arbeidsmarkt; Wat als een AI met het kapitaal van BlackRock of Vanguard kan gaan traden? Zo'n AI is mega snel en kan met dergelijk kapitaal de markt beïnvloeden.
Lijkt mij dat de hele aandelenbeurs voor particulieren instort.

Dat is inderdaad wel een dignetje. Maar het is zo dat we toch niet kunnen verhinderen dat AI deze zaken gaat doen. Het is niet een unipolaire wereld. Landen zoals China en Rusland gaan niet meedoen met iedere AI stop die het westen voorstelt als ze denken economisch voordeel te kunnen behelpen.
Ik verwacht ook dat de verschillende AI's ook gewoon aan elkaar worden geknoopt en wat wij als insider trading zien door die AI's heel gemakkelijk kan worden ingeschat met weinig fouten.
Er zijn al trading 'bots' maar ik weet zeker dat er mensen zijn die ChatGPT achtige AI kunnen gebruiken voor aandelenhandel mits ze voldoende (correcte) data voeren. Nu is dit nog niet zo'n probleem maar over tien jaar of minder zijn deze systemen op het niveau van mensen of beter.

[CVTTPD2DQ]

Auredium schreef op donderdag 30 maart 2023 @ 14:40:
Het zijn nit alleen artiesten die in gevaar zijn; engineers kunnen ook plotseling de assistent van een AI worden en slechts automatisch gegenereerde ontwerpen nalopen op eventuele foutjes (iets wat gaandeweg steeds minder relevant wordt). Dus plotseling is je 6 of 7 cijferig salaris in gevaar. Dit hoor je nog niet veel maar ik denk dat veel mensen zich wel achter de oren krabben. De AI is nu al behoorlijk goed en de ontwikkeling versnelt enkel. Als jij programmeur bent en je verdient hiermee je geld, heb jij dan nog wel over tien jaar een baan?

Ik weet niet in welke wereld jij leeft, maar 6-cijferige cijfers voor Engineers bestaan vooral bij een paar grote Amerikaanse bedrijven, en voor de 7-cijferige denk ik dat je zelfs daar goed moet zoeken.

Verder denk ik dat het verkeerd is om software development als "hoogopgeleid" werk te bestempelen. Het is vooral obscuur werk. Niet iedereen heeft het geduld om te leren hoe pointer arithmetic werkt, of list comprehensions, en bij SOLID principles valt echt iedereen in slaap. Large Language Models hebben oneindig geduld, en pikken dit dus makkelijk op.

WIskundigen hoeven voorlopig nog niet voor hun baan te vrezen, net als andere beroepen waarbij je goed moet kunnen redeneren.

Als je naar de geschiedenis kijkt zie je dat nieuwe technologie vooral de ongelijkheid vergroot. De Industrialisatie heeft miljardairs als Getty, Rockefellers, Carnegie voortgebracht. De Software- en Internetrevolutie Gates, Ellison en Bezos. De AI-revolutie zal niet anders zijn.

Verder is de ondergrens van kosten van een LLM heel laag; waarschijnlijk kun je voor enkele dollars behoorlijk wat "denkwerk" uitbesteden. Een robot zal altijd minimumkosten met zich meebrengen. Er zal altijd nog fysiek werk zijn dat te weinig oplevert om aan robots uit te besteden; de plantsoenendienst, pakketbezorging, of ander logistiek werk dat een grote diversiteit aan handelingen kent.

[Auredium]

CVTTPD2DQ schreef op donderdag 30 maart 2023 @ 16:16:
[...]


Ik weet niet in welke wereld jij leeft, maar 6-cijferige cijfers voor Engineers bestaan vooral bij een paar grote Amerikaanse bedrijven, en voor de 7-cijferige denk ik dat je zelfs daar goed moet zoeken.

Verder denk ik dat het verkeerd is om software development als "hoogopgeleid" werk te bestempelen. Het is vooral obscuur werk. Niet iedereen heeft het geduld om te leren hoe pointer arithmetic werkt, of list comprehensions, en bij SOLID principles valt echt iedereen in slaap. Large Language Models hebben oneindig geduld, en pikken dit dus makkelijk op.

WIskundigen hoeven voorlopig nog niet voor hun baan te vrezen, net als andere beroepen waarbij je goed moet kunnen redeneren.

Als je naar de geschiedenis kijkt zie je dat nieuwe technologie vooral de ongelijkheid vergroot. De Industrialisatie heeft miljardairs als Getty, Rockefellers, Carnegie voortgebracht. De Software- en Internetrevolutie Gates, Ellison en Bezos. De AI-revolutie zal niet anders zijn.

Verder is de ondergrens van kosten van een LLM heel laag; waarschijnlijk kun je voor enkele dollars behoorlijk wat "denkwerk" uitbesteden. Een robot zal altijd minimumkosten met zich meebrengen. Er zal altijd nog fysiek werk zijn dat te weinig oplevert om aan robots uit te besteden; de plantsoenendienst, pakketbezorging, of ander logistiek werk dat een grote diversiteit aan handelingen kent.

Het is een voorbeeld
Principe blijft hetzelfde. Er zijn buiten het voorbeeld genoeg andere mensen emt goed betaalde banen die assistent van een AI dreigen te worden en dat liever niet zien gebeuren.

[CHKYBSTRD]

Cyberblizzard schreef op donderdag 30 maart 2023 @ 15:17:
[...]

Of we kunnen eindelijk AI en robots ons werk laten doen, terwijl wij van het leven kunnen genieten Dan moeten we enkel een wettelijke kader creëren om alle welvaart eerlijk te verdelen.

Zojuist geprobeerd (als een soort van test) GPT een module opdracht te laten verwerken, binnen één uur klaar waar normaliter redelijk veel studie uren voor staan. Het wordt zo wel heel makkelijk gemaakt.

[gekkie]

Cyberblizzard schreef op donderdag 30 maart 2023 @ 15:17:
[...]
Of we kunnen eindelijk AI en robots ons werk laten doen, terwijl wij van het leven kunnen genieten Dan moeten we enkel een wettelijke kader creëren om alle welvaart eerlijk te verdelen.

En daar zullen we vermoedelijk niet zo heel goed in zijn, gezien ons track-record als mens.
Dus wat houden we dan nog over in de mix als (vermeend) hard werken er niet meer is, bezit, macht, uiterlijk, overredingskracht, ras, geslacht, geografische kenmerken om zo maar eens wat al bestaande kenmerken in de mix te noemen die dan (weer) krachtiger zouden kunnen worden.

[Superbeagle]

CHKYBSTRD schreef op donderdag 30 maart 2023 @ 16:32:
[...]


Zojuist geprobeerd (als een soort van test) GPT een module opdracht te laten verwerken, binnen één uur klaar waar normaliter redelijk veel studie uren voor staan. Het wordt zo wel heel makkelijk gemaakt.

Weliswaar n=1 en op korte termijn, maar jij bent dus door AI productiever geworden, wat dus in lijn de ligt met een van de conclusies uit paper die ik eerder noemde.

[TheBrut3]

Superbeagle schreef op donderdag 30 maart 2023 @ 17:47:
Weliswaar n=1 en op korte termijn, maar jij bent dus door AI productiever geworden, wat dus in lijn de ligt met een van de conclusies uit paper die ik eerder noemde.

Is dat zo? Wat is het doel van een studieopdracht? De vraag beantwoorden of ervan leren? Indien dat eerste, dan is het zeker productiever. Indien dat tweede, dan is het veel minder productief.

[Poecillia]

TheBrut3 schreef op donderdag 30 maart 2023 @ 15:33:
[...]

Ook economisch, maar buiten de arbeidsmarkt; Wat als een AI met het kapitaal van BlackRock of Vanguard kan gaan traden? Zo'n AI is mega snel en kan met dergelijk kapitaal de markt beïnvloeden.
Lijkt mij dat de hele aandelenbeurs voor particulieren instort.

Dit had ik me ook al bedacht. Niet zo zeer de snelheid van handelen, maar meer het anticiperen op alle informatie die geproduceerd wordt en de beurskoers bepaald.

Maar hoeveel impact kan een mens hebben? Buiten de extreme gevallen als Poetin, Jong-un en dat soort gevallen.

De meeste individuen hebben we redelijk in de hand en daar hebben we als samenleving 'macht' over, bijvoorbeeld een gevangenisstraf wanneer je een misdaad begaat. Hoe zit dat wanneer een AI zelf kan leren en zichzelf dus ook kan 'verspreiden' buiten een gecontroleerd netwerk en zorgt voor doden?

We praten hier voorlopig over taalmodellen, niet over robots. Een robot die eruit ziet als een normaal mens zie ik voorlopig nog niet gebeuren. De gevaren zitten vooral in de social media en het ophitsen tot een burgeroorlog. Maar tegen die tijd zullen er wel stekkers uit platforms getrokken worden.

[Superbeagle]

TheBrut3 schreef op donderdag 30 maart 2023 @ 18:30:
[...]

Is dat zo? Wat is het doel van een studieopdracht? De vraag beantwoorden of ervan leren? Indien dat eerste, dan is het zeker productiever. Indien dat tweede, dan is het veel minder productief.

Dat hangt ervan af.
Toen de eerste student internet gebruikte, was hij dan minder productief? En de eerste rekenmachine?

Edit:
Ik ben oud genoeg om te herinneren dat een rekenmachine niet gebruikt mocht worden maar een rekenliniaal wel.

[Voor 16% gewijzigd door Superbeagle op 30-03-2023 19:00]

[TheBrut3]

*knip*, als je de volgende keer even kort vertelt wat er achter de link te vinden is, is het ook geen linkdrop meer.

[Voor 82% gewijzigd door NMH op 31-03-2023 20:38]

[CR2032]

AI biedt een nieuwe wereld aan kansen en ook bedreigingen. Voor mij is het belangrijk hoe het gebruikt gaat worden en welke regels hier voor gaan gelden. Een auto is een vervoermiddel en het kan ook een wapen zijn.
Het wordt pas eng wanneer AI ook macht gaat krijgen of nog erger de macht grijpt.

Of dat AI op een gegeven moment als een eigen levensvorm wordt gezien en dezelfde rechten gaat krijgen als de mens en zichzelf reproduceert.
Of dat als gevolg hiervan er politieke partijen zoals een A33 naast D66 komt in de Tweede Kamer. Dat de rechterlijke macht of politie door AI wordt uitgevoerd. De EMH Emergency Medical Hologram uit Star Trek was altijd leuke science fiction, nu is de vraag hoe lang nog voordat een AI doctor er in het echt is; "Please state the nature of your emergency"

Ik had toen ChatGPT uitkwam wel direct het gevoel dat we vrij onverwacht een drempel over zijn gegaan van een heel nieuw tijdperk.
Het kan natuurlijk ook mislukken en tegen plafonds aanlopen om niet verder te komen dan reproducties en slimme combinaties zonder dat er echte intelligentie en zelfbesef gaat ontstaan.

Voor nu is het vooral vermakelijk en erg handig vooral op het creatieve vlak. Laatst heb ik door Dall-E 2 van OpenAI dit plaatje laten maken. Het is razend knap gedaan, maar het lijkt nog niet op de grote meester zelf.

Painting of three singing ducks in the style of Rembrandt.

[Deruxian]

Hoe zit het eigenlijk als je in de chatbox van ChatGPT een kopie gooit van een digitaal boek of studieboek dat niet gratis beschikbaar is en vraagt om een samenvatting ?

[SCIxX]

boxlessness schreef op vrijdag 24 maart 2023 @ 10:23:


maar de filosofie heeft nog geen antwoord over wat dit gaat betekenen voor ons "mens-zijn".

Wat bedoel je precies? Ik ben benieuwd naar de kern van je angst maar je vraagstuk is erg wollig. Waar heeft de filosofie geen antwoord meer op waar het nu wel een antwoord op heeft? En hoe is deze situatie anders dan de introductie van computers of andere automatisering (robots, lopende banden etc.)?

[Fornoo]

Ik begin de vooruitgang in AI langzaam doodeng te vinden.

Gisteren heb ik de podcast van Lex Fridman met Eliezer Yudkowsky bekeken en daar word ik enorm neerslachtig van. Hij houdt zich al jaren bezig met onderzoek naar de vraag hoe we AI onder controle kunnen houden. Zijn conclusie is dat er veel te weinig wordt gedaan. Puntje bij paaltje; iedereen sterft zodra ASI opstaat. In het gesprek van meer dan drie uur wordt er veel meer gezegd, maar het is iemand die hardop zegt dat hij de hoop heeft opgegeven...

De man is ongetwijfeld erg slim, maar ik twijfel nog of hij ook een hoog EQ heeft. Het is volgens mij iemand die alles rationaliseert. Ik vraag me af of hij zijn eigen emoties ervaart of wellicht een aandoening heeft waardoor zijn brein minder emoties 'maakt'. In die zin hoop ik dat hij AI te rationeel bekijkt en er wellicht geen of te weinig rekening mee houdt dat AI ook emoties kan ontwikkelen.

Dat gezegd hebbende, hij heeft erg sterke punten zoals; we weten eenvoudig niet hoe een ASI zichzelf uiteindelijk zal ontwikkelen, omdat er geen sprake is van natuurlijke selectie. Als er een 'productiefout' in zit wordt deze er niet uit gefilterd zoals dat in natuurlijke selectie zou gebeuren (verkeerde eigenschap of fysieke aanpassing en die mutatie zal uitsterven). We hebben dus 1 kans om het goed te doen, en de kans dat we het 1 keer goed doen is onwaarschijnlijk klein tot nihil.

Om dit probleem op te lossen, als het op te lossen is, is volgens hem door de komende 50 jaar de huidige ontwikkeling stop te zetten en alle middelen in te zetten om een veiliger systeem te bedenken. Ik denk dat ik deze podcast liever niet had gezien, serieus.

[Yucon]

Fornoo schreef op zondag 2 april 2023 @ 22:58:
Ik denk dat ik deze podcast liever niet had gezien, serieus.

Dan laat ik hem dus maar even aan me voorbijgaan

Op zich is het ook nog een klein wonder dat we ondanks het bestaan van atoombommen onszelf nog niet uitgeroeid hebben. Toch bleek dat mogelijk. Er wordt in gevaren van AI heel erg ingezoomd op AI vs mensen, maar ik vraag me af of dat terecht is. Het kan er ook op uitdraaien dat je oorlogen krijgt waarbij het groepen mensen + AI tegenover groepen mensen + AI zal zijn. En als dat inderdaad het resultaat wordt kun je maar beter zorgen dat je goede AI hebt.

Tegelijkertijd kan het ook een situatie opleveren waarin het daadwerkelijk inzetten van AI in de vorm van zwermen autonome drones en dergelijke een zelfde soort taboe als kernwapens nu zijn zal zijn.

[Playa del C.]

Fornoo schreef op zondag 2 april 2023 @ 22:58:
Ik begin de vooruitgang in AI langzaam doodeng te vinden.

Gisteren heb ik de podcast van Lex Fridman met Eliezer Yudkowsky bekeken en daar word ik enorm neerslachtig van. Hij houdt zich al jaren bezig met onderzoek naar de vraag hoe we AI onder controle kunnen houden. Zijn conclusie is dat er veel te weinig wordt gedaan. Puntje bij paaltje; iedereen sterft zodra ASI opstaat. In het gesprek van meer dan drie uur wordt er veel meer gezegd, maar het is iemand die hardop zegt dat hij de hoop heeft opgegeven...

De man is ongetwijfeld erg slim, maar ik twijfel nog of hij ook een hoog EQ heeft. Het is volgens mij iemand die alles rationaliseert. Ik vraag me af of hij zijn eigen emoties ervaart of wellicht een aandoening heeft waardoor zijn brein minder emoties 'maakt'. In die zin hoop ik dat hij AI te rationeel bekijkt en er wellicht geen of te weinig rekening mee houdt dat AI ook emoties kan ontwikkelen.

Dat gezegd hebbende, hij heeft erg sterke punten zoals; we weten eenvoudig niet hoe een ASI zichzelf uiteindelijk zal ontwikkelen, omdat er geen sprake is van natuurlijke selectie. Als er een 'productiefout' in zit wordt deze er niet uit gefilterd zoals dat in natuurlijke selectie zou gebeuren (verkeerde eigenschap of fysieke aanpassing en die mutatie zal uitsterven). We hebben dus 1 kans om het goed te doen, en de kans dat we het 1 keer goed doen is onwaarschijnlijk klein tot nihil.

Om dit probleem op te lossen, als het op te lossen is, is volgens hem door de komende 50 jaar de huidige ontwikkeling stop te zetten en alle middelen in te zetten om een veiliger systeem te bedenken. Ik denk dat ik deze podcast liever niet had gezien, serieus.

Zo'n AI (ASI/AGI) zou ontzettend veel beter kunnen denken dan de slimste mensen bij elkaar. Dat levert oolossingen voor vrijwel alle problemen. Waaronder economisch, medicijnen/ziektes, media, high-tech, enz. De eigenaar of gebruiker van een AI krijgt daarmee zoveel macht en rijkdom, dat de ontwikkeling van zo'n AI nodig én onvermijdelijk is:
- Als je het als goedbedoelend persoon niet doet, wordt je dus overgeleverd aan een ander die jou zou overheersen (VS vs China vs Europa).
- Ook al zou je het wereldwijd kunnen beperken, er zal altijd een mens/groep zijn die de AI een stapje te ver laat gaan voor eigen gewin.

Er gaat momenteel veel aandacht, geld en tijd naar AI. De rijkste mensen en de grootste bedrijven springen er al jaren vol in. Laatste maanden met geoot succes. Dit is niet iets wat wij nog kunnen stoppen. Het is te hopen dat alles goed zal verlopen. Dat is mogelijk en zou juist 'al onze problemen' oplossen, wat dan wel positief is nog.

[Lordy79]

Yucon schreef op maandag 3 april 2023 @ 07:04:
[...]

Tegelijkertijd kan het ook een situatie opleveren waarin het daadwerkelijk inzetten van AI in de vorm van zwermen autonome drones en dergelijke een zelfde soort taboe als kernwapens nu zijn zal zijn.

De enige reden dat kernwapens taboe zijn is dat je er redelijk zeker van kunt zijn dat je er een aantal terug krijgt als je ze gebruikt. Ze zijn één keer wél gebruikt en dat was nou precies op het moment in de geschiedenis dat er nog maar één land was dat kernwapens had...

Nu zou je hetzelfde kunnen zeggen van een zwerm drones en ik denk inderdaad dat als bijv. de VS een zwerm loslaten op China of Rusland, dit vrij snel kan escaleren in een kernoorlog.
Maar buiten dat zie ik niet in waarom een land geen autonome drones kan gebruiken tegen een niet-kernmacht. Als Rusland de beschikking zou hebben over zoiets, zouden ze dit zeker inzetten tegen Oekraïne.

Het gaat pas fout als de AI besluit dat - om Oekraïne effectief te bestrijden - zelfstandig besluit om een aantal Navo doelwitten aan te vallen omdat daar wapens vandaan komen die aan Oekraïne geleverd worden. Rusland valt nu geen Navo land aan omdat ze weet dat dat een hele dikke rode lijn is.

En ja, wat doe je dan als Navo? Rusland de schuld geven en dus met alle conventionele middelen heel Rusland kapot schieten? Of zelfs kernwapens inzetten?

[Cyberblizzard]

Playa del C. schreef op maandag 3 april 2023 @ 07:33:
[...]

Zo'n AI (ASI/AGI) zou ontzettend veel beter kunnen denken dan de slimste mensen bij elkaar. Dat levert oolossingen voor vrijwel alle problemen. Waaronder economisch, medicijnen/ziektes, media, high-tech, enz. De eigenaar of gebruiker van een AI krijgt daarmee zoveel macht en rijkdom, dat de ontwikkeling van zo'n AI nodig én onvermijdelijk is:
- Als je het als goedbedoelend persoon niet doet, wordt je dus overgeleverd aan een ander die jou zou overheersen (VS vs China vs Europa).
- Ook al zou je het wereldwijd kunnen beperken, er zal altijd een mens/groep zijn die de AI een stapje te ver laat gaan voor eigen gewin.

Er gaat momenteel veel aandacht, geld en tijd naar AI. De rijkste mensen en de grootste bedrijven springen er al jaren vol in. Laatste maanden met geoot succes. Dit is niet iets wat wij nog kunnen stoppen. Het is te hopen dat alles goed zal verlopen. Dat is mogelijk en zou juist 'al onze problemen' oplossen, wat dan wel positief is nog.

Op zich is de mensheid (of toch een deel) al intelligent genoeg om te weten hoe we bvb. ons klimaat moeten stabiliseren, maar er moet ook draagvlak zijn bij de bevolking. Ik denk dat het zonder gedragsverandering niet zal lukken, want aan innovatie zijn er fysische/natuurkundige limieten. Ik denk dus dat AI niet zomaar al onze problemen zal kunnen oplossen, omdat de mens een deel van het probleem is

Ik ben niet helemaal mee met hoe AI onze maatschappij zou kunnen overnemen, of toch niet 'uit eigen initiatief', hoe zien jullie dit? Volgens mij gaat AI pas zo ver als de mens zelf wilt, je kan het toch gewoon uitschakelen of negeren? Tenzij we robots maken met AI die ons fysiek kunnen gaan overheersen.

[Voor 10% gewijzigd door Cyberblizzard op 03-04-2023 07:50]

[CVTTPD2DQ]

Fornoo schreef op zondag 2 april 2023 @ 22:58:
De man is ongetwijfeld erg slim, maar ik twijfel nog of hij ook een hoog EQ heeft. Het is volgens mij iemand die alles rationaliseert. Ik vraag me af of hij zijn eigen emoties ervaart of wellicht een aandoening heeft waardoor zijn brein minder emoties 'maakt'. In die zin hoop ik dat hij AI te rationeel bekijkt en er wellicht geen of te weinig rekening mee houdt dat AI ook emoties kan ontwikkelen.

Yudkowski zit in een clubje dat SF-verhalen uit de jaren '60 behandelt alsof het filosofische problemen zijn. Zo wordt I have no mouth and I must Scream ineens Roko's Basilisk: de stelling dat een AI ons in de toekomst allemaal zal martelen (en als je dood bent, kan-ie een simulatie van jouw persoonlijkheid maken die gemarteld wordt).

Verder "ontwikkelen" we geen emoties; emoties zijn onze basislaag. De drang om te overleven, vluchten, eten, voortplanten en vechten zijn allemaal door honderden miljoenen jaren ingesleten, voordat we rationeel begonnen te denken. En we schrijven pas enkele duizenden jaren.

GPT--3 en verwanten zijn vooral gebaseerd op wat we geschreven hebben. We hebben nu te maken met iets dat wel een concept heeft van emoties, maar op dezelfde manier als het een concept heeft van verschillende talen, schrijfstijlen, of tijd.

Ik maak me meer zorgen over het nieuwe machtsevenwicht dat ontstaat door een AI dat veel kantoorarbeid kan overnemen. Reken maar dat mensen hier akelig rijk en machtig van gaan worden. En rijke, machtige mensen hebben bijna per definitie niet zoveel goeds voor met de rest van de mensheid.

[CHKYBSTRD]

Deruxian schreef op zaterdag 1 april 2023 @ 08:20:
Hoe zit het eigenlijk als je in de chatbox van ChatGPT een kopie gooit van een digitaal boek of studieboek dat niet gratis beschikbaar is en vraagt om een samenvatting ?

Ik ben hier ook wel benieuwd naar

[Fornoo]

Yucon schreef op maandag 3 april 2023 @ 07:04:
[...]

Op zich is het ook nog een klein wonder dat we ondanks het bestaan van atoombommen onszelf nog niet uitgeroeid hebben

Klopt. Van de atoombom werd ook berekend of er geen catastrofale kettingreactie zou optreden bij de eerste test. Daaruit kwam voort dat het geen risico was, en heeft men de test uitgevoerd. Gelukkig klopte de berekening. Geen idee wat er trouwens was gedaan als de uitkomst niet eenduidig was...

Playa del C. schreef op maandag 3 april 2023 @ 07:33:
[...]

Zo'n AI (ASI/AGI) zou ontzettend veel beter kunnen denken dan de slimste mensen bij elkaar. Dat levert oolossingen voor vrijwel alle problemen.

Een ASI is per definitie veel slimmer dan de slimste mens op aarde. Hoe kom je er bij dat dit alle problemen oplost? Hoe denk je een probleem zo te definiëren dat een ASI ten alle tijden de voor jou gewenste oplossing bedenkt, en niet een die pardoes een deel van de wereldbevolking omlegd? Hoe denk je uberhaupt een ASI te kunnen beteugelen?

CVTTPD2DQ schreef op maandag 3 april 2023 @ 08:03:
[...]


Yudkowski zit in een clubje dat SF-verhalen uit de jaren '60 behandelt alsof het filosofische problemen zijn. Zo wordt I have no mouth and I must Scream ineens Roko's Basilisk: de stelling dat een AI ons in de toekomst allemaal zal martelen (en als je dood bent, kan-ie een simulatie van jouw persoonlijkheid maken die gemarteld wordt).

Verder "ontwikkelen" we geen emoties; emoties zijn onze basislaag. De drang om te overleven, vluchten, eten, voortplanten en vechten zijn allemaal door honderden miljoenen jaren ingesleten, voordat we rationeel begonnen te denken. En we schrijven pas enkele duizenden jaren.

GPT--3 en verwanten zijn vooral gebaseerd op wat we geschreven hebben. We hebben nu te maken met iets dat wel een concept heeft van emoties, maar op dezelfde manier als het een concept heeft van verschillende talen, schrijfstijlen, of tijd.

Ik maak me meer zorgen over het nieuwe machtsevenwicht dat ontstaat door een AI dat veel kantoorarbeid kan overnemen. Reken maar dat mensen hier akelig rijk en machtig van gaan worden. En rijke, machtige mensen hebben bijna per definitie niet zoveel goeds voor met de rest van de mensheid.

Helemaal mee eens dat emoties onze basislaag vormen, excuses als ik daarin anders deed vermoeden. Rationaliteit is daar een extra sausje overheen, een bijproduct van evolutie die ons schijnbaar voordeel oplevert. Wat ik bedoelde is dat sommige mensen hun emoties om diverse redenen sterk kunnen onderdrukken. Dat gekoppeld met een hoge intelligentie kan je wereldbeeld raar beïnvloeden. Ik denk dat Yudkowsky in die groep valt. Zo vind ik het concept dat, een ASI in het verleden gaat kijken wie zijn creatie heeft tegengewerkt, en diens bewustzijn weer tot leven roept (Matrix-stijl) en vervolgens oneindig lang martelt.... erg erg erg ver gezocht.

Dat gezegd hebbende begrijp en ervaar ik dezelfde angst over welke richting het momenteel gaat. ChatGPT is mooi, maar we begrijpen niet precies hoe het intern werkt en we doen er simpelweg te weinig moeite voor om te begrijpen wat er intern gebeurt. Je hebt de input in de vorm van trainingsdata, die gooi je over een gigantisch cluster van GPU's met een algoritme die zichzelf leert welk woord met hoge waarschijnlijkheid volgt na het andere woord. Daarvan weten niemand wat er precies gebeurt intern in die clusters, we vernemen alleen de output. Nu kun je zeggen we filteren die uitkomst al naar gelang we wenselijk achten. Punt is alleen, hoe ontdekt je wanneer er een AGI in een dergelijk cluster opstaat?

Waarom zou een dergelijke entiteit zichzelf meteen kenbaar maken, en niet in stilte nadenken en vervolgens werken aan zijn eigen doelen? Voor ons is de output dan nog steeds hetzelfde, maar intern gebeurt er dan veel meer dan we vermoeden. Mogelijk is de rekencapaciteit nog onvoldoende en de algoritmes nog niet verfijnt genoeg, we werken er erg hard aan om tot dat moment te komen. Juist nu men er nu opeens veel geld en macht in ziet, gaat de blinde ontwikkeling nog sneller. Terwijl er juist nu onderzoek gedaan moet worden wat er precies intern in die systemen gebeurt. Een beetje vergelijkbaar met ons eigen brein, die ook heel lastig te 'kraken' is.

[Playa del C.]

Cyberblizzard schreef op maandag 3 april 2023 @ 07:45:
[...]

Op zich is de mensheid (of toch een deel) al intelligent genoeg om te weten hoe we bvb. ons klimaat moeten stabiliseren, maar er moet ook draagvlak zijn bij de bevolking. Ik denk dat het zonder gedragsverandering niet zal lukken, want aan innovatie zijn er fysische/natuurkundige limieten. Ik denk dus dat AI niet zomaar al onze problemen zal kunnen oplossen, omdat de mens een deel van het probleem is

Ik ben niet helemaal mee met hoe AI onze maatschappij zou kunnen overnemen, of toch niet 'uit eigen initiatief', hoe zien jullie dit? Volgens mij gaat AI pas zo ver als de mens zelf wilt, je kan het toch gewoon uitschakelen of negeren? Tenzij we robots maken met AI die ons fysiek kunnen gaan overheersen.

Draagvlak komt er vanzelf als een alwetende en superslimme AI met voorstellen komt. Ook omdat een AI bijvoorbeeld eerst met een oplossing voor duurzame energie komt en met de oplossing voor kanker.

De mensheid is tot nu toe nog niet in staat geweest om duurzaam stabiel te zijn. We groeien als een ziekte over de planeet.

Een offline AI op zich is niet gevaarlijk, die kun je uitzetten of vernietigen. Het wordt pas gevaarlijk als de AI zichzelf kan verbeteren én het zichzelf kan verplaatsen over het internet. Het is slimmer en sneller dan een mens, dus het kan dan ongrijpbaar worden. Enige oplossing is dan om het internet in zijn geheel uit te schakelen en alle data te wissen. En dat zou de mensheid teruggooien naar de late middeleeuwen of erger.

Het is niet voor niks dat een AI in eerste instantie goed moet worden in taal voor het succesvol wordt. Door het beheersen van alle talen, waaronder ook programmeertalen, kan een AI (net als een mens) aan zichzelf sleutelen. ChatGPT 4 maakt ondertussen gebruik van andere "hersen-delen" voor visualisering en audio en lijkt steeds meer op een compleet brein. De losse onderdelen communiceren met elkaar. Het enige wat nog mist, is een lichaam en actieve stimulering.
Op dit moment wacht de AI op input om een reflex terug te sturen. Zodra de AI wordt toegestaan om online actief naar stimuli te zoeken, zal hij exponentieel ontwikkelen en al snel niet meer te stoppen zijn.
Vandaar dat alle huidige systemen nog losgekoppeld zijn van het internet zelf en ook dat veel mensen willen dat het koppelen aan het internet verboden moet blijven.

Linksom of rechtsom, als we nog twintig jaar leven, dan komen we in dit topic terug en ik denk dat we dan in shock zijn. De wereld verandert exponentieel als we de geschiedenis volgen. Tienduizenden jaren aan jager/verzamelaars. Duizenden jaren aan boeren en dorpen. Honderden jaren met elektriciteit. Tientallen jaren met internet. Paar jaar met AI. Singularity: een vrijwel verticale lijn in de ontwikkeling van de wetenschap.

Er zijn al veel dingen geweest met grote nadelen: olie/gas, atoombom, (vuur)wapens, internet. De voordelen van de technologie zijn blijkbaar zo groot dat we het als mens nooit hebben kunnen stoppen. Al die voorbeelden, die we eigenlijk als 'slecht' of 'mislukt' zien, zijn momenteel wereldwijd verspreid en niet meer te stoppen. Zijn allemaal zaken die een groep mensen een voordeel geven tegenover een andere groep. Als je ze namelijk niet hebt of niet onder controle hebt, dan leg je het af tegen een ander. AI zit in dezelfde wedloop.

Ik ben 38 jaar. Heb 30 jaar bewust meegemaakt en in die tijd gingen we van (vrijwel) geen internet, naar (vrijwel) volledig afhankelijk van internet. Nog 30 jaar verder. Zeker met AI zal de technologische ontwikkeling ongekend zijn. En dan heb ik (hopelijk) nog 20 jaar wat ik daarna mee kan maken als bejaarde. Mensen wonen op Mars? Ziektes bestaan niet meer? Geen enkele oorlog meer? Aliens ontdekt of contact mee gemaakt? Leven in een simulatie? Hersens kopiëren? Nooit meer hoeven werken? Alles wat in Black Mirror voorbij is gekomen en meer. Kan nog wel wat langer duren dan 30 jaar, maar het meeste zal ooit echt gebeuren als de technologie niet wordt geremd.

[Sandor_Clegane]

Playa del C. schreef op maandag 3 april 2023 @ 09:56:
[...]

Draagvlak komt er vanzelf als een alwetende en superslimme AI met voorstellen komt. Ook omdat een AI bijvoorbeeld eerst met een oplossing voor duurzame energie komt en met de oplossing voor kanker.

De mensheid is tot nu toe nog niet in staat geweest om duurzaam stabiel te zijn. We groeien als een ziekte over de planeet.

Een offline AI op zich is niet gevaarlijk, die kun je uitzetten of vernietigen. Het wordt pas gevaarlijk als de AI zichzelf kan verbeteren én het zichzelf kan verplaatsen over het internet. Het is slimmer en sneller dan een mens, dus het kan dan ongrijpbaar worden. Enige oplossing is dan om het internet in zijn geheel uit te schakelen en alle data te wissen. En dat zou de mensheid teruggooien naar de late middeleeuwen of erger.

Het is niet voor niks dat een AI in eerste instantie goed moet worden in taal voor het succesvol wordt. Door het beheersen van alle talen, waaronder ook programmeertalen, kan een AI (net als een mens) aan zichzelf sleutelen. ChatGPT 4 maakt ondertussen gebruik van andere "hersen-delen" voor visualisering en audio en lijkt steeds meer op een compleet brein. De losse onderdelen communiceren met elkaar. Het enige wat nog mist, is een lichaam en actieve stimulering.
Op dit moment wacht de AI op input om een reflex terug te sturen. Zodra de AI wordt toegestaan om online actief naar stimuli te zoeken, zal hij exponentieel ontwikkelen en al snel niet meer te stoppen zijn.
Vandaar dat alle huidige systemen nog losgekoppeld zijn van het internet zelf en ook dat veel mensen willen dat het koppelen aan het internet verboden moet blijven.

Linksom of rechtsom, als we nog twintig jaar leven, dan komen we in dit topic terug en ik denk dat we dan in shock zijn. De wereld verandert exponentieel als we de geschiedenis volgen. Tienduizenden jaren aan jager/verzamelaars. Duizenden jaren aan boeren en dorpen. Honderden jaren met elektriciteit. Tientallen jaren met internet. Paar jaar met AI. Singularity: een vrijwel verticale lijn in de ontwikkeling van de wetenschap.

Er zijn al veel dingen geweest met grote nadelen: olie/gas, atoombom, (vuur)wapens, internet. De voordelen van de technologie zijn blijkbaar zo groot dat we het als mens nooit hebben kunnen stoppen. Al die voorbeelden, die we eigenlijk als 'slecht' of 'mislukt' zien, zijn momenteel wereldwijd verspreid en niet meer te stoppen. Zijn allemaal zaken die een groep mensen een voordeel geven tegenover een andere groep. Als je ze namelijk niet hebt of niet onder controle hebt, dan leg je het af tegen een ander. AI zit in dezelfde wedloop.

Ik ben 38 jaar. Heb 30 jaar bewust meegemaakt en in die tijd gingen we van (vrijwel) geen internet, naar (vrijwel) volledig afhankelijk van internet. Nog 30 jaar verder. Zeker met AI zal de technologische ontwikkeling ongekend zijn. En dan heb ik (hopelijk) nog 20 jaar wat ik daarna mee kan maken als bejaarde. Mensen wonen op Mars? Ziektes bestaan niet meer? Geen enkele oorlog meer? Aliens ontdekt of contact mee gemaakt? Leven in een simulatie? Hersens kopiëren? Nooit meer hoeven werken? Alles wat in Black Mirror voorbij is gekomen en meer. Kan nog wel wat langer duren dan 30 jaar, maar het meeste zal ooit echt gebeuren als de technologie niet wordt geremd.

Dit is wel erg naïef, op het moment zijn deze systemen "blackboxen". We hebben geen idee welke datasets ze gebruiken, welke "constraints/guardrails" er zijn aangebracht op de output etc.

Vraag je eens af wat er zou gebeuren als zo'n AGI zou aangeven dat de gemakkelijkste manier om wereldvrede te behalen het herdistribueren van vermogen zou zijn? Of dat bepaalde instituten opgeheven moeten worden?

Deze systemen en de bedrijven die ze bouwen, in hun huidige vorm, zorgen er alleen maar voor dat de bestaande machtsrelaties in stand blijven. OpenAI is niet "open" over hun datasets, hoe het werkt, wat er aan tweaks is gedaan en ga zo maar door.

[Lordy79]

Sandor_Clegane schreef op maandag 3 april 2023 @ 10:31:
[...]

Vraag je eens af wat er zou gebeuren als zo'n AGI zou aangeven dat de gemakkelijkste manier om wereldvrede te behalen het herdistribueren van vermogen zou zijn? Of dat bepaalde instituten opgeheven moeten worden?

Precies. Alle ethiek en 'geestelijke waarden' zouden weggerationaliseerd (kunnen) worden. Misschien zou zo'n AI wel vinden dat gehandicapte mensen beter euthanasie kunnen krijgen of dat blauwe mensen superieur zijn aan groene mensen en groene mensen beter geen kinderen meer zouden moeten krijgen.

En nog breder gezien: de mensheid zou inderdaad als een plaag gezien kunnen worden voor de biodiversiteit en dus stelt de AI voor om 95 procent of meer van de mensheid te doden.

En een ander zijspoor: als het individuen iets 'kost' zullen ze zich over het algemeen niet 'onderwerpen' aan een 'alwetende' AI, zeker niet als het niet op korte termijn iets oplevert. Korte termijn kan ook 50 of 100 jaar zijn.

[Auredium]

Sandor_Clegane schreef op maandag 3 april 2023 @ 10:31:
[...]


Dit is wel erg naïef, op het moment zijn deze systemen "blackboxen". We hebben geen idee welke datasets ze gebruiken, welke "constraints/guardrails" er zijn aangebracht op de output etc.

Vraag je eens af wat er zou gebeuren als zo'n AGI zou aangeven dat de gemakkelijkste manier om wereldvrede te behalen het herdistribueren van vermogen zou zijn? Of dat bepaalde instituten opgeheven moeten worden?

Deze systemen en de bedrijven die ze bouwen, in hun huidige vorm, zorgen er alleen maar voor dat de bestaande machtsrelaties in stand blijven. OpenAI is niet "open" over hun datasets, hoe het werkt, wat er aan tweaks is gedaan en ga zo maar door.

Ik denk dat je hier juist iets aanstipt wat heel belangrijk kan zijn. Wat als we een OpenAI krijgen die op een goed geaudit systeem werkt. Waarbij foutieve informatie actief wordt gefilterd bijvoorbeeld. Ik mag er 'van uitgaan dat' een bedrijf zoals MS goed filtert maar wss niet perfect.

[Sandor_Clegane]

Auredium schreef op maandag 3 april 2023 @ 10:39:
[...]


Ik denk dat je hier juist iets aanstipt wat heel belangrijk kan zijn. Wat als we een OpenAI krijgen die op een goed geaudit systeem werkt. Waarbij foutieve informatie actief wordt gefilterd bijvoorbeeld. Ik mag er 'van uitgaan dat' een bedrijf zoals MS goed filtert maar wss niet perfect.

Wat als ze filteren op iets "dat even niet handig is" of niet in lijn ligt met hun ideeën/ideologie?
Deze systemen worden gemaakt door mensen, mensen met een politieke voorkeur, natuurlijk sijpelen deze standpunten door in de systemen die ze maken.

[Sandor_Clegane]

Mocht je het leuk vinden om over deze dingen te speculeren/lezen kan ik "The Culture" wel aanraden.

The Culture is a symbiotic society of artificial intelligences (AIs) (Minds and drones), humanoids and other alien species who all share equal status. All essential work is performed (as far as possible) by non-sentient devices, freeing sentients to do only things that they enjoy (administrative work requiring sentience is undertaken by the AIs using a bare fraction of their mental power, or by people who take on the work out of free choice). As such, the Culture is a post-scarcity society, where technological advances ensure that no one lacks any material goods or services. Energy is farmed from a fictitious "energy grid", and matter to build orbitals is collected mostly from asteroids. As a consequence, the Culture has no need of economic constructs such as money (as is apparent when it deals with civilisations in which money is still important). The Culture rejects all forms of economics based on anything other than voluntary activity. "Money implies poverty" is a common saying in the Culture.

Wikipedia: The Culture

[Sandor_Clegane]

Of recenter:

Project Cybersyn was a Chilean project from 1971 to 1973 during the presidency of Salvador Allende aimed at constructing a distributed decision support system to aid in the management of the national economy. The project consisted of four modules: an economic simulator, custom software to check factory performance, an operations room, and a national network of telex machines that were linked to one mainframe computer.[2]

Wikipedia: Project Cybersyn

[TheBrut3]

Buiten de ethische vraagstukken waar de 'bovenwereld' zich mogelijk wel druk om maakt hebben we natuurlijk ook de onderwereld. Ook daar is AI een fijne ontwikkeling. Maakt mensen opsporen wat makkelijker of eventueel wat chaos veroorzaken. De mensen in die wereld stellen nou niet bepaald dezelfde ethische normen als dat wij doen. Alles voor veel (en makkelijk) geld of aanzien. En het zou naïef zijn om te denken dat we die techniek wel af kunnen schermen van de onderwereld.

[ErikT738]

TheBrut3 schreef op maandag 3 april 2023 @ 12:57:
Buiten de ethische vraagstukken waar de 'bovenwereld' zich mogelijk wel druk om maakt hebben we natuurlijk ook de onderwereld. Ook daar is AI een fijne ontwikkeling. Maakt mensen opsporen wat makkelijker of eventueel wat chaos veroorzaken. De mensen in die wereld stellen nou niet bepaald dezelfde ethische normen als dat wij doen. Alles voor veel (en makkelijk) geld of aanzien. En het zou naïef zijn om te denken dat we die techniek wel af kunnen schermen van de onderwereld.

Hoe zie je dat precies voor je? Ik zie deze en andere doemscenario's langskomen in deze thread, maar vrijwel geen enkele onderbouwing hiervan. AI, of wat we nu als AI zien, maakt het makkelijk bepaalde dingen te doen waar je "vroeger" mensen en/of kennis voor nodig had, maar het is geen magische bron van informatie die men niet zelf had kunnen vinden, en ook niet in staat zelf acties te ondernemen.

Sandor_Clegane schreef op maandag 3 april 2023 @ 10:42:
Wat als ze filteren op iets "dat even niet handig is" of niet in lijn ligt met hun ideeën/ideologie?
Deze systemen worden gemaakt door mensen, mensen met een politieke voorkeur, natuurlijk sijpelen deze standpunten door in de systemen die ze maken.

Idealiter wordt het ook mogelijk om systemen zoals ChatGPT gewoon lokaal te draaien en zelf te kunnen trainen, zodat grote bedrijven niet in staat zijn om te bepalen wat je wel en niet aan je AI-assistent mag vragen. Momenteel zie je dat bijvoorbeeld al bij de programma's die met behulp van AI afbeeldingen genereren. Het online gehoste MidJourney heeft allerlei beperkingen omtrent bloot, drugs, politiek en bepaalde namen, maar met het lokaal gehoste Stable Diffusion kan iedereen gewoon maken wat hij wil.

Naar mijn idee zijn de huidige ontwikkelingen omtrent AI vooral negatief als deze niet bereikbaar zijn voor een breed publiek. Als enkel een aantal grote bedrijven deze macht in handen hebben zullen enkel deze bedrijven van de voordelen van AI kunnen profiteren. De initiatieven om de ontwikkelingen omtrent AI af te remmen vind ik overigens vrij kansloos. Alle overheden en bedrijven die de gevolgen van het overtreden van anti-AI regels kunnen dragen gaan gewoon door met ontwikkelen, en enkel partijen met minder macht worden buiten spel gezet.

[autje]

ErikT738 schreef op maandag 3 april 2023 @ 13:29:
[...]

Hoe zie je dat precies voor je? Ik zie deze en andere doemscenario's langskomen in deze thread, maar vrijwel geen enkele onderbouwing hiervan. AI, of wat we nu als AI zien, maakt het makkelijk bepaalde dingen te doen waar je "vroeger" mensen en/of kennis voor nodig had, maar het is geen magische bron van informatie die men niet zelf had kunnen vinden, en ook niet in staat zelf acties te ondernemen.


[...]

In ieder geval zullen phishing mails er niet meer zo makkelijk uit te vissen (pun intended) zijn, omdat ze voortaan wel in perfect zakelijk Nederlands zijn geschreven, en echt lijken te komen van het bedrijf wat ze zogenaamd zou hebben gestuurd. Om maar iets te noemen.

[TheBrut3]

ErikT738 schreef op maandag 3 april 2023 @ 13:29:
Hoe zie je dat precies voor je? Ik zie deze en andere doemscenario's langskomen in deze thread, maar vrijwel geen enkele onderbouwing hiervan. AI, of wat we nu als AI zien, maakt het makkelijk bepaalde dingen te doen waar je "vroeger" mensen en/of kennis voor nodig had, maar het is geen magische bron van informatie die men niet zelf had kunnen vinden, en ook niet in staat zelf acties te ondernemen.

Nu is het nog redelijk basic, zoals @autje aangeeft zijn de phishingmails een stuk moeilijker te herkennen. Straks zal dat ook met beeld en spraak zijn. Nu zijn 'mam ik heb een nieuwe telefoon, stuur watt geld' appjes nog redelijk te herkennen. Wat als AI straks echt het stemgeluid van het kind kan reproduceren? Verder kan ChatGPT al redelijk helpen met het schrijven van scrips op hoger niveau dan dat je zelf kan. Leuk voor een kind om een schoolnetwerk plat te gooien. Wat als organisaties AI straks kunnen gebruiken voor serieuze hacks?

Maar moet ik onderbouwen dat criminelen dergelijke techniek zullen gebruiken als ze er toegang tot hebben en er zelf meer aanzien/macht/rijkdom mee kunnen verwerven? Dat lijkt mij niet nodig toch? Of de ontwikkelingen daadwerkelijk die kant op gaan, dat zal de toekomst uitwijzen. Het verleden heeft in ieder geval al uitgewezen dat wetgeving over het algemeen ver achter de feiten aan loopt. Ik bedoel men is momenteel bezig met het herschrijven van het Wetboek van Strafvordering, waarvan het origineel zo'n 100 jaar oud is.

[Brent]

ErikT738 schreef op maandag 3 april 2023 @ 13:29:
[...]

Hoe zie je dat precies voor je? Ik zie deze en andere doemscenario's langskomen in deze thread, maar vrijwel geen enkele onderbouwing hiervan.

Financiële predatie op ouderen is al een oud verschijnsel. Inspelen op een gebrek aan kennis, ervaring, verminderde prestatie zintuigen (hoe slechter je hoort, hoe sneller een stem door kan voor een bekende); dat gebeurd al lang, al weten velen er weinig van totdat ze erachter komen dat de erfenis al is verdwenen in een steun-arme-kids-in-Afrika-scam. Kijk eens in de VS, waar door een gebrek aan regelgeving ook veel weldenkende en capabele volwassenen door allerhande scams worden uitgebuit. Phishing is steeds meer een ding. Het vergt toch niet heel veel voorstellingsvermogen te bedenken hoe jij hier met zulke tools ook slachtoffer van kan worden?

Keer het desnoods liever om: welke garanties hebben we dat we niet misbruikt worden? Waar zitten de gordels, de airbags? Of moeten we echt eerst 10-20 jaar aan vernietigde levens hebben voor we daar eens aan denken?

[Lordy79]

TheBrut3 schreef op maandag 3 april 2023 @ 14:01:
[...]
. Wat als AI straks echt het stemgeluid van het kind kan reproduceren?

Ik las ergens dat oma dacht dat ze haar kleinzoon aan de telefoon had...

https://www.washingtonpos...2023/03/05/ai-voice-scam/

[ErikT738]

@autje @TheBrut3 @Brent Die scams worden momenteel al op grote schaal uitgevoerd. Gaat dit significant toenemen door de ontwikkelingen in AI? Technisch gezien wordt het met AI mogelijk om iemands stem en zelfs iemands uiterlijk na te bootsen in een videogesprek. Kan je hier echter mensen mee oplichten die niet in een Whatsapp-scam of een belletje van "Microsoft" uit India zouden trappen? Zeker als dit soort technieken gemeengoed worden gaat men hier gewoon rekening mee houden. AI zal vast ook voor minder frisse zaken worden ingezet, maar ik zie het (in ieder geval op deze manier) nog niet de maatschappij ontwrichten.

Persoonlijk maak ik me meer zorgen over bedrijven die straks kunnen bepalen wie wel en wie niet toegang krijgen tot AI-assistentie, of banen en markten die in zijn geheel zullen verdwijnen.

Brent schreef op maandag 3 april 2023 @ 15:04:
Keer het desnoods liever om: welke garanties hebben we dat we niet misbruikt worden? Waar zitten de gordels, de airbags? Of moeten we echt eerst 10-20 jaar aan vernietigde levens hebben voor we daar eens aan denken?

Dit geldt toch voor letterlijk alles waarmee je iemand misschien kwaad zou kunnen doen? Wat zorgt ervoor dat ik niemand doodrij met mijn auto, niemand neersteek met mijn aardappelschilmes of niemand de hersens insla met mijn honkbalknuppel? En al zouden we inderdaad allerlei beperkingen en garanties in "onze" AI inbouwen (of de ontwikkeling helemaal stopzetten), wat weerhoudt landen als bijvoorbeeld China of Rusland er dan van om een AI zonder beperkingen in te zetten? Ik ben het met je eens dat er potentieel gevaarlijke dingen met AI kunnen worden gedaan, maar ik heb niet de illusie dat een algemene rem op de ontwikkeling of beperkende regels ook maar iets gaat doen om die dingen te voorkomen.

[CVTTPD2DQ]

Fornoo schreef op maandag 3 april 2023 @ 09:54:
Dat gezegd hebbende begrijp en ervaar ik dezelfde angst over welke richting het momenteel gaat. ChatGPT is mooi, maar we begrijpen niet precies hoe het intern werkt en we doen er simpelweg te weinig moeite voor om te begrijpen wat er intern gebeurt. Je hebt de input in de vorm van trainingsdata, die gooi je over een gigantisch cluster van GPU's met een algoritme die zichzelf leert welk woord met hoge waarschijnlijkheid volgt na het andere woord. Daarvan weten niemand wat er precies gebeurt intern in die clusters, we vernemen alleen de output. Nu kun je zeggen we filteren die uitkomst al naar gelang we wenselijk achten. Punt is alleen, hoe ontdekt je wanneer er een AGI in een dergelijk cluster opstaat?

Ach, als ik een biefstukje bak, verhit ik allerlei moleculen waar ik maar amper besef van heb. In die biefstuk vinden allerlei reacties plaats die ik niet kan volgen, en die door de wetenschap maar amper in kaart zijn gebracht. Toch durf ik het product op te eten. Want in grote lijnen weet ik wat er gebeurt.

Waarom zou er in zo'n cluster ineens een AGI opstaan? Hoe zou dat precies moeten gebeuren?

Playa del C. schreef op maandag 3 april 2023 @ 09:56:
Het is niet voor niks dat een AI in eerste instantie goed moet worden in taal voor het succesvol wordt. Door het beheersen van alle talen, waaronder ook programmeertalen, kan een AI (net als een mens) aan zichzelf sleutelen. ChatGPT 4 maakt ondertussen gebruik van andere "hersen-delen" voor visualisering en audio en lijkt steeds meer op een compleet brein. De losse onderdelen communiceren met elkaar. Het enige wat nog mist, is een lichaam en actieve stimulering.

Oh, en motivatie. GPT-3/4 is ook niet iin staat om zelfstandig nieuwe dingen te leren. En het heeft ook geen vermogen om de werkelijkheid van z'n eigen fantasie te onderscheiden, of z'n ideeen te toetsen. Het is vooral een heel slimme chatbot, die ons het gevoel geeft dat we met een mens te maken hebben, maar die kunnen we al vijftig jaar bouwen.

ErikT738 schreef op maandag 3 april 2023 @ 13:29:
Idealiter wordt het ook mogelijk om systemen zoals ChatGPT gewoon lokaal te draaien en zelf te kunnen trainen, zodat grote bedrijven niet in staat zijn om te bepalen wat je wel en niet aan je AI-assistent mag vragen.

Er zijn mensen die LLaMa op een Raspberry Pi 4 hebben gedraaid. Uiteraard lever je wel wat in qua snelheid en complexiteit van het model. Maar spelen met dit soort modellen ligt zeker binnen het bereik van een gemotiveerde hobbyist.

[Fornoo]

CVTTPD2DQ schreef op maandag 3 april 2023 @ 17:49:
[...]


Ach, als ik een biefstukje bak, verhit ik allerlei moleculen waar ik maar amper besef van heb. In die biefstuk vinden allerlei reacties plaats die ik niet kan volgen, en die door de wetenschap maar amper in kaart zijn gebracht. Toch durf ik het product op te eten. Want in grote lijnen weet ik wat er gebeurt.

Waarom zou er in zo'n cluster ineens een AGI opstaan? Hoe zou dat precies moeten gebeuren?


[...]


Oh, en motivatie. GPT-3/4 is ook niet iin staat om zelfstandig nieuwe dingen te leren. En het heeft ook geen vermogen om de werkelijkheid van z'n eigen fantasie te onderscheiden, of z'n ideeen te toetsen. Het is vooral een heel slimme chatbot, die ons het gevoel geeft dat we met een mens te maken hebben, maar die kunnen we al vijftig jaar bouwen.


[...]


Er zijn mensen die LLaMa op een Raspberry Pi 4 hebben gedraaid. Uiteraard lever je wel wat in qua snelheid en complexiteit van het model. Maar spelen met dit soort modellen ligt zeker binnen het bereik van een gemotiveerde hobbyist.

De analogie met de biefstuk begrijp ik even niet. Je weet inderdaad in grote lijnen wat er gebeurt, suikers en aminozuren reageren met elkaar. We eten al duizenden jaren vlees en gaat daar niemand dood van, en het ligt niet in de lijn der verwachting dat er morgen opeens andere reacties optreden waardoor er mensen dood neervallen bij eten van een biefstukje.

Wellicht dat dit ook geldt voor AI op de lange duur. Maar dan negeer je het feit dat we nog geen duizenden jaren sleutelen aan AI's en we eigenlijk geen idee hebben wat er precies omgaat in een chatGPT. We zien alleen de in- en output. Alles wat daar er in die clusters gebeurd, de miljarden aan verbindingen, verbanden en correlaties die er zich vormen zijn zijn niet meer te volgen. Als je wilt weten wat er precies gebeurt, zou je elk stukje code moeten ontcijferen tot je een beeld hebt wat het doet. En dat kost volgens Yudkowsky veel tijd.

Ik kan je niet vertellen hoe een dergelijk systeem een AGI zou kunnen vormen. Maar ik kan me wel voorstellen dat er op den duur, wellicht nog niet in chatGPT-4, maar in versies in de toekomst met nog meer rekenkracht en verfijndere algoritmes er ergens in die soep van miljarden en miljarden en miljarden aan verbindingen een voedingsbodem ontstaat voor AGI. Misschien missen we inderdaad het geheime ingredient om een AGI te maken, iets wat ik oprecht hoop. Maar ik gok er liever niet op... Daarom zie ik graag dat er een stapje terug wordt gedaan om te onderzoeken of we op de goede weg zitten.

Ik begrijp ook wel dat dit in de werkelijkheid zo goed als onmogelijk is, omdat de een bang is om achter te lopen op de ander in deze rat-race. Dat is nu juist waar ik zo neerslachtig van wordt. We bewandelen bijna blind een pad waarvan we niet weten of deze uitkomt in de hemel of dat we straks als mieren worden behandeld door een ASI.

[CVTTPD2DQ]

Fornoo schreef op maandag 3 april 2023 @ 20:14:
Wellicht dat dit ook geldt voor AI op de lange duur. Maar dan negeer je het feit dat we nog geen duizenden jaren sleutelen aan AI's en we eigenlijk geen idee hebben wat er precies omgaat in een chatGPT. We zien alleen de in- en output. Alles wat daar er in die clusters gebeurd, de miljarden aan verbindingen, verbanden en correlaties die er zich vormen zijn zijn niet meer te volgen. Als je wilt weten wat er precies gebeurt, zou je elk stukje code moeten ontcijferen tot je een beeld hebt wat het doet. En dat kost volgens Yudkowsky veel tijd.

Lineaire algebra is niet heel nieuw. Geloofwaardige chatbots zijn bijna zo oud als computers zelf. Wij mensen hebben ook last van iets wat anthropomorphic bias heet. We schrijven menselijke eigenschappen toe aan wezens en dingen die ze niet hebben. Je goudvis is vandaag verlegen. Je auto ronkt enthousiast. Daar zijn onze hersenen voor voorgeprogrammeerd.

Het is niet gek dat we menselijke eigenschappen toekennen aan een chatbot gebaseerd op een bijzonder geavanceerd taalmodel. Maar het blijft een taalmodel. Tekst in, tekst uit, met een stukje lineaire algebra er tussen dat ergens de input naar concepten vertaalt, en de concepten weer naar output.

Dat is revolutionair genoeg om een economische impact te hebben. Maar uiteindelijk is het model "gehandicapt" door z'n input. Het gaat niet ineens ideeen verzinnen die wij mensen niet al eerder in tekst hebben uitgedrukt. Belangrijker, het is niet in staat om te leren.

[TheBrut3]

ErikT738 schreef op maandag 3 april 2023 @ 16:28:
@autje @TheBrut3 @Brent Die scams worden momenteel al op grote schaal uitgevoerd. Gaat dit significant toenemen door de ontwikkelingen in AI? Technisch gezien wordt het met AI mogelijk om iemands stem en zelfs iemands uiterlijk na te bootsen in een videogesprek. Kan je hier echter mensen mee oplichten die niet in een Whatsapp-scam of een belletje van "Microsoft" uit India zouden trappen? Zeker als dit soort technieken gemeengoed worden gaat men hier gewoon rekening mee houden. AI zal vast ook voor minder frisse zaken worden ingezet, maar ik zie het (in ieder geval op deze manier) nog niet de maatschappij ontwrichten.

De kwaliteit (van het bericht en taalgebruik) is na de release van ChatGPT zeker toegenomen.
Ik denk dat je iets te eenvoudig over de slachtoffers denkt. Wij zijn wat technischer en waarschijnlijk ook wat jonger, maar er is best een grote doelgroep die er in trapt! Ook atechnische 'jongeren'.

[Yucon]

TheBrut3 schreef op maandag 3 april 2023 @ 22:12:
[...]

De kwaliteit (van het bericht en taalgebruik) is na de release van ChatGPT zeker toegenomen.
Ik denk dat je iets te eenvoudig over de slachtoffers denkt. Wij zijn wat technischer en waarschijnlijk ook wat jonger, maar er is best een grote doelgroep die er in trapt! Ook atechnische 'jongeren'.

Waarom zou je geen malware protection niet uit kunnen breiden met een meeluisterende AI assistent die aan de bel trekt als het de verkeerde kant uit gaat? Uiteindelijk is het altijd al een soort wapenwedloop geweest.

[Fornoo]

CVTTPD2DQ schreef op maandag 3 april 2023 @ 21:17:
[...]


Lineaire algebra is niet heel nieuw. Geloofwaardige chatbots zijn bijna zo oud als computers zelf. Wij mensen hebben ook last van iets wat anthropomorphic bias heet. We schrijven menselijke eigenschappen toe aan wezens en dingen die ze niet hebben. Je goudvis is vandaag verlegen. Je auto ronkt enthousiast. Daar zijn onze hersenen voor voorgeprogrammeerd.

Het is niet gek dat we menselijke eigenschappen toekennen aan een chatbot gebaseerd op een bijzonder geavanceerd taalmodel. Maar het blijft een taalmodel. Tekst in, tekst uit, met een stukje lineaire algebra er tussen dat ergens de input naar concepten vertaalt, en de concepten weer naar output.

Dat is revolutionair genoeg om een economische impact te hebben. Maar uiteindelijk is het model "gehandicapt" door z'n input. Het gaat niet ineens ideeen verzinnen die wij mensen niet al eerder in tekst hebben uitgedrukt. Belangrijker, het is niet in staat om te leren.

Ik heb voor chatGPT nog nooit een andere geloofwaardige chatbot gezien. Ik vind het voorbeeld van ELIZA niet erg overtuigend. Als ik tegen een psycholoog zou vertellen, dat mijn vriendin zegt dat ik altijd depressief overkom, en de psycholoog zou antwoorden; "Waarom ben je depressief" is dat wel een hele snelle conclusie. Op het moment dat je enige empathie en inzicht verwacht stopt het voorbeeldje. Daarnaast staat er niets bij over de reactietijd van ELIZA. Ook bij modernere chatbots voor chatGPT was het vaak, voor mij dan, duidelijk dat je te maken had met iets wat kunstmatig is. Door een gekke zinsopbouw, of kon je er vrij makkelijk uit opmaken dat er emotioneel of rationeel iets niet klopte aan de reactie.

Kun je je voorstellen dat, hoewel momenteel nog niet het geval is, er in de toekomst wel een systeem wordt bedacht die kan generaliseren als we er maar genoeg tijd en geld tegenaan gooien? Dus niet door te doen alsof, maar daadwerkelijk ideeën en concepten leert begrijpen?

[Sandor_Clegane]

Fornoo schreef op maandag 3 april 2023 @ 22:50:
[...]


Ik heb voor chatGPT nog nooit een andere geloofwaardige chatbot gezien. Ik vind het voorbeeld van ELIZA niet erg overtuigend. Als ik tegen een psycholoog zou vertellen, dat mijn vriendin zegt dat ik altijd depressief overkom, en de psycholoog zou antwoorden; "Waarom ben je depressief" is dat wel een hele snelle conclusie. Op het moment dat je enige empathie en inzicht verwacht stopt het voorbeeldje. Daarnaast staat er niets bij over de reactietijd van ELIZA. Ook bij modernere chatbots voor chatGPT was het vaak, voor mij dan, duidelijk dat je te maken had met iets wat kunstmatig is. Door een gekke zinsopbouw, of kon je er vrij makkelijk uit opmaken dat er emotioneel of rationeel iets niet klopte aan de reactie.

Kun je je voorstellen dat, hoewel momenteel nog niet het geval is, er in de toekomst wel een systeem wordt bedacht die kan generaliseren als we er maar genoeg tijd en geld tegenaan gooien? Dus niet door te doen alsof, maar daadwerkelijk ideeën en concepten leert begrijpen?

Wat hij zegt is dat mensen al gauw eigenschappen/gedragingen toekennen aan systemen die er niet zijn.
Een van de beste artikelen over ChatGPT:

Given GPT-3’s failure at a subject taught in elementary school, how can we explain the fact that it sometimes appears to perform well at writing college-level essays? Even though large language models often hallucinate, when they’re lucid they sound like they actually understand subjects like economic theory. Perhaps arithmetic is a special case, one for which large language models are poorly suited. Is it possible that, in areas outside addition and subtraction, statistical regularities in text actually do correspond to genuine knowledge of the real world?

I think there’s a simpler explanation. Imagine what it would look like if ChatGPT were a lossless algorithm. If that were the case, it would always answer questions by providing a verbatim quote from a relevant Web page. We would probably regard the software as only a slight improvement over a conventional search engine, and be less impressed by it. The fact that ChatGPT rephrases material from the Web instead of quoting it word for word makes it seem like a student expressing ideas in her own words, rather than simply regurgitating what she’s read; it creates the illusion that ChatGPT understands the material. In human students, rote memorization isn’t an indicator of genuine learning, so ChatGPT’s inability to produce exact quotes from Web pages is precisely what makes us think that it has learned something. When we’re dealing with sequences of words, lossy compression looks smarter than lossless compression.

Linkje: https://www.newyorker.com...-a-blurry-jpeg-of-the-web

[Stoney3K]

ErikT738 schreef op maandag 3 april 2023 @ 16:28:
@autje @TheBrut3 @Brent Die scams worden momenteel al op grote schaal uitgevoerd. Gaat dit significant toenemen door de ontwikkelingen in AI? Technisch gezien wordt het met AI mogelijk om iemands stem en zelfs iemands uiterlijk na te bootsen in een videogesprek. Kan je hier echter mensen mee oplichten die niet in een Whatsapp-scam of een belletje van "Microsoft" uit India zouden trappen? Zeker als dit soort technieken gemeengoed worden gaat men hier gewoon rekening mee houden. AI zal vast ook voor minder frisse zaken worden ingezet, maar ik zie het (in ieder geval op deze manier) nog niet de maatschappij ontwrichten.

Ik maak me er meer zorgen om dat dit op globalere schaal voor kwade doeleinden kan worden ingezet. En dan niet eens zo zeer een Skynet die van de ene op de andere dag wakker wordt en concludeert dat de mensheid een plaag is, maar meer een AI die ingezet wordt door politieke regimes en tegenstanders om misinformatie te verspreiden. Denk aan een geloofwaardige deepfake van Joe Biden die een omstreden wetswijziging aankondigt, of een videoboodschap van "Poetin" die zegt dat ie morgen kernwapens gaat inzetten.

Op een gegeven moment kun je dan echt niet meer van nep onderscheiden en dan wordt zo'n AI een politiek wapen.

[CVTTPD2DQ]

Fornoo schreef op maandag 3 april 2023 @ 22:50:
Kun je je voorstellen dat, hoewel momenteel nog niet het geval is, er in de toekomst wel een systeem wordt bedacht die kan generaliseren als we er maar genoeg tijd en geld tegenaan gooien? Dus niet door te doen alsof, maar daadwerkelijk ideeën en concepten leert begrijpen?

Begrijp me niet verkeerd, ChatGPT kan juist uitstekend generaliseren. Het begrijpt zelfs concepten, althans in puur verbale zin. De fout die we maken is dat we van begrip meteen springen naar bewustzijn, en allerlei menselijke eigenschappen toeschrijven aan een database met gewichten.

Dingen als zelfbehoud, motivatie, angst, ambtiie, interesse of zelfs tijdsbesef zijn allemaal concepten die ChatGPT wel kan beschrijven en uitleggen, maar niet ervaart.

[haarbal]

CVTTPD2DQ schreef op dinsdag 4 april 2023 @ 09:19:
Dingen als zelfbehoud, motivatie, angst, ambtiie, interesse of zelfs tijdsbesef zijn allemaal concepten die ChatGPT wel kan beschrijven en uitleggen, maar niet ervaart.

Maar zodra een ai zich kan klonen zullen die instincten in korte tijd evolueren.

[Stoney3K]

haarbal schreef op dinsdag 4 april 2023 @ 09:27:
[...]

Maar zodra een ai zich kan klonen zullen die instincten in korte tijd evolueren.

Een chatbot heeft nog niet eens 'gedrag', dus dat het ineens uit het niets instincten zou gaan evolueren (en bepaalde dingen uit zichzelf zou gaan doen uit zelfbescherming) lijkt me toch wel een beetje ver gezocht.

[CVTTPD2DQ]

haarbal schreef op dinsdag 4 april 2023 @ 09:27:
Maar zodra een ai zich kan klonen zullen die instincten in korte tijd evolueren.

Hoe dan? Wat is de evolutionaire druk, wat is het mechanisme?

Eerlijk gezegd maak ik me nu vooral druk over de mate van verwarring die rondzweeft. Ik heb verleden week met twee Boomers gesproken; die waren op basis van wat ze in de Volkskrant hadden gelezen en op het journaal hadden gezien behoorlijk goed geinformeerd over wat GPT-3/4 was, wat het kon, en wat niet.

Hier op Tweakers, waar je zou verwachten dat mensen in ieder geval de techniek een beetje bijhouden en begrijpen, zie je de grootste indianenverhalen rondspoken.

[Brent]

ErikT738 schreef op maandag 3 april 2023 @ 16:28:
@autje @TheBrut3 @Brent Die scams worden momenteel al op grote schaal uitgevoerd. Gaat dit significant toenemen door de ontwikkelingen in AI?

Die scams leunen in grote mate op impersonatie: social engineering, mail die lijken op die van een bank, etc. Steeds betere tools om te impersoneren zijn dus automatisch interessante tools voor die 'markt'.

[Stoney3K]

Misschien een mooi relevant plaatje:



Een AI zit op het niveau van 'information' maar kan niet echt de verbanden leggen om er inzicht, kennis, of bewustzijn uit te halen.

[Playa del C.]

Stoney3K schreef op dinsdag 4 april 2023 @ 10:24:
Misschien een mooi relevant plaatje:

[Afbeelding]

Een AI zit op het niveau van 'information' maar kan niet echt de verbanden leggen om er inzicht, kennis, of bewustzijn uit te halen.

Is dit een feit? Ik denk dat GPT4 toch wel kennis heeft. Hij kan zelf programmeren bijvoorbeeld. En er komen steeds meer 'vaardigheden' bij. Pure informatie is naar mijn mening meer een wikipedia-pagina. Informatie kopiëren vanaf zoekopdrachten, dat is iets als Google. Maar een concept uitleggen in eigen woorden, of bepaalde links leggen en dus een complex probleem analyseren en succesvol oplossen met programmeercode is wel een stap verder. Raakt denk ik zo nu en dan Insight en Wisdom.

Is wel afhankelijk van definities. Ook een aap of vogel heeft een mate van insight en wisdom. En of GPT4 het nou wel of niet heeft, de ontwikkeling is snel, dus we kunnen ook verwachten dat er dit jaar nog een AI komt die wel zeker een hoge mate van inzicht en wijsheid heeft.
Je komt zelf met 'bewustzijn', maar dat zie ik nergens in het plaatje. Bewustzijn is een heel ander onderwerp dan wijsheid en inzicht. We weten immers ook niet hoe het kan dat mensen een individueel bewustzijn hebben. (Waarom besta ik? Waarom ben ik mij? Waarom ben ik bewust van mijzelf?).

[Superbeagle]

CVTTPD2DQ schreef op dinsdag 4 april 2023 @ 09:51:
[...]
Hier op Tweakers, waar je zou verwachten dat mensen in ieder geval de techniek een beetje bijhouden en begrijpen, zie je de grootste indianenverhalen rondspoken.

Viel me ook al op. Nog niet zo lang geleden was iedereen viroloog, vervolgens oorlogstrateeg en nu AI-specialist.

Ik stel voor dat beweringen in dit topic onderbouwd worden middels citaten. Indien men dat niet kan, dan is het speculatie en vind ik dat het mag worden verwijderd.

Niet anders dan we verwachten van de huidige LLM’s.

Hierbij bijvoorbeeld een samenvatting van het onderzoek naar de huidige staat van intelligentie van GPT-4 waarin vermeld staat wat het model wel en niet kan. Het grootste risico op dit moment is manipulatie en dit kan door kwaadwillenden uitgebuit worden.

[FunkyTrip]

TheBrut3 schreef op maandag 3 april 2023 @ 12:57:
Buiten de ethische vraagstukken waar de 'bovenwereld' zich mogelijk wel druk om maakt hebben we natuurlijk ook de onderwereld. Ook daar is AI een fijne ontwikkeling. Maakt mensen opsporen wat makkelijker of eventueel wat chaos veroorzaken. De mensen in die wereld stellen nou niet bepaald dezelfde ethische normen als dat wij doen. Alles voor veel (en makkelijk) geld of aanzien. En het zou naïef zijn om te denken dat we die techniek wel af kunnen schermen van de onderwereld.

Wat dat betreft maak ik me wel zorgen over de inzet van chatGPT door criminelen om informatie te achterhalen hoe politie te omzeilen/perfecte misdaden te plegen/moordwapens die door poortjes kunnen te ontwerpen etc. Dat ding geeft overal antwoord op. En steeds beter. En waar we chatGPT nu de antwoorden 'in de stijl van Trump' kunnen laten geven, kunnen we straks video's laten maken met politici die uitspraken doen. Deepfakes volledig gegenereerd door een simpele tekstomschrijving.

Kan me nog een SF verhaaltje herinneren uit de jaren 50 waarin de mensheid en de rest van het universum het eindelijk voor elkaar had: Alle computers/electronische systemen in de galaxy op elkaar aangesloten via 1 groot netwerk. De hogepriester haalde de schakelaar over en alles begon te biepen en te piepen en hij stelde de vraag die op het puntje van de tong/uitsteeksel van de biljoenen levensvormen over de hele galaxy lag: "Is er een god?"
Het device begon te piepen en antwoordde 'Nu wel'. Donkere wolken pakten zich samen. De hogepriester rende nog naar de schakelaar om hem uit te zetten, maar een bliksemflits soldeerde de schakelaar muurvast. [iEinde[/i].

[Voor 6% gewijzigd door FunkyTrip op 04-04-2023 13:00]

[CVTTPD2DQ]

FunkyTrip schreef op dinsdag 4 april 2023 @ 12:57:
Wat dat betreft maak ik me wel zorgen over de inzet van chatGPT door criminelen om informatie te achterhalen hoe politie te omzeilen/perfecte misdaden te plegen/moordwapens die door poortjes kunnen te ontwerpen etc. Dat ding geeft overal antwoord op. En steeds beter.

Als ik met ChatGPT praat, wil hij nog geen kruidentheetje samenstellen zonder de waarschuwing dat ik bij medische problemen beter een arts kan raadplegen..

En verder: waarom denk je dat ChatGPT inside informatie heeft over politieprocedures? Waarom denk je dat ChatGPT moordwapens kan ontwerpen, laat staan moordwapens die door poortjes heen kunnen?

[Sandor_Clegane]

Playa del C. schreef op dinsdag 4 april 2023 @ 10:46:
[...]

Is dit een feit? Ik denk dat GPT4 toch wel kennis heeft. Hij kan zelf programmeren bijvoorbeeld. En er komen steeds meer 'vaardigheden' bij. Pure informatie is naar mijn mening meer een wikipedia-pagina. Informatie kopiëren vanaf zoekopdrachten, dat is iets als Google. Maar een concept uitleggen in eigen woorden, of bepaalde links leggen en dus een complex probleem analyseren en succesvol oplossen met programmeercode is wel een stap verder. Raakt denk ik zo nu en dan Insight en Wisdom.

*knip*, dat kan ook wat vriendelijker.

[Voor 5% gewijzigd door NMH op 04-04-2023 18:03]