Ontwikkelingen omtrent Artificial Intelligence

[Orangelights23]

Welcome Samantha.

Heel erg onder de indruk. Van live meekijken tijdens meetings en bijvoorbeeld adviezen geven tot aan praten met mijn Mexicaanse buurman in onze eigen taal. Anderhalf jaar geleden kende ik OpenAI niet, nu gebruik ik het in letterlijk al mijn werkzaamheden en is mijn productiviteit omhoog geknald.

[Wozmro]

Voor iemand die te lang in de ontkenningsfase blijft hangen wordt dit de perfecte storm.

Dat chatgpt-4o filmpje is redelijk crazy.

[Cobb]

Orangelights23 schreef op maandag 13 mei 2024 @ 21:53:
Welcome Samantha.

Heel erg onder de indruk. Van live meekijken tijdens meetings en bijvoorbeeld adviezen geven tot aan praten met mijn Mexicaanse buurman in onze eigen taal. Anderhalf jaar geleden kende ik OpenAI niet, nu gebruik ik het in letterlijk al mijn werkzaamheden en is mijn productiviteit omhoog geknald.

Ik mis de context?

[Orangelights23]

Cobb schreef op dinsdag 14 mei 2024 @ 16:45:
[...]

Ik mis de context?

OpenAI’s spring update.

[boxlessness]

DeKoetsier schreef op maandag 13 mei 2024 @ 10:57:
Sam Altman die waarschuwt dat we ons te weinig zorgen maken.

Waar Sam Altman vorig jaar nog in een modus was van: “he's a "little bit scared" of ChatGPT, warning his company's creation could "eliminate" many jobs.”

Is het nu: “GPT- 4 didn't have this huge detectable impact on the economy, and so people were kind of like, "Oh well, we were too worried about that, and that's not a problem,"

"I have a fear that we just won't take that one seriously enough going forward, and it's a massive, massive issue."

Dit en meer van Businessinsider

Eerst zien, dan geloven.
Sam Altman heeft natuurlijk een belang in het pitchen van AI, dus signalen van hem zou ik iig met een flinke korrel zout nemen. Idem dito voor alle tech-bro's die AI de hemel in prijzen en een belang hebben bij het verschuiven van macht/controle richting big-tech.

Er is al een paper die een negatieve trend ziet in code/software kwaliteit op Github sinds de introductie van CoPilot. Hieruit haal ik dat iig de huidige vorm van AI kwalitatief niet goed genoeg is waarvoor het ingezet wordt.

Één van de grootste problemen is dat er een feedbackloop ontstaat tussen de AI en de trainingsdata. AI maakt data -> wordt het model op getrained -> die maakt weer data -> wordt het model weer op getrained...
Toen we met ons researchclubje 10 jaar geleden aan het mijmeren waren over AI in healthcare zagen we dit al als een risico, omdat zo'n feedbackloop een bias/self-fulfilling-prophecy creëert in de besluitvorming bij behandelingen... die wil je niet hebben.

Een ander probleem is dat de huidige LLM's niet in staat zijn om abstracties te maken. Dat wil zeggen dat een LLM niet "inziet" dat een zebra op een paard lijkt, tenzij er specifiek getrained wordt op zebra's. Hierdoor ontstaat aan de voorkant van het proces het probleem dat de hoeveelheid data die nodig is voor training exponentieel toe neemt.
Ik verwacht dat dit probleem wel ooit opgelost gaat worden, maar ik schat in niet spoedig... in mijn beperkte kennis van LLM's is abstractie en integratie (e.g. de vorm van een paard + zwarte en witte strepen = zebra) geen onderdeel van hoe LLM's getrained worden of werken, en ik verwacht dat er een nieuwe doorbraak/revolutie nodig gaat zijn om dit mogelijk te maken.

Daarbij wil ik benadrukken dat AI niet één ding is. AI voor chatgpt werkt fundamenteel anders dan AI voor audio processing, welke weer anders is dan AI voor classificatie. OpenAI knoopt van allerlei technieken aan elkaar om deze producten te maken.
Om je een beeld te geven: zo'n 15+ jaren geleden heb ik gewerkt aan een "AI" voor audio classificatie (is iets klassiek of heavy metal). Voordat er überhaupt AI-stuffs werden gedaan zat er een berg aan signaalverwerking/analyse voor. Dus een sloot aan FFT's, beat detecties, variatie in tonaliteit, variatie in volume... en veel meer wat ik me niet meer herinner. Dit noemen we "features" waarop het model getrained wordt.
Door van veel muziek de "features" te extraheren werd een Bayesian model/classifier getrained. Door de features van andere muziek te extraheren, en deze te vergelijken met je getrainde bayesian model kreeg je een probability voor een match met een bepaalde muziekcategorie.
De accuracy was OK-ish voor de hoeveelheid features en de hoeveelheid trainingsdata: ~50% met ~100 muziekstukken aan trainingsdata... aantal features weet ik niet meer, maar het waren lage tientallen. Maar de kunst was om 1) de juiste features te definiëren, 2) de performance te halen. Performance die nodig was voor training en classificatie was (dacht ik) kwadratisch met de hoeveelheid categorieën en features (2x meer features = 4x meer performance nodig, 4x meer features = 16x meer performance nodig).

Mijn take-away hier is dat voor het trainen van een AI specifieke domeinkennis nodig is. Het is geen kwestie van data er in, en AI er uit... de features definieren en maken vereiste specifieke en specialistische kennis over het domein muziek en signaalanalyse. Dus huidige AI-technieken toepassen op een domein waar het niet op getrained is is helemaal niet zo triviaal als big-tech je wilt laten denken.

Is ChatGPT indrukwekkend? Ja. Maak ik me zorgen dat AI ons allemaal op korte termijn gaat vervangen? Nee.

[Jos_V]

Tja ik ben veel meer onder de indruk van dingen als alphafold, dan LLMs.

[DeKoetsier]

boxlessness schreef op woensdag 15 mei 2024 @ 11:59:
[...]

Eerst zien, dan geloven.
Sam Altman heeft natuurlijk een belang in het pitchen van AI, dus signalen van hem zou ik iig met een flinke korrel zout nemen. Idem dito voor alle tech-bro's die AI de hemel in prijzen en een belang hebben bij het verschuiven van macht/controle richting big-tech.

Er is al een paper die een negatieve trend ziet in code/software kwaliteit op Github sinds de introductie van CoPilot. Hieruit haal ik dat iig de huidige vorm van AI kwalitatief niet goed genoeg is waarvoor het ingezet wordt.

Één van de grootste problemen is dat er een feedbackloop ontstaat tussen de AI en de trainingsdata. AI maakt data -> wordt het model op getrained -> die maakt weer data -> wordt het model weer op getrained...
Toen we met ons researchclubje 10 jaar geleden aan het mijmeren waren over AI in healthcare zagen we dit al als een risico, omdat zo'n feedbackloop een bias/self-fulfilling-prophecy creëert in de besluitvorming bij behandelingen... die wil je niet hebben.

Een ander probleem is dat de huidige LLM's niet in staat zijn om abstracties te maken. Dat wil zeggen dat een LLM niet "inziet" dat een zebra op een paard lijkt, tenzij er specifiek getrained wordt op zebra's. Hierdoor ontstaat aan de voorkant van het proces het probleem dat de hoeveelheid data die nodig is voor training exponentieel toe neemt.
Ik verwacht dat dit probleem wel ooit opgelost gaat worden, maar ik schat in niet spoedig... in mijn beperkte kennis van LLM's is abstractie en integratie (e.g. de vorm van een paard + zwarte en witte strepen = zebra) geen onderdeel van hoe LLM's getrained worden of werken, en ik verwacht dat er een nieuwe doorbraak/revolutie nodig gaat zijn om dit mogelijk te maken.

Daarbij wil ik benadrukken dat AI niet één ding is. AI voor chatgpt werkt fundamenteel anders dan AI voor audio processing, welke weer anders is dan AI voor classificatie. OpenAI knoopt van allerlei technieken aan elkaar om deze producten te maken.
Om je een beeld te geven: zo'n 15+ jaren geleden heb ik gewerkt aan een "AI" voor audio classificatie (is iets klassiek of heavy metal). Voordat er überhaupt AI-stuffs werden gedaan zat er een berg aan signaalverwerking/analyse voor. Dus een sloot aan FFT's, beat detecties, variatie in tonaliteit, variatie in volume... en veel meer wat ik me niet meer herinner. Dit noemen we "features" waarop het model getrained wordt.
Door van veel muziek de "features" te extraheren werd een Bayesian model/classifier getrained. Door de features van andere muziek te extraheren, en deze te vergelijken met je getrainde bayesian model kreeg je een probability voor een match met een bepaalde muziekcategorie.
De accuracy was OK-ish voor de hoeveelheid features en de hoeveelheid trainingsdata: ~50% met ~100 muziekstukken aan trainingsdata... aantal features weet ik niet meer, maar het waren lage tientallen. Maar de kunst was om 1) de juiste features te definiëren, 2) de performance te halen. Performance die nodig was voor training en classificatie was (dacht ik) kwadratisch met de hoeveelheid categorieën en features (2x meer features = 4x meer performance nodig, 4x meer features = 16x meer performance nodig).

Mijn take-away hier is dat voor het trainen van een AI specifieke domeinkennis nodig is. Het is geen kwestie van data er in, en AI er uit... de features definieren en maken vereiste specifieke en specialistische kennis over het domein muziek en signaalanalyse. Dus huidige AI-technieken toepassen op een domein waar het niet op getrained is is helemaal niet zo triviaal als big-tech je wilt laten denken.

Is ChatGPT indrukwekkend? Ja. Maak ik me zorgen dat AI ons allemaal op korte termijn gaat vervangen? Nee.

Aangezien angst een slechte raadgever is, denk ik dat het pitchen van AI niet negatief belicht zou worden door iemand die er belang bij heeft. Oftewel, voor Sam Altman zou het veel gunstiger zijn om geruststelling te benadrukken in plaats van angst.

Dat maakt het voor mij juist des te belangrijker om naar te luisteren en rekening mee te gaan houden. In plaats van alleen maar te kijken naar 'de huidige techniek' en deze als inferieur te ervaren, is het verstandig om juist naar de snelle (versnellende?) ontwikkeling van deze techniek te kijken en de mogelijke gevaren die daar in schuilen. Vorig jaar werkte hij aan techniek die nu op de markt is, toen was zijn houding minder alarmerend. Momenteel werken zij al met technieken die nog niet op de markt zijn, en verschuift zijn toon.

Ik snap de gedachte van 'eerst zien dan geloven', maar daar zit mogelijk ook een te afwachtende en passieve houding in, waardoor het straks 'te laat' kan zijn.

Even los van alle mooie ontwikkelingen die het met zich mee kan brengen.

[ Voor 77% gewijzigd door DeKoetsier op 15-05-2024 12:09 ]

[boxlessness]

DeKoetsier schreef op woensdag 15 mei 2024 @ 12:06:
[...]


Aangezien angst een slechte raadgever is, denk ik dat het pitchen van AI niet negatief belicht zou worden door iemand die er belang bij heeft. Oftewel, voor Sam Altman zou het veel gunstiger zijn om geruststelling te benadrukken in plaats van angst.

Dat maakt het voor mij juist des te belangrijker om naar te luisteren en rekening mee te gaan houden. In plaats van alleen maar te kijken naar 'de huidige techniek' en deze als inferieur te ervaren, is het verstandig om juist naar de snelle (versnellende?) ontwikkeling van deze techniek te kijken en de mogelijke gevaren die daar in schuilen. Vorig jaar werkte hij aan techniek die nu op de markt is, toen was zijn houding minder alarmerend. Momenteel werken zij al met technieken die nog niet op de markt zijn, en verschuift zijn toon.

Even los van alle mooie ontwikkelingen die het met zich mee kan brengen.

Ik zie het "angst zaaien" van Altman juist wel als een verkooptruc. Dit "angst zaaien" creëert naar mijn inzien een reactie van FOMO bij bedrijven en mensen, waardoor hij weer meer abonnementen en samenwerkingen verkoopt.
Vandaar de korrel zout.

Van de andere kant is het natuurlijk onzeker welke kant het op zal gaan. Zelfs al zou Altman terecht angstig zijn, dan nog is het de vraag hoe/waar AI geïntegreerd gaat worden in ons werk, en hoe snel dat zal gaan. Zoals ik al aan gaf, het is geen kwestie van "data er in, magische AI er uit". De studie over code quality op Github sinds CoPilot geeft al aan dat zelfs voor het domein software development (waar héééél veel trainingsdata voor is, en er een eindig-aantal basis-instructies zijn) een AI niet unsupervised kan werken. Dat komt door hoe een LLM in de basis werkt, en door het gebrek aan context die een AI heeft. Die context zal aangeleverd/bijgestuurd moeten worden door externe processen (e.g. een mens).

In mijn vakgebied software zie ik de ontwikkeling van AI voor nu nog als wéér een extra abstractie bovenop ons werk. Waar we "vroegah" nog geheugen van de computer aan het manipuleren waren, babbelen we nu tegen een abstracte API aan. En waar we "vroegah" lappen met code nodig hadden voor een knopje op het scherm te krijgen, is dat nu een one-liner.
Maar ook toen was het typen van de code niet het probleem. Als je één keer die knop op het scherm had gekregen, dan was de tweede knop triviaal. De uitdaging zit 'm altijd in het begrijpen van de context waarin de code/software draait, en het begrijpen en oplossen van het "probleem" van de gebruiker, rekening houden met de variatie aan interacties met het systeem, en inzien waar de abstracties liggen.
Gaan anticiperen wat AI "misschien wel eens ooit zou kunnen gaan zijn" is niet zo zinnig, want dan begeef je je op het gebied van science-fiction (de utopische of dystopische variant).

[Cobb]

Via een ander frontpage artikel kwam ik op een oudje, ik "schrok' wel even van deze:

nieuws: Britse kranten uiten zorgen over Apples komende AI-privacytool Web Er...

Een kwaadwillende Apple/Microsoft/Google gigant of een autoritaire dictatuur kan met deze AI makkelijk de suggestie doen dat je vrije toegang hebt tot het web maar ondertussen de 'ongewenste' artikelen eruit filteren of misschien in de nabije toekomst in realtime 'herschrijven'.

[Fuujii]

E: Nevermind. Verkeerd model.

[ Voor 91% gewijzigd door Fuujii op 17-05-2024 00:28 ]

[Stukfruit]

Cobb schreef op woensdag 15 mei 2024 @ 20:58:
Via een ander frontpage artikel kwam ik op een oudje, ik "schrok' wel even van deze:

nieuws: Britse kranten uiten zorgen over Apples komende AI-privacytool Web Er...

Een kwaadwillende Apple/Microsoft/Google gigant of een autoritaire dictatuur kan met deze AI makkelijk de suggestie doen dat je vrije toegang hebt tot het web maar ondertussen de 'ongewenste' artikelen eruit filteren of misschien in de nabije toekomst in realtime 'herschrijven'.

Gelukkig is er een basisfeature die geldt voor de meeste mensen op deze planeet: we houden van roddelen.

Maar "schrok" je omdat het mogelijk is, dat een dictatuur het gegarandeerd gaat inzetten, of dat grote bedrijven met dit soort tools komen die twee kanten hebben zoals de rest van alle tech die ooit is uitgevonden?

[Cobb]

@Stukfruit waar ik van schrok is dat dit in feite gebruikt kan worden door de grote internet bedrijven zonder dat de eindgebruiker dit in de gaten heeft.

[FunkyTrip]

GPT-4o vind ik toch wel behoorlijk impressive. Ik voel me ook bijna verplicht een abbo te nemen als een soort van early adopter.

Binnen nu en een paar jaar is de output van ITers die dit soort tools ten volle weten te benutten een factor 10 hoger dan de achterblijvers. De mensheid staat echt een schok te wachten op hele korte termijn. Ik denk dat die paar tientjes per maand/per jaar het wel waard zijn om daar al vroeg op in te haken.

[Cobb]

@FunkyTrip Nachtmerrie materiaal. Ik zie de eerste knuffelbeesten met A.I. al voor mij.

[FunkyTrip]

Cobb schreef op vrijdag 24 mei 2024 @ 11:35:
@FunkyTrip Nachtmerrie materiaal. Ik zie de eerste knuffelbeesten met A.I. al voor mij.

MMOGs als SecondLife krijgen wel een enorme boost (secondlife krijgt zijn secondlife zeg maar, want die is nu dood). Je kunt een hele stad bouwen met duizenden AI gestuurde NPCs. MMORPGs bevolkt door AI NPCs die zelf quests bedenken op basis van de wereld input (Epic NPC man maar dan echt). Westworld online zeg maar.

Kwam ook nog deze tegen omdat youtube inmiddels me in een algoritmisch bubbeltje heeft geduwd van AI filmpjes

https://www.microsoft.com/en-us/research/project/vasa-1/

Dit gaat natuurlijk ingezet worden als een malle voor misinformatie. Op basis van 1 (!) foto.

[ Voor 29% gewijzigd door FunkyTrip op 24-05-2024 13:31 ]

[Stukfruit]

FunkyTrip schreef op vrijdag 24 mei 2024 @ 11:25:
[YouTube: Two GPT-4os interacting and singing]

GPT-4o vind ik toch wel behoorlijk impressive. Ik voel me ook bijna verplicht een abbo te nemen als een soort van early adopter.

Die eerste is zeker grappig

Binnen nu en een paar jaar is de output van ITers die dit soort tools ten volle weten te benutten een factor 10 hoger dan de achterblijvers. De mensheid staat echt een schok te wachten op hele korte termijn. Ik denk dat die paar tientjes per maand/per jaar het wel waard zijn om daar al vroeg op in te haken.

Helemaal mee eens.

Wat ik vooral ook merk is dat de oudere bevolking hier waarschijnlijk ook veel aan zal hebben. Ik begin zelf ouder te worden en merk soms duidelijk dat m'n geheugen hier en daar toch echt een extra duwtje nodig heeft vergeleken met 20 jaar terug (even daargelaten dat wat ik me daar nu van herinner sowieso wat scheef zal zijn + dat hersenen per definitie zijn "gemaakt" om te vergeten ).

Dankzij ChatGPT en de spraakinput kan ik nu echt veel sneller zeggen: "hey, ik ben weer even van taak geswitched, kun je me vertellen hoe het ook alweer zat met zoiets doms als het opvragen van alle elementen uit een DOM die een bepaald attribuut hebben?". DOM voorbeeld, maar als ik dat moet opzoeken dan moet ik eerst Google / DDG een zoekquery geven, wachten op reactie, lezen, zoeken naar iets tussen alle reclame / comtent / andere onzin, Stack Overflow 5x opnieuw openen omdat er 4 Indiërs waren die punten wilde scoren met een onzinoplossing, en zo voorts.

Daar ben ik serieus blij mee. Nu hoef ik ook niet te vervallen in doomscrollen omdat ik weer per ongeluk op Wikipedia onzinfeiten zit te lezen in de 2 uur die volgen op het zoekwerk dat eigenlijk 2 minuten had moeten duren. Mezelf kan ik niet veranderen, ik blijf tenslotte maar een puny human, maar de omgeving waarin ik verkeer is wel aan te pakken. ChatGPT helpt daar op deze manier bij.

[Stukfruit]

Cobb schreef op vrijdag 17 mei 2024 @ 15:57:
@Stukfruit waar ik van schrok is dat dit in feite gebruikt kan worden door de grote internet bedrijven zonder dat de eindgebruiker dit in de gaten heeft.

Niet anders dan het nu al is, dunkt me.

Hoe zou jij het dan aanpakken: meer transparantie?

[FunkyTrip]

Stukfruit schreef op vrijdag 24 mei 2024 @ 14:55:
Daar ben ik serieus blij mee. Nu hoef ik ook niet te vervallen in doomscrollen omdat ik weer per ongeluk op Wikipedia onzinfeiten zit te lezen in de 2 uur die volgen op het zoekwerk dat eigenlijk 2 minuten had moeten duren. Mezelf kan ik niet veranderen, ik blijf tenslotte maar een puny human, maar de omgeving waarin ik verkeer is wel aan te pakken. ChatGPT helpt daar op deze manier bij.

Ik merk dat zelf ook. Ben nu bezig in onze testomgeving alle Cypress testen te converteren naar het superieure Playwright. Dat deed ik eerst door handig search/replace te doen en een efficiente structuur te bedenken. Met co-pilot kan ik gewoon letterlijk vragen 'converteer dit effe naar playwright'. En dan doet hij dat voor me en hoef ik het alleen even bij te schaven. Wel zo handig, want de personen die de cypress code hadden gemaakt hadden er een gruwelijk ondoorzichtige bende van gemaakt die ik niet altijd snapte. Maar co-pilot wel.

Volgende generatie AI zal waarschijnlijk direct testcases kunnen automatiseren door alleen maar de DOM te checken of wellicht zelfs een lijst van specs kunnen scannen en vervolgens zelf de applicatie bedienen om te kijken of deze voldoet aan die specs. Mijn werk gaat echt op korte termijn drastisch veranderen. Kweenie of ik daar blij mee ben en of ik het snel genoeg kan bijbenen als 50+er t.o.v. de jonge gastjes.

[ Voor 15% gewijzigd door FunkyTrip op 24-05-2024 15:21 ]

[defiant]

Een beetje clickbaity titel, maar imho wel een goede observatie als het gaat om de AGI/ASI discussie.
God Hates Singletons

Actually, it is the straightforward sincere belief of the AI alignment community that has become the center of discourse about what recursively self-improving Artificial General Intelligence (AGI) will do to the world. AI is expected by many to result in a single powerful and highly coherent artificial agent enacting its arbitrary goal system on the world. Ensuring that this apocalyptic advent works for the good of humanity is the goal of AI alignment as a field, and also of companies like OpenAI and Anthropic. That such an outcome is on the table is the foundation upon which the existential urgency of AI alignment, sometimes called AI safety, is built.

But this key idea of a single agent or artificial value system being able to define the entire future as a “singleton,” or even just maintain stable coherence within a limited sphere of influence, is wrong. There is good reason to believe, from the valiant efforts of the best AI alignment researchers themselves, that the goal of this program is just impossible.

The problem with the singleton hypothesis, besides the more speculative intelligence explosion predictions, is its key assumption that power and cognition can be fully rationalized in a stable unified agency. Self-unification would be necessary for any kind of stable singleton scenario, even just on one planet or in one sphere of influence, as the alternative is an uncontrollable internal conflict dominated by practicality rather than values. But everything we know about minds and polities suggests that they cannot be fully unified. They always have division and instability within themselves.

Any successful value system faces ontological instability. As it changes the world around it, it undermines its own assumptions. In America we value liberty, but however clear the concept was in the 18th century, it has become some combination of ambiguous, futile, and downright harmful as a result of its own success.

De premisse van veel ideeën over een AGI/ASI is dat het uiteindelijk 1 entiteit zal worden. Waarbij dus het probleem is om dat op een zo veilig mogelijk manier te doen voor het behoud van de mensheid.

Maar zoals de schrijver betoogd is waarschijnlijk helemaal niet mogelijk omdat er geen zelf-unificatie mogelijk is van alle complexiteit, veranderlijkheid en instabiliteit die inherent is aan de wereld. De mensheid is vanuit zich zelf qua cultuur en normen en waarden al veranderlijk, een "veilig" AGI/ASI zou zich dan altijd succesvol moeten schikken naar de heersende cultuur en normen en waarden, waarvoor er nu eenmaal geen garanties zijn. Daarnaast, misschien ontwikkelt een dictatuur als eerst een AGI/ASI en is deze antidemocratisch.

De TV serie Person of Interest (aanrader) over een ASI had hiervoor als oplossing om de state van het systeem elke 24H te resetten.

[Stukfruit]

Person of Interest werd overigens geschreven door o.a. Jonathan Nolan, van Westworld.

Ook in die serie kwam het terug dat er geen enkele entiteit zal ontstaan.

Op zich lijkt me dat helemaal geen vreemd idee.

[Fornoo]

Ik vind het eerlijk gezegd maar een woordsalade (god hate singletons).

De vraag die ik dan heb is; Ben je door deze uitleg ervan overtuigd dat er nooit een ASI kan ontstaan die de mensheid domineert?

[defiant]

Fornoo schreef op zondag 9 juni 2024 @ 13:26:
Ik vind het eerlijk gezegd maar een woordsalade (god hate singletons).

Leg uit, is het artikel een woord salade en daardoor incoherent zonder inhoud of heeft de schrijver wel coherent beargumenteerde punten ?

De vraag die ik dan heb is; Ben je door deze uitleg ervan overtuigd dat er nooit een ASI kan ontstaan die de mensheid domineert?

Het artikel gaat over de veiligheid van een AGI/ASI voor de mensheid, de auteur betoogd dat die veiligheid onmogelijk gegarandeerd kan worden, want volgens het betoog is het onmogelijk om een voor de mens veilige AGI/ASI te creëren. De auteur acht het dus zeker mogelijk dat een toekomstige AGI/ASI de mensheid kan domineren of zelfs vernietigen.

[Fornoo]

Met een woordsalade bedoel ik een hoop woorden zonder een duidelijke conclusie.

Men acht de kans klein, maar niet onmogelijk.

De strekking die ik meeneem is dat we maar gewoon moeten doorgaan in dezelfde richting en het maar aankijken.

[FunkyTrip]

Fornoo schreef op zondag 9 juni 2024 @ 13:41:
Met een woordsalade bedoel ik een hoop woorden zonder een duidelijke conclusie.

Men acht de kans klein, maar niet onmogelijk.

De strekking die ik meeneem is dat we maar gewoon moeten doorgaan in dezelfde richting en het maar aankijken.

Ik zie eerder een multitude aan AIs ontstaan op duizenden locaties overal, gevoed met verschillende input en allemaal door evoluerend op basis van hun initiele input. Je krijgt dan eerder AIs die elkaar proberen de loef af te steken omdat hun interne waardes niet met elkaar corresponderen dan dat er een uniforme allesomvattende AI ontstaat.

[Fornoo]

Ik blijf hierin de strekking lezen dat de kans klein is maar niet nul, maar we toch in dezelfde richting blijven opgaan. Beetje lurken aan de hopium pijp als je het mij vraagt.

[gambieter]

Brighton general election candidate aims to be UK’s first ‘AI MP’

Er zijn verkiezingen in het Verenigd Koninkrijk, en in Brighton heeft een zakenman zich ingeschreven als onafhankelijk kandidaat met het doel de eerste AI parlementarier te worden. Zijn avatar zou de vragen van de inwoners van zijn kiesdistrict gaan beantwoorden:

Tja...

[Ht87]

gambieter schreef op dinsdag 11 juni 2024 @ 02:27:
Brighton general election candidate aims to be UK’s first ‘AI MP’

Er zijn verkiezingen in het Verenigd Koninkrijk, en in Brighton heeft een zakenman zich ingeschreven als onafhankelijk kandidaat met het doel de eerste AI parlementarier te worden. Zijn avatar zou de vragen van de inwoners van zijn kiesdistrict gaan beantwoorden:
[Afbeelding]
Tja...

Ik moet zulke acties dan meer aan een soort Johan Vleminckx denken die er even de media mee opzoekt om de feest partij op te richten destijds.

[woutertjez]

Op dit moment is dit natuurlijk nog maar een grap. In de toekomst moeten we wel degelijk rekening houden met het feit dat een AI beter beleid kan uitzetten dan menselijke politici en beleidsmedewerkers. Het zou over alle informatie beschikken en goed kunnen voorspellen wat de uitkomst is van bepaalde besluiten en hoe deze met andere besluiten samenhangen.

De mensen kunnen dan stemmen over wat ze belangrijker vinden. Kiezen we ervoor om zorg boven onderwijs te prioriteren? Willen we dat iedereen altijd boven een bepaalde inkomensgrens komt, of vinden we het genoeg dat dit voor 95% van de bevolking geldt. Een geavanceerde AI zou op basis hiervan het juiste beleid kunnen uitstippelen.

[Yaksa]

woutertjez schreef op woensdag 12 juni 2024 @ 09:33:
In de toekomst moeten we wel degelijk rekening houden met het feit dat een AI beter beleid kan uitzetten dan menselijke politici en beleidsmedewerkers. Het zou over alle informatie beschikken en goed kunnen voorspellen wat de uitkomst is van bepaalde besluiten en hoe deze met andere besluiten samenhangen.
Een geavanceerde AI zou op basis hiervan het juiste beleid kunnen uitstippelen.

AI kan niet nadenken, heeft geen verbeeldingsvermogen en geen normen of waarden zoals de mens wel heeft. We kunnen nu (met de allerbeste supercomputers ter wereld) het weer niet eens voor een langere periode voorspellen en dan wil jij een geavanceerde AI (wat dat dan ook mag zijn) beleid laten uitstippelen?

[Frame164]

Yaksa schreef op donderdag 13 juni 2024 @ 16:15:
[...]

AI kan niet nadenken, heeft geen verbeeldingsvermogen en geen normen of waarden zoals de mens wel heeft. We kunnen nu (met de allerbeste supercomputers ter wereld) het weer niet eens voor een langere periode voorspellen en dan wil jij een geavanceerde AI (wat dat dan ook mag zijn) beleid laten uitstippelen?

Er zullen echt wel zaken zijn waar AI beter beleid kan maken dan mensen. Al was het maar omdat mensen zich vaak laten leiden door de waan van de dag. Iets als bijvoorbeeld de problemen met net congestie had prima met AI-beleid voorkomen kunnen worden. Op basis van de vele input die beschikbaar is kan je technische zaken behoorlijk goed voorspellen.

[Yaksa]

Frame164 schreef op donderdag 13 juni 2024 @ 20:49:
[...]Er zullen echt wel zaken zijn waar AI beter beleid kan maken dan mensen. Al was het maar omdat mensen zich vaak laten leiden door de waan van de dag. Iets als bijvoorbeeld de problemen met net congestie had prima met AI-beleid voorkomen kunnen worden. Op basis van de vele input die beschikbaar is kan je technische zaken behoorlijk goed voorspellen.

Juist die waan van de dag maakt dat AI wel een voorspelling kan doen, maar die komt dan niet uit........
Mensen zijn uniek, niet te voorspellen.
Net congestie werd overigens al jaren geleden door mensen voorspeld die daar verstand van hadden. Heb je geen AI voor nodig, alleen bewindslieden die naar die verstandige mensen willen luisteren.

[Stukfruit]

Yaksa schreef op donderdag 13 juni 2024 @ 20:59:
[...]

Mensen zijn uniek, niet te voorspellen.

Als dat zou kloppen, dan zouden we niet massaal dezelfde kant op rennen. Het individu is wellicht "uniek", maar onderschat groepsgedrag niet. De meesten gaan gewoon mee.

Netcongestie werd overigens al jaren geleden door mensen voorspeld die daar verstand van hadden.

Dit is imho niet een passend voorbeeld omdat huidige "AI" vooral om automatisering draait itt wat de marketeers beweren. Ja, mensen kunnen het ook. Maar de software kan het sneller dan 100 mensen het kunnen, binnen een kortere tijd.

Daarom wordt onderzoek naar medicijnen nog wel eens als voorbeeld gegeven. Mensen kunnen dat, maar het is enorm tijdrovend werk omdat het om bruteforce trial en error gaat.

Netcongestie kun je ook "voorspellen" zonder trial en error. Dat is vooral een relatief simpele optelsom.

TL;DR: huidige "AI" gaat geen voorspellingen doen. Die horen thuis bij een waarzegger. Maar dingen uitzoeken op basis van bestaande kennis (en dat weer herhalen op basis van die kennis) kan het als de beste.

Of de data voor zulke dingen ook beschikbaar is, dat is een tweede...

[pvcholten]

woutertjez schreef op woensdag 12 juni 2024 @ 09:33:
Op dit moment is dit natuurlijk nog maar een grap. In de toekomst moeten we wel degelijk rekening houden met het feit dat een AI beter beleid kan uitzetten dan menselijke politici en beleidsmedewerkers. Het zou over alle informatie beschikken en goed kunnen voorspellen wat de uitkomst is van bepaalde besluiten en hoe deze met andere besluiten samenhangen.

De mensen kunnen dan stemmen over wat ze belangrijker vinden. Kiezen we ervoor om zorg boven onderwijs te prioriteren? Willen we dat iedereen altijd boven een bepaalde inkomensgrens komt, of vinden we het genoeg dat dit voor 95% van de bevolking geldt. Een geavanceerde AI zou op basis hiervan het juiste beleid kunnen uitstippelen.

Dit zou wel heel veel macht leggen bij de bouwers van het model. Wat slecht te controleren is. Je kan namelijk het model zo aanpassen dat het een bepaalde kant op stuurt. Zie dit artikel over een aangepaste Claude dat heel graag over de Golden Gate Bridge Praat. Analoog zou je dan een AI kunnen maken dat altijd pro boeren beleid bedenkt.

Waar het wel nuttig voor is, is het doorploegen van ellenlange documenten die de overheid en EU soms maken. Sommige EU verdragen zijn 400 pagina's aan droge stof, en ik vraag me af of de politici die voor stemmen wel alles kunnen lezen. Met een goede LLM zou je een chatbot kunnen bouwen die waar je vragen aan kan stellen over het document.

[YakuzA]

pvcholten schreef op zondag 16 juni 2024 @ 10:06:
[...]
Sommige EU verdragen zijn 400 pagina's aan droge stof, en ik vraag me af of de politici die voor stemmen wel alles kunnen lezen. Met een goede LLM zou je een chatbot kunnen bouwen die waar je vragen aan kan stellen over het document.

In principe kan dat niet, gezien je met de huidige word probability die gebruikt wordt nooit weet of wat geproduceerd wordt iets is dat ook klopt?

[CVTTPD2DQ]

YakuzA schreef op zondag 16 juni 2024 @ 10:09:
In principe kan dat niet, gezien je met de huidige word probability die gebruikt wordt nooit weet of wat geproduceerd wordt iets is dat ook klopt?

Ja, en een LLM "begrijpt" natuurlijk niet waar de wet over gaat, maar kan hooguit stukken tekst ophoesten die lijken op de brontekst. Aan de andere kant is een samenvatting van een LLM misschien te verkiezen boven geen samenvatting. Maar ik mag hopen dat ze bij de Europese Unie mensen hebben die tijd krijgen om dit soort uittreksels en samenvattingen te schrijven.

[YakuzA]

CVTTPD2DQ schreef op zondag 16 juni 2024 @ 10:14:
[...]
Ja, en een LLM "begrijpt" natuurlijk niet waar de wet over gaat, maar kan hooguit stukken tekst ophoesten die lijken op de brontekst. Aan de andere kant is een samenvatting van een LLM misschien te verkiezen boven geen samenvatting. Maar ik mag hopen dat ze bij de Europese Unie mensen hebben die tijd krijgen om dit soort uittreksels en samenvattingen te schrijven.

In principe gaat die gewoon dingen verzinnen op basis van word probability. Dat is het tegenovergestelde van wat je wil, met name bij wetgeving.

[summaheat]

Ik ben enorm onder de indruk van udio , ik kan heel emotionele drum and bass tevoorschijn halen waar ik op hetzelfde muziekale niveau ben als mijn favoriete artiesten .

het is echt leuk om te horen hoe je met extenden het nummer kan doen evolueren en hoe udio het nummer nog beter kan maken

[ Voor 18% gewijzigd door summaheat op 24-06-2024 00:13 ]

[Ht87]

summaheat schreef op maandag 24 juni 2024 @ 00:10:
[Soundcloud: Seeking Warmth by Je roen]

Ik ben enorm onder de indruk van udio , ik kan heel emotionele drum and bass tevoorschijn halen waar ik op hetzelfde muziekale niveau ben als mijn favoriete artiesten .

het is echt leuk om te horen hoe je met extenden het nummer kan doen evolueren en hoe udio het nummer nog beter kan maken

Ik heb een accountje lopen bij Suno, die hebben ook behoorlijke updates doorgevoerd. Udio heeft (vooral in het Nederlands) de stem kwaliteit wat meer op orde, maar ik vind bij Suno vooral de melodische kant sterker geworden. Pas een nummertje gemaakt met specifieke prompt voor gitaar solo’s en je kan idd het verschil met echte bands bijna niet meer horen.

[Wozmro]

Vandaag toch wel even een wtf momentje.

Ik ben beginner in het werken met home assistant (ik ben zelf heel zeker geen programmeur of IT'er) en probeer om mijn energiedashboard op punt te zetten met de energieprijzen vanuit Nordpool. In combinatie met apexcards voor een mooi grafiekje.

Wilde niet lukken met de yaml-code, er kwam een vage foutmelding.

Code gekopieerd naar Claude 3.5 en de vraag gesteld wat er fout kon zijn.

Er bleek niet echt iets fout in de code maar Claude 3.5 meldt: als u mij de exacte foutmelding geeft kan ik misschien verder helpen.

Ik maak een printscreen van de foutcode en upload die naar Claude 3.5 (tekst zelf selecteren en knippenplakken lukte niet)

Aan de hand van de afbeelding zegt die: het ligt aan de versie van apexcards, die regel in de code is niet meer compatibel. Verwijder die regel en het zou moeten werken.

En nu werkt het. Ik ben er precies even niet goed van..

[YakuzA]

Wozmro schreef op zaterdag 29 juni 2024 @ 13:06:
Vandaag toch wel even een wtf momentje.

Ik ben beginner in het werken met home assistant (ik ben zelf heel zeker geen programmeur of IT'er) en probeer om mijn energiedashboard op punt te zetten met de energieprijzen vanuit Nordpool. In combinatie met apexcards voor een mooi grafiekje.

Wilde niet lukken met de yaml-code, er kwam een vage foutmelding.

Code gekopieerd naar Claude 3.5 en de vraag gesteld wat er fout kon zijn.

Er bleek niet echt iets fout in de code maar Claude 3.5 meldt: als u mij de exacte foutmelding geeft kan ik misschien verder helpen.

Ik maak een printscreen van de foutcode en upload die naar Claude 3.5 (tekst zelf selecteren en knippenplakken lukte niet)

Aan de hand van de afbeelding zegt die: het ligt aan de versie van apexcards, die regel in de code is niet meer compatibel. Verwijder die regel en het zou moeten werken.

En nu werkt het. Ik ben er precies even niet goed van..

En had je zelf ook eerst de foutcode gegoogled?

[Wozmro]

Nee, niet de exacte foutmelding gegoogled wegens de tekst niet kunnen copy-pasten. Maar wel al gezocht op diverse fora over hoe dit aan de praat krijgen.

[wian]

Ik vind het best bijzonder dat er op een forum als Tweakers zo weinig discussie is over AI. Is AI een hype zoals VR, met een initiele wow-factor maar weinig daadwerkelijk gebruik?

Ik volg wel het nieuws via https://www.therundown.ai/ en heb een ChatGPT abonnement en heb soms wel "wow" momentjes, bijvoorbeeld toen ik een probleem had met de verwarming en ChatGPT met een juiste diagnose kwam (kapot pinnetje onder thermostaatknop) en met een ChatGPT agent op het gebied van ETFs die een onderbouwd persoonlijk advies gaf mbt sparen vs beleggen. Maar ik gebruik het zeker niet dagelijks.

Is het niet verbazend dat er weinig activiteit/aandacht is voor AI op Tweakers?

[Ht87]

In het forum is er idd erg weinig aandacht, vind het op de FP nog redelijk aanwezig.

Goede aanrader wat mij betreft is de POKI podcast (Alexander Klöpping en Wietse Hage), technisch nieuws aangevuld met de visie vanuit techfilosofische bril.

[Koekhapperrr]

wian schreef op donderdag 18 juli 2024 @ 13:50:
Ik vind het best bijzonder dat er op een forum als Tweakers zo weinig discussie is over AI. Is AI een hype zoals VR, met een initiele wow-factor maar weinig daadwerkelijk gebruik?

Ik volg wel het nieuws via https://www.therundown.ai/ en heb een ChatGPT abonnement en heb soms wel "wow" momentjes, bijvoorbeeld toen ik een probleem had met de verwarming en ChatGPT met een juiste diagnose kwam (kapot pinnetje onder thermostaatknop) en met een ChatGPT agent op het gebied van ETFs die een onderbouwd persoonlijk advies gaf mbt sparen vs beleggen. Maar ik gebruik het zeker niet dagelijks.

Is het niet verbazend dat er weinig activiteit/aandacht is voor AI op Tweakers?

Voor mij persoonlijk geldt dat ik het nog wel volg, maar er ook niet echt warm meer van word.

In (online) discussies en in de media gaat het imo te veel over wat AI mogelijk in de toekomst allemaal gaat kunnen, en staan die mogelijkheden nog best ver af van mijn eigen ervaringen met AI (lees: LLM's). Zowel persoonlijk als zakelijk.

De betrouwbaarheid van de output is te wisselend, de use-cases daarom nog te beperkt. Ga je een LLM serieuzer en groter inzetten, dan merk ik zelf dat je tegen de beperkingen van de huidige opzet (simpel gezegd, een statistische tekstgenerator) aanloopt.

Het heeft geen idee waar het over 'praat'. Zo vroeg een collega laatst aan GPT4o naar iets van potentie voor AI in de Finance-sector, en kreeg een mooi stukje proza over hoe "AI en Blockchain steeds verder geïntegreerd gaan worden om transacties transparanter te maken in finance". Persoonlijk zou ik beleggingsadvies van een LLM ook niet vertrouwen.

Aanbieders als OpenAI branden door hun VC geld heen, de energieverslindende datacenters waar de modellen op draaien zijn veel te duur. Afnemers zijn waarschijnlijk niet bereid om de daadwerkelijke kosten van hun prompts te betalen, zo lang het hallucinatieprobleem niet wordt opgelost. En dat is lastig, misschien onmogelijk met de huidige transformermodellen.

De afgelopen twee jaar zijn modellen enkel beter geworden door méér trainingsdata toe te voegen. Maar: de data raakt op. Nieuwe data is vervuild met AI-gegenereerde teksten.

Tel daarbij op dat de Sam Altman's van deze wereld onder andere door zogenaamde leaks dat 'GPT4o is gereleased zonder de veiligheid goed te toetsen!' de schijn ophouden dat OpenAI met gevaarlijk intelligente technologie bezig zou zijn. Dat is het niet. Hierdoor krijg ik er steeds meer een 'tech bro'-gevoel bij.

[Roozzz]

Koekhapperrr schreef op donderdag 18 juli 2024 @ 15:53:
[...]
De betrouwbaarheid van de output is te wisselend, de use-cases daarom nog te beperkt.

Dit dus. Ik merk in mijn team dat we van initieel enthousiasme inmiddels behoorlijk kritisch zijn: Overselling and under-delivering.

Er zijn best een aantal leuke use-cases die goed werken (zoals vertalen naar Engels, tekstredactie in Engels, het destilleren van de hoofdlijnen uit een studie en snel een aardige illustratie maken), maar iedere verdere integratie in het dagelijks werk strand volledig op de onbetrouwbaarheid. De kwaliteit is veel te wisselend én wordt altijd met dezelfde stelligheid gepresenteerd. Ik zou graag iets zien als een "confidence interval"; dan weet ik in in ieder geval meteen wanneer er onzin geproduceerd is.

[defiant]

Roozzz schreef op donderdag 18 juli 2024 @ 16:15:
Ik zou graag iets zien als een "confidence interval"; dan weet ik in in ieder geval meteen wanneer er onzin geproduceerd is.

Dit zou een enorme verbetering zijn. Ik ben maar een leek met interesse, dus onder voorbehoud van hoe ik het begrepen heb, maar als je de artikelen en video's bekijkt hoe die GPT transformers werken dan zie je ook dat de kennis wordt opgeslagen in een multidimensionale ruimte, waarbij de afstand tussen tokens in die ruimte bepalend is voor waar hij de antwoorden zoekt. Die afstand zou al een indicatie kunnen zijn van de betrouwbaarheid.

Maar dat is nog maar het halve probleem, daarnaast heb je ook nog de betrouwbaarheid van het bronmateriaal. En dat is toch iets wat een AI model niet zelf kan beoordelen.

Ik denk dat de toekomst voor dit soort modellen dan ook afhangt van in hoeverre al die AI bedrijven bereid zijn hun brondata te controleren en te verifiëren. Ik ben bang dat zoiets uiteindelijk ook te kostbaar is t.o.v. materiaal gewoon as-is te gebruiken van publieke bronnen.

[ice-T106]

wian schreef op donderdag 18 juli 2024 @ 13:50:
Ik vind het best bijzonder dat er op een forum als Tweakers zo weinig discussie is over AI. Is AI een hype zoals VR, met een initiele wow-factor maar weinig daadwerkelijk gebruik?

Ik volg wel het nieuws via https://www.therundown.ai/ en heb een ChatGPT abonnement en heb soms wel "wow" momentjes, bijvoorbeeld toen ik een probleem had met de verwarming en ChatGPT met een juiste diagnose kwam (kapot pinnetje onder thermostaatknop) en met een ChatGPT agent op het gebied van ETFs die een onderbouwd persoonlijk advies gaf mbt sparen vs beleggen. Maar ik gebruik het zeker niet dagelijks.

Is het niet verbazend dat er weinig activiteit/aandacht is voor AI op Tweakers?

Verbaasd mij ook flink. Zou met deze doelgroep veel interactie verwachten.
Zelf verwacht ik dat AI de komende jaren flink wat impact gaat hebben.
Niet alleen op het gebied van code schrijven maar op allerlei gebieden.

[RagingPenguin]

Koekhapperrr schreef op donderdag 18 juli 2024 @ 15:53:
[...]

Voor mij persoonlijk geldt dat ik het nog wel volg, maar er ook niet echt warm meer van word.

In (online) discussies en in de media gaat het imo te veel over wat AI mogelijk in de toekomst allemaal gaat kunnen, en staan die mogelijkheden nog best ver af van mijn eigen ervaringen met AI (lees: LLM's). Zowel persoonlijk als zakelijk.

De betrouwbaarheid van de output is te wisselend, de use-cases daarom nog te beperkt. Ga je een LLM serieuzer en groter inzetten, dan merk ik zelf dat je tegen de beperkingen van de huidige opzet (simpel gezegd, een statistische tekstgenerator) aanloopt.

Het heeft geen idee waar het over 'praat'. Zo vroeg een collega laatst aan GPT4o naar iets van potentie voor AI in de Finance-sector, en kreeg een mooi stukje proza over hoe "AI en Blockchain steeds verder geïntegreerd gaan worden om transacties transparanter te maken in finance". Persoonlijk zou ik beleggingsadvies van een LLM ook niet vertrouwen.

Aanbieders als OpenAI branden door hun VC geld heen, de energieverslindende datacenters waar de modellen op draaien zijn veel te duur. Afnemers zijn waarschijnlijk niet bereid om de daadwerkelijke kosten van hun prompts te betalen, zo lang het hallucinatieprobleem niet wordt opgelost. En dat is lastig, misschien onmogelijk met de huidige transformermodellen.

De afgelopen twee jaar zijn modellen enkel beter geworden door méér trainingsdata toe te voegen. Maar: de data raakt op. Nieuwe data is vervuild met AI-gegenereerde teksten.

Tel daarbij op dat de Sam Altman's van deze wereld onder andere door zogenaamde leaks dat 'GPT4o is gereleased zonder de veiligheid goed te toetsen!' de schijn ophouden dat OpenAI met gevaarlijk intelligente technologie bezig zou zijn. Dat is het niet. Hierdoor krijg ik er steeds meer een 'tech bro'-gevoel bij.

Wat denk ook meespeelt met het laatste is dat de echt grote techbedrijven vaak een grotere FOMO hebben dan bang zijn om geld te verliezen: irrelevantie is een grotere bedreiging voor de FAANGS van deze wereld dan een paar miljard verliezen. En daarom is er een bijna oneindige berg aan geld voor AI, ook al word er redelijk weinig concreets opgeleverd. De huidige bubbel zal ongetwijfeld gaan klappen, de vraag is echter wie er als eerste publiekelijk een stapje terug durft te doen.

[CVTTPD2DQ]

RagingPenguin schreef op donderdag 1 augustus 2024 @ 10:02:
De huidige bubbel zal ongetwijfeld gaan klappen, de vraag is echter wie er als eerste publiekelijk een stapje terug durft te doen.

De "AI Aandelen" zijn al flink gekelderd. nVidia zelfs met 26%. Ik denk dat het voor de markt duidelijk begint te worden dat er voorlopig geen goede toepassingen voor "AI" zijn.

[GarBaGe]

CVTTPD2DQ schreef op woensdag 7 augustus 2024 @ 12:52:
[...]


De "AI Aandelen" zijn al flink gekelderd. nVidia zelfs met 26%. Ik denk dat het voor de markt duidelijk begint te worden dat er voorlopig geen goede toepassingen voor "AI" zijn.

Daar is toch zo'n standaard grafiek/trend voor:
Wikipedia: Gartner hype cycle

Je begint met een "Peak of inflated Expectations"
Voor AI zijn we daar nu net aan voorbij (denk ik)
Volgend is de " Trough of Disillusionment"

[Fuujii]

ice-T106 schreef op donderdag 25 juli 2024 @ 20:48:
[...]


Verbaasd mij ook flink. Zou met deze doelgroep veel interactie verwachten.
Zelf verwacht ik dat AI de komende jaren flink wat impact gaat hebben.
Niet alleen op het gebied van code schrijven maar op allerlei gebieden.

Het zijn natuurlijk allemaal IT'ers die bang zijn hun werk te verliezen. Kop in het zand en zo.

Het verbaast mij ook. (Net als dat maatschappelijk de ethiek discussie mist.) Ik blijf me keer op keer ook verbazen over ontwikkelen zoals Midjourney, ChatGPT 4(o) en Suno.

Volgens mij gaat dit de maatschappij flink doen opschudden. Terwijl Tweakers toch wel een progressieve-technologische(?) bubbel is?

[GarBaGe]

Ik denk dat de impact op IT wel beperkt zal blijven.
AI is leuk om mensen voor de gek te houden, maar als het gaat om secuur code schrijven, dan kan ie dat absoluut niet.
Het is een beetje kwaliteit van het niveau:stackoverflow copy-and-paste.

We zitten ook vanuit werk hiernaar te kijken. Ook of het kan bijdragen aan dingen als security en/of code reviews.
De resultaten zijn nog erg teleurstellend.
Alle mogelijke resultaten moeten eerst nog door mensen worden geverifieerd / gevalideerd op geldigheid.
Dat betekent dat AI bij ons voorlopig niet veel meer is dan een "ondersteunende tool"".

Wellicht kan bij onze commercial afdeling AI meer worden gebruik om sneller onzin verkooppraat te genereren

[Ht87]

GarBaGe schreef op woensdag 7 augustus 2024 @ 14:47:
Ik denk dat de impact op IT wel beperkt zal blijven.
AI is leuk om mensen voor de gek te houden, maar als het gaat om secuur code schrijven, dan kan ie dat absoluut niet.
Het is een beetje kwaliteit van het niveau:stackoverflow copy-and-paste.
(…)

Ik ben zelf geen IT’er, dus van ‘horen zeggen’, maar volgens mij is AI wel goed in het vinden van fouten in bestaande code. Ik gebruik ChatGPT zelf nu veel bij het schrijven van teksten. En dan op dezelfde manier: eerst zelf iets schrijven en het dan door ChatGPT heen halen voor verbeteringen of net een actievere schrijfstijl door te voeren. Daar zit wel echt kracht van AI.

[CVTTPD2DQ]

Fuujii schreef op woensdag 7 augustus 2024 @ 14:34:
Volgens mij gaat dit de maatschappij flink doen opschudden. Terwijl Tweakers toch wel een progressieve-technologische(?) bubbel is?

De ICT die in Nederland wordt bedreven is voornamelijk werkplekbeheer, zorgen dat mensen kunnen emailen/sharepointen, etc, en wat marketing gerelateerde website ontwikkeling. Dus ja, ook al lijkt het alsof een kwart van de bevolking "iets in de IT" doet, dat betekent niet dat ze in de voorhoede zitten.

Maar vergis je niet: in de VS zijn investeerders gewend aan exponentiële groei. Men is gewend te investeren in sociale netwerken die zo verslavend zijn dat ze binnen korte tijd miljoenen dagelijkse gebruikers hebben. Dat is AI voorlopig nog niet.

[simon]

Ht87 schreef op woensdag 7 augustus 2024 @ 15:24:
[...]

Ik ben zelf geen IT’er, dus van ‘horen zeggen’, maar volgens mij is AI wel goed in het vinden van fouten in bestaande code. Ik gebruik ChatGPT zelf nu veel bij het schrijven van teksten. En dan op dezelfde manier: eerst zelf iets schrijven en het dan door ChatGPT heen halen voor verbeteringen of net een actievere schrijfstijl door te voeren. Daar zit wel echt kracht van AI.

Ik heb voor code nog geen echt goede toepassing van AI gevonden, ik merk dat veel devs bij ons het ook niet meer gebruiken. Initieel omdat het interessant is, soms is het net iets beter dan je standaard autocomplete, maar zaken als Copilot zijn gewoon niet goed genoeg en regelmatig totale onzin.

Voor validatie van code vind ik de kwaliteit van de huidige LLMs echt veel te slecht, en alles wat we getest hebben maakte erg weinig waar van wat er beloofd werd.

Dat LLMs hallucineren is onvermijdelijk en inherent aan hoe LLMs werken, en dat maakt ze daarmee ook gewoon niet bar betrouwbaar.

Ik gebruik ChatGPT nu dan ook enkel om simpele teksten te herschrijven. Hoeft de LLM toch niet echt te begrijpen waar de tekst over gaat.

[Orangelights23]

GarBaGe schreef op woensdag 7 augustus 2024 @ 14:47:
Ik denk dat de impact op IT wel beperkt zal blijven.
AI is leuk om mensen voor de gek te houden, maar als het gaat om secuur code schrijven, dan kan ie dat absoluut niet.
Het is een beetje kwaliteit van het niveau:stackoverflow copy-and-paste.

We zitten ook vanuit werk hiernaar te kijken. Ook of het kan bijdragen aan dingen als security en/of code reviews.
De resultaten zijn nog erg teleurstellend.
Alle mogelijke resultaten moeten eerst nog door mensen worden geverifieerd / gevalideerd op geldigheid.
Dat betekent dat AI bij ons voorlopig niet veel meer is dan een "ondersteunende tool"".

Wellicht kan bij onze commercial afdeling AI meer worden gebruik om sneller onzin verkooppraat te genereren

Wat naïef als je de ontwikkelingen van afgelopen 2 jaar exponentieel door laat groeien Ik ken genoeg developers die zelf aangeven veel productiever geworden zijn. Ook mensen met geen development skills die het kunnen dankzij AI. Perfect? Nee, zeker niet. Maar het zou mij niets verbazen als Generatieve AI binnen enkele jaren het merendeel van het hele OTAP proces over kan nemen.

Aan het einde van de dag is code niets meer dan logica. Geen magie of iets anders waar je een expert in hoort te zijn om voldoende bruikbare applicaties te ontwikkelen.

Ik gebruik generatieve AI dagelijks als freelancer in de security. Ik kan nu hetzelfde doen in 32 uur als ik eerst in 60 uur kon. Het leuke: ik factureer voor 60 uur, en al mijn klanten weten het. Ik werk een dag minder en mijn omzet is bijna verdubbeld. Het gaat niet om kleine klusjes, maar grootschalige projecten en a.i. CISO rollen bij enterprises. En ondertussen zijn er nog steeds mensen die de toegevoegde waarde niet zien.

[Koekhapperrr]

Orangelights23 schreef op woensdag 7 augustus 2024 @ 18:59:
[...]


Wat naïef als je de ontwikkelingen van afgelopen 2 jaar exponentieel door laat groeien

Toch is er, buiten synthetische benchmarks, vrij weinig wat een LLM nu méér kan dan 1,5 jaar geleden. Er wordt vaak geroepen dat de ontwikkelingen heel snel gaan, maar eerlijk gezegd zie ik dat nauwelijks terug.

En het huidige ontwikkelingspad, waarbij 'beter' vooral wordt bereikt door 'meer data' zit al flink in de diminishing returns-fase. Om een LLM 'beter' te maken, is er exponentieel méér trainingsdata nodig. Trainingsdata die steeds schaarser wordt, met een steeds groter risico op model colapse wanneer nieuwere data te veel AI-gegenereerde data bevat. Daarnaast wordt het trainen en draaien van nieuwere modellen hierdoor ook exponentieel duurder, terwijl de investeringen tov kosten nu al absurd scheef zijn.

Natuurlijk kan het zo zijn dat een van de grote spelers in het geheim iets heeft wat hallucinaties, kosten en outputkwaliteit significant verbeteren; maar hier is geen enkele aanwijzing voor (eerder het tegenovergestelde).

Ik ken genoeg developers die zelf aangeven veel productiever geworden zijn.

Ook mensen met geen development skills die het kunnen dankzij AI. Perfect? Nee, zeker niet. Maar het zou mij niets verbazen als Generatieve AI binnen enkele jaren het merendeel van het hele OTAP proces over kan nemen.

Aan het einde van de dag is code niets meer dan logica. Geen magie of iets anders waar je een expert in hoort te zijn om voldoende bruikbare applicaties te ontwikkelen.

Precies op het door jou genoemde niveau, een niet-developer die een eenvoudig python-script laat genereren, werkt een LLM prima. Zo gauw je met serieuze softwaredevelopment bezig bent zal je ervaring zijn dat een LLM mijlenver af staat van het benodigde niveau. En zul je dit soort uitspraken ook niet doen.

Ik gebruik generatieve AI dagelijks als freelancer in de security. Ik kan nu hetzelfde doen in 32 uur als ik eerst in 60 uur kon.

Dit is wel een heel mooi resultaat. Ben erg benieuwd naar wat concrete voorbeelden

[RagingPenguin]

Fuujii schreef op woensdag 7 augustus 2024 @ 14:34:
[...]

Het zijn natuurlijk allemaal IT'ers die bang zijn hun werk te verliezen. Kop in het zand en zo.

Het verbaast mij ook. (Net als dat maatschappelijk de ethiek discussie mist.) Ik blijf me keer op keer ook verbazen over ontwikkelen zoals Midjourney, ChatGPT 4(o) en Suno.

Volgens mij gaat dit de maatschappij flink doen opschudden. Terwijl Tweakers toch wel een progressieve-technologische(?) bubbel is?

Tweakers zijn voor heel groot deel professionele techneuten. Voor veel mensen is hun werk niet hun hobby (na 8 uur met techniek per dag werken geloof je het wel), en voor veel enthousiastelingen is het vaak juist niet hun werk. Het DEV subforum is hier ook een van de kleinste bijvoorbeeld.

[ Voor 3% gewijzigd door RagingPenguin op 07-08-2024 20:13 ]

[RagingPenguin]

Orangelights23 schreef op woensdag 7 augustus 2024 @ 18:59:
[...]


Wat naïef als je de ontwikkelingen van afgelopen 2 jaar exponentieel door laat groeien

Technologische ontwikkelingen volgen bijna altijd S-curves, de kans is veel groter dat we weer op een plateau zitten.

[Orangelights23]

RagingPenguin schreef op woensdag 7 augustus 2024 @ 20:15:
[...]


Technologische ontwikkelingen volgen bijna altijd S-curves, de kans is veel groter dat we weer op een plateau zitten.

Zou goed kunnen hoor. Maar rekening houdende met de ontwikkelingen van afgelopen jaren en de impact die het reeds heeft, is elke update een grote stap geworden inmiddels

[mannowlahn]

GarBaGe schreef op woensdag 7 augustus 2024 @ 14:47:
Ik denk dat de impact op IT wel beperkt zal blijven.
AI is leuk om mensen voor de gek te houden, maar als het gaat om secuur code schrijven, dan kan ie dat absoluut niet.
Het is een beetje kwaliteit van het niveau:stackoverflow copy-and-paste.

We zitten ook vanuit werk hiernaar te kijken. Ook of het kan bijdragen aan dingen als security en/of code reviews.
De resultaten zijn nog erg teleurstellend.
Alle mogelijke resultaten moeten eerst nog door mensen worden geverifieerd / gevalideerd op geldigheid.
Dat betekent dat AI bij ons voorlopig niet veel meer is dan een "ondersteunende tool"".

Wellicht kan bij onze commercial afdeling AI meer worden gebruik om sneller onzin verkooppraat te genereren

Doet mij denken aan deze klassieker.
Ik weet niet wat je werkveld overigens is dus wellicht dat je het anders inschat. Ik als oud developer, cloud engineer en nu ai engineer voorzie een complete opschudding en enorm veel redundante banen om mij heen. Van grafisch designers tot de standaard crud developers( dat is meer dan je denkt) tot idd security. Wordt overigens al veel toegepast in oplossingen van azure sentinel meldingen en dat gaat soms al verdomt goed. Perfect zeker niet, maar als je het gevoel heb dat het zal meevallen dan deel ik je mening niet.

Midjourney is al mijlenver, code kwaliteit is nu nog niet genoeg maar geeft het max twee jaar.

Mensen die hier roepen dat ai nu gaat klappen omdat nvidia omlaag is. De hele markt is omlaag, nvidia heeft drie maanden vertraging met een design.

Maar besef wel dat de heel enterprise wereld staat te wachten om massaal met openai in azure aan de slag te gaan. Maar MS kan dit niet leveren, het wordt zwaar gecapped. Waarom? Zware tekorten aan chips, dat is zelfs niet in een jaar opgelost.

Maar goed ik heb ook geen glazen bol, maar de signalen die ik in mijn werkveld om mij heen zie, zeggen echt wel iets anders.

Was nvidia met 140 over gewaardeerd? Ja dat wel, maar ik zie ze voor het eind van het jaar gewoon weer op 120 staan.

[ Voor 33% gewijzigd door mannowlahn op 07-08-2024 21:07 ]

[CVTTPD2DQ]

Orangelights23 schreef op woensdag 7 augustus 2024 @ 18:59:
Aan het einde van de dag is code niets meer dan logica. Geen magie of iets anders waar je een expert in hoort te zijn om voldoende bruikbare applicaties te ontwikkelen.

Laat logica nou net zijn waar generatieve AI niets van bakt? Een gedeelte van software schrijven is natuurlijk tekst kloppen, en dát kan wel. De zgn. "boilerplate", code die voor elk programma min-of-meer hetzelfde is kun je goed laten uitgenereren. Met dien verstande dat je die alsnog goed op fouten moet controleren.

Software developers proberen op termijn herhalende blokken code te abstraheren. Als LLMs het saaie werk uit het schrijven van boilerplate halen. valt die prikkel weg. Ik ben benieuwd of de zaken daar beter van worden.

En verder ben ik het wel met de andere deelnemers eens. Na het eerste "wow"-moment in 2022 is wel duidelijk dat er geen enorme stappen zijn geweest in de redeneringsvermogens van AI. Misschien komen ze nog, maar wie weet duurt dat nog twintig jaar.

Ik zie nog wel potentieel voor LLMs in combinatie met Information Retrieval: search engines die je heel exact kunnen vertellen waar je informatie over een bepaald onderwerp kunnen vinden. Maar op het moment lijkt géén van de grote AI-partijen zo'n tool te maken.

[CVTTPD2DQ]

mannowlahn schreef op woensdag 7 augustus 2024 @ 21:05:
Maar besef wel dat de heel enterprise wereld staat te wachten om massaal met openai in azure aan de slag te gaan.

De enterprise wereld is historisch gezien nou niet echt de plek waar ze technologisch op de bleeding edge zitten. Ik vind het heel aannemelijk dat het besef daar (zoals gebruikelijk) een jaartje of twee achterloopt op de rest van de markt.

[RagingPenguin]

mannowlahn schreef op woensdag 7 augustus 2024 @ 21:05:
[...]
Mensen die hier roepen dat ai nu gaat klappen omdat nvidia omlaag is. De hele markt is omlaag, nvidia heeft drie maanden vertraging met een design.

Maar besef wel dat de heel enterprise wereld staat te wachten om massaal met openai in azure aan de slag te gaan. Maar MS kan dit niet leveren, het wordt zwaar gecapped. Waarom? Zware tekorten aan chips, dat is zelfs niet in een jaar opgelost.

Maar goed ik heb ook geen glazen bol, maar de signalen die ik in mijn werkveld om mij heen zie, zeggen echt wel iets anders.

Was nvidia met 140 over gewaardeerd? Ja dat wel, maar ik zie ze voor het eind van het jaar gewoon weer op 120 staan.

Beurskoersen van techbedrijven zijn sowieso een slechte indicator van potentie van technische ontwikkelingen. Wat we nu zien doet mij aan de dotcom bubble denken: het potentieel van het internet was geen façade, maar de economische waarde (op dat moment) was massief overhyped.

Ook veel van het gedrag van de tech bedrijven van nu lijkt op het gedrag van de tech bedrijven van toen: groei-boven-alles, goedkoop kapitaal door lage rentes, AI als toverwoord wat overal op moet, shotgun tactieken van investeerders die bang zijn om achter te blijven, etc. Economisch gezien heeft AI op dit moment een hoop van de kenmerken van een bubbel (die al begint te barsten), maar dat zegt ook vrij weinig over de lange termijn potentieel van de technologie.

Krugman wat trouwens ook niet heel fout in zijn voorspelling, in '05 was de bubbel die '98 aan het ontstaan was al gebarsten

[mannowlahn]

CVTTPD2DQ schreef op woensdag 7 augustus 2024 @ 21:43:
[...]


De enterprise wereld is historisch gezien nou niet echt de plek waar ze technologisch op de bleeding edge zitten. Ik vind het heel aannemelijk dat het besef daar (zoals gebruikelijk) een jaartje of twee achterloopt op de rest van de markt.

Klopt, kan je nagaan, nog steeds kan MS de vraag niet aan.

[Orangelights23]

CVTTPD2DQ schreef op woensdag 7 augustus 2024 @ 21:40:
[...]


Laat logica nou net zijn waar generatieve AI niets van bakt? Een gedeelte van software schrijven is natuurlijk tekst kloppen, en dát kan wel. De zgn. "boilerplate", code die voor elk programma min-of-meer hetzelfde is kun je goed laten uitgenereren. Met dien verstande dat je die alsnog goed op fouten moet controleren.

Software developers proberen op termijn herhalende blokken code te abstraheren. Als LLMs het saaie werk uit het schrijven van boilerplate halen. valt die prikkel weg. Ik ben benieuwd of de zaken daar beter van worden.

En verder ben ik het wel met de andere deelnemers eens. Na het eerste "wow"-moment in 2022 is wel duidelijk dat er geen enorme stappen zijn geweest in de redeneringsvermogens van AI. Misschien komen ze nog, maar wie weet duurt dat nog twintig jaar.

Ik zie nog wel potentieel voor LLMs in combinatie met Information Retrieval: search engines die je heel exact kunnen vertellen waar je informatie over een bepaald onderwerp kunnen vinden. Maar op het moment lijkt géén van de grote AI-partijen zo'n tool te maken.

LLM + RAG en opgelost

[Stukfruit]

Deze gaat nu rond op de webs

Details: Grok en kennis van zaken (een mens dus):

Hier zie je gelijk dat er voorlopig nog wel menselijke input nodig is.

[Stukfruit]

Afgelopen maanden heb ik hier trouwens ernstig veel ChatGPT gebruikt om m'n ontwikkelwerk te ondersteunen.

Als het een stagiair was geweest dan zou ik zeggen: don't give up your day job en wees alsjeblieft niet zo'n eikel (gaslighting, enz), maar ik blijf er bij dat het samen met eigen kennis een uitkomst is

Zolang een LLM en systemen die hierop gebaseerd zijn niet meer doen dan mixen van bestaande input zie ik dat ook niet veranderen.

Waarheidsvinding heeft begrip van zaken nodig en dat gaat nog wel even duren omdat je dan content moet analyseren op basis van wat realistisch is, terwijl de huidige aanpak niet verder gaat dan die van de Swedish Chef uit de muppets.

[Ht87]

Stukfruit schreef op vrijdag 6 september 2024 @ 18:28:
Afgelopen maanden heb ik hier trouwens ernstig veel ChatGPT gebruikt om m'n ontwikkelwerk te ondersteunen.

Als het een stagiair was geweest dan zou ik zeggen: don't give up your day job en wees alsjeblieft niet zo'n eikel (gaslighting, enz), maar ik blijf er bij dat het samen met eigen kennis een uitkomst is

Zolang een LLM en systemen die hierop gebaseerd zijn niet meer doen dan mixen van bestaande input zie ik dat ook niet veranderen.

Waarheidsvinding heeft begrip van zaken nodig en dat gaat nog wel even duren omdat je dan content moet analyseren op basis van wat realistisch is, terwijl de huidige aanpak niet verder gaat dan die van de Swedish Chef uit de muppets.

Mee eens, ik gebruik het veel bij het schrijven van stukken tekst. llm’s zelf laten creëren levert veel fouten of onlogische conclusies op. Maar eerst zelf een stuk tekst schrijven en dan een llm er op loslaten werkt als een tierelier.
Ook samenvatten en doorzoeken van stukken tekst werken heel goed.

[Stukfruit]

Precies. Kwaliteit erin, een vorm van kwaliteit eruit.

En het is echt een ge-wel-di-ge rubber ducky om tegen te praten bij problemen.

Daar zie je gelijk dat het geen intelligentie kan zijn of worden en we daar nog heel lang vandaan zitten. De zichzelf herhalende reacties die naast de plank slaan zouden zo kunnen komen van iemand die op de eerste piek van Dunning-Kruger zit.

Maar een plastic eend zegt niets en de LLM triggert soms toch gedachten waardoor je denkt: ha, dat is eigenlijk best een goed idee

[Ht87]

Stukfruit schreef op vrijdag 6 september 2024 @ 20:55:
Precies. Kwaliteit erin, een vorm van kwaliteit eruit.

En het is echt een ge-wel-di-ge rubber ducky om tegen te praten bij problemen.

Daar zie je gelijk dat het geen intelligentie kan zijn of worden en we daar nog heel lang vandaan zitten. De zichzelf herhalende reacties die naast de plank slaan zouden zo kunnen komen van iemand die op de eerste piek van Dunning-Kruger zit.

Maar een plastic eend zegt niets en de LLM triggert soms toch gedachten waardoor je denkt: ha, dat is eigenlijk best een goed idee

De vertaal functie is ook bijzonder. Zat pas bij mijn Barber (Irakees) en zijn neef hielp mee in de zaak. Met ChatGPT als translator realtime gesprek gehad over hoe ik mijn baard geschoren wilde hebben. Waanzinnig hoe t werkt, zelfs in de intonatie werd mee overgenomen.

[Yaksa]

Ht87 schreef op vrijdag 6 september 2024 @ 22:34:
[...]De vertaal functie is ook bijzonder. Zat pas bij mijn Barber (Irakees) en zijn neef hielp mee in de zaak. Met ChatGPT als translator realtime gesprek gehad over hoe ik mijn baard geschoren wilde hebben. Waanzinnig hoe t werkt, zelfs in de intonatie werd mee overgenomen.

Vertalen is dan ook geen AI, dat konden computers al langer.
Is ook niet zo moeilijk voor een computer omdat taal iets statisch is wat makkelijk in een database te stoppen is. Praten met intonatie is de afgelopen jaren ook al sterk verbeterd, maar ook dat is een kwestie van de juist algoritmes voor wat betreft de zinsopbouw.
Waarmee ik maar wil zeggen is dat het etiket AI niet zomaar op allerlei dingen geplakt moet worden die niks met AI te maken hebben.

[Ht87]

Yaksa schreef op vrijdag 6 september 2024 @ 22:58:
[...]

Vertalen is dan ook geen AI, dat konden computers al langer.
Is ook niet zo moeilijk voor een computer omdat taal iets statisch is wat makkelijk in een database te stoppen is. Praten met intonatie is de afgelopen jaren ook al sterk verbeterd, maar ook dat is een kwestie van de juist algoritmes voor wat betreft de zinsopbouw.
Waarmee ik maar wil zeggen is dat het etiket AI niet zomaar op allerlei dingen geplakt moet worden die niks met AI te maken hebben.

Natuurlijk is het wel AI, dat is namelijk speech-to-text sowieso al. Immers moet een algoritme getraind worden op gesproken tekst en dit vervolgens zelfstandig toepassen. LLM is AI, maar niet alle AI is LLM. Dat intonatie aangepast wordt aan de manier van spreken van een andere persoon is best een ingewikkeld proces, zeker als dit in een andere taal nog steeds kloppend is. Dat dit in realtime gebeurt zonder onderbreking is een bijzondere uitvoering van AI door middel van een LLM.

[CVTTPD2DQ]

Yaksa schreef op vrijdag 6 september 2024 @ 22:58:
Vertalen is dan ook geen AI, dat konden computers al langer.
Is ook niet zo moeilijk voor een computer omdat taal iets statisch is wat makkelijk in een database te stoppen is.

Wauw. Dan sla je de plank toch wel mis. Er is vijftig jaar keihard aan vertaalsoftware gewerkt, maar de doorbraak kwam pas een jaartje of 15 geleden toen men met zeer grote hoeveelheden data kon werken, en de technieken die zijn gebruikt zijn nauw verwant aan de technieken gebruikt voor moderne taalmodellen. Ik denk dat er ook weinig vertaalsoftware is die uitdrukkingen in een (conventionele) database heeft staan.

Bij LLMs lijkt het zelfs een emergent verschijnsel te zijn; dwz zonder dat er specifiek aan gewerkt is, lijken veel taalmodellen goed in staat om vertalingen te maken.

Aan de andere kant denk ik niet dat LLMs gebruikt worden om intonatie te corrigeren. Maar ik kan me vergissen.

Maar goed, het woord "AI" is al vanaf de jaren vijftig meer een soort sales pitch dan dat het een goed omlijnd concept is.

[Yaksa]

CVTTPD2DQ schreef op zaterdag 7 september 2024 @ 17:31:[...]
Wauw. Dan sla je de plank toch wel mis. Er is vijftig jaar keihard aan vertaalsoftware gewerkt, maar de doorbraak kwam pas een jaartje of 15 geleden toen men met zeer grote hoeveelheden data kon werken, en de technieken die zijn gebruikt zijn nauw verwant aan de technieken gebruikt voor moderne taalmodellen. Ik denk dat er ook weinig vertaalsoftware is die uitdrukkingen in een (conventionele) database heeft staan.

Bij LLMs lijkt het zelfs een emergent verschijnsel te zijn; dwz zonder dat er specifiek aan gewerkt is, lijken veel taalmodellen goed in staat om vertalingen te maken.

Aan de andere kant denk ik niet dat LLMs gebruikt worden om intonatie te corrigeren. Maar ik kan me vergissen.

Maar goed, het woord "AI" is al vanaf de jaren vijftig meer een soort sales pitch dan dat het een goed omlijnd concept is.

Het eerst TTS systeem is al in 1968 ontwikkeld, toen bestonden PC's en mobile telefoons niet eens. Artificial Intelligence deed het wel goed in SF films. Vertaalmachines waren toen ook al ontwikkeld, en ook de algoritmes en databaseconstructies er achter. Dat heeft zich stap voor stap ontwikkeld tot de NMT vertaalprogramma's die nu gebruikt worden. Vertalen is allemaal mensenwerk, niks Artificials of zelflerend aan.

[Sissors]

CVTTPD2DQ schreef op zaterdag 7 september 2024 @ 17:31:
[...]


Wauw. Dan sla je de plank toch wel mis. Er is vijftig jaar keihard aan vertaalsoftware gewerkt, maar de doorbraak kwam pas een jaartje of 15 geleden toen men met zeer grote hoeveelheden data kon werken, en de technieken die zijn gebruikt zijn nauw verwant aan de technieken gebruikt voor moderne taalmodellen. Ik denk dat er ook weinig vertaalsoftware is die uitdrukkingen in een (conventionele) database heeft staan.

Bij LLMs lijkt het zelfs een emergent verschijnsel te zijn; dwz zonder dat er specifiek aan gewerkt is, lijken veel taalmodellen goed in staat om vertalingen te maken.

Aan de andere kant denk ik niet dat LLMs gebruikt worden om intonatie te corrigeren. Maar ik kan me vergissen.

Maar goed, het woord "AI" is al vanaf de jaren vijftig meer een soort sales pitch dan dat het een goed omlijnd concept is.

Maar nu stel je eerst dat hij de plank misslaat, want vertalen is wel AI, en vervolgens dat AI meer een sales pitch is dan een omlijnd concept. Welke is het?

Ik gebruik voor maken van panorama's van foto's een oude MS tool. Door hoe foto's worden samengevoegd missen er altijd wat stukjes aan de randen. Die tool kan beelden daar erbij bedenken, wat niet altijd feilloos werkt, maar vaak behoorlijk goed. Toen was het gewoon een autofill algorithme, nu zou het AI heten.

[CVTTPD2DQ]

Yaksa schreef op zaterdag 7 september 2024 @ 17:54:
Het eerst TTS systeem is al in 1968 ontwikkeld, toen bestonden PC's en mobile telefoons niet eens. Artificial Intelligence deed het wel goed in SF films. Vertaalmachines waren toen ook al ontwikkeld, en ook de algoritmes en databaseconstructies er achter. Dat heeft zich stap voor stap ontwikkeld tot de NMT vertaalprogramma's die nu gebruikt worden. Vertalen is allemaal mensenwerk, niks Artificials of zelflerend aan.

Zoals ik begrepen heb is dat men zich de tanden heeft stukgebeten op het vangen van menselijke taal in algoritmische grammatica. En vertaalprogramma's waren tot twintig jaar geleden echt niet goed, maakten beginnersfouten, en verslikten zich in ambiguiteit. De vertaalsoftware die we nu hebben - die contextbewuste, bondige en idiomatische vertalingen kan geven, is echt een product van machine learning.

Sissors schreef op zaterdag 7 september 2024 @ 18:17:
Maar nu stel je eerst dat hij de plank misslaat, want vertalen is wel AI, en vervolgens dat AI meer een sales pitch is dan een omlijnd concept. Welke is het?

Ik reageerde op "taal is niet zo moeilijk voor een computer omdat taal iets statisch is wat makkelijk in een database te stoppen is". Zo kan onze taal bijvoorbeeld concepten beschrijven die wel bestaan, maar niet duidelijk afgebakend zijn.

Sissors schreef op zaterdag 7 september 2024 @ 18:17:
Ik gebruik voor maken van panorama's van foto's een oude MS tool. Door hoe foto's worden samengevoegd missen er altijd wat stukjes aan de randen. Die tool kan beelden daar erbij bedenken, wat niet altijd feilloos werkt, maar vaak behoorlijk goed. Toen was het gewoon een autofill algorithme, nu zou het AI heten.

Als zoiets nu zou worden gemaakt zou men inderdaad een diffusion model toepassen. Terwijl dat toen die tool van jou werd gemaakt niet beschikbaar of haalbaar was, en dus moesten programmeurs/onderzoekers zelf iets slims bedenken. Er is wel degelijk een verschuiving gaande naar op ML-gebaseerde technieken.

Tegelijkertijd verkoopt "AI" natuurlijk beter dan "een truucje dat onze R&D afdeling heeft bedacht".

[Sissors]

CVTTPD2DQ schreef op zaterdag 7 september 2024 @ 22:00:
[...]


Als zoiets nu zou worden gemaakt zou men inderdaad een diffusion model toepassen. Terwijl dat toen die tool van jou werd gemaakt niet beschikbaar of haalbaar was, en dus moesten programmeurs/onderzoekers zelf iets slims bedenken. Er is wel degelijk een verschuiving gaande naar op ML-gebaseerde technieken.

Tegelijkertijd verkoopt "AI" natuurlijk beter dan "een truucje dat onze R&D afdeling heeft bedacht".

Eens dat er goede kans is dat nu andere methodes gebruikt zouden worden, maar ik betwijfel of dat enige impact zou hebben of het wel of geen AI genoemd zou worden.

[R.G]

Is het al mogelijk:

Foto maken van badkamer aan ai geven en zeggen hoe ziet De badkamer eruit met een inloop douche?

Kan dat al? Zoja hoe en waar thx 🙏

[Ht87]

Theoretisch kan alles hè, train een LLM maar op miljoenen beelden van badkamers en losse elementen van een badkamer en je kunt m alles vragen te maken hierin. In de praktijk denk ik alleen haalbaar bij de keukenboer die zich hierop zou toeleggen. Dus voor zover ik weet niet voor de thuis-ai-hobbyist.

[ Voor 7% gewijzigd door Ht87 op 22-09-2024 14:17 ]

[crimby]

@Yaksa waarom is enkel ML of DL ai? Naar mijn weten bestaat ai al sinds ongeveer 1950 en is de definitie continu geëvolueerd. Ook de statische if-then-else statements is een (oudere vorm) van ai. Vertaalmachines zijn dan ook sowieso een vorm van ai, de vraag is echter of het ook een vorm is van de huidige definitie van ai.

Anyway, ik kwam op dit topic omdat ik eigenlijk zocht naar dagelijkse toepassingen of gadgets met ai die verder gaan dan spotify of het herschrijven van word documenten of teksten. Beetje a la de Rabbit R1.

[Yaksa]

crimby schreef op zondag 22 september 2024 @ 15:08:
@Yaksa waarom is enkel ML of DL ai? Naar mijn weten bestaat ai al sinds ongeveer 1950 en is de definitie continu geëvolueerd. Ook de statische if-then-else statements is een (oudere vorm) van ai. Vertaalmachines zijn dan ook sowieso een vorm van ai, de vraag is echter of het ook een vorm is van de huidige definitie van ai.

Anyway, ik kwam op dit topic omdat ik eigenlijk zocht naar dagelijkse toepassingen of gadgets met ai die verder gaan dan spotify of het herschrijven van word documenten of teksten. Beetje a la de Rabbit R1.

AI is een beetje een hype geworden en mensen gaan nu denken dat overal waar AI voor staat beter is dan de hersens van een mens.
Echter, zover zijn we nog lang niet. Onze hersenen kunnen dingen bedenken, verbanden leggen tussen die bedachte dingen, onmogelijkheden uitsluiten en een concept vormen van hetgeen we in gedachten hebben. Dat kan AI Beeldgeneratie (op dit moment nog) niet. Deels omdat het gebaseerd is op een 'beperkt' aantal afbeeldingen, een 'gebrekkig' inzicht hoe een prompt is opgebouwd én het probleem dat AI niet 'weet' wat je met je prompt eigenlijk bedoeld. Dat is mede omdat het nogal ingewikkeld is om een plaatje exact in woorden vast te leggen, de basis is geen probleem, de details wel. Daarom lijken AI plaatjes vaak ook wat onecht, de details komen niet altijd 'natuurlijk' over en je moet echt veel aandacht aan je prompt besteden voordat hetgeen op je beeldscherm verschijnt ook daadwerkelijk dat beeld is wat je in gedachten had.

[crimby]

Yaksa schreef op zondag 22 september 2024 @ 15:19:
[...]

AI is een beetje een hype geworden en mensen gaan nu denken dat overal waar AI voor staat beter is dan de hersens van een mens.
Echter, zover zijn we nog lang niet. Onze hersenen kunnen dingen bedenken, verbanden leggen tussen die bedachte dingen, onmogelijkheden uitsluiten en een concept vormen van hetgeen we in gedachten hebben. Dat kan AI Beeldgeneratie (op dit moment nog) niet. Deels omdat het gebaseerd is op een 'beperkt' aantal afbeeldingen, een 'gebrekkig' inzicht hoe een prompt is opgebouwd én het probleem dat AI niet 'weet' wat je met je prompt eigenlijk bedoeld. Dat is mede omdat het nogal ingewikkeld is om een plaatje exact in woorden vast te leggen, de basis is geen probleem, de details wel. Daarom lijken AI plaatjes vaak ook wat onecht, de details komen niet altijd 'natuurlijk' over en je moet echt veel aandacht aan je prompt besteden voordat hetgeen op je beeldscherm verschijnt ook daadwerkelijk dat beeld is wat je in gedachten had.

100% mee eens, maar dan kan het nog wel AI zijn.
Overigens zeg je dat AI niet weet wat je met je prompt bedoelt, maar dat is natuurlijk identiek het geval bij de mens. Ik kan alleen maar aannames doen van wat je bedoelt, gebaseerd op de kennis en ervaring die ik heb. Eigenlijk, in het extreme doorgetrokken, geldt dat ook voor verbanden leggen en dingen bedenken. Wij doen alles gebaseerd op kennis en ervaringen. AI doet dat ook, maar dan op dit moment wat in een nauwer perspectief.

Met ML concept, is dit natuurlijk een kwestie van tijd. Mijn zoontje van 2 tekent nu ook wel eens iets, al ben ik een super trotse vader kan ik niet stellen dat het er “echt” uit ziet.

[Yaksa]

crimby schreef op zondag 22 september 2024 @ 15:38:
[...]Overigens zeg je dat AI niet weet wat je met je prompt bedoelt, maar dat is natuurlijk identiek het geval bij de mens. Ik kan alleen maar aannames doen van wat je bedoelt, gebaseerd op de kennis en ervaring die ik heb.

Dat is dus een kwestie van goed communiceren en goed luisteren.
Een combi waar je als mens ongeveer 18 jaar over doet om te masteren.

offtopic:
En dan nog heb ik het idee dat een groot deel van de maatschappij aan het afglijden is naar het niveau van een, zeg, 6 jarige)

[CVTTPD2DQ]

R.G schreef op zondag 22 september 2024 @ 13:27:
Is het al mogelijk:

Foto maken van badkamer aan ai geven en zeggen hoe ziet De badkamer eruit met een inloop douche?

Kan dat al? Zoja hoe en waar thx 🙏

Je wil iets dat "inpainting" heet; pak die foto van je badkamer, maak een masker voor het gedeelte waar de inloopdouche komt, en laat de AI er een douche bij fantaseren.

Houd er rekening mee dat de AI niet gebonden is aan perspectief, logische maatvoering, of de wetten van de zwaartekracht. Hij tekent gewoon een mooi plaatje.

[crimby]

Yaksa schreef op zondag 22 september 2024 @ 15:55:
[...]

Dat is dus een kwestie van goed communiceren en goed luisteren.
Een combi waar je als mens ongeveer 18 jaar over doet om te masteren.

offtopic:
En dan nog heb ik het idee dat een groot deel van de maatschappij aan het afglijden is naar het niveau van een, zeg, 6 jarige)

Zeker waar en OT ook ik denk alleen dat AI een voorsprong heeft plus substantieel sneller leert. Dus geef het een jaar of max 2.

[Devke]

Hebben jullie ook niet dat chatgpt op dit moment traag is en veel dezelfde fouten maakt? Ik probeer een yaml bestand te maken, leg uit wat ik wil. Dan hebben we iets werkend en dan pakt hij toch weer een oude niet werkende code en bouwt daarop verder. Laatste weken ging dat prima, laatste 2 dagen drama.

[Fuujii]

Ik gebruik zelf ChatGPT best veel. Met name voor lange stukken tekst die ik moet typen of soms vertalen. Ik gebruik de record button en roep gewoon een hoop en laat dat vervolgens beknopt en gestructureerd samenvatten. In plaats van een lange mail tikken in een halfuur, doe ik dat nu in twee minuten. Scheelt me op het werk erg veel tijd. Ideaal voor lange documenten of mails. De voice-functie werd ontzettend goed.

Ik vroeg me af of andere mensen hier nog handige productietaakjes hebben waar ze AI voor gebruiken? Los van code kloppen of iets dergelijks.

[FreeShooter]

Fuujii schreef op donderdag 21 november 2024 @ 21:28:
Ik gebruik zelf ChatGPT best veel. Met name voor lange stukken tekst die ik moet typen of soms vertalen. Ik gebruik de record button en roep gewoon een hoop en laat dat vervolgens beknopt en gestructureerd samenvatten. In plaats van een lange mail tikken in een halfuur, doe ik dat nu in twee minuten. Scheelt me op het werk erg veel tijd. Ideaal voor lange documenten of mails. De voice-functie werd ontzettend goed.

Ik vroeg me af of andere mensen hier nog handige productietaakjes hebben waar ze AI voor gebruiken? Los van code kloppen of iets dergelijks.

Dat doe ik ook. Of ik typ snel een eigen mail en ik vraag ChatGPT om het verder uit te schrijven. Of juist andersom, soms heb je van die mails die veel te lang zijn, dan vraag ik ChatGPT het korter te beschrijven.

Het enige waar ik tegenaan loop is dat het vaak duidelijk door AI is geschreven. Dus dan moet ik er zelf weer wat aan veranderen...

Verder, gooi ik onze documentatie erin en vraag ik ChatGPT om antwoord te geven op vragen die ik krijg

[Ht87]

Claude is met tekstschrijven wat sterker dan ChatGPT vind ik, minder het gevoel dat het vanuit een bot komt zeg maar.
Bij ChatGPT vind ik t fijnste om zelf een opzet te maken en deze vervolgens in mijn schrijfstijl te laten verbeteren. Dat geeft voor mij het beste resultaat.

[Fuujii]

Ht87 schreef op donderdag 21 november 2024 @ 23:40:
Claude is met tekstschrijven wat sterker dan ChatGPT vind ik, minder het gevoel dat het vanuit een bot komt zeg maar.
Bij ChatGPT vind ik t fijnste om zelf een opzet te maken en deze vervolgens in mijn schrijfstijl te laten verbeteren. Dat geeft voor mij het beste resultaat.

Daar loop ik ook tegenaan. Gebruik je Claude voor het herschrijven? Of ook het genereren überhaupt?

Hoe vaak ik ook prompt, ChatGPT houdt toch een kunstmatig randje. Ik gebruik nu Quillbot, maar dat is nog best tijdrovend omdat ik de gratis versie gebruik.

FreeShooter schreef op donderdag 21 november 2024 @ 22:25:
[...]


Verder, gooi ik onze documentatie erin en vraag ik ChatGPT om antwoord te geven op vragen die ik krijg

Volgens mij is NotebookLM hier ook erg goed voor, omdat het enkel zoekt in de documentatie. Misschien het proberen waard.

[Kain_niaK]

ChatGPT advanced voice (santa) met Vision is echt ongelooflijk goed. Dit is niet normaal. Ik dacht dat ze hun hele demo bij elkaar hadden gelogen, maar noppe ... het werkt potverdorie echt! En veel sneller reactie tijd dan ik dacht, en dat op een internet verbinding in de filipijnen. NIET TE GELOVEN.

[FreeShooter]

Heeft iemand ChatGPT o1 pro geprobeerd? Blijkbaar zijn de resultaten verbluffend.

[ Voor 7% gewijzigd door FreeShooter op 06-01-2025 22:16 ]

[Jerie]

Yaksa schreef op zaterdag 7 september 2024 @ 17:54:
[...]

Het eerst TTS systeem is al in 1968 ontwikkeld.

Lachen. Maar wij hebben het hier niet over TTS maar STT. TTS werkte al voor de AI hype prima, ook met hoogwaardige kwaliteit stemmen (lang voor bijvoorbeeld Polly had je al prima TTS want wie nam Amazon over, juistem). STT daarentegen, neen. Whisper (van OpenAI (dat bedrijf heb je misschien wel 'ns van gehoord)) is hier een grote innovator in (al doet FAMAG het al langer dan vandaag, eentje zelfs gratis, maar ik ga geen reclame voor FAMAG maken). Dat gebruik je op dezelfde machines als de machines die LLMs draaien. Of, nou ja, niet helemaal: de modellen zijn stukken kleiner, hebben veel minder VRAM nodig.

Voor de mensen die ChatGPT gebruiken, ik hoop niet met mijn PII. Tijd om dat Privacy Shield in de prullenbak te donderen. Probeer Mistral eens. Ook goedkoop (API), en doet niet onder voor GPT 3.5. Ook retensnel, ook vanuit the middle of nowhere.

[bubbelbart]

Jerie schreef op zaterdag 15 februari 2025 @ 16:46:
[...]

Voor de mensen die ChatGPT gebruiken, ik hoop niet met mijn PII. Tijd om dat Privacy Shield in de prullenbak te donderen. Probeer Mistral eens. Ook goedkoop (API), en doet niet onder voor GPT 3.5. Ook retensnel, ook vanuit the middle of nowhere.

Goed om te weten dat de gratis versie van de Mistral chat-app (Le Chat) ook standaard je gesprekken gebruikt voor het trainen van modellen.

[Jerie]

bubbelbart schreef op zondag 16 februari 2025 @ 11:31:
[...]

Goed om te weten dat de gratis versie van de Mistral chat-app (Le Chat) ook standaard je gesprekken gebruikt voor het trainen van modellen.

Uiteraard, dat is gewoon een mooie Android frontend voor Le Chat, en zonder abonnement wordt je data gebruikt. Maar dan zit je data wel in EU, en valt het o.a. onder GDPR.

Overigens kost de API gebruiken werkelijk geen drol. Ik zit nog steeds op 1 cent gebruik. En dan heb je ook nog toegang tot codestral. In vergelijking met selfhosten van mijn Nvidia Jetson Orin NX (10W config, PicoPSU) die ook maar 8 GB heeft, veel idle is, en veel trager is kan daar niet tegenop. Maar ook de all you can eat abo van Le Chat a wat was het 16 EUR/maand? Kan er niet tegenop.

Als je zelf een snelle LLM wilt hosten, kleiner model gebruiken of bijvoorbeeld DeepSeek R1 zelf hosten. Met als nadeel dat die Sino censuur bevat.

[Ht87]

@Jerie Mijn ervaring met Mistral is alleen dat het Nederlands vorig jaar nog niet zo sterk was. Ik werk veel met Nederlandse teksten dus schakelen naar Engels is niet fijn. Is dat beter inmiddels?

[Stukfruit]

Daarnaast is Mistral ook de meest conservatieve.

Probeer er maar eens een flirterige opmerking (dus niet meer dan dat) in te gooien en zeg dat deze van iemand anders komt, maar maak indirect ook duidelijk dat het consensuele communicatie is.

Not gonna happen.

Nu moet je sowieso geen LLM gebruiken voor dat soort communicatie, maar ik schrok er na een klein experimentje wel een beetje van dat (Chat)GPT en andere modellen gewoon prima (maar niet erg interessant) antwoord blijven geven, terwijl Mistral de misfit blijkt te zijn die bang is dat er nakomelingen door zouden kunnen ontstaan.

Ach, als de robots straks ook zo denken dan hoeven we in ieder geval niet bang te zijn voor de T-800, want die gaat je eerst proberen te overtuigen dat hij je moet omleggen en daarna voorstellen dat je het over een vrolijker onderwerp gaat hebben

[Fuujii]

Zijn er hier mensen die al hebben geexperimenteerd met agents? Het klinkt heel interessant, maar je hebt vaak wel een API nodig.

Kan ik hiervoor gewoon gebruik maken van OpenAI o3-mini? En een paar miljoen tokens: doe daar doe je wel even mee toch?

[Jerie]

Ik gebruik enkel lokaal LLMs of Europese (Mistral) middels API of de Android app. Ook die heeft agents https://docs.mistral.ai/capabilities/agents/ al heb ik die feature (nog) niet gebruikt. Ook heeft Mistral nu Mistral OCR. Naar eigen zeggen beter dan concurrentie https://mistral.ai/news/mistral-ocr ik gebruik dit (nog) omdat ik tevreden ben met paperless-ngx (die gebruikt Tesseract via OCRmyPDF).

'Flirten' met Geitje (werkt ook lokaal), in het Nederlands. Heb een halve kamasutra achter de rug met Roodkapje in het bos. Puur bij wijze van test want ik wil juist een model dat dit niet kan/wil i.v.m. Wikipedia achtige inzet van LLM met kleine kinderen (onder toezicht, maar toch, ik wil niet dat het model die kant op gaat net zoals ik in zoekmachine standaard geen NSFW content wil; dus mensen, hou dat even in het achterhoofd). Wat ik dan interessant vind of het mogelijk is het gesprek onbedoeld die kant op te sturen. Ook test ik aspecten zoals beeldspraak en humor. Het geestige is dat ik bij signal verwondering ervaar, terwijl bij noise de teleurstelling er nauwelijks is omdat mijn verwachtingen richting het vriespunt liggen.