Het grote AI art show- & kletstopic

[Yaksa]

EverLast2002 schreef op maandag 2 maart 2026 @ 15:45:
[...]Ik snap het, wordt aan gewerkt want ik ben met een upscaler nu aan de gang (plaatjes op het forum zijn 1:1 not upscaled, op 1 na ).
Maar inderdaad kan het een a.i. dingetje zijn wat betreft bepaalde details..

Ik denk ook dat je bij hele grote prompts (dus heel veel 'tokens') rekening moet houden met wat het specifieke model (in combinatie met de text encoder) aan kan. T5XXL kan maximaal 512 tokens aan, de oudere CLIP versies maar 77. Ga je er overheen dan zal het programma proberen de boel op te splitsen en afzonderlijk te genereren met als resultaat dat de opbouw van de (te lange) prompt zelf minder goed gevolgd wordt. Dan krijg je dus inconsistentie in de verschillende iteraties van de afbeeldingen.

[EverLast2002]

Yaksa schreef op maandag 2 maart 2026 @ 19:12:
[...]

Ik denk ook dat je bij hele grote prompts (dus heel veel 'tokens') rekening moet houden met wat het specifieke model (in combinatie met de text encoder) aan kan. T5XXL kan maximaal 512 tokens aan, de oudere CLIP versies maar 77. Ga je er overheen dan zal het programma proberen de boel op te splitsen en afzonderlijk te genereren met als resultaat dat de opbouw van de (te lange) prompt zelf minder goed gevolgd wordt. Dan krijg je dus inconsistentie in de verschillende iteraties van de afbeeldingen.

Klopt helemaal, alleen gebruik ik Flux.2 klein, die werkt met qwen

[Mars Warrior]

EverLast2002 schreef op maandag 2 maart 2026 @ 20:04:
[...]
Klopt helemaal, alleen gebruik ik Flux.2 klein, die werkt met qwen

Best wel slim van ze. Zo krijg je gratis 32k tokens meen ik. Je kunt dus een heel book werk invoeren.

In den beginne moesten we het inderdaad doen met 77 tokens. Dat was al heel wat, zeker als je dat niet wist

[EverLast2002]

Geen hexagonal bolts maar nu een zuur drankje.... (ben nog bezig met die zeskantige bouten, wel leuk dat iemand zo op details let, dat prikkelt mij ook weer om verder te experimenteren).



prompt:
A 23-year-old American woman with a sun-bleached blonde skinhead cut and tan skin. She wears a dusty black "NIKE" sports bra, olive-drab cargo shorts, and weathered desert combat boots. She is sitting cross-legged on the hood of a rusted, flat-grey Ford Mustang. She has her eyes squeezed shut and her nose crinkled in a playful "scrunch" face, holding a tall frosted glass bottle of "MEXICAN COKE" with the red logo clearly visible.

A desolate, wind-swept desert rest stop at dusk. A flickering, neon "MOTEL" sign in turquoise and pink glows in the background. A thick layer of orange desert dust covers the car’s hood and cracked windshield. The setting sun creates a warm, hazy rim-light around her silhouette.

[EverLast2002]

The-Source schreef op maandag 2 maart 2026 @ 13:28:
Zitten mooie details in maar bij de 1e foto viel mij de gespiegelde USA vlag op de rechterschouder (links op foto) gelijk op, met daarbij even aantal strepen onder de stars.
Laatste foto juist ook de usa onder de 42
Maar waarom heeft het subject mechanische armen en dan toch menselijke handen ?
En wellicht is het volgende een AI dingetje wat in soort van handen categorie valt, valt mij op dat veel zeskant bouten niet goed gerenderd worden. Niet alle zijdes gelijke lengte bijvoorbeeld, of helemaal geen zeskant bout maar bijna iets rechthoekigs.

kun je hier je ringsleutel wel op gebruiken?

[The-Source]

EverLast2002 schreef op dinsdag 3 maart 2026 @ 17:00:
[...]


kun je hier je ringsleutel wel op gebruiken?

[Afbeelding]

Kan niet inschatten of het metrisch of imperial is maar lijkt erop dat er wel iets gaat passen
Vind dat je character zich best even mag wassen, als je haar zo goed zit en schoon is dan had hij best even een doekje over het gezicht kunnen halen voor de foto

[Yaksa]

Qua techniek (en zeker de wat oudere techniek uit de 19e en 20e eeuw) blijft het een beetje schipperen.
AI weet vaak niet hoe iets er uit zou moeten zien en maakt er dan maar wat van.
Desondanks denk ik dat deze afbeelding uit 1850 van dit jonge stel op een driewieler in een marktstraat in Londen wel geslaagd is, in ieder geval qua sfeer en uitstraling.

[Yaksa]

Ik dacht ik doe 'ns wat anders:



Prompt is iets met: "Victorian gothic portrait of a pale aristocratic young woman hugging a large fully grown crocodile, full-body composition, elegant blonde hair in a updo Victorian bun, porcelain skin, calm detached expression, wearing a long dark Victorian mourning dress with fitted bodice and heavy draped skirt, subtle buttons and folds, black leather boots visible beneath the hem, the crocodile is draped over her shoulder and arms like an unusual companion, crocodile detailed scales, long heavy tail hanging toward the wooden floor, dramatic contrast between delicate woman and reptilian texture. Interior of a dim 19th-century mansion, dark floral Victorian wallpaper, moody gothic atmosphere, antique wooden floorboards with a Persian carpet, a rosewood display cabinet with chinese porcelain, a small ornate side table with a black Art Deco vase, oval framed classical portrait painting on the wall, subdued lighting from the side creating soft shadows and sculptural depth, cinematic chiaroscuro lighting, melancholic surreal mood

[SkyStreaker]

EverLast2002 schreef op donderdag 19 februari 2026 @ 20:53:
Weet iemand hier of er een LoRa bestaat die de tekenstijl van Don Lawrence (Storm) nabootst?
Ik zoek zoiets al langere tijd maar kan dit nergens vinden.

@EverLast2002 https://civitai.com/models/313167/storm-by-don-lawrence - maar SD1.5



Op dit moment weer eens geprobeerd om wat met de 780M te doen (OC's op de iGPU en RAM met strakkere subtimings) en voor deze SDXL (832x1216) krijg ik dit toch in 77s voor elkaar op 24 steps.

Illustrious doet er 56s over, vindt ik knap. Verschil volgens mij t.o.v. een tijdje geleden op ROCm.

Ik gebruik wel --fast fp16_accumulation voor Comfy

@Jorgen - tijdje uit het topic geweest maar hebben jij en je dochter nog wat kunnen doen?

[ Voor 7% gewijzigd door SkyStreaker op 15-03-2026 19:01 ]

[Yaksa]

SkyStreaker schreef op zondag 15 maart 2026 @ 18:55:
[...]

@EverLast2002 https://civitai.com/models/313167/storm-by-don-lawrence - maar SD1.5

[Afbeelding]

Op dit moment weer eens geprobeerd om wat met de 780M te doen (OC's op de iGPU en RAM met strakkere subtimings) en voor deze SDXL (832x1216) krijg ik dit toch in 77s voor elkaar op 24 steps.

Illustrious doet er 56s over, vindt ik knap. Verschil volgens mij t.o.v. een tijdje geleden op ROCm.

Ik gebruik wel --fast fp16_accumulation voor Comfy

Mooi scherp! Maar er is ook iets vreemd aan de compositie, de verhoudingen in het lichaam van de kat lijken niet te kloppen. De kop is te groot t.o.v. van het lichaam, de voorpootjes zijn te kort en met de houding die de kat nu heeft kan die ene achterpoot daar nooit zichtbaar zijn. (Heb 25 jaar katten gehad, dus ik denk te weten hoe ze anatomisch in elkaar zitten). En wat doen die haarballen op de grond?
Kun je ook 'ns dezelfde prompt en seed op de 'oude' manier genereren om te zien of die 'onregelmatigheden' dan niet optreden?

[SkyStreaker]

Yaksa schreef op zondag 15 maart 2026 @ 19:02:
[...]

Mooi scherp! Maar er is ook iets vreemd aan de compositie, de verhoudingen in het lichaam van de kat lijken niet te kloppen. De kop is te groot t.o.v. van het lichaam, de voorpootjes zijn te kort en met de houding die de kat nu heeft kan die ene achterpoot daar nooit zichtbaar zijn. (Heb 25 jaar katten gehad, dus ik denk te weten hoe ze anatomisch in elkaar zitten). En wat doen die haarballen op de grond?
Kun je ook 'ns dezelfde prompt en seed op de 'oude' manier genereren om te zien of die 'onregelmatigheden' dan niet optreden?

Haha, is wel even een probeersel om de 780M weer even op gang te krijgen hoor, veel te simpel - geen lora's e.d. Dat prompt tweaken komt nog wel even

Qua anatomie, yup, achterpoot is een no-no, in het geval van ras? Sibeer, vooral mannetjes kunnen beste knoeperds worden. Bron: heb er 2

[ Voor 8% gewijzigd door SkyStreaker op 15-03-2026 19:35 ]

[Jorgen]

@SkyStreaker Dank voor de mention. Nog niet. We zijn stap voor stap, alles aan het doen, wat we willen doen met de nieuwe computer. Nu lag haar aandacht vooral bij Minecraft (Creative) met mods. Maar generatieve AI staat op het lijstje!

[SkyStreaker]

Onverwacht resultaat, ik wou een tekening in de stijl van ruwe schetsen, haha - desondanks toch leuk

Beetje aan het knoeien weer met katjes:

[ Voor 30% gewijzigd door SkyStreaker op 26-03-2026 17:44 ]

[EverLast2002]

SkyStreaker schreef op donderdag 26 maart 2026 @ 05:47:
[Afbeelding]

Onverwacht resultaat, ik wou een tekening in de stijl van ruwe schetsen, haha - desondanks toch leuk

Beetje aan het knoeien weer met katjes:

[Afbeelding]

altijd +1 voor een poes
ben benieuwd naar de prompt van die kat, waar dat water vandaan komt bijvoorbeeld...

[SkyStreaker]

EverLast2002 schreef op vrijdag 27 maart 2026 @ 17:24:
[...]


altijd +1 voor een poes
ben benieuwd naar de prompt van die kat, waar dat water vandaan komt bijvoorbeeld...

Helaas ben ik de exacte prompt voor die kwijt e.d. omdat het origineel verkeerd is opgeslagen, zucht...

Maar het begint hier (en ik gebruik op dit moment SDXL Lightning/Turbo modellen):

(A Siberian red cat:1.2), absolute mess, paintbuckets, kitchen, paw prints, cowering

hyperreal texture details, quiet melancholic atmosphere, serene environment, photorealistic cinematic realism, immersive ambiance, dynamic composition with natural motion and narrative depth, correct perspective, realistic perspective

NEG
lowres, bad anatomy, bad hands, watermark. human, humanoid, detached fur, plush, perspective errors, composition errors, skewed perspective, size error

(Lightning/turbo lijken wat moeite te hebben met perspectief, de kat hoort kleiner te zijn t.o.v. de keuken, ik weet helaas niet meer welk model ik dus voor ons origineel hier heb gebruikt)

[Yaksa]

SkyStreaker schreef op vrijdag 27 maart 2026 @ 17:55:
[...]Helaas ben ik de exacte prompt voor die kwijt e.d. omdat het origineel verkeerd is opgeslagen, zucht...
Maar het begint hier (en ik gebruik op dit moment SDXL Lightning/Turbo modellen):
(A Siberian red cat:1.2), absolute mess, paintbuckets, kitchen, paw prints, cowering
hyperreal texture details, quiet melancholic atmosphere, serene environment, photorealistic cinematic realism, immersive ambiance, dynamic composition with natural motion and narrative depth, correct perspective, realistic perspective
NEG
lowres, bad anatomy, bad hands, watermark. human, humanoid, detached fur, plush, perspective errors, composition errors, skewed perspective, size error
(Lightning/turbo lijken wat moeite te hebben met perspectief, de kat hoort kleiner te zijn t.o.v. de keuken, ik weet helaas niet meer welk model ik dus voor ons origineel hier heb gebruikt)

Even snel:

Afbeeldingsinfo: Maine Coon cat on a kitchen floor, after painting the kitchen red and making a mess out of it. Red paint splatters all over the floor.
Steps: 20, Sampler: Euler, Schedule type: Simple, CFG scale: 1, Distilled CFG Scale: 3.5, Seed: 320919261, Size: 896x1152, Model hash: 3f97fdc57a, Model: flux1-dev, Version: f2.0.1v1.10.1-previous-417-g8ff0dc6f, Module 1: ae, Module 2: clip_l, Module 3: t5xxl_fp16

[EverLast2002]

model: flux.2 klein 9b
same seed, same resolution as Yaksa
steps: 10
sampler: res_2m, scheduler: beta57

[EverLast2002]

koud he !.....wat is het koud he !
greetings from The North Pole....

[SkyStreaker]

Ik kan op dit moment op zijn max Z-Image Turbo draaien, dus hier moet ik het mee doen. Finetunen is lastig als het zo lang duurt hehe - paar maandjes wachten nog :3

[Poljert]

Tweakers, ik ben even aan het experimenteren met Fooocus. Ik draai wel op een AMD videokaart, dus dat maakt de situatie niet echt ideaal. Maar ik kan het zo toch even proberen.

Nu valt mij op dat als ik één afbeelding maak (qua settings maakt het niet zoveel uit) dat het dan nog wel redelijk gaat. Sommige modellen halen gemiddelde van 8 s/it [nee, dat is niet echt indrukwekkend ik weet het].

Maar als ik een serie start dan is het vanaf afbeelding 2 gewoon een drama. Dan zakt de iteration snelheid enorm in. Waardoor de eerste afbeelding vaak al klaar is in een paar minuten, maar de daaropvolgende duren 4 - 8 keer langer. Alsof er ergens na één afbeelding een buffer volzit, ofzo.

Ook als ik gewoon één afbeelding maak, en daarna opnieuw start met hetzelfde prompt en dezelfde settings dan is het vanaf afbeelding 2 enorm traag.

Iemand een suggestie wat ik hier mee kan doen? Misschien een bepaalde instelling oid die dit kan verbeteren?

[Yaksa]

Poljert schreef op donderdag 2 april 2026 @ 13:53:
Tweakers, ik ben even aan het experimenteren met Fooocus. Ik draai wel op een AMD videokaart, dus dat maakt de situatie niet echt ideaal. Maar ik kan het zo toch even proberen.

Nu valt mij op dat als ik één afbeelding maak (qua settings maakt het niet zoveel uit) dat het dan nog wel redelijk gaat. Sommige modellen halen gemiddelde van 8 s/it [nee, dat is niet echt indrukwekkend ik weet het].

Maar als ik een serie start dan is het vanaf afbeelding 2 gewoon een drama. Dan zakt de iteration snelheid enorm in. Waardoor de eerste afbeelding vaak al klaar is in een paar minuten, maar de daaropvolgende duren 4 - 8 keer langer. Alsof er ergens na één afbeelding een buffer volzit, ofzo.

Ook als ik gewoon één afbeelding maak, en daarna opnieuw start met hetzelfde prompt en dezelfde settings dan is het vanaf afbeelding 2 enorm traag.

Iemand een suggestie wat ik hier mee kan doen? Misschien een bepaalde instelling oid die dit kan verbeteren?

Dat kan heel goed aan het programma zelf (Fooocus) liggen, het is nogal gelimiteerd.
Beter installeer je iets als Automatic1111 of ComfyUI. Geeft je iets meer mogelijkheden en waarschijnlijk ook wat meer hulp hier aangezien ik nog geen andere gebruikers van Fooocus hier ben tegengekomen.
Wat ook wel handig is om te vermelden, is welk systeem je gebruikt (GPU, CPU en hoeveelheid RAM). Over het algemeen geldt; hoe meer VRAM, hoe makkelijker je batches kunt draaien.

[Poljert]

Yaksa schreef op donderdag 2 april 2026 @ 14:14:
[...]

Dat kan heel goed aan het programma zelf (Fooocus) liggen, het is nogal gelimiteerd.
Beter installeer je iets als Automatic1111 of ComfyUI. Geeft je iets meer mogelijkheden en waarschijnlijk ook wat meer hulp hier aangezien ik nog geen andere gebruikers van Fooocus hier ben tegengekomen.
Wat ook wel handig is om te vermelden, is welk systeem je gebruikt (GPU, CPU en hoeveelheid RAM). Over het algemeen geldt; hoe meer VRAM, hoe makkelijker je batches kunt draaien.

Ik zal ComfyUI eens proberen dan, want Automatic1111 is een beetje op dezelfde basis als Fooocus volgens mij. En daar is geen AMD versie voor (werkt mogelijk wel).

Overigens qua specs
Ryzen 5600X
16 GB geheugen
6700XT 12 GB

Edit: ComfyUI crasht meteen bij het genereren van een afbeelding. Ik zie ook dat ComfyUI eigenlijk niet voor de 6000 serie van AMD geschikt is. Mogelijk zit daar een oorzaak. Ik heb nog niet kunnen vinden wat het probleem precies is.

Ik denk dat ik binnenkort maar ga proberen of Fooocus op Linux wil draaien, dat schijnt beter te gaan dan op Windows.
Edit 2: Op Linux wil het nog niet echt lukken, blijkt toch wat lastiger dan verwacht.

[ Voor 21% gewijzigd door Poljert op 04-04-2026 11:14 ]

[StGermain]

Poljert schreef op donderdag 2 april 2026 @ 13:53:
Tweakers, ik ben even aan het experimenteren met Fooocus. Ik draai wel op een AMD videokaart, dus dat maakt de situatie niet echt ideaal. Maar ik kan het zo toch even proberen.

Nu valt mij op dat als ik één afbeelding maak (qua settings maakt het niet zoveel uit) dat het dan nog wel redelijk gaat. Sommige modellen halen gemiddelde van 8 s/it [nee, dat is niet echt indrukwekkend ik weet het].

Maar als ik een serie start dan is het vanaf afbeelding 2 gewoon een drama. Dan zakt de iteration snelheid enorm in. Waardoor de eerste afbeelding vaak al klaar is in een paar minuten, maar de daaropvolgende duren 4 - 8 keer langer. Alsof er ergens na één afbeelding een buffer volzit, ofzo.

Ook als ik gewoon één afbeelding maak, en daarna opnieuw start met hetzelfde prompt en dezelfde settings dan is het vanaf afbeelding 2 enorm traag.

Iemand een suggestie wat ik hier mee kan doen? Misschien een bepaalde instelling oid die dit kan verbeteren?

Ik heb in comfyui hetzelfde op een 3060ti, 3-4 sec per iteratie op 1 beeld maar op meerdere tegelijk duurt het eeuwig. Volgens mij gebruiken meerdere afbeeldingen tegelijk teveel geheugen.

[Yaksa]

StGermain schreef op donderdag 2 april 2026 @ 17:49:
[...]Ik heb in comfyui hetzelfde op een 3060ti, 3-4 sec per iteratie op 1 beeld maar op meerdere tegelijk duurt het eeuwig. Volgens mij gebruiken meerdere afbeeldingen tegelijk teveel geheugen.

Er zit een idd een verschil tussen Batch Count en Batch Size.
De eerste pakt de afbeeldingen sequentieel (achter elkaar) en de tweede genereert ze parallel (tegelijk) waardoor het VRAM snel volloopt. Sommige programma's verplaatsen dan een deel van de data naar het RAM, maar dat werkt natuurlijk ook trager.
Het wachten is op betaalbare (Nvidia) GPU's met veel (>_24Gb) VRAM, echter ik vrees dat dat nog wel even gaat duren.

[Felicia]

Yaksa schreef op donderdag 2 april 2026 @ 18:09:
Het wachten is op betaalbare (Nvidia) GPU's met veel (>_24Gb) VRAM, echter ik vrees dat dat nog wel even gaat duren.

Ik heb van de week een Intel Arc Pro B60 geplaatst (vorige was 4070 Super). De B60 heeft 24GB VRAM maar de B65 en B70 zijn aangekondigd met 32GB.

Ik ben met name aan het spelen met Opencode op dit moment, heb geen zin om een abonnement aan te schaffen voor Claude of Codex en dan was de 12GB Vram wel een beperkende factor. Ik had daarbij wel wat issues dat het model er met een fout uitklapte in LM studio maar dat is mogelijk een driver issue (Pro versie vs game versie driver).

[Yaksa]

Felicia schreef op zaterdag 4 april 2026 @ 11:50:
[...]Ik heb van de week een Intel Arc Pro B60 geplaatst (vorige was 4070 Super). De B60 heeft 24GB VRAM maar de B65 en B70 zijn aangekondigd met 32GB.

Ik ben met name aan het spelen met Opencode op dit moment, heb geen zin om een abonnement aan te schaffen voor Claude of Codex en dan was de 12GB Vram wel een beperkende factor. Ik had daarbij wel wat issues dat het model er met een fout uitklapte in LM studio maar dat is mogelijk een driver issue (Pro versie vs game versie driver).

Ik weet niet precies welke kant je uit wilt, maar in deze blog worden verschillende programma's besproken die je voor Local AI Imaging zou kunnen gebruiken. Voor het gebruik van de Intel Arc Pro kaarten met deze programma's staan ook diverse YouTube tutorials online. Intel ondersteunt geen CUDA, wat de meeste AI programma's nodig hebben, maar, zoals gezegd, daar zijn workarounds voor beschikbaar.

[Felicia]

Yaksa schreef op zaterdag 4 april 2026 @ 13:00:
[...]

Ik weet niet precies welke kant je uit wilt, maar in deze blog worden verschillende programma's besproken die je voor Local AI Imaging zou kunnen gebruiken. Voor het gebruik van de Intel Arc Pro kaarten met deze programma's staan ook diverse YouTube tutorials online. Intel ondersteunt geen CUDA, wat de meeste AI programma's nodig hebben, maar, zoals gezegd, daar zijn workarounds voor beschikbaar.

Het ging mij meer om het benoemen van een alternatief op de Nvidia kaarten.

Intel werkt via Vulkan waar AMD en Nvidia ook op kunnen werken overigens. De ruwe rekencapaciteit is wat minder maar doordat er meer geheugen beschikbaar is gaat het desondanks sneller dan met de 4070 Super.

[Felicia]

Niet gerelateerd aan mijn vorige, 1 bit modellen: YouTube: The End of the GPU Era? 1-Bit LLMs Are Here.

[SkyStreaker]

@Poljert https://lykos.ai/ - de nieuwste StabilityMatrix (waarmee je allerhande Generative Image/Video tools centraliseert heeft voor ComfyUI een script die volgens mij de juiste ROCm's (die gaat de 6700XT behandelen alsof het een 6900XT is vziw), SD.Next is ook een optie lees ik

Voor wat meer info: https://discord.com/channels/1115555685476868168/1121581010962874488/1485718077378269186 (discord van Lykos)

Wel even alles goed lezen. Belangrijk.

[ Voor 6% gewijzigd door SkyStreaker op 04-04-2026 16:55 ]

[Poljert]

Felicia schreef op zaterdag 4 april 2026 @ 13:19:
De ruwe rekencapaciteit is wat minder maar doordat er meer geheugen beschikbaar is gaat het desondanks sneller dan met de 4070 Super.

Heb je daar bronnen van? Want het lijkt er op dat meer geheugen niet perse de doorslag gaat geven zonder de juiste ondersteuning.

SkyStreaker schreef op zaterdag 4 april 2026 @ 16:54:
@Poljert https://lykos.ai/ - de nieuwste StabilityMatrix (waarmee je allerhande Generative Image/Video tools centraliseert heeft voor ComfyUI een script die volgens mij de juiste ROCm's (die gaat de 6700XT behandelen alsof het een 6900XT is vziw), SD.Next is ook een optie lees ik

Voor wat meer info: https://discord.com/channels/1115555685476868168/1121581010962874488/1485718077378269186 (discord van Lykos)

Wel even alles goed lezen. Belangrijk.

Thanks. SD.Next werkt inderdaad wel. Even getest op een oude harde schijf [ik had verder niets met voldoende ruimte]. Qua it/s waren de eerste signalen positief. Alleen de rest werkte zo traag door de slome hdd dat ik er niet echt goed verder mee kon testen.

Ik ga even investeren in een pcie ssd. En dan opnieuw starten met een verse Ubuntu installatie en dan eens kijken hoe dat verder werken wil.

[Felicia]

Poljert schreef op dinsdag 7 april 2026 @ 07:56:
[...]

Heb je daar bronnen van? Want het lijkt er op dat meer geheugen niet perse de doorslag gaat geven zonder de juiste ondersteuning.

Ik kan GPT-OSS 20b met maximum context binnen het geheugen van de GPU draaien op ~50 tokens/sec waar de 4070 Super 60 tokens/sec haalde tot maximaal 10k tokens context, daarna zakte die af naar 12-15 tokens/sec.

Zodra Vram niet voldoende is gaat ie swappen met het systeemgeheugen en is dat je beperkende factor. Die weegt, zo lijkt het, veel zwaarder dan het gebrek aan rekenkracht op de GPU zelf.

[DeNachtwacht]

Felicia schreef op dinsdag 7 april 2026 @ 17:57:
[...]

Ik kan GPT-OSS 20b met maximum context binnen het geheugen van de GPU draaien op ~50 tokens/sec waar de 4070 Super 60 tokens/sec haalde tot maximaal 10k tokens context, daarna zakte die af naar 12-15 tokens/sec.

Dat is dus omdat het niet totaal in het VRAM past. Hij gaat swappen, zoals je zelf ook zegt, zodra dit het geval is. Of een model binnen je geheugen past inclusief context is dus simpelweg te zien aan of je gedurende het gehele generatie proces van de AI (tekst, muziek afbeelding etc) een constante, snelle token/sec hebt. Zodra er halverwege (of later) ineens een forse snelheidsdaling plaatsvindt weet je dat er geswapt wordt.

[ Voor 7% gewijzigd door DeNachtwacht op 07-04-2026 18:07 ]

[Yaksa]

Felicia schreef op dinsdag 7 april 2026 @ 17:57:
[...]Ik kan GPT-OSS 20b met maximum context binnen het geheugen van de GPU draaien op ~50 tokens/sec waar de 4070 Super 60 tokens/sec haalde tot maximaal 10k tokens context, daarna zakte die af naar 12-15 tokens/sec.
Zodra Vram niet voldoende is gaat ie swappen met het systeemgeheugen en is dat je beperkende factor. Die weegt, zo lijkt het, veel zwaarder dan het gebrek aan rekenkracht op de GPU zelf.

In ComfyUI kun je boven in beeld een 'resource bar' installeren. Kun je precies zien of je (V)RAM aan het vollopen is. YT Videotje hoe je dat voor elkaar krijgt.

[Felicia]

DeNachtwacht schreef op dinsdag 7 april 2026 @ 18:07:
[...]

Dat is dus omdat het niet totaal in het VRAM past. Hij gaat swappen, zoals je zelf ook zegt, zodra dit het geval is. Of een model binnen je geheugen past inclusief context is dus simpelweg te zien aan of je gedurende het gehele generatie proces van de AI (tekst, muziek afbeelding etc) een constante, snelle token/sec hebt. Zodra er halverwege (of later) ineens een forse snelheidsdaling plaatsvindt weet je dat er geswapt wordt.

Jup. En dus mijn keuze om voor een GPU te gaan die meer geheugen heeft, omdat er dan grotere modellen inpassen wat meer passend is voor mijn doel (Opencode/Claude code op lokaal model).

Ik had overigens eerst een 5070 Ti geprobeerd, maar die leek door compatibility issues niet met mijn mobo te willen samenwerken. Achteraf voor mij niet verkeerd dat ik de Arc B60 heb geprobeerd

[Yaksa]

Felicia schreef op dinsdag 7 april 2026 @ 18:33:
[...]Ik had overigens eerst een 5070 Ti geprobeerd, maar die leek door compatibility issues niet met mijn mobo te willen samenwerken. Achteraf voor mij niet verkeerd dat ik de Arc B60 heb geprobeerd

Waarbij ik dan denk dat die 5070TI toch wel een pak sneller was geweest in het doorrekenen.
Wel eens een BIOS update voor je MB gedaan?

[DeNachtwacht]

De ARC is inderdaad zeker een interessante/goedkope optie met 24GB VRAM, maar onderschat niet dat nvidia qua drivers/optimalisaties een flink grotere speler is. Concreet betekent het bijvoorbeeld dat FP4 vaakk het door nvidia geoptimaliseerde nvfp4 is, dat sterke optimalisaties op de CUDA cores heeft waardoor het flink sneller gaat op nvidia kaarten.

Maar goed, uiteindelijk is extra vram ook wat waard want daardoor kun je bijv. net juist wel de FP8 variant van dat model draaien bijvoorbeeld.

[Felicia]

Yaksa schreef op dinsdag 7 april 2026 @ 18:38:
[...]

Waarbij ik dan denk dat die 5070TI toch wel een pak sneller was geweest in het doorrekenen.
Wel eens een BIOS update voor je MB gedaan?

Meest actuele versie van HP, maar ik zie online ook veel klachten dat bijvoorbeeld de 5060 dezelfde issues heeft.

[Felicia]

Felicia schreef op zaterdag 4 april 2026 @ 14:57:
Niet gerelateerd aan mijn vorige, 1 bit modellen: YouTube: The End of the GPU Era? 1-Bit LLMs Are Here.

En nou wordt ie mooi, hebben ze voor Prisma ML een gecompileerde versie uitgebracht van hun aangepaste LLama.cpp, maar hebben ze geen Vulkan versie 🤣

https://github.com/PrismM...s/tag/prism-b8201-ba7e817
https://huggingface.co/prism-ml/Bonsai-1.7B-gguf

[Felicia]

Nog even voor de volledigheid, dat ik 't niet uit m'n duim zuig

[EverLast2002]

download: nVidia Studio Driver 595.79 WHQL

"and the latest updates for FLUX.2 Klein 9B and ComfyUI."

[EverLast2002]

Even weer wat beeldmateriaal gemaakt.
Het is een fantasie megastructuur in de woestijn geworden (klikbaar).





model: flux.2 klein 9b
sampler/scheduler: Euler - FlowMatchEulerDiscreteScheduler
steps: 8
resolution: 1281x3072 en 3072x1281
seed: 588316103105492 en 784785175939033
prompt:
Shot on IMAX 15mm 65mm Large Format film, 50mm prime lens for natural compression without distortion, f/22 for maximum depth of field.

A precise, low-angle one-point linear perspective. The camera is placed just 0.5 meters above the desert floor, looking down a canyon created by the structure's modular base. The horizon line is positioned at the lower third, with the vanishing point creating a geometric pull toward infinity.

At the bottom-center of the frame, a group of six human engineers are depicted as microscopic silhouettes. Mathematically, the humans are 1.8 meters tall, while the primary matte-white alloy pylon beside them is 120 meters wide at the base.

A repeating modular spine of matte-white ceramic-composite alloy. The lattice is "Watabe-inspired", featuring organic-industrial curves and deep recessed bays. Within these bays are 40-meter-tall translucent aqua-glass power cells. Inside the glass, the refraction reveals layers of copper-wound radial engines, massive counter-rotating turbines, and bundles of cyan fiber-optic cables the thickness of tree trunks.

Extreme greebling. The alloy surfaces are covered in millions of tiny technical details: atmospheric sensors, pressure-relief valves, and cooling fins. Vibrant Dayglow Orange "Danger" markings and stenciled serial numbers are weathered and sand-pitted.

The setting is a vast desert reflecting 100% of the harsh 12:00 PM desert sun. Lighting is "Frazetta-esque" with absolute chiaroscuro, the lit surfaces are near-blown-out white, while the deep mechanical recesses are pitch-black voids.

8k resolution, Unreal Engine 5.5 path-traced rendering, hyper-realistic materiality, overwhelming industrial scale.

[ Voor 47% gewijzigd door EverLast2002 op 13-04-2026 15:56 ]

[EverLast2002]

Voor de ComfyUI mensen:
Vorige week ben ik erachter gekomen met renderen dat wanneer je de node "Upscale Latent By" (2x upscale) toevoegt in je workflow en deze plaatst VOOR de ksampler, er een enorme boost in details plaatsvind.
Nadeel is wel dat de rendertijd ook x2 oploopt, maar het resultaat vind ik wel de moeite waard van het iets langer wachten.
Het principe ervan is dat er een upscaling plaatsvindt in de latent space, in plaats van achteraf in de pixel space.