Artikel:
review: Van 120 naar 460 euro: hoe de AI-hype de prijs van DDR5 laat exploderen
Auteur: @
AverageNL is het een AI-hype of een NVIDIA die simpelweg veel geheugen productie capaciteit heeft opgekocht?
En de vraag naar grote AI-modellen van 70GB (,omdat die nauwkeuriger zijn dan kleinere modellen) of grote context window (zodat je geen RAG meer nodig hebt, maar je hele kennisbank in 1x in de context van het model wordt meegenomen, en het model minder vergeet) de vraag naar GPU's heeft doen toenemen.
Omdat bedrijven door hun pilots/oefen projectjes ontdekken wat er fout gaat bij gebruik van RAG en andere technieken die compenseerde voor een kleine context.
/u/12436/p1_normal.png?f=community)