'Samsung verhoogt DDR5- en HBM-prijzen 30 procent na…

Pagina: 1
Acties:

  • BramVroy
  • Registratie: November 2009
  • Laatst online: 07-04 19:46
Artikel: nieuws: 'Samsung verhoogt DDR5- en HBM-prijzen 30 procent na korte dip en ver...
Auteur: @JaspB

Zover ik de paper en blog post begrijp, heeft TurboQuant geen impact op het trainen van het model. https://research.google/b...with-extreme-compression/

De vooruitgang gaat specifiek over de KV-cache, wat enkel gebruikt/aangeroepen wordt tijdens inferentie. (Terzijde: tijdens training is het model namelijk niet causaal (token per token) maar wordt er een causaal masker gebruikt om "te doen alsof", wat het trainen veel sneller maakt (een forward pass) dan inferentie (forward pass voor elk nieuw token).)

  • Luminair
  • Registratie: Juli 2007
  • Laatst online: 07-04 13:21
De afbeelding die hierbij zit is AI-gegenereerd, en het is niet bepaald subtiel. Is de bron daarvan écht Samsung? Dan vind ik het wel interessant (misschien zelfs een verhaal waard) om te zien waar bij Samsung die wordt ingezet.

  • Orwell
  • Registratie: December 2009
  • Laatst online: 07-04 17:25
Luminair schreef op dinsdag 7 april 2026 @ 00:39:
De afbeelding die hierbij zit is AI-gegenereerd, en het is niet bepaald subtiel. Is de bron daarvan écht Samsung? Dan vind ik het wel interessant (misschien zelfs een verhaal waard) om te zien waar bij Samsung die wordt ingezet.
Ja, zo een plaatje zou een bijschrift “AI gegenereerd” verdienen, maar misschien is het daarvoor gezien de verspreiding/acceptering van gegenereerde meuk op internet al te laat voor.

  • BramVroy
  • Registratie: November 2009
  • Laatst online: 07-04 19:46
Het artikel is ook nog niet aangepast

Dit TurboQuant comprimeert gegevens zodat het trainen en draaien van AI-modellen kan met relatief minder geheugen.