/u/12436/p1_normal.png?f=community)
Artikel: nieuws: Nvidia onthult AI-desktop-pc's DGX Spark en Station met Grace Blackwe...
Auteur: @sabineschults
En GB10 kan gekoppeld worden met een andere GB10 en dan heb je 256GB VRAM met 2PetaFlops FP4. (Zie onder).
De GB300 is dan dus nog steeds 10x sneller, maar niet kan evenveel geheugen, ter vergelijking de RTX 5090 is ongeveer 3,2PetaFlops FP4.
Lullige is dat met 288GB nog steeds de meeste bron LLM-modellen niet in het VRAM passen, laat staan in mem getraind.
Auteur: @sabineschults
bron: https://www.dell.com/en-u...-scale-with-dell-pro-max/This AI developer system, built with the NVIDIA GB300 Grace Blackwell Ultra Desktop Superchip, offers 784GB of unified system memory (up to 288GB HBME3e GPU memory and 496GB of LPDDR5X CPU memory), and an incredible FP4 processing power of up to 20,000 TOPS – making it ideal for training and inferencing large-scale AI workloads using advanced LLMs with 460Bn parameters.
En GB10 kan gekoppeld worden met een andere GB10 en dan heb je 256GB VRAM met 2PetaFlops FP4. (Zie onder).
De GB300 is dan dus nog steeds 10x sneller, maar niet kan evenveel geheugen, ter vergelijking de RTX 5090 is ongeveer 3,2PetaFlops FP4.
Lullige is dat met 288GB nog steeds de meeste bron LLM-modellen niet in het VRAM passen, laat staan in mem getraind.
[ Voor 13% gewijzigd door djwice op 20-03-2025 23:23 ]
Mijn LEGO MOC's met PDF bouwinstructies en stop-motion animaties vind je op https://rebrickable.com/users/BrickDesignerNL/mocs/
:no_upscale():strip_icc():strip_exif()/f/image/YEW6Pw3IcfguxsfZBKFteCLj.jpg?f=user_large)
:strip_icc():strip_exif()/u/75087/fallout3avatar.jpg?f=community){kind=avatar}