/u/12436/p1_normal.png?f=community)
Artikel: nieuws: Qualcomm presenteert AI-chips voor datacenters op basis van smartphon...
Auteur: @arnoudwokke
Het gaat dus alleen om hele snelle int8 berekeningen.
Veel modellen zijn niet int-gebaseerd, maar floating point of een combo zoals nvpf4.
Nvidia kaarten kunnen ook 4-bits berekeningen met af en doe een 16bitter tussen door voor nauwkeurigheid.
De Qualcomm kan alleen int8, maar best efficiënt.
Dus we zullen zien, op dit moment blijft het omzetten van modellen door Qualcomm nogal achter bij de vraag: https://github.com/quic/ai-hub-models/issues/221
Ze lopen daarmee meer dan 9 maanden achter, terwijl ze 12 maanden geleden ongeveer begonnen en toen best wel blij bleven initieel.
Dus als ze willen dat dit kans van slagen heeft moeten ze aan de bak met die conversies.
Theoretisch kan NVIDIA ongeveer 2x zo zuinig zijn als Qualcomm.
Auteur: @arnoudwokke
Het gaat dus alleen om hele snelle int8 berekeningen.
Veel modellen zijn niet int-gebaseerd, maar floating point of een combo zoals nvpf4.
Nvidia kaarten kunnen ook 4-bits berekeningen met af en doe een 16bitter tussen door voor nauwkeurigheid.
De Qualcomm kan alleen int8, maar best efficiënt.
Dus we zullen zien, op dit moment blijft het omzetten van modellen door Qualcomm nogal achter bij de vraag: https://github.com/quic/ai-hub-models/issues/221
Ze lopen daarmee meer dan 9 maanden achter, terwijl ze 12 maanden geleden ongeveer begonnen en toen best wel blij bleven initieel.
Dus als ze willen dat dit kans van slagen heeft moeten ze aan de bak met die conversies.
Theoretisch kan NVIDIA ongeveer 2x zo zuinig zijn als Qualcomm.
[ Voor 7% gewijzigd door djwice op 27-10-2025 23:57 ]
Mijn LEGO MOC's met PDF bouwinstructies en stop-motion animaties vind je op https://rebrickable.com/users/BrickDesignerNL/mocs/