Tenstorrent Blackhole p150 — ervaringen- en discussietopic
Ik zocht op GoT naar een topic over de Tenstorrent Blackhole-kaarten maar kon er geen vinden, dus bij deze een start. Ik heb zelf twee p150-kaarten plus een QSFP-DD interconnectkabel besteld en deel hieronder mijn eerste ervaringen. Vragen, benchmarks en ervaringen van anderen zijn uiteraard welkom!
Wat is Tenstorrent?
Tenstorrent is het AI-chipbedrijf van Jim Keller (bekend van o.a. AMD Zen, Apple A4/A5 en Tesla). In plaats van GPU's maken ze AI-accelerators op basis van RISC-V, met een volledig open source softwarestack. De Blackhole-generatie is hun nieuwste lijn PCIe-kaarten, gericht op developers en enthousiastelingen die lokaal AI-modellen willen draaien of met de hardware zelf willen experimenteren.
Specificaties Blackhole p150
Opvallend: de p150 werd gelanceerd met 140 Tensix-cores, maar sinds firmware v19.5.0 (januari 2026) heeft Tenstorrent het aantal actieve cores op alle kaarten, ook reeds verkochte, teruggebracht naar 120. Volgens Tenstorrent zou dit in de praktijk maar 1-2% prestatieverschil opleveren met TT-Metalium, maar op papier ging de rekenkracht van 774 naar 664 TFLOPS (BLOCKFP8). Waarom precies is niet toegelicht.
Waarom ik deze kaarten heb gekocht
Ik draai al langer lokale LLM's op een AMD Strix Halo-systeem (o.a. Qwen-modellen via llama.cpp). Dat werkt prima, maar de geheugenbandbreedte (~256 GB/s) is daar de beperkende factor, vooral bij prefill van lange contexten. De p150 biedt per kaart het dubbele aan bandbreedte (512 GB/s) en een veelvoud aan compute.
Waarom dan twee kaarten? Eén p150 heeft 32 GB, en dat is krap voor grotere modellen met veel context. Via de QSFP-DD interconnect kun je kaarten direct aan elkaar koppelen en geheugen poolen — met twee kaarten kom ik op 64 GB en kan ik de multi-card architectuur testen die deze kaarten juist onderscheidt van "gewone" GPU's. Geen PCIe-bottleneck of NVLink-achtige propriëtaire oplossing, maar 800G Ethernet-links rechtstreeks tussen de chips.
Daarnaast spreekt de volledig open source stack me aan: van firmware tot SDK staat alles op GitHub. De software is nog jong en dat betekent bugs accepteren, maar ook: vroeg expertise opbouwen op een architectuur die fundamenteel anders is dan CUDA. En als de stack net zo'n traject doormaakt als ROCm bij AMD, zit er nog veel rek in de prestaties van deze hardware.
De soevereiniteitshoek — en waarom die tegenviel
Een deel van mijn interesse was geopolitiek: een alternatief voor Nvidia, AMD en Intel, van een Canadees bedrijf met een open stack. Minder afhankelijkheid van Amerikaanse chipleveranciers klinkt aantrekkelijk in een tijd van exportrestricties en importtarieven.
Maar hier kwam ik bedrogen uit, en dat is het delen waard: bij de aankoop moet je een export compliance-certificering tekenen, omdat de hardware onder de Amerikaanse EAR (Export Administration Regulations) valt. Tenstorrent mag dan Canadees zijn, er zit Amerikaanse technologie in de chips, en daarmee reikt de Amerikaanse exportwetgeving gewoon tot aan deze kaarten. Je tekent dus feitelijk een Amerikaans compliance-document om het "niet-Amerikaanse" alternatief te mogen kopen — inclusief doorlopende verplichtingen als je situatie verandert.
De les: wie denkt met Tenstorrent onder Amerikaanse jurisdictie uit te komen, komt bedrogen uit. Wat je wél wint is openheid: open source firmware en software van laag tot hoog, geen vendor lock-in op de softwarelaag, en volledige controle over waar je data draait. Dat is een andere vorm van soevereiniteit dan "vrij van Washington" en het is goed om die twee niet te verwarren.
Bestelling en levering
Ik heb de kaart rechtstreeks bij Tenstorrent besteld. Tip voor wie ook overweegt: bij aanschaf van 2 of meer p150-kaarten krijg je bij Tenstorrent 50% korting op een QSFP-DD 800G kabel.
Unboxing
De hardware komt keurig verpakt.
Mijn setup
Ik heb mijn oude desktop repurposed om deze kaarten te hosten.
De kaarten installeer je zoals een GPU, met elk een 12V-2x6 voeding. Ik moest daarvoor een nieuwe voeding kopen omdat mijn oude desktop die aansluiting nog niet had.
:strip_exif()/f/image/JrGzxXGM6pJAjEWYIW79KXds.jpg?f=fotoalbum_large)
Nuttige links
Ik zal updates posten wanneer ik door de installatie(s) heen ben en succesvol een model heb kunnen draaien. Zodra de "off the shelf" software goed werkt, is mijn stretch-goal om te kijken in hoeverre ik zelf software voor deze kaarten kan maken. Gezien mijn beperkte hobby-tijd kan dat wel even gaan duren.
Mocht je zelf zo'n kaart of kaarten hebben en tips hebben - hoor ik ze graag. Mocht je dingen willen weten vraag gerust, ik ben het ook allemaal aan het uitvinden.
Aangezien dit technisch gezien geen grafische kaart is, heb ik hem in OH geplaatst. Mocht ik het op de verkeerde plaats hebben gezet, dan hoor ik dat graag.
Ik zocht op GoT naar een topic over de Tenstorrent Blackhole-kaarten maar kon er geen vinden, dus bij deze een start. Ik heb zelf twee p150-kaarten plus een QSFP-DD interconnectkabel besteld en deel hieronder mijn eerste ervaringen. Vragen, benchmarks en ervaringen van anderen zijn uiteraard welkom!
Wat is Tenstorrent?
Tenstorrent is het AI-chipbedrijf van Jim Keller (bekend van o.a. AMD Zen, Apple A4/A5 en Tesla). In plaats van GPU's maken ze AI-accelerators op basis van RISC-V, met een volledig open source softwarestack. De Blackhole-generatie is hun nieuwste lijn PCIe-kaarten, gericht op developers en enthousiastelingen die lokaal AI-modellen willen draaien of met de hardware zelf willen experimenteren.
Specificaties Blackhole p150
- 120 Tensix-cores (zie kanttekening hieronder!)
- 32 GB GDDR6, 512 GB/s geheugenbandbreedte
- 16 "Big RISC-V" cores (SiFive X280) hier kan zelfs standalone Linux op draaien
- 4x QSFP-DD 800G poorten voor directe kaart-naar-kaart verbinding (geen switch mogelijk)
- TBP 300W, PCIe-kaart, actief gekoeld (p150a) of passief (p150b)
- Adviesprijs: $1.399
Opvallend: de p150 werd gelanceerd met 140 Tensix-cores, maar sinds firmware v19.5.0 (januari 2026) heeft Tenstorrent het aantal actieve cores op alle kaarten, ook reeds verkochte, teruggebracht naar 120. Volgens Tenstorrent zou dit in de praktijk maar 1-2% prestatieverschil opleveren met TT-Metalium, maar op papier ging de rekenkracht van 774 naar 664 TFLOPS (BLOCKFP8). Waarom precies is niet toegelicht.
Waarom ik deze kaarten heb gekocht
Ik draai al langer lokale LLM's op een AMD Strix Halo-systeem (o.a. Qwen-modellen via llama.cpp). Dat werkt prima, maar de geheugenbandbreedte (~256 GB/s) is daar de beperkende factor, vooral bij prefill van lange contexten. De p150 biedt per kaart het dubbele aan bandbreedte (512 GB/s) en een veelvoud aan compute.
Waarom dan twee kaarten? Eén p150 heeft 32 GB, en dat is krap voor grotere modellen met veel context. Via de QSFP-DD interconnect kun je kaarten direct aan elkaar koppelen en geheugen poolen — met twee kaarten kom ik op 64 GB en kan ik de multi-card architectuur testen die deze kaarten juist onderscheidt van "gewone" GPU's. Geen PCIe-bottleneck of NVLink-achtige propriëtaire oplossing, maar 800G Ethernet-links rechtstreeks tussen de chips.
Daarnaast spreekt de volledig open source stack me aan: van firmware tot SDK staat alles op GitHub. De software is nog jong en dat betekent bugs accepteren, maar ook: vroeg expertise opbouwen op een architectuur die fundamenteel anders is dan CUDA. En als de stack net zo'n traject doormaakt als ROCm bij AMD, zit er nog veel rek in de prestaties van deze hardware.
De soevereiniteitshoek — en waarom die tegenviel
Een deel van mijn interesse was geopolitiek: een alternatief voor Nvidia, AMD en Intel, van een Canadees bedrijf met een open stack. Minder afhankelijkheid van Amerikaanse chipleveranciers klinkt aantrekkelijk in een tijd van exportrestricties en importtarieven.
Maar hier kwam ik bedrogen uit, en dat is het delen waard: bij de aankoop moet je een export compliance-certificering tekenen, omdat de hardware onder de Amerikaanse EAR (Export Administration Regulations) valt. Tenstorrent mag dan Canadees zijn, er zit Amerikaanse technologie in de chips, en daarmee reikt de Amerikaanse exportwetgeving gewoon tot aan deze kaarten. Je tekent dus feitelijk een Amerikaans compliance-document om het "niet-Amerikaanse" alternatief te mogen kopen — inclusief doorlopende verplichtingen als je situatie verandert.
De les: wie denkt met Tenstorrent onder Amerikaanse jurisdictie uit te komen, komt bedrogen uit. Wat je wél wint is openheid: open source firmware en software van laag tot hoog, geen vendor lock-in op de softwarelaag, en volledige controle over waar je data draait. Dat is een andere vorm van soevereiniteit dan "vrij van Washington" en het is goed om die twee niet te verwarren.
Bestelling en levering
Ik heb de kaart rechtstreeks bij Tenstorrent besteld. Tip voor wie ook overweegt: bij aanschaf van 2 of meer p150-kaarten krijg je bij Tenstorrent 50% korting op een QSFP-DD 800G kabel.
Unboxing
De hardware komt keurig verpakt.
:no_upscale():strip_icc():strip_exif()/f/image/8oV9akDZrOTsgfh6DOFhFU2g.jpg?f=user_large) | :no_upscale():strip_icc():strip_exif()/f/image/8KANETiCvp6EYzB4JMypGyYa.jpg?f=user_large) |
Ik heb mijn oude desktop repurposed om deze kaarten te hosten.
- Moederbord: Gigabyte X570 Aorus Pro
- CPU: Ryzen 9 3900X
- RAM: 64GB DDR4
- Voeding: BeQuiet Powerzone 2 1200W
- OS: Ubuntu 22.04
De kaarten installeer je zoals een GPU, met elk een 12V-2x6 voeding. Ik moest daarvoor een nieuwe voeding kopen omdat mijn oude desktop die aansluiting nog niet had.
:no_upscale():strip_icc():strip_exif()/f/image/JrGzxXGM6pJAjEWYIW79KXds.jpg?f=user_large)
Nuttige links
- Productpagina Tenstorrent
- Officiële documentatie & specificaties
- Tenstorrent op GitHub (open source stack)
- Linux draaien op de X280-cores van de kaart zelf
- The Register: review van de QuietBox (4x p150)
Ik zal updates posten wanneer ik door de installatie(s) heen ben en succesvol een model heb kunnen draaien. Zodra de "off the shelf" software goed werkt, is mijn stretch-goal om te kijken in hoeverre ik zelf software voor deze kaarten kan maken. Gezien mijn beperkte hobby-tijd kan dat wel even gaan duren.
Mocht je zelf zo'n kaart of kaarten hebben en tips hebben - hoor ik ze graag. Mocht je dingen willen weten vraag gerust, ik ben het ook allemaal aan het uitvinden.
Aangezien dit technisch gezien geen grafische kaart is, heb ik hem in OH geplaatst. Mocht ik het op de verkeerde plaats hebben gezet, dan hoor ik dat graag.
:strip_exif()/u/1807884/crop6a3ac5fbf39e1_cropped.webp?f=community)