Machine Learning accelerator

[martijndierckx]

Ik hoop dat ik deze in het juiste topic heb gepost...

In’t kort
Ik wil op mijn telefoon meldingen krijgen als er beweging gedetecteerd wordt, enkel getriggerd door auto’s of mensen. Niet op basis van de standaard bewegingsdetectie.

In’t lang
Ik heb momenteel een aantal Dahua camera’s hangen die uit zichzelf al wel de klassieke bewegingsdetectie hebben ingebakken. Datzelfde geldt ook voor het NVMS (NX Witness) waarmee alles wordt opgenomen.
Maar intelligente detectie van mensen/gezichten en andere objecten. Dat zit er niet in.

Ik zou voor elke camera een Google Coral Accelerator willen inpluggen op mijn home server. Elk zo’n accelerator neemt een x1 PCI-e lane in beslag. Je kan ze krijgen in mini-PCI-e en M2 form factor.

Dus ik zoek een ding dat (OF):
1 PCI-e x4 slot omvormt naar 4 mini-PCI-e (PCI-e x1)
1 PCI-e x4 slot omvormt naar 2 M2 E-key (PCI-e x2)
1 PCI-e x4 slot omvormt naar 4 M2 A+E-key (PCI-e x1)
1 PCI-e x4 slot omvormt naar 4 M2 B+M-key (PCI-e x1)

Al deze PCI-e devices zou ik dan in mijn ESX home server willen passtrough’en aan mijn Camera’s VM.

Iemand ervaring met zulke Coral PCI-e modules? En kan iemand zulk ‘break-out’ kaartje aanbevelen?

Thx
Martijn

[HyperBart]

Zoiets dus?
http://www.ioi.com.tw/pro...ostID=2095&ProdID=1130031

[martijndierckx]

Nee,
Je voorstel gaat van x4 naar x1, niet naar mini-PCI-e of naar M2. Dus dan zou ik nog eens verder moeten converteren.

[FireDrunk]

TensorFlow + CUDA op een stevige GPU kan denk ik ook wel.

Vraag is vooral of je het softwarematig allemaal aan elkaar geknoopt krijgt.

Bijvoorbeeld:
https://towardsdatascienc...raspberry-pi-5bb2fc039b0f

Als je dus 4 streams tegelijk wil checken, is een CPU waarschijnlijk erg druk, en is een beetje GPU sneller en efficienter.

[ Voor 49% gewijzigd door FireDrunk op 10-11-2020 10:43 ]

[martijndierckx]

Op een GPU lukt dat allicht ook, maar ik wil bewust met die Coral TPU's aan de slag.
Vandaar de vraag

[FireDrunk]

Splitten van PCIe kan niet zomaar op elk moederbord en/of met elke CPU zonder toegevoegde chips (PLX chips).

Tegenwoordig is er wel PCIe Bifurcation wat een soort samengeraapte oplossing is om PCIe lanes te splitsen, maar de 'daughterbords' om PCIe daadwerkelijk op te splitsen zijn behoorlijk prijzig.

PCIe splitsen kan dus op zich prima, maar direct van 1x x16 naar meerdere M.2 Key E ga je denk ik niet vinden, of alleen voor exorbitant hoge prijzen, want het is gewoon bijna nergens voor nodig, dus wordt het amper gemaakt.

Ik denk dat je goedkoper uit bent door de USB variant van het ding te kopen, en daar wat Hub + splitter logica toe te passen.

[ Voor 21% gewijzigd door FireDrunk op 10-11-2020 10:48 ]

[martijndierckx]

Ik moet eens checken of mijn super micro bordje dat trekt.
Ik zie dat SuperMicro zelf een hele resem riser kaartjes aanbiedt. Maar ik moet dus zien of die compatibel zijn met mijn bordje en BIOS.

Check: RSC-R2UU-2E2E4R

[PeeVv]

martijndierckx schreef op dinsdag 10 november 2020 @ 10:45:
Op een GPU lukt dat allicht ook, maar ik wil bewust met die Coral TPU's aan de slag.
Vandaar de vraag

Is het meer voor de ervaring met de Coral TPU's of is het uiteindelijke doel om een goed werkend systeem te hebben? Ik heb hier zelf Zoneminder met de ZM Event Notification Server + machine learning in gebruik, waar het machine learning gedeelte pas gebruikt wordt na de klassieke bewegingsdetectie om false-positives eruit te filteren met persoonsherkenning. Dit draait op een laptop met een i5-7200U zonder GPU ondersteuning. Als je de klassieke bewegingsdetectie van de camera's kan gebruiken om de persoonsherkenning te triggeren kan je waarschijnlijk gewoon zonder GPU of accelerators werken.