AI platform waar andere gebruikers kunnen inloggen

[biggydeen2]

Hoi Tweakers,

Ik wil een omgeving maken op basis van AI waar ik bepaalde data beschikbaar stel. Vervolgens wil ik andere mensen tegen betaling toegang geven tot deze omgeving.

Dus eigenlijk train ik een lokaal model op basis van mijn data en deze wil ik tegen betaling delen met andere mensen (deze mensen krijgen dan een inlog).

Het lokaal aanmaken van een eigen AI is niet zown probleem, maar ik heb geen idee hoe ik dit kan openstellen voor andere mensen (tegen betaling). Ik kan hier ook geen specifieke oplossingen voor vinden. Bestaan er dit soort kant en klare oplossingen of moet dit echt gebouwd worden?

[Room42]

Dat kun je toch gewoon met AI bouwen?

[sys64738]

Even verplaatst naar Serversoftware en Clouddiensten waar deze vraag beter op zijn plek is.

[The Eagle]

Neem hier eens een kijkje, dan heb je de meeste basis al: https://github.com/vllm-project/aibrix

[Umbrah]

Hoe bepaal je inloggen? Hebben je gebruikers hun eigen IDP waar je aan moet koppelen? Wie zijn je klanten? Sommige domeinen stellen SSO verplicht op hun voorwaarden, zodat hun bedrijfsaccount voor je SAAS product gebruikt kan worden. Denk aan praktisch de hele overheid -- ga je dus externe SAML-providers ondersteunen? In dat geval kan je dat zelf voor je platform uiteraard ook doen, overweeg iets als Shibboleth.

[ Voor 13% gewijzigd door Umbrah op 01-04-2025 21:50 ]

[TheBrones]

Wellicht https://github.com/open-webui/open-webui als interface gebruiken?