Huidige staat van lokale LLM's voor agentic development

Pagina: 1
Acties:

  • Furion2000
  • Registratie: September 2017
  • Laatst online: 19:53
Gevoelsmatig wil ik al een tijdje van mijn claude max abonnement af. Met Opus 5 heb ik het idee dat ik 30 rij in een Ferrari en dat denk ik nu al 6+ maanden. Ik denk dat het erg fijn is om onafhankelijk van de big tech te programmeren, maar ik vind kwaliteit toch wel het belangrijkste. In die zin is kwaliteit van 6 maanden geleden is ook al prima.

Ik ben bereid om te investeren in hardware, maar ik heb stiekem het vermoeden dat de hoeveel parameters die ik gewend ben van Claude de bottleneck zijn voor een goede user experience bij lokale modellen.

Mijn dagelijk gebruik is van klein naar groot in een omgeving van tot wel gelinkte 10-20 repositories (microservices):
- Context vragen
- Pontentiele bugs opzoeken
- Boilerplate code generen
- Feature planning

Eerst deed ik veel met een ralph loop in een losse VM, maar nu steeds meer met een simpele feature.md waarin staat wat ik wil maken. Ik denk dat dit zo gegroeid is omdat tijdig wil kunnen bijsturen op basis van de code die genereerd word.

Ik vraag mij dus af of er mede-developers zijn die goede/slechte ervaringen hebben met lokale modellen en welke setup ze hebben.