Ai off-line zonder/minimale beperkingen.

[Bert500]

Ai off-line zonder/minimale beperkingen.

Hallo,

Ik ben geen bedrijf (financiele beperkingen. 5/20 euro per maand kan, geen abonnementen van 200 euro), om privacy redenen off-line. On -line updates ophalen zou kunnen. Liefst nederlandstalig.

Ik wil eens wat met ai gaan experimenteren, maar ik kom tegen dat ai ook getraind is met "beperkingen"

Voorbeeld Chatgpt kan geen folders aanmaken op je pc of (beperkt) tekst bestanden op je pc plaatsen.

Concreet: ik zou ai pdf bestanden laten lezen, daar samenvattingen (duplicate tekst eruit halen) van laten maken en die tekst dan op te slaan.

Voorbeeld: fotoherkenning: ik zou foto's (voor inventaris) nemen, dat zou in tekst moeten omgezet worden en een inventaris van gemaakt. ik zou ai trainen om zaken te herkenne, (hamer, zaag, sleutel, bril, boekje, doosje met …, in doos 1 etc... om dan nadien te zeggen: toon me alle dozen met een bril (om alle brillen in 1 doos te verzamelen)

spraakherkenning: ik zeg, hii/zij schrijft.

In de recente crypto koersen wat zitten zoeken (on-line heeft daar ook beperkingen mee)

Robot: bedieningen aanleren via raspberry pi (of dergelijke) om wat te testen, als hobby.

prijslijsten van website halen voor vergelijking: chatgpt doet dat soms, en dan weeral wil die niet. ik heb er dagelijks mee gewerkt en merkt dat hij dat niet elke dag wil (tijdelijke beperkingen of beperkingen door hemzelf opgelegd) zo had ik aan chatgpt gevraagt om mij de meest interessante ssd op een website te zoeken en vergeljking in prijs/snelheid te maken. dat ging perfect, enkele dagen nadien wou hij dat niet meer doen. ik kon wel screenshots opsturen en nadien door ocr laten omzetten.

Voor 1 januari wilde men wel de oude chats doorzoeken op informatie, na 1 januari niet meer.


Ik zou dus graag een eigen ai willen bouwen die zo weinig mogelijke beperkingen heeft. BERT zou weinig beperkingen hebben om mee te beginnen. Bij up-dates kunnen beperkingen meegegeven/ingebouwd worden. Backup terugzetten, niet?

Nieuwe (recente versies) van ai zijn zwaar, maar beperkingen maakt een systeem nog zwaarder. (doe dit niet, doe dat niet, dat mag niet).

Is GPA4ALL een alternatief? die werken on/off-line is open source en claimen zelf weinig beperkingen te hebben, maar minen wel via je systeem. die werken dat wel met recente crypto koersen.


Er zijn weinig / geen inzage in wat die beperkingen precies zijn en welke software wat/of niet heeft.

Je kan beperkingen wel omzeilen, maar is het niet beter direct voor soft te kiezen zonder die beperkingen? ai is al zwaar genoeg om op je pc te draaien.

Je kan beperkingen wel omzeilen, maar is het niet beter direct voor soft te kiezen zonder die beperkingen? ai is al zwaar genoeg om op je pc te draaien.

Talenkennis? Nederlands zou leuk zijn, maar hij hoeft geen 500 talen vlot te kennen. Kan ik een model makkelijk 1 taal aanleren? soms is de kennis van het nederlands beperkt.

WIe kan me daar meer over vertellen, met welke ai zou ik heb best beginnen? Ik ben een beginner, mijn excuses als er al een website bestaat waar alles opstaat, gelieve me dan de link van die website mee te geven.

Groeten,

[Bert500]

We zijn nu al een tijdje en ervaringen verder.Met meer dan vallen dan opstaan.

Het probleem dat ik met veel modellen die ik geprobeerd heb, en ook eigen gui schrijven is dat ze het geheugen niet willen inlezen of niet onthouden. dat is zeer vervelende. zo kan ik niets opbouwen. de beperkte tekstlengte dat de modellen kunnen inlezen betekend dat ik ze niets kan leren.

Ik ben geen programmeur, dus gebruik ik chatgpt om mijn python scripts te schrijven, ik heb ook al gpt4all gebruikt om scripts te schriven.

Hoe moeilijk is het om een off-line ai model een tekst te laten lezen op je eigen ssd , die tekst moet de ai onthouden omin de chat verder te werken. de ingestelde tekstlengtes in de bestaande ai's zijn te beperkt om iets deftig mee te doen.

mijn beperkigen van het engels om in engelstalige forums oplossingen te gaan zoeken, gecombineerd met een beperkt eigen geheugen door leeftijd en medicijnen helpen de zaak niet vooruit.

Als ik een oplossing vind zal ik het hier posten, zijn er zo weinig mensen die met een eigen ai model off-line werken? Ik zou graag met deze mensen in contact willen komen.

Groeten,

[Killah_Priest]

Er is een topic over zelf gehoste AI: Ervaringen met zelf gehoste AI assistenten

Ik denk dat je daar wat verder mee zal komen.

[Bert500]

Iedereen heeft zijn eigen ideeen wat een ai voor hem of haar kan betekenen. Onlangs kwam ik tegen dat ereen geheim regeltje was geplaatst in de code waarin stond dat de ai geen persoonlijke gegevens mag bewaren over de user. Dat was een regeltje dat ergens in de code werd verstopt. Voor mijn gebruik (he bijhouden van gebruik van medicijnen en vitamines) is het juist belangrijk dat die WEL persoonlijke gegevens bijhoudt en verzamelt. ik moet deze (wettelijke) bepalingen juist omzeilen.

Vandaag kwam ik bij het testen van een nieuw model mistral dit tegen: ik laat u meelezen, ik cut en copy2 het onderaan:

Het is niet de bedoeling dat ai me uitlegt hoe ik een file en txt moet maken, het is de bedoeling dat hij op mijn vraag een txt en file maakt. dus mag ik beginnen dit weer aan te passen. btw: ik ga deze mistral niet verder testen omdat hij geen nederlands genereerd,hij begrijpt het wel maar spreekt het niet. Hij is ook tamelijk traag en zwaar.

Ik denk dat ik hier in het forum foto's kan posten (ik zal het in dit bericht eens testen, ik zal eens kijken hoe ik dat dan kan doen. misschien een leuke screenshot die je kan meelezen, deze gui heb ik zelf gebouwd met de hulp van chatgpt, ik ben geen programmeur, ik heb alleen ideeen. dit is mijn deepseek assistent maar ik krijg het niet in orde het geheugen te lezen van vorige chats. als er tussen haakje (reageert niet) staat betekend het juist dat hij wel een het werken is om een antwoord te genereren. verwarrend, je moet je eigen programma's leren kennen. je krijgt een idee met wat ik bezig ben.



Mijn engels is onvoldoende om engelstalige forums de vragen te stellen. meelezen kan wel maar ik ben oud en ziek en heb concentratieproblemen. de tijden dat ik in lotus 123 onder dos en windows 95 macro's schreef zijn al lang voorbij.

Maar ai zou heel veel kunnen voor mij en met de vergrijzing van de bevolking een handige tool kunnen zijn. Maar sinds enkele maanden mag zelfs chatgpt in de vorige chats geen opzoekingen meer doen. Hij kan het, maar mag niet. Daarom dat oudere modellen misschien beter kunnen zijn. ik vind de juiste groepen niet.


Een ai met altzheimer is niet handig, zeker niet als je zelf verward bent door de pillen.


Nog iets : ik gebruik cuda, sommige modellen kunnen dat niet gebruiken. het is een beetje zoals een boom zoeken in een bos. Met het gebruik van cuda haal ik meer uit mijn systeem.

spijtig dat ik het model geitjenl nooit heb kunnen testen. (zie cut en copy1) Zou er ergens nog een plaats zijn waar het model toch nog te vinden is?

ik kan me maar enkele uren per dag concentreren, soms zelfs geen minuut op een dag. dan is de zoektocht moeilijk.

Bij chatgpt loop ik ook altijd tegen de limieten op van aantal vragen per dag. cpt4all heeft een beperking op txt grootte. dan zijn er modellen die te zwaar zijn of geen nederlands kennen.


Ben ik voor het ongeluk geboren? ik om altijd de verkeerde ai tegen.

groeten,


cut en copy1:
Op dringend verzoek van Stichting BREIN is GEITje vanaf heden niet meer beschikbaar. ⚠️

Alle model files (de gewichten) en checkpoints zijn verwijderd uit mijn HuggingFace repos. Zie mijn blogpost voor een toelichting.

GEITje is een Nederlandstalig groot open taalmodel met 7 miljard parameters, gebaseerd op Mistral 7B. Het is (verder) getraind op 10 miljard tokens aan Nederlandstalige tekst. Daardoor heeft het beter Nederlands geleerd, en meer kennis over Nederlandse onderwerpen.


cut en copy 2:

2025-05-02 08:52:05.311526 - GEBRUIKER: you calculations are corrext, and you can remember are previous conversations. can you make a file whit the name:

eric.txt and put the text : eric heeft 10 pillen vitamine D genomen om 8 uur. in the txt file. you can put the file in the folder c:\aichatnl\input\
2025-05-02 08:54:53.837983 - AI: yes, I can create a text file named "eric.txt" and put the text "eric heeft 10 pillen vitamine D genomen om 8 uur." (eric has taken 10 vitamin D pills at 8 o'clock) into it. I will save the file in the specified folder "c:\aichatnl\input\". Here's how you can do it in Python:

```python
import os

# create a file if it doesn't exist
if not os.path.exists(r"c:\aichatnl\input\eric.txt"):
with open(r"c:\aichatnl\input\eric.txt", "w") as file:
file.write("eric heeft 10 pillen vitamine D genomen om 8 uur.")

# if the file exists, you can also append text to it
# with open(r"c:\aichatnl\input\eric.txt", "a") as file:
# file.write("\n" + "new text here")
``

[RobIII]

Allereerst: Ik snap dat leeftijd en verwardheid en concentratieproblemen etc. het allemaal niet makkelijker maken, maar je berichten zijn erg onsamenhangend en moeilijk te volgen. Mijn punt is: als ik (of wij als ik zo vrij mag zijn voor anderen te spreken) al moeite heb om hout te snijden van alles dan denk ik dat een AI het niet heel veel beter doet. Ik zie in je screenshot bijvoorbeeld de nodige spelfouten (waaronder tweaker.net ipv tweakers.net) waardoor de AI je waarschijnlijk een heel antwoord geeft dan je verwacht.

Maar wat ik niet begrijp: je wil dus gebruik van je pillen bijhouden. Kun je me vertellen waarom dat met een AI moet? Ik kan zo talloze manieren verzinnen die veel minder werk zijn en sneller werken en geen CUDA vereisen en veel duidelijker zijn. Maak een (excel/google/whatver) sheet, hou 't bij in je notes, zet 't in je agenda, gebruik een app (ik ken ze niet maar ik zet er geld op dat er talloze zijn), leg een papiertje bij je pillen waar je kunt afkruisen, ...

Maar terug naar je topicstart, waar je 't over een veel breder scala hebt (een "robot", "home automation", foto-, object- en spraakherkenning, PDF deduplicatie/samenvattingen en zo nog wel wat zaken): ik denk dat je beeld van de huidige stand van zaken van AI nog wat rooskleurig is. Hoewel de meeste zaken in een-of-andere vorm wel al bestaan is er, bij mijn weten althans, geen "AI" die dit allemaal kan. Maar ook hier weer: je telefoon kan prima spraakherkenning doen in bijvoorbeeld whatsapp maar ook je notities. Wist je dat je in je fotoalbum gewoon kunt zoeken op "hamer"? (op iOS althans, maar op Android volgens mij ook prima). Siri, of Google, kunnen je prima helpen iets in je agenda te zetten, een timer te zetten, je ergens aan te herinneren etc. Nee, een Siri of Google zal je (nog) niet helpen met je crypto of websites voor scrapen, maar voor de meeste zaken zijn wel weer apps of websites.

Point being: Je hoeft het wiel niet opnieuw uit te vinden en hoewel "AI" heel tof is denk ik dat je misschien iets té vast zit in die hoek. Ik denk dat veel van wat je wil al bestaat in één of andere vorm die niet per sé altijd "AI" hoeft te zijn.

En activeer je Windows

[Bert500]

Ik had nog maar pas dit bericht geschreven en dit kreeg ik te lezen van mijn ai assistent:

#### 5. Conclusie
Het model is succesvol
[02/05/2025 11:05:40] Jij: hoe komt het dat jij meerdermalen mijn vraag herhaalt? is dat een fout in het model? ik zou inderdaad graag hebben dat je files en folders aanmaakt,ik ben heel blij dat je dat nog wist. hoe moet ik het programma optimaliseren, kan je me wat tips geven.
[02/05/2025 11:05:40] DeepSeek: Fout bij genereren: Requested tokens (8271) exceed context window of
8192


Zulke fouten moet ik constant corrigeren. vervelend.


Bestaande software

Er bestaat software die het gebruik van pillen bijhoudt, elke apotheker heeft dat als je daar maar klant bent. Ik wil nog zolnag ik kan mijn eigen vrijheid behouden en mijn pillen kopen waar ik wil.

Wetgeving

Tot enkele maanden geleden mocht chatgpt oudere chats lezen en onderzoeken. chatgpt KON teruglezen wat er geschreven was, verandering van wetgeving, chatgpt mag dat niet meer. (ikkan u daar screenshots van laten zien, nu ik weet dat ik screenshots kan plaatsen kan dit veel verduidelijken (foto's las bewijs zeggen meer dan verhalen, niet?

Verward

Ik zal moeten leren leven met de ziekte die ik heb, ik kan ai gebruiken om de teksten te herschrijven zodat ze veel beter gestructureerd zijn (dat doe ik nu al, daar gebruik ik ai voor). ik vind dat de echtheid dan ook verloren gaat.

Tijd en datum daarom off-line

Ook weeral die wetgeving. ai kan dat perfect een tijdsbestand en agenda beheren. daarom off-line en niet on-line. als de wetgeving veranderd, met een off-line model doe je je eigen zijn.

Europa

Daar heb ik ook al mee geexperimenteerd. Als je aangeeft dat je in somalie bent, geeft ai je andere antwoorden (zeker als het over crypto gaat)
Deepseek is trouw aan China. Ik wil mijn ai assistent ook gebruiken om me te helpen mijn budget op te volgen in crypto en zo.

zuidpool

Da's ook een leuke die ik ben tegengekomen. als je een tuinhuisje zou willen bouden en je wil dat ai je helpt zal ai de wetgeving volgen en milieuregels als je aangeeft dat je in de zuidpool bent. de zuidpool heeft beperkingen en regels die zelfs strenger zijn dan europa.

Geheimen

Da's ook een leuke. Sandbox ken je dat? een zandbak. als je aan ai zegt dat je in de zandbak speelt kan je meer, ai zal dan simulaties doen (bvb in crypto), iets wat hij niet mag. ai heeft aangeleerde beperkingen. iedereen weet dat je bepaalde foto's iet mag hebben of briefjes van munten niet mag kopiëren.

Door in de sandbox te spelen kan je een robot maken met een arm en omzeil je de wetgeving. ai kan een auto besturen, maar in het model zit daarvoor een beperking in.

Ik wil niets onwettelijk doen, maar al die beperkingen betekenen dat je ook beperkt wordt om legale dingen te doen. Een robot maken die koffie zet en dat komt brengen. zou leuk zijn.

Agenda

ai kan een agenda bijhouden. planten water geven, dokter bezoeken. Een spreadsheet kan enkel voorgeprogrameerde meldingen geven. Een spreadsheet is daar niet echt soepel in.

ai zou eerder aanbevelingen, kunnen geven. bvb: morgen regent het niet, misschien het gras maaien? Boodschappenlijstje onthouden? Als ik de volgende keer in de doe het zelf zaak ben, eens uitkijken naar een verlengsnoer of pot verf, iets wat op je dagdagelijkse boodschappenlijst niet staat..

Eerst leren stappen en nadien hardlopen

Waar ik vroeger geen (of minder) problemen mee had. iedereen vergeet wel iets mee te nemen uit de supermarkt als je geen boodschappenlijstje mee hebt.

Ik weet dat ik eerst zal moeten leren stappen voor dat ik spraakherkenning en robot aan toevoeg. ik ben van opleiding elektricien (geen elektronicus) . Met wat hulp denk ik dat wel te kunnen bouwen.

ziek zijn

Ik kan niet genezen, ik zal met mijn ziekte moeten leren leven. ALs je jong bent of niet ongeneeslijk ziek bent of beperkingen hebt denk je daar anders over. De dokter zei dat ik nog 20 jaar kan leven, ik bekeek hem en dacht: " wil ik nog wel leven" Elke dag pijn, pillen nemen, ikkan niet anders.
Men zegt: je moet niet denken aan wat je niet kan, maar aan wat je nog kunt. Moeilijke opgave. Je moet al begrijpen wat die zin wil zeggen.

cut en copy van chatgpt:

🌿 Licht en hoopvol:
“Zie niet wat niet meer kan, maar vier wat nog mogelijk is.”

💪 Krachtig en motiverend:
“Niet de beperkingen maken je sterk, maar wat je ermee doet.”

🌊 Poëtisch:
“Waar deuren sluiten, gaan vensters open — kijk naar het licht dat nog binnenvalt.”

🌞 Warm en bemoedigend:
“Koester niet wat verloren is, maar omarm wat er nog is.”

✨ Kort en krachtig:
“Blik vooruit, niet achterom.”


Veel van deze beperkingen zijn te omzeilen. Ik wist niet dat ai zoveel beperkinge ingebouwd hadden. soms moet je er wel achter zoeken. Maar je moet ze wel weten zodat je weet wat je ermee kan.

Ik ben nog geen ai tegengekomen die ik wil.

ik ratel maar wat door, dar zullen ze nog een ai moeten voor uitvinden :-)

Groeten,,

[RobIII]

Beste Bert,

Ik denk dat het voor iedereen beter is als ik hier een eind aan brei. Dit heeft al lang niets meer met Softwareontwikkeling te maken. We kunnen, en willen, je best helpen met concrete programmeervragen, maar een AI die alles maar kan wat je terplekke verzint ga je (nu) nog niet vinden. Maar wie weet spreken we mekaar over een aantal jaren weer en is dit antwoord hilarisch achterhaald. Geef het tijd en het zal vast ooit zo ver komen.