Hoe chatgpt integreren in de software?

[dev000]

Ik heb een vraag over het integreren van ChatGPT in je eigen bedrijfssoftware via hun API.
Je hoort van verschillende development bureaus dat je OpenAI op tig manieren kan integreren. Maar hoe dan, denk ik. Want stel dat jij OpenAI wilt inzetten voor je bedrijf als chatbot bijv. Dat kan toch niet met de ChatGPT-API? Want die doorzoekt alleen hun eigen model, die kan niet jouw netwerk documenten analyseren. Maar met welke AI-dienst doen ze dat dan wel?

(Daarnaast hoor je ook wel mensen zeggen: ChatGPT is fantastisch, ik uploadde een rapport van 500 pagina's en hij maakt een samenvatting voor mij. Maar hoe dan, denk ik? Want mijn ChatGPT kent maar een beperkt invoerveld).

Gebruik ik ChatGPT onjuist, of kunnen dingen gewoon (nog) niet?

[happysan]

Microsoft biedt dit met behulp van hun Azure AI oplossingen. Het is niet heel eenvoudig en nog wat beperkt, maar dat doet wel wat je wil.

[Caelorum]

@dev000 het mooie van chatgpt is dat je die vraag ook aan dat ding kan stellen.

As an AI developed by OpenAI, there are a few limitations to my ability to analyze and summarize documents of significant length. Here are a few factors to consider:

1. **Input Limitation**: GPT models have a limit to the amount of text they can process at once, which as of my last update (GPT-4, as of September 2021) was around 2048 tokens, which is about a couple of pages of text. Therefore, I won't be able to process a 500-page document all at once.

2. **Understanding Context**: Even if you could input a 500-page document, there might be challenges in maintaining the overall context. I don't have a long-term memory to recall the beginning of the document once I've analyzed the end. This might lead to an inaccurate or incomplete summary.

However, if you need to summarize such a long document, here's a rough strategy you can follow:

1. **Manual Chunking**: Divide your document into smaller parts. Keep the division logical, like chapter-wise or section-wise.

2. **Sequential Summarizing**: Provide me with each chunk sequentially and ask for a summary. Make sure each chunk does not exceed the token limit.

3. **Compile**: Once you have summaries for all chunks, you can combine them to create an overall summary of the document.

Remember, this strategy isn't perfect and the summarization might miss out on overarching themes or connections between different parts of the document. For a more accurate and nuanced summary, a human reading of the document may still be necessary.

Dus ja, is het mogelijk? Meh, via de API kan het wel, maar ik vraag me af wat de kwaliteit er van is uiteindelijk.


Wat betreft je eerste vraag. Je kan bijv. denken aan het starten van een chat met chatgpt (of vergelijkbare dienst) +. De eerste bericht vanuit het systeem welke niet zichbaar is voor de gebruiker zal dan de prompt zijn waarin je de context en limitaties voor de chat schetst. En met context kan je dan denken aan de recente bestelgeschiedenis van de ingelogde gebruiker, de naam en contactgegevens, etc.

Overigens zoals altijd meerdere wegen naar Rome en bovenstaande mist een hoop nuance en technieken om het fatsoenlijk te doen.

[AW_Bos]

De nieuwste versie van ChatGPT heeft toch plug-ins om in bepaalde datasets te zoeken? Ik heb geen idee of dat ook in de API verwerkt zit? Dan zou je vermoedelijk die API met een eigen API ( ) kunnen laten babbelen om je eigen dataset te gebruiken.

En als het beperkte data is, dan kan je die altijd in de prompt verwerken. Bij Fok! hebben ze een chatbot ontwikkelt die dit doet, en per gebruiker een aangepaste prompt heeft, waarin bepaalde dingen worden onthouden om een persoonlijke reactie te krijgen. Maar hoe geavanceerder je prompt is, hoe groter en duurder je call is.

[ Voor 39% gewijzigd door AW_Bos op 11-06-2023 00:03 ]

[anarchitect713]

Wellicht met Document Question Answering. Vrij eenvoudig met langchain. Zijn een paar goede intro YouTube filmpjes over te vinden.