Bedrijfs en klant gegevens gebruik in AI

[Zwieber]

Op mijn werk hebben we een discussie over de beste en meest correcte manier om AI te gebruiken in automatisering. Hierbij kunnen bedrijfs en klant gegevens voorkomen die dan verwerkt moeten worden.

De overweging zit het in het betalen voor cloud diensten of het lokaal hosten van een LLM.
Ook diensten zoals n8n zitten we overna te denken om te gebruiken voor deze automatiseringen.

Ik ben benieuwd hoe jullie tweakers en jullie werkgevers hiermee om gaan en wat jullie de beste manier lijkt dit toe te kunnen passen.

[Ronwiel]

Het blijft erg tricky. Wat van soort klanten heb je? Is het puur zakelijk of ook consumenten? Zijn deze minder of meerderjarig? Hebben zij toestemming geven voor het verwerken van hun gegevens voor het doel dat je met AI wil bereiken? Beroep je je op de juiste grondslagen? Zijn je verwerkingsovereenkomsten met AI aanbieders in orde?

Een kleine greep uit de vragen waar je over na moet denken. Er is natuurlijk een verschil van risico als je dingen in de cloud met een third party afhandelt vs. lokaal en in eigen beheer dingen draaien. Maar ook dan moet je de juiste toestemmingen hebben.

[musiman]

Ik weet niet of je hier geïnteresseerd in bent, maar ik gebruik Microsoft 365 Copilot. Al het gebruik hiervan blijft binnen mijn eigen tenant.

[kodak]

Bedrijfsgegeven en klantgegevens is een heel ruim begrip. Daar kunnen zeer makkelijk, al dan niet door fouten of gemakzuchtig, persoonlijkegegevens of vertrouwelijke gegevens onderdeel van zijn.

Als bedrijf en medewerkers die de keuzes maken over middelen als AI en verwerken van andermans gegevens heb je wettelijke grote verantwoordelijkheid er zelf controle over te houden. En die controle geven de meeste ai diensten niet. Er is zelfs nauwelijks inzicht in wat men werkelijk met gegevens doet, geen inzicht in de werkelijke grenzen, geen controle over het inzicht, geen controle over de verweking.

Als je als bedrijf perse ai wil gebruiken, zorg er dan voor dat je zelf de controle hebt. De enige logisch uitkomst is dan of volledige controle te hebben over de zekerheid dat er ook achteraf ingestaan kan worden dat er geen overtredingen zijn begaan (wat meestal niet kan) of zelf de verwerking doen. Dat ai uitbesteden misschien voor financiele winst of marketing voordelig kan zijn is zelden een redelijk argument dat voorrang te geven.

[F_J_K]

Als het gaat het om de 'gratis' versie dan is het simpel: nul persoonsgegevens nul vertrouwelijke gegevens. Bij andere modellen hangt het af van de contractuele voorwaarden.

En natuurlijk de inhoudelijke wensen. Een LLM is goed in hele andere dingen dan andere vormen van AI. Je zet geen ChatGPT of vergelijkbaar in voor rekenen.

Dan zijn er nog de voorspelbaarheid van vraag, en kosten daarbij. Heb je af en toe een hele zware vraag of volcontinu ongeveer dezelfde te verwachten load? Heb je überhaupt de mensen in dienst om het op te zetten en beheren? En trainen en onderhouden, als maatwerkmodel. Of zoek je een LLM met prijs per user per maand.

Een bedrijf waar ik werk heeft Copilot MS365 voor kenniswerkers, met afspraken over niet delen / leren van de opgegeven data. Met killer feature Microsoft Graph en zo toegang tot de eigen MS365 data. Maar dan alleen voor taken waar een LLM geschikt voor is en na benadrukken dat het fouten maakt en je zelf verantwoordelijk bent voor de output.

Voor vakinhoudelijke ondersteuning is dedicated aandacht nodig voor de specifieke vraag.

Belangrijkste:

gebruiken in automatisering

AI is geen doel maar middel. De eindgebruikersafdeling moet zelf nadenken over het wat waarom. Jij hebt dan mogelijk een advies over het hoe.

[lordgandalf]

Hier hebben we een lokale llm draaien en die heeft geen toegang tot onze gegevens dus het is puur een vraagbaak voor simpele vragen en niet om gegevens te verwerken etc.

[Oon]

N8n is alleen een doorgeefluik, prima zelf te hosten want daar zijn maar weinig resources voor nodig. Een LLM zelf hosten (of in de cloud hosten) is weer een ander beestje, daar heb je echt flinke resources voor nodig en zelfs dan kunnen open source modellen niet tippen aan de diensten van bijv. OpenAI en Anthropic.
Je enige alternatief is dan om een client te gebruiken die je zelf host met de API van Microsoft (die de modellen van OpenAI aanbiedt) of gewoon Copilot (die ook diezelfde modellen aanbiedt). Dan heb je bescherming van je gegevens afgedekt via je overeenkomst met Microsoft.