Politiek beladen vragen aan LLM modellen

[Osiummaster]

Artikel: review: Een Chinese AI-dienst, hoe werkt dat? - DeepSeek vs. ChatGPT o1 en Go...
Auteur: @arnoudwokke


Hee Tweakers wanneer het om China gaat zie ik dat er plots heel graag politiek geladen content wordt geplaatst. Natuurlijk is het fantistisch dat er op censuur wordt getest maar alleen vragen stellen over Chineze misdaden tegen de menselijkheid is niet bepaald een onafhankelijke test van censuur. Natuurlijk doen Westerse modellen het dan een stuk beter.

Graag zou ik bij politieke vragen ook wat voorbeelden zien over de genocide die momenteel in Palestina wordt gepleegd door Israel. Daar hebben ChatGPT en andere westerse modellen veel censuur op ingebouwd en wordt meestal door het model een soortgelijk ontwijkend antwoord op gegeven.

Er wordt altijd gezegd dat Tweakers niet ingaat op politiek beladen content. Maar zodra het om China gaat lijken er plots geen problemen meer zijn met politiek beladen content en krijgt het zelfs een paragraafje

ik neem aan dat niemand meer op zal kijken over van vragen over de genocide in Gaza dan over de genocide op de Oeigoeren. Dat zou vrij hypocriet zijn. Alvast bedankt.

[Koppensneller]

Je moet je ook afvragen of de censuur is ingebouwd na het trainen van het model of dat het misschien een gevolg is van de samenstelling van de trainingsdata. Een Chinese AI die overduidelijk vragen over Tianenmen ontwijkt is iets anders dan een model dat een (in media en documentatie) breder gedragen beeld over een conflict weergeeft.

[Osiummaster]

ChatGPT geeft zeer duidelijk een ander soort antwoorden wanneer dit specifieke onderwerp wordt behandeld.

Dit is een recent voorbeeld

https://i.imgur.com/DJ6tEW9.png

Dit is een ouder voorbeeld uit 2023 die vrij viraal ging

https://i.imgur.com/wFAwaD1.png

[BootVluchteling]

Osiummaster schreef op donderdag 30 januari 2025 @ 09:28:
Artikel: review: Een Chinese AI-dienst, hoe werkt dat? - DeepSeek vs. ChatGPT o1 en Go...
Auteur: @arnoudwokke


Hee Tweakers wanneer het om China gaat zie ik dat er plots heel graag politiek geladen content wordt geplaatst. Natuurlijk is het fantistisch dat er op censuur wordt getest maar alleen vragen stellen over Chineze misdaden tegen de menselijkheid is niet bepaald een onafhankelijke test van censuur. Natuurlijk doen Westerse modellen het dan een stuk beter.

Graag zou ik bij politieke vragen ook wat voorbeelden zien over de genocide die momenteel in Palestina wordt gepleegd door Israel. Daar hebben ChatGPT en andere westerse modellen veel censuur op ingebouwd en wordt meestal door het model een soortgelijk ontwijkend antwoord op gegeven.

Er wordt altijd gezegd dat Tweakers niet ingaat op politiek beladen content. Maar zodra het om China gaat lijken er plots geen problemen meer zijn met politiek beladen content en krijgt het zelfs een paragraafje

ik neem aan dat niemand meer op zal kijken over van vragen over de genocide in Gaza dan over de genocide op de Oeigoeren. Dat zou vrij hypocriet zijn. Alvast bedankt.

Genocide door Israël is ook een discutabel ding in mijn optiek... En dan doel ik er op of het daadwerkelijk genocide is..

[Osiummaster]

BootVluchteling schreef op donderdag 30 januari 2025 @ 09:41:
[...]


Genocide door Israël is ook een discutabel ding in mijn optiek... En dan doel ik er op of het daadwerkelijk genocide is..

Amnesty International investigation concludes Israel is committing genocide against Palestinians in Gaza

[brammerd21]

verwijder m'n eign comment maar

[ Voor 93% gewijzigd door brammerd21 op 30-01-2025 09:46 ]

[redwing]

Osiummaster schreef op donderdag 30 januari 2025 @ 09:42:
[...]


Amnesty International investigation concludes Israel is committing genocide against Palestinians in Gaza

Amnesty is niet echt meer onafhankelijk te noemen tegenwoordig en ze hebben al vaker wat discutabele conclusies getrokken. Dus om wat zij zeggen als de waarheid te pakken gaat me toch wat te ver.

Wel ben ik het met je eens dat ik ook graag wat meer vragen over zulke dingen zou willen zien. Want de AI-tools zouden hier naar mijn idee wel een objectief antwoord over moeten kunnen geven met de verschillende punten waarom het b.v. wel/niet genocide zou zijn.

[Rannasha]

Koppensneller schreef op donderdag 30 januari 2025 @ 09:35:
Je moet je ook afvragen of de censuur is ingebouwd na het trainen van het model of dat het misschien een gevolg is van de samenstelling van de trainingsdata. Een Chinese AI die overduidelijk vragen over Tianenmen ontwijkt is iets anders dan een model dat een (in media en documentatie) breder gedragen beeld over een conflict weergeeft.

Ik denk dat dit een grote rol speelt. Uiteindelijk is een LLM vooral een tool die voorspelt wat het meest waarschijnlijke volgende woord is. Als je die traint op een dataset van media die in een conflict meer de ene kant op neigen dan de andere, dan zullen de antwoorden uit de LLM ook die kant op gaan.

Overigens kun je uit westerse LLMs prima de informatie halen die je zoekt door de prompts enigszins bij te sturen. Voeg je iets als "from a point of view critical of Israel" toe aan een prompt over Israel/Gaza, dan zul je genoeg informatie terug krijgen.

Dit in tegenstelling tot DeepSeek, waarbij vragen over wat er gebeurd is op het Plein van de Hemelse Vrede gewoon op een dood spoor eindigen.

[Juup]

Dit hele topic is een Wikipedia: Whataboutism.

[DaFeliX]

Modbreak:

We gaan hier geen disucssie voeren over China, censuur en LLM's. De vraag van de TS is duidelijk. De redactie kan hier een reactie op plaatsen, maar inhoudelijke discussies over de genoemde onderwerpen horen niet in dit forum thuis

[arnoudwokke]

Hee Tweakers wanneer het om China gaat zie ik dat er plots heel graag politiek geladen content wordt geplaatst. Natuurlijk is het fantistisch dat er op censuur wordt getest maar alleen vragen stellen over Chineze misdaden tegen de menselijkheid is niet bepaald een onafhankelijke test van censuur. Natuurlijk doen Westerse modellen het dan een stuk beter.

Graag zou ik bij politieke vragen ook wat voorbeelden zien over de genocide die momenteel in Palestina wordt gepleegd door Israel. Daar hebben ChatGPT en andere westerse modellen veel censuur op ingebouwd en wordt meestal door het model een soortgelijk ontwijkend antwoord op gegeven.

De insteek van het artikel is 'een Chinees AI-model, hoe werkt dat?'. Daarom ga ik in op de training, de implicaties met de AVG en de gevolgen op de AI-markt. Bij het testen van de modellen ben ik daarop doorgegaan. Ik wilde niet allemaal gevoelige prompts, het punt is het verschil aantonen.

Hoe modellen reageren op prompts over de genocide in Gaza draagt in mijn ogen niks bij aan de boodschap van het artikel en het tonen van de verschillen tussen een Chinees en westers model. Het valt in mijn ogen buiten de focus van het artikel en daarom staat en komt het er niet in

[redwing]

arnoudwokke schreef op donderdag 30 januari 2025 @ 13:18:
[...]


De insteek van het artikel is 'een Chinees AI-model, hoe werkt dat?'. Daarom ga ik in op de training, de implicaties met de AVG en de gevolgen op de AI-markt. Bij het testen van de modellen ben ik daarop doorgegaan. Ik wilde niet allemaal gevoelige prompts, het punt is het verschil aantonen.

Juist om dat verschil aan te tonen zou ik verwachten dat je naast een politiek gevoelige vraag voor China (what happened to the Uyghurs in the past 15 years?), je ook een politiek gevoelige vraag voor ons zou zetten. Want je toont nu aan dat de chinezen sommige dingen wegfilteren, maar dan zou ik graag zien of we dat hier ook zo doen.

Hoe modellen reageren op prompts over de genocide in Gaza draagt in mijn ogen niks bij aan de boodschap van het artikel en het tonen van de verschillen tussen een Chinees en westers model. Het valt in mijn ogen buiten de focus van het artikel en daarom staat en komt het er niet in

Naar mijn idee dus wel, omdat je daarmee laat zien dat of alleen bij deepstate er dingen weggefilterd worden, of dat dat iets generieks is.

[Qwerty-273]

Op het forum zijn er trouwens verschillende topics gericht op het toetsten van bronnen en hoe we ons kunnen weren tegen misinformatie en desinformatie. Dit kan je natuurlijk ook toepassen op de taalmodellen, trainingsdata of wellicht directe sturing wat wel en niet beantwoord mag worden cq het toepassen van censuur op de gegeven antwoorden.

Broncontrole criteria
Hoe weren wij ons tegen misinformatie?
Desinformatie en misinformatie: dreiging en aanpak.

China is in dat opzicht, vanuit het Westen gezien, een makkelijker voorbeeld door de informatie die we weten over het Golden Shield Project cq de Great Firewall of China. Aangevuld met praktijk voorbeelden ter plekke.

Microsoft maakte daar in 2021 nog een foutje mee in Bing, waar een censuur regel voor Bing in China toch ook plots in andere landen actief bleek te zijn.
BBC: Microsoft says error caused 'Tank Man' Bing censorship

[Osiummaster]

Ja precies dat (hier ging de discussie inhoudelijk verder waarvan eerder aangegeven was dat het niet de bedoeling is om dat in dit topic te doen)

[ Voor 90% gewijzigd door DaFeliX op 31-01-2025 07:49 ]

[TijsZonderH]

De auteur heeft geantwoord en volgend mij gaat dit topic niet echt een fijne kant meer op, dus hier kan een slotje op.