AI-chatbots, desinformatie en misinformatie

[Stukfruit]

nieuws: AI-chatbots adviseren om desinformatie te verspreiden over EU-verkiez...

Tagje voor de auteur: @IdrizV.

Hoewel het originele artikel van Nieuwsuur wat mij betreft ook redelijk ver in de hoek van stemmingmakerij zit dankzij de gekozen titel, maakt de inhoud van het artikel een stuk duidelijker wat de gedachtegang is.

Namelijk: ChatGPT werd misbruikt bij de verkiezingen in Indonesië om te helpen bij het tegengaan van het democratische proces op de langere termijn. Natuurlijk moet dat worden aangepakt. De manier waarop en wat het nuttigst (en meest vrije oplossing) is daar verschillen de meningen over, maar dat staat hier even los van.

Als we nu naar het artikel hier op Tweakers gaan kijken, dan mist dat onderdeel en lijkt het er vooral om te gaan dat ChatGPT en varianten uit zichzelf desinformatie produceren. Dat ga ik op zich niet tegenspreken omdat het nou eenmaal is gebaseerd op bepaalde input, maar in dit geval gaat het expliciet over een custom prompt die werd ingegeven om een bepaalde reactie te krijgen. Dat is exact waar het systeem voor bedacht is. Wat is het punt?

Zou het niet verstandiger kunnen zijn om het artikel meer te laten focussen op oorzaak en gevolg (extra "guardrails" voor o.a. ChatGPT) ipv wat er nu wordt beweerd? Want wat er nu staat is effectief gezien een vorm van misinformatie.

TL;DR: wat is hierover de gedachtegang bij Tweakers?

Is er een mogelijkheid om hiervoor op de nieuwsredactie ook een soort "guardrails" aan te houden?

Want zoals nu in de reacties te zien is werkt misinformatie ook complotdenken in de hand en is de resulterende discussie niet erg nuttig omdat enig inzicht rond dit verhaal ontbreekt.

[Stukfruit]

Ter verduidelijking: ik heb de link met uitleg over de term misinformatie met opzet toegevoegd. Het is niet slecht of als aanval bedoeld

De oorverdovende stilte vind ik wel een beetje jammer.

[ Voor 3% gewijzigd door Stukfruit op 06-05-2024 16:18 ]

[Stukfruit]

Of men is achter de schermen keihard aan het discussiëren, of niemand heeft dit topic gezien, of m'n vraag is niet duidelijk, of ik word nu gezien als persona non-grata omdat ik iets op Tweakers misinformatie heb genoemd.

Welke is het?

[TijsZonderH]

Dat tweede, zo snel verklaren we lezers niet persona non grata hoor. Maar ik denk wel dat je klassificatie om dit misinformatie te noemen wel een erg straffe en onterechte bewoording. Wat we schrijven klopt gewoon, en geeft wat mij betreft genoeg informatie over dat Nieuwsuur zelf prompts gaf en de antwoorden die daar uit kwamen. Samen met de context dat techbedrijven hier eerder tegen zeiden op te treden lijkt me dat een kloppend verhaal. Bovendien linken we ook gewoon naar de originele bron verder.

Is er een mogelijkheid om hiervoor op de nieuwsredactie ook een soort "guardrails" aan te houden?

Ik snap niet zo goed wat je hiermee bedoelt, wat voor guardrails?

[Stukfruit]

TijsZonderH schreef op maandag 13 mei 2024 @ 13:02:
Dat tweede, zo snel verklaren we lezers niet persona non grata hoor.

Gelukkig

Maar ik denk wel dat je klassificatie om dit misinformatie te noemen wel een erg straffe en onterechte bewoording. Wat we schrijven klopt gewoon, en geeft wat mij betreft genoeg informatie over dat Nieuwsuur zelf prompts gaf en de antwoorden die daar uit kwamen. Samen met de context dat techbedrijven hier eerder tegen zeiden op te treden lijkt me dat een kloppend verhaal. Bovendien linken we ook gewoon naar de originele bron verder.

Hoe ik het benoem kan wellicht wat minder, maar ik moest echt verschillende keren lezen voordat ik die context echt goed meekreeg.

Ik snap niet zo goed wat je hiermee bedoelt, wat voor guardrails?

Excuus, dat was een te jolige en domme bij AI passende "woordgrap" om te vragen of er redactieregels zijn om bronartikelen stricter te volgen.

In dit geval dus door explicieter te vermelden wat de context is. Als je het bronartikel erbij pakt dan wordt het een stuk duidelijker, al moest ik zelfs dat artikel een paar keer doorlezen. Normaalgesproken zou ik het bij mezelf zoeken, maar als ik de reacties zo doorlees dan was ik niet de enige met dit probleem.

Uiteraard begrijp ik dat zoiets kan doorwerken tijdens het schrijven van een nieuw artikel dat is gebaseerd op zo'n artikel waarin het op zichzelf ook al niet heel duidelijk is.