Nieuwe Problemen door AI - Nep-naakt - Hoe gaan we er mee om

[Webdoc]

We zijn, zo lijkt het, aanbeland in een tijd waarin er nieuwe vraagstukken beginnen te ontstaan die we nog nooit eerder als mensheid hebben hoeven te overwegen. Veel van deze nieuwe uitdagingen zijn als het ware... verrezen doordat er nu een nieuwe "speler" op het toneel is verschenen, namelijk AI-powered systemen. Dit soort systemen vormen een nieuw soort "bron" van content, opinies en... cultuur (afbeeldingen, verhalen, etc.) waarbij het helemaal niet duidelijk is wat we nou precies daarvan moeten vinden... wie er verantwoordelijk is, en of hun activiteiten en resultaten op een "traditionele" manier kunnen worden beoordeeld, of niet.

Wat bedoel ik precies? Om meteen met de deur in huis te vallen neem ik even 1 voorbeeld waar al deze aspecten heel duidelijk worden - AI generated pornography. Voor een intro, kijk eens hier op Medium:

https://medium.com/the-pub/artificial-intelligence-pornography-and-a-brave-new-world-6a66bbd483bb

Want - wat is er nu "opeens" mogelijk? Je kan nu (schijnt het, ik heb er zelf niet naar gezocht en/of niks gezien, maar ik geloof wat ze in dat artikel zeggen... and at any rate, het is niet bepaald moeilijk om je dat voor te stellen ) foto-realistische erotische "nep-fotos" maken met een AI generator, waarbij dat soort foto's dan allerlei ongewenste content kunnen hebben, zoals kinderen, afbeeldingen van verkrachting, etc.

Wat is hier nieuw aan?
Je kan nu aanstootgevend materiaal doen ontstaan zonder dat er echte mensen zijn onderworpen aan/misbruikt voor het maken ervan. Geen enkel kind is daadwerkelijk gefotografeerd, geen vrouw is daadwerkelijk verkracht. We hebben als samenleving nooit hoeven na te denken over een situatie waarbij het bestaan van dat soort content los kan worden gekoppeld van mensen die voor het maken ervan zijn misbruikt.

Zou dat legaal moeten zijn (of, om precies te zijn, blijven)?
En dat is natuurlijk de vraag waar het allemaal om draait, want hier ga je je dus wagen aan een waardeoordeel vellen over of je als mens dat soort content überhaupt zou mogen willen zien.

Hoe is "de wereld" per saldo beter als we dit soort content toe zouden staan?
Kan je stellen dat het maken van neppe versies van tot dusver altijd door geweld tot stand gekomen content een netto verbetering is? Zou je pragmatisch moeten zijn en er van uitgaan dat mensen die dat soort content "fijn" vinden anders op zoek gaan naar "echte" fotos, of erger nog, zelf dat soort dingen gaan doen? Of zou je de nadruk moeten leggen op... ja... "re-education" en/of dat soort mensen "van de straat" halen uit voorzorg voor maatschappelijke veiligheid?

Zou iemand die zich "specialiseert" in het maken van dat soort content legaal moeten zijn?
Vervult hij eigenlijk een goede sociale functie (netto vermindering van het aantal daadwerkelijk misbruikte mensen) of "normaliseert" zijn "werk" dat soort content en doorbreekt hij een verboden taboe?

Wie is er verantwoordelijk voor het kunnen maken van dit soort content?
Heeft de maker van generative AI een rol...? Zijn zij deels schuldig? Zouden zij moeten worden verplicht om dit soort content onmogelijk te maken? Kan dat überhaupt zelfs..? Zou het beschikbaar maken van een AI die dit kan genereren strafbaar moeten zijn?

Ben erg benieuwd wat jullie hier over denken. Ik denk niet dat we al deze issues kunnen oplossen, maar het lijkt me wel interessant om eens te bespreken wat je hier zoal meer aanmoet.

[pagani]

In feite bestaat dit zonder AI ook al langer. In de beginjaren van Photoshop werd er ook al veelvuldig nepnaakt gemaakt (zeg Emma Watson, die ook nog eens minderjarig was destijds)

Het verschil met de AI tools is dat het veel makkelijker, veel minder arbeidsintensief en veel echter is geworden.

Uiteindelijk ga je het niet tegenhouden, maar je zit nog altijd vast aan bijvoorbeeld portretrecht (je mag niet zomaar iemands gezicht gebruiken)

Wat betreft het creëren van illegale content (snuff/misbruik e.d.) kom je in een grijs gebied.

[Brent]

Vond dit ook wel grappig:

quote: https://www.newscientist....-of-ai-generated-stories/

Clarkesworld, a science fiction magazine, has banned new story submissions after receiving hundreds of low-quality AI-generated pieces

Ook is het gebruik op school/uni al gesignaleerd (zowel door studenten als bestuurders en docenten!) Het zal natuurlijk langzaam lastiger worden ze van echt te onderscheiden, wat betekent dat, zonder verbod, 'bewijsstukken' een concept op glad ijs wordt. Net zoals dat we belastingfraude niet onmogelijk maken, maar wel strafbaar stellen, lijkt me dat er geen andere manier is voor dit soort gebruik van AI (en ik mag het geen AI noemen van mijn professor, daar zijn we nog laaaaaaaannnnggggg niet).

[YakuzA]

Wat is er exact nieuw dan?
Dat getekende en geanimeerde dingen er nog realistischer uitzien?

De virtuele varianten zijn gewoon net zo strafbaar als de echte variantien:

Virtuele kinderporno

Naast kinderporno bestaande uit beeldmateriaal van echte kinderen, is ook virtueel materiaal strafbaar. Deze virtuele kinderpornografie bestaat bijvoorbeeld uit animaties. Virtuele kinderporno is strafbaar omdat dit soort materiaal seksueel misbruik van kinderen suggereert.

https://www.rijksoverheid.../kinderporno-is-strafbaar

[downtime]

Persoonlijk heb ik niet zo'n moeite met het idee van virtuele porno maar wel onder bepaalde voorwaarden:

• Geen gezichten van echte personen.
• Geen namen van echte personen.
• Een manier om te herkennen dat het virtueel is.

Virtuele porno zie ik als relatief onschuldig zolang daar maar niet de naam of beeltenis van echte personen voor gebruikt wordt (tenzij die daar toestemming voor geven).
Maar eerlijk gezegd vraag ik me af hoe populair het zou worden. Enerzijds denk ik dat het realisme van porno het interessant maakt. Als je weet dat het AI-generated is, wordt het minder interessant.
En daarnaast hebben we een behoefte aan meer dan alleen een gezicht. Niet voor niets dat roddelbladen verkopen want blijkbaar willen we meer weten van de persoon achter het gezicht. En AI-generated content mist dat aspect.

[Webdoc]

YakuzA schreef op maandag 27 februari 2023 @ 14:07:
Wat is er exact nieuw dan?
Dat getekende en geanimeerde dingen er nog realistischer uitzien?

De virtuele varianten zijn gewoon net zo strafbaar als de echte variantien:

[...]

https://www.rijksoverheid.../kinderporno-is-strafbaar

Hmm. En toch... als we even een paar gevallen als voorbeeld nemen. Stel - ik vraag aan een "Erotica AI"... maak voor mij eens een foto-realitisch plaatje van een 15-jarig meisje, en hij maakt het. Vervolgens vraagt iemand anders datzelfde maar dan met het verschil dat hij "19-jarig" zegt en toevallig is het resultaat hetzelfde plaatje. Is de eerste persoon wel fout bezig, en de andere niet...? De AI heeft geen flauw benul, en heeft dus geen "mens rea" (guilty mind) en de afbeelding laat geen echt persoon zien. Has a crime been committed..? Voor mij is het echt nagenoeg onmogelijk om daar een antwoord op te geven... maar zo ja - door wie, en zo nee, dan is de wetgeving die jij hier quote te streng.

[ErikT738]

Ik vraag me af of er nu echt iets veranderd is. Iemand die handig is met photoshop (of een goede schilder) kon ook al pornografisch materiaal creëeren met iemands gezicht er op.

Een mogelijk voordeel is dat het in de toekomst en wellicht moeilijker wordt om mensen met naaktfoto's te chanteren (of ze nu echt of nep zijn). Iedereen kan gewoon claimen dat de beelden met AI zijn gegenereerd.

[downtime]

ErikT738 schreef op maandag 27 februari 2023 @ 19:11:
Ik vraag me af of er nu echt iets veranderd is. Iemand die handig is met photoshop (of een goede schilder) kon ook al pornografisch materiaal creëeren met iemands gezicht er op.

Het verschil is hoe gemakkelijk het wordt. Iedereen kan het straks. Even de AI vertellen wat je wilt zien en het rolt uit de computer. Goed Photoshoppen kost tijd en vooral kunde. Dat speelt straks niet meer.

[Webdoc]

ErikT738 schreef op maandag 27 februari 2023 @ 19:11:

Een mogelijk voordeel is dat het in de toekomst en wellicht moeilijker wordt om mensen met naaktfoto's te chanteren (of ze nu echt of nep zijn). Iedereen kan gewoon claimen dat de beelden met AI zijn gegenereerd.

Hah! Geen slecht punt... maar ik bedacht mij ook... je zou nu ook kunnen claimen dat echte foto's (van illegale toestanden) stiekem AI foto's zijn (en er dus niemand heeft geleden bij het maken ervan, iets dat in sommige landen wel een juridisch relevant ding is)

En dus ligt het voor de hand dat men "dan maar" alle foto's illegaal zal moeten gaan maken, AI generated of niet, want dat is dan een iets te makkelijk excuus. (Uiteraard geldt dat dan niet voor fotos met het gezicht van een persoon dat aantoonbaar echt bestaat, hoewel een briljante advocaat ook daar zich weleens aan zou kunnen durven wagen....)

[voske]

Webdoc schreef op maandag 27 februari 2023 @ 19:01:
[...]


Hmm. En toch... als we even een paar gevallen als voorbeeld nemen. Stel - ik vraag aan een "Erotica AI"... maak voor mij eens een foto-realitisch plaatje van een 15-jarig meisje, en hij maakt het. Vervolgens vraagt iemand anders datzelfde maar dan met het verschil dat hij "19-jarig" zegt en toevallig is het resultaat hetzelfde plaatje. Is de eerste persoon wel fout bezig, en de andere niet...? De AI heeft geen flauw benul, en heeft dus geen "mens rea" (guilty mind) en de afbeelding laat geen echt persoon zien. Has a crime been committed..? Voor mij is het echt nagenoeg onmogelijk om daar een antwoord op te geven... maar zo ja - door wie, en zo nee, dan is de wetgeving die jij hier quote te streng.

In het eerste geval maak je je waarschijnlijk schuldig aan het opzettelijk vervaardigen van kinderporno, ervan uitgaande dat de persoon op de afbeelding kennelijk nog geen achttien jaren oud is. In het tweede geval wordt het opzet op het vervaardigen van kinderporno ingewikkelder (maar op voorhand niet mogelijk), maar het bewaren van een afbeelding waarop een persoon te zien is die kennelijk nog geen achttien jaar oud is, levert dan het opzettelijk in het bezit hebben van kinderporno op.

Overigens geldt dat hoe realistischer de afbeelding is, hoe eenvoudiger het is om deze als (virtuele) kinderporno aan te merken. De wet (artikel 240b Wetboek van Strafrecht) omschrijft wat in de volksmond kinderporno heet als " een afbeelding van een seksuele gedraging, waarbij iemand die kennelijk de leeftijd van achttien jaar nog niet heeft bereikt, is betrokken of schijnbaar is betrokken". Door dat "schijnbaar is betrokken" valt volgens de rechtspraak ook een een realistische afbeelding van een niet-bestaand kind in de zin dat de afbeelding niet van echt is te onderscheiden onder de strafbepaling. Of die realistische afbeelding een foto of bijvoorbeeld een schilderij betreft, doet er niet toe.

[DevWouter]

Webdoc schreef op maandag 27 februari 2023 @ 12:09:
Wat is hier nieuw aan?
Je kan nu aanstootgevend materiaal doen ontstaan zonder dat er echte mensen zijn onderworpen aan/misbruikt voor het maken ervan. Geen enkel kind is daadwerkelijk gefotografeerd, geen vrouw is daadwerkelijk verkracht. We hebben als samenleving nooit hoeven na te denken over een situatie waarbij het bestaan van dat soort content los kan worden gekoppeld van mensen die voor het maken ervan zijn misbruikt.

Daarom wordt er ook onderscheid gemaakt tussen functioneel, ethisch en esthetiek. Waarbij er ook nog onderscheid gemaakt kan worden tussen het kunstwerk, de kunstenaar, de intentie en het effect.
Zo zijn de kunstschilderijen van Hitler niks meer dan stadsgezichten, maar nemen we er toch aanstoot aan terwijl er genoeg Bijbelse schilderijen zijn waarin naakt, dood en moord in voorkomt waar we geen aanstoot aannemen.

Zou dat legaal moeten zijn (of, om precies te zijn, blijven)?
En dat is natuurlijk de vraag waar het allemaal om draait, want hier ga je je dus wagen aan een waardeoordeel vellen over of je als mens dat soort content überhaupt zou mogen willen zien.

Legaal is wat de wet niet verbied. Zo is prostitutie in veel landen illegaal om "mensen te beschermen", terwijl mensenrechten activisten juist heel duidelijk zijn dat zo'n verbod juist mensen meer in gevaar brengt. Terwijl als men het legaal maakt juist de situatie van vrouwen verbetert omdat de transactie legaal wordt. (zie ook: https://harvardcrcl.org/t...en-legalize-prostitution/)

Dus voordat we het legaal/illegaal verklaren moeten we kaders hebben.

Zo mag er in de rechtbank geen foto's genomen worden, maar wel tekeningen. Er is ooit een rechtbanktekenaar verboden om de verdachte aan te kijken ivm de privacy (bron: https://www.rtlnieuws.nl/...verdachte-rechtbank-ophef).

Kaders waar men mee kan beginnen is het belang van het onderwerp (de persoon in de afbeelding), het belang van auteur en het belang van consument (degene die de afbeelding bekijkt).

Hoe is "de wereld" per saldo beter als we dit soort content toe zouden staan?
Kan je stellen dat het maken van neppe versies van tot dusver altijd door geweld tot stand gekomen content een netto verbetering is? Zou je pragmatisch moeten zijn en er van uitgaan dat mensen die dat soort content "fijn" vinden anders op zoek gaan naar "echte" fotos, of erger nog, zelf dat soort dingen gaan doen? Of zou je de nadruk moeten leggen op... ja... "re-education" en/of dat soort mensen "van de straat" halen uit voorzorg voor maatschappelijke veiligheid?

Wat is de waarde van legale porno? Wat als een actrice een naakt scene heeft maar geen vertrouwen heeft in haar lichaam? Ook hier zal men onderscheid moeten maken tussen functioneel, ethisch en esthetiek.

En eigenlijk hebben we deze discussie al gehad toen men AI gebruikte om met een oude acteur weer jong te laten zijn. AI en de geproduceerde content zijn een middel. In Hollywood was men ook een tijd lang geen fan van CG-effecten en was men fan van practical effects. Tot het moment dat CG goedkoper, beter en zonder risico was.

Zou iemand die zich "specialiseert" in het maken van dat soort content legaal moeten zijn?
Vervult hij eigenlijk een goede sociale functie (netto vermindering van het aantal daadwerkelijk misbruikte mensen) of "normaliseert" zijn "werk" dat soort content en doorbreekt hij een verboden taboe?

Een bom doodt mensen, maar we houden de fabrikanten zelden verantwoordelijk tenzij ze richting biologische wapens gaan.

Wie is er verantwoordelijk voor het kunnen maken van dit soort content?
Heeft de maker van generative AI een rol...? Zijn zij deels schuldig? Zouden zij moeten worden verplicht om dit soort content onmogelijk te maken? Kan dat überhaupt zelfs..? Zou het beschikbaar maken van een AI die dit kan genereren strafbaar moeten zijn?

Daar is nu een grote vraag, maar allereerst wat achtergrond. AI bestaat uit een algoritme (die eigenlijk niet zo complex is) en heel veel data. Een algoritme is wiskunde en voor wiskunde wordt je zelden schuldig bevonden.

Data daartegen is nu een groot vraagstuk vooral: Hoe heb je het verkregen? En heb je toestemming? En welke regels zijn er over reproducties? Is satire toegestaan? etc.

---

Persoonlijk vind ik het de discussie over AI-naakt wel/niet vooral een discussie over emotie. Het enige wat het doet is het toegankelijk en makkelijker maken terwijl we negeren dat er al heleboel regels over zijn (zie voske in "Nieuwe Problemen door AI - Nep-naakt - H...").

Het probleem is vooral dat we het niet kunnen herkennen en dat met het gemak van gebruik ook het gemak van misbruik toeneemt. En vooral op de laatste wilt men een antwoord hebben.

Het probleem is ook dat we grote bedrijven vaak ongekend hoeveel rechten hebben gegeven om onze informatie te verwerken. Het is dan ook nooit een discussie over wel/niet naakt geweest, maar een discussie over in welke mate je eigenaar bent van jouw data.

[Stoney3K]

voske schreef op maandag 27 februari 2023 @ 20:06:
[...]
Door dat "schijnbaar is betrokken" valt volgens de rechtspraak ook een een realistische afbeelding van een niet-bestaand kind in de zin dat de afbeelding niet van echt is te onderscheiden onder de strafbepaling. Of die realistische afbeelding een foto of bijvoorbeeld een schilderij betreft, doet er niet toe.

Dan is het dus in dat geval de gedachte die telt en die we klaarblijkelijk willen uitbannen. Dat is een heel erg vreemde dubbele standaard die we bij kinderporno hebben toegepast: Niet-realistische beelden van seksuele handelingen met een schijnbaar kind worden blijkbaar niet toegestaan, terwijl gegenereerde beelden van geweld waarbij datzelfde (fictieve) kind slachtoffer is geworden, blijkbaar strafrechtelijk geen probleem zijn. Dat is een heel vreemd concept om te bevatten.

En kennelijk gaat het dan dus niet om de beelden, maar om het effect van bepaalde beelden bij een potentiële toeschouwer, die daar misschien een voorbeeld aan neemt.

Dat is iets wat op een heel erg kromme manier inconsequent is. Aan de ene kant wordt er gezegd dat het is om slachtoffers te beschermen, dan zouden realistische beelden het criterium zijn omdat daar slachtoffers op staan afgebeeld. Maar aan de andere kant wordt er ook gezegd dat het argument is om toekomstige slachtoffers te voorkomen, maar in die redenering moet je geweld gelijk stellen aan seksuele handelingen. En dan komen ook bijvoorbeeld bekende werken van literatuur vroeg of laat in de knel.

[voske]

Stoney3K schreef op dinsdag 28 februari 2023 @ 12:39:
[...]
Dan is het dus in dat geval de gedachte die telt en die we klaarblijkelijk willen uitbannen. Dat is een heel erg vreemde dubbele standaard die we bij kinderporno hebben toegepast: Niet-realistische beelden van seksuele handelingen met een schijnbaar kind worden blijkbaar niet toegestaan, terwijl gegenereerde beelden van geweld waarbij datzelfde (fictieve) kind slachtoffer is geworden, blijkbaar strafrechtelijk geen probleem zijn. Dat is een heel vreemd concept om te bevatten.

Alleen realistische beelden van seksuele gedragingen waarbij een (schijnbaar) kind betrokken is, worden niet toegestaan. Niet-realistische beelden zijn niet verboden (met de kanttekening dat de omstandigheid dat ondergeschikte onderdelen van een afbeelding een niet-werkelijkheidsgetrouwe weergave van een kind zijn, bijvoorbeeld doordat op de rug van het afgebeelde kind vleugels zijn aangebracht, volgens de Hoge Raad niet zonder meer tot gevolg heeft dat de afbeelding van het kind als geheel niet kan worden aangemerkt als een realistische afbeelding zoals bedoeld in art. 240b Sr).

Uiteindelijk is het een politieke keus om deze beelden wel strafbaar te stellen en andere beelden (bijvoorbeeld van kindermishandeling) niet. Zo schreef de minister van Justitie:

De bescherming van kinderen tegen seksueel misbruik vereist dat er niet alleen geen ruimte dient te zijn voor het bestaan van echte kinderpornografische afbeeldingen maar ook niet voor het bestaan van afbeeldingen die voor echt doorgaan. Dit materiaal beoogt immers het misbruik van echte kinderen op een realistische wijze te verbeelden. Het is schadelijk wegens het bevorderen van een subcultuur met een markt voor kinderporno.

[Stoney3K]

voske schreef op dinsdag 28 februari 2023 @ 13:50:
[...]


Alleen realistische beelden van seksuele gedragingen waarbij een (schijnbaar) kind betrokken is, worden niet toegestaan.

Dat criterium 'schijnbaar' kan ook redelijk breed worden opgevat. Wanneer een volwassen acteur een kind speelt bijvoorbeeld, of volwassen acteurs die sowieso een jonge/kinderlijke uitstraling hebben. in Australië is er een bekend precedent geweest van sites die daardoor onterecht op 'de lijst' zijn komen te staan.

In de praktijk lijkt me dat een gevalletje "jurisprudentie moet het uitwijzen". De bewijsvoering van zoiets lijkt me ook niet makkelijk.

[SinergyX]

Ik krijg vaak de neiging te geloven dat ze leven met het idee 'het is niet te vinden, dus het bestaat niet'.

Ergens doet me dit denken aan 'geweld' in series/TV/film, 'no animals were harmed during the production of this <ding>, de politieke vrijspraak dat wat er ook gebeurd, het was niet echt/was nep/CGI, whatever.

Maar waar zit diezelfde grens bij andere onderwerpen, zoals bv kinderporno (of andere vormen van 'oh dat is zo fout' materiaal), dat er een 'polieke vrijwaring' is dat wat je ziet 100% nep is en niemand daadwerkelijk is misbruikt?

Het is zo'n raar gebied van selectieve grenzen, waar enerzijds dit 'niet mag bestaan', maar anderzijds ironisch.. het gewoon bestaat. Maar door het verbieden van elimineer je niet het bestaat ervan, je krijgt enkel een goed geweten dat dit niet zomaar zichtbaar is.Een ze moeten echt eens categorien gaan maken, 'kinder' is in de basis alles minderjarig, maar er is een wereld van verschil tussen 9 en 16 jaar (en de uitstap naar bepaalde culturen en 'gewoontes' laat ik even buitenwegen).

Doet me wel denken aan Cyberpunk 2077, de hoeveelheid 'tapes' (braindances) doet je denken dat er eigenlijk altijd een markt zal blijven bestaan en dat je ergens dan maar de lesser-of-two-evil moet pakken. CGI, animaties, graphics, alles wordt met de dag beter, waar trek je de grens wat wel of niet meer mag als dit voldoet aan de 'no <insert ding> has been harmed during the production of this video'. In anime land is er natuurlijk al genoeg discussie over te vinden (lollies voornamelijk), maar valt dit nog veel onder het 'is niet realistisch' gebied, maar ook daar wordt de grens langzaam bereikt, waar genoeg mensen 'de gedachte alleen al' al compleet afkeuren.

Maar op de vraag, is de wereld er beter of slechter vanaf om dit wel/niet toe te laten?
Dan pak ik 1 simpele constante, het zal blijven bestaan. Of dit nu compleet uit het publiekelijk oog wordt verbannen, of dat dit 'onder CGI voorwaarden' wordt geaccepteerd, het zal blijven bestaan. Het is alleen de gedachte 'ik zie het niet, dus het bestaat niet' een doorslaggevende factor zal zijn.

[voske]

Stoney3K schreef op dinsdag 28 februari 2023 @ 13:58:
[...]
Dat criterium 'schijnbaar' kan ook redelijk breed worden opgevat. Wanneer een volwassen acteur een kind speelt bijvoorbeeld, of volwassen acteurs die sowieso een jonge/kinderlijke uitstraling hebben. in Australië is er een bekend precedent geweest van sites die daardoor onterecht op 'de lijst' zijn komen te staan.

In de praktijk lijkt me dat een gevalletje "jurisprudentie moet het uitwijzen". De bewijsvoering van zoiets lijkt me ook niet makkelijk.

Bij een afbeelding van een echte persoon maakt het voor strafbaarheid inderdaad niet uit of deze daadwerkelijk jonger is dan achttien jaar of niet; het gaat erom of deze persoon jonger oogt dan achttien jaar. Dat moet volgens de rechtspraak worden vastgesteld aan de hand van de uit de afbeelding blijkende uiterlijke lichaamskenmerken.
Overigens volgt dat de werkelijke leeftijd er juridisch gezien niet toedoet niet uit het "schijnbaar is betrokken", maar uit het "kennelijk de leeftijd van achttien jaar nog niet heeft bereikt".

[DevWouter]

@Stoney3K, @SinergyX en @voske

Voor deze discussie is het handiger als we de focus op misbruik als concept leggen en niet op een specifieke vorm van misbruik. Doen we dat niet dan moeten we ook concrete zaken gaan behandelen als welke wetten en/of die wetten voldoen. Dat wordt helemaal leuk als je internationaal gaat kijken (zie de kaarten op Wikipedia: Age of majority en Wikipedia: Age of consent en kijk bij die laatste vooral naar het verschil binnen Europa).

Verder bestaat misbruik al héél lang, maar de AI begint nu langzamerhand op het niveau te komen dat misbruik geautomatiseerd kan worden.

[Stoney3K]

DevWouter schreef op dinsdag 28 februari 2023 @ 14:24:
@Stoney3K, @SinergyX en @voske
Verder bestaat misbruik al héél lang, maar de AI begint nu langzamerhand op het niveau te komen dat misbruik geautomatiseerd kan worden.

Ik denk ook dat je de wetgeving moet richten op afstraffen van "misbruik" met AI als tool (dus door bijvoorbeeld maken van genepte wraakporno), waarbij er duidelijk al iemand een slachtoffer en een dader is.

Wanneer je wetgeving gaat maken op het voorkomen van mogelijk misbruik, dan ga je dat nooit éénduidig dicht krijgen, want je weer niet wat er in de toekomst onder 'misbruik' beschouwd wordt. Maatschappelijke normen en ethiek zijn nu eenmaal aan verandering onderhevig, en als je een wet gaat gebruiken om bepaalde zaken 'niet te normaliseren', dan kom je al heel snel op het terrein van de gedachtenpolitie uit, want er is geen slachtoffer, er is geen misdrijf, er is alleen iets wat we als samenleving ieuw vinden, en wat we graag achter een heel groot gordijn willen verstoppen.

Daar schiet je alleen niets mee op.

[Webdoc]

Als je er van uit gaat dat het voorkomen van werkelijk misbruik van echte mensen/kinderen het belangrijkste is, is het dan niet stiekem zo dat all else being equal je AI-gegenereerde beelden juist zou moeten toestaan of in ieder geval minder streng beoordelen?

Ik lees hier bijvoorbeeld dat "meer porno leidt naar minder sexueel misbruik" maar er zijn ook meningen dat porno er toe leidt dat jonge mensen een verdraaid en verkeerd beeld hebben van hoe sex "zou moeten" zijn en/of ongepaste verwachtingen van hun vriend)in) hebben, iets dat redelijkerwijs tot frustratie zou moeten leiden. TL;DR - is de beschikbaarheid van "nep-kinder-erotica" iets dat, per saldo, er toe zal leiden dat kinderen minder kans hebben om slachtoffer te worden, of niet?

Om het anders te zeggen - is de "ontwapenende" werking van plaatjes en, wellicht binnenkort, nep-videos, die er toe leidt dat een pedo "tevreden" thuis blijft sterker, dan de "opwindende" werking die er voor zorgt dat hij "op jacht" gaat naar slachtoffers...? (Ok dat was een beetje een rare zin, maar je snapt wat ik bedoel)

En stel nou dat er een productie-bedrijf is dat echt hele goede nep-porno maakt, met hulp van een soort... PornGPT... en na een kort gesprek waarin je even vertelt wat je fijn vindt hun software echt precies maakt wat je wil... zou die ook kinder/verkrachting nep-materiaal kunnen maken...? Als het potentiële abusers van de straat houd...zou toch netto een verbetering moeten zijn, no?

Want ik ben het er zeker wel mee eens dat er toch altijd wel een mate van vraag naar zal bestaan, helaas.

Vraagje - vinden jullie dat je "pedofiel zijn" een geaardheid kan noemen...? Want aan de kant lijkt het daar wel op.. gezien de... drang die men schijnbaar voelt om toch iets te doen waarvan je weet - dit vindt niemand goed of fijn... maar aan de andere kant lijkt het soms alsof (vooral erg) oude mannen "opeens" daar hun seksuele focus op verleggen... en dan is het toch meer een keuze.. (en voor mijn gevoel althans iets dat in die gevallen gevaarlijker is en niet met plaatjes/videos "opgelost" kan worden)

[ Voor 16% gewijzigd door Webdoc op 28-02-2023 17:22 ]

[Stoney3K]

Webdoc schreef op dinsdag 28 februari 2023 @ 17:06:
Om het anders te zeggen - is de "ontwapenende" werking van plaatjes en, wellicht binnenkort, nep-videos, die er toe leidt dat een pedo "tevreden" thuis blijft sterker, dan de "opwindende" werking die er voor zorgt dat hij "op jacht" gaat naar slachtoffers...? (Ok dat was een beetje een rare zin, maar je snapt wat ik bedoel)

Daar is nooit wetenschappelijk onderzoek naar gedaan en je kan er ook niet op een ethische manier onderzoek naar doen natuurlijk. Maar als je andere genres van porno bekijkt, dan is er geen korrelatie met de hoeveelheid porno die iemand kijkt en het aantal verkrachtingen -- die is misschien eerder negatief, dus meer porno betekent minder verkrachtingen.

Wat ook enorm mee speelt is dat overheden geen risico willen lopen dat mensen die 'toevallig' kinderporno voor hun neus krijgen daardoor ineens op latente pedofiele gevoelens zouden gaan handelen. Dus de willekeurige kijker die er 'ineens' pedoseksueel van wordt -- dat argument vind ik zelf erg ver gezocht.

[Webdoc]

Trouwens - ik was nog 1 aspect vergeten in dit alles, en dat is hoe een slachtoffer zich voelt, en wellicht iets relevanter - of iemand een slachtoffer IS.

Op Guardian las ik ooit een comment van iemand die ongeveer ging van:

... vrienden van mij waren met de kids op vakantie, en na afloop hadden ze drie filmpjes ervan op YouTube gezet [ja, niet echt slim... maar goed] - twee ervan waren van een bezoek aan [insert pretpark here] maar de derde was van de kids die (in badkleding) blij in en rond een zwembad aan het spelen waren. De eerste twee video's hadden 30-50 views, die derde enkele duizenden.

[insert uncomfortable silence here]

Nou... vinden jullie dat die kinderen zich slachtoffer zouden moeten voelen van "seksualisatie"...? Zijn die kinderen "misbruikt" door pedofielen die... you know... iets teveel genoten van hen zo bijna naakt zien rondrennen...? En dan ook - wanneer is de onschuldige YouTube video tot het kern-object geworden van hun slachtoffer-gevoel..? Toen [random pedofiel] er naar keek...? Toen iemand hen op de views wees..? Of wellicht pas toen men uitgelegd kreeg wat die view-count impliceerde...? Is het stiekem niet zo dat de persoon die op die manier de view count interpreteert de "hoofd-oorzaak" is van het slachtoffer gevoel...?

En daaraan gerelateerd... stel nou, een AI genereert een erotisch plaatje en gebruikt daarbij bestaand materiaal als bron. Stel vervolgens dat een vrouw haar lichaamsdeel (een been, zeg) herkent in die afbeelding. Zou zij zich geschoden mogen voelen..? Is dat... "redelijk"...? (En dan bedoel ik dat in zowel de "persoonlijke" zin maar ook eventueel in de juridische betekenis.

[ Voor 4% gewijzigd door Webdoc op 28-02-2023 19:03 ]

[Webdoc]

Stoney3K schreef op dinsdag 28 februari 2023 @ 18:20:
[...]


Daar is nooit wetenschappelijk onderzoek naar gedaan en je kan er ook niet op een ethische manier onderzoek naar doen natuurlijk. Maar als je andere genres van porno bekijkt, dan is er geen korrelatie met de hoeveelheid porno die iemand kijkt en het aantal verkrachtingen -- die is misschien eerder negatief, dus meer porno betekent minder verkrachtingen.

Wat ook enorm mee speelt is dat overheden geen risico willen lopen dat mensen die 'toevallig' kinderporno voor hun neus krijgen daardoor ineens op latente pedofiele gevoelens zouden gaan handelen. Dus de willekeurige kijker die er 'ineens' pedoseksueel van wordt -- dat argument vind ik zelf erg ver gezocht.

Dat meer porno minder misbruik betekent lijkt inderdaad het geval (zie artikel) - en dat is ook op z'n eigen manier wel logisch, denk ik. Je kan toch even... je frustratie ontladen. Aan de andere kant zou je het ook als "iets dat ik in het echt eens wil doen" zien... maar dat is (bij gebrek aan gelijkgestemde partner) een stuk lastiger en zou al sneller tot het plegen van misbruik kunnen leiden, iets wat, denk ik, toch relatief weinig mensen bereid zijn daadwerkelijk te doen.

Wat betreft "ineens op latente pedofiele gevoelens zouden gaan handelen" - ik ben het met je eens dat dat vrij vergezocht klinkt... je zou toch denken dat de meeste mensen al weten of ze wel of niet interesse hebben in (erg/te) jonge meisjes... en als je zo nu en dan porno-sites bezoekt dat kan je trouwens sowieso wel vrij snel ontdekken; er zijn helaas IMHO te veel videos van (verified) meisjes die... mja... wel erg dicht bij niet-volwassen zitten qua uiterlijk...

[DevWouter]

Stoney3K schreef op dinsdag 28 februari 2023 @ 14:29:
[...]


Ik denk ook dat je de wetgeving moet richten op afstraffen van "misbruik" met AI als tool (dus door bijvoorbeeld maken van genepte wraakporno), waarbij er duidelijk al iemand een slachtoffer en een dader is.

(De rest van de post heb ik niet gequote, maar ik ben het daar ook mee eens).

Naar mijn idee kan je de vermelding naar AI weglaten als het gaat om straffen bij misbruik. Het is het verschil tussen kleine bom en een grote bom. In beide gevallen gaan er mensenlevens verloren, maar de grote bom is effectiever.

Reguleren van AI gaat vooral om dat grootschalig misbruik te voorkomen.

[DevWouter]

Webdoc schreef op dinsdag 28 februari 2023 @ 17:06:
Als je er van uit gaat dat het voorkomen van werkelijk misbruik van echte mensen/kinderen het belangrijkste is, is het dan niet stiekem zo dat all else being equal je AI-gegenereerde beelden juist zou moeten toestaan of in ieder geval minder streng beoordelen?

Er zijn geen misdaden zonder slachtoffers.

Ik lees hier bijvoorbeeld dat "meer porno leidt naar minder sexueel misbruik" maar er zijn ook meningen dat porno er toe leidt dat jonge mensen een verdraaid en verkeerd beeld hebben van hoe sex "zou moeten" zijn en/of ongepaste verwachtingen van hun vriend)in) hebben, iets dat redelijkerwijs tot frustratie zou moeten leiden. TL;DR - is de beschikbaarheid van "nep-kinder-erotica" iets dat, per saldo, er toe zal leiden dat kinderen minder kans hebben om slachtoffer te worden, of niet?

Vergelijk het met Wikipedia: Drooglegging (alcoholverbod) in Amerika. Het verbod op alchol leiden juist tot illegale stokers welke criminaliteit aantrokken. Het probleem met verbod (en "zwaardere straffen") is dat het de personen die er misbruik van maken bereid zijn om verder te gaan. Maak het toegankelijk en zorg dat mensen verantwoordelijk zijn dan krijg je het tegenovergestelde effect.

De argumenten dat prostitutie/porno/naakt per definitie slecht is verder nooit bewezen.

Vaak verwijst men een psychische aandoeningen. Maar dat zijn de uitzonderingen in de maatschappij en die vereisen ook gespecialiseerde behandeling. Suggeren dat men met AI aan zelfmedicatie kan doen lijkt me geen oplossing.

Vraagje - vinden jullie dat je "pedofiel zijn" een geaardheid kan noemen...?

Het is een psychische aandoening en vereist behandeling. Hetzelfde met seks/porno verslaving. Het probleem is echter dat sommige zaken zo onbespreekbaar zijn dat mensen niet tijdig hulp zoeken en dus met een aandoening kiezen voor zelfmoord ipv hulp. Belangerijk is daarbij de persoon niet te veroordelen van zijn aandoening.

• https://www.stopitnow.nl - Als je (anoniem) hulp zoekt voor jezelf of iemand anders in jouw omgeving die met pedofolie/kindermisbruik heeft te maken.
• https://www.113.nl - Alls je hulp zoekt voor jezelf of iemand anders over zelfmoord

[Stoney3K]

DevWouter schreef op dinsdag 28 februari 2023 @ 22:00:
[...]
Het is een psychische aandoening en vereist behandeling. Hetzelfde met seks/porno verslaving. Het probleem is echter dat sommige zaken zo onbespreekbaar zijn dat mensen niet tijdig hulp zoeken en dus met een aandoening kiezen voor zelfmoord ipv hulp. Belangerijk is daarbij de persoon niet te veroordelen van zijn aandoening.

Is het een aandoening die te genezen valt? Of is het iets waarmee iemand (deels) is geboren en wat mogelijk ook getriggerd wordt door trauma's? Want in het laatste geval kun je hooguit behandelen met copingmechanismen. Wat we alleen niet moeten doen is iemand direct opsluiten en de sleutel weg gooien omdat ie een monster is.

Dat is ook waarom mensen vaak met die gevoelens blijven rond lopen en er niet over praten, ze zijn bang voor represailles. Óf vanuit hun omgeving (want als het bekend wordt ben je je leven niet zeker) of vanuit justitie die ze direct als crimineel behandelt. Dan is er dus ook geen netwerk voor hulp.

[DevWouter]

Stoney3K schreef op dinsdag 28 februari 2023 @ 22:43:
[...]


Is het een aandoening die te genezen valt? Of is het iets waarmee iemand (deels) is geboren en wat mogelijk ook getriggerd wordt door trauma's? Want in het laatste geval kun je hooguit behandelen met copingmechanismen. Wat we alleen niet moeten doen is iemand direct opsluiten en de sleutel weg gooien omdat ie een monster is.

Dat is ook waarom mensen vaak met die gevoelens blijven rond lopen en er niet over praten, ze zijn bang voor represailles. Óf vanuit hun omgeving (want als het bekend wordt ben je je leven niet zeker) of vanuit justitie die ze direct als crimineel behandelt. Dan is er dus ook geen netwerk voor hulp.

Geen idee of herstel mogelijk is of dat een permanent is. (Ik ben geen expert)
Maar wat ik begrijp van wat ik online lees is dat men onderscheid moet maken tussen de last die persoon heeft en de last/schade die omgeving brengt bij anderen. Eigenlijk al wat je benadrukt in je tweede alinea.

Verder zou ik de term copingmechanisme niet gebruiken. Afhankelijke van definitie die we hanteren is dat gezond of ongezond.

Overigens dwalen we nu wel heel erg af van het onderwerp. Mijn voorstel is om behandeling van psychische problemen niet verder uit te diepen.

[TheBrut3]

Webdoc schreef op dinsdag 28 februari 2023 @ 17:06:
Vraagje - vinden jullie dat je "pedofiel zijn" een geaardheid kan noemen...?

Ik zie vallen op kinderen het hetzelfde als iemand die valt op Afrikaanse mannen, op Oosterse vrouwen, op oudere mannen of op levenloze lichamen. Dat is dus meer een voorkeur dan een geaardheid, waarvan de eerste en laatste strafbaar zijn.

Dat zal waarschijnlijk ook te maken met een persoonlijke blik of achtergrond. Ik kan mij indenken dat een diep religieus persoon zowel homofilie als pedofilie als geestelijke aandoening kan bestempelen.

[defiant]

Modbreak:

De discussie over prostitutie is afgesplitst naar: Prostitutie: legaliteit, problemen en achtergronden