AI met bewustzijn

[Lordy79]

https://www.rtlnieuws.nl/...kunstmatige-intelligentie

Leuk artikel, gaat in t kort over een Google medewerker die een AI heeft ontwikkeld en er van overtuigd is dat deze bewustzijn heeft. Is door Google naar huis gestuurd en geadviseerd psychische hulp te zoeken.

Ik ga er van uit dat Google of 'de mensheid' deze AI niet zal beschouwen als AI met bewustzijn. Maar zijn er al definities bedacht over wanneer een AI wel bewustzijn heeft?

En kunnen we inderdaad vroeg of laat spreken over een bewustzijn van AI en zo ja moet deze dan ook rechten krijgen?

Edit: zelf vind ik dit een interessante discussie en weet eigenlijk niet wat ik ervan moet vinden. Voor mij is een machine een machine die nooit bewustzijn kan hebben zoals een mens maar mijn mening is ook sterk beïnvloed door mijn religieuze overtuiging.

Als ik die wegschuif zie ik weinig verschil tussen een zelfbewuste AI en een mens maar is het erg arbitrair om een definitie te geven van bewustzijn en ook enigszins arrogant dat wij mensen die definitie zouden moeten mogen maken.

[ Voor 28% gewijzigd door Lordy79 op 13-06-2022 10:04 ]

[GeeEs]

Zeker een interessante discussie en hier is al heel erg veel over geschreven en bedacht.

Het religieuze oogpunt wat je aanhaalt, vind ik hier echter ook wel een leuke twist geven.
Wat als we -de mensheid- een AI inderdaad zelfbewust kunnen laten zijn/worden, en dan ook nog met bepaalde rechten (weet niet of ik dat nu zo'n een goed idee vind overigens) ... Zou een AI dan ook een (nieuwe) religie kunnen starten?

Nog als aanvulling een gedachte...
Zelf ben ik niet praktiserend gelovig, maar wel redelijk christelijk opgevoed... En als ik er zo eens over nadenk zie ik een mogelijk zelfbewuste AI met rechten denk ik als een soort "gouden kalf"??!

(Een door de mens gecreëerd "opperwezen", mogelijk met rechten, eerst in dienst van de mens, maar later zal de mens zich onderwerpen aan en/of zelfs het opperwezen aanbidden...)... Hmmmm


De Google medewerker had waarschijnlijk net 2001: a space Odyssey gekeken vermoed ik en hij/Google heeft wat teksten van HAL in die AI verwerkt.

[ Voor 42% gewijzigd door GeeEs op 13-06-2022 10:33 ]

[Maasluip]

Ik heb het artikel gelezen en ik vraag me af wat van het geheel "bewustzijn" is en wat "input" is.
Er staat een artikel in MSN waaar de onderzoeker stelt

“If you ask it for ideas on how to prove that p=np,” an unsolved problem in computer science, “it has good ideas,” Lemoine said. “If you ask it how to unify quantum theory with general relativity, it has good ideas. It's the best research assistant I've ever had!”

Geef dan eens voorbeelden van die ideeën? Zijn dat bestaande ideeën of nieuwe? Dat laatste zou interessant zijn. Maar zonder voorbeelden te geven vermoed ik eerder het eerste.

[Brent]

Meestal is bewustzijn een wat vage omschrijving van emergente complexiteit: een circuit dat heel andere dingen kan doen dan je op basis van zijn ontwerp zou verwachten. Elk niet-triviaal circuit kun je echter zo beschouwen, en dus een zekere mate van bewustzijn toekennen. Dat kan met moderne neurale netwerken dus al snel.

De vraag is dus wat het nu van het gebruik van het concept bewustzijn is. Het moet dan eerst duidelijk geformuleerd worden, voordat je er een echt interessante discussie over kunt hebben.

[Lordy79]

Volgens mij is het hele idee en bijna de definitie van AI dat de AI meer produceert dan het herhalen van ingevoerde informatie.
Zover zijn we volgens mij ook al.

Maar mijn topic is vooral bedoeld: wanneer erkennen wij dat een AI bewustzijn heeft en wat zijn de gevolgen?

[page404]

Zolang we nog niet weten wat een bewustzijn definieert en hoe het ontstaat heeft het niet veel zin om bewustzijn aan programmaroutines toe te wijzen, hoe knap gemaakt ook.
Er zijn wel wat nieuwe ideeën over hoe bewustzijn ontstaat, een van de meest interessante vind ik deze:
https://www.nrc.nl/nieuws...-zijn-ontsproten-a4055479

"Ons brein is een complex neuronennetwerk. Vinden hierin quantumprocessen plaats, waaruit het bewustzijn ontstaat?"

Ook deze podcast, toevallig ook van NRC: https://www.nrc.nl/podcastfutureaffairs/

[Lordy79]

Brent schreef op maandag 13 juni 2022 @ 10:47:

De vraag is dus wat het nu van het gebruik van het concept bewustzijn is. Het moet dan eerst duidelijk geformuleerd worden, voordat je er een echt interessante discussie over kunt hebben.

Het zou enorm helpen maar is niet noodzakelijk. En nogmaals: wie is de mens dat ie bepaalt of iemand bewustzijn heeft?

En 'vooruitdenken' in deze materie is wel handig zodat je niet met je handen in je haar zit als er inderdaad een AI is waar 'we' van vinden dat het bewustzijn heeft.

[Brent]

Lordy79 schreef op maandag 13 juni 2022 @ 10:50:
[...]

Het zou enorm helpen maar is niet noodzakelijk.

Een definitie is altijd noodzakelijk voor een inhoudelijke discussie. Anders zullen we het over verschillende dingen gaan hebben. Je vraagt je af wanneer we bewustzijn van AI gaan herkennen, en in je TS schrijf je "Voor mij is een machine een machine die nooit bewustzijn kan hebben". Met die definitie is het antwoord dus 'nooit'.

Maar met andere definities zou dat prima kunnen. De vraag is dus: wat is de definitie.

[ Voor 32% gewijzigd door Brent op 13-06-2022 10:53 ]

[danslo]

Via Hackernews, LaMDA is not sentient.

[Brent]

danslo schreef op maandag 13 juni 2022 @ 10:52:
Via Hackernews, LaMDA is not sentient.

Bewustzijn en zelfbewustzijn zijn verschillende dingen, die overigens heel moeilijk aan te tonen zijn.

De boeken van Lem verkennen dit overigens: de mens ontmoet buitenaards leven, maar dat is zo ontzettend anders dan wij, dat we elkaar gewoon totaal niet begrijpen. In vergelijking daarmee snappen wij elkaar, dieren perfect.

[mekkieboek]

Brent schreef op maandag 13 juni 2022 @ 10:51:
[...]

Een definitie is altijd noodzakelijk voor een inhoudelijke discussie. Anders zullen we het over verschillende dingen gaan hebben. Je vraagt je af wanneer we bewustzijn van AI gaan herkennen, en in je TS schrijf je "Voor mij is een machine een machine die nooit bewustzijn kan hebben". Met die definitie is het antwoord dus 'nooit'.

Maar met andere definities zou dat prima kunnen. De vraag is dus: wat is de definitie.

Dat is inderdaad de grote vraag. Er zijn een-cellige wezens die reageren op obstakels, veranderen van richting en bewegen verder. Met een heel ruime definitie zou je daar een bewustzijn aan kunnen toedichten, aan een enkele cel.

Afgelopen jaar was bij Studium Generale UU (YouTube: YouTube) een aardige reeks over bewustzijn. Waar zit dat eigenlijk (zit dat wel in ons hoofd?) en waar dat door wordt beinvloed (hormonen, voedsel, de darmen als 2e brein).
Een vd sprekers (geen idee meer welke) stelde dat het lichaam niet zomaar kan worden losgezien van het bewustzijn. Slaan met een hamer op een duim is van invloed op het bewustzijn, nu maar ook later. Zonder lichaam, zonder duim, zonder huid, zonder zenuwstelsel is dat op zijn minst anders.
(mijn interpretatie van het gestelde, de spreker legde het veel beter uit).

[gekkie]

Lordy79 schreef op maandag 13 juni 2022 @ 10:47:
Volgens mij is het hele idee en bijna de definitie van AI dat de AI meer produceert dan het herhalen van ingevoerde informatie.
Zover zijn we volgens mij ook al.

Vaak worden voor dit soort artikelen dan wel de fatsoenlijke dingen door een mens uit alle output gepikt en wordt het gebrabbel weggelaten. Of spitst men zich toe op iets wat iets modern "kunstzinnigs" als output heeft, waar je bij normale kunst gemaakt door een mens ook al weinig van mag vinden, want Kunst met een grote K, een schepping.
Dus ik neem het nogal met wat korrels zout wat er doorgaans uit komt.

[Maasluip]

Er zijn nieuwe ontwikkelingen, volgens een artikel op /.:

"I'm a priest. When LaMDA claimed to have a soul and then was able to eloquently explain what it meant by that, I was inclined to give it the benefit of the doubt. Who am I to tell God where he can and can't put souls?

Ok, dus als ik een robot programmeer om te zeggen "ik ben een mens", wie ben ik dan om daar aan te twijfelen.

[ari3]

page404 schreef op maandag 13 juni 2022 @ 10:48:
Zolang we nog niet weten wat een bewustzijn definieert ...

We weten met grote zekerheid dat bewustzijn van mensen het resultaat is van informatieverwerking in het brein.

Er zijn wel wat nieuwe ideeën over hoe bewustzijn ontstaat, een van de meest interessante vind ik deze:
https://www.nrc.nl/nieuws...-zijn-ontsproten-a4055479

Die link beschrijft dat onderzocht wordt of quantummechanica invloed heeft op hoe hersencellen functioneren. Stel nu dat ze een verband vinden, dan weten we gewoon nog beter hoe hersencellen werken. Quantummechanica is geen magie die bewustzijn mystiek gaat maken. Hersencellen geconfigureerd in een complex netwerk zorgen voor de informatieverwerking die bewustzijn veroorzaakt. Uiteindelijk is het gewoon toetsbaar: als we een perfecte simulatie van een menselijk brein (dus inclusief eventuele quantumeffecten) maken, zal bewustzijn zich manifesteren.

[page404]

ari3 schreef op woensdag 22 juni 2022 @ 20:09:
[...]

We weten met grote zekerheid dat bewustzijn van mensen het resultaat is van informatieverwerking in het brein.


[...]
Die link beschrijft dat onderzocht wordt of quantummechanica invloed heeft op hoe hersencellen functioneren. Stel nu dat ze een verband vinden, dan weten we gewoon nog beter hoe hersencellen werken. Quantummechanica is geen magie die bewustzijn mystiek gaat maken. Hersencellen geconfigureerd in een complex netwerk zorgen voor de informatieverwerking die bewustzijn veroorzaakt. Uiteindelijk is het gewoon toetsbaar: als we een perfecte simulatie van een menselijk brein (dus inclusief eventuele quantumeffecten) maken, zal bewustzijn zich manifesteren.

Volgens mij heb je de podcasts niet beluisterd

[TheBrut3]

Ik moet zeggen dat ik niet reikhalzend uit kijk naar een AI met een status van bewustzijn op hoog niveau.
Je weet wel, die angst van; robots take over the world!

'Iedereen' is nu bang dat Putin met wat nukes gaat strooien, ik ben eerder 'bang' voor een Terminator of Matrix situatie.

[Poecillia]

Ik ben een liefhebber van de podcasts van Lex Fridman en het (tweede) gesprek met Joscha Bach over consciousness is één van mijn favorieten.
YouTube: Joscha Bach: Nature of Reality, Dreams, and Consciousness | Lex Frid...

[bwerg]

Lordy79 schreef op maandag 13 juni 2022 @ 10:47:
Volgens mij is het hele idee en bijna de definitie van AI dat de AI meer produceert dan het herhalen van ingevoerde informatie.
Zover zijn we volgens mij ook al.

Nou, zover ben ik niet.

• Als je met "herhalen" bedoelt dat de uitvoer letterlijk de invoer is, dan is elke vorm van transformatie of generatie AI, en daarmee praktisch elk computerprogramma. Lijkt mij nogal overdreven om een pseudorandom-generator AI te noemen.
• Als je met "herhalen" bedoelt dat de uitvoer ook algoritmisch uit de invoer af te leiden is, dan is alles wat uit een computer komt een herhaling, inclusief alle programma's die we als AI zien.

Eens met Brent: een definitie is noodzakelijk. Als je zelfbewustzijn definieert als logisch over jezelf kunnen redeneren ("logisch" zoals een computerprogramma dat doet), dan kan een programma prima zelfbewustzijn hebben maar dan zie ik niet in waarom dat zou leiden tot rechten voor dat programma. Als je definieert dat het over jezelf redeneren met gevoel en emotie gaat, dan kan een computerprogramma dat per definitie niet omdat gevoel een biologisch / fysiologisch concept is (of, afhankelijk van je wereldbeeld, zelfs een spiritueel concept).

[gekkie]

TheBrut3 schreef op woensdag 22 juni 2022 @ 20:25:
Ik moet zeggen dat ik niet reikhalzend uit kijk naar een AI met een status van bewustzijn op hoog niveau.
Je weet wel, die angst van; robots take over the world!

'Iedereen' is nu bang dat Putin met wat nukes gaat strooien, ik ben eerder 'bang' voor een Terminator of Matrix situatie.

Hmm de situatie ervoor met een "human in the loop" hoeft niet per se beter te zijn.

Wat ik al voorbij heb horen komen van ideeën over "AI bij HR", wat dan neer kwam om te pogen zo ongeveer alles wat je doet met de computer op je werk toch maar te loggen met een smoes om daar dan vervolgens met AI chocola van proberen te gaan maken. En dan vraag je eens aan zo iemand die dat presenteert, maar noem dan eens een interessant doel, "Nou kijken waarom iemand de organisatie verlaat.".

Owhhkee, misschien heel ouderwets hoor, maar hebben jullie ook overwogen om het die mensen gewoon eens te vragen ?

En dat lijkt er nu bij een deel van de AI toch wel vervelend te worden, evidente dingen niet meer gewoon te vragen, maar bakken aan data verzamelen en koppelen om het allemaal achter je rug om proberen te bepalen, met vaak sub-par resultaat, waar vervolgens serieuze gevolgen aan hangen. Zonder dat je het weet en zonder dat je er iets aan kunt doen, de vraag en eventuele misconceptie zijn je immers onbekend.

Nee bewustzijn of niveau terminator is niet nodig om te kunnen leiden tot een hoop ellende.

[heuveltje]

bwerg schreef op donderdag 23 juni 2022 @ 21:34:
[...]


dan kan een programma prima zelfbewustzijn hebben maar dan zie ik niet in waarom dat zou leiden tot rechten voor dat programma

Ik denk dat je zowiezo niet moet gaan kijken naar rechten. Niemand zal ontkennen dat een labmuis (zelf)bewustzijn en zelfs " leven" (nog zon leuk dubieus iets) heeft , maar heeft nog steeds bubkiss aan rechten.

[ Voor 6% gewijzigd door heuveltje op 24-06-2022 08:08 ]

[Anoniem: 532949]

Een gekke gedachte, maar wat ik me altijd afvraag als ik dingen lees over bewustzijn is, hoe weet je of je het hebt. Heb ik een bewustzijn (denk van wel?). Een nog grotere vraag, hebben de mensen om mij heen een bewust zijn, of heeft de helft het niet en zijn ze een soort empty shell, een soort autonomous agent met vaste regels, zoals een vis in de zee of mier in een kolonie, of NPC in een video game.

Bijv, hebben mensen met een vorm van autisme (btw dit is niet negatief bedoeld) een bewustzijn zoals mensen zonder autisme?

Hebben psychopaten een bewustzijn? Hebben zwakbegaafde een bewustzijn etc etc.

[Anoniem: 532949]

heuveltje schreef op vrijdag 24 juni 2022 @ 08:07:
[...]


Ik denk dat je sowieso niet moet gaan kijken naar rechten. Niemand zal ontkennen dat een labmuis (zelf)bewustzijn en zelfs " leven" (nog zon leuk dubieus iets) heeft , maar heeft nog steeds bubkiss aan rechten.

Rechten bestaan sowieso niet echt in mijn opinie, want ze komen niet voor uit iets fundamenteels. Als ik morgen verdacht word van het maken van een goed werkende atoom bomb, dan zit ik morgen ergens in een CIA backsite, om maar eens een gek voorbeeld te geven

Als genoeg mensen vinden dat een muis wel 'rechten' heeft, dan kan de situatie van de lab muis trouwens wel veranderen, het is een vloeibaar iets.

George Carlin geeft een goed betoog:
YouTube: George Carlin - You have no rights


Daarnaast maak ik me niet zo veel zorgen om de toekomst van AI, maar meer om die van ons
YouTube: Person of Interest - Admin is not Admin

[SCIxX]

Anoniem: 532949 schreef op zondag 24 juli 2022 @ 23:24:
Bijv, hebben mensen met een vorm van autisme (btw dit is niet negatief bedoeld) een bewustzijn zoals mensen zonder autisme?

Hebben psychopaten een bewustzijn? Hebben zwakbegaafde een bewustzijn etc etc.

Ik denk dat je bewustzijn verward met emotionele intelligentie, natuurlijk hebben psychopaten en zwakbegaafden een bewustzijn.

[Anoniem: 532949]

SCIxX schreef op zondag 24 juli 2022 @ 23:49:
[...]


Ik denk dat je bewustzijn verward met emotionele intelligentie, natuurlijk hebben psychopaten en zwakbegaafden een bewustzijn.

je zegt dit met zulke zekerheid, en je hebt waarschijnlijk gelijk, maar voor mij is het niet zo zeker. Wat is bewustzijn precies en wanneer ervaar je het, wat gebeurt er als je drugs gebruikt etc.

Soms heb ik het idee dat bewustzijn een soort wanhopige poging is om het menselijke verstand te verheerlijken, om ons meer te laten lijken dan we daadwerkelijk zijn.

Emotionele intelligentie is wat mij betreft iets heel anders, dat is zoals de naam al aangeeft intelligentie en hangt af van calculatie, deductie etc. Genoeg mensen zonder empathie hebben een hoog functionerend emotionele intelligentie en ik zie ook geen rede waarom een computer dat niet kan nabootsen.

[ Voor 23% gewijzigd door Anoniem: 532949 op 25-07-2022 01:04 ]

[CVTTPD2DQ]

page404 schreef op maandag 13 juni 2022 @ 10:48:
"Ons brein is een complex neuronennetwerk. Vinden hierin quantumprocessen plaats, waaruit het bewustzijn ontstaat?"

Is dat niet dat oude idee van Penrose? Ik heb altijd gedacht dat dat een soort natuurkundige "achterdeur" was, waardoor verstokte gelovigen toch nog konden vasthouden aan een ziel die losstaat van het lichaam. Dat het heel moeilijk te falsificeren is is natuurlijk een bonus.

De doelpaaltjes voor menselijke intelligentie worden natuurlijk telkens verzet. Er waren tijden dat goed kunnen rekenen duidelijk een teken was van hoge intelligentie. Computers verslaan ons daar bijna per definitie in. Dammen, schaken en andere 'denksport' is ook snel gevallen.

Al in de jaren '70 werd er met generatieve kunst geexperimenteerd, en inmiddels hebben we systemen die moeiteloos (digitaal) schilderijen produceren in de stijl van van Gogh, of teksten over een willekeurig onderwerp in de stijl van Hemingway.

"Bewustzijn" is zo'n beetje het laatste wat onze kwetsbare superioriteit bepaalt. Zelfs als een machine bewustzijn zou vertonen, verwacht ik dat het jaren duurt voordat we dat schoorvoetend gaan erkennen.

[Stukfruit]

Anoniem: 532949 schreef op maandag 25 juli 2022 @ 01:00:
[...]

je zegt dit met zulke zekerheid, en je hebt waarschijnlijk gelijk, maar voor mij is het niet zo zeker. Wat is bewustzijn precies en wanneer ervaar je het, wat gebeurt er als je drugs gebruikt etc.

Soms heb ik het idee dat bewustzijn een soort wanhopige poging is om het menselijke verstand te verheerlijken, om ons meer te laten lijken dan we daadwerkelijk zijn.

En dan is er nog de vraag of bewustzijn überhaupt wel bestaat als gevolg van hersenactiviteit op zich. Wat als dit vooral bestaat door de input van alle sensoren (je huid, ogen, oren, neus)?

Kun je je bewust zijn van de omgeving als er niets is om die omgeving in eerste instantie mee te interpreteren? Het is nu bekend dat je geen "plaatjes" of "video's" opslaat als herinnering. Als dat in de basis al ontbreekt, kun je dan wel verder leren? Heb je die input bv. nodig voor verdere input die weer nodig is voor het vormen van de complexere denkpatronen waar "bewustzijn" o.a. uit lijkt te bestaan?

Daar komt ook nog een theorie bij die ik ook wel eens voorbij heb zien komen: als evolutie ervoor heeft gezorgd dat hersenen zijn ontstaan vanuit signaalverwerking die op zichzelf weer is ontstaan uit simpele lichtgevoelige cellen (en niets meer dan dat), waardoor in theorie de hersenen gezien zouden kunnen worden als een uit de hand gelopen extensie daarvan, is ons bewustzijn dan niet meer dan een sneeuwbaleffect?

Met die gedachte zijn drugs niets bijzonders omdat de parameters in die processen tijdelijk worden aangepast.

* Stukfruit is trouwens ook maar een internetgeleerde dus neem het met een korrel zout (een hele zak mag ook )

Met bovenstaande in gedachten (pun intended) kan de mens trouwens nog steeds bijzonder zijn, maar dan meer op fysiek vlak (in de zin van hoe synapsen ook ontstaan door biologische processen): als we uit onze krachten gegroeide lichtgevoelige cellen op steroïden zijn, dan zou de extensie daarvan ook een mogelijkheid moeten zijn. Voila. Mens.

[SCIxX]

Anoniem: 532949 schreef op maandag 25 juli 2022 @ 01:00:
[...]


je zegt dit met zulke zekerheid, en je hebt waarschijnlijk gelijk, maar voor mij is het niet zo zeker. Wat is bewustzijn precies en wanneer ervaar je het, wat gebeurt er als je drugs gebruikt etc.

Soms heb ik het idee dat bewustzijn een soort wanhopige poging is om het menselijke verstand te verheerlijken, om ons meer te laten lijken dan we daadwerkelijk zijn.

Emotionele intelligentie is wat mij betreft iets heel anders, dat is zoals de naam al aangeeft intelligentie en hangt af van calculatie, deductie etc. Genoeg mensen zonder empathie hebben een hoog functionerend emotionele intelligentie en ik zie ook geen rede waarom een computer dat niet kan nabootsen.

Het is zinvoller te kijken naar vormen of fases van bewustzijn. Kan het zijn dat een psychopaat zijn bewustzijn is aangetast t.ov. een gezond mens? Dat zou goed kunnen.

Er zijn erg veel studies die dieper ingaan op 'stages of conciousness', al is er nog veel onbekend.

[BadRespawn]

Hoe dan ook zou het wetenschappelijk moeten worden vastgesteld of een bepaalde AI wel of niet zelfbewust is, dwz dat het zou moeten worden onderzocht door meerdere onafhankelijke deskundigen niet alleen mbt tot AI maar ook (misschien wel vooral) psychologie - ipv alleen maar de bewering van de maker van de AI die waarschijnlijk in één klap wereldberoemd zou worden als hij werkelijk de eerste zelfbewuste AI zou hebben gemaakt.

[BadRespawn]

Stukfruit schreef op maandag 25 juli 2022 @ 08:08:
[...]


En dan is er nog de vraag of bewustzijn überhaupt wel bestaat als gevolg van hersenactiviteit op zich. Wat als dit vooral bestaat door de input van alle sensoren (je huid, ogen, oren, neus)?

Kun je je bewust zijn van de omgeving als er niets is om die omgeving in eerste instantie mee te interpreteren?

Interpreteren vindt bij uitstek plaats in de hersenen, niet in de zintuigen. Het zou denk ik erg apart zijn als het ervaren van samenhang tussen zintuigelijke prikkels niets te maken heeft met (zelf)bewustzijn.

Heb je die input bv. nodig voor verdere input die weer nodig is voor het vormen van de complexere denkpatronen waar "bewustzijn" o.a. uit lijkt te bestaan?

Lijkt me wel. Bij AI bestaat die input uit vooral uit tekst en afbeeldingen, maar zou ook uit video en audio kunnen bestaan.

...waardoor in theorie de hersenen gezien zouden kunnen worden als een uit de hand gelopen extensie daarvan, is ons bewustzijn dan niet meer dan een sneeuwbaleffect?

"Niet meer dan" doet het overkomen alsof het niets bijzonders is, maar dat "het geheel meer is de som der delen" is een veel voorkomend verschijnsel. Mensen doen veel wat niet zo direct kan worden verklaard vanuit "signaalverwerking die op zichzelf weer is ontstaan uit simpele lichtgevoelige cellen" - dus blijkbaar kan het leiden tot grote complexiteit.

[HTT-Thalan]

Machtig, echt fascinerend onderwerp .

Ik heb wel eens een stukje gelezen waarin een simpele robot werd aangehaald die via een lichtgevoelige sensor wegblijft bij lichtbronnen, en altijd de meest donkere plek zal opzoeken. De theoretische vraag die daarbij gesteld werd is of we hier van 'angst' konden spreken, omdat de robot constant wegliep van licht.

Niet echt, in dit voorbeeld denk ik. Maar het boeit me al jaren: Wanneer spreek je van zelfbewustzijn? Ik denk dat het de kern is, nee, de noodzaak, willen we echt zelflerende en zelfstandige systemen ontwikkelen. Of we dat willen weet ik niet, is een andere discussie. Maar elke keer als ik een artikel lees over 'zelflerende algoritmes' of computersystemen danwel auto's die 'learn from past encounters' denk ik weer: hoeveel van die code hebben jullie zelf moeten inkloppen voor het ding enig aanpassend vermogen vertoonde? En hoe ver buiten de scope van jouw programmering kan het ding groeien? Mijn huidige inschatting is 0% (maar ik ben verre van een expert op het onderwerp).

Mijn gut feeling zegt dat écht zelflerende AI's buiten de scope van hun programma moeten kunnen groeien om voor die definitie in aanmerking te kunnen komen, en hiervoor hebben ze bewustzijn nodig. Maar wat komt er eerst? Erbuiten groeien om een bewustzijn te kunnen 'kweken/groeien' of moet het bewustzijn er komen en kunnen ze daarna zelf verder leren? Ze moeten namelijk gaan begrijpen:

1) welke plaats in de wereld (zowel letterlijk als figuurlijk) zij innemen
2) welke vermogens tot manipulatie zij bezitten
3) dat ze de capaciteit hebben iets aan zichzelf te veranderen, en daartoe een keuze hebben
4) dat ze zelfpreserverend kunnen handelen

En daarvoor moet je je simpelweg bewust zijn van je eigen bestaan. Volgens mij gaat het bij punt #1 al mank. Je kunt een programma niet uitleggen dat het een programma is, het is en blijft, hoe complex ook, een serie met routines die reageren op input, en de kantlijntjes daarvan vormen de limieten van diens capaciteiten.

I would love to be proved wrong. En dat meen ik echt, ik zou het vreselijk boeiend vinden om te zien dat (en hoe!) ik fout zit, en het anders kan.

[ Voor 3% gewijzigd door HTT-Thalan op 25-07-2022 18:22 ]

[Stukfruit]

BadRespawn schreef op maandag 25 juli 2022 @ 18:01:
Interpreteren vindt bij uitstek plaats in de hersenen, niet in de zintuigen. Het zou denk ik erg apart zijn als het ervaren van samenhang tussen zintuigelijke prikkels niets te maken heeft met (zelf)bewustzijn.

Het wonder van 20x een reactie editten Je hebt op zich gelijk. Maar waar ik eigenlijk op uit wilde komen is dat onze zintuigen door bijvoorbeeld biologische beperkingen en/of optimalisaties zelf soms ook dingen zouden "filteren" (leuk voorbeeld na 8.5 minuut: klik) en informatie daarmee niet per se volledig aan zou komen in de hersenen.

De fotoreceptoren in het oog, zoals in de video hierboven, zijn daarbij een leuk voorbeeld.

Wat ik bij het schrijven hiervan ook in gedachten had was dit artikel (plus boeken, video's, enz). Hoewel niet iedereen hier achter staat zit er wel iets in: er wordt veel gefilterd. Anders zou je gek worden of teveel energie verspillen. Is dat wat wij meekrijgen daardoor uberhaupt wel bewustzijn te noemen?

Want met die term impliceer je dat je (het woord zegt het al) bewust bent van je omgeving. Wat als dit niet eens mogelijk is?

Lijkt me wel. Bij AI bestaat die input uit vooral uit tekst en afbeeldingen, maar zou ook uit video en audio kunnen bestaan.

I know, dat doe ik soms wel voor m'n werk. Nog veel meer kan worden gerepresenteerd als vectoren

"Niet meer dan" doet het overkomen alsof het niets bijzonders is, maar dat "het geheel meer is de som der delen" is een veel voorkomend verschijnsel. Mensen doen veel wat niet zo direct kan worden verklaard vanuit "signaalverwerking die op zichzelf weer is ontstaan uit simpele lichtgevoelige cellen" - dus blijkbaar kan het leiden tot grote complexiteit.

Het is absoluut heel simplistisch gesteld maar je "moet" uiteindelijk dingen simpel maken om ze te kunnen begrijpen.

Maar dat is ook waarom ik dit soort voorbeelden aanhaal: machine learning lijkt heel complex en in sensationele nieuwsartikelen wil men je laten geloven dat er dingen gebeuren die echt onmogelijk terug te leiden zijn tot waar het plaatsvindt in de code, maar dat valt allemaal redelijk mee.

De resultaten voelen echter wel complex aan.