A.I. is gevaarlijk.

[Verwijderd]

Zodra computers zichzelf kunnen gaan ontwikkelen dan krijgen we toch een groot probleem of niet. Het is natuurlijk leuk om chips te ontwerpen die zichzelf beter maken, maar ik denk niet dat dit een stap in de goede richting is.
alles werkt nameiljk via computer systemen. ook bijvoorbeeld de Amerikaanse overheid en Russische spionage satteliten en raketten. Als computers dit overnemen dan hebben we een groot probleem.

of zit ik nu mis en overdrijf ik een beetje.

[Verwijderd]

Gewoon de computers die de atoombommen besturen niet op een a.i. systeem aansluiten. Simpel.

[Verwijderd]

Evolutie is evolutie.
Als zij beter zijn dan wij, laat ze de wereld overnemen...

Dan zit onze 10.000 jaar erop.

[Verwijderd]

Op woensdag 05 september 2001 11:30 schreef Melkor het volgende:
Gewoon de computers die de atoombommen besturen niet op een a.i. systeem aansluiten. Simpel.

nee dat kun je beter in handen geven aan irrationele mensen die op gevoel handelen

[Verwijderd]

AI is in principe niet gevaarlijk.

Want het moet altijd binnen de grenzen blijven die mensen bepalen. Daar zit het probleem. Want sommige mensen vinden het moeilijk hun grenzen te bepalen.

[Verwijderd]

Irrationele mensen kunnen altijd nog gewetensbezwaar krijgen en besluiten om toch maar geen bom te gooien. Heb ik liever als een kille computer.

[Verwijderd]

Op woensdag 05 september 2001 11:28 schreef Silent-Shadow het volgende:
Zodra computers zichzelf kunnen gaan ontwikkelen dan krijgen we toch een groot probleem of niet. Het is natuurlijk leuk om chips te ontwerpen die zichzelf beter maken, maar ik denk niet dat dit een stap in de goede richting is.
alles werkt nameiljk via computer systemen. ook bijvoorbeeld de Amerikaanse overheid en Russische spionage satteliten en raketten. Als computers dit overnemen dan hebben we een groot probleem.

of zit ik nu mis en overdrijf ik een beetje.

Tja Wouter, ik weet niet of het uberhaupt zover zal komen, maar ik denk dat we geen zelfdenkende computers zullen krijgen.

[Verwijderd]

Op woensdag 05 september 2001 14:47 schreef Lord_Nygard het volgende:


Tja Wouter, ik weet niet of het uberhaupt zover zal komen, maar ik denk dat we geen zelfdenkende computers zullen krijgen.

Wie is Wouter???

[Verwijderd]

Echt zelf denkende computers zullen inderdaad nog een tijdje op zich laten wachten, maar computers die beslissingen kunnen nemen op basis van niet complete gegevens en gegevens die mensen niet kunnen interpreteren worden al ontwikkeld. Deze computers zijn niet noodzakelijk zelfbewust maar ze beschikken wel over een intelligentie die wij niet begrijpen of kunnen zien.

[Verwijderd]

Op woensdag 05 september 2001 15:09 schreef Melkor het volgende:
Echt zelf denkende computers zullen inderdaad nog een tijdje op zich laten wachten, maar computers die beslissingen kunnen nemen op basis van niet complete gegevens en gegevens die mensen niet kunnen interpreteren worden al ontwikkeld. Deze computers zijn niet noodzakelijk zelfbewust maar ze beschikken wel over een intelligentie die wij niet begrijpen of kunnen zien.

Dat kan dan inderdaad wel gevaarlijk worden, ook hackbaar enzo.

[Verwijderd]

Ook een mogelijk gevaar is Artificial Life. Bij AL gaat het niet om intelligentie nabootsen, maar om leven nabootsen. Evolutie dus. Als je nou een virus schrijft dat leert hoe het virusprogramma's kan omzeilen en zoveel mogelijk schade aanricht? Tegen deze virusen valt weinig te doen. Zodra je er een onschadelijk maakt duikt er weer ergens een mutatie op, en dat gaat razendsnel omdat ze de rekenkracht van alle computers op internet zouden kunnen gebuiken.

[Charly]

Mensen zijn gevaarlijk!
zullen we die dan ook maar afschaffen?

[Verwijderd]

melkor ? hoe denk je dat op dat moment de anti-virus software werkt?

[Verwijderd]

Op woensdag 05 september 2001 15:33 schreef [YR]paladin het volgende:
melkor ? hoe denk je dat op dat moment de anti-virus software werkt?

Ik heb het niet over virussen die door mensen geschreven worden maar over virussen die zichzelf schrijven. Die evolueren dus!

[oogapp0ltje]

AI hoeft niet gevaarlijk te zijn... zolang er maar een logische begrenzing wordt gelegd in de ontwikkeling (evolutie) van een op AI gebasseerd systeem is er niets aan de hand.
Als deze er niet zou zijn zou in theorie een robot op termijn slimmer zijn dan mensen... maar dit hoeft niet zo te zijn dat dat 'het einde der mensen' betekend.

[Ivo]

Mensen zijn gevaarlijk!
zullen we die dan ook maar afschaffen?

Onzin! Dat lossen we net als dit op:

AI hoeft niet gevaarlijk te zijn... zolang er maar een logische begrenzing wordt gelegd in de ontwikkeling (evolutie) van een op AI gebasseerd systeem is er niets aan de hand.
Als deze er niet zou zijn zou in theorie een robot op termijn slimmer zijn dan mensen... maar dit hoeft niet zo te zijn dat dat 'het einde der mensen' betekend.

Als grens voor de mens nemen we hier het ethisch handelen. Men moet ethisch handelen om een betere wereld te krijgen. Het probleem is: Hoe handelt men ethisch? Daar is geen goed antwoord op te geven. Als jullie dat wel kunnen? Graag!

Beetje offtopic

Goed punt Ravenof

[Mx. Alba]

Laatst nog ergens een artiekeltje gelezen over de Technology Singularity. Daarin wordt voorspeld dat de technologische vooruitgang zich steeds zal versnellen tot een asymptoot wordt berijkt - een singularity. Op een gegeven moment zullen computers slimmer zijn dan mensen, en die computers zullen nog slimmere computers ontwikkelen, en dat gaat zo constant door, tot je een oneindig grote ontwikkelingssnelheid hebt.

[Chello200]

Als je die computers niet programmeert om steeds nieuwe dingen te leren dan worden ze niet gevaarlijk.

Alleen als je ze moet updaten doe je het handmatig dan weet je zeker dat ze niet tegen jou keren !

Of heb je teveel Terminator gekeken ?

[FCA]

Gewoon de stekker d'r uit trekken? Lijkt me simpel zat. Tenzij d'r natuurlijk iemand zo stom is om robots te maken die op zonnecellen werken.....

[Verwijderd]

A.I.... A.I. zal altijd de juiste keuze maken, niet omdat het hem geld, vrouwen of macht opleverd. Het zal de juiste keuze maken omdat het zo geprogrammeerd is, door ons of door zichzelf. A.I. heeft geen geweten, dus de keuze is altijd goed. De mensen die het minste last hebben van hun geweten zijn toch degene die het verst komen in hun leven, zo gezegd... Politici, zakenlui, ze gaan allemaal over lijken om hun doel te bereiken... hen kan je iets verwijten omdat ze een geweten zouden moeten hebben, maar vervang hen door A.I. en dat argument vervalt. AMD for prez!!!!111 :0

[GeeBee]

AI zal nooit verder komen dan de mensen omdat AI zich ontwikkelt volgens regels die door mensen opgesteld zijn. Ook het maken van nieuwe regels door AI volgt regels die door mensen opgesteld zijn.

[Mx. Alba]

Op donderdag 06 september 2001 07:06 schreef GeeBee het volgende:
AI zal nooit verder komen dan de mensen omdat AI zich ontwikkelt volgens regels die door mensen opgesteld zijn. Ook het maken van nieuwe regels door AI volgt regels die door mensen opgesteld zijn.

Hoe kom je daarbij? Natuurlijk kunnen AI intelligenter dan mensen worden. Al was het maar omdat je honderd AIs kan koppelen om zo de denksnelheid te vergroten. Bij mensen geeft zoiets een onoverkomelijke overhead door de noodzakelijkheid van vergaderingen om al het denkwerk te coördineren. Een cluster AIs zal met veel minder overhead kunnen werken, en dus kan je veel meer AIs clusteren dan mensen.

Cyc is trouwens een heel interessant supercomputertje. Het begrijpt daadwerkelijk natuurlijke taal:

Cyc's mind is like an exhaustively cross-referenced encyclopedia. Listed under bird , for example, are the rules "Every bird is an animal" and "Every bird is an air-breathing vertebrate." A long list of statements follows, sounding a little like something by Gertrude Stein:

Every robin is a bird.

Every thrush is a bird.

Every hummingbird is a bird.

Every raven is a bird.

Every ibis is a bird.

Further on, the rules become increasingly precise. Under the subheading HumanSocialLife , we find: "If ?X is a bird and ?X feels somewhat level of pain, then ?X evokes positive sympathy." In other words, if a person sees a bird that is suffering, that person will usually feel sorry for the bird.

The sum of these facts and rules---about a million of them---is the knowledge base. Some have a weirdly insightful quality. There is everything from practical etiquette ("While a person is driving a car, eye contact is not socially required during conversations") to the romantic ("You can usually see people's noses, but not their hearts") to the theological ("When people die, they stay dead").

Het leuke is namelijk dat de betekenis van alle woorden en begrippen relatief is, niet absoluut. Natuurlijke taal, en vooral het begrip daar van, is gewoon één grote spaghetti-brei van referenties die eigenlijk nooit ergens uitkomen.

Vraag Cyc bijvoorbeeld om je een plaatje te laten zien van een man in doodsangst, en hij geeft je het welbekende plaatje uit de Viëtnamoorlog van die Amerikaan die point blank een Viëtnamees door het hoofd schiet. In de database stond het vermeld als "American soldier puts gun to Viëtnamese sniper's head to execute him", en Cyc interpreteerde daaruit dus dat die Viëtnamees wel doodsangsten uit moest staan.

Anyway, http://www.cyc.com

[Thrillseeka]

zollang ai enkelt als standalone gebruikt gaat worden. Dus dat je ze niet koppelt aan een netwerk enof internet. Kunnen ze niet veel doen. Omdat ze niet kunnen lopen.

Maar als je meerder op inet zet denk ik dat terminator nog niet zo een science fiction is.

Maar ms krijgen we wel goede ai zoals DATA.

[StratoFarmer]

Als we nou gewoon met z'n allen er maar op blijven hameren dat computer 'unter-menschen' (wezens?) zijn, dan krijgen we een soort apartheid.
Tsja, eigenlijk kan dat nooit goed aflopen...
Maar aan de andere kant, tegen de tijd dat computers zo slim zijn lijken we zelf ook niet meer op mensen!
Ik denk aan Androids, mensen met allerlei implantaten die zo misschien steeds toch weer slimmer/krachtiger zijn dan de nieuwste generatie computers.

[beest]

Je hebt weer een beetje teveel naar Stephan Hawking geluisterd geloof ik.

[GeeBee]

Op donderdag 06 september 2001 08:14 schreef Reyn_Eaglestorm het volgende:
Hoe kom je daarbij? Natuurlijk kunnen AI intelligenter dan mensen worden. Al was het maar omdat je honderd AIs kan koppelen om zo de denksnelheid te vergroten. Bij mensen geeft zoiets een onoverkomelijke overhead door de noodzakelijkheid van vergaderingen om al het denkwerk te coördineren. Een cluster AIs zal met veel minder overhead kunnen werken, en dus kan je veel meer AIs clusteren dan mensen.

Stel: mensen programmeren alleen 1e graads vergelijkingen in een AI. Dan geloof ik niet dat ze ooit een kwadratische vergelijking kunnen oplossen. Ze komen dan nooit verder dan de complexiteit van de regels waarmee ze geprogrammeerd zijn.

Verder moet denksnelheid niet met intelligentie verward worden.

[BlackBurn]

MM de spits van gisteren geloof ik stond inderdaad dat computers de macht van de mensheid zouden overnemen. Er was nog wel 10 jaar onderzoek naar gedaan

[Mx. Alba]

Op donderdag 06 september 2001 22:06 schreef GeeBee het volgende:

[..]

Stel: mensen programmeren alleen 1e graads vergelijkingen in een AI. Dan geloof ik niet dat ze ooit een kwadratische vergelijking kunnen oplossen. Ze komen dan nooit verder dan de complexiteit van de regels waarmee ze geprogrammeerd zijn.

Je schijnt te vergeten wat die I in AI inhoudt: Intelligentie. Als een AI vermenigvuldiging kent, en variabelen, dan zal hij ook vermenigvuldiging van variabelen, en dus meerderegraadsvergelijkingen kunnen ... uhh ... bedenken? uitvinden? Hoe noem je zoiets?

Uit twee delen iets nieuws maken, uit waarnemingen conclusies trekken, tussen waarnemingen verbanden leggen - dat is intelligentie. Een kunstmatige intelligentie zal dat ook kunnen doen.

Verder moet denksnelheid niet met intelligentie verward worden.

Natuurlijk niet. De basisintelligentie blijft gelijk, maar de denksnelheid wordt verhoogd.

Wat betreft lerende computers is men trouwens al heel snel. Schaakcomputers die van hun eigen fouten leren hebben al grootmeesters verslagen. Natuurlijk, een computer kan sneller denken. Een menselijke schaakspeler denkt in patronen, terwijl een computerspeler haarfijn alle mogelijkheden kan uitwerken. Maar schaak is te complex om alle mogelijkheden uit te werken. En dus moet een schaakcomputer ook leren in patronen te denken. Leren beslissingen te maken gebaseerd op onvolledige informatie. Leren van zijn fouten. Dat is al een heel eind op weg richting intelligentie.

Het lijkt me best leuk om zo'n zelflerende schaakcomputer te maken, en daar alles wat hij geleerd heeft uit te halen, zodat alleen de regels van het spel overblijven. Of programmeer er een paar basismodellen in zoals beginnende schakers die ook leren. Een paar standaardopeningen. Volg exact alles wat die schaakcomputer doet in zijn partijtjes schaak, en concludeer daaruit of hij intelligent is. Houdt hij zich aan de standaardopeningen? Of verandert hij zijn openingstaktiek wel, maar alleen volgens patronen die hij bij zijn tegenspeler waarnam? Of verzint hij zelf nieuwe openingen?

Of nog leuker ... zet twee van die schaakcomputers tegen elkaar en kijk of ze het bij die standaardmodellen houden, of dat hun spel zich ontwikkelt, ingewikkelder wordt, of dat ze misschien zelfs eigen stijlen ontwikkelen. Als dat gebeurt, heb je een goed bewijs van intelligentie.

Dat is trouwens ook de manier waarop bewezen is dat dolfijnen intelligent zijn, en kunnen communiceren. In een of ander dolfinarium werd de dolfijnen een signaal aangeleerd dat betekent "verzin zelf iets nieuws en voer het uit". Dat leverde verrassende resultaten op. Ze maakten nieuwe combinaties van bekende salto's enzo, maar ook hele nieuwe dingen. Maar het meest verbazingwekkende was nog toen ze dat commando aan twee dolfijnen tegelijk gaven. Ze zwommen kort om elkaar heen, en gingen toen tegelijk, perfect synchroon, een stukje achteruitzwemmen. Achteruitzwemmen hadden ze nog nooit laten zien, laat staan met z'n tweeën, en nog synchroon ook. Laat AIs dat soort truukjes uithalen, dan kan je wat mij betreft over intelligentie spreken.

Die Cyc computer is trouwens ook al een aardig eind. Hij begrijpt natuurlijke taal. Maar het leuke is dat eigenlijk aan geen enkel woord een betekenis is gegeven, behalve onderlinge referenties. Dus je zou kunnen zeggen dat hij niet weet wat een hond is - maar hij weet wel dat het een (meestal) behaard viervoetig roofdier is dat vaak als huisdier wordt gehouden. Wat behaard is weet hij ook niet, maar hij weet wel dat het betekent dat de huid dan bedekt is met haren. Wat huid is weet hij ook niet, maar wel dat de huid de buitenste laag cellen van een lichaam is, die het inwendige beschermt tegen invloeden van buiten. Enzovoorts enzovoorts enzovoorts tot je de hele spaghettibrei van referenties gehad hebt. En wie zegt dat de manier waarop wij woorden begrijpen niet exact het zelfde is? Waarschijnlijk juist wel.

Let maar eens op.

Beantwoordt de volgende vragen. Beantwoordt ze zo snel mogelijk, maar beantwoordt ze wel voordat je de volgende leest.

-- Wat voor een kleur heeft een koelkast?

-- Wat drinkt een koe?

Geef toe. Je dacht melk. Maar het antwoord is water. Waarom dacht je melk? Je zag "koelkast", "wit" (het antwoord op de eerste vraag), "drinkt" en "koe". Het eerste wat in je opkomt is dus "melk", immers, al die vier woorden zijn aan "melk" gerefereerd.

En er zijn wel meer dingen die bewijzen dat menselijk begrip, en ook ons geheugen, werkt met referenties. Puur en alleen referenties. Want geef nou toe, weet jij wat een tafel is? Je herkent een tafel als je er een ziet - maar wat IS een tafel? Het is onmogelijk om een waterdichte definitie van "tafel" te geven. Sokrates heeft het geprobeerd, en is er nooit uitgekomen - ohnee, hij zocht volgens mij naar de definitie van "stoel", maar dat maakt verder niet zoveel uit.

Dus eigenlijk weten wij ook niet wat een tafel is. Cyc ook niet. Maar als ik "tafel" zeg, begrijp jij wat ik bedoel. Cyc ook. Wat is dan het verschil?

[GeeBee]

Maar ook de regels waarlangs een AI "denkt" zijn ontworpen door mensen. Ook het concept van spontane sprongen en combineren van ideeën zal toch op één of andere manier moeten worden geprogrammeerd.

[Anders]

Zodra zelflerende robots steeds serieuzere vormen aan gaan nemen, zal het gevaar van overheersing steeds reëler worden. Dat zullen jij, ik, de rest van GoT en onze kinderen nog niet meemaken, maar als het eenmaal zover is kan het hard gaan. Dat robots de komende honderdduizenden jaren de toekomst van de aarde zullen bepalen geloof ik niet (iets zegt me dat ze elkaar in een totale oorlog om zeep helpen), dat ze de mensheid kunnen uitroeien is niet ondenkbaar.

[Anders]

Op vrijdag 07 september 2001 07:09 schreef GeeBee het volgende:
Maar ook de regels waarlangs een AI "denkt" zijn ontworpen door mensen. Ook het concept van spontane sprongen en combineren van ideeën zal toch op één of andere manier moeten worden geprogrammeerd.

Men gaat uiteindelijk natuurlijk naar robots toe die hun eigen regels moeten kunnen verbeteren. Dan hoef je als mens die regels niet meer te programmeren, enkel nog hoe ze die regels zelf kunnen verbeteren. Ja, zeg je dan, maar daat zit ook nog een beperking in. Klopt misschien wel, en dan wil men weer naar robots toe die de wijze waarop ze hun regels kunnen verbeteren, kunnen verbeteren. Etc. etc. etc. Dat zal echt niet morgen al klaar zijn, maar reken maar dat zulke dingen op de lange duur staan te gebeuren.

[GeeBee]

Op het gevaar af om weer een hele lading over me heen te krijgen net als de vorige keer dat ik hier over begon:

1 De logicus Kurt Gödel heeft in zijn eerste stelling aangetoont dat geen enkel systeem volledig beschreven kan worden. Er blijven bijvoorbeeld altijd stellingen over die onbewijsbaar en onweerlegbaar zijn. En als onbewijsbaar geachte stellingen tóch bewezen worden, dan volgen er uit de consequenties daarvan weer andere stellingen die onbewijsbaar zijn, etc.

2 De informaticus Gregory Chaitin heeft aangetoond dat de onvolledigheidsstelling van Gödel het gevolg was van het feit dat geen programma een reeks kan voortbrengen dan de complexiteit van het programma zelf. Hij zei daarover dat we geen 10-ponds stelling kunnen bewijzen met 5 pond aan axioma's.

Daarop voortbordurend zou je kunnen zeggen dat AI's nooit mensen voorbij kunnen streven omdat wij met onze hersenen een bepaalde, gelimiteerde, complexiteit aan regels kunnen opstellen.

[Ortep]

Is dit niet gelijk zo'n onbewijsbare stelling?

[Verwijderd]

Op vrijdag 07 september 2001 17:00 schreef GeeBee het volgende:
2 De informaticus Gregory Chaitin heeft aangetoond dat de onvolledigheidsstelling van Gödel het gevolg was van het feit dat geen programma een reeks kan voortbrengen dan de complexiteit van het programma zelf. Hij zei daarover dat we geen 10-ponds stelling kunnen bewijzen met 5 pond aan axioma's.

Dit gaat over complexiteit in het domein, en niet over complexiteit in het bereik. Zo zul je bv. met een digitale computer nooit analoge programmering bereiken, je kunt haar alleen discreet (in stapjes) simuleren.

Maar je kunt binnen dat domein wel programma's produceren met een verschillend bereik. Met andere woorden: computers kunnen wetmatigheden binnen het digitale domein ontdekken waar het menselijk brein zonder hulp misschien nooit achter zou komen.

Schaken is bevoorbeeld zo'n digitaal domein, of discrete logica in het algemeen. Wat jij beweert is dat een mens nooit een computer zo zou kunnen programmeren dat die computer in staat was die mens te verslaan in een potje schaak...

[GeeBee]

Ok, klinkt goed.
Alleen het digitale domein van programma's is wel voortgekomen uit ons analoge domein.

Computers kunnen mensen best verslaan met schaak, maar tot nu toe is er volgens mij nog geen geschikte Go-computer bedacht, omdat dat spel complexer is dan schaak.
Daarmee bedoel ik dus niet dat de regels op zich eenvoudiger te begrijpen zijn, maar dat het resultaat van die regels een complexer spel is en daarmee de regels ook complexer zijn.

[Ortep]

Op vrijdag 07 september 2001 20:12 schreef GeeBee het volgende:
Daarmee bedoel ik dus niet dat de regels op zich eenvoudiger te begrijpen zijn, maar dat het resultaat van die regels een complexer spel is en daarmee de regels ook complexer zijn.

Er is ook nog geen goede dam computer. Dammen is wat regels betreft eenvoudiger dan schaken. Maar er zijn meer mogelijkheden omdat de stukken gelijkwaardig zijn. Maar de reden dat het niet gaat is niet omdat de computer de regels niet kent, maar omdat het aantal mogelijkgheden snel uit de hand loopt net als bij go. Dat zijn dus heel eenvoudige regels met complexe gevolgen.

[Verwijderd]

Als ik et goed hebm dan wordt zo'n A.I. toch geprogrammeerd zichzelf te verbeteren... Het kan dus van zichzelf leren... Je kunt dan wel grenzen programmeren van dingen die het wel of niet mag weten, maar als het ding vanzichzelf kan leren, kan het ook voorbij die grenzen leren, of je het nou wilt of niet... Je kunt dan met allerlei moelijke verhalen komen: Als alleen maar 1e graads vergelijkingen invoert dan kan et nooit een kwadratische vergelijking oplossen... Das onzin... De mens dan, d8 je dat de neanderthalers wisten hoe ze vergelijkingen moesten oplossen, laat staan tellen??? Nee dus... Dat heeft de mens zich ook allemaal moeten leren... Grenzen maken dan ook niks uit, want door te leren verleg je die grenzen steeds...

[GeeBee]

Klopt, ik zeg ook niet dat AI's niet kunnen leren, en mensen doen dat zeker zoals je zelf al zegt. De vraag is echter of AI's ooit vérder dan mensen kunnen komen. Ik denk dus van niet omdat mensen geen dingen kunnen bedenken die complexer zijn dan zichzelf. En dus ook geen dingen kunnen bedenken die dingen kunnen voortbrengen die complexer zijn dan mensen.

[Mx. Alba]

Asking if computers can think is like asking if submarines can swim.

Het varen dat een onderzeeër doet lijkt op zwemmen, emuleert zwemmen, en heeft het zelfde effekt als zwemmen, maar het is het niet. Het complexe rekenen dat een AI doet, lijkt op denken, emuleert denken, heeft het zelfde effekt op denken, maar is het niet.

Maar wat is denken dan wel? Ik weet het niet. Moet ik nog over nadenken

Het grootste verschil tussen het menselijk brein en een computerbrein is dat een computerbrein in principe geordend is, terwijl een menselijk brein in principe chaotisch is. De plaatsing van de transistoren in een chip, en de verbindingen daartussen, zijn namelijk geordend en regelmatig. De plaatsing van de neuronen in de menselijke hersenen is puur willekeurig, en ook de verbindingen ertussen zijn ongeordend. Een ander groot verschil is dat in een computerchip de hardware vast is, terwijl de "hardware" in de hersenen variabel is en zich kan aan passen: immers, niet alleen de "software", de omslagpunten van de neuronen, kunnen veranderen, maar ook de "hardware", de verbindingen tussen de neuronen. Een menselijk brein is dus fundamenteel vele ordes van grootte flexibeler dan een computerbrein.

Op kleine punten zijn er al computers die de mens qua intelligentie lijken in te halen. Maar die computers zijn nog steeds zeer gespecialiseerd. Het zal mij verbazen als er tijdens mijn leven een computer ter grote van menselijke hersenen wordt uitgevonden met de zelfde capaciteit - nee - met dezelfde flexibiliteit en universaliteit als menselijke hersenen. Hoe ver men met computers nu ook is, in beeldherkenning bijvoorbeeld zijn computers nog mijlen en mijlen ver verwijderd van het menselijk herkenningsvermogen. Ook qua coordinatie van ledematen liggen computers hopeloos achter, hoewel die Japanse notenlezende en pianospelende robot een leuke vooruitgang is, net zoals die Japanse lopende robot - hoewel die laatste nog wel eens struikelt op trappen, maar ja, dat doen mensen ook

[Ivo]

Klopt, ik zeg ook niet dat AI's niet kunnen leren, en mensen doen dat zeker zoals je zelf al zegt. De vraag is echter of AI's ooit vérder dan mensen kunnen komen. Ik denk dus van niet omdat mensen geen dingen kunnen bedenken die complexer zijn dan zichzelf. En dus ook geen dingen kunnen bedenken die dingen kunnen voortbrengen die complexer zijn dan mensen.

Ben ik het niet mee eens. Ze zullen zich wel kunnen ontwikkelen en boven hun eigen grenzen uitkomen, want de algoritmes in een neuraal netwerk zijn vergelijkbaar met onze genen.

Als ik et goed hebm dan wordt zo'n A.I. toch geprogrammeerd zichzelf te verbeteren... Het kan dus van zichzelf leren... Je kunt dan wel grenzen programmeren van dingen die het wel of niet mag weten, maar als het ding vanzichzelf kan leren, kan het ook voorbij die grenzen leren, of je het nou wilt of niet... Je kunt dan met allerlei moelijke verhalen komen: Als alleen maar 1e graads vergelijkingen invoert dan kan et nooit een kwadratische vergelijking oplossen... Das onzin... De mens dan, d8 je dat de neanderthalers wisten hoe ze vergelijkingen moesten oplossen, laat staan tellen??? Nee dus... Dat heeft de mens zich ook allemaal moeten leren... Grenzen maken dan ook niks uit, want door te leren verleg je die grenzen steeds...

Genen muteren, algoritmes worden willekeurig veranderd. Mensen evolueren, computers "worden slimmer"!

Zo zie ik het.

[Verwijderd]

Op zaterdag 08 september 2001 00:48 schreef BlueAngelGoT het volgende:


Genen muteren, algoritmes worden willekeurig veranderd. Mensen evolueren, computers "worden slimmer"!

Zo zie ik het.

True true...

[Jelle Niemantsverdriet]

Het grootste verschil tussen het menselijk brein en een computerbrein is dat een computerbrein in principe geordend is, terwijl een menselijk brein in principe chaotisch is. De plaatsing van de transistoren in een chip, en de verbindingen daartussen, zijn namelijk geordend en regelmatig. De plaatsing van de neuronen in de menselijke hersenen is puur willekeurig, en ook de verbindingen ertussen zijn ongeordend. Een ander groot verschil is dat in een computerchip de hardware vast is, terwijl de "hardware" in de hersenen variabel is en zich kan aan passen: immers, niet alleen de "software", de omslagpunten van de neuronen, kunnen veranderen, maar ook de "hardware", de verbindingen tussen de neuronen. Een menselijk brein is dus fundamenteel vele ordes van grootte flexibeler dan een computerbrein.

Wat jij noemt wordt 'connectionisme' genoemd: het brein ontwikkelt zich door het vormen van nieuwe verbindingen tussen neuronen of door versterken/verzwakken van bepaalde verbindingen. Het is wel mogelijk om dit te simuleren met behulp van computers, je hebt dan als het ware een kunstmatig stelsel van neuronen met verbindingen ertussen. Zo'n netwerk ga je dan 'trainen' door bepaalde input aan de gewenste output te koppelen. Na een flink aantal 'trainingsrondes' zal zo'n netwerk de juiste verbindingen gemaakt hebben om deze taak steeds beter uit te voeren.
Hierbij zie je niet wat het netwerk precies doet, je hebt dus niet geprogrammeerd: als het rechterhoekje schuin naar beneden loopt dan kan het wel eens de letter 'R' zijn oid; het netwerk krijgt alleen input en output aangeboden en vormt intern (in de zogenaamde 'hidden layer') de verbindingen.
Je simuleert dit natuurlijk wel op een geordend computerbrein, maar benadert op deze manier dus wel een beetje het menselijk brein.

[Verwijderd]

computers die zelf denken? lijkt mij ook onmogelijk.
je kan ze hoogstens fouten leren, of nutteloosheid leren. Grappig zou zijn als we kunnen mengen, pc en mens of dier. Zou me niks verbazen als dat in de toekomst gebeurd.

[Morphs]

Ik denk dat zelfbewustzijn cruciaal zal zijn voor het maken van een superieure computer. Als een computer niet weet wat zijn plaats in de wereld is, dan zal hij nooit echt kunnen interageren met die wereld (nu ik dit schrijf besef ik me wel dat dat voor mensen eigenlijk ook niet te bewijzen valt. Je kunt nooit bewijzen of we echt op deze aarde zijn of slechts in een soort matrix leven, maar dit terzijde). Zodra een computer echt weet dat hij een computer is, wat zijn sterke en zwakke punten zijn, dan zou het misschien kunnen dat hij zich gaat ontwikkelen. Maar toch zal daaraan een "instinct" ten grondslag moeten liggen. Bijvoorbeeld de wil om te overleven en de wil om zich te ontwikkelen. En dit laatste komt voort uit de wil om als ras te overleven.

Op woensdag 05 september 2001 17:29 schreef Reyn_Eaglestorm het volgende:
Laatst nog ergens een artiekeltje gelezen over de Technology Singularity. Daarin wordt voorspeld dat de technologische vooruitgang zich steeds zal versnellen tot een asymptoot wordt berijkt - een singularity. Op een gegeven moment zullen computers slimmer zijn dan mensen, en die computers zullen nog slimmere computers ontwikkelen, en dat gaat zo constant door, tot je een oneindig grote ontwikkelingssnelheid hebt.

Ik denk dat dit niet mogelijk is. Er wordt in dat artikel namelijk geen rekening gehouden met het feit dat die computers ook daadwerkelijk geproduceerd moeten worden. En dat proces kan nooit oneindig snel gaan. Ik denk dus niet dat er een moment is waarop computers in een milliseconde oneindig slim worden.

[Verwijderd]

a·c = b·c
oplossing:
a=b V c=0

als de comps erachter komen dat er meerdere problemen worden veroorzaakt door de mens, is de mens uitroeien een logische optie.

Zolang maar niemand verteld hoe de mens moet worden uitgeroeid

[Verwijderd]

Op woensdag 05 september 2001 14:25 schreef Melkor het volgende:
Irrationele mensen kunnen altijd nog gewetensbezwaar krijgen en besluiten om toch maar geen bom te gooien. Heb ik liever als een kille computer.

gewetensbezwaar kan je ook incalculeren. alle aspecten die overwogen moeten worden om een atoombom te gooien gaan sowieso het menselijk bevattingsvermogen te buiten. het lijkt me wel belangrijk dat de software die zulke beslissingen neemt onpartijdig is afgesteld en genoeg factoren kent om tot een zo juist mogelijke beslissing te komen.

[GeeBee]

Zolang beslissingsprogramma's door mensen worden afgesteld, kun je de eis van onpartijdigheid wel laten varen

[Verwijderd]

Ik heb niet de hele draad gelezen, duz kan zijn dat mijn posting beetje raar ertussen komt te staan, maar alz mensen zo ver zijn dat we machines/computers kunnen bouwen die zo slim zijn dat ze of zichzelf slimmer ontwikkelen of al door ons slimmer dan ons zijn gebouwd, dan zouden we wel stom zijn om zoon intelligentie aan die machines te geven, en niet aan ons zelf...

[Verwijderd]

nou daar ben je zelf nog wel bij drop lul:(

[Verwijderd]

We houden het simpel.. in de besturings chip zet je gewoon limits, bv kan niet data versturen naar het internet zonder gebruikersbevestiging..
of mag niet de kern code (waar bepaalde veiligheids opties in staan) updaten.
het is allemaal restrictie werk.. zorgen dat de AI niet zun eigen personallity changed... (het slaafje geen eigen wil geven heheh)

dan blijft het leuk.

[maartenvdv737]

Zodra computers intelligenter worden dan mensen, dan zullen ook computers afwegingen moeten kunnen maken tussen goed en fout. Intelligentie is namelijk veel meer dan snel berekeningen kunnen maken.

Stel dus dat wij computers kunnen bouwen die onze hersens nabootsen. In dat geval kunnen computers net zo intelligent worden als wij. Hoe komt iedereen er opeens op dat computers per definitie slecht zouden worden op het moment dat ze over intelligentie beschikken?

Zijn mensen dan geen computers die in de loop van hun bestaan allemaal regeltjes met normen en waarden hebben opgeslagen in hun geheugen en aan de hand daarvan beslissingen hebben genomen?

Zodra een computer net zo intelligent is als een mens zou je dus ook het verschil in gedrag niet meer kunnen merken. Dan heb ik het dus niet over zoiets simpels als de Turing-test, maar intelligentie die veel dieper gaat.

Dat is ff alles wat ik op dit moment kan bedenken

[Mir]

Ik las laatst iets in de spits (iemand zei het er al over maar vergat 1 ding) dat het ook anders uit kon pakken.

Kijk naar de organismes:
die waren altijd in overvloed...Toen de mens steeds machtiger werd betekende dit niet voor de organismes (hier heb ik het even over schimmels en bacteriën) dat zij het slechter kregen..integendeel juist!! Ze kregen het steeds beter...Denk maar aan je broodje die ergens in de bosjes ligt...deze wordt bewoond door gigantisch veel van die mooie groene mannetjes (lees: schimmels) (weer iets om een nieuw topic over te beginnen..zijn die groene schimmels de groene wezentjes waar wij naar zoeken in de ruinmte? )

Dus wieweet wat wij aan die computers gaan hebben als deze machtiger worden dan ons! Misschien hebben we er juist profijt van net als de schimmels profijt hebben aan de mensen!


iets anders #2:
Ik hoorde laatst van een klasgenoot van me die het over een heel simpel computer programma had waarbij er leven nagebootst werd.
Ze aten elkaar op en konden daardoor overleven..ze konden alleen omhoog, naar boven, links en rechts af..
Maar op een gegeven momemt sprong er 1 'wezentje' (#1) over de ander heen (#2) en begon hem te helpen omdat wezen #3 wezen #2 wilden opeten..De programmeurs stonden hier zelf van te kijken...
Of dit waar is weet ik niet

gr. Maarten

[Kev0867]

ik denk dat er voorlopig geen problemen zullen komen doordat computers strax de boel gaan overnemen, wanneer we computers zo hebben geprogrammeerd zodat ze emoties kunnen tonen en uiten dan pas maak ik me zorgen, strax gaan ze staken tegen de mensen of gaan een soort beweging hervormen tegen de mensheid.., misschien klinkt dit wel onzin, maar ja, ik heb het over 50jaar ofzo, en dan heb je wel kans op dat strax jou collega's op je werk robots zijn wie weet..

[GeeBee]

Dat is het programma Life van (geloof ik) Conwell. Ooit zelf nog eens geprogrammeerd in Sheffield Pascal op school.

Heel weinig en simpele regels, die een enorm complex iets kunnen teweegbrengen. Het resultaat is wel altijd hetzelfde per uitgangssituatie, dus niet erg intelligent.
Wel leuk om naar te kijken...

[Verwijderd]

Op zondag 09 september 2001 21:14 schreef Darknessy het volgende:
We houden het simpel.. in de besturings chip zet je gewoon limits, bv kan niet data versturen naar het internet zonder gebruikersbevestiging..
of mag niet de kern code (waar bepaalde veiligheids opties in staan) updaten.
het is allemaal restrictie werk.. zorgen dat de AI niet zun eigen personallity changed... (het slaafje geen eigen wil geven heheh)

dan blijft het leuk.

Dan zou het dus best wel geen Artificial Intelligence zijn... Als je et geen wil geeft... Een lichaam (menselijk) zonder wil is het nog lang geen mens...