Technologie singulariteit revisited...

[Verwijderd]

Met de introductie van de 1 PFLOP sterke Roadrunner supercomputer liggen we mooi op schema met één van de voorwaarden voor het bereiken van de technologie singulariteit rond 2025. In het kort gaat het hier om een exponentiele groei van de techniek zodra we een superintelligente computer (Lees: slimmer dan een mens) een nog slimmere computer laten ontwikkelen, enz. enz. enz. Meer info hierover: Wikipedia: Technological singularity Het lijkt me leuk om hier wat meer over te bomen, vandaar dit topic.

Het menselijke brein wordt geschat op tussen 100 TFLOPS (Hans Moravec of Carnegie Mellon University) en 100 PFLOPS (Nick Bostrom of Yale). Vraag: is een voldoende intelligent systeem automatisch zelfbewust? En: is zelfbewustzijn eigenlijk wel nodig voor een dergelijke AI? Het bereiken van de 100 TFLOPS grens ligt in ieder geval niet zo héél ver in de toekomst.

Ik vind het een mooie gedachte dat ik het bereiken van dit stadium mogelijk nog mee ga maken en kan eigenlijk niet wachten op de veranderingen die hier mee gepaard gaan. Maar gaan we het wel redden? Groei in technologie wordt gedreven door energie, juist het gebrek hieraan kan de groei stilzetten.

Intelligentie is niet noodzakelijk uit te drukken in FLOP en ontwikkeling van zelflerende kunstmatige intelligentie is een tak van sport waar we pas de eerste kinderstapjes gezet hebben.

Is dit niet gewoon en verkapte vorm van geloof in een godheid die we zelf gaan creeeren? Wikipedia: Omega point

Doorzien we de gevolgen wel van deze ontwikkeling?

[ Voor 13% gewijzigd door Verwijderd op 18-06-2008 13:08 ]

[Sissors]

inteligentie kan je niet uitdrukken in flops, het ligt er nogal aan wat je ermee gaat doen.

Je kan twee computers die 100 petaflop rekenkracht hebben heel veel spelletjes boter-kaas-en-eieren tegen elkaar laten spelen, maar daar worden ze niet zelfbewust van.

Uiteindelijk zal het alleen lukken als de software zichzelf kan herschrijven en kan verbeteren.

[Verwijderd]

Het bereiken van die 100 TFLOPS zal inderdaad niet zo lang meer duren. Maar dat een computer 100 TFLOPS kan berekenen wil niet zeggen dat hij zo slim als een mens is. Mensen hebben en bewustzijn, computers niet. Dus als we menselijk gedrag uit een computer willen zien moet er eerst een 'programma' geschreven worden die het bewustzijn van de mens simuleert. Dan zal de robot zichzelf dingen kunnen 'leren' en uiteindelijk iets met zijn 'intelligentie' kunnen doen.

Maar om zo'n 'bewustzijn programma' te schrijven moet de mens veeeel meer kennis over de psychologie van de mens hebben. Dus ik denk dat het na het doorbreken van de 100 TFLOPS grens nog een hele tijd duurt voordat we die 'intelligentie' kunnen gaan gebruiken om technologie verder door te ontwikkelen. Misschien dat het ons nooit gaat lukken, want het bewustzijn/de psychologie van de mens te simuleren is echt heel erg lastig.

Maarja wie weet, we wachten maar af

[MAX3400]

Ik denk dat er miljoenen randvoorwaarden zijn alvorens een PC zelfbewust kan worden; al zet je ergens 10000PFLOPS aan power neer, zonder voldoende software en input-mogelijkheden ben je gewoon reddeloos aan het warmstoken en verder niets.

[HeepH]

Denk meer dat je de vraag moet leggen bij : Wat wil je dat de computer simuleert? Wiskundig gezien ("sommetjes") zijn computers ons al lang voor, lezen (ocr) ook. Taalkundig deels (vocabulair). Opslagcapaciteit , valt over te discussieren.

Wat onze hersens kunnen, het verwerken van heel veel input, en het selecteren, dat is lastig om te simuleren. Ook de manier waarop wij zien (slechts een aantal gegevens en heeeeel veel interpolatie en opbouw op "educated guesses") is verdomd lastig om te simuleren...

De vraag is dus hoe definieer je een computer als gelijk aan menselijk-vermogend ? Dan pas kun je een analyse maken van het vereiste rekenkundig vermogen...

[Verwijderd]

Mee eens: Met het ontwikkelen van een voldoende snelle computer ben je er natuurlijk niet maar het is een van de voorwaarden van het bereiken van de singulariteit.

Wat het ontwikkelen van AI en het doorgronden van dit soort processen maakt de wetenschap ook grote vooruitgang hoewel het niet zo'n continue proces is als de groei van rekencapaciteit.

Verwijderd schreef op dinsdag 17 juni 2008 @ 15:55:
Mensen hebben en bewustzijn, computers niet. Dus als we menselijk gedrag uit een computer willen zien moet er eerst een 'programma' geschreven worden die het bewustzijn van de mens simuleert. Dan zal de robot zichzelf dingen kunnen 'leren' en uiteindelijk iets met zijn 'intelligentie' kunnen doen.

Ok. Maar we zeggen ook van dolfijnen en mensapen dat ze zeflbewust zijn. En dan kom je op een lastige vraag: is zelfbewustzijn een biologische functie of is het meer dan dat. Maar ook: is zelfbewustzijn nodig voor het ontwikkelen van een superintelligente/lerende machine?

[ Voor 58% gewijzigd door Verwijderd op 17-06-2008 16:08 ]

[Verwijderd]

Dat er ooit een bewuste computer komt kan ik me niet voorstellen,maar dat zegt niets. Want wie had 30 jaar geleden kunnen bedenken dat er überhaupt zoiets als GoT was tenslotte
Het probleem aan een computer is in deze dat deze altijd een gestructureerde versie van een probleem ziet. Een mens heeft tegelijkertijd nog heel veel andere impulsen. Een computer zal dus altijd een zelfde output geven ten aanzien van een probleem, omdat deze op een zelfde manier berekend wordt.
Probleemanalyse met een computer is prima te doen, en zal zichzelf door middel van onderzoek alleen maar verbeteren. Maar doordat niet alles logisch is op deze wereld zal het heel moeilijk worden voor een computer, hoeveel TFlOP die ook mag hebben, om de output te interpreteren.

[ Voor 5% gewijzigd door Verwijderd op 17-06-2008 16:08 ]

[Opi]

furby-killer schreef op dinsdag 17 juni 2008 @ 15:54:
Inteligentie kan je niet uitdrukken in flops, het ligt er nogal aan wat je ermee gaat doen.

In een kritiek van Dennett op Searle's Chinese Room wordt snelheid als voorwaarde voor intelligentie en bewustzijn aangehaald.

[Sissors]

Ik heb daar zelf al mijn twijfels over, want een computer blijft een computer, als hij zelfbewust is op 100Tflop, waarom zou hij dat met zelfde programmatuur op 1Tflop dan niet zijn? (alleen wat trager).

En een noodzakelijke voorwaarde is niet hetzelfde als intelligentie uitdrukken in flops.

[Verwijderd]

@Opi: ga ik eens lezen. Uiteraard is het maar één van de voorwaarden.

Ben nu trouwens bezig in Ray Kurzweil - The Singularity Is Near, zeker de moeite waard als dit je interesseert.

[ Voor 3% gewijzigd door Verwijderd op 17-06-2008 16:23 ]

[Opi]

furby-killer schreef op dinsdag 17 juni 2008 @ 16:14:
Ik heb daar zelf al mijn twijfels over, want een computer blijft een computer, als hij zelfbewust is op 100Tflop, waarom zou hij dat met zelfde programmatuur op 1Tflop dan niet zijn? (alleen wat trager).

Zonder een hele discussie over IQ-tests aan te willen wakkeren; deze tests nemen ook de snelheid waarmee de boel wordt afgehandeld mee. Als jij sneller dan een ander verbanden ziet en systemen daarmee kunt doorgronden, zal je omgeving stellen dat jij intelligenter bent dan die ander.

Discussies over intelligentie en bewustzijn leveren doorgaans vreemde argumenten op omdat de betrokken partijen niet eenduidige betekenissen aan deze woorden toekennen.

Verwijderd schreef op dinsdag 17 juni 2008 @ 16:19:
Ben nu trouwens bezig in Ray Kurzweil - The Singularity Is Near, zeker de moeite waard als dit je interesseert.

Thx. Komt op m'n lijst te staan.

[ Voor 14% gewijzigd door Opi op 17-06-2008 17:10 ]

[Verwijderd]

De meest voor de hand liggende (niet perse de meest efficiente) manier om menselijke intelligentie te bereiken is een neuraal netwerk te simuleren dat qua complexiteit lijkt op het menselijk zenuwstelsel. Ik, als leek, kan me geen enkele andere concrete aanpak voorstellen. De mens heeft 100 miljard neuronen die allemaal gemiddeld 1000 verbindingen hebben. Je moet dus een netwerk simuleren van 10¹¹ nodes met gemiddeld 1000 verbindingen per node. De nodes zijn niet erg snel, maar voor een beetje resolutie lijkt een timestep van 1 milliseconde in die simulatie me niet overdreven. Laten we dan een ruwe schatting doen van 1000 FLOP per node per tijdseenheid om alle signalen te integreren, en we komen op een benodigde rekencapaciteit van 10¹⁴ berekeningen per tijdseenheid en dus 10¹⁷ = 100 EFLOPS. Dat duurt nog wel even. Echter, supermenselijk is die computer dan nog allerminst, om sneller te denken dan een mens mogen er nog wel een paar ordes van grootte bij qua rekenkracht.

En dan is er nog de vraag, hoe ontwerp je zo'n netwerk. We hebben geen flauw idee hoe connecties in ons brein lopen op neuronniveau, en dat zal per persoon zowiezo geen constante zijn. Zijn onze AI-technieken al goed genoeg om zoiets zichzelf te laten ontwerpen?

[Verwijderd]

Verwijderd schreef op dinsdag 17 juni 2008 @ 18:14:
De meest voor de hand liggende (niet perse de meest efficiente) manier om menselijke intelligentie te bereiken is een neuraal netwerk te simuleren dat qua complexiteit lijkt op het menselijk zenuwstelsel. Ik, als leek, kan me geen enkele andere concrete aanpak voorstellen. De mens heeft 100 miljard neuronen die allemaal gemiddeld 1000 verbindingen hebben. Je moet dus een netwerk simuleren van 10¹¹ nodes met gemiddeld 1000 verbindingen per node. De nodes zijn niet erg snel, maar voor een beetje resolutie lijkt een timestep van 1 milliseconde in die simulatie me niet overdreven. Laten we dan een ruwe schatting doen van 1000 FLOP per node per tijdseenheid om alle signalen te integreren, en we komen op een benodigde rekencapaciteit van 10¹⁴ berekeningen per tijdseenheid en dus 10¹⁷ = 100 EFLOPS. Dat duurt nog wel even. Echter, supermenselijk is die computer dan nog allerminst, om sneller te denken dan een mens mogen er nog wel een paar ordes van grootte bij qua rekenkracht.

En dan is er nog de vraag, hoe ontwerp je zo'n netwerk. We hebben geen flauw idee hoe connecties in ons brein lopen op neuronniveau, en dat zal per persoon zowiezo geen constante zijn. Zijn onze AI-technieken al goed genoeg om zoiets zichzelf te laten ontwerpen?

Stel dat ons dat lukt dan zijn we er nog niet denk ik. Wij worden geboren met een soort van instinct dat we ons zelf dingen beginnen te leren. Dus als we een netwerk als dat zouden kunnen verwezenlijken dan moet er toch nog een stukje zeer geavanceerde software op. En dat stukje software laat waarschijnlijk langer op zich wachten dan de ontwikkeling in TFLOPS.

[Verwijderd]

Verwijderd schreef op dinsdag 17 juni 2008 @ 18:14:
En dan is er nog de vraag, hoe ontwerp je zo'n netwerk. We hebben geen flauw idee hoe connecties in ons brein lopen op neuronniveau, en dat zal per persoon zowiezo geen constante zijn. Zijn onze AI-technieken al goed genoeg om zoiets zichzelf te laten ontwerpen?

Nouja, als een redelijk simpele code die het DNA is, dit soort zelfdenkende wezens tot stand kan brengen, dan moet het toch niet al te moeilijk zijn (lees: te volbrengen in een paarhonderd jaar), om een FPGA te maken die zichzelf programmeert volgens de regels van het DNA? Maar misschien is het dan simpeler om dit op een biochemische manier te doen: organisch zelfdenkend materiaal ontwerpen.

[Verwijderd]

Verwijderd schreef op dinsdag 17 juni 2008 @ 18:14:
De meest voor de hand liggende (niet perse de meest efficiente) manier om menselijke intelligentie te bereiken is een neuraal netwerk te simuleren dat qua complexiteit lijkt op het menselijk zenuwstelsel. Ik, als leek, kan me geen enkele andere concrete aanpak voorstellen.

Het is maar zeer de vraag of dit de juiste oplossing is: maak een voldoende op de menselijke hersenen lijkende computer en hij wordt vanzelf net zo intelligent en mogelijk zelfbewust. We weten nog niet voldoende van de menselijke geest om hier iets zinnigs over te zeggen. Check: Wikipedia: Explanatory gap

Een theorie die geopperd wordt is dat ons zelfbewustzijn niet volledig uitgelegd kan worden door de huidige stand van de wetenschap en dat er sprake is van een Quantum Mind. (Wikipedia: Quantum mind) Ik vind het een lollige theorie maar het heeft iets van magie in de middeleeuwen en benadrukt hoe weinig we van dit onderwerp afweten.

Ik blijf me afvragen of het voor een superintelligente computer nodig is om zelfbewust te zijn. Zolang het apparaat kan leren en zijn wereld begrijpt hebt je een prima oplossing toch? Of is zelfbewustzijn een direct gevolg van deze zaken?

[MicroWhale]

Je impliceert dat een wezen (of computer) intelligent moet zijn om zelfbewust te zijn.

Volgens mij is dat niet zo. Er zijn dieren die zich ook zelfbewust worden, die veel minder hersencapaciteit hebben dan wij.

De noodzaak voor zo excessief veel rekenkracht voor zelfbewustzijn lijkt mij dan ook hoogst overdreven. Kijk maar eens naar resultaten uit het AI gebied (zoals bijvoorbeeld Cog). Deze zijn zich in beperktere zin ook bewust van zichzelf met de huidige technieken.

Ik denk eerder dat er slimme algoritmes aan ten grondslag liggen dan capaciteit. Zie het als efficiëntie versus volume. Je kunt er een hoop instoppen, maar de vuistregel blijft garbage in, garbage out.

[Verwijderd]

MrWilliams schreef op woensdag 18 juni 2008 @ 10:57:
Je impliceert dat een wezen (of computer) intelligent moet zijn om zelfbewust te zijn.

Volgens mij is dat niet zo. Er zijn dieren die zich ook zelfbewust worden, die veel minder hersencapaciteit hebben dan wij.

Juist andersom: is een intelligent systeem noodzakelijk zelfbewust?

"An intelligent agent is a system that perceives its environment and takes actions which maximize its chances of success."

Een AI zou zich volgens deze definitie in elk geval bewust moeten zijn van zijn/haar/het omgeving. Is het zich dan ook bewust van zichzelf en is dit belangrijk voor een superintelligente machine?

[FunkyTrip]

Wat wij in ieder geval nog wel gaan meemaken is de replicator. Als rekenkracht zo extreem groot wordt kunnen we uit een hoopje aarde en zeewater elk element of samenstelling maken die we willen

Net als in Startrek, waar een kopje koffie materialiseert hehe.

[Verwijderd]

@FunkyTrip: huh? Bij mijn weten is dat niet mogelijk en zijn er ook nog geen aanleidingen om aan te nemen dat dat ooit mogelijk gaat worden.

[Verwijderd]

FunkyTrip schreef op woensdag 18 juni 2008 @ 13:01:
Wat wij in ieder geval nog wel gaan meemaken is de replicator. Als rekenkracht zo extreem groot wordt kunnen we uit een hoopje aarde en zeewater elk element of samenstelling maken die we willen

Net als in Startrek, waar een kopje koffie materialiseert hehe.

Daar heb je anders meer dan alleen rekenkracht voor nodig. Ik zie bestwel grote technologische obstacles voor het gecontrollerd laten fuseren van zee weter tot de gewenste elementen. En dat dan allemaal in een klein kastje.

[MicroWhale]

Verwijderd schreef op woensdag 18 juni 2008 @ 11:25:
[...]

Juist andersom: is een intelligent systeem noodzakelijk zelfbewust?

"An intelligent agent is a system that perceives its environment and takes actions which maximize its chances of success."

Een AI zou zich volgens deze definitie in elk geval bewust moeten zijn van zijn/haar/het omgeving. Is het zich dan ook bewust van zichzelf en is dit belangrijk voor een superintelligente machine?

Je probeert hier een verband te leggen tussen de aspecten: zelfbewust en superintelligent. Dit zijn imo twee aspecten die geen of nauwelijks een relatie hebben, zoals ik in mijn vorige post duidelijk probeer te maken.

Hiervoor voerde ik het argument aan dat er niet-intelligente systemen zijn die zelfbewust worden gemaakt (zoals Cog, die zich bewust wordt van een arm die hij zelf ongecontroleerd voor zijn eigen camera beweegt en zo onder controle krijgt).
Ik zal de toevoeging doen dat er ook (schijnbaar) intelligente systemen zijn die niet-(zelf)bewust zijn, zoals bijvoorbeeld Deep Blue.

Het antwoord op je vragen is dus: Nee.

[Verwijderd]

Laten we wel wezen: Cog is bij lange na niet zelfbewust. Deep blue is niet intelligent, DB kan alleen heel goed schaken en voor de rest niets. We hebben nog geen idee wat zelfbewustzijn precies is dus stellen dat een superintelligente AI nooit zelfbewust is vind ik wat gewaagd.

Maar goed... laten we het zelfbewustzijn even varen.

[FunkyTrip]

Verwijderd schreef op woensdag 18 juni 2008 @ 14:06:
[...]

Daar heb je anders meer dan alleen rekenkracht voor nodig. Ik zie bestwel grote technologische obstacles voor het gecontrollerd laten fuseren van zee weter tot de gewenste elementen. En dat dan allemaal in een klein kastje.

Ach, we kunnen nu al een paar atomen een berekening laten uitvoeren (quantumcomputers), dus waarom over een jaartje of 50 geen atomen rangschikken in de juiste samenstelling?

[Verwijderd]

@FunkyTrip: uit zeewater atomen rangschikken om tot andere elementen te komen? Momenteel is het enige proces dat nieuwe/andere elementen kan maken een supernova. Wat mogelijk wel zou kunnen is een machine die uit verschillende atomen nieuwe moleculen/structuren bouwt, maar nieuwe elementen zie ik niet gebeuren.

Even terugkomende op Roadrunner. In dit artikel: http://paula.univ.gda.pl/~dokgrk/bre01.html uit 2004 kan je zien dat de som van alle supercomputers in de top 500 voor 2008 nog minder was als Roadrunner alleen. Voor zover ik kan zien ontwikkelen supercomputers zich dus nog steeds sneller als verwacht.

@Captain Proton: Voor het simuleren van het menselijke hersenen wordt 10¹⁶ FLOPS gehanteerd. (Bron: http://singularity.com/charts/page71.html)

[ Voor 47% gewijzigd door Verwijderd op 18-06-2008 16:36 ]

[siggy]

Verwijderd schreef op woensdag 18 juni 2008 @ 15:48:
@FunkyTrip: uit zeewater atomen rangschikken om tot andere elementen te komen? Momenteel is het enige proces dat nieuwe/andere elementen kan maken een supernova. Wat mogelijk wel zou kunnen is een machine die uit verschillende atomen nieuwe moleculen/structuren bouwt, maar nieuwe elementen zie ik niet gebeuren.

Niet waar, als mens zijnde hebben we al genoeg nieuwe elementen gemaakt. Die bestaan wel slechts een fractie van een seconde, maar dan nog. Plus we hebben ook nog zoiets als deeltjesversnellers en daar krijg je ook andere elementen dan dat je er instopt.

[Verwijderd]

@Siggy: elementen niet, deeltjes en isotopen wel. Maar dat is heel iets anders.

Laten we verdergaan met een discussie over de technologie singulariteit of (Als je het persé over replicators wil hebben.) hoe nanotechnologie gebruikt kan worden om de singulariteit te bereiken.

[ Voor 57% gewijzigd door Verwijderd op 18-06-2008 16:56 ]

[FunkyTrip]

Verwijderd schreef op woensdag 18 juni 2008 @ 15:48:
@FunkyTrip: uit zeewater atomen rangschikken om tot andere elementen te komen? Momenteel is het enige proces dat nieuwe/andere elementen kan maken een supernova. Wat mogelijk wel zou kunnen is een machine die uit verschillende atomen nieuwe moleculen/structuren bouwt, maar nieuwe elementen zie ik niet gebeuren.

Nog even een laatste offtopic puntje dan. Ik bedoel inderdaad geen atomen/elementen maken, maar molecuulstructuren opbouwen.

[X-Terminator187]

Ik vind de introductie van de 1PFLOP supercomputer eigenlijk helemaal niet zo'n spannende vooruitgang. Al jaren (sinds 1965) is bekend hoe de trend van de rekenkracht van computers zich voortzet. Met een verdubbeling iedere twee jaar van het aantal transistors dat er in een geintegreerd circuit geplaatst kan worden kun je uitrekenen wanneer we ongeveer aan de 1TFLOP zullen zitten (rond 2028, aangenomen dat we nog steeds computers gebaseerd op silicium blijven bouwen). Dit gegeven geeft echter totaal geen inzicht in de 'intelligentie' van computers.
Als de ontwikkeling van kunstmatige intelligentie (AI) net zo snel zou gaan als de ontwikkeling van supercomputers zou ik veel meer hoop hebben dat we ooit een 'superintelligente' computer krijgen. Wat we precies verstaan onder sterke AI is een punt voor discussie, maar over het algemeen worden deze eigenschappen verwacht van een echte 'superintelligente' computer (bron):

• Redenatie: de computer moet strategie kunnen gebruiken om puzzels op te lossen en oordelen kunnen maken over onzekerheid.
• Kennis: de computer moet kennis kunnen opslaan (inclusief de alledaagse kennis 'gezond verstand' die (bijna) alle mensen bezitten)
• Plannen: de computer moet complexe taken efficient kunnen plannen
• Leren: de computer moet kunnen leren (door inductie en deductie) (dit is mijns inziens het belangrijkste dat een intelligente computer moet kunnen)
• Communiceren in een natuurlijke taal: de computer moet met mensen kunnen communiceren in een menselijke taal
• Waarnemen: de computer moet dingen kunnen waarnemen (zien/horen/voelen)
• Sociale Intelligentie: de computer moet menselijke emoties kunnen waarnemen, interpreteren en verwerken
• Robotica: de computer moet dingen kunnen verplaatsen en manipuleren (niet echt een voorwaarde voor AI vind ik)
• Integratie: de computer moet al deze eigenschappen kunnen toepassen om een taak uit te voeren

Als ik naar deze lijst van eigenschappen kijk zie ik dat op dit moment geen enkele computer slechts één van deze dingen beter kan doen dan de mens, laat staan allemaal. De enige eigenschappen die computers nu in redelijke mate beschikken zijn redenatie, kennis opslag en plannen en dan nog is het de mens die alle parameters moet invoeren.

En dan is er nog de vraag of (zelf)bewustzijn, gevoel en wijsheid nodig zijn voor sterke AI.

Ik zie het helaas somber in en denk niet dat we in de nabije toekomst ook maar in de buurt zullen komen van een computer die op hetzelfde intelligentie niveau is als de mens. Niet tenzij er radicale ontwikkelingen in computeralgorithmes en computerarchitecturen zullen plaatsvinden.

[ Voor 15% gewijzigd door X-Terminator187 op 18-06-2008 18:04 ]

[Verwijderd]

X-Terminator187 schreef op woensdag 18 juni 2008 @ 18:03:
• Leren: de computer moet kunnen leren (door inductie en deductie) (dit is mijns inziens het belangrijkste dat een intelligente computer moet kunnen)

Mee eens, leren en geleerde zaken toepassen is 1 van de belangrijkste functies van een superintelligente AI. We willen 'm immers leren een nog intelligentere AI te maken.

Juist op het gebied van Machine Learning zijn grote stappen gemaakt en wordt er veel vooruitgang geboekt.

[Verwijderd]

Verwijderd schreef op woensdag 18 juni 2008 @ 21:26:
[...]


Mee eens, leren en geleerde zaken toepassen is 1 van de belangrijkste functies van een superintelligente AI. We willen 'm immers leren een nog intelligentere AI te maken.

Juist op het gebied van Machine Learning zijn grote stappen gemaakt en wordt er veel vooruitgang geboekt.

Als we hem dat kunnen leren, waarom maken we dan niet zelf een nog slimmere AI?


EDIT:
Ik weet niet of jullie nou al robots voor je zien, maar vergeet niet dat de supercomputer die de 1 PFLOP heeft gehaald in een grote hal staat en 3,8 MWH verstookt. De 100 TFLOPS of 100 PFLOPS die het menselijk brein haalt is een ruimte van een paar dm^3 en hij werkt op een boterhammetje met hagelslag

[ Voor 25% gewijzigd door Verwijderd op 18-06-2008 22:53 ]

[Delerium]

Zelfredzaam lijkt me essentieel voor zo'n PC. Wanneer de logica daadwerkelijk self-aware wordt kan net de cruciale logica natuurlijk uitvallen door simpelweg de MTBF. Een HDD, geheugenchip, CPU, de stroom of whatever en de superPC valt uit. Natuurlijk valt er middels redundant processen een hop winst te boeken, maar het wezen van zo'n structuur is natuurlijk dat het uniek is en een eigen identiteit heeft.
Want een mens... heeft stofwisseling. Ook al zijn de zenuwcellen na je geboorte al klaar, in de loop van je leven wordt ieder atoom wel een keer vervangen door een ander zodat slijtage opgevangen wordt. Ook al gaat dat eiwit voor eiwit, aminozuur voor aminozuur, DNA voor DNA.... het is dynamisch dus vervangbaar (en dan wordt het natuurlijk ff nagelopen op foutjes, bij foutjes sterft de cel gewoon).
Op macroniveau kan de mens zich mobiel voortbewegen op zoek naar eten/drinken enzovoort. Bij verwondingen kan middels bloedstolling enzo de wond zich helen. Op microschaal vinden heel veel bloedingen plaats door lokale zwaktes die onnoemlijk snel gerepareerd worden. Niet altijd. trombose, hersenbloedingen ten spijt maar meestal wel.
Daarom kan een mens feilbaar en kwetsbaar zijn, het lichaam/herstelt zichzelf. Een computer kan dat nauwelijks en moet dus niet te zwaar op z'n programmatuur leunen maar ook niet te adaptief zijn (want dan sluipen fouten erin). En aangezien hardware altijd gaat falen al is de kans nog zo klein, is het voor de (super) PC lastig om zo'n niveau te halen.

De hersenen zijn waarschijnlijk het meest complexe stukje materie van het universum, dus dat nabootsen zou een wonder zijn.

[Verwijderd]

Nouja, als elke "superPC" op de helft van z'n MTBF twee nieuwe "superPC's" maakt, volgens de kennis die hij dan heeft, dan heb je een PC die z'n soort verbetert (aan de omstandigheden) terwijl hij sterft. Dat lijkt me toch wel de definitie van een goede AI (en van evolutie).

[Makkelijk]

Zoals bijna iedereen hier zegt geloof ik er niet echt in. Het gaat niet om intelligentie, het gaat om de complexiteit van ons lichaam. Een computer heeft geen instinct en ons instinct is de reden dat wij ontwikkeld zijn. Overlevings- en voortplantingsdrang is in mijn ogen de hele reden van ontwikkeling en ondergang van soorten. Computers doen dit niet en gaan dit niet doen.

[ Voor 3% gewijzigd door Makkelijk op 18-06-2008 23:35 ]

[Verwijderd]

Makkelijk schreef op woensdag 18 juni 2008 @ 23:35:
Overlevings- en voortplantingsdrang is in mijn ogen de hele reden van ontwikkeling en ondergang van soorten. Computers doen dit niet en gaan dit niet doen.

Waarom gaan ze dat niet doen? Overlevingsdrang is toch redelijk simpel te programmeren?

code:

if(WANTS_TO_SURVIVE && isGoodTimeToReproduce())
{
    makeBetterRobot("Mini Me 1", currentKnowledge, rndNr());
    makeBetterRobot("Mini Me 2", currentKnowledge, rndNr());
}

Daar heb je een robot die als-ie wil overleven (wat een simpele boolean is), kijkt wanneer het een goede tijd is om te reproduceren, en dan gaattie een betere robot bouwen.

[MicroWhale]

Verwijderd schreef op woensdag 18 juni 2008 @ 15:35:
Laten we wel wezen: Cog is bij lange na niet zelfbewust. Deep blue is niet intelligent, DB kan alleen heel goed schaken en voor de rest niets. We hebben nog geen idee wat zelfbewustzijn precies is dus stellen dat een superintelligente AI nooit zelfbewust is vind ik wat gewaagd.

Maar goed... laten we het zelfbewustzijn even varen.

Waarom niet? Cog wordt zich er bewust van dat 'hij' het zwaaiende geval dat voor zijn camera zelf bestuurt. Hij leert er daarna gecontroleerde bewegingen mee uit te voeren. En dat terwijl er geen regel code dicteert hoe/wanneer/waar hij die arm moet bewegen of het verband aangeeft tussen de arm en de camera. Dan is/wordt die robot zich toch bewust van wat hij met zijn arm kan doen?

Dit is precies wat jij als baby in de beginfase van je leven doet. Je komt erachter dat die zwaaiende uitsteeksels van jou zijn en dat je er nuttige dingen mee kunt doen. Dat is imo één van de eerste fasen van zelfbewust wording.

[dieselb0y]

Ik denk dat we eerder een menselijk brein hebben gekoppeld aan de techniek dan dat we de techniek een menselijk brein laten simuleren.
Wat ik dus bedoel is dat we een brein de rekenkracht en snelheid en ook de opslag van een computer tot zijn beschikking geven, dan kunnen we alles een stuk sneller uitrekenen controleren en simuleren, we werken dus de mogelijkheden van onze ideeën sneller uit wat leid tot snellere vooruitgang. Nu gebruiken wij maar een aantal procent van onze hersenen maar dan kunnen we misschien gaan uitpluizen hoe dit komt en hoe we dit kunnen vergroten...

Misschien een beetje onduidelijk maar ik denk dat jullie mij wel volgen.

[X-Terminator187]

dieselb0y schreef op donderdag 19 juni 2008 @ 12:34:
Ik denk dat we eerder een menselijk brein hebben gekoppeld aan de techniek dan dat we de techniek een menselijk brein laten simuleren.
Wat ik dus bedoel is dat we een brein de rekenkracht en snelheid en ook de opslag van een computer tot zijn beschikking geven, dan kunnen we alles een stuk sneller uitrekenen controleren en simuleren, we werken dus de mogelijkheden van onze ideeën sneller uit wat leid tot snellere vooruitgang. Nu gebruiken wij maar een aantal procent van onze hersenen maar dan kunnen we misschien gaan uitpluizen hoe dit komt en hoe we dit kunnen vergroten...

Misschien een beetje onduidelijk maar ik denk dat jullie mij wel volgen.

Wat jij bedoeld is een cybernetisch organisme (oftwel een Cyborg). Ook op dit gebied zijn grote ontwikkelingen gaande. Er zijn zelfs al mensen die cybernetische implantaten hebben om bepaalde functies van het lichaam over te nemen. Het zou erg cool zijn als we in dit in toekomst verder kunnen uitwerken en een volledige bi-directionel interface tussen het menselijk brein en een computer kunnen maken. Dan hebben we het beste van twee werelden: De intelegentie van de mens en de rekenkracht en opslagcapaciteit van machine. Zeer interessant onderwerp.

Het is trouwens compleet niet waar dat we maar een aantal percent van onze hersenen gebruiken. Elk deel van onze hersenen heeft een bekende functie. Wel is het waar dat we nooit alle delen tegelijkertijd gebruiken.

[0rbit]

X-Terminator187 schreef op vrijdag 20 juni 2008 @ 16:52:
Het is trouwens compleet niet waar dat we maar een aantal percent van onze hersenen gebruiken. Elk deel van onze hersenen heeft een bekende functie. Wel is het waar dat we nooit alle delen tegelijkertijd gebruiken.

Ook dat is een fabeltje.

Dat er ergens anders een relatief hogere activiteit is wil niet zeggen dat er in de overige delen geen activiteit is. Ik hoef je niet eens uit te leggen waarom. Als jij heel hard over het verleden nadenkt, kun je dan ineens niets meer zien? Nee, precies. Daarnaast is het begrip "gebruiken" voor hersenen vaag gedefinieerd. Van een register in een CPU kun je stellen dat de waarde ervan gebruikt wordt, van hersenen niet.

Als je maar 10% van je hersenen zou gebruiken dan zou je evolutionair gezien gewoon de andere 90% verliezen. Use it or loose it. Het brein kost al genoeg energie, ook als je er maar belabbert mee nadenkt!

[Fr0zenFlame]

Tja Zelfbewustzijn is nogal wat, los van het feit dat wij mensen veel dingen van elkaar afleiden… vliegtuigen van vogels, op zich zou dan de PC het equivalent van een mens zijn.

De eerder genoemde “Replicator” & het gebruik van Hardware ter beschikking van ons brein d.m.v. een interface (nog te ontwikkelen) lijkt me zeer goed mogelijk.
- Replicator, idd gewoon genoeg rekenkracht hebben, de kleinste bouwsteen vinden & een manier vinden om deze snel en goed te combineren.
- Een interface ontwikkelen die praat met het menselijk brein, of misschien wel het brein de mogelijkheid geven dit zelf te ontwikkelen door het simpelweg ter beschikking te stellen, wellicht dat het lichaam zich zelf ontwikkelt en hier mee om leert te praten. Ben alleen benieuwt of dit in een mensen leven kan of dat voor evolutie echt een nieuwe geboorte (of meer) nodig is.

AI kan ik echt niet inschatten, ik neig toch te zeggen dat dit eerder met name een complex stukje software/programmatuur zou moeten zijn, dan dat dit te maken heeft met een extreme capaciteit… gene/DNA… een stukje basic hard code waaruit alles voort vloeit/ontwikkeld/zet van regels waaraan alles moet voldoen… misschien moeten we eerst maar eens exact weten hoe ons brein werkt alvorens we het gaan trachten te repliceren.

In tegenstelling tot de Replicator ben ik minder zeker van een teleport… materieel gezien mogelijk, maar of je dan ook de energie/zelfbewustzijn mee teleporteerd lijkt me niet, op het moment acht ik AI op het zelfde niveau van onhaalbaarheid. Hmmm misschien moeten we ons zelf afvragen wat zelfbewustzijn is en of wij wel zelf bewsut zijn en denken, misschien is het ook wel een logische zet van actie/reactie en zie dat maar is vanuit z'n positie te bewijzen, je weet immers niet beter als je bent geprogrammeerd toch???? (Dit doet me denken aan The Matrix ^^)

p.s
In mijn optiek is niets onhaalbaar, alles kan uit eindelijk.

[ Voor 8% gewijzigd door Fr0zenFlame op 25-06-2008 09:53 ]

[Verwijderd]

Fr0zenFlame schreef op woensdag 25 juni 2008 @ 09:47:
De eerder genoemde “Replicator” & het gebruik van Hardware ter beschikking van ons brein d.m.v. een interface (nog te ontwikkelen) lijkt me zeer goed mogelijk.
- Replicator, idd gewoon genoeg rekenkracht hebben, de kleinste bouwsteen vinden & een manier vinden om deze snel en goed te combineren.

De kleinste bouwstenen vinden is al redelijk gelukt: moleculen, atomen, kerndeeltjes (en eventueel quarks). Het lijkt me onzinnig om met atomen of kleiner te gaan combineren, maar aangenomen dat we van alle moleculen genoeg ter beschikking hebben, is het dan te doen om deze even in de gewenste configuratie te plaatsen? Nee, absoluut niet! Nu niet en in de komende 500 jaar niet. Een macroscopisch voorwerp bestaat uit zoveel moleculen dat het absoluut ondoenlijk is om het "molecuul voor molecuul" op te bouwen. Neem een liter water, daar zitten al ongeveer 10^25 moleculen in. Stel dat je in een microseconde een molecuul op de juiste plaats kan zetten, dan duurt het 10^19 seconden, oftewel meer dan 300 miljard jaar om iets ter grootte van een liter water op te bouwen.

p.s
In mijn optiek is niets onhaalbaar, alles kan uit eindelijk.

Onzin. Het zal de mensheid nooit lukken om een priemgetal van 10^10^10 cijfers te vinden. Om maar eens iets te noemen.

[ Voor 3% gewijzigd door Verwijderd op 27-06-2008 11:55 ]

[Verwijderd]

Volgens mij zijn we veel teveel geobsedeerd door begrippen als "intelligentie" en "zelfbewustzijn". Dit soort begrippen zijn zo vaag en onduidelijk dat we er niets mee opschieten hier "onderzoek" naar te doen, voordat we duidelijkheid hebben over wat we precies te weten willen komen. Daar zijn naar mijn mening eigenlijk al nieuwe begrippen voor nodig, omdat de oude veel te beladen zijn om tot goed begrip te kunnen leiden.

We hebben bibliotheken gevuld met boeken over intelligentie en bewustzijn, zonder dat we nu echt een beter begrip van die dingen hebben dan 1000 jaar geleden. Waarom zou je dan als doel stellen dat AI deze "magische" eigenschappen heeft?

[Mutatie]

Verwijderd schreef op maandag 30 juni 2008 @ 10:49:
Waarom zou je dan als doel stellen dat AI deze "magische" eigenschappen heeft?

Om onzelf te leren kennen mischien..

[Confusion]

Verwijderd schreef op donderdag 19 juni 2008 @ 00:47:
Daar heb je een robot die als-ie wil overleven (wat een simpele boolean is), kijkt wanneer het een goede tijd is om te reproduceren, en dan gaattie een betere robot bouwen.

Het probleem zit hem in de ongedefinieerdheid van 'beter'. Dieren en mensen zijn het product van voortdurende aanpassing aan veranderende omstandigheden. 'Beter' was de ene keer een vachtje, de andere keer een extra vinger en de derde keer het vermogen in bomen te klimmen. Dat het 'beter' was, blijkt uit het feit dat de verandering bekleef: het vergrootte de voortplantingskans. Zonder selectiedruk en veranderende omstandigheden krijg je enkel zichzelf zo snel mogeljk reproducerende entiteiten die leiden tot grey goo.

[Verwijderd]

Mja, in dat geval heeft de robot het spel der evolutie "gewonnen". Als welke entiteit dan ook zo goed aangepast is aan zijn omgeving dat hij zich oneindig kan door-repliceren, dan is het klaar.

De restrictie voor robots om te repliceren zit 'm erin dat ze pas na een tijdje zullen repliceren, en dat ze daarvoor wel bepaalde grondstoffen nodig hebben. Als robots voor die tijd kapot gaan, kunnen ze niet repliceren.

Ik denk persoonlijk ook dat evolutie helemaal niet zo vanzelfsprekend goed werkt zoals het op de aarde goed werkt. Wij hebben ontzettend geluk gehad dat leven niet toevallig is uitgestorven, of "grey goo" is geworden. Hoewel de mensheid aardig op weg is om grey goo te worden... selectie bestaat voor ons niet meer (voorlopig).

[BtM909]

Is het probleem ook niet dat als je al AI hebt, dat de intelligentie ook meteen is beperkt door de materie waarin het zich bevind?

Oftewel, Dolfijnen kunnen zo intelligent zijn als ze maar willen, maar hun verpakking is meteen de beperkende factor...

[Verwijderd]

*de post die hier stond ging teveel off-topic en ik heb er een nieuw topic van gemaakt*

[ Voor 116% gewijzigd door Verwijderd op 03-07-2008 13:09 ]

[Verwijderd]

BtM909 schreef op woensdag 02 juli 2008 @ 16:21:
Is het probleem ook niet dat als je al AI hebt, dat de intelligentie ook meteen is beperkt door de materie waarin het zich bevind?

Oftewel, Dolfijnen kunnen zo intelligent zijn als ze maar willen, maar hun verpakking is meteen de beperkende factor...

Als dat zo is, dat intelligentie wordt beperkt door de verpakking, oftewel, als wij nu in onze mogelijkheden beperkt worden door dingen als eten moeten zoeken, uitscheiding, voortplantingsdrift, etc., dan zou er "explosieve groei" van intelligentie kunnen plaatsvinden indien iemand een AI maakt, die puur uit informatie bestaat. Alleen als er nog veel meer mogelijk is qua intelligentie kan die singulariteit werkelijkheid worden.

Aan de andere kant, als wij nu al redelijk aan ons maximum zitten (en waarom niet, want intelligentere mensen zouden toch een grotere overlevingskans gehad moeten hebben?), dan is er geen hoop op spectaculaire nieuwe AI, ook niet als die AI weer nieuwe AI kan maken. In dat laatste geval beperkt de werkelijkheid de intelligentie tot ongeveer het huidige menselijke niveau (wellicht een deprimerende gedachte voor sommigen).

[dieselb0y]

Sandalf bedenk wel dat toen wij nog in kastelen woonden dit ook nooit hadden kunnen bedenken, dus lijkt me dat er theoretish nog zoveel meer mogelijk moet zijn maar ik denk dat niemand kan zeggen hoe het echt over 50/50000 jaar is, wie weet heb je dan wel een vakantie huis ergens op een planeet in zonnestelsel 93838x92qje-098 waar een hele andere realiteit van toepassing is en onze intelligentie als goddelijk word gezien of juist als zo miniem als een mier.

Wat ik dus op een heel vage manier bedoel we kunnen zoveel aankloten als we willen, vanzelf zullen we er dan misschien wel komen en er is niemand die dat serieus kan voorspellen op ons eigen stukje samengeperste materie. Dus gewoon lekker zoveel mogelijk dingen proberen denk ik dan, wie weet hebben we een keertje geluk/pech en creëren we AI

[Confusion]

BtM909 schreef op woensdag 02 juli 2008 @ 16:21:
Is het probleem ook niet dat als je al AI hebt, dat de intelligentie ook meteen is beperkt door de materie waarin het zich bevind?

Oftewel, Dolfijnen kunnen zo intelligent zijn als ze maar willen, maar hun verpakking is meteen de beperkende factor...

Mochten ze het vermogen tot intelligentie hebben, dan is het is vooral de mogelijkheid tot interactie met de omgeving die de ontwikkeling van hun intelligentie beperkt. Diepgaand onderzoek van de wereld om je heen vereist het vermogen gereedschappen te maken, al is het maar om een plant ook eens van de binnenkant te kunnen bekijken. Zonder ledematen en opponeerbare duimen kan je dat wel schudden. Een AI zonder robotlichaam zal nooit iets ontdekken over de omgeving waarin wij leven.

[Verwijderd]

Flinke stap vooruit:
http://tweakers.net/nieuw...attenbrein-simuleren.html

Intel's CEO ziet het ook wel zitten:
http://www.engadget.com/2...dicts-singularity-by-2050

[Morty]

Verwijderd schreef op woensdag 27 augustus 2008 @ 15:20:
Flinke stap vooruit:
http://tweakers.net/nieuw...attenbrein-simuleren.html

Intel's CEO ziet het ook wel zitten:
http://www.engadget.com/2...dicts-singularity-by-2050

Tsja, die artikelen zijn leuk, maar ik neem ze persoonlijk niet zo serieus.

In dat stukje over Intel zie ik niet veel meer dan een mooi reclame praatje. Van dat onderzoek van het pentagon heeft men of geen realistische verwachtingen, of het is door de media een beetje overdreven en gehypte.

Het meest fundamentele probleem is en blijft dat we niet duidelijk hebben wat intelligentie en bewustzijn eigenlijk zijn. Zolang je daar geen helder antwoord op hebt weet je niet eens wat je wilt gaan maken, laat staan hoe..

[Rey Nemaattori]

Euh, 1 PetaFLOPS is méér dan 1 TeraFLOPS toch?

Ik lees heletijd over een TFLOPS grens die in 2028 gehaald moety worden terwijl een beetje beeldkaart al makkelijk 1 TFLOPS haalt in 2008?

[BtM909]

Verwijderd schreef op woensdag 27 augustus 2008 @ 15:20:
Flinke stap vooruit:
http://tweakers.net/nieuw...attenbrein-simuleren.html

Intel's CEO ziet het ook wel zitten:
http://www.engadget.com/2...dicts-singularity-by-2050

Tja wat moet je daarvan vinden... Als ze een kattenbrein willen simuleren, waarom beginnen ze niet met iets kleiners (ligt voor de hand dat dat dan eerder bereikbaar lijkt)

[Verwijderd]

BtM909 schreef op donderdag 28 augustus 2008 @ 14:46:
[...]

Tja wat moet je daarvan vinden... Als ze een kattenbrein willen simuleren, waarom beginnen ze niet met iets kleiners (ligt voor de hand dat dat dan eerder bereikbaar lijkt)

Ze hadden toch al een muis gesimuleerd? Een kat is een mooi vervolg.

[Morty]

Verwijderd schreef op donderdag 28 augustus 2008 @ 15:41:
[...]

Ze hadden toch al een muis gesimuleerd? Een kat is een mooi vervolg.

Welke aspecten van een muis ? Lijkt mij sterk dat ze zoiets als het bewustzijn van een muis hebben gerepliceerd, en dat ik dat gemist heb. Dat zou toch wel wereld nieuws zijn...

[- J.W. -]

Een boel rekenpower en intellegentie/zelfbewustzijn (whatever dat precies is), staat m.i. MIJLEN ver uit elkaar, ik verwacht niks bijzonders omstreeks 2025 op dat gebied eigenlijk.

[Verwijderd]

Ze hebben het brein gesimuleerd. Ik vond dit artikel met Google. De simulatie duurde 10 seconden, en deed in die tijd het werk dat een muizenbrein in 1 seconde zou doen. Het deed dus niet veel nuttigs, maar de onderzoekers konden blijkbaar duidelijk hersenactiviteit zien dat ook in de natuur voorkomt.

[Morty]

Verwijderd schreef op donderdag 28 augustus 2008 @ 21:40:
Ze hebben het brein gesimuleerd. Ik vond dit artikel met Google. De simulatie duurde 10 seconden, en deed in die tijd het werk dat een muizenbrein in 1 seconde zou doen. Het deed dus niet veel nuttigs, maar de onderzoekers konden blijkbaar duidelijk hersenactiviteit zien dat ook in de natuur voorkomt.

Hoewel het zeer interesant onderzoek is gaat het nogal ver om het een simulatie van een muizenbrein te noemen. Het artikel is uiterst summier, maar wat ik er van opmaak is dat ze niet veel meer hebben gedaan als het simuleren van 8x10^6 neuronen. Dat is natuurlijk leuk, maar heeft eigenlijk weinig met een muis te maken, bij een muis zullen de neuronen namelijk neit willekeurig met elkaar verbonden zijn, wat ze hier volgens mij wel zijn.

De titel van het orginele artikel is dan ook: "Towards Real-Time, Mouse-Scale Cortical Simulations.". Ze claimen dus eigenlijk alleen maar dat iets van de schaal als de complexiteit van een muizenbrein kunnen simuleren, niet dat ze de echte functionaliteit kunnen simuleren. Dat zou een echte doorbraak zijn.

[Verwijderd]

Mja, het gaat met stapjes natuurlijk. Een gratis lunch zouden we allemaal wel willen.

In het artikel staat inderdaad dat het een stuk moeilijker zal zijn om de verbindingen een kant op te sturen die lijkt op een muizenbrein. Maar het is misschien ook niet noodzakelijk om letterlijk een muizenbrein te simuleren. Ik kan me voorstellen dat zo'n simulatie best andere tekens van intelligentie kan gaan vertonen. Als je het brein aansluit op een robotje dat een aantal zintuigen heeft, en je laat het een tijdje z'n gang gaan, dan zullen er vast interessante dingen uit komen.

Het grote probleem is waarschijnlijk dat je zo'n gigantische hoeveelheid aan data te verwerken krijgt, dat het moeilijk is om de hersenactiviteit op zich te onderzoeken. Maar aan het gedrag van het robotje zou je kunnen zien of en hoe het leert, en dat is ook zeer interessant.