Gaat de technologische ontwikkeling steeds sneller?

[Salvatron]

In dit artikeltje claimt een zekere Ray Kurzweil dat de technologische ontwikkeling steeds sneller gaat:

http://singularityhub.com...g-because-it-actually-is/

Hij heeft er zelfs een boek over geschreven dat de titel draagt "The Singularity Is Near". In dat boek dat ik niet gelezen heb doet de beste man kennelijk de bewering dat in 2045 de technologie zover gevorderd is dat er een mix ontstaat van mens en machine, waarbij CPU's zo snel geworden zijn en zoveel kunnen dat ze intelligenter zijn geworden dan de mensheid. Dit noemt de kerel de singulariteit omdat het onduidelijk is wat er daarna gebeurt. Nou klinkt mij dit in de oren als de reinste flauwekul, maar een aantal beweringen van de man in kwestie zijn wel interessant.

Zo beweert hij dat de technologische ontwikkeling exponentieel versneld omdat nieuwe technologische uitvindingen voortkomen uit oudere uitvindingen. Voorbeeld: de eerste IC's werden met op de tekentafel bedacht. Echter, later is men computers gaan gebruiken om cpu's te ontwikkelen en daarmee kunnen sneller complexere cpu's gemaakt worden omdat de computer veel werk doet. Hierdoor is men in een aantal decennia van enkele duizenden transistoren gegaan naar enkele miljarden. Zo valt ook te verwachten dat nieuwe technologie om computers te maken voort zal bouwen op reeds aanwezige technologie. Zo zullen de nieuwe 3D-chips van intel ontworpen worden met de 2D-chips die er al zijn. Hierdoor zal men snel nieuwe technologie kunnen gebruiken om de wet van Moore nog langer te laten voortduren als we het reclamepraatje van Intel mogen geloven:

http://www.intel.com/cont...ntel-22nm-technology.html

Intel has deployed a fundamentally different technology for future microprocessor families: 3D transistors manufactured at 22 nm. These new transistors enable Intel to continue to relentlessly pursue Moore's Law and to ensure that the pace of technology advancement consumers expect can continue for years to come.

Later kan men misschien DNA-computers, quantumcomputers etc gaan ontwerpen, uiteraard ontworpen met de computers die er al zijn waardoor de ontwikkeling heel snel kan gaan.

Een ander iets is de ontwikkeling van AI/KI, Artificiële/kunstmatige intelligentie. De natuur heeft de mens voortgebracht terwijl de natuur natuurlijk niets afweet van de menselijke cognitie, daarom denk ik dat de mensheid de menselijke cognitie niet hoeft te begrijpen om kunstmatige intelligentie voort te brengen. Misschien kan men verschillende algoritmen tegen elkaar laten concurreren waarbij de beste algoritmen worden uitgekozen en de slechtere worden gedumpt. Hierdoor ontstaan vanzelf steeds betere algoritmen, hierdoor kan men wellicht vanzelf steeds betere KI laten ontstaan. Dit principe zal wel gebruikt zijn neem ik aan bij computers die goed zijn in spelletjes zoals dammen/go/jeopardy etc, waarbij computers steeds beter ergens in worden omdat ze zichzelf verbeteren.

Argumenten voor exponentiële versnelling van technologische vooruitgang, in plaats van lineaire versnelling:
- men bouwt voort op al bestaande technologie.
- Er is een markt voor: aangezien de economie de drijvende kracht is achter de technologische ontwikkeling moet er natuurlijk geld verdiend worden. Zo is er wat minder vraag tegenwoordig naar CPU's en moet intel daarom op zoek gaan naar andere markten dan de PC-markt om cpu's te leveren (bijv. mobiel/tablets)
- verbetering van algoritmen: niet alleen de CPU-kracht wordt verbeterd, maar ook de algoritmen waardoor alles nog veel sneller gaat dan op basis van alleen de CPU-kracht verwacht kan worden.
- de prijs en beschikbaarheid van technologie wordt steeds lager waardoor bij de ontwikkeling van technologie al veel bestaande technologie wordt gebruikt.

argumenten tegen:
- de vooruitgang wordt geremd doordat men bepaalde dingen niet begrijpt. Zo zou de ontwikkeling van KI geremd kunnen worden doordat men niet weet hoe men een KI moet bouwen ook al heeft men de processorkracht, echter is een argument hiertegen dat men KI ook niet perse hoeft te begrijpen om het te kunnen bouwen. De wetenschap ontwikkelt zich wat langzaampjes, zo is het niet te verwachten dat men binnen de kortste keren het brein zal begrijpen.
- de economie stort in de toekomst wellicht in elkaar vanwege het feit dat de mensheid de planeet onleefbaar maakt (klimaatverandering, verdwijning van voedselbronnen/drinkwater, etc).

Als het inderdaad zo is dat de technologische ontwikkeling exponentiëel gaat, dan is toekomstige technologie dus sneller hier dan verwacht. In ieder geval zien we dat computers inderdaad extreem veel sneller geworden zijn de laatste decennia, maar wellicht valt dit ook te verwachten op het gebied van robotica & KI, etc. Robots kunnen tegenwoordig nog niet zoveel, behalve gespecialiseerde taken uitvoeren, maar wellicht zijn betere robots sneller te verwachten dan we denken en hebben we eerder robots die op mensen lijken dan we denken. Hetzelfde geldt voor KI dat nog niet zoveel kan maar misschien veel sneller ontwikkeld wordt dan het lijkt.

[ZpAz]

Waitbutwhy heeft een blog over hetzelfde grotendeels als waar Ray het overheeft in zijn boek, maar de twee blogposts zijn een stuk fijner om te lezen.

The Artificial Intelligence Revolution.

Mocht je je meer willen inlezen over het onderwerp.

[Spheroid]

Op de lange termijn bezien is het vermoed ik absoluut waar.

De simpelste stenen werktuigen waren exclusief in gebruik tussen 3.3 en 1.7 miljoen jaar geleden. Vuistbijlen, die een vooruitgang betekenden waren maar tussen 1.7 en 0.35 miljoen jaar geleden. De volgende vooruitgang: "prepared core technology" was het meest complexe tussen 350 000 en 60 000 jaar geleden. De laatste 40 000 jaar volgen technologische veranderingen elkaar eerst rond de 10, later rond de 5 000 jaar op en sinds de ontwikkeling van de landbouw nog veel sneller.

Als je meer in detail gaat kijken dan gaat dat grote plaatje echter niet altijd en niet overal op. De vraag is dus wat je dan aan die overall trend hebt.

Een andere vraag is natuurlijk of we kunnen voorspellen op welk gebied de echt betekenisvolle vooruitgang plaats gaat vinden. Is dat wel AI? Of is dat iets heel anders dat we nu niet goed kunnen voorzien?

Voorbeeld: als je op basis van de eerste paar miljoen jaar van onze evolutie voorspellingen zou doen, dan zou je denken dat vooruitgang in stenen werktuigen en later in het veelzijdigere gewei grote technologische vooruitgang zouden brengen. Echter, de piramidebouwes in Egypte gebruiken soortgelijke stenen werktuigen als Homo erectus in de Olduvai Gorge. Door de ontwikkeling van nieuwe technologie (koperen, later bronzen werktuigen) gaat het niveau van steentechnologie juist achteruit.

Als we iets onvoorziens nieuws bedenken dat gaat misschien onze investering in AI achteruit en blijkt over een paar honderd jaar dat dat helemaal niet de kant was die vooruitgang op ging.

Het belangrijkste probleem is natuurlijk "vooruitgang" zelf. Hoe weet je of iets vooruitgang behelst? Bij computers is misschien gewoon processorkracht een goede benchmark, maar als we op de langere termijn kijken: hoe meten we vooruitgang dan? Door het feit dat het ons leven vergemakkelijkt? Of door het feit dat apparaten simpelweg complexer in elkaar zitten?

[Standeman]

Spheroid schreef op maandag 25 april 2016 @ 09:36:
...
Het belangrijkste probleem is natuurlijk "vooruitgang" zelf. Hoe weet je of iets vooruitgang behelst? Bij computers is misschien gewoon processorkracht een goede benchmark, maar als we op de langere termijn kijken: hoe meten we vooruitgang dan? Door het feit dat het ons leven vergemakkelijkt? Of door het feit dat apparaten simpelweg complexer in elkaar zitten?

Meet je (technologische?) vooruitgang niet aan de hand van de mogelijkheid om de omgeving waarin je verkeerd naar je eigen hand kan zetten en hoeveel zij tot hun beschikking hebben?

Op dit moment kunnen we rivieren omleggen, bergen plat slaan, steden bouwen en nucleaire reactors bouwen voor energie opwekking. Ik kan me voorstellen dat wanneer een beschaving het klimaat van de planeet kan beïnvloeden, dat zij verder zijn in de vooruitgang als wij.

Een beetje losjes gebaseerd op de Kardashev scale, zeg maar.

[EJPostema]

Hoewel het moeilijk is te benchmarken, lijkt het wel zo te zijn. Als je de afgelopen 100 jaar pakt zeker. Er is in een relatieve korte periode veel technologische vooruitgang geboekt.

Het hangt er vooral van af of we echt doorbraken blijven maken in de techniek. Bijvoorbeeld zal de wet van Moore ophouden als we de 7 nm hebben bereikt. Transistors kunnen niet kleiner en dus zullen de processoren niet meer sneller worden. We zitten dan tegen een plafond aan. Hier is iets anders voor nodig om deze wet voort te zetten, bijvoorbeeld quantum computers.

De tegen argumenten die je noemt vind ik persoonlijk niet zo sterk. Dat we iets nu nog niet helemaal begrijpen zegt niet dat we dat over 10-20-30 jaar nog steeds niet doen.

Mocht de wereld echt in elkaar storten, praat je ook over een apocalyptisch event. Iets wat natuurlijk niet helemaal is uit te sluiten, of best reëel is. Maar eerlijk is eerlijk, dit arugment kan je altijd gebruiken en is natuurlijk wel een dooddoener

[Salvatron]

EJPostema schreef op maandag 25 april 2016 @ 09:54:
Het hangt er vooral van af of we echt doorbraken blijven maken in de techniek. Bijvoorbeeld zal de wet van Moore ophouden als we de 7 nm hebben bereikt. Transistors kunnen niet kleiner en dus zullen de processoren niet meer sneller worden. We zitten dan tegen een plafond aan. Hier is iets anders voor nodig om deze wet voort te zetten, bijvoorbeeld quantum computers.

Men zou die wet van moore misschien kunnen rekken door 3D-transistors te gebruiken, wat dus wel zoiets zal zijn van dat men transistoren op elkaar stapelt o.i.d.

Mocht de wereld echt in elkaar storten, praat je ook over een apocalyptisch event. Iets wat natuurlijk niet helemaal is uit te sluiten, of best reëel is. Maar eerlijk is eerlijk, dit arugment kan je altijd gebruiken en is natuurlijk wel een dooddoener

Niet echt, IMO is de mensheid hard op weg naar een apocalyptisch event ivm klimaatverandering, vermindering van biodiversiteit, oceaanspiegelstijging, opmaken van grondstoffen etc.

Spheroid schreef op maandag 25 april 2016 @ 09:36:

Een andere vraag is natuurlijk of we kunnen voorspellen op welk gebied de echt betekenisvolle vooruitgang plaats gaat vinden. Is dat wel AI? Of is dat iets heel anders dat we nu niet goed kunnen voorzien?

Er zijn nog wel meer gebieden waarop vooruitgang wordt verwacht, zoals bijv. nanotechnologie.
AI is nu in ontwikkeling, wat je er mee kunt doen zie je in science fiction films & series, zoals de computers in Star Trek, Iron Man, Space Odyssey, Alien etc. Gewoon lekker tegen je computer praten en er komt antwoord. Ook defensie zal er wel naar uitzien om voordelen te krijgen tijdens oorlog. We zien nu al zelfvarende schepen bijv. Het zal ook afhangen of er vraag naar is in de markt.

Het belangrijkste probleem is natuurlijk "vooruitgang" zelf. Hoe weet je of iets vooruitgang behelst? Bij computers is misschien gewoon processorkracht een goede benchmark, maar als we op de langere termijn kijken: hoe meten we vooruitgang dan? Door het feit dat het ons leven vergemakkelijkt? Of door het feit dat apparaten simpelweg complexer in elkaar zitten?

Vooruitgang is verandering in de tijd imo. Dus grote technologische veranderingen zouden elkaar steeds sneller opvolgen.

Een andere factor die nog van belang is, is dat er meer onderzoek wordt gedaan tegenwoordig waardoor de vooruitgang sneller is.

[Spheroid]

Standeman schreef op maandag 25 april 2016 @ 09:53:
[...]

Meet je (technologische?) vooruitgang niet aan de hand van de mogelijkheid om de omgeving waarin je verkeerd naar je eigen hand kan zetten en hoeveel zij tot hun beschikking hebben?

Op dit moment kunnen we rivieren omleggen, bergen plat slaan, steden bouwen en nucleaire reactors bouwen voor energie opwekking. Ik kan me voorstellen dat wanneer een beschaving het klimaat van de planeet kan beïnvloeden, dat zij verder zijn in de vooruitgang als wij.

Dat is wel een koele maatstaf. Ik zie voor- en nadelen.

Voordeel: alle organismes doen aan niche-construction. De maatstaf laat dus het kunstmatige onderscheid tussen mens en al het andere los. Zelfs evt. te ontdekken aliens passen er in.

Het probleem is dat het niet noodzakelijkerwijs iets over technologie zegt: We beïnvloeden het klimaat nu al, maar "primitieve" technologie (kolencentrales, open haard) veel meer dan geavanceerdere technologie (photo-voltaische cellen, hoogrendementsketels). De grootste verandering in de leefwereld op aarde is het great oxygenation event, 2.3 miljard jaar geleden (soms ook als crisis gezien), waarin de succesvolle fotosynthese door cyanobacteriën zoveel van het giftige zuurstof produceerde dat veel leven uitstierf, maar ook dat heel andere levensvormen mogelijk werden.

Je kunt de maatstaf natuurlijk focussen. Je zou de nadruk kunnen leggen op doelgericht beïnvloeden van de omgeving. Dat lijkt vooralsnog meestal erg te leiden onder de Law of Unintended Consequences. Dan staan we dus nog op een zeer onontwikkeld niveau.

Salvatron schreef op maandag 25 april 2016 @ 10:27:

Vooruitgang is verandering in de tijd imo. Dus grote technologische veranderingen zouden elkaar steeds sneller opvolgen.

Maar is alle verandering vooruitgang? Na de kolonisatie van het Zuid-Eiland van Nieuw Zeeland stopte men met het gebruik van landbouw en ging als jager-verzamelaars leven. Dat is zeker verandering. Maar is het vooruitgang? Met landbouw kun je meer mensen in leven houden. Maar de levensstandaard van die mensen is niet per se hoger dan die van jager-verzamelaars.

Een andere factor die nog van belang is, is dat er meer onderzoek wordt gedaan tegenwoordig waardoor de vooruitgang sneller is.

Dat ben ik zonder meer met je eens. We streven nu actief naar ontwikkeling, terwijl niet eens zo heel erg lang geleden veel onderzoek nog gewoon door "gentleman scientists" uitgevoerd werd.

[Salvatron]

Spheroid schreef op maandag 25 april 2016 @ 11:37:
[Maar is alle verandering vooruitgang? Na de kolonisatie van het Zuid-Eiland van Nieuw Zeeland stopte men met het gebruik van landbouw en ging als jager-verzamelaars leven. Dat is zeker verandering. Maar is het vooruitgang? Met landbouw kun je meer mensen in leven houden. Maar de levensstandaard van die mensen is niet per se hoger dan die van jager-verzamelaars.

Je kunt per geval bekijken of er echte vooruitgang is. Zo is bijv. de verandering van de elektronenbuis naar de transistor een vooruitgang omdat die kleiner is etc. Echter in de middeleeuwen was er wellicht weer technische achteruitgang ivm het romeinse/griekse rijk.

Dat ben ik zonder meer met je eens. We streven nu actief naar ontwikkeling, terwijl niet eens zo heel erg lang geleden veel onderzoek nog gewoon door "gentleman scientists" uitgevoerd werd.

Inderdaad, doordat er tegenwoordig meer onderzoek wordt gedaan, is het misschien zo dat de illiusie gewekt wordt dat er een exponentiele versnelling is. Echter komt de versnelling niet alleen doordat er steeds gebouwd wordt op eerdere technologie, maar ook doordat er gewoon meer wetenschappers & technici zijn. Dus als het aantal technici e.d. gelijk blijft is de ontwikkeling misschien weer meer lineair.

ZpAz schreef op maandag 25 april 2016 @ 03:52:
Waitbutwhy heeft een blog over hetzelfde grotendeels als waar Ray het overheeft in zijn boek, maar de twee blogposts zijn een stuk fijner om te lezen.

The Artificial Intelligence Revolution.

Mocht je je meer willen inlezen over het onderwerp.

Op zich wel interessant maar voor een groot deel niets anders dan fictie, vooral wanneer men het gaat hebben over het samensmelten van technologie en mensen waardoor mensen eeuwig leven krijgen etc. Ook wordt er vanuit gegaan dat intelligentie maar door blijft gaan naar een hoger niveau terwijl misschien juist intelligentie zich op een gegeven moment niet meer verder kan ontwikkelen. Dit soort fantasieën zijn wel iets om rekening mee te houden voor de zekerheid, maar voor een realistischer wereldbeeld is het nodig om de beide beentjes op de grond te houden, ook gezien er op dit moment geen bewijzen zijn dat computers de intelligentie van de mens kunnen gaan benaderen in de toekomst.

[ Voor 18% gewijzigd door Salvatron op 28-04-2016 04:33 ]

[ZpAz]

Salvatron schreef op donderdag 28 april 2016 @ 04:32:
[...]


Op zich wel interessant maar voor een groot deel niets anders dan fictie, vooral wanneer men het gaat hebben over het samensmelten van technologie en mensen waardoor mensen eeuwig leven krijgen etc.

Uiteraard, momenteel is het nog fictie. Maar als je het filosofisch bekijkt. Wat zou een reden zijn dat je niet kan "samensmelten" met een machine? Enkel als je gelooft in een (niet bewezen) ziel, of iets wat niet tastbaar is heb je daar een onoverkomelijke drempel.

Uiteraard is de techniek er nu nog lang niet klaar voor.

Ook wordt er vanuit gegaan dat intelligentie maar door blijft gaan naar een hoger niveau terwijl misschien juist intelligentie zich op een gegeven moment niet meer verder kan ontwikkelen.

Als de drempel ligt op 100x ons huidige vermogen. Wat zou er dan allemaal wel niet mogelijk zijn? En waarom zou er een drempel zijn. Er is niet iets wat daar op wijst voor zo ver ik weet.

Dit soort fantasieën zijn wel iets om rekening mee te houden voor de zekerheid, maar voor een realistischer wereldbeeld is het nodig om de beide beentjes op de grond te houden, ook gezien er op dit moment geen bewijzen zijn dat computers de intelligentie van de mens kunnen gaan benaderen in de toekomst.

Op dit moment, nee. In de toekomst. Als ik mijn geld in moest zetten op: "Computers worden nooit slimmer dan mensen" of "Computers worden in de toekomst wel slimmer dan mensen". Dan zet ik mijn geld in op het laatste.

[Salvatron]

ZpAz schreef op donderdag 28 april 2016 @ 04:56:
[...]


Uiteraard, momenteel is het nog fictie. Maar als je het filosofisch bekijkt. Wat zou een reden zijn dat je niet kan "samensmelten" met een machine? Enkel als je gelooft in een (niet bewezen) ziel, of iets wat niet tastbaar is heb je daar een onoverkomelijke drempel.

Uiteraard is de techniek er nu nog lang niet klaar voor.

Een reden zou kunnen zijn dat de machines heel anders werken dan het zenuwstelsel waardoor je de informatie in het zenuwstelsel (in de vorm van verbindingen tussen neuronen) niet kunt overzetten bijv.

Als de drempel ligt op 100x ons huidige vermogen. Wat zou er dan allemaal wel niet mogelijk zijn? En waarom zou er een drempel zijn. Er is niet iets wat daar op wijst voor zo ver ik weet.

Dan zal wellicht hetzelfde mogelijk zijn als wat nu mogelijk is. Ten eerste combineren mensen hun intelligentie met elkaar, dus mensen vullen elkaar aan en zijn daarom samen intelligenter dan alleen. Daarnaast is er specialisatie waardoor mensen veel weten van een heel klein gebied van wetenschap/technologie. Een hogere intelligentie hoeft dan ook niet tot meer resultaten te leiden.

Op dit moment, nee. In de toekomst. Als ik mijn geld in moest zetten op: "Computers worden nooit slimmer dan mensen" of "Computers worden in de toekomst wel slimmer dan mensen". Dan zet ik mijn geld in op het laatste.

Computers kunnen alleen slimmer worden dan mensen wanneer de mensheid zichzelf niet uitroeit en wanneer de ontwikkeling gewoon door blijft gaan. Met de huidige milieuproblematiek is dat imo niet vanzelfsprekend. Ook hangt het er vanaf wat er onder 'slimme computer' wordt verstaan, een mens voelt en een computer niet, dit is essentieel verschil bijvoorbeeld. Een computer draait gewoon algoritmes af, de vraag is wanneer een computer voelt en de omgeving ervaart e.d.

[ZpAz]

Salvatron schreef op donderdag 28 april 2016 @ 05:10:
[...]


Een reden zou kunnen zijn dat de machines heel anders werken dan het zenuwstelsel waardoor je de informatie in het zenuwstelsel (in de vorm van verbindingen tussen neuronen) niet kunt overzetten bijv.

Sure, we kunnen nu nog niet "apparaatjes" maken die delen van de hersenen over kunnen nemen. Maar we kunnen kunstmatige nieren maken (al zijn ze nog wat lomp, maar ze gaan in een rap tempo omlaag). En werk is onderweg om andere kunstmatige organen te maken. Van levers tot oog. Ik zie geen reden dat hersenen de uitzondering zal zijn.

Dan zal wellicht hetzelfde mogelijk zijn als wat nu mogelijk is. Ten eerste combineren mensen hun intelligentie met elkaar, dus mensen vullen elkaar aan en zijn daarom samen intelligenter dan alleen. Daarnaast is er specialisatie waardoor mensen veel weten van een heel klein gebied van wetenschap/technologie. Een hogere intelligentie hoeft dan ook niet tot meer resultaten te leiden.

Intelligentie is niet echt lineair bij elkaar op te tellen. Alle honden bij elkaar zijn bijvoorbeeld niet intelligenter dan een mens in de meeste opzichten.

Computers kunnen alleen slimmer worden dan mensen wanneer de mensheid zichzelf niet uitroeit en wanneer de ontwikkeling gewoon door blijft gaan.

Op dit moment inderdaad. Wanneer computers zichzelf kunnen verbeteren is dat niet meer het geval. En wanneer je dat punt bereikt, gaat het veel harder. Omdat elke volgende generatie zichzelf sneller kan verbeteren dan de voorgaande.

Met de huidige milieuproblematiek is dat imo niet vanzelfsprekend.

Sure. Maar dat moet je er niet van weerhouden om onderzoek te doen.

Ook hangt het er vanaf wat er onder 'slimme computer' wordt verstaan, een mens voelt en een computer niet, dit is essentieel verschil bijvoorbeeld

Wat is "voelen" dat is eigenlijk gewoon input verwerken van zintuigen. Een "chemisch / elektrisch" proces dus. Is dat nooit na te maken? Als de mens puur biologische processen is. Dan is er geen reden dat het niet ooit na te maken is. Nu al? Nee zeker niet.

. Een computer draait gewoon algoritmes af, de vraag is wanneer een computer voelt en de omgeving ervaart e.d.

Dit is een redelijk vage grens. Wat is "voelen". Zolang daar geen strakke definitie voor is kan je niet zeggen of iets wel voelt of iets niet. Zelfs binnen Biologie. Voelt een hond? Een muis? Een spin? Een plant? Een schimmel? Bij welk wezen ligt de grens en waarom is de grens daar?

Als "we snappen wat het doet" zien we het al als algoritmes. Dus als we het brein helemaal doorgrond hebben, zijn dat dan ook enkel "algoritmes" met random input?

Voorbeeld. Deze AI speelt Atari 2600 games zonder dat de regels van de spellen zijn geprogrammeerd. Het heeft het zichzelf geleerd.

[Salvatron]

ZpAz schreef op donderdag 28 april 2016 @ 05:49:
Intelligentie is niet echt lineair bij elkaar op te tellen. Alle honden bij elkaar zijn bijvoorbeeld niet intelligenter dan een mens in de meeste opzichten.

Op een bepaald niveau kun je intelligentie gewoon "optellen", honden zijn beperkt en hebben weinig intelligentie, maar mensen zijn veel minder beperkt waardoor je mensen beter bij elkaar kunt optellen qua intelligentie.
Alle problemen van de mensheid zijn ook wel op te lossen met menselijke intelligentie, de rem op het oplossen zit in de politieke/maatschappelijke wil om het te doen. Om bijv. het klimaatprobleem op te lossen heb je geen superintelligente AI nodig. Ook om het universum te doorgronden zal dat waarschijnlijk niet nodig zijn. Het nut van een superhoge intelligentie wordt nogal overschat.

[ZpAz]

Salvatron schreef op donderdag 28 april 2016 @ 06:22:
[...]

Op een bepaald niveau kun je intelligentie gewoon "optellen", honden zijn beperkt en hebben weinig intelligentie, maar mensen zijn veel minder beperkt waardoor je mensen beter bij elkaar kunt optellen qua intelligentie.

Dat is een aanname die je maakt. Ja, mensen die samenwerken kunnen meer dan een enkel persoon. Maar dat hoeft door te schalen tot in het "oneindige". (Je ziet bijvoorbeeld bij grote software projecten dat meer mensen er tegenaan gooien tot vertraging kan leiden).

Alle problemen van de mensheid zijn ook wel op te lossen met menselijke intelligentie, de rem op het oplossen zit in de politieke/maatschappelijke wil om het te doen.

Als mensheid willen we meer dan enkel de door ons veroorzaakte problemen oplossen mag ik hopen. Bijvoorbeeld oplossingen zoeken voor ziekten. Mogelijk dat AI daar ons kan bij helpen. We zitten pas in de kinderstapjes van AI. En het wordt al ingezet om bijvoorbeeld kanker op te sporen.

Om bijv. het klimaatprobleem op te lossen heb je geen superintelligente AI nodig. Ook om het universum te doorgronden zal dat waarschijnlijk niet nodig zijn. Het nut van een superhoge intelligentie wordt nogal overschat.

Wij bezitten waarschijnlijk niet het hoogtepunt van intellect wat er mogelijk is. Dat zou een vreemde aanname zijn. Wij hebben een flinke sprong voorwaarts in intelligentie in vergelijking met een hond. Er is zoveel wat je hem niet leren kan. Als iets een even grote sprong maakt, maar dan vanaf ons intellect naar een hoger intellect. Dan kunnen we niet eens bevatten wat het allemaal kan doen.

Een simpel voorbeeld. Het overgrote deel van de mensen kan niet bevatten wat Stephen Hawking allemaal bevat. En hij is nog steeds een mens, dus de sprong in intelligentie is zeker geen 10 keer. Laat staan dat we dan kunnen bevatten wat een intellect kan doen wat 10 of 100 keer intelligenter is dan ons.

[Spheroid]

ZpAz schreef op donderdag 28 april 2016 @ 05:49:
[...]

Dit is een redelijk vage grens. Wat is "voelen". Zolang daar geen strakke definitie voor is kan je niet zeggen of iets wel voelt of iets niet. Zelfs binnen Biologie. Voelt een hond? Een muis? Een spin? Een plant? Een schimmel? Bij welk wezen ligt de grens en waarom is de grens daar?

Als "we snappen wat het doet" zien we het al als algoritmes. Dus als we het brein helemaal doorgrond hebben, zijn dat dan ook enkel "algoritmes" met random input?

Voorbeeld. Deze AI speelt Atari 2600 games zonder dat de regels van de spellen zijn geprogrammeerd. Het heeft het zichzelf geleerd.

Dat is wel een interessant punt. Een hypothese is dat bewustzijn een emergent property is van onze steeds grotere hersenen. Zou bij AI's bewustzijn kunnen ontstaan?

De grap is dat we nu denken dat chimps bewust zijn, en olifanten, en zo nog een aantal soorten. Die vinden we niet superintelligent (maar we herkennen ze wel als bij de slimste dieren horend). Zou dat kunnen suggereren dat we bij de slimste computers de grens qua processorkracht van bijv. chimpanseehersenen al overschreden zijn, en kunnen we verwachten dat bewustzijn geen emergent property zal zijn bij AI? Dat we het zullen moeten programmeren?

Dat hoeft misschien niet. Voor voor ons simpele zaken, als het vangen van een bal oid. is enorm veel processorkracht nodig. Ik geloof dat het vooralsnog verdomd lastig blijkt om een robotarm een bal te laten vangen. Dus misschien hebben chimpanseehersenen alsnog meer processorkracht dan de krachtigste computers, maar zetten ze die anders in?

[Salvatron]

ZpAz schreef op donderdag 28 april 2016 @ 06:45:
Wij bezitten waarschijnlijk niet het hoogtepunt van intellect wat er mogelijk is. Dat zou een vreemde aanname zijn. Wij hebben een flinke sprong voorwaarts in intelligentie in vergelijking met een hond. Er is zoveel wat je hem niet leren kan. Als iets een even grote sprong maakt, maar dan vanaf ons intellect naar een hoger intellect. Dan kunnen we niet eens bevatten wat het allemaal kan doen.

Een simpel voorbeeld. Het overgrote deel van de mensen kan niet bevatten wat Stephen Hawking allemaal bevat. En hij is nog steeds een mens, dus de sprong in intelligentie is zeker geen 10 keer. Laat staan dat we dan kunnen bevatten wat een intellect kan doen wat 10 of 100 keer intelligenter is dan ons.

Stephen Hawking is een klein beetje intelligenter dan gemiddeld en heeft vele jaren ervaring en opleiding met natuurkunde. Een normaal mens kan alles wat Hawking begrijpt en weet ook wel als die zich jarenlang met natuurkunde bezighoudt. Hooguit zal een normaal mens misschien wat minder inventief zijn en minder snel een nieuw idee uitvinden.

[ZpAz]

Salvatron schreef op donderdag 28 april 2016 @ 21:02:
[...]


Stephen Hawking is een klein beetje intelligenter dan gemiddeld en heeft vele jaren ervaring en opleiding met natuurkunde. Een normaal mens kan alles wat Hawking begrijpt en weet ook wel als die zich jarenlang met natuurkunde bezighoudt. Hooguit zal een normaal mens misschien wat minder inventief zijn en minder snel een nieuw idee uitvinden.

Inteligentie moeilijk te meten. Maar laten we IQ als uitgangspunt nemen. Stephen Hawking heeft een score van 154. 100 is het gemiddelde. Hij zit dus 54 punten boven het gemiddelde. Iemand met down syndroom zit volgens Wikipedia rond de 50 met IQ.

Dat is dus dezelfde afstand van het middenpunt af ongeveer. Nu vallen er evenveel mensen onder de 100 als er boven.

Een grote groep daarvan zal hoeveel ze ook oefenen niet bevatten wat iemand met een IQ van 150 kan bevatten.

Nu is IQ wel wat beïnvloedbaar, bv als je oefent / alert bent. Maar een beter voorbeeld heb ik zo niet.

Daarnaast is tijd die je er in steekt inderdaad van groot belang. Hoe vaak je iets oefent. En dat is waar een computer beduidend beter in zal zijn. Het wordt niet moe. En kan vele simulaties veel sneller aflopen. Nu is de "kwaliteit" per "simulatie ronde" nog beduidend lager dan bij een mens. Maar hoe kleiner dat gat wordt, hoe sneller het gaat.

---

Spheroid schreef op donderdag 28 april 2016 @ 11:09:
[...]
Dat is wel een interessant punt. Een hypothese is dat bewustzijn een emergent property is van onze steeds grotere hersenen. Zou bij AI's bewustzijn kunnen ontstaan?

Een interessante video hierover is:

[YouTube: https://www.youtube.com/watch?v=zrVBkxLcqrw&feature=youtu.be]

[ Voor 22% gewijzigd door ZpAz op 28-04-2016 21:45 ]

[defiant]

Snellere computers komen er zeker, maar Moore's law is ook ten einde, kijk maar naar de snelheid iteraties die Intel maakt hun processoren, die daalt. Pas met quantum computers maken we de volgende slag. En met alleen snelheid ben je niet, je hebt fundamentele doorbraken nodig om d'r ook meer mee te kunnen.

Bijvoorbeeld voor een echte AI zijn fundamentele doorbraken nodig die op dit moment nog lang niet in 't zicht zijn. Zolang die er niet zijn, kan je op dat gebied niet echt spreken van exponentiële ontwikkelingen. Machine learning komt nog geeneens in de buurt van wat een echte AI zou moeten kunnen.

Op het gebied van biotech gaan de ontwikkelingen volgens mij wel snel, maar volgens mij ook niet exponentieel. Echte baanbrekende veranderende doorbraken op dit gebied zoals "the cure for cancer" of 30 levensjaren erbij staan niet voor de deur. Ook hier zie ik geen exponentiële ontwikkelingen.

Tevens is probleem is dat de technologische ontwikkelingen die ondersteuning verlenen aan onze maatschappij en dus een voorwaarde zijn om te kunnen profiteren van groei op bijvoorbeeld IT gebied juist niet exponentieel verlopen. Sterker, innovatie op dat gebied gaat maar langzaam, staat stil en gaat op sommige gebieden juist achteruit.

De belangrijkste ontwikkeling is hierin energie, we hebben een ongekende innovatie en inspanning nodig om volledig van fossiele brandstoffen af te komen. Echter, potentiële bronnen zoals kernfusie zijn nog in het beginstadium van ontwikkeling waarbij resultaten decennia ver weg zijn. We hebben hier krimp in plaats van (exponentiële) groei).

Ik geloof dus zeker in vooruitgang, maar die gaat op veel gebieden zeker niet exponentieel. Ik denk dat het focussen op onderwerpen zoals voorgesteld door the singularity op dit moment totaal niet aan de orde zijn en ons als mensheid ook niet vooruit helpen, sterker, ze juist een verkeerde voorstelling van zaken geven.

De belangrijkste indicator hiervan is economische groei, we leven in een wereld van lage rente, nauwelijks economische groei en groeiende ongelijkheid. Als de technologische ontwikkelingen echt zo snel zouden gaan, zou ook de reële economie veel harder groeien.

[Salvatron]

ZpAz schreef op donderdag 28 april 2016 @ 21:41:
Een grote groep daarvan zal hoeveel ze ook oefenen niet bevatten wat iemand met een IQ van 150 kan bevatten.

De meeste mensen kunnen gewoon begrijpen wat Stephen Hawking begrijpt, wel zullen ze er wat meer moeite voor moeten doen. Maar natuurkunde is gewoon wiskunde e.d. die je met een normaal verstand kunt begrijpen. Verder valt te betwijfelen of de normaalverdeling wel helemaal van toepassing is op de IQ-verdeling, de meeste mensen zullen denk ik boven de 100 scoren omdat enkele hele domme mensen de hele boel naar beneden trekken. Daarnaast is het syndroom van Down een ziekte die imo niet moet worden meegerekend. Feit is dat dankzij de media, de wijze van presenteren e.d. Hawking wordt afgeschilderd als een genie, maar dit is deels gewoon presentatie in de media.

[Salvatron]

defiant schreef op donderdag 28 april 2016 @ 22:41:
Ik geloof dus zeker in vooruitgang, maar die gaat op veel gebieden zeker niet exponentieel. Ik denk dat het focussen op onderwerpen zoals voorgesteld door the singularity op dit moment totaal niet aan de orde zijn en ons als mensheid ook niet vooruit helpen, sterker, ze juist een verkeerde voorstelling van zaken geven.

Ik denk dat de illusie van exponentiële snelheid gewekt wordt doordat er meer wetenschappers & technologen zijn die zorgen voor meer snelheid. Daarnaast zijn er meer middelen om fraaie apparaten op de markt te brengen. Desondanks is de snelheid in de markt wel hoog, de laatste jaren is het ene na het andere nieuwe apparaat in de winkels komen te liggen. Daarnaast zijn er ook een aantal revoluties geweest de laatste decennia, zoals internet, digitalisering, mobiele telefoons e.d. Dus hoewel de snelheid waarschijnlijk niet exponentiëel is, ligt de snelheid wel hoger dan in bijv. de jaren 50-80.



Over die voorspelling van een technologische singulariteit van Kurzweil:

once you’ve made one successful prediction, you should avoid making another - Gordon Moore

Dat Kurzweil een aantal correcte voorspellingen heeft gedaan is geen garantie voor de rest van zijn voorspellingen, zeker niet wat betreft die lariekoek van een technologische singulariteit en meer van die onzin.

De belangrijkste indicator hiervan is economische groei, we leven in een wereld van lage rente, nauwelijks economische groei en groeiende ongelijkheid. Als de technologische ontwikkelingen echt zo snel zouden gaan, zou ook de reële economie veel harder groeien.

Wat is het verband tussen snelle technologische ontwikkeling en harde economische groei?

defiant schreef op donderdag 28 april 2016 @ 22:41:
Snellere computers komen er zeker, maar Moore's law is ook ten einde, kijk maar naar de snelheid iteraties die Intel maakt hun processoren, die daalt. Pas met quantum computers maken we de volgende slag.

Of die wet van Moore voorlopig standhoudt zal nog moeten blijken. Fabrieken die CPU's maken worden steeds duurder, en de quantumproblemen schijnen te beginnen bij iets van 5-2 nanometer waarna transistoren niet meer kleiner kunnen. Daarnaast is er minder vraag naar snellere cpu's omdat die krengen als zo supersnel zijn waardoor nog snellere cpu's minder gevraagd zijn. IMO grote kans inderdaad dat die wet van Moore toch echt ten einde is nu. Jammer, maar helaas.

Overigens, als de wet van Moore ten einde is, worden cpu's en computers nog steeds verder ontwikkelt, maar dan worden er bijv. nieuwe functies ingebouwd.

[MTV DNA]

Salvatron schreef op vrijdag 29 april 2016 @ 00:48:
[...]


De meeste mensen kunnen gewoon begrijpen wat Stephen Hawking begrijpt, wel zullen ze er wat meer moeite voor moeten doen. Maar natuurkunde is gewoon wiskunde e.d. die je met een normaal verstand kunt begrijpen. Verder valt te betwijfelen of de normaalverdeling wel helemaal van toepassing is op de IQ-verdeling, de meeste mensen zullen denk ik boven de 100 scoren omdat enkele hele domme mensen de hele boel naar beneden trekken. Daarnaast is het syndroom van Down een ziekte die imo niet moet worden meegerekend. Feit is dat dankzij de media, de wijze van presenteren e.d. Hawking wordt afgeschilderd als een genie, maar dit is deels gewoon presentatie in de media.

Dit lijkt mij een typisch geval van het Dunning-Kruger effect.

[Salvatron]

MTV DNA schreef op maandag 02 mei 2016 @ 17:23:
[...]


Dit lijkt mij een typisch geval van het Dunning-Kruger effect.

Ja? Jij ziet er wel een gevalletje Dunning-Kruger in?

[page404]

Salvatron schreef op maandag 02 mei 2016 @ 18:25:
[...]


Ja? Jij ziet er wel een gevalletje Dunning-Kruger in?

Late reactie, maar ik denk dat hij vooral doelt op dit stukje:

Their research also suggests corollaries: highly skilled individuals may underestimate their relative competence and may erroneously assume that tasks which are easy for them are also easy for others

[Salvatron]

page404 schreef op dinsdag 21 juni 2016 @ 15:37:
[...]

Late reactie, maar ik denk dat hij vooral doelt op dit stukje:

[...]

Oh.. ik dacht dat hij me uitmaakte voor een incompetent figuur die zijn eigen capaciteiten veel hoger inschat dan ze in werkelijkheid zijn.

[ Voor 4% gewijzigd door Salvatron op 21-06-2016 15:48 ]

[page404]

Salvatron schreef op dinsdag 21 juni 2016 @ 15:47:
[...]


Oh.. ik dacht dat hij me uitmaakte voor een incompetent figuur die zijn eigen capaciteiten veel hoger inschat dan ze in werkelijkheid zijn.

Dat sluit ik niet uit hoor