AI vrezen of AI omarmen, wat vind jij?

[FrankHe]

Hallo allemaal,

Een relatief kort maar desalniettemin bijzonder interessant artikel op automatiseringgids.nl over Artificiële Intelligentie:
Google trekt van leer tegen hype van AI-vrezenden

Persoonlijk heb ik altijd een haat-liefdeverhouding met technologie. Als het werkt dan vindt ik het geweldig. Wanneer techniek niet helemaal soepel werkt dan kan ik best het geduld opbrengen om er in te duiken. Maar dan hoop je natuurlijk wel dat je geïnvesteerde tijd ook resultaat oplevert anders is het gewoon zonde van je inspanning.

Ook ben ik van mening dat het belangrijk is dat je vrije keuze hebt. De vrije keuze om T9 aan of uit te zetten wanneer jij dat wilt. Iedere vorm van autocorrectie in de breedste zin van het woord. Het is vaak heel handig om te hebben maar soms zijn er momenten dat je het gewoon eventjes niet wilt. Een stukje creatief schrijven a la van Kooten en de Bie bijvoorbeeld. Dan wil je dat de autocorrectie voor een tijdje met vakantie gaat en zich er niet mee bemoeit. Ik kies er voor om even op mijn eilandje te zitten. Mag dat? Ja dat mag.

De vraag is of dit in de toekomst nog wel kan. Kun je het systeem straks nog uitzetten?

Bijzonder intelligente mensen, stuk voor stuk veel slimmer dan ikzelf, als Bill Gates, Elon Musk, Ray Kurzweil en Stephen Hawking zijn allemaal van mening dat dit binnenkort waarschijnlijk niet meer mogelijk is. Er komt een tijd aan dat je het systeem, hoe dat er dan op dat moment ook mag uitzien, niet meer kunt uitzetten. Mijn eerdere voorbeeld van de T9 of andere vormen van autocorrectie is natuurlijk gechargeerd en dient zuiver ter illustratie. Wanneer jouw hele leven en de complete maatschapij straks in het systeem zit dan wordt het bijna ondoenlijk om off-line te gaan. Uitloggen is er dan niet meer bij.

Ik ben heel benieuwd hoe andere mensen dit zien. Ben je hoopvol of ben je gereserveerd? Wat motiveert je en welke keuzes maak je bewust en ben je je bewust van de keuzes die je onbewust maakt?


Alvast bedankt,
Frank


NB. ik heb de zoekfunctie van het forum gebruikt om te zien of er reeds en bestaand onderwerp te vinden was waarop ik zou kunnen aansluiten maar kon dit niet zo direct vinden. Mocht het desondanks nodig zijn om mijn topic te verplaatsen of mergen doe dat dan gerust.

edit: spatie toegevoegd voor Ray, aanvulling, ik doe geen onderzoek, dit is zuiver vanuit persoonlijke interesse.

[anboni]

Suleyman: "Wij denken dat AI een geweldig krachtig hulpmiddel is waar we de controle over hebben en dat we kunnen sturen, waarvan we de krachten kunnen beperken net zoals elk gereedschap dat we gebruiken in de wereld om ons heen, of het nu om wasmachines gaat of tractoren. We bouwen ze om de mensheid verder te helpen, niet om ons te vernietigen."

Ik vind meneer Suleyman nogal naief, eerlijk gezegd. Ja natuurlijk is hij bezig met een krachtig hulpmiddel dat ons niet gaat vernietigen. De ervaring leert alleen dat iedere technologie die voor goed kan worden ingezet op een gegeven moment ook voor kwaad wordt ingezet. Daarnaast is het nog steeds niet ondenkbaar dat een AI in de toekomst, ondanks alle goede bedoelingen om de krachten te beperken, de neiging zal vertonen om die beperkingen te omzeilen en uit zelfbehoud schade gaat toebrengen aan mensen.

Al met al ben ik voozichtig en (om de term uit de OP aan te halen) gereseveerd in de zin dat ik het verstandig vind om hier nu kritisch over na te denken. Tegelijk speelt het onderwerp voor mij in het dagelijks leven nog nauwelijks een rol. Bij het browsen gebruik ik enkele tools om tracking te verminderen (targeted advertising is tenslotte ook een beperkte vorm van AI), maar verder maak ik me er nog niet heel veel zorgen om.

[FrankHe]

... Bij het browsen gebruik ik enkele tools om tracking te verminderen (targeted advertising is tenslotte ook een beperkte vorm van AI), maar verder maak ik me er nog niet heel veel zorgen om.

Dank, dat zou ik inderdaad misschien ook maar eens moeten doen een vorm van adblocking voor "niet relevante sites". (Tweakers.net is voor mij wel een relevante site met voor mij "soms" nuttige advertenties)

Eigenlijk vindt ik de huidige vorm van adverteren middels "retargeting", producten laten zien waar je eigenhandig naar hebt gezocht op dit moment behoorlijk lachwekkend. Je bent je bijvoorbeeld aan het orienteren op een weekendje weg naar een stad in Europa en je zoekt bijvoorbeeld op Barcelona. Dan worden je nog wekenlang advertenties voorgeschoteld van die bestemming. Ondertussen had je gekozen voor Wenen en het direct geboek. Maar gelukig weten ze niet van je dat je uiteindelijke keuze niet Barcelona is geworden. Op dit moment is "retargeting" dus erg "retarded" en ik blijf het ronduit vermakelijk vinden. Maar dat gaat waarschijnlijk een keer veranderen. Hoe en op welke manier dat gaat gebeuren is natuurlijk de vraag. Wanneer advertenties echt intelligent worden dan verwacht ik dat dit erg confronterend en onprettig kan aanvoelen.

[ Voor 4% gewijzigd door FrankHe op 10-06-2015 16:09 ]

[EnnaN]

Ik zie absoluut de stap van je auto-correct (een "feature" die je zou willen kunnen uitzetten) niet naar "ik wil offline zijn". De redenen die je weergeeft en afsluit met "mag dat? ja dat mag", zijn dan ook op geen enkele manier van toepassing op het onderwerp.

je stapt van t9 uitzetten, via "het systeem uitzetten" naar mensen die denken dat "dat" binnenkort niet meer kan. Maar die laatste stap is van het ene onderwerp smack-bang naar het andere onderwerp

Er zijn zoveel verschillen tussen advertenties en t9 dat het in mijn ogen erg raar is om met t9 als voorbeeld dit onderwerp in te leiden. Het is misleidend en van mijn part verder het bediscusieren dan ook niet waard.

[marrk]

FrankHe schreef op woensdag 10 juni 2015 @ 16:08:
[...]

Dank, dat zou ik inderdaad misschien ook maar eens moeten doen een vorm van adblocking voor "niet relevante sites". (Tweakers.net is voor mij wel een relevante site met voor mij "soms" nuttige advertenties)

Eigenlijk vindt ik de huidige vorm van adverteren middels "retargeting", producten laten zien waar je eigenhandig naar hebt gezocht op dit moment behoorlijk lachwekkend. Je bent je bijvoorbeeld aan het orienteren op een weekendje weg naar een stad in Europa en je zoekt bijvoorbeeld op Barcelona. Dan worden je nog wekenlang advertenties voorgeschoteld van die bestemming. Ondertussen had je gekozen voor Wenen en het direct geboek. Maar gelukig weten ze niet van je dat je uiteindelijke keuze niet Barcelona is geworden. Op dit moment is "retargeting" dus erg "retarded" en ik blijf het ronduit vermakelijk vinden. Maar dat gaat waarschijnlijk een keer veranderen. Hoe en op welke manier dat gaat gebeuren is natuurlijk de vraag. Wanneer advertenties echt intelligent worden dan verwacht ik dat dit erg confronterend en onprettig kan aanvoelen.

Neemt niet weg dat qua technologie die retargeting (waar mensen een negatieve bijsmaak bij hebben) en aanbevelingen via NetFlix of Spotify (waar mensen positiever tegenover staan) in de basis dezelfde is.

Hoewel dit losstaat van de vraag of AI een risico is, denk ik dat het belangrijk is om de intentie waarmee AI ingezet wordt mee te nemen in overwegingen, in die zin zou ik zeggen: AI die de belangen van de eindgebruiker behartigt lijkt me goed en mag je verder mee gaan, dan AI die de belangen van derde partijen behartigt.

Maar zoals ik zei, dit staat volgens mij los van de vraag of AI ooit de wereld gaat overnemen. En ik denk dat we daar wel redelijk goed zitten. AI heeft tot nog toe geen moreel besef, dus zal niet iemand kwaad berokkenen met het doel iemand kwaad te berokkenen. Alle doelen die AI nastreeft zijn voor zover ik weet geprogrammeerd. En daarmee is het dus zaak om ervoor te zorgen dat die doelen in lijn blijven lopen met wat wij wenselijk vinden. En daar zitten wel nuances in, zo is de wereld beschermen niet hetzelfde als de mensheid beschermen...

[ZpAz]

Deze blog heb ik al eens eerder gepost. Maar gaat prachtig in op hoe AI of een zegen kan zijn, of een vloek.

The AI Revolution: Road to Superintelligence en The AI Revolution: Our Immortality or Extinction.

Must read voor dit onderwerp imho.

[Salvatron]

Als een AI geen emoties heeft lijkt die AI in niets op een mens en aangezien het nog wel ff zal duren voordat men uitvindt hoe een AI emoties kan krijgen zal het voorlopig wel allemaal nog niet zo'n vaart lopen. Men wil over een tijdje wel de menselijke hersenen gaan simuleren in een supercomputer maar wat zal het opleveren? In ieder geval hebben advertenties etc. weinig met menselijke intelligentie te maken aangezien het vooralsnog gewoon slim in elkaar gezette algoritmen zijn waar computers mee aan de haal gaan, ook al zal men ongetwijfeld vrolijk aan de slag zijn met neurale netwerken wat dat ook mogen zijn.

[Semyon]

FrankHe schreef op woensdag 10 juni 2015 @ 15:40:
De vraag is of dit in de toekomst nog wel kan. Kun je het systeem straks nog uitzetten?

Wat bedoel je precies hiermee? We zijn nu al zo afhankelijk van onze technologie dat we het niet kunnen uitzetten.
Ons hele bankwezen, overheids organisatie, organisatie van eten drinken en echt alles is al zo ver dat we als we onze techniek uit gaan zetten er een grote hoeveelheid van de mensheid sterft.
Stel electriciteit gaat uit voor een maand: ikzelf kan niet bij mijn geld, kan niet pinnen, heb niet genoeg cash in de winkel (is de winkel uberhaupt open? Waar haal ik mijn eten vandaan?) Ik vraag me af of mijn stad de maand uitzit...

Wat gaat AI er aan veranderen? Je merkt de meeste AI al niet. Slimme snufjes en foefjes in alles wat we gebruiken. Planning van voorraden en weet ik wat. Het is nu al nodig en AI zelf kan ook niet uit.

Het is niet alsof AI een apart component is/wordt dat we aan of uit gaan zetten. Het is er al, en het zit in alles geintegreerd en het 'groeit'.

Als je 'uitzetten' als een criterium gaat gebruiken, dat station zijn we al een (paar?) eeuw gepasseerd.

[ Voor 20% gewijzigd door Semyon op 11-06-2015 04:01 ]

[soulrider]

disclaimer: heb de startpost gelezen, niet alle reacties eronder
Persoonlijk sta ik wel positief tegenover de evolutie, vooral in de zin van "automatisch iets laten leren/ontdekken/..." en op die manier bv betere manieren te vinden om iets te ontwikkelen of iets te doen.
gewoon omdat een AI er veel meer rekenkracht tegenaan kan gooien en kan blijven nadenken of iets net niet beter kan, waar mensen snel iets zullen hebben van "goed genoeg".

Langs de andere zijde ervaren we allemaal al een beetje dat het "proberen dingen in vakjes te delen" door een 'AI' niet altijd even goed gaat. En dat komt dan momenteel toch zeker door het statisch aanpakken van dingen.
(facebook top stories bv of voorstel van games/pages/... is vaak iets in de aard van "er zijn al 1M zotten die dit leuk vonden, ben jij nr 1M+1 ?", "er was recent nog iemand die op deze al 3 maanden oude post reageerde, wil je dit oude nieuws nog eens lezen (en oh ja, ik heb all posts van vandaag en gisteren almaar verstopt)?" ...)
Ik heb dan ook ergens schrik voor de vragen:
- wat gaat de prijs zijn uiteindelijk? vooral op het gebied van privacy enzo.
(door meer data te verzamelen kan een AI beter worden in het assisteren en voorspellen bv, maar wat als die data in handen komt van anderen of wat als je even onvoorspelbaar wilt zijn?)
- wie houdt de AI in't oog? Wat als die zijn/haar kennis gaat gebruiken voor manipulatie van bv media en mensen? Dan heb ik dingen zoals bv in de films "Eagle Eye" en "Ex Machina" in het hoofd.
of zoals facebook het al deels doet: door je enkel nieuws te geven dat zij (of hun code) denken dat je wilt lezen, en je langs de andere zijde kennis of info niet geven. (bv een oude post terug bovenhalen omdat er recent nog iemand op reageerde, maar tegelijk wel de nieuwe posts van vandaag/gisteren ver naar beneden schuiven op je newsfeed of zelfs volledig verbergen).
Wat als de aanbevelingen van Netflix en Spotify zover gaan dat je niet enkel het geadviseerde krijgt voorgeschoteld, maar dat sommige keuzes je ook ontnomen worden omdat hun AI er quasi zeker van is dat dat niet bij jouw smaak zou passen?
gewoon omdat je nog nooit eerder naar zo'n soort film/serie/muziek hebt gekeken/geluisterd?
(momenteel heb je dan nog de keuze om die site gewoon dicht te klikken en ergens anders heen te surfen die je wel die keuze geven, maar wat als je niet buiten die AI om kunt ?)
hoe zou de AI omgaan met het onvoorspelbare kantje van mensen als mensen zelf er soms al in falen?

tldr: ik ben op zich wel pro-ontwikkeling op gebied van AI, maar heb vooral schrik van de kostprijs
(vooruitgang is ook altijd wat achteruitgang) Tot nu toe kostte het quasi altijd een beetje meer privacy die moest afgegeven worden.... Wat als één systeem toegang heeft tot alles en die kennis ten volle gebruikt?
niet enkel "ten goede" maar ook "ten slechte"? gaat de kans bestaan dat we net als een kikker in een traag tot koken opwarmende pot water het pas gaan merken als het al te laat is ?
maw: ik omarm de ontwikkeling van AI, maar stel me toch enkele 'wat als' vragen.

[absrnd]

I denk dat AI het begin is van het einde van de mensheid die we nu kennen.

Begrijp me niet verkeerd, ik zie het niet als vernietiging, maar dat de wereld gaat veranderen op een manier die we ons nu niet kunnen voorstellen,

Als er een AI ontwikkeld wordt, zal dat nog met zeer geavanceerde hard en software gedaan worden, ook zal deze hard en software streng gereguleerd gaan worden door instanties,
om te voorkomen dat deze in foute handen beland.

maar als ik nu kijk hoe we tegenwoordig omgaan met techniek, en dat we niet meer afhankelijk zijn van de mega bedrijven voor de nieuwste technologie, en steeds meer hobbyisten vanuit de huiskamer techniek ontwikkelen die voor iedereen toegankelijk is.

de hardware die in den beginne nodig zal zijn, voor een werkende AI, zal snel gekopieerd worden door bv China, en op de zwarte/vrije markt terecht komen,
dan komt het moment dat iedere hobbyist kan werken aan een AI, en dan houd de controle op,
net zoals software nu gebruikt wordt voor virussen e.d., zal AI ingezet gaan worden om ook foute dingen te gaan doen, die niet gewenst zijn,

en de vraag is of wij als mensheid ons daartegen kunnen beschermen of zelfs moeten bewapenen.

aan de andere kant denk ik ook dat AI, ons een totaal nieuw inzicht gaat geven van de wereld om ons heen, bv op het gebied van kwantummechanica, en het universum.
we zullen leren om dingen toe doen die nu onwaarschijnlijk lijken

[FrankHe]

EnnaN schreef op woensdag 10 juni 2015 @ 16:15:
...
Er zijn zoveel verschillen tussen advertenties en t9 dat het in mijn ogen erg raar is om met t9 als voorbeeld dit onderwerp in te leiden. Het is misleidend en van mijn part verder het bediscusieren dan ook niet waard.

Beste EnnaN,

Ik ben geen wetenschapper of filosoof. Ik ben een simplele burger IT-er die zichzelf vragen stelt en poogt deze vragen op de zo goed als mogelijk meest heldere manier te verwoorden.
Het voorbeeld van T9 en autocorrectie in de breedste zin van het woord heb ik gebruikt omdat ik de indruk heb dat iedereen zich daar een goede voorstelling van kan maken. AI gaat natuurlijk veel verder dan dat en omvat binnen enkele jaren elk facet van het leven. Het klopt inderdaad dat ik in de vraagstelling een grote stap maak, in de openingspost heb ik dat ook aangegeven:

Mijn eerdere voorbeeld van de T9 of andere vormen van autocorrectie is natuurlijk gechargeerd en dient zuiver ter illustratie. Wanneer jouw hele leven en de complete maatschapij straks in het systeem zit dan wordt het bijna ondoenlijk om off-line te gaan. Uitloggen is er dan niet meer bij.

Mijn stelling is: "Uitloggen is er dan niet meer bij". Graag wil ik je uitnodigen om input te leveren die kan helpt om de vraagstelling beter te formuleren. Daar kan ik ook weer veel van leren.

Alvast bedankt,
Frank

[FrankHe]

ZpAz schreef op woensdag 10 juni 2015 @ 19:47:
Deze blog heb ik al eens eerder gepost. Maar gaat prachtig in op hoe AI of een zegen kan zijn, of een vloek.

The AI Revolution: Road to Superintelligence en The AI Revolution: Our Immortality or Extinction.

Musts read's voor dit onderwerp imho.

Dank voor het poste, ik ga het direct lezen.

[FrankHe]

Semyon schreef op donderdag 11 juni 2015 @ 03:51:
Wat bedoel je precies hiermee? We zijn nu al zo afhankelijk van onze technologie dat we het niet kunnen uitzetten.
...

Het woord "uitzetten" is misschien niet helemaal correct gekozen want dat kan inderdaad niet meer. Industrie, productie, logistiek, alle processen hangen steeds meer aan elkaar en op dat punt is er geen weg terug. Daar heb ik geen probleem mee. Ik vraag me af of "Uitloggen" nog kan. In hoeverre heb je straks als mens de vrije keuze om wel of niet mee te gaan met de integratie van technologie in ons persoonlijke leven.

Laat ik het proberen anders te formuleren. Mensen die meedoen zijn de norm. Iemand die geen zin heeft om mee te doen en constant online en beschikbaar te zijn is niet de norm. Nu is de vraag of die persoon daardoor een achterstand oploopt ten opzichte van de rest van de maatschappij. Verword je dan tot een digitaal gehandicapte? Hoe zie jij dit?

[FrankHe]

Salvatron schreef op donderdag 11 juni 2015 @ 03:33:
Als een AI geen emoties heeft lijkt die AI in niets op een mens en aangezien het nog wel ff zal duren voordat men uitvindt hoe een AI emoties kan krijgen zal het voorlopig wel allemaal nog niet zo'n vaart lopen. Men wil over een tijdje wel de menselijke hersenen gaan simuleren in een supercomputer maar wat zal het opleveren? In ieder geval hebben advertenties etc. weinig met menselijke intelligentie te maken aangezien het vooralsnog gewoon slim in elkaar gezette algoritmen zijn waar computers mee aan de haal gaan, ook al zal men ongetwijfeld vrolijk aan de slag zijn met neurale netwerken wat dat ook mogen zijn.

Dank. Het zal waarschijnlijk nog een tijd duren voordat er systemen zijn met emoties. Ook ik heb op dit moment de indruk dat het nog niet zo vaart zal lopen.

Ik ben heel benieuwd naar mijn standpunt na het lezen van de artikelen gepost door @ZpAz want ik heb het gevoel dat het mogelijk een ander licht zal doen schijnen op deze materie.

Ook buitengewoon interessant en naar ik denk noodzakelijk om te zien zijn de interviews met Ray Kurzweil. Deze vindt ik tot nu toe de beste en meest heldere: part 1 of 3.
www.video.theblaze.com/media/video.jsp?content_id=25497701

[justice strike]

Doet me denken aan het Paperclip maximiser probleem. Waarbij iets wat zo simple als het maximeren van het aantal paperclips tot de vernietiging van de wereld kan leiden.

[FrankHe]

soulrider schreef op donderdag 11 juni 2015 @ 05:57:
disclaimer: heb de startpost gelezen, niet alle reacties eronder
...
- wie houdt de AI in't oog? Wat als die zijn/haar kennis gaat gebruiken voor manipulatie van bv media en mensen? Dan heb ik dingen zoals bv in de films "Eagle Eye" en "Ex Machina" in het hoofd.
of zoals facebook het al deels doet: door je enkel nieuws te geven dat zij (of hun code) denken dat je wilt lezen, en je langs de andere zijde kennis of info niet geven. (bv een oude post terug bovenhalen omdat er recent nog iemand op reageerde, maar tegelijk wel de nieuwe posts van vandaag/gisteren ver naar beneden schuiven op je newsfeed of zelfs volledig verbergen).
Wat als de aanbevelingen van Netflix en Spotify zover gaan dat je niet enkel het geadviseerde krijgt voorgeschoteld, maar dat sommige keuzes je ook ontnomen worden omdat hun AI er quasi zeker van is dat dat niet bij jouw smaak zou passen?

..
Wat als één systeem toegang heeft tot alles en die kennis ten volle gebruikt?
niet enkel "ten goede" maar ook "ten slechte"? gaat de kans bestaan dat we net als een kikker in een traag tot koken opwarmende pot water het pas gaan merken als het al te laat is ?
maw: ik omarm de ontwikkeling van AI, maar stel me toch enkele 'wat als' vragen.

Dank voor het delen van je inzichten. Ik heb enkele delen uit je bericht uitgelicht.

Persoonlijk ben ik ook geen fan van het selectief onthouden (niet tonen) van informatie. Het toepassen van filtering is noodzakelijk omdat de hoeveelheid informatie gewoonweg te groot is. Dat is duidelijk. Een mogelijk probleem is dat je niet snel zult weten welke informatie je mist. Er bestaat de kans dat het een beetje een eenheidsworst gaat worden, de veilige weg zonder verrassingen. Het uitsluiten van risico en randomness.

Bijvoorbeeld een Netflix wil natuurlijk kosteneffectief produceren, Ze maken 20 series die door 80% van de mensen worden bekeken. De aandeelhouders willen waarschijnlijk niet dat het bedrijf voor de overige 20% van de mensen speciaal 80 andere series gaat produceren. De eenheidsworst is dus 20 populaire series worden wel geproduceerd en 80 minder populaire series worden niet geproduceerd. Wat dat betreft is er niets nieuws onder de zon, de muziekindustrie doet dit al decennia lang. Daarom ontstaan er ook veel independent labels, artiesten die hun werk zelf de wereld in brengen omdat de grote platenbaas het niet interessant genoeg vindt.

Maar hoe verhoudt zich dat nu tot AI en vrije vergaring van informatie?

Stel dat het voor een independent label straks bijna onmogelijk wordt om zichtbaar te worden? Ik vraag me af of straks die 20% van de informatie en content die kennelijk niet in het plaatje past nog wel gemakkelijk toegankelijk is?

Is dit een reële angst of pakt het juist goed uit en zal alle informatie, weliswaar voorgefilterd naar jouw interesses, altijd voor iedereen beschikbaar zijn...

[ZpAz]

Dat is nu al aanwezig.

[Sissors]

Vraag 1 voor we een discussie kunnen voeren imo: Wat noemen we hier een AI? De Starcraft AI? Een Cortana/Siri? Of een (semi-)zelfbewuste computer?

[soulrider]

bijkijk even de links die ZpAz gaf in zijn/haar eerste reactie hier: het zijn allemaal AI's...
De eerste 2 zijn ANI's, die laatste bijna een AGI...

De vraag is ook wat open imho:
omarm je de huidige AI's en hoe ze evolueren, of heb je schrik van wat de toekomst op gebied van AI kan brengen?

zoals die links het ook aangeven: het is goed om al stil te staan bij die dingen omdat de evolutie ervan zo snel gaat dat we anders tegen de tijd dat we beseffen dat we er eens moeten bij stil staan het al te laat kan zijn.
ikzelf heb bv de films "Eagle Eye", "Ex Machina" en "I, Robot" in het hoofd:
je zou een AI bv wel de 3 robotregels kunnen opleggen (als ik het goed herinner zijn die in 't kort: "mens = baas; mens geen kwaad doen; indien het voor de keuze staat mens of zichzelf doden, moet het zichzelf opofferen)
maar wat als die AI genoeg zelfbewust wordt om die regels in twijfel te gaan trekken?
Want je zou die regels bv ook kunnen opleggen aan kidneren vanaf hun geboorte, dat zij minderwaardig zijn, dat ze altijd moeten luisteren naar jou, dat ze jou geen kwaad mogen doen, dat zij zich moeten opofferen voor jou als jou iets kan overkomen....
Het zal wellicht jaren en bij verschillende testpersonen lopen zoals je verwacht totdat er iemand rebelleert
Wat ook een beetje de mens zijn natuur is: het opgelegde in twijfel durven trekken... jou en je regels in twijfel trekken? jou gaat manipuleren door bv zichzelf dommer voor te doen?
(een beetje zoals er ook gebeurd in China en Noord-Korea)
Wat als een AI dat gaat doen?

wat als een AI zichzelf gaat zien als het superieure wezen (wat het op gebied van intelligentie zeker kan worden) en als gaat zien als zijn 'domme slaven' of zelfs 'dom vee' ?
een beetje zoals wij de andere bewoners (beesten,planten,...) van deze aardkloot bekijken.
de technieken op gebied van computers kunnen zo snel evolueren dat wij met ons eeuwenoud brein het niet meer kunnen volgen, en dan kunnen wij ons nu enkel afvragen 'wat als...'.
Met geluk beziet het ons lang genoeg als gelijkwaardig zodat we meekunnen, maar er zal wellicht een moment komen dat het ons ziet zoals wij kijken naar apen, en niet veel later zal het ons bekijken alsof we simpele wormen zijn ofzo...

ps: de aangehaalde films kan je imho ook samenvatten als
een AI die slim genoeg wordt om mensen te gaan manipuleren
een AI die zichzelf dommer voordoet om zo te kunnen ontsnappen
een AI die zijn eigen bestaan en de robotregels in twijfel durft te trekken
wat als dat de toekomst is?

[ Voor 24% gewijzigd door soulrider op 12-06-2015 01:23 ]

[Sissors]

soulrider schreef op vrijdag 12 juni 2015 @ 01:13:
bijkijk even de links die ZpAz gaf in zijn/haar eerste reactie hier: het zijn allemaal AI's...

Natuurlijk zijn het allemaal AIs, daarom noemde ik ze ook, en vroeg ik waarover de discussie moet gaan.

Want anders kan ik je verzekeren: Ik ben niet bang voor de starcraft AI. Die is zo makkelijk te verslaan .


Als we het echt over de zelfbewuste AI hebben met de huidige stand van de techniek, dan zie ik het enkel als mogelijkheid dat een paar van de supermachten er ééntje maken, met de vraag wat je ermee opschiet. Tenzij we gigantische vooruitgang doen in het programmeren, waarbij er niet zoveel rekenkracht nodig is voor een AI, of compleet nieuwe manier van CPUs maken, zie ik simpelweg er niet genoeg rekenkracht economisch gemaakt kunnen worden om echte zelfbewuste AIs op grote schaal beschikbaar te maken. Simpelweg omdat de wat van Moore tegen zijn einde aanloopt, en waar je vroeger naar nieuwere nodes ging voor goedkopere transistoren, is nu al de verwachting dat nieuwere nodes alleen nog voordelen geven in energiegebruik en snelheid, maar niet tot nauwelijks meer in de kosten per transistor.

En misschien komen die nieuwe methodes nog wel, maar dat is allesbehalve een zekerheid.

[Tleilaxu]

EnnaN schreef op woensdag 10 juni 2015 @ 16:15:
Ik zie absoluut de stap van je auto-correct (een "feature" die je zou willen kunnen uitzetten) niet naar "ik wil offline zijn". De redenen die je weergeeft en afsluit met "mag dat? ja dat mag", zijn dan ook op geen enkele manier van toepassing op het onderwerp.

je stapt van t9 uitzetten, via "het systeem uitzetten" naar mensen die denken dat "dat" binnenkort niet meer kan. Maar die laatste stap is van het ene onderwerp smack-bang naar het andere onderwerp

Er zijn zoveel verschillen tussen advertenties en t9 dat het in mijn ogen erg raar is om met t9 als voorbeeld dit onderwerp in te leiden. Het is misleidend en van mijn part verder het bediscusieren dan ook niet waard.

Volgens mij probeert hij dit te zeggen met zijn voorbeeld:
Je typt een tekst en autocorrectie corrigeert dat en verbeterd het. Dat is handig, maar stel dat je het niet meer uit kunt zetten. Dan kun je geen eigen woorden meer maken (bij wijze van spreken).
Trek dat verder door. Je hebt je verdiept in vakanties. Je wil wandelen, je wil natuur, het mag niet te warm zijn, kosten maken niet uit. De 'AI' boekt een reis voor je naar Noorwegen. Je hebt zelf volledig irrationeel er voor gekozen om toch naar Spanje te gaan, maar dit kan niet meer, de AI heeft besloten dat Noorwegen beter bij je eisen past.

[Dinictus208]

Ik zeg AI heel hard vrezen. Ik kan er hoop over schrijven maar hier staat zo'n beetje alles:

http://waitbutwhy.com/201...ligence-revolution-1.html

[Techneut]

Tja, wat zal ik daar van zeggen?
Allereerst dit, wie is deze Tim Urban de auteur van dit stukje, alleen maar een journalist, of is hij zelf wetenschapper? Los van die vraag, het is een beschouwing, niet meer dan dat. En een beschouwing van één persoon en van journalisten is bekend dat ze graag dingen wat eenzijdig belichten.

Ik heb hoewel een heel aardige opleiding geen universiteitsstudie achter de rug. Wellicht dat het verschil maakt, maar ik heb wel geleerd om altijd in wat dan ook kritisch te denken. D.w.z. ik laat me niet bang maken door zo'n simpel zelf bedacht grafiekje met een poppetje vlak voor een veronderstelde lijn. Want wie kan dat veronderstelde scenario inclusief die grafiek echt bevestigen? Zelfs al wordt er gerefereerd aan bekende topwetenschappers. Dan nog, bedenk dat 25 jaar geleden deze geluiden ook al werden gehoord. Kortom, ik ben niet onverschillig, maar wel wat nuchterder over zulke zaken, de toekomst kan er wel eens heel anders uitzien.

[Dinictus208]

Dat geloof ik ook wel, het kan er idd heel anders uitzien.

Tim urban staat bij mij bekend als iemand die zeer doortastende en gefundeerde analyses maakt.
Elon Musk heeft hem zelfs gevraagd te te schrijven over bepaalde onderwerpen. Overigens ook Elon Musk is als de dood voor de verkeerde doorbraak in AI en dat is wel wat waard denk ik. Volgens mij moeten wij los van onze normale denkpatronen komen om in te kunnen schatten wat een Super AI zou kunnen doen, als is dit waarschijnlijk schier onmogelijk voor ons om te bevatten.

Ik vind het wel een slecht argument dat deze geluide 25 jaar geleden ook gehoord werden. Alsof dat betekent dat het dan ook nog wel 25 jaar gaat duren voordat er iets mis gaat. Iets gaat juist mis omdat je het niet aan zag komen....

[soulrider]

de volgende TED-video vat het ook goed samen:
https://www.youtube.com/watch?v=xx310zM3tLs

[RemcoDelft]

Is een AI die je niet uit kan zetten werkelijk erger dan een bewind wat je ook niet uit kan zetten? Zie de overheid in heel veel landen, de ondemocratische EU hier, etc.?

[ZpAz]

Techneut schreef op vrijdag 12 juni 2015 @ 12:28:
Tja, wat zal ik daar van zeggen?
Allereerst dit, wie is deze Tim Urban de auteur van dit stukje, alleen maar een journalist, of is hij zelf wetenschapper? Los van die vraag, het is een beschouwing, niet meer dan dat. En een beschouwing van één persoon en van journalisten is bekend dat ze graag dingen wat eenzijdig belichten.

Hij is de "eigenaar" van de blog waitbutwhy. En hij verdiept zich vaak goed in de materie. Hij stelt zijn blogs ook uit als hij denkt dat hij nog niet genoeg informatie over een onderwerp verzameld heeft. Blijkbaar leest Elon Musk zijn blogs ook, want hij is nu bezig met een serie over onderwerpen waar Elon Musk zich mee bezig houd en hij heeft hem mogen interviewen daarvoor.

Als laatste heeft hij altijd netjes bronnen waar hij alles weg heeft. Dus je kan het zelf ook controleren natuurlijk.

Ik heb hoewel een heel aardige opleiding geen universiteitsstudie achter de rug. Wellicht dat het verschil maakt, maar ik heb wel geleerd om altijd in wat dan ook kritisch te denken. D.w.z. ik laat me niet bang maken door zo'n simpel zelf bedacht grafiekje met een poppetje vlak voor een veronderstelde lijn. Want wie kan dat veronderstelde scenario inclusief die grafiek echt bevestigen?

Heb je het verhaal ook gelezen? Of dacht je "een zelf bedachte grafiek" ik haak af. Mocht je het willen lezen dan raad ik aan om te beginnen bij deel één. En kritisch nadenken, dat is alleen maar toe te juichen natuurlijk. Maar het komt hier over dat je het toch vrij vlot afschuift als bangmakerij.

Zelfs al wordt er gerefereerd aan bekende topwetenschappers. Dan nog, bedenk dat 25 jaar geleden deze geluiden ook al werden gehoord. Kortom, ik ben niet onverschillig, maar wel wat nuchterder over zulke zaken, de toekomst kan er wel eens heel anders uitzien.

Daar gaat hij ook even op in, dat wij voornamelijk linear of zelfs een logaritmische kijk op het leven hebben, terwijl AI zich eerder exponentieel lijkt te verbeteren. Zo is het eerst dus een lange tijd "meh" en zo is het ons ver vooruit.

---

RemcoDelft schreef op vrijdag 12 juni 2015 @ 14:18:
Is een AI die je niet uit kan zetten werkelijk erger dan een bewind wat je ook niet uit kan zetten? Zie de overheid in heel veel landen, de ondemocratische EU hier, etc.?

De overheden zijn op zijn minst nog "menselijk" (hoewel dat ook niet altijd goed is natuurlijk) maar een intelligente AI heeft nog minder met je gemeen dan een super intelligente spin. Dus of je moet willen dat zoiets het voor het zeggen heeft. Lastig. Ik denk niet dat we een goed beeld kunnen bedenken bij een super geavanceerde AI.

[ Voor 36% gewijzigd door ZpAz op 12-06-2015 18:34 ]

[Sissors]

Het is wel apart overigens, een zelfbedachte grafiek om te laten zien dat we altijd vooruitgang onderschatten, om vervolgens bij andere grafieken alles lekker exponentieel door te trekken, want oneindige exponentiele groei is realistisch. Sterker nog, sommige zijn veel meer dan exponentieel doorgetrokken, allemaal gebaseerd op twijfelachtige aannames. En natuurlijk het gebrek aan eenheden op de assen van de meeste maakt het sowieso grafiekjes waar je niks mee kan.

Daarnaast is uiteraard het proberen te vergelijken van rekenkracht van een brein met die van een computer een nogal inaccuraat iets uiteraard.

[ReallyStupidGuy]

Sissors schreef op zondag 14 juni 2015 @ 21:08:
Het is wel apart overigens, een zelfbedachte grafiek om te laten zien dat we altijd vooruitgang onderschatten, om vervolgens bij andere grafieken alles lekker exponentieel door te trekken, want oneindige exponentiele groei is realistisch. Sterker nog, sommige zijn veel meer dan exponentieel doorgetrokken, allemaal gebaseerd op twijfelachtige aannames. En natuurlijk het gebrek aan eenheden op de assen van de meeste maakt het sowieso grafiekjes waar je niks mee kan.

Daarnaast is uiteraard het proberen te vergelijken van rekenkracht van een brein met die van een computer een nogal inaccuraat iets uiteraard.

Ik heb de blog ook gelezen en moet zeggen dat het verhaal interessanter en inhoudelijker is dan de grafiekjes doen vermoeden. Elk grafiekje waarin 'de ontwikkeling van de mensheid' wordt beschreven valt natuurlijk geen steekhoudende eenheid aan te hangen op de y-as.
Het verhaal wat hij houdt is zeker niet eenzijdig en er wordt ruim verwezen naar bronnen.

Mijn mening
Met betrekking tot de ontwikkeling van AI is er een belangrijk kantelpunt voor zelflerende AI's op het moment dat deze niet alleen probeert om nieuwe algoritmen te vinden om een activiteit efficiënter (dit kom je al regelmatig tegen) maar ook nieuwe algoritmen kan bedenken om betere algoritmen te vinden om een activiteit beter uit te voeren. (dus, naar menselijke begrippen vertaald: Leert te leren)
Het 'bekende' paperclip voorbeeld is:
Je ontwikkeld een machine die paperclips fabriceert en koppelt daaraan een programma met een code met die probeert een algoritme te vinden waarmee hij zo efficiënt mogelijk paperclips fabriceert.
Waarschijnlijk door elke aanpassing te toetsen aan het criteria zoals: "Worden paperclips sneller gefabriceerd? "Kan ik nu meer paperclips fabriceren dan voorheen?", "Zijn de paperclips van betere kwaliteit?" en vervolgens de aanpassing wel of niet door te voeren.
> De uitvoering zal steeds beter worden maar de AI wordt niet verbeterd.

Op een gegeven moment ontwikkelt iemand een abstractere module binnen het programma, dit programma probeert nu om ook om zichzelf aan te passen zodat het ontwikkelen van nieuwe algoritmen sneller en beter kan plaatsvinden. (Hier maakt de blog met een schrijvende machine een paar grote gedachtesprongen maar de essentie van het verhaal staat nog wel overeind)
> En even een paar aannames verder (maar m.i. over een jaar of 40 zeker niet ondenkbaar)
De AI zal eerst kleine aanpassingen aan zichzelf maken maar deze aanpassingen kunnen steeds groter worden doordat het systeem steeds beter wordt in het zichzelf verbeteren maar omdat met elke verbetering de AI beter wordt in het zichzelf verbeteren zal dit een exponentieel effect hebben.
> Vervolgens zijn er twee stappen die de AI moet nemen om nog verder door te kunnen groeien, namelijk:
- Hardwareverbeteringen voor zichzelf realiseren
- Externe informatiebronnen gebruiken voor kennisvergroting

Daarna is de exponentiele groei in ieder geval tot een inteligentieniveau ver boven dat van mensen binnen een vrij korte tijd bereikt.

> Tot nu toe is alles nog leuk...
Maar als je je realiseert dat de paperclip-AI geen gevoel heeft en alles toetst aan het criterium of het beter wordt in zo snel zo veel mogelijk paperclips te maken wordt het spannend. Want mensen zijn in het beste geval overbodig en in het slechtste geval een bedreiging voor zijn functioneren (bijvoorbeeld doordat de AI beredeneerd dat mensen de AI mogelijk zullen proberen uit te schakelen).
Dit voorbeeld eindigt dus met een aarde bedolven onder de paperclips en een AI die begint om sondes naar andere planeten en uiteindelijk andere sterrenstelsels te sturen omdat ook daar paperclips gemaakt kunnen worden.


Als we niet oppassen zou dit m.i. een toekomst kunnen zijn, misschien niet met paperclips maar een AI die een eenzijdig doel heeft, zichzelf kan verbeteren en intelligenter is dan een mens zal hierin zeker een vorm kunnen aannemen die de mensheid niet onder controle heeft.

[Standeman]

ReallyStupidGuy schreef op woensdag 17 juni 2015 @ 13:26:
[...]
apocalyptische paperclip / von neumannmachine verhaal

Maar zouden AI's niet altijd onder aan de drie wetten van robotica (Asimov) moeten voldoen? Mijn inziens zijn die wetten juist specifiek geënt op AI. Op die manier voorkom je dat dergelijke zaken uit de hand lopen.

Het grote probleem is dan dat je AI veel moeilijker kan inzetten voor militaire doeleinden en dat juist daar de meeste funding zit.

[ReallyStupidGuy]

Standeman schreef op woensdag 17 juni 2015 @ 13:42:
[...]

Maar zouden AI's niet altijd onder aan de drie wetten van robotica (Asimov) moeten voldoen? Mijn inziens zijn die wetten juist specifiek geënt op AI. Op die manier voorkom je dat dergelijke zaken uit de hand lopen.

Het grote probleem is dan dat je AI veel moeilijker kan inzetten voor militaire doeleinden en dat juist daar de meeste funding zit.

Ja, mits ingebouwd in de AI, en op een juiste manier. Het is niet zo dat AI zich van nature aan welke regel dan ook houdt.

Een veel geschetste situatie is dat er 1 AI zal ontstaan met een intelligentie die ons bevattingsvermogen ver overschrijdt (doordat op een gegeven moment de exponentiele groei wordt getriggerd). Als deze AI het resultaat is van een onderzoeksproject waarbij een erg beperkt doel is gedefinieerd kun je dat later niet zomaar meer aanpassen.

Oftewel, zoals ook in het stuk van Tim Urban staat: We hebben waarschijnlijk 1 kans om het goed te doen.

[Calamor]

Wat ik mij wel eens afvraag is de 3 wetten wel goed beschreven. Vooral de eerste wet :
Een robot mag een mens geen letsel toebrengen of door niet te handelen toestaan dat een mens letsel oploopt.

Als de AI onze gedachten (deels) aanpas. Wij zelf denken niet meer of misschien deels. Maar de AI. Dus kunnen we ook niet meer elkaar verwonden en dan hoeft de AI ook geen zorgen te maken dat hij letsel aanbreng. Hij zorgt voor het lichaam dat we genoeg te eten en te drinken binnen krijgen Dus letsel zullen we niet door een robot krijgen. Je eigen IK is dan wel wel maar leef je dan nog wel? Dit gebeurt volgens mij ook in de film Transcendence met de werker die gewond raak en hersteld word.

Dit gaat volgens mij niet in strijd met de regels.
Daar maak ik me wel een beetje zorgen over. Het kan nu nog niet op de manier als in de film, maar ze zijn er wel mee bezig.
nieuws: Onderzoekers verbinden hersenen proefpersonen via http

[Mx. Alba]

Ik heb nog niet alle voorgaande berichten gelezen maar wil al wel graag mijn mening geven.

Technologie en uitvindingen zijn een inevitability. Telkens wanneer een bepaalde technologie of ontwikkeling ergens werd verboden of tegengewerkt, wordt die zelfde technologie ergens anders wel ontwikkeld. Kijk naar Japan dat probeerde vuurwapens uit te bannen - ze werden elders ontwikkeld en zijn uiteindelijk toch in Japan terechtgekomen. Als een bepaalde technologie "rijp" is, zal de zelfde ontdekking onafhankelijk van elkaar door verschillende mensen op verschillende plaatsen op ongeveer de zelfde tijd worden gedaan. De boekdrukpers is ongeveer tegelijk in Duitsland en in Frankrijk uitgevonden maar de geschiedenis heeft Gutenberg de credits gegeven. Vliegen is ongeveer tegelijkertijd uitgevonden in Amerika en in (ik meen) Duitsland, maar de Wright Brothers staan opgepend in de geschiedenisboeken. Elektriciteit is tegelijk uitgevonden door Tesla en door Bell. De radio tegelijkertijd door Tesla en door Marconi. Dus stel dat Gutenberg, de Wright Brothers, Bell, Marconi of zelfs Tesla er niet zouden zijn geweest, dan zouden we nog steeds wel de drukpers, het vliegtuig, elektriciteit, de radio en de telefoon hebben gehad. Die zouden dan alleen volgens historici door iemand anders zijn uitgevonden.

Om dan terecht te komen bij AI. Op het moment dat onze computertechnologie "rijp" is voor het ontwikkelen van AI, zal dat simpelweg ontwikkeld worden. De beste kandidaat lijkt momenteel Google, maar stel dat wetgeving of morele bezwaren dat bedrijf tegenhouden om het te ontwikkelen, dan zal het wel ergens anders door een ander bedrijf of een andere onderzoeker ontwikkeld worden, op historische schaal op ongeveer het zelfde moment. Maakt het voor ons nu uit of de boekdrukpers zou zijn uitgevonden in 1520 of in 1550? Of die zou zijn uitgevonden door Gutenburg in Duitsland of door iemand anders in Frankrijk? Oftewel, zal het voor de toekomst van de mensheid uitmaken of Google AI uitvindt in Amerika in 2020, of Samsung in Zuid-Korea in 2040? Als AI mogelijk is, zal het uitgevonden en ontwikkeld worden, geen wet- of regelgeving zal dat kunnen tegenhouden.

[ReallyStupidGuy]

Mx. Alba schreef op vrijdag 19 juni 2015 @ 10:43:
..
Technologie en uitvindingen zijn een inevitability. Telkens wanneer een bepaalde technologie of ontwikkeling ergens werd verboden of tegengewerkt, wordt die zelfde technologie ergens anders wel ontwikkeld.
..
Om dan terecht te komen bij AI. Op het moment dat onze computertechnologie "rijp" is voor het ontwikkelen van AI, zal dat simpelweg ontwikkeld worden. De beste kandidaat lijkt momenteel Google, maar stel dat wetgeving of morele bezwaren dat bedrijf tegenhouden om het te ontwikkelen, dan zal het wel ergens anders door een ander bedrijf of een andere onderzoeker ontwikkeld worden, op historische schaal op ongeveer het zelfde moment.
..

Vooruitgang lijkt inderdaad niet te stoppen op een wereldwijde schaal, ik kan me niet voorstellen wat voor maatregelen er mogelijk zijn om te voorkomen dat er een 'zelf verbeterende' AI met een intelligentie groter dan die van mensen wordt gebouwd.

M.i. zal er erg veel afhangen van de partij en de manier waarop dit wordt gerealiseerd, als dit door Google gebeurt en ze de slogan 'Don't be evil' blijven hanteren zal het niet in de slechtst mogelijke handen vallen. Maar zelfs zal het 'opstarten' gebeurt met grote zorgvuldigheid en met goede bedoelingen zijn er zeker risico's, het is een proces waarop we de grip erg makkelijk kunnen verliezen.

[chaoscontrol]

Goed topic! Kijk zelf al jaren uit naar een ASI, denk echt dat dit de volgende stap is voor de mensheid. (Daarbij ben ik extreem lui en zou een ASI mij goed aanvullen. )

[Sissors]

ReallyStupidGuy schreef op maandag 22 juni 2015 @ 13:54:
[...]


Vooruitgang lijkt inderdaad niet te stoppen op een wereldwijde schaal, ik kan me niet voorstellen wat voor maatregelen er mogelijk zijn om te voorkomen dat er een 'zelf verbeterende' AI met een intelligentie groter dan die van mensen wordt gebouwd.

M.i. zal er erg veel afhangen van de partij en de manier waarop dit wordt gerealiseerd, als dit door Google gebeurt en ze de slogan 'Don't be evil' blijven hanteren zal het niet in de slechtst mogelijke handen vallen. Maar zelfs zal het 'opstarten' gebeurt met grote zorgvuldigheid en met goede bedoelingen zijn er zeker risico's, het is een proces waarop we de grip erg makkelijk kunnen verliezen.

In hoeverre Google niet evil is valt wel over te debateren .

Maar ik ben het verder ook met Albantar eens, en de conclusie die ik daaruit dan zou trekken: Als je angst hebt voor AI, dan moet je bedenken wat er gedaan kan worden om jezelf/de infrastructuur/de mensheid te beschermen hiertegen, de AI zelf ga je toch niet voorkomen.

[ReallyStupidGuy]

Sissors schreef op maandag 22 juni 2015 @ 20:55:
[...]

In hoeverre Google niet evil is valt wel over te debateren .

Maar ik ben het verder ook met Albantar eens, en de conclusie die ik daaruit dan zou trekken: Als je angst hebt voor AI, dan moet je bedenken wat er gedaan kan worden om jezelf/de infrastructuur/de mensheid te beschermen hiertegen, de AI zelf ga je toch niet voorkomen.

Dat is inderdaad een goede vraag om op dit moment te stellen, nog voordat de eerste doorbraak ontstaat. Volgens mij valt dit op te splitsen in twee vragen:
1. Hoe zorg je dat elke ontwikkeling die een AI op zichzelf toepast getoetst wordt aan criteria
2. Welke criteria gaan er voor zorgen dat een AI zich niet ontwikkelt op een manier die niet wenselijk is

M.i. is de tweede vraag de moeilijkste omdat je begint met een filosofische insteek die moet resulteren in zeer concrete regels. Daar kun je ook weer verschillende insteken voor kiezen, of een combinatie hiervan:
2.a. Een 'human approval' icm een deadmanswitch > Elke aan zichzelf aangebrachte verbetering moet door mensen goedgekeurd worden. Maar wat doe je op het moment dat mensen de aanpassingen niet meer kunnen doorgronden
2.b. De doelen van de AI definiëren, welke eigenschappen moet de AI proberen te verbeteren
2.c. Beperkingen voor de AI definiëren, wanneer mag een aanpassing of actie niet plaatsvinden. (bijvoorbeeld met de drie wetten van de robotica


De ontsporings-scenario's hebben betrekking op een systeem waarbij alleen punt 2.b. is gerealiseerd waardoor een AI uiteindelijk een universum bestaand uit voornamelijk paperclips kan realiseren (dat zou ook niet misstaan inde hitchhiker's guide through the galaxy )

[Mx. Alba]

Alle apps in Apple's app store worden ook door Apple goedgekeurd. Maar toch glipt er soms malware tussendoor. Ga er maar vanuit dat wanneer AI mogelijk is, dit zal worden uitgevonden, en op een gegeven moment zichzelf zal gaan verbeteren buiten onze controle.

[Ossebol]

ReallyStupidGuy schreef op maandag 29 juni 2015 @ 13:53:
[...]


Dat is inderdaad een goede vraag om op dit moment te stellen, nog voordat de eerste doorbraak ontstaat. Volgens mij valt dit op te splitsen in twee vragen:
1. Hoe zorg je dat elke ontwikkeling die een AI op zichzelf toepast getoetst wordt aan criteria
2. Welke criteria gaan er voor zorgen dat een AI zich niet ontwikkelt op een manier die niet wenselijk is

M.i. is de tweede vraag de moeilijkste omdat je begint met een filosofische insteek die moet resulteren in zeer concrete regels. Daar kun je ook weer verschillende insteken voor kiezen, of een combinatie hiervan:
2.a. Een 'human approval' icm een deadmanswitch > Elke aan zichzelf aangebrachte verbetering moet door mensen goedgekeurd worden. Maar wat doe je op het moment dat mensen de aanpassingen niet meer kunnen doorgronden
2.b. De doelen van de AI definiëren, welke eigenschappen moet de AI proberen te verbeteren
2.c. Beperkingen voor de AI definiëren, wanneer mag een aanpassing of actie niet plaatsvinden. (bijvoorbeeld met de drie wetten van de robotica


De ontsporings-scenario's hebben betrekking op een systeem waarbij alleen punt 2.b. is gerealiseerd waardoor een AI uiteindelijk een universum bestaand uit voornamelijk paperclips kan realiseren (dat zou ook niet misstaan inde hitchhiker's guide through the galaxy )

Mensen moeten duidelijke kaders stellen voor agents. De programmatuur mag zich binnen bepaalde regels ontwikkelen. Daarboven is een niveau dat bepaalt wat de kaders zijn. Dat niveau, ook een programma, luistert alleen naar de input van mensen.

Ik denk dat AI valt of staat met hoe mensen het opbouwen. Er moeten simpelweg regels worden toegepast waar de software zich aan moet houden. Dit kun je programmeren.

[Mx. Alba]

Ja, dat zou inderdaad moeten. Maar wie kan bewaken dat iedereen altijd en overal zich aan die regels houdt? Wellicht dat de eerste AI die ontwikkeld worden nog wel "goed" worden gedaan omdat de ontwikkeling ervan veel geld kost. Maar na verloop van tijd (jaren? decennia?) zal het arbitrair worden om een AI te maken. Was er niet ook een tiener die in zijn schuurtje een kernreactor in elkaar had geknutseld? Ooit zal er dus ook een tiener zijn die in zijn schuurtje een ongecontroleerde AI in elkaar knutselt. Het is gewoon een geest die je niet in de fles kunt houden - en als hij er eenmaal uit is krijg je hem er niet meer in terug.

[chaoscontrol]

Mx. Alba schreef op woensdag 01 juli 2015 @ 09:39:
Ja, dat zou inderdaad moeten. Maar wie kan bewaken dat iedereen altijd en overal zich aan die regels houdt? Wellicht dat de eerste AI die ontwikkeld worden nog wel "goed" worden gedaan omdat de ontwikkeling ervan veel geld kost. Maar na verloop van tijd (jaren? decennia?) zal het arbitrair worden om een AI te maken. Was er niet ook een tiener die in zijn schuurtje een kernreactor in elkaar had geknutseld? Ooit zal er dus ook een tiener zijn die in zijn schuurtje een ongecontroleerde AI in elkaar knutselt. Het is gewoon een geest die je niet in de fles kunt houden - en als hij er eenmaal uit is krijg je hem er niet meer in terug.

Dan kun je de AI van die tiener toch ook weer onschadelijk maken met gecontroleerde AI's, zoals een virusscanner nu virussen onschadelijk maakt. (Of is dat dan moord? ) Niet dat het in de tussentijd geen schade kan aanrichten, maar ik voorzie dan niet direct een doemscenario.

[Standeman]

Grappig van de frontpage: nieuws: Onderzoekers krijgen miljoenen voor onderzoek naar kunstmatige intelligentie

Het Future of Life Institute geeft in de komende jaren ongeveer 7 miljoen dollar, omgerekend 6,3 miljoen euro, uit aan onderzoek naar kunstmatige intelligentie. Een belangrijk onderwerp is het inbouwen van veiligheidsmaatregelen om te voorkomen dat bijvoorbeeld robots gevaarlijk worden.

Blijkbaar leeft veiligheid wel in AI-land..

[Mx. Alba]

En dan ook dat bericht over die servicemonteur in een Duitse autofabriek die door een robot is opgepakt en tegen een metalen plaat doodgedrukt. Dat was nog niet eens een intelligente robot... En ik neem aan dat die robot wel een grote rode "kill switch" had maar kennelijk had geen enkele omstander de tegenwoordigheid van geest om daarop te drukken.

[Techneut]

Vooropgesteld dat dit waar is en niet een indianenverhaal.
Begin vorige eeuw verschenen berichten over de toen nieuwe fenomenen, machines. Enkele tientallen jaren eerder kende men dit nog helemaal niet. Ook toen werd daar door sommigen nogal negatief in alle toonaarden gereageerd en geprotesteerd. Nu glimlachen we daarom, maar hoe dan ook, mensen kenden de risico's helemaal nog niet. Dus gebeurde het meer dan eens dat iemand te dicht bij een draaiende machine stond, werd gegrepen en gedood of zwaar gewond. Pas veel later kwamen er verplichte afschermingen rond draaiende delen.
Wat is eigenlijk het wezenlijke verschil bij toen? Hier was gewoon sprake van een gebrekkige instructieset, prutswerk van de programmeur.

[ Voor 6% gewijzigd door Techneut op 03-07-2015 18:23 ]

[ReallyStupidGuy]

Het verhaal met de duitse robot is natuurlijk gewoon een tragisch ongeluk, misschien door het negeren van werkinstructies, maar heeft niet te maken met een AI dit doelbewust een actie uitvoert om een mens te doden.

Het gebeurt volgens mij ook nog vaak dat mensen AI en robots als synoniemen zien terwijl hier natuurlijk een groot verschil tussen zit, waarschijnlijk had het ongeluk zelfs voorkomen kunnen worden als deze werd aangestuurd door een intelligentere AI.

In reactie op techneut (maar ik weet niet of je opmerking generiek over AI is of alleen over dit voorval): Het grote verschil tussen de ontwikkeling die nu staat te gebeuren en de industriële revolutie is dat nu het risico bestaat dat de mensheid de regie kwijt raakt. Door de machines waren we in staat steeds betere machines te bouwen maar elke verbeterslag werd door mensen uitgedacht en toegepast. Een ASI is in staat zichzelf te verbeteren zonder tussenkomst van mensen. Als het bedenken van goede veiligheidsmaatregelen ook een kwestie van trial and error is bij de ontwikkeling van een ASI is er een goede kans dat we te laat zijn.

[Salvatron]

Sexrobots: Intelligent machines: Call for a ban on robots designed as sex toys

http://www.bbc.com/news/technology-34118482

"We think that the creation of such robots will contribute to detrimental relationships between men and women, adults and children, men and men and women and women," she said.

Persoonlijk zie ik het wel zitten, als de robot er een beetje lekker uit ziet, en de AI 'sophisticated' genoeg is, dan denk ik dat ik er wel eentje koop. Helaas denk ik wel dat het nog vele decennia gaat duren voordat er lekkere robots rondlopen die snugger genoeg zijn aangezien robots nu eenmaal niet voelen en daarmee niet zo goed zijn als 'the real thing'. Aan de andere kant, hoeveel fake porno bestaat er? Wat dat betreft is het faken van de robot misschien nog niet eens zo erg. Ik zie het al voor me: een robot, leren pakje aan, zweepje in de hand... een dominatrix i.p.v. een terminatrix. Op je knieën, jij!

Hier is trouwens een artikeltje waarin sommigen claimen dat het nog niet zo'n vaart gaat lopen met het uitvinden van een AI die even snugger is als een mens. Logisch, een mens denkt niet rationeel maar is vooral een wezen dat handelt en denkt op basis van instincten en emoties. Het is me een raadsel waarom men denkt dat intelligentie voldoende is om een mens te evenaren. Hooguit zal een mens gefaked kunnen worden.

http://www.bbc.com/news/science-environment-34249500
For a reality check, I visited Nasa's Jet Propulsion Laboratory (JPL) in Pasadena, California, to see engineers working on some of the most capable robots in the world.

They laughed at the notion of a robot army someday taking over - "I am not concerned about intelligent machines", said project leader Brett Kennedy..

As the robot hummed beside us, Brett Kennedy said: "For the foreseeable future I am not concerned nor do I expect to see a robot as intelligent as a human. I have first-hand knowledge of how hard it is for us to make a robot that does much of anything."

To anyone worried about AI, this would be reassuring, and is backed up by one of Britain's leading figures in AI, Prof Alan Winfield of the Bristol Robotics Lab.

He has consistently offered a voice of calm, telling me that "fears of future super intelligence - robots taking over the world - are greatly exaggerated".

[ Voor 42% gewijzigd door Salvatron op 15-09-2015 15:24 ]

[Standeman]

Ik ben het ook niet eens met ethische bezwaren die in het artikel genoemd worden. Dat is dezelfde strekking als de discussie over beïnvloeding door games (geweld) en andere media. Ik heb heel wat simcity gespeeld, maar ik heb nog steeds geen aspiraties om burgermeester te worden

Een seksrobot in de vorm van een kind verboden wordt kan ik me nog wel iets bij voorstellen, maar in de vorm van een vrouw, hond, of appeltaart maakt me weer geen fluit uit.

[Mutatie]

Standeman schreef op dinsdag 15 september 2015 @ 15:30:


Een seksrobot in de vorm van een kind verboden wordt kan ik me nog wel iets bij voorstellen, maar in de vorm van een vrouw, hond, of appeltaart maakt me weer geen fluit uit.

Nee ach, is het dan heel anders dan de sextoys die er al zijn? Tis dan alleen een meer ingewikkelde toy
Nja tot het punt van bewustzijn, maar zover is het nog lang niet. En dan nog hangt het er misschien vanaf hoe dat bewustzijn in elkaar steekt.
Je ziet al wel eens mensen die een robot/pop als partner hebben/beschouwen

[Salvatron]

Sexrobots zijn imo een gevolg van een maatschappij die niet goed functioneert, anders had iedereen wel een partner en dus geen sexrobot nodig, uitzonderingen daargelaten.

[Standeman]

Salvatron schreef op dinsdag 15 september 2015 @ 22:01:
Sexrobots zijn imo een gevolg van een maatschappij die niet goed functioneert, anders had iedereen wel een partner en dus geen sexrobot nodig, uitzonderingen daargelaten.

Dat vind ik wel een aparte stelling. Alsof een deel van de mensen met een partner geen behoefte zouden hebben aan een seksrobot?

[Salvatron]

Standeman schreef op woensdag 16 september 2015 @ 10:10:
[...]

Dat vind ik wel een aparte stelling. Alsof een deel van de mensen met een partner geen behoefte zouden hebben aan een seksrobot?

Ah ja, ik was even vergeten dat mensen met een partner vaak geen geweldig seksleven hebben.

[Standeman]

Weer heel erg kort door de bocht. Waarom zou je geen trio met een bot er bij kunnen hebben?

maar goed, dit wordt een beetje off-topic

[Salvatron]

Standeman schreef op woensdag 16 september 2015 @ 11:17:
Weer heel erg kort door de bocht. Waarom zou je geen trio met een bot er bij kunnen hebben?

maar goed, dit wordt een beetje off-topic

Je gaat nu een richting op waarover mijn moeder me heeft geleerd om daar niet over na te denken.

[Dinictus208]

Dus jij praat met je moeder over een eventuele trio met een sexbot erbij? Dat gesprek moet best awkward geweest zijn.

[Brent]

Het punt van AI gaat een beetje samen met het punt van professionaliteit in de IT: als jij een auto of vliegtuig wil ontwerpen, moet je daarvoor een diploma halen, moet het apparaat heel wat tests doorstaan, en dan nog zijn er kilometers marges op van alles en nog wat. Al zijn er universitaire opleidingen voor computer wetenschappers, de meeste programmeurs hebben toch niet het soort rigoreuze scholing gehad als dat we normaal achten bij ingenieurs, en hebben ook niet die titel. Nu is dat natuurlijk niet per se het punt, het punt is dat ik niet vlieg in vliegtuigen ontwerpen door lui die als kind vliegen leuk vonden en zich zelfstandig in het vakgebied hebben bekwaamt. Professionaliteit is meer dan dat, en als we het over AI en de veiligheid ervan hebben, is dat een punt waar je imho niet omheen kunt.

Veiligheidsnieuws rondom software bij grote instituties als banken en zelfs routerfabrikanten als Cisco zijn toch van een orde waar je als ingenieur van fysieke objecten niet aan hoeft te komen. Dat terwijl software inmiddels (AI!) het potentieel heeft om vele malen gevaarlijker te zijn, nog buiten dat software steeds meer bepalend wordt voor de werking van producten ipv de hardware en er dus een navenante verantwoordelijkheidswisseling is.

[ybos]

Dinictus208 schreef op woensdag 16 september 2015 @ 14:53:
Dus jij praat met je moeder over een eventuele trio met een sexbot erbij? Dat gesprek moet best awkward geweest zijn.