Cookies op Tweakers

Tweakers maakt gebruik van cookies, onder andere om de website te analyseren, het gebruiksgemak te vergroten en advertenties te tonen. Door gebruik te maken van deze website, of door op 'Ga verder' te klikken, geef je toestemming voor het gebruik van cookies. Wil je meer informatie over cookies en hoe ze worden gebruikt, bekijk dan ons cookiebeleid.

Meer informatie

  • DirtyBird
  • Registratie: juni 2005
  • Nu online

DirtyBird

Praktiserend denker

Topicstarter
Dag,

Ik lees op de NOS over twee AI's van facebook die een onderlinge geheimtaal ontwikkelden waarna de stekker eruit werd getrokken.

http://nos.nl/l/2187668

Allereerst verbaast het me dat ik hier op Tweakers niks over terugvind of heb ik het gemist?

In het NOS bericht reageren wat mensen met een dubbele agenda en ik ben daarom benieuwd naar hoe tweakers met kennis van zake en hopelijk geen dubbele agenda hier tegenaan kijken.

Edit: typefout en url

DirtyBird wijzigde deze reactie 12-08-2017 09:06 (8%)


  • HKLM_
  • Registratie: februari 2009
  • Laatst online: 10:01

HKLM_

Edit: was Downloader_NL

Dat bericht van Facebook is al iets van vorige week . ik heb het nog als nieuws bericht tip ingestuurd maar Tweakers heeft er niks mee gedaan je hebt dus niks gemist op Tweakers.

Mijn PC: Gigabyte GA-B250M-D3H • Intel Core i7-7700 • 32GB DDR4 Crucial Ballistix Sport 2400 • Samsung 960 EVO 250GB • WD Blue 1TB • Windows 10 Pro • Sophos Home • HyperV virtualization


  • Sissors
  • Registratie: mei 2005
  • Laatst online: 10:38
Als eerste is 'geheimtaal' volgens mij al een foute benaming. Immers dat implicieert dat die bots dat deden met als doel te voorkomen dat mensen konden lezen wat ze communiceerde. Terwijl het gewoon waarschijnlijk als Engels was begonnen, en zonder externe input het Engels nogal snel verviel in iets onleesbaars. Met als vraag of de bots zelf nog wel wisten wat de ander bedoelde, of dat ze gewoon random onzin naar elkaar aan het versturen waren.

  • DirtyBird
  • Registratie: juni 2005
  • Nu online

DirtyBird

Praktiserend denker

Topicstarter
Ervan uitgaande dat er daadwerkelijk een beetje intelligentie in zit; waarom zouden ze doorgaan met die onzin als ze het zelf ook niet begrijpen?
Een van de reacties in het NOS bericht stelt dat ze niet opzettelijk onbegrijpelijk wilden zijn, maar dat ze snel een efficientere taal ontwikkelden.
Zou je dit niet meer een aantal linguisten kunnen uitpluizen en er alsnog achterkomen waar ze het over hadden? :)

  • President
  • Registratie: februari 2015
  • Laatst online: 08:00
quote:
DirtyBird schreef op zaterdag 12 augustus 2017 @ 09:28:
Ervan uitgaande dat er daadwerkelijk een beetje intelligentie in zit; waarom zouden ze doorgaan met die onzin als ze het zelf ook niet begrijpen?
Een van de reacties in het NOS bericht stelt dat ze niet opzettelijk onbegrijpelijk wilden zijn, maar dat ze snel een efficientere taal ontwikkelden.
Zou je dit niet meer een aantal linguisten kunnen uitpluizen en er alsnog achterkomen waar ze het over hadden? :)
Het heeft niks met geheimtaal te hebben, maar met effectiviteit inderdaad.

Het overslaan van woorden/klanken/letters maar elkaar toch begrijpen.

Denk hierbij aan die teksten die wel eens op Facebook of elders voorbij komen waar bepaalde letters zijn weg gelaten maar waarbij je de tekst nog prima kan lezen. Denk hierbij aan overbodige letters. 'Jij wordt 18 jaar' zou je in contexten kunnen verkorten naar 'jij wordt 18', wat weer verder kan naar 'jij word 18' of 'jij 18' etcetera. Lidwoorden kun je sowieso weg laten: 'ik pak stoel'

Enige nadeel is dat wij als mensen het inderdaad op een gegeven moment niet meer begrijpen.

Tweelingen ontwikkelen ook soms een eigen taal met klanken. Voor ons niet te begrijpen, maar voor hen een effectieve manier van communiceren. Doel is effectief communiceren, niet geheimzinnigheid.

  • CMD-Snake
  • Registratie: oktober 2011
  • Laatst online: 09:06
quote:
DirtyBird schreef op zaterdag 12 augustus 2017 @ 09:04:
Dag,

Ik lees op de NOS over twee AI's van facebook die een onderlinge geheimtaal ontwikkelden waarna de stekker eruit werd getrokken.

http://nos.nl/l/2187668

Allereerst verbaast het me dat ik hier op Tweakers niks over terugvind of heb ik het gemist?

In het NOS bericht reageren wat mensen met een dubbele agenda en ik ben daarom benieuwd naar hoe tweakers met kennis van zake en hopelijk geen dubbele agenda hier tegenaan kijken.
Het klinkt als een storm in een glas water.

Veel chatbots hebben algoritmes om dingen te "leren". Die kunnen misbruikt worden of stuk lopen, een beetje net als een papegaai leren schelden. Zie bijvoorbeeld de chatbot die Microsoft had gemaakt. Een paar mensen gingen die bot racistische opmerkingen leren maken en na enige tijd nam de bot dat over. In het gelinkte artikel staan dus Chinese chatbots die kritisch waren op de communistische partij, maar dat valt denk ik ook hieronder. Een paar grapjassen hebben die bots daarbij geholpen.

De geheimtaal zal vermoedelijk geen geheimtaal zijn geweest maar pure nonsens.

Het artikel lijkt wat sensationeler verwoord dan dat het daadwerkelijk is. HAL 9000 is het in elk geval niet.

  • RedHat
  • Registratie: augustus 2000
  • Laatst online: 09:10
Als het letterlijk is wat er gebeurd is met de chatbots dan snap ik de beslissing. Alleen er is voor zover ik weet te weinig informatie voor handen om dit stellig te kunnen beweren.

In het geval dat de 'bots' wel een efficiŽnte taal ontwikkelen (die wij mogelijk niet begrijpen) dan is het juist uiterst leerzaam om te onderzoeken wanneer, waarom en wat er gecommuniceerd wordt. Dit kun je namelijk parallel trekken aan de mensheid, die is ook op een zeker moment een taal gaan ontwikkelen om te kunnen communiceren (en later te evolueren tot de communicatie die wij hedendaags kennen).

Er zijn zelfs hele theorieŽn dat het leven zoals wij die kennen ook een simulatie is. Dus het lijkt mij in het 2e geval juist uiterst interessant om dit te onderzoeken, maar in het geval van de 'chatbots' helemaal niet.

Diablo3 BattleTag: RedHat#2846
Mijn Diablo 3 Monk Season 9


  • Sissors
  • Registratie: mei 2005
  • Laatst online: 10:38
quote:
DirtyBird schreef op zaterdag 12 augustus 2017 @ 09:28:
Ervan uitgaande dat er daadwerkelijk een beetje intelligentie in zit; waarom zouden ze doorgaan met die onzin als ze het zelf ook niet begrijpen?
Als eerst: Het was slechts een optie he, ik zeg zeker niet dat dat het geval was. Maar waarom ze door zouden gaan? In de hoop met meer data wel het te kunnen begrijpen. (Niet echt 'hoop' natuurlijk, een machine learning algorithme kent geen emoties).

Maar het is een AI, er zit echt geen intelligentie in, enkel wat machine learning algorithmes. Als in de code staat dat hij een nieuwe respons moet berekenen, en die terug sturen, dan doet hij dat. Ook al begrijp hij er niks van en is die response compleet onzinnig.
quote:
In het geval dat de 'bots' wel een efficiŽnte taal ontwikkelen (die wij mogelijk niet begrijpen) dan is het juist uiterst leerzaam om te onderzoeken wanneer, waarom en wat er gecommuniceerd wordt. Dit kun je namelijk parallel trekken aan de mensheid, die is ook op een zeker moment een taal gaan ontwikkelen om te kunnen communiceren (en later te evolueren tot de communicatie die wij hedendaags kennen).
Dit zijn bots die specifiek geprogrammeerd zijn om met elkaar te gaan praten. Als je twee Roombas hebt, die met machine learning uitrust, en na loop van tijd gaan die communiceren om de taken beter te verdelen, ja dan zou dat zeer interessant zijn. Maar dat is hier niet het geval.

Sissors wijzigde deze reactie 12-08-2017 11:11 (31%)


  • Amphiebietje
  • Registratie: augustus 2017
  • Laatst online: 12:11
quote:
Sissors schreef op zaterdag 12 augustus 2017 @ 11:07:
[...]

Dit zijn bots die specifiek geprogrammeerd zijn om met elkaar te gaan praten. Als je twee Roombas hebt, die met machine learning uitrust, en na loop van tijd gaan die communiceren om de taken beter te verdelen hun vervuilende eigenaar eens permanent op te ruimen :+ , ja dan zou dat zeer interessant zijn. Maar dat is hier niet het geval.
Natuurlijk, het menselijke inzicht kennende over hoe andere organismen met elkaar communiceren (d.w.z. prut), zou het mogelijk kunnen zijn dat zoiets zich onder onze ogen ontwikkeld zonder dat we ons dat realiseren, puur omdat we het niet als gedrag dat ons bekend is herkennen.

  • Onbekend
  • Registratie: juni 2005
  • Laatst online: 11:27
Het is geen geheimtaal, maar gewoon een onbekende taal voor ons. Dit is het zelfde als de door ontwikkelde talen van volksstammen die in Afrika leven. Het probleem is gewoon dat we die zelfontwikkelde taal niet snel genoeg konden vertalen naar een begrijpelijke taal voor ons.

Wij leren hier op school precies hoe je een taal moet schrijven en het wordt meteen gecorrigeerd als we een d/dt-foutje maken, terwijl alles zonder dt opschrijven een stuk gemakkelijker en sneller gaat. (Als de lezer van een stuk tekst weet dat er dt had moeten staan, hoef je dat dus eigenlijk niet op te schrijven want de gene die dat leest weet namelijk dat er dt had moeten staan en dat scheelt gewoon weer een aantal letters schrijven.)

Sudoku oplosser | Nieuw!!! De moeilijke puzzel!. Probeer hem eens uit!


  • enchion
  • Registratie: februari 2002
  • Niet online
Doet me heel erg aan "Colossus - The Forbin Project" denken. (oude maar extreem goede scifi film)



Echt een aanrader.

Het lijkt erop dat we beangstigend dichtbij het plot van de film zijn aangekomen.

  • P.O. Box
  • Registratie: augustus 2005
  • Laatst online: 08:34
Een beetje storm in een glas water. Voor zover ik begrepen heb hadden ze twee bots die met elkaar moesten onderhandelen in het engels.
Door het lerende principe gingen de bots de engelse taal iets aanpassen, zo zeiden ze:
"Ballen hebben nul voor mij voor mij voor mij voor mij voor mij voor mij voor mij voor mij.”
om te benadrukken hoe weinig waarde Ballen voor deze bot hebben.

De clickbait titels op de diverse sites maken het allemaal heel spectaculair, maar zover was het dus nog niet.

Overigens denk ik dat het Battlestar Galactica scenario nog niet eens zo heel gek is. Er zijn al momenten waarop we volledig op de computer vertrouwen. Hoe vaker een computer dingen goed blijkt te doen, hoe meer we hem gaan vertrouwen. Er komt een moment dat we computers zo slim gemaakt hebben dat we niet meer goed kunnen controleren of ze te vertrouwen zijn. Dat we ze tot dan toe altijd hebben kunnen vertrouwen zou dan wel eens de valkuil kunnen zijn.
En dan bedenkt de computer die als taak heeft mensen te beschermen, dat de grootste bedreiging voor de mens, de mens zelf is..... takketakketakketak: en neergemaaid zijn we met zijn allen :)
(ok ik overdrijf het een beetje, maar in mijn ogen is het onontkoombaar dat er een moment in de toekomst komt waarin we teveel op computers vertrouwen).

  • Hahn
  • Registratie: augustus 2001
  • Laatst online: 08:19

Hahn

Tegendraads

quote:
P.O. Box schreef op zaterdag 12 augustus 2017 @ 12:12:
Een beetje storm in een glas water. Voor zover ik begrepen heb hadden ze twee bots die met elkaar moesten onderhandelen in het engels.
Door het lerende principe gingen de bots de engelse taal iets aanpassen, zo zeiden ze:
"Ballen hebben nul voor mij voor mij voor mij voor mij voor mij voor mij voor mij voor mij.”
om te benadrukken hoe weinig waarde Ballen voor deze bot hebben.

De clickbait titels op de diverse sites maken het allemaal heel spectaculair, maar zover was het dus nog niet.
Waarom is het een storm in een glas water? Dat leg je niet uit.

The devil is in the details.


  • Sissors
  • Registratie: mei 2005
  • Laatst online: 10:38
Dat is nu al meerdere keren uitgelegd. Ze hebben geen geheim taal bedacht, ze hebben de taal wat aangepast zodat het volgens hun algoritmes soepeler ging. Engels is niet ontwikkeld om de efficiŽntste taal te zijn voor machine learning bots.

  • enchion
  • Registratie: februari 2002
  • Niet online
quote:
Sissors schreef op zaterdag 12 augustus 2017 @ 12:23:
Dat is nu al meerdere keren uitgelegd. Ze hebben geen geheim taal bedacht, ze hebben de taal wat aangepast zodat het volgens hun algoritmes soepeler ging. Engels is niet ontwikkeld om de efficiŽntste taal te zijn voor machine learning bots.
Engels is idd ongeveer de meest structuurloze taal die veel gebruikt wordt.
Zeker aangezien elk woord op tenminste oneindige verschillende manieren geinterpreteerd kan worden.

Het is op die manier ook niet echt vreemd dat humor en wetenschap erg groot zijn in het Engelse rijk aangezien niks in 1x te vatten is en je elke keer moet uitleggen wat je bedoelt aangezien het niet in 1x duidelijk is.

  • Hahn
  • Registratie: augustus 2001
  • Laatst online: 08:19

Hahn

Tegendraads

quote:
Sissors schreef op zaterdag 12 augustus 2017 @ 12:23:
Dat is nu al meerdere keren uitgelegd. Ze hebben geen geheim taal bedacht, ze hebben de taal wat aangepast zodat het volgens hun algoritmes soepeler ging. Engels is niet ontwikkeld om de efficiŽntste taal te zijn voor machine learning bots.
Ze hebben misschien geen taal bedacht die als geheim bedoeld was, maar wel een taal die niet te volgen is door mensen. En dat kan vroeg of laat voor problemen zorgen, omdat niet (of in ieder geval niet makkelijk) te controleren valt wat ze aan het doen zijn.

The devil is in the details.


  • Iva_Bigone
  • Registratie: maart 2001
  • Niet online

Iva_Bigone

Te koop: diversen

In een aflevering van Tweakers' "Polder Pioniers" kwam Luc Steels aan bod die halverwege de jaren '90 al bezig was met "robots" die een eigen taaltje leerden door met elkaar te kletsen:
video: Polderpioniers - Luc Steels: De zoektocht naar intelligente machines

@ 8m35 en @ 14m40 bijvoorbeeld.


Te koop:
diversen


  • ZpAz
  • Registratie: september 2005
  • Laatst online: 23-08 13:27
quote:
Hahn schreef op zaterdag 12 augustus 2017 @ 13:11:
[...]

Ze hebben misschien geen taal bedacht die als geheim bedoeld was, maar wel een taal die niet te volgen is door mensen. En dat kan vroeg of laat voor problemen zorgen, omdat niet (of in ieder geval niet makkelijk) te controleren valt wat ze aan het doen zijn.
Dit is gewoon een gevalletje van dat het algoritme op basis van bepaalde input een taal probeerde te genereren, precies wat de bedoeling was, maar de input werd niet geÔnterpreteerd zoals ze bij Facebook verwacht hadden en het leverde "gibberish" op. Het was geen "bewuste keuze" van de "intelligentie" (wat al een overstretch benaming is voor een algoritme van deze orde).

Als een A.I. echt bewust een geheim communicatiemiddel zou opzetten, dan gaan ze zeker geen woorden oversturen, woorden zijn een bijzonder trage en weinig gedetailleerde manier om gedachten over te zetten.

Denk maar eens aan een prachtig landschap in je hoofd, en probeer het te beschrijven aan een ander. Deze persoon zal doorhebben waar je het over hebt, maar zijn "landschap" als je die kon projecteren zou niets op de jouwe lijken. Mogelijk pas na heel veel woorden, en dan zelfs waarschijnlijk nog niet eens.

Het zou veel efficiŽnter zijn om letterlijk je gedachten over te plaatsen. En als een AI een eigen communicatiemiddel ontwikkeld verwacht ik dat het meer in die orde zou zitten. Wat me voor een machine met bits en bytes ook veel makkelijker lijkt.

"Because Vegeta, a Rose by any Other Name is Still Goku." - Zamasu


  • Hahn
  • Registratie: augustus 2001
  • Laatst online: 08:19

Hahn

Tegendraads

quote:
ZpAz schreef op zondag 13 augustus 2017 @ 09:54:
[...]


Dit is gewoon een gevalletje van dat het algoritme op basis van bepaalde input een taal probeerde te genereren, precies wat de bedoeling was, maar de input werd niet geÔnterpreteerd zoals ze bij Facebook verwacht hadden en het leverde "gibberish" op. Het was geen "bewuste keuze" van de "intelligentie" (wat al een overstretch benaming is voor een algoritme van deze orde).

Als een A.I. echt bewust een geheim communicatiemiddel zou opzetten, dan gaan ze zeker geen woorden oversturen, woorden zijn een bijzonder trage en weinig gedetailleerde manier om gedachten over te zetten.

Denk maar eens aan een prachtig landschap in je hoofd, en probeer het te beschrijven aan een ander. Deze persoon zal doorhebben waar je het over hebt, maar zijn "landschap" als je die kon projecteren zou niets op de jouwe lijken. Mogelijk pas na heel veel woorden, en dan zelfs waarschijnlijk nog niet eens.

Het zou veel efficiŽnter zijn om letterlijk je gedachten over te plaatsen. En als een AI een eigen communicatiemiddel ontwikkeld verwacht ik dat het meer in die orde zou zitten. Wat me voor een machine met bits en bytes ook veel makkelijker lijkt.
Bedankt dat je het wederom hebt uitgelegd aan me, maar zoals ik al aangaf: ik snap dat de AI geen geheimtaal probeerde te ontwikkelen, maar gewoonweg efficiŽnter te werk wilde gaan.

Maar kan je nu eens ingaan op wat ik erna aanstipte?
quote:
En dat kan vroeg of laat voor problemen zorgen, omdat niet (of in ieder geval niet makkelijk) te controleren valt wat ze aan het doen zijn.
Hoe moeten we als mensheid daarmee omgaan? Of hoe voorkomen we dat machines communiceren zonder dat we weten wat er speelt? En moeten we dat Łberhaupt willen voorkomen?

The devil is in the details.


  • ZpAz
  • Registratie: september 2005
  • Laatst online: 23-08 13:27
quote:
Hahn schreef op zondag 13 augustus 2017 @ 10:28:
[...]

Maar kan je nu eens ingaan op wat ik erna aanstipte?

[...]

Hoe moeten we als mensheid daarmee omgaan? Of hoe voorkomen we dat machines communiceren zonder dat we weten wat er speelt? En moeten we dat Łberhaupt willen voorkomen?
Als we ooit een AI kunnen ontwikkelen die een orde van groter slimmer is dan onszelf, dan lijkt het me dat we per definitie niet alles kunnen bevatten wat de AI wel bevat. Om te voorkomen dat een AI dingen kan zonder dat we het volledig doorgronden, lijkt me de enige mogelijkheid geen AI te bouwen.

Dan is de vraag wil je wel of niet een AI van deze orde hebben. Sommige mensen (Musk onder andere) zijn bezorgd over de toekomst met AI. En we zullen mijns inziens voorzichtig moeten zijn, hoewel ik er een stuk minder kaas van heb gegeten dan mensen die er actief mee bezig zijn.

Als er een punt is waar een intelligentie zichzelf kan verbeteren, dan moeten we dit probleem hebben opgelost voordat we bij dat punt zijn aanbeland, daarna zal de controle die je er op uit kan voeren denk snel minder worden, mogelijk tot een punt waar je geen controle meer hebt.

Als we een AI kunnen ontwikkelen, welke slimmer is dan ons, dan denk ik dat iets wat slimmer is dan ons, ook wel iets kan maken dat slimmer is dan zichzelf.

Of we dit moeten willen voorkomen, ik weet het niet. Dit is wel een interessante blog over het onderwerp.

"Because Vegeta, a Rose by any Other Name is Still Goku." - Zamasu


  • Sissors
  • Registratie: mei 2005
  • Laatst online: 10:38
quote:
Hahn schreef op zondag 13 augustus 2017 @ 10:28:

[...]

Hoe moeten we als mensheid daarmee omgaan? Of hoe voorkomen we dat machines communiceren zonder dat we weten wat er speelt? En moeten we dat Łberhaupt willen voorkomen?
Hoe voorkom je dat Henk de buurman communiceert over het internet zonder dat je weet wat hij doet? Dat is encryptie. Als we ervan uitgaan dat deze AI een zelfbewuste intelligente AI is, waarom heeft die geen recht op privacy?

  • Hahn
  • Registratie: augustus 2001
  • Laatst online: 08:19

Hahn

Tegendraads

quote:
Sissors schreef op zondag 13 augustus 2017 @ 12:34:
[...]

Hoe voorkom je dat Henk de buurman communiceert over het internet zonder dat je weet wat hij doet? Dat is encryptie.
Dat vind ik een ander verhaal. Als ik, of de politie, of wie dan ook, toegang krijg tot Henk z'n computer, dan kan ik achterhalen wat Henk aan het doen was, want we spreken dezelfde taal (of het valt te ontcijferen).
quote:
Als we ervan uitgaan dat deze AI een zelfbewuste intelligente AI is, waarom heeft die geen recht op privacy?
Waarom wel? Is 'zelfbewustheid' een eis om recht op privacy te hebben?

The devil is in the details.

Pagina: 1


Nintendo Switch Google Pixel XL 2 LG W7 Samsung Galaxy S8 Google Pixel 2 Sony Bravia A1 OLED Microsoft Xbox One X Apple iPhone 8

© 1998 - 2017 de Persgroep Online Services B.V. Tweakers vormt samen met o.a. Autotrack en Hardware.Info de Persgroep Online Services B.V. Hosting door True

*