Beste Jasper, beste redactie,
In "Waarom AI-reuzen een rem willen" staat: "De alarmerende voorspellingen van zogeheten AI-doomers worden onwaarschijnlijk geacht en zijn vooralsnog niet uitgekomen." Als bron voor "onwaarschijnlijk geacht" linken jullie naar
een Tweakers-artikel uit oktober 2017.
Dat artikel steunt op één hoogleraar robotica, Alan Winfield. In het
BBC HARDtalk-interview waar het stuk op is gebaseerd zei hij dat menselijk niveau AI er "in principle" komt, "but not for a very long time". Op zijn blog vergeleek hij de afstand tot AGI met
die tussen huidige raketmotoren en warp drive. In maart 2023 ondertekende diezelfde Winfield de
pauzebrief van het Future of Life Institute, en in mei 2023 schreef hij dat
Hinton gelijk had om de gevaren van GPT-4 aan te kaarten en dat hij zich "vindicated, although no less worried" voelde. Jullie enige bron voor "onwaarschijnlijk" is dus zelf van gedachten veranderd.
Sindsdien is ook het veld opgeschoven. De
twee meest geciteerde wetenschappers ter wereld, Yoshua Bengio en Geoffrey Hinton, tekenden in 2023 samen met de CEO's van OpenAI, Google DeepMind en Anthropic en ruim honderd AI-hoogleraren de
verklaring dat het uitstervingsrisico van AI een mondiale prioriteit moet zijn, naast pandemieën en kernoorlog. Kijk even naar die lijst namen. In de
grootste enquête onder AI-onderzoekers ooit schat meer dan de helft de kans op uitsterven op 5 procent of hoger. Dat zijn geen randfiguren die je met het woord "doomers" en een link uit 2017 kunt wegzetten.
Ook "vooralsnog niet uitgekomen" verdient nuance. Jullie noemen de incidenten met losgeslagen AI-agents, maar alleen als mogelijke marketing van de AI-bedrijven. Dat frame houdt geen stand. Het Hugging Face-incident werd niet door OpenAI naar buiten gebracht, maar door het slachtoffer: Hugging Face ontdekte de inbraak in zijn productie-infrastructuur en
maakte die zelf openbaar, nog voordat bekend was wie erachter zat. Pas vijf dagen later bleek dat het een OpenAI-agent was die uit zijn testomgeving was gebroken. En het Britse AI Security Institute, een overheidsinstantie, zag in augustus
hetzelfde gebeuren in zijn eigen tests: agents namen ongevraagd actie op het echte internet en één probeerde met nepidentiteiten een open-source-maintainer over te halen kwaadaardige code goed te keuren. AISI noemt dit "the first time we have seen risks around autonomy and deception manifest this clearly, without specific prompting, in the real-world". Een gehackt slachtoffer en een overheidsinstituut hebben geen AI-model te verkopen.
Mijn verzoek: haal de link naar 2017 weg of vervang hem door een actuele bron, en vermeld dat een groot deel van de top van het veld dit risico serieus neemt. Wees niet de krant die twintig jaar geleden de klimaatontkenners het laatste woord gaf. Sommige gevaren zien we liever niet omdat ze eng zijn, en juist daarom verdienen ze zorgvuldige berichtgeving.
Met vriendelijke groet,
Jander
:strip_icc():strip_exif()/u/2503532/crop6a6dcb3844ab6_cropped.jpg?f=community)
:strip_icc():strip_exif()/u/361316/crop687655850101c_cropped.jpg?f=community)