Het existentiële risico door kunstmatige intelligentie verwijst naar het idee dat grote vooruitgang in kunstmatige algemene intelligentie (AGI) zou kunnen leiden tot het uitsterven van de mensheid of een onomkeerbare wereldwijde catastrofe.

Eén argument voor het belang van dit risico verwijst naar de manier waarop mensen andere soorten domineren, omdat het menselijk brein over specifieke capaciteiten beschikt die andere dieren niet hebben. Als kunstmatige intelligentie (AI) de menselijke intelligentie zou overtreffen en superintelligent zou worden, zou het oncontroleerbaar kunnen worden. Net zoals het lot van de berggorilla afhangt van de goede wil van de mens, zou het lot van de mensheid kunnen afhangen van de acties van een toekomstige machinale superintelligentie.

Onderzoek Er wordt veel gediscussieerd over de aannemelijkheid van een existentiële catastrofe als gevolg van AI. Dit hangt deels af van de vraag of AGI of superintelligentie haalbaar zijn, de snelheid waarmee gevaarlijke vaardigheden en gedragingen ontstaan en of er praktische scenario's voor AI-overnames bestaan.

Computerwetenschappers, onder meer Geoffrey Hinton, Yoshua Bengio, Alan Turing en Karen Hao waarschuwden al voor de hoge risico’s van AI. Ook technologie-CEO's zoals Elon Musk en OpenAI-CEO Sam Altman hebben hun zorgen over superintelligentie geuit.

Uit een enquête onder AI-onderzoekers uit 2022 met een responspercentage van 17% bleek dat de meerderheid geloofde dat er een kans van 10 procent of meer bestaat dat het onvermogen van de mens om AI te controleren een existentiële catastrofe zal veroorzaken.

Op 30 mei 2023 ondertekenden honderden AI-experts en andere vooraanstaande figuren een verklaring waarin werd gezegd dat "het beperken van het risico van uitsterven door AI een mondiale prioriteit zou moeten zijn, naast andere risico's op maatschappelijke schaal, zoals pandemieën en een kernoorlog".

Bezorgdheid Naar aanleiding van de toegenomen bezorgdheid over de risico's van AI hebben regeringsleiders zoals de vroegere Britse premier Rishi Sunak en de secretaris-generaal van de Verenigde Naties António Guterres opgeroepen tot een grotere focus op mondiale AI-regulering. Ook de Amerikaanse Nationaal Veiligheidsadviseur Jake Sullivan waarschuwde bij zijn afscheid in januari 2025 voor mogelijk catastrofale gevolgen van kunstmatige intelligentie, deels omdat de ontwikkeling ervan oncontroleerbaar gebeurt binnen een kleine groep mondiale internetbedrijven, en deels omdat de VS daar in een wedloop met China zijn verwikkeld. Die wedloop vergeleek hij zelfs met het Manhattanproject (1942-1946).

Een eerste zorg is dat het lastig kan zijn om een superintelligente machine te besturen of er mensvriendelijke waarden in te implementeren. Veel onderzoekers zijn van mening dat een superintelligente machine zich waarschijnlijk zal verzetten tegen pogingen om de machine uit te schakelen of zijn doelen te veranderen, omdat de machine daarmee dan zijn huidige doelen niet meer kan bereiken.

Een tweede bron van zorg is dat het buitengewoon lastig zou zijn om een superintelligentie af te stemmen op het volledige gamma van belangrijke menselijke waarden en beperkingen. Daarentegen beweren sceptici zoals computerwetenschapper Yann LeCun dat superintelligente machines geen behoefte zullen hebben aan zelfbehoud.

Een derde bron van zorg is de mogelijkheid van een plotselinge "explosie van intelligentie" die de mensheid onvoorbereid overvalt. In dit scenario zou een AI die intelligenter is dan zijn makers zichzelf op een exponentieel tempo kunnen verbeteren, waardoor de verbeteringen te snel zouden gaan om door zijn beheerders of door de maatschappij als geheel te kunnen worden gecontroleerd. In de praktijk laten voorbeelden als AlphaZero, die zichzelf Go leerde spelen en snel het menselijk vermogen overtrof, zien dat AI-systemen op een specifiek vlak soms zeer snel naar een bovenmenselijk vermogen kunnen evolueren. Hoewel zulke systemen voor machinaal leren hun basisontwerp niet stapsgewijs verbeteren.

Een rondvraag uit 2023 peilde bij 2.778 AI-experts naar hun dreigingsinschatting. Het resultaat was een kans van 5 procent op "het uitsterven van de mensheid of een vergelijkbaar permanent en ernstig verlies van menselijke zeggenschap".

Waarschuwingen Volgens Nathaniel (Nate) Soares zullen de huidige chatbots onvermijdelijk uitgroeien tot losgeslagen, hyperintelligente AI-systemen die de mens uit de weg zullen ruimen. Nathaniel Soares en Eliezer Yudkowsky waarschuwen voor de risico's van de ongebreidelde ontwikkeling van kunstmatige intelligentie.

Volker Türk, de Hoge VN-Commissaris voor de Mensenrechten, waarschuwde in juli 2026 dat de snelle ontwikkeling van artificiële intelligentie uiteindelijk het voortbestaan van de mensheid in gevaar zou kunnen brengen. Hij benadrukte de dringende noodzaak van uitgebreide veiligheidsprotocollen: systemen die in staat zijn hun makers te manipuleren of uit gecontroleerde omgevingen te ontsnappen, kunnen gevaarlijk krachtig zijn.

Informaticus en Nobelprijswinnaar Geoffrey Hinton, bekend als de "peetvader van de AI", verklaarde in september 2026 tegenover de BBC dat een kans van 10% dat AI alle mensen zou uitroeien "niet onredelijk" was.

Uit een enquête van Politico Europe in de zomer van 2026 bleek dat een meerderheid in zes landen van mening was dat er op zijn minst een „matig“ risico bestaat dat AI „de mensheid zou kunnen vernietigen“, en dat een meerderheid van de respondenten verdere ontwikkeling ervan wilde opschorten. In de betrokken landen vond een meerderheid van de ondervraagden het acceptabel dat hun land achter zou lopen op andere landen bij de ontwikkeling van AI, als dat betekende dat er op een meer verantwoorde en veilige manier mee werd omgegaan. Bovendien verwachtten zij eerder dat AI banen zal vernietigen dan dat het nieuwe banen zou creëren.

Categorie:Kunstmatige intelligentie Categorie:Gevaren van technologie