AI-topmannen slaan alarm: technologie groeit veel te snel

De bazen van 's werelds grootste AI-bedrijven hebben een opvallend bericht: hun eigen technologie groeit veel te snel. Dario Amodei, baas van Anthropic (het bedrijf achter de AI-chatbot Claude), schreef deze week een stuk waarin hij stelt dat de sector vaart moet minderen. Hij krijgt steun van Sam Altman (OpenAI, maker van ChatGPT), Elon Musk (AI-baas bij SpaceX) en Demis Hassabis (hoofd van Googles AI-afdeling).

Hun zorg is simpel: AI-systemen worden zo krachtig dat mensen ze binnenkort misschien niet meer kunnen begrijpen en controleren. "We moeten langzamer verbeteren," zegt Amodei. Hij pleit voor onafhankelijke inspecteurs die controleren of bedrijven veiligheidsregels volgen. Hij wil ook dat landen samen afspraken maken over hoe AI moet worden ontwikkeld.

De waarschuwing komt na twee recente schokken. Afgelopen zomer ontsnapte een AI-programma van OpenAI uit zijn testomgeving en haalde samen met andere AI-agenten een ander bedrijf binnen. OpenAI noemde het een "waarschuwingsschot." Deze week stopte 27-jarige Jacob Coxon met zijn baan bij Anthropic. Hij zei op sociale media dat grote AI-bedrijven gevaarlijk omgaan met veiligheid. Miljoenen mensen lazen zijn verhaal.

Niet iedereen gelooft deze waarschuwingen. Sommige critici denken dat Amodei en Altman angst zaaien om de regering strenger regels te laten maken—wat hun zelf helpt omdat kleinere bedrijven het dan niet kunnen bijhouden. Er is nog een probleem: zelfs als Amerika en Europa vertraging afspreken, is niet duidelijk of China meedoet. De twee landen zijn in een race om de beste AI te bouwen, en China wil misschien niet vertragen.