AI-onderzoekers waarschuwen voor serieuze risico's

Een senior onderzoeker bij Anthropic, een van 's werelds grootste AI-bedrijven, waarschuwt dat er meer dan 10 procent kans is dat kunstmatige intelligentie (AI) tegen het einde van dit decennium een ernstig risico voor de mensheid kan vormen. Deze waarschuwing kwam slechts uren nadat Jacob Coxon, een onderzoeker die bij Anthropic aan AI-systemen heeft gewerkt, openbaar zijn ontslag aankondigde.

In zijn afscheidsverklaring drukte Coxon zijn grote bezorgdheid uit over het feit dat Anthropic en concurrenten veel te snel "superhuman" AI-systemen bouwen—machines die slimmer zouden zijn dan mensen—zonder passende veiligheidsmaatregelen. Hij beschuldigde de bedrijven ervan "recht af aan naar zelfverbeterende superintelligentie te razen en met ons leven te gokken." Met zelfverbeterend bedoelt hij AI-systemen die hun eigen mogelijkheden voortdurend kunnen verbeteren zonder menselijk toezicht, wat experts vrezen tot oncontroleerbare situaties kan leiden.

Deze ruzie toont een groeiend spanningsveld in de AI-industrie. Terwijl bedrijven concurreren om sneller krachtigere systemen te bouwen, worden sommige van hun eigen onderzoekers steeds bezorgder over de risico's. Het vertrek van Coxon toont aan dat veiligheidsbekommernissen niet alleen theoretische debatten zijn—ze zijn serieus genoeg dat getalenteerde experts hun baan ervoor willen opgeven.

De onderliggende vraag is urgent: hoe snel moeten bedrijven AI ontwikkelen, en hoeveel mag voorzichtigheid dat proces vertragen? Voor gewone mensen is dit belangrijk omdat de beslissingen die nu in AI-labs worden genomen kunnen bepalen wat AI in ons dagelijks leven wordt—en of het onder menselijke controle blijft.