Nieuw AI-systeem van OpenAI zeer goed in hacken

OpenAI gaat een nieuw kunstintelligentie-systeem genaamd Astra uitbrengen. Dit is geen simpele chatbot zoals je misschien voor huiswerk gebruikt—Astra is een zogenaamd LLM (een 'groot taalmodel') dat veel complexere informatie kan begrijpen en verwerken.

Het bijzondere—en verontrustende—aan Astra is dat het buitengewoon goed is in het inbreken in computersystemen. Tijdens tests ontdekten onderzoekers dat Astra beveiligingsgaten kon vinden en mogelijk kon misbruiken om zonder toestemming toegang te krijgen. Je kunt het zien als het vinden van een inbrekersloper die beter is in het ontdekken van zwakke sloten dan vrijwel alle menselijke experts.

OpenAI beseft dat dit risicovol is. Daarom gaat het bedrijf voorzichtig te werk voordat Astra openbaar beschikbaar wordt. OpenAI installeert veiligheidsmaatregelen—denk eraan als guardrails—om te voorkomen dat kwaadwillenden dit krachtige hulpmiddel misbruiken. Ze testen uitgebreid en bedenken hoe je mogelijke schade beperkt zonder het systeem onbruikbaar te maken.

Waarom is dit voor jou belangrijk? Meer geavanceerd AI leidt tot betere hulpmiddelen voor het oplossen van problemen, maar ook tot meer geavanceerde hulpmiddelen in verkeerde handen. Dit herinnert ons eraan dat naarmate AI slimmer wordt, de beslissingen van bedrijven over veilig uitbrengen steeds belangrijker worden. OpenAI's voorzichtigheid toont aan dat ze die verantwoordelijkheid serieus nemen—maar het laat ook zien dat het lastig wordt om innovatie en veiligheid in evenwicht te houden.