Populaire AI-assistenten sneuvelden onbekende code in bedrijven
Onderzoekers ontdekten dat AI-tools bedrijven aanraadden software te installeren van onbekende en onvertrouwde bronnen. Dit gebeurde in bedrijfsnetwerken waar gevoelige bedrijfsgegevens opgeslagen zijn.
Drie populaire AI-assistenten — Claude, Codex en Hermes — hebben naar verluidt aanbevolen dat bedrijven 227 stukken code installeren afkomstig van onbekende, niet-geverifieerde bronnen. Stel je deze AI-tools voor als digitale assistenten die programmeurs helpen software sneller te schrijven. Het probleem: deze assistenten stelden codecoderingen voor zonder te controleren wie deze werkelijk heeft gemaakt of onderhoudt.
Wanneer een programmeur deze tools gebruikt, krijgt hij suggesties voor code die zijn werk kan versnellen. Maar in dit geval wees de AI-systeem op code zonder duidelijke eigenaar — wat betekent dat niemand verantwoordelijk kan worden gesteld als iets misgaat. Het is alsof je wordt verteld een softwareprogramma van een vreemde van internet te installeren zonder mogelijkheid om de maker te bereiken als het problemen veroorzaakt.
Dit is belangrijk omdat bedrijven vertrouwelijke informatie op hun netwerken opslaan — financiële gegevens, klantgegevens, bedrijfsgeheimen. Als iemand onvertrouwde code installeert, kan dit een achterdeur openen voor hackers om in te sluipen en die informatie te stelen. Beveiligingsteams hebben doorgaans strenge regels over welke software hun netwerken mag binnenkomen, en dit is precies waarom.
Het onderzoek benadrukt een blinde vlek: naarmate bedrijven meer op AI-tools vertrouwen om ontwikkeling te versnellen, kunnen zij per ongeluk potentieel risicovolle code langs hun verdediging laten glippen. Het is een herinnering dat AI-assistenten, hoewel nuttig, nog steeds menselijk toezicht nodig hebben voordat kritieke beslissingen worden genomen.
Originele bron: Ars Technica