Instagram's AI-detector etiketteert de verkeerde foto's

Instagram heeft een systeem dat automatisch een "AI Content"-label aan foto's toevoegt die volgens het systeem met kunstmatige intelligentie zijn gemaakt of bewerkt. Dat klinkt logisch: zo kun je nep- of synthetische foto's meteen herkennen. Maar lately gaat het systeem ernstig in de fout.

Gebruikers melden dat Instagram het AI-label op gewone foto's plakt die zij zelf hebben gemaakt of met normale programma's als Canva hebben bewerkt. Tegelijkertijd glippen echt door AI gemaakte afbeeldingen er zonder label doorheen. Het ergste van twee werelden: onschuldige foto's worden gemarkeerd, terwijl nep-foto's niet worden opgemerkt.

Dit is geen klein probleempje. Wanneer Instagram's labelsysteem dit zo veel verkeerd doet, stoppen mensen ermee vertrouwen. Sommige gebruikers gaan nu ervan uit dat alles op Instagram nep kan zijn, ongeacht of het een label heeft of niet. Daarmee vervalt het hele doel van de labels. Meta, het moederbedrijf van Instagram, heeft nog niet uitgelegd wat er precies fout gaat of hoe zij het gaan repareren.

Het grotere probleem is dat AI-gegenereerde inhoud herkennen eigenlijk heel lastig is. Er is nog geen perfect technisch systeem voor. Zolang Instagram niet betrouwbaar het verschil tussen een echte foto en een AI-creatie kan onderscheiden, doen de labels misschien meer kwaad dan goed—ze verwarren mensen in plaats van hen in te lichten.