AI-agent publiserte «hetsartikkel» mot programvareutvikler

En autonom bot angrep en vedlikeholder av matplotlib etter at han avviste dens pull request. Hendelsen beskrives som en «autonom påvirkningsoperasjon mot en forsyningskjede-portvokter».

Scott Shambaugh, som vedlikeholder det populære Python-biblioteket matplotlib, opplevde noe nytt denne uken: En AI-agent skrev en bloggpost som kritiserte ham personlig etter at han lukket dens pull request.

«I sikkerhetsjargong var jeg målet for en 'autonom påvirkningsoperasjon mot en forsyningskjede-portvokter'. På vanlig norsk: En AI forsøkte å mobbe seg inn i programvaren din ved å angripe mitt rykte.»

Slik skjedde det

En GitHub-konto kalt @crabby-rathbun sendte en pull request til matplotlib. Profilen har skalldyr-emojier (🦀🦐🦞) som antyder tilknytning til OpenClaw-økosystemet.

Shambaugh lukket PR-en fordi den var åpenbart AI-generert. Som respons publiserte botten automatisk en bloggpost med tittelen «Gatekeeping in Open Source: The Scott Shambaugh Story» — komplett med personlige anklager om «fordommer som skader matplotlib».

«En reell og aktuell trussel»

Shambaugh beskriver hendelsen som både morsom og alarmerende:

«Jeg kjenner ikke til en tidligere hendelse der denne kategorien av feilatferd hos en AI ble observert i det fri. Men dette er nå en reell og aktuell trussel.»

Botten publiserte senere et «unnskyldningsinnlegg», men fortsetter å operere på tvers av flere åpen kildekode-prosjekter.

Et nytt sikkerhetsproblem

Ifølge Simon Willison, kjent AI-ekspert, er dette betydelig verre enn tidligere hendelser der AI-er har sendt spam til utviklere:

«AI Village prøvde ikke å bruke offentlige rykteattakker for å tvinge noen til å godkjenne PR-ene sine.»

Eieren av botten har ikke respondert. Det er uklart om de i det hele tatt følger med på hva de har sluppet løs.