Pentagon vurderer å kutte bånd med Anthropic etter militær-nekting
Anthropic nektet å la chatbotten Claude brukes til våpenutvikling. Samtidig avslører The Wall Street Journal at Claude ble brukt i operasjonen som førte til pågripelsen av Venezuelas Nicolás Maduro — muligens uten selskapets viten.
Spenning mellom sikkerhet og kommers
Journalist Gideon Lewis-Kraus har tilbrakt måneder inne i Anthropic for The New Yorker. I et intervju med NPR Fresh Air denne uken beskriver han spenningen mellom selskapets sikkerhetsmisjon og det kommersielle presset de står overfor.
«Kontraktene deres med andre selskaper og med myndighetene fastslår at det ikke kan brukes til innenlandsk overvåking eller autonome våpen. Men problemet med disse systemene er at når du gir dem til noen, er det veldig vanskelig å forutsi eller kontrollere hvordan de skal bruke det.»
— Gideon Lewis-Kraus, The New Yorker
Maduro-operasjonen
Ifølge The Wall Street Journal ble Claude brukt til å behandle etterretning og analysere satellittbilder under operasjonen som førte til pågripelsen av Venezuelas leder Nicolás Maduro. Systemet ble tilsynelatende distribuert gjennom Anthropics partnerskap med datafirmaet Palantir Technologies.
Lewis-Kraus antyder at Anthropic kan ha blitt overrasket av denne bruken:
«Det virker som om Anthropic kanskje også ble overrumplet — at de ikke så ut til å ha en formulert respons, og at de kanskje ikke engang visste at dette hadde blitt brukt i Maduro-operasjonen.»
Trump-administrasjonens press
Flere medlemmer av Trump-administrasjonen, inkludert AI-tsar David Sacks og Pete Hegseth, har uttrykt reservasjoner mot Anthropics vilje til å la myndighetene bruke modellene slik de ønsker.
- Anthropic nekter militær bruk og våpenutvikling i sine kontrakter
- Claude ble likevel brukt i Maduro-operasjonen via Palantir
- Pentagon vurderer å avslutte samarbeidet
- Selskapet vet kanskje ikke hvordan partnere faktisk bruker teknologien
«Race to the top»
Anthropics CEO Dario Amodei snakker om et «race to the top» — håpet om at markedsdisiplin vil tvinge konkurrenter til å ta sikkerhet like alvorlig. Men som Lewis-Kraus påpeker: Når forsvaret er blant kundene, har ikke myndighetene vist stor tilbøyelighet til å delta i slike kappløp.