Anthropic har offentliggjort to oppsiktsvekkende avsløringer som viser hvor raskt avanserte AI-modeller beveger seg fra eksperimentelle verktøy til både strategiske ressurser og sikkerhetsrisiko. Den ene saken handler om hvordan Anthropic Claude skal ha blitt brukt i arbeid knyttet til militær teknologi. Den andre gjelder det Anthropic beskriver som en omfattende kampanje for å hente ut kunnskap fra Claude gjennom såkalt model distillation.
Claude brukt i utvikling av militær teknologi
Anthropic beskriver et tilfelle der Claude Code skal ha blitt brukt av en våpengruppe i Jemen til arbeid knyttet til missilstyring, blant annet autopilot-, navigasjons- og styringssystemer.
Ifølge Anthropic forsøkte aktørene å omgå modellens sikkerhetsmekanismer ved å skjule den egentlige hensikten og dele opp arbeidet i mindre oppgaver.
Det mest interessante her er ikke bare selve teknologien, men hvordan AI-verktøy kan inngå som en komponent i et større utviklingsløp. En generell kodeassistent kan i utgangspunktet brukes til helt legitime formål, men den samme kapasiteten kan misbrukes når den kobles til militær utvikling.
En massiv kampanje for å kopiere AI-kunnskap
Den andre avsløringen handler om distillation. Teknikken er i seg selv legitim og brukes blant annet for å lage mindre og mer effektive modeller. Problemet oppstår når en aktør systematisk bruker en annen leverandørs modell som lærer for å trekke ut store mengder kunnskap og deretter bruke svarene til å trene en konkurrerende modell.
Anthropic hevder at Alibaba, Moonshot AI og DeepSeek stod bak omfattende bruk av Claude-kontoer. Selskapet beskriver tusenvis av kontoer og enorme mengder forespørsler. Alibaba skal ifølge Anthropic ha stått for over 151 millioner interaksjoner mellom mai og juli, mens Moonshot skal ha brukt rundt 5 380 kontoer og mer enn 300 000 forespørsler på ti dager.
Tallene er Anthropics egne og bør derfor leses som selskapets dokumentasjon og vurdering av hendelsene, ikke som uavhengig verifiserte tall. Likevel illustrerer de et sentralt problem i dagens AI-kappløp: Når en frontier-modell er tilgjengelig gjennom et API, kan selve modellen bli en kilde til treningsdata for konkurrenter.
Hvorfor dette er viktig
De to sakene peker på to forskjellige sider av den samme utviklingen. AI-modeller blir stadig mer kapable, og dermed øker både den økonomiske verdien av modellene og verdien av å kunne bruke dem til avanserte oppgaver.
- Sikkerhet: AI-agenter kan brukes i komplekse utviklingsprosesser som tidligere krevde betydelig spesialkompetanse.
- IP og konkurranse: Modellskapere må beskytte investeringene sine mot systematisk data- og kunnskapsuthenting.
- Geopolitikk: AI-kappløpet mellom USA og Kina handler ikke lenger bare om hvem som trener den beste modellen, men også om tilgang til data, datakraft og modellkapasitet.
- API-sikkerhet: Leverandører må balansere åpen tilgang mot risikoen for at modellene brukes til å bygge konkurrenter eller støtte skadelige aktiviteter.
AI-kappløpet blir stadig mer komplekst
Anthropic-sakene viser at den neste fasen av AI-kappløpet ikke bare handler om nye benchmark-rekorder. Vi har tidligere sett hvordan Anthropic har bygget stadig kraftigere Claude-agenter med fokus på sikkerhet, men de nye avsløringene viser hvor krevende denne sikkerhetsbalansen faktisk er.
Det handler også om kontroll, misbruk, modellbeskyttelse og hvem som faktisk får tilgang til den underliggende kapasiteten.
For AI-bransjen kan dette føre til strengere tilgangskontroller, mer avansert misbruksdeteksjon og nye diskusjoner om hvor mye av frontier-modellenes kapasitet som bør være tilgjengelig gjennom åpne API-er.
Ofte stilte spørsmål om Anthropic Claude-sakene
Hva er model distillation?
Model distillation er en teknikk der kunnskap eller atferd fra en større modell brukes til å utvikle eller trene en annen, ofte mindre, modell. Teknikken er legitim i mange sammenhenger, men kan også brukes til systematisk å hente ut kunnskap fra en konkurrerende modell.
Hva hevder Anthropic om Claude?
Anthropic hevder at Claude ble brukt i forsøk på å utvikle militær teknologi, og at flere kinesiske AI-selskaper gjennomførte omfattende forsøk på å hente ut modellkunnskap gjennom distillation.
Er alle opplysningene uavhengig bekreftet?
Nei. Tallene og hendelsesbeskrivelsene i denne artikkelen bygger på Anthropics egne undersøkelser og rapporter. De bør derfor leses som selskapets dokumentasjon og vurderinger.
Én ting er allerede tydelig: Jo mer kapable AI-modellene blir, desto mer verdifulle blir de – både for legitim innovasjon og for aktører som ønsker å utnytte kapasiteten på andre måter.
