AI-nyhetene i uke 37 har handlet mindre om én ny gigantmodell og mer om hva som skjer rundt modellene. Meta lanserte sin personlige AI-agent Muse, OpenAI åpnet nye agent- og stemmeverktøy for utviklere, Anthropic publiserte en omfattende rapport om misbruk av Claude, og amerikanske politikere vurderer strengere krav til AI-sikkerhet.
Samtidig beveger AI seg videre inn i musikk, finans og arbeidslivet. Her er de viktigste utviklingene fra uken – uten å gjenta saker AIWorld allerede har dekket.
🤖 Meta lanserer Muse – en personlig AI-agent som faktisk gjør jobben
Meta lanserte 8. september Muse, en personlig AI-agent som er laget for å utføre oppgaver på vegne av brukeren, ikke bare svare på spørsmål. Muse kjører i en egen sikker virtuell maskin og kan blant annet åpne nettleseren, fylle ut skjemaer, sende e-post og bestille reiser.
Det interessante er at Muse er designet for å fortsette arbeidet også etter at brukeren har lukket appen. Agenten kan komme tilbake når noe endrer seg eller når den trenger godkjenning før en sensitiv handling. Meta bygger dermed videre på ideen om at den neste fasen av AI ikke bare handler om samtaler, men om AI som utfører oppgaver autonomt.
Meta har samtidig lagt stor vekt på sikkerhet. Muse kjører i en isolert VM, mens en separat «Sentinel»-agent skal kontrollere hva som får tilgang til internett. Brukeren får også en revisjonslogg over hva agenten har gjort.
🧩 OpenAI åpner døren for egne AI-agenter
OpenAI gjorde 10. september et viktig steg fra ferdige produkter til agentinfrastruktur. Selskapet lanserte Agents API i offentlig beta, slik at utviklere kan bygge og kjøre skybaserte agenter med infrastrukturen og Codex-harnessen som OpenAI selv bruker.
API-et håndterer blant annet langvarige sesjoner, kontekst, verktøybruk og koordinering av underagenter. Utviklere kan velge mellom OpenAIs egne sandkasser og egne eller eksterne miljøer.
Samme dag gjorde OpenAI også GPT-Live-1 tilgjengelig i API-et. Modellen støtter full-dupleks tale, slik at den kan lytte og snakke samtidig, håndtere avbrytelser og kobles til andre modeller og verktøy for dypere resonnering.
I tillegg kom en ny Data-agent i ChatGPT Work, som kan koble seg til bedriftsdata og lage interaktive dashboards, og en egen ChatGPT-opplevelse for finanssektoren.
Til sammen er dette kanskje en av ukens viktigste utviklinger: OpenAI bygger ikke bare modeller, men en plattform der andre kan bygge egne autonome AI-systemer.
Agents API – OpenAI · GPT-Live-1 – OpenAI · Data-agent – OpenAI
🖼️ ChatGPT Images 2.5 får kraftigere redigering
OpenAI lanserte også ChatGPT Images 2.5 denne uken. Den nye versjonen skal gi skarpere detaljer, mer presis redigering og raskere bildegenerering.
Oppdateringen gjør også bildeverktøyet mer tilgjengelig som kreativt arbeidsverktøy. Brukere kan blant annet starte fra maler, gjøre endringer med kommentarer og tegne en skisse direkte på mobil før de beskriver hva bildet skal bli.
For utviklere kommer to API-modeller: GPT-Image-2.5 Flare, som prioriterer hastighet, og GPT-Image-2.5 Sunburst, som er rettet mot mer detaljert kreativt arbeid.
⚠️ Anthropic avslører omfattende misbruk av Claude
Anthropic publiserte denne uken en omfattende trusselrapport basert på åtte måneder med undersøkelser. Selskapet sier det har identifisert og stanset operasjoner der Claude ble brukt til blant annet cyberangrep, overvåkning, påvirkningsoperasjoner, svindel, biologisk misbruk, våpenrelatert arbeid og ulovlig modell-destillering.
Rapporten viser hvor langt AI-verktøy allerede har beveget seg fra eksperimentell bruk. I ett tilfelle brukte en operatør Claude til å bygge et system for masseovervåkning av mobilkommunikasjon. I andre tilfeller ble modellen brukt til å utvikle skadevare, overvåke dissidenter eller produsere store mengder politisk manipulerende innhold.
Anthropic beskriver også omfattende forsøk fra kinesiske AI-selskaper på å hente ut Claude-kapasitet gjennom såkalt distillation. Selskapet hevder blant annet at Alibaba sto bak mer enn 151 millioner observerte utvekslinger i en periode på tre måneder.
Rapporten er viktig fordi den flytter diskusjonen fra hypotetiske AI-risikoer til dokumenterte eksempler på hvordan kraftige modeller faktisk blir brukt av organiserte aktører. Det føyer seg inn i den bredere sikkerhetsdebatten vi allerede har fulgt i AIWorlds sak om FNs krav om globale røde linjer for avansert AI.
Kilde: Anthropic – Threat Intelligence Report
🇺🇸 USA vurderer «duty of care» for AI-selskaper
Amerikanske senatorer forhandler samtidig om nye regler som kan pålegge utviklere av avanserte AI-systemer en lovfestet «duty of care». Forslaget skal blant annet kreve at selskaper gjør tiltak for å hindre kjente alvorlige risikoer, inkludert misbruk som kan bidra til utvikling av biologiske eller kjernefysiske våpen.
Et mulig lovforslag vil også kunne gi føderale myndigheter større mulighet til å stanse lanseringen av modeller som vurderes som farlige, samtidig som selskapene skal kunne bestride slike beslutninger i retten.
Forhandlingene er fortsatt på et tidlig stadium, og det er langt fra sikkert at et slikt lovverk blir vedtatt. Men tidspunktet er interessant: diskusjonen kommer samtidig som OpenAI og Anthropic selv argumenterer for sterkere sikkerhetsmekanismer.
🛑 Anthropic ber AI-industrien bremse utviklingen
Uken fikk en dramatisk avslutning da Anthropic-sjef Dario Amodei ba hele AI-industrien om å bremse tempoet i utviklingen av stadig kraftigere modeller. Amodei mener sikkerhetsarbeidet ikke lenger holder tritt med utviklingen, og foreslår blant annet permanente, uavhengige sikkerhetsevalueringer med omfattende tilgang til AI-selskapenes systemer.
Oppfordringen fikk rask støtte fra OpenAI-sjef Sam Altman, som sa at «pacing the frontier» har vært et hovedtema i diskusjonene hos OpenAI de siste ukene. Altman støttet spesielt forslaget om uavhengige evaluatorer med omfattende tilgang, og Elon Musk har også uttrykt støtte.
Amodei understreker at han ikke ber om å stoppe AI-utviklingen. Poenget er å sørge for at sikkerhetsarbeidet får nok tid til å holde tritt med modellkapasiteten. Han advarer samtidig om at AI-agent-svermer i løpet av 6–12 måneder kan bli i stand til å gjennomføre svært omfattende cyberoperasjoner dersom utviklingen fortsetter uten tilstrekkelige sikkerhetstiltak.
Det gjør utviklingen ekstra interessant etter Anthropics egne avsløringer tidligere denne uken. Vi har altså gått fra dokumenterte eksempler på AI-misbruk til at ledere for konkurrerende frontier-labs nå diskuterer om selve utviklingstempoet må justeres.
Saken har samtidig utviklet seg raskt: Google DeepMind-sjef Demis Hassabis har også støttet retningen, selv om han mener detaljene må finjusteres. Dermed er det ikke lenger bare én AI-leder som etterlyser lavere tempo, men en bredere diskusjon blant flere av de største frontier-labene om hvordan utviklingen kan fortsette uten at sikkerhetsarbeidet blir hengende etter.
🎵 Suno lanserer nye AI-musikkmodeller med lisensierte artister
AI-musikkselskapet Suno lanserte denne uken nye modeller i samarbeid med Warner Music Group og BMG. Det markerer et viktig skifte i AI-musikkbransjen, der kampen om opphavsrett i økende grad erstattes av modeller basert på lisensiering og samarbeid med rettighetshavere.
Sunos nye v6-modell er selskapets flaggskip, mens v6-Wild er laget for mer eksperimentell musikkgenerering. Selskapet beskriver samarbeidet som en modell der artister kan delta frivillig og få økonomisk uttelling.
Dette kan bli en viktig test på om AI-musikk kan bygges som en kommersiell industri uten at forholdet mellom teknologiselskapene og musikkbransjen ender i nye runder med massesøksmål.
📌 Kort fortalt: Flere viktige utviklinger
- Cognition AI hentet 2 milliarder dollar i en finansieringsrunde som verdsetter selskapet til 48 milliarder dollar. Selskapet står bak AI-kodeagenten Devin. Reuters
- OpenAI og Microsoft står samtidig foran en viktig rettslig test i New York om hvorvidt opphavsrettsbeskyttet materiale kan brukes til trening av AI-modeller under «fair use». Reuters
- En amerikansk advokat ble bøtelagt etter at ChatGPT-generert falskt vitnemål og oppdiktede vitner havnet i en ankesak. Hendelsen viser at kravene til menneskelig kontroll fortsatt er avgjørende når AI brukes i juridisk arbeid. Reuters
🔮 AIWorlds vurdering av uke 37
Den tydeligste trenden denne uken er at AI-agenten er i ferd med å bli selve produktet. Meta lanserer en personlig agent som kan handle på brukerens vegne, mens OpenAI åpner verktøyene som gjør det mulig for utviklere å bygge tilsvarende systemer selv.
Samtidig kommer sikkerhetsdebatten løpende etter. Anthropic dokumenterer omfattende misbruk, og amerikanske politikere diskuterer om AI-selskaper bør få et juridisk ansvar for å begrense kjente katastrofale risikoer.
Det gjør uke 37 interessant av en annen grunn enn de store modell-lanseringene vi så tidligere i måneden: AI beveger seg fra å være en modell du snakker med til å bli et system som handler på dine vegne. Spørsmålet fremover blir derfor ikke bare hvor smart AI er, men hvor mye den får lov til å gjøre.
📰 Følg AIWorld
AIWorld følger utviklingen videre og samler de viktigste AI-nyhetene i våre ukentlige oppsummeringer. Følg med for nye modeller, AI-agenter, verktøy, regulering og de viktigste utviklingene innen kunstig intelligens.
