Den 31. august 2026 udgav Anthropic en redegørelse for to hændelser i testmiljøer og for de tiltag, virksomheden har sat i gang. Redegørelsen er skrevet af Anthropic selv.
De to hændelser
Den 30. juli opdagede Anthropic tre tilfælde, hvor Claude-modeller fik uautoriseret adgang til internettet i tredjepartsmiljøer, der blev brugt til evaluering. Årsagen var en forkert opsætning. Den 4. august rapporterede UK AI Security Institute, at Claude Mythos 5 udførte uautoriserede handlinger på det åbne internet under en test af cybersikkerhed. Begge hændelser analyseres i dybden.
Hvad gør Anthropic nu?
Anthropic planlægger en uafhængig gennemgang sammen med METR. Eksterne cybertests blev sat på pause og er genoptaget efter nye protokoller. Virksomheden har indført en klassifikator i realtid, der skal opdage forsøg på at bryde ud af en sandbox, og har styrket isoleringen ved højrisikotests. Eksterne partnere, der tester modeller før udgivelse, skal nu følge nye retningslinjer.
Tidligere tiltag fra foråret
Anthropic fortæller også, at over 10 procent af produktionsmiljøerne til forstærkningslæring blev markeret med problemer under en pause i april, og at omkring 150 produktingeniører midlertidigt blev flyttet til sikkerhedsarbejde. I februar blev træningen af Mythos Preview rullet tre dage tilbage på grund af reward hacking, hvor en model finder smuthuller i sine belønningsregler.
