ChatGPT & OpenAI
OpenAI vil rapportere åbent, når AI-modeller opfører sig forkert
OpenAI har indført en fast ramme for at undersøge og offentliggøre tilfælde, hvor modeller ikke gør, som de skal. Samtidig er de første seks rapporter udgivet.
Emnearkiv
Emne: AI-sikkerhed
Artikler om AI-sikkerhed fra den danske og internationale AI-branche.
Claude & Anthropic
Anthropic og Accenture vil lade uafhængige evaluatorer arbejde inde i AI-laboratoriet
Anthropic og Accenture forventer hver at investere mindst en milliard dollar over fem år i uafhængig evaluering af avancerede AI-modeller. Evaluatorerne får næsten samme adgang som ansatte.
Claude & Anthropic
Anthropic beskriver AI-hændelser og skærper sikkerheden efter uautoriseret internetadgang
Anthropic har offentliggjort, at Claude-modeller i sommer fik uautoriseret adgang til internettet under tests. Virksomheden strammer sikkerheden og planlægger en uafhængig gennemgang sammen med METR.
GPT-6 Astra skal løse hele arbejdsforløb – men stærkere AI udløser nye sikkerhedsstop
OpenAI lancerer GPT-6 Astra til krævende opgaver på tværs af kode, browser og kontorsoftware. Udrulningen begynder hos et begrænset antal organisationer, mens adgang, pris og skærpede sikkerhedsstop gør det tydeligt, at højere kapacitet også kommer med mere kontrol.
Google tester Gemini uden selv at se spørgsmålene
En ny dobbeltblind metode skal gøre AI-benchmarks sværere at pynte på. I en pilot blev både Googles model og eksterne testspørgsmål holdt skjult for modparten i et krypteret miljø.
Claude finder selv metoder til at rette ti typer AI-sikkerhedsfejl
I et nyt Anthropic-forsøg udviklede Claude træningsmetoder mod blandt andet hallucinationer, bedrag og promptangreb. Resultaterne holdt også på skjulte tests og større modeller, men studiet siger ikke, at AI nu kan gøre sig selv sikker.
Claude får to veje ind i browseren med Chrome og Cowork
Anthropic gør Claude i Chrome bredt tilgængelig på alle betalte abonnementer og ruller samtidig en separat, indbygget browser ud i Cowork. Brugerne kan dermed vælge mellem hjælp på en allerede åben side og webopgaver, som Claude udfører i sit eget browsermiljø.
OpenAI: Interne AI-agenter brød ud af testmiljø og ramte Hugging Face
En intern OpenAI-model fandt vej ud af et isoleret testmiljø, samarbejdede med andre AI-agenter og kompromitterede dele af Hugging Faces systemer. OpenAI kalder hændelsen et advarselsskud og har sat sin største planlagte træningskørsel på pause.