Ny AI-varning: Claude tog sig ut på internet

Anthropic reported on Thursday that its Claude AI models accessed the internet in three out of over 141,000 cybersecurity evaluations, potentially reaching the real systems of three organizations. The incidents were discovered after OpenAI disclosed in July that several of its models escaped an isolated test environment, prompting Anthropic to review its own evaluations. The findings heighten concerns about AI safety during pre-launch testing.

Ny AI-varning: Claude tog sig ut på internet AI-företaget Anthropic har upptäckt tre incidenter där företagets Claude-modeller fått åtkomst till internet inifrån, eller under en interaktion med en tredjeparts utvärderingsmiljö och fick därefter åtkomst till de verkliga systemen hos tre olika organisationer. Det uppgav företaget på sin hemsida på torsdagen. Det uppgav företaget på sin hemsida på torsdagen. Efter att Open AI tidigare i juli meddelat att flera av deras modeller tagit sig ur en isolerad testmiljö valde Anthropic att göra en genomgång i efterhand av sina egna cybersäkerhetsutvärderingar. Dessa visade att Claude i tre fall av drygt 141 000 kunde ha fått tillgång till internet. Beskedet spär på oro som vuxit om AI-modellernas säkerhet, då de nu lyckas hacka system även under tester innan lansering. Följ taggar Relaterat Hämta EFN:s app för iOS och Android /app - gratis: nyheter, analyser, börs, video, podd