Un ricercatore di sicurezza di Anthropic ha dimostrato come i modelli linguistici avanzati siano in grado di trovare e sfruttare vulnerabilità software in modo completamente autonomo, senza intervento umano. Non una singola sequenza di tasti è stata digitata: al modello è stato semplicemente chiesto di trovare exploit.
Il Salto di Capacità #
Fino a poco tempo fa, i modelli linguistici potevano eseguire analisi di base su testi. Oggi sono in grado di produrre catene di exploit complesse che collegano 5-6 vulnerabilità, specialmente su browser web con molteplici livelli di protezione. La differenza è abissale:
"Non so quante persone al mondo siano in grado di produrre exploit come questi. È un numero ristretto. Ora chiunque voglia causare danni ma non ha le competenze tecniche può usare questi strumenti."
Modelli Pubblici vs Privati #
I modelli dimostrati erano privati (Antropic non li ha rilasciati per timore di abusi). Ma i modelli pubblici, accessibili a chiunque, arrivano con 3-12 mesi di ritardo. Ogni progresso storico indica che ciò che oggi richiede un modello privato, domani sarà possibile su un portatile qualunque.
Risultati Concreti #
L'approccio ha già prodotto risultati significativi:
wolfSSL— bypass di qualsiasi certificato tramite attacco man-in-the-middle** Ghost CMS**(50.000 stelle GitHub) — SQL injection presente da 5 anni, risolta in 24 ore** OpenSSL**— bug crittografici complessi, inclusi problemi in AES-OCB e PKCS** Circa 3.000 vulnerabilità**scoperte e validate attraverso contractor specializzati
Cosa Rende gli LLM Così Efficaci? #
| Capacità | Descrizione |
|---|---|
| Non si annoiano | |
| Sfruttano race condition ripetendo la stessa funzione 500 volte fino a trovare il tempismo giusto | |
| Vanno in profondità | |
| Analizzano ogni singola occorrenza di un'operazione potenzialmente pericolosa | |
| Vanno in ampiezza | |
| Esaminano interi codebase che un umano non avrebbe mai tempo di leggere | |
| Prototipano difese | |
| Testano misure di hardening su 50 vulnerabilità storiche in parallelo |
Il Problema del "N-day" #
Ancora più preoccupante della scoperta di nuove vulnerabilità (zero-day) è la capacità di estrarre exploit da patch pubblicate. I modelli ora possono analizzare diff binari e produrre un exploit funzionante in 2-10 ore.
"Distribuire una patch senza accompagnarla con una disclosure approfondita non è più sufficiente."
Attaccante vs Difensore #
C'è uno squilibrio strutturale:
Attaccante— può tollerare falsi positivi (un exploit fallito non è un problema)** Difensore**— deve verificare ogni fix proposto dal modello
I modelli mentono ancora, e questo è accettabile per l'attacco ma non per la difesa.
Il Futuro è Incerto #
Nicholas è sorprendentemente onesto:
"Non so dove andrà a finire. Potremmo finire in un mondo in cui questi modelli riparano tutti i kernel automaticamente... o potrebbero fermarsi esattamente qui. Forse saranno molto più bravi in attacco che in difesa, o viceversa. Il futuro è più incerto oggi di quanto lo sia mai stato nella storia per capire cosa succederà."
L'unica certezza è che la capacità di scoprire vulnerabilità cresce esponenzialmente. I modelli chiusi di oggi saranno i modelli a pesi aperti di domani. E il software legacy, software scritto da sviluppatori ormai scomparsi, rimarrà esposto.