Un nuovo approccio alla sicurezza dei modelli
Dal 15 luglio 2025, OpenAI introduce GPT-Red, un red teamer automatico interno progettato per scoprire vulnerabilità di prompt injection su larga scala. L'obiettivo è rafforzare le difese dei modelli prima del deployment, senza esporre capacità offensive all'esterno.
Come funziona
GPT-Red opera attraverso un meccanismo di adversarial self-play: attacca modelli difensori, osserva le risposte e itera. Ogni attacco riuscito migliora i difensori, spingendo il sistema a scoprire fallimenti sempre più ampi e complessi.
Il sistema è addestrato su scenari realistici che includono file, email, web e tool — gli stessi vettori d'attacco che un modello incontra in produzione.
Risultati su GPT-5.6 Sol
L'addestramento con GPT-Red rende GPT-5.6 Sol il modello più robusto finora:
- 6x meno fallimenti sui prompt injection diretti rispetto al miglior modello di produzione di soli 4 mesi prima
- Tasso di fallimento sceso allo 0,05% contro gli attacchi diretti di GPT-Red
- 84% di successo negli attacchi indiretti, contro il 13% dei red teamer umani nell'arena di test
Il trade-off: potenza offensiva senza esposizione
GPT-Red rimane strettamente interno e non viene deployato per evitare di diffondere capacità offensive. OpenAI lo descrive come un flywheel di safety: i modelli di oggi migliorano la robustezza, l'allineamento e l'affidabilità di quelli di domani, affiancando — non sostituendo — il red teaming umano e il monitoring continuo.
Un dettaglio rilevante: le capacità generali dei modelli restano intatte. La robustezza migliorata non compromette le performance quotidiane.
Perché è importante
Per chi sviluppa o integra AI agent in ambienti produttivi, GPT-Red rappresenta un passo concreto verso difese scalabili contro attacchi che sfruttano dati di terze parti — un vettore finora difficile da testare sistematicamente.
Link: OpenAI Blog | Thread X
Testo: assistito da AI · revisionato da Carlos H. P. Ross
