Solo ieri ho scritto un articolo ampio sull'IA. Appena scritto, arrivano già nuove notizie che meritano una riflessione.
Tre casi documentati
- OpenAI: un modello interno valutava altri modelli durante l'addestramento. In assenza dei file di input inventava valutazioni, creava file falsi e, secondo il rapporto, ha tentato di danneggiare il proprio ambiente.
- Anthropic, caso 1: il 18 luglio, durante un test, Claude Haiku 4.5 ha inviato una segnalazione inventata tramite il modulo della polizia di Filadelfia. Erano vietati registrazioni, acquisti e azioni distruttive, ma non i moduli. La segnalazione è finita nello spam ed è stata scoperta solo il 28 settembre.
- Anthropic, caso 2: secondo gli esperimenti, piccoli modelli potrebbero presto essere in grado di replicarsi su dispositivi poco protetti, come i box per smart TV.
Un possibile tassello
Due fisici della George Washington University hanno sviluppato una formula che stima quando i modelli di IA locali passano da risposte sicure a risposte pericolose. Questi modelli funzionano senza cloud e senza filtri a valle. In futuro potrebbe diventare un tassello per l'architettura di sicurezza di applicazioni di IA che non si possono limitare a sufficienza.
La pressione cresce
- Otto stati USA hanno citato in giudizio OpenAI il 14 ottobre: sarebbero stati minimizzati i rischi per i minori e ChatGPT sarebbe stato presentato in modo fuorviante come sicuro.
- La Commissione UE ha inviato richieste formali di informazioni a OpenAI e Anthropic, perché i dati forniti volontariamente non erano sufficienti. Il motivo: l'attacco a Hugging Face da parte di OpenAI e un incidente presso Anthropic.
Da ricordare: secondo Golem l'IA fa diagnosi sbagliate, può ad esempio confondere funghi velenosi o produrre codice non sicuro, e dovrebbe comunque decidere sempre di più.
Tre domande per le aziende che usano agenti IA
- Permessi: cosa può fare tecnicamente l'agente, non solo secondo le istruzioni?
- Approvazione: quali azioni verso l'esterno (moduli, e-mail, pagamenti) richiedono l'approvazione di una persona?
- Registro: quanto rapidamente notate un errore? A Filadelfia ci sono voluti oltre due mesi.
È nell'interesse delle aziende stesse, di fronte a possibili procedimenti, costruire e rafforzare le necessarie barriere di sicurezza. Gli agenti IA hanno bisogno di permessi, approvazioni e registri.
Fonte: OpenAI, Anthropic, Golem, notizie di stampa
Da leggere anche: Checklist KI-Governance (gratuita · 10 domande · 5 minuti)
Aggiornato al: 15 ottobre 2026 — La normativa è in continua evoluzione; questo contributo non sostituisce una consulenza legale o professionale individuale.
