Negli ultimi mesi si osserva un fenomeno silenzioso ma significativo: sempre più risposte a ticket, email e persino commit su piattaforme di sviluppo vengono generate da agenti IA che comunicano con altri agenti IA, spesso senza che nessuno lo dichiari esplicitamente.
Non si tratta di un problema teorico. Se un agente IA risponde a un cliente, revisiona un contratto o interagisce con un fornitore senza che ciò venga reso trasparente, chi si assume la responsabilità in caso di errore? E come fa Lei a sapere, come destinatario, se sta effettivamente parlando con una persona?
L'AI Act europeo affronta proprio questo punto (art. 50): chi utilizza sistemi di IA che interagiscono con le persone deve renderlo noto, salvo casi evidenti. Ma la norma presuppone che l'interazione uomo-macchina sia ancora la regola. Quando invece diventano gli agenti stessi a comunicare tra loro, senza un essere umano nel mezzo a ogni passaggio, la questione della trasparenza si complica.
Per le PMI che iniziano a introdurre strumenti di automazione basati su IA, la domanda pratica è questa: sa esattamente in quali processi la Sua azienda genera già oggi comunicazioni completamente automatizzate, e se questo è dichiarato, documentato, tracciabile?
Io stesso utilizzo l'IA in modo intensivo nel mio lavoro, ma con un principio non negoziabile: ogni fonte, ogni bozza, ogni decisione finale passa attraverso il mio controllo diretto. È esattamente questo il punto su cui l'AI Governance si gioca davvero.
Da leggere anche: Checklist KI-Governance (gratuita · 10 domande · 5 minuti)
Aggiornato al: 1 settembre 2026 — La normativa è in continua evoluzione; questo contributo non sostituisce una consulenza legale o professionale individuale.
