Intelligenza artificiale in azienda, il controllo umano non è una firma

La sezione 11 della guida operativa numero 02 Organizzare l’uso dell’Ia in una Pmi, redatta da Confartigianato, affronta un problema concreto per le imprese: come verificare che i risultati prodotti dall’intelligenza artificiale siano corretti prima di utilizzarli. Delegare un’attività a uno strumento può far risparmiare tempo, ma non elimina la necessità di controllare il lavoro. Perché la supervisione sia effettiva, chi verifica deve conoscere il processo, disporre delle informazioni necessarie e avere il potere di correggere o respingere il risultato.

Il rischio di controllare senza verificare

Immaginiamo un’impresa che utilizzi l’IA per preparare venti offerte commerciali al giorno. Il sistema velocizza la scrittura, ma può riportare un prezzo errato, una condizione di vendita non aggiornata o una caratteristica tecnica inesatta. Se il responsabile, abituato a ricevere documenti apparentemente corretti, comincia a leggerli superficialmente, il controllo rimane previsto dalla procedura ma perde efficacia. Per evitarlo, non basta chiedere a un collaboratore di rileggere i documenti. Occorre stabilire che cosa verificare e quali condizioni debbano essere soddisfatte prima dell’invio. Nel caso delle offerte, per esempio, il controllo può riguardare prezzi, sconti, tempi di consegna e caratteristiche tecniche, confrontandoli con listini e documentazione aziendale aggiornati.

Cinque domande per organizzare il controllo

Una Pmi può partire da cinque domande, da tradurre in istruzioni semplici e condivise.

• Chi controlla? Va individuato un responsabile, con un sostituto quando necessario. La verifica deve essere affidata a chi conosce l’attività e sa riconoscere gli errori rilevanti.
• Che cosa deve verificare? Non basta una rilettura generica. Occorre definire i punti da controllare: dati, fonti, calcoli, coerenza delle informazioni e rispetto delle condizioni aziendali.
• Quando interviene? La procedura deve stabilire in quale momento il risultato può essere utilizzato. Per un’offerta commerciale, il controllo deve precedere l’invio al cliente.
• Di quali informazioni dispone? Chi verifica deve poter confrontare il risultato con le fonti originali, conoscere le istruzioni date allo strumento e sapere quali sono i suoi limiti.
• Che cosa può fare se trova un errore? Deve poter correggere il contenuto, respingerlo, chiedere una nuova verifica o bloccare l’utilizzo dello strumento, coinvolgendo una figura competente quando il problema supera le sue responsabilità.

Queste indicazioni non richiedono necessariamente un nuovo ufficio o software dedicati. In una microimpresa possono bastare una procedura scritta, una persona incaricata e una lista dei controlli da effettuare prima di utilizzare i risultati.

Più conseguenze, più attenzione

Il livello di verifica deve essere proporzionato al possibile danno. Per una traduzione destinata all’uso interno può bastare una rilettura. Per una comunicazione tecnica servono controlli su dati e fonti. Quando l’IA contribuisce a una decisione che riguarda una persona, come la selezione di un candidato, occorrono competenze adeguate, un esame più approfondito e la possibilità concreta di contestare il risultato. Anche la ripetizione può indebolire la supervisione. Per capire se il controllo funziona, l’impresa può riesaminare periodicamente gli errori sfuggiti e introdurre prove con inesattezze inserite intenzionalmente. Se chi verifica non le riconosce, è necessario rivedere la procedura o rafforzare le competenze. È utile, inoltre, conservare una traccia delle verifiche più importanti, soprattutto quando un errore può avere conseguenze commerciali, economiche o per le persone. La documentazione deve essere proporzionata al rischio: non serve appesantire ogni attività con gli stessi adempimenti.

Prepararsi agli obblighi partendo da oggi

Il controllo umano è previsto anche dal regolamento europeo sull’intelligenza artificiale, l’AI Act, che stabilisce requisiti specifici per i sistemi classificati ad alto rischio. Le scadenze dipendono dalla categoria e dalla destinazione d’uso: non ogni applicazione dell’IA utilizzata in azienda rientra in questa classificazione. Il quadro normativo e il relativo calendario sono consultabili sul sito della Commissione europea.

Per prepararsi, un’impresa può cominciare censendo gli strumenti utilizzati, le attività in cui intervengono e i possibili effetti dei loro risultati. Il passaggio successivo è assegnare responsabilità e definire controlli adeguati, senza affidarsi alla sola fiducia nella tecnologia.

L’IA può velocizzare il lavoro, ma il vantaggio si perde se gli errori arrivano ai clienti o condizionano decisioni senza essere riconosciuti. Il controllo umano funziona quando chi lo esercita sa che cosa cercare, ha il tempo per farlo e può fermare il processo. Annarita Cacciamani

SCARICA E CONSULTA LA NOSTRA GUIDA