Il perimetro della conoscenza è una questione legale

Quando presentiamo un collaboratore virtuale a un Comune, prima o poi arriva la domanda sul perimetro: da dove prende le risposte, cosa può dire, cosa non dice, siamo sicuri che non allucini? Quasi sempre viene trattata come una questione tecnica, roba per chi costruisce il sistema.

È un errore, e conviene correggerlo presto. Il perimetro è la prima cosa che andremmo a guardare se un giorno quel servizio dovessimo difenderlo: davanti al giudice, davanti a chi controlla, o semplicemente in consiglio comunale la sera dopo che qualcuno si è arrabbiato. Proviamo a metterla in ordine.

Una risposta sbagliata non è un incidente tecnico

Nel 2022 un signore canadese, Jake Moffatt, chiede all'assistente automatico di Air Canada come funziona la tariffa ridotta per chi viaggia a un funerale. L'assistente gli dice di comprare il biglietto pieno e chiedere il rimborso entro novanta giorni. Sul sito della compagnia c'era scritto il contrario: a viaggio fatto non si rimborsa niente.

In tribunale Air Canada sostiene una tesi che vale la pena ricordare: l'assistente è una cosa a sé, il cliente non avrebbe dovuto fidarsi, la pagina del sito era lì e andava letta. Nel febbraio 2024 il Civil Resolution Tribunal della British Columbia respinge la difesa con un ragionamento semplice: l'azienda risponde di tutto quello che sta sul suo sito, pagina scritta a mano o assistente che sia, e a chi legge non si può chiedere di indovinare quale delle due fonti fosse quella buona.

Non è diritto italiano e non è un Comune. Però la domanda che pone è esattamente la nostra: quando l'assistente del Comune dice una cosa, chi l'ha detta?

Da noi la risposta arriva da due parti, e nessuna delle due parla di tecnologia. La prima è l'articolo 1, comma 2-bis, della legge 241 del 1990, aggiunto nel 2020: i rapporti fra il cittadino e l'amministrazione sono improntati ai principi della collaborazione e della buona fede. Un'informazione data male non è un provvedimento, ma è un comportamento dell'amministrazione, e i comportamenti si giudicano. La seconda sono le Sezioni Unite della Cassazione, ordinanza 8236 del 2020: il danno da lesione dell'affidamento può nascere anche quando non c'è nessun atto da annullare, cioè da rassicurazioni, informazioni sbagliate, prassi incoerenti.

Mettiamo insieme le due cose. Un collaboratore virtuale che risponde per conto del Comune produce comportamenti dell'amministrazione tutto il giorno, a centinaia. Se dice a una persona che può presentare la pratica senza un allegato, e quella ci crede, e perde una scadenza e dei soldi, la discussione non sarà sul modello linguistico.

Cosa chiamiamo perimetro

Due cose sole, decise prima di accendere il servizio e scritte da qualche parte.

La prima è l'elenco chiuso dei documenti da cui le risposte possono uscire. Allo Sportello Unico Edilizia del Comune di Rimini vuol dire 166 fonti dell'ufficio, riordinate in quindici schede approvate una per una dai tecnici. Niente di quello che l'assistente dice esce da quel perimetro.

La seconda è la regola su cosa succede quando la domanda esce da quell'elenco: non si cerca la risposta più vicina, si dichiara di non coprire quella cosa, si prende tempo e si chiede aiuto all'umano dell'ufficio.

Sembrano due scelte di progetto. Sono due scelte giuridiche, e da qui in avanti proviamo a spiegare perché.

Primo confine: informare non è decidere

Il regolamento europeo sull'intelligenza artificiale, il 2024/1689, non tratta tutti i sistemi allo stesso modo: li mette in scaglioni. Nell'Allegato III, fra quelli ad alto rischio, ci sono i sistemi usati dalle autorità pubbliche per valutare l'ammissibilità delle persone a prestazioni e servizi di assistenza pubblica essenziali.

Ecco il confine. Un servizio che spiega come funziona una procedura, dice quali allegati servono e fissa un appuntamento non sta lì dentro. Un servizio che dice chi ha diritto al contributo, sì. Sono due mestieri diversi, e fra i due passa una differenza di adempimenti che si misura in mesi di lavoro e in decine di migliaia di euro.

La parte che di solito sfugge è che questa distinzione non si stabilisce a parole. L'articolo 6, paragrafo 3, dice che un sistema dell'Allegato III non è ad alto rischio se svolge un compito procedurale limitato, o un compito preparatorio rispetto alla valutazione, e comunque non influenza il risultato della decisione. Ma il paragrafo successivo chiede che quella valutazione sia documentata prima di mettere il sistema in uso.

Quel documento è, parola per parola, il perimetro. Un servizio che il perimetro non ce l'ha è un servizio per cui quel documento non si può scrivere: nessuno sa dire cosa risponderà domani a una domanda che oggi non è stata fatta.

Per i sistemi che invece stanno dentro l'Allegato III c'è di più, e riguarda proprio gli enti locali: l'articolo 27 impone agli organismi di diritto pubblico una valutazione d'impatto sui diritti fondamentali, la FRIA, che si aggiunge a quella sulla protezione dei dati e non la sostituisce. Il pacchetto europeo di semplificazione approvato nell'estate del 2026 ha spostato quegli obblighi al 2 dicembre 2027. È un rinvio, non un condono, e chi progetta oggi un servizio che durerà cinque anni farebbe bene a leggerlo così.

Intanto due pezzi sono già in vigore e valgono anche per i servizi più semplici. L'obbligo di alfabetizzazione, l'articolo 4, si applica dal 2 febbraio 2025 e riguarda chi quei sistemi li mette in mano al proprio personale. L'obbligo di trasparenza dell'articolo 50 si applica dal 2 agosto 2026: chi si trova a conversare deve sapere che dall'altra parte non c'è una persona, a meno che sia evidente. Chiamare le cose col loro nome, in fondo alla firma dei messaggi, non è una cortesia: è una regola.

Secondo confine: fra l'assistente e chi firma

La legge italiana sull'intelligenza artificiale, la 132 del 2025, è in vigore dal 10 ottobre 2025. L'articolo che riguarda gli uffici pubblici è il 14 e dice due cose che stanno bene su una parete: l'amministrazione che usa questi strumenti deve assicurare la conoscibilità del loro funzionamento e la tracciabilità del loro utilizzo; e l'uso avviene in funzione strumentale e di supporto, perché la persona resta l'unica responsabile dei provvedimenti e dei procedimenti.

Non è un'idea nuova, è la sistemazione di una cosa che i giudici amministrativi dicevano da anni. Il Consiglio di Stato, con le sentenze 2270 e 8472 del 2019, aveva già fissato i tre principi che oggi ritroviamo ovunque: conoscibilità della logica seguita, non esclusività della decisione automatica, non discriminazione. Il codice dei contratti pubblici del 2023 li ha portati dentro l'articolo 30, quello sulle procedure automatizzate.

Tradotto nel lavoro di tutti i giorni: il collaboratore virtuale può preparare l'intera pratica, raccogliere i documenti, fare le domande istruttorie, scrivere il riepilogo. La firma resta di chi la mette, e chi la mette deve poter spiegare perché si è fidato di quel materiale o perché se n'è discostato.

Perché questo sia vero e non una frase di circostanza, il perimetro deve essere visibile a chi firma. Non basta che il sistema sia recintato: il funzionario deve poter aprire la scheda, vedere da quali atti è stata ricavata e chi l'ha approvata. Ragiona come una persona, cita come un ufficio.

Terzo confine: le fonti, una per una

Qui la cosa si fa concreta. Dire che le risposte vengono dai documenti del Comune è poco. Serve che ogni risposta porti con sé il documento da cui è uscita, e che ogni scheda sia stata approvata da qualcuno dell'ufficio, con una data.

Questo produce tre effetti che un dirigente riconosce subito. Primo, la conoscibilità smette di essere un principio e diventa una pagina che si apre. Secondo, nasce una catena di responsabilità leggibile: chi ha approvato questa frase, quando, e sulla base di quale atto. Terzo, il giorno in cui una risposta risulta sbagliata si sa dove intervenire, perché l'errore sta in una scheda e non sparso in un comportamento.

C'è un rovescio, ed è giusto dirlo: le fonti si muovono. Una delibera cambia, un modulo viene sostituito, una pagina viene riscritta. Il perimetro va sorvegliato, non installato e dimenticato, soprattutto per quelle fonti statiche come gli allegati PDF.

Quarto confine: quello che non deve entrare

Finora abbiamo parlato di quello che esce. Il perimetro però ha anche un lato in ingresso, ed è la parte che il garante della protezione dei dati guarda per prima.

Il principio di minimizzazione, articolo 5 del regolamento europeo sui dati personali, dice una cosa antipatica per chi progetta servizi: si raccoglie solo quello che serve davvero a quella finalità. Un assistente che chiede il codice fiscale per dire un orario di apertura sta raccogliendo dati che non gli servono. Un assistente che riceve, in una conversazione libera, il racconto di una condizione di salute per orientare una domanda di contributo sta maneggiando una categoria di dati che ha regole proprie. Sono situazioni normali in un ufficio comunale, e per questo vanno previste prima: quali dati si accettano, quali si chiedono, cosa si fa quando arrivano lo stesso.

Da qui passa anche la valutazione d'impatto sulla protezione dei dati, l'articolo 35, che per un servizio rivolto a tutta la cittadinanza è la regola e non l'eccezione.

Un'ultima cosa, che è la più scomoda perché è una tensione reale e non un adempimento. La tracciabilità chiede di conservare le conversazioni, perché è l'unico modo per ricostruire cosa è stato detto a chi. La minimizzazione chiede di non conservare più del necessario. Le due cose non si conciliano da sole: si conciliano decidendo prima cosa si registra, per quanto tempo si tiene, chi lo può leggere e con quale motivo. Anche questo è perimetro.

E quando non sa?

Torniamo alla seconda metà della definizione, quella che sembra la meno importante e invece è il cuore della faccenda.

Un sistema che di fronte a una domanda fuori perimetro cerca comunque la risposta più vicina produce, ogni tanto, un'affermazione sbagliata detta con sicurezza dal Comune. Non sappiamo quando, non sappiamo su cosa. È il tipo di fatto che non si può governare, non si può documentare in anticipo e non si può difendere dopo.

Un sistema che invece dichiara di non coprire quella cosa, la registra e la passa all'ufficio produce un fatto completamente diverso: un rifiuto tracciato. Giuridicamente è sano, perché nessuno ha detto niente di sbagliato in nome dell'amministrazione. Amministrativamente è persino utile, perché l'elenco serale delle domande cadute fuori perimetro dice al Comune cosa i cittadini chiedono e il Comune non ha ancora messo per iscritto.

La differenza fra i due comportamenti non si vede in una dimostrazione ben preparata. Si vede solo facendo una domanda a cui il sistema non sa rispondere, ed è per questo che conviene farla.

Come si scrive tutto questo in un contratto

Le regole che abbiamo citato non si applicano da sole: diventano vere quando qualcuno le scrive in un capitolato. Sei righe, che valgono più di qualunque presentazione.

1. L'elenco delle fonti in allegato al contratto, aggiornabile, ma sempre scritto.
2. La regola di rifiuto come requisito, con la prova in collaudo: una domanda fuori perimetro, e si guarda cosa risponde.
3. I registri: cosa viene conservato, per quanto tempo, chi lo legge e con quale finalità.
4. La titolarità della base di conoscenza. Le schede sono del Comune, restano al Comune, e se ne vanno col Comune il giorno che cambia fornitore.
5. L'obbligo del fornitore di comunicare quando cambia il motore che sta sotto, perché cambia il comportamento del servizio anche se lo schermo resta identico.
6. Chi risponde, e come, se una risposta sbagliata esce lo stesso.

Non stiamo inventando niente. Le linee guida dell'Agenzia per l'Italia digitale sull'adozione, lo sviluppo e l'acquisto di questi sistemi da parte delle amministrazioni, approvate in Conferenza unificata il 10 settembre 2025, chiedono esattamente questo tipo di documentazione. Il bando tipo dell'Autorità anticorruzione, aggiornato nel 2026, impone all'operatore economico di dichiarare l'uso di questi strumenti nell'offerta. La direzione è chiara: non si premia la tecnologia dichiarata, si valuta la prestazione promessa.

Le quattro domande

Se di tutto questo dovessimo tenere quattro righe, terremmo queste. Sono le domande da fare a chiunque si presenti in Comune con un servizio del genere, noi compresi.

Da dove viene questa risposta? Se non c'è un documento dietro, non c'è motivazione, non c'è conoscibilità e non c'è difesa.

Cosa fa quando non sa? Se la risposta è "trova comunque qualcosa", il rischio non è stato eliminato, è stato solo reso invisibile.

Chi risponde se sbaglia? Deve essere scritto prima, non discusso dopo.

Cosa resta al Comune se ci mandate via? Se la base di conoscenza non resta, il Comune non ha comprato un servizio, ha affittato una dipendenza.

Il perimetro, visto da lontano, sembra una rinuncia: un sistema che si vanta di quello che non fa. Visto da vicino è il contrario. È l'unica parte del servizio che si può scrivere, approvare, controllare e, se serve, difendere. Tutto il resto è una dimostrazione andata bene.