FAQ – Polo di Diritto - CNAI - Rete di competenze per l’intelligenza artificiale

Descrizione e delimitazione dei compiti del Polo di Diritto

Il Polo di Diritto è un centro di competenza per le questioni giuridiche inerenti all’utilizzo dell’intelligenza artificiale (IA) istituito in seno alla Rete di competenze per l’intelligenza artificiale (CNAI). Il Polo di Diritto è gestito dalla Direzione del diritto internazionale pubblico (DDIP) e dall’Ufficio federale di giustizia (UFG). Lo scopo del Polo di Diritto è di sostenere i servizi dell’Amministrazione federale nella risoluzione di questioni giuridiche inerenti all’intelligenza artificiale. In concreto, può farsi carico della rilettura dei risultati di un’analisi di un servizio dell’Amministrazione federale o rispondere a domande concrete e specifiche. Date le sue risorse limitate, il Polo di Diritto non può invece fornire le prestazioni di un «servizio giuridico classico», per esempio effettuare un’analisi approfondita delle questioni giuridiche che si presentano in relazione all’utilizzo di un sistema di IA, né accompagnare un progetto nel suo insieme.

Al fine di sostenere i servizi che desiderano utilizzare sistemi di IA nel quadro delle loro funzioni, il Polo di Diritto ha raccolto una serie di domande frequenti per fornire esempi concreti.

Ciò non toglie che ogni caso specifico debba essere esaminato individualmente: da queste risposte generali non si possono dedurre indicazioni valide in tutti i casi. Dovrà sempre essere effettuata un’analisi giuridica approfondita.

Per i progetti legislativi nel settore della digitalizzazione è possibile rivolgersi all’unità Legislazione in materia di digitalizzazione (RDI) dell’UFG, che fornisce consulenza ai servizi dell’Amministrazione sin dalle prime fasi dell’elaborazione delle basi legali.

Introduzione di un chatbot: questioni relative alla protezione dei dati

Un servizio si rivolge al Polo di Diritto allo scopo di chiarire le questioni giuridiche relative all’introduzione di un chatbot, in particolare per quanto riguarda la protezione dei dati e la conformità del progetto con il diritto svizzero. Il servizio chiede al Polo di Diritto un’analisi delle basi giuridiche relative al progetto nonché gli eventuali costi di una tale analisi.

Risposta:
L’analisi giuridica del progetto deve essere effettuata dal servizio giuridico dell’ufficio interessato e il Polo di Diritto è a disposizione in caso di domande concrete.
Per quanto riguarda la questione della protezione dei dati, il nuovo diritto prevede una serie di requisiti particolari per gli organi federali. Sul sito Internet dell’UFG sono disponibili diversi documenti destinati agli organi federali che forniscono indicazioni generali e specifiche utili, in particolare per preparare le basi legali per il trattamento dei dati (cfr. FAQ «Dove si possono trovare informazioni in materia di IA sul sito Internet dell’UFG?»). Questi documenti possono essere utili anche per progetti che comportano l’uso di sistemi di IA in cui sono trattati dei dati personali.
In particolare la nota «Revisione totale della legge sulla protezione dei dati (LPD) – Elaborazione di basi legali per il trattamento dei dati da parte di organi federali: sinossi delle modifiche principali» sul sito dell’UFG contiene sviluppi specifici relativi alla tematica dell’IA nell’Amministrazione federale (pag. 18 ss).
Può essere utile effettuare una valutazione d’impatto sulla protezione dei dati personali. Ulteriori informazioni in merito sono disponibili anche sul sito Internet dell’UFG.
Il Polo di Diritto è a disposizione per rileggere il risultato dell’analisi effettuata. Questa prestazione non comporta alcun costo.

Introduzione di un chatbot: principio della buona fede

Un servizio si rivolge al Polo di Diritto allo scopo di chiarire le questioni giuridiche relative all’introduzione di un chatbot, in particolare per quanto riguarda la possibilità di aggiungere un disclaimer sull’inaffidabilità delle risposte fornite dal chatbot.

Risposta:
È opportuno chiedersi in che misura sia sufficiente aggiungere un disclaimer sull’inaffidabilità delle risposte ai sensi dell’art. 9 Cost. (protezione dall’arbitrio e tutela della buona fede). La dottrina e la giurisprudenza stabiliscono che tale garanzia conferisca in generale il diritto a non subire alcuno svantaggio (o pregiudizio) a causa di un comportamento di un organo dello Stato contrario alle regole della buona fede. Il commentario in francese cita l’esempio di un’indicazione inesatta dei rimedi giuridici: un ricorso indirizzato erroneamente o tardivo dovrebbe essere dichiarato ricevibile se il ricorrente ha fatto affidamento sull’indicazione e se non si è accorto – e non poteva accorgersi – dell’errore prestando l’attenzione richiesta dalle circostanze. Se l’inesattezza delle informazioni fornite dal chatbot è grossolana, ciò non dovrebbe avere conseguenze. Tuttavia, si può immaginare che indicazioni apparentemente plausibili inducano il cittadino a un determinato comportamento (p. es. indicazioni errate sui termini) e che in tal caso l’autorità debba tenerne conto affinché il cittadino non subisca uno svantaggio. In ogni caso, l’avvertenza agli utenti circa l’inaffidabilità delle informazioni fornite dal chatbot dovrebbe essere particolarmente ben visibile ed evidente per segnalare la necessità di ricorrere a un altro canale se si desidera un’informazione affidabile.

Robot come utente informatico

Un servizio ha contattato il Polo di Diritto per sapere se e a quali condizioni un robot può disporre di diritti di accesso a un sistema ed effettuare transazioni come utente. Più precisamente, il servizio ha posto le seguenti domande.

Quadro giuridico generale: esiste un quadro giuridico relativo all’uso dei robot come utenti di sistemi informatici nella pubblica amministrazione?

Responsabilità e conformità: quali aspetti di conformità e responsabilità bisogna considerare quando si utilizzano i robot in questo contesto?

Protezione dei dati: quali sono i potenziali impatti sulla protezione dei dati e come vanno gestiti?

Raccomandazioni pratiche: esistono raccomandazioni o buone pratiche da seguire per garantire che l’integrazione dei robot avvenga nel rispetto delle norme giuridiche ed etiche?

Risposta:
Quadro giuridico generale:
non siamo a conoscenza dell’esistenza di un quadro giuridico specifico per l’utilizzo dei robot come utenti di sistemi informatici. In una simile situazione si applicano tuttavia i principi giuridici pertinenti dell’ordinamento giuridico svizzero, conformemente all’approccio tecnologicamente neutro seguito dal legislatore svizzero. In particolare devono essere rispettate le disposizioni della Costituzione, della LPD, della legge federale sulla procedura amministrativa (PA), del Codice delle obbligazioni (CO), del Codice civile (CC), del Codice penale (CP), della legge federale sulla responsabilità della Confederazione, dei membri delle autorità federali e dei funzionari federali (LResp) o della legge federale sulla sicurezza dei prodotti.

Responsabilità e conformità:
le basi legali di cui sopra sono applicabili anche in materia di responsabilità e conformità.

Protezione dei dati:
se il robot utilizzato costituisce un sistema di IA e comporta il trattamento di dati personali, dovrà essere sottoposto a una valutazione d’impatto secondo la LPD se può comportare rischi elevati per i diritti fondamentali delle persone interessate. Inoltre, se l’impiego del sistema di IA porta a una decisione individuale automatizzata, dovranno essere rispettati i diritti e gli obblighi degli articoli 21 e 25 capoverso 2 lettera f LPD. Infine, si applicano i requisiti della base legale secondo l’articolo 34 LPD. In generale, per quanto riguarda la protezione dei dati e i sistemi di IA, si rimanda ai diversi documenti messi a disposizione sul sito dell’UFG: https://www.bj.admin.ch/bj/it/home/staat/datenschutz/info-bundesbehoerden.html

Raccomandazioni pratiche:
Le decisioni automatizzate (puramente meccanizzate) devono essere verificate da una persona fisica. Il personale che utilizza questi sistemi riceve una formazione adeguata per comprendere come funziona il sistema a grandi linee, che gli consentirà di mettere in discussione i risultati proposti dalla macchina.
Se il sistema è abilitato a prendere decisioni, l’interazione con un sistema di IA e le decisioni che questo prende devono essere chiaramente identificabili come tali.
Per promuovere la trasparenza, il progetto di IA può essere annunciato alla CNAI (Competence Network for Artificial Intelligence) dell’UST affinché compaia nella banca dati dei progetti di IA della Confederazione.
In linea di massima, devono essere rispettate le linee guida della Confederazione in materia di IA.

Trascrizione di verbali effettuata da un robot

Esistono disposizioni di legge che prevedono che i verbali realizzati nell’ambito di procedure davanti a delle autorità amministrative debbano obbligatoriamente essere redatti da una persona fisica oppure sarebbero conformi alla legge anche se in futuro la trascrizione fosse effettuata interamente da un sistema di intelligenza artificiale?

Risposta:
La registrazione completa di un’audizione in formato digitale non costituisce un’alternativa adeguata al verbale. Per rispettare il diritto di essere sentito dell’interessato (art. 29 cpv. 2 Cost.), il verbale deve riportare per iscritto i fatti essenziali per il seguito del procedimento. Non sussiste invece alcun obbligo costituzionale di allegare al dossier una copia integrale dell’audizione. È sufficiente un verbale limitato al contenuto essenziale dell’audizione.

Esistono alcune soluzioni software che trascrivono automaticamente i file audio utilizzando un sistema di IA. In linea di principio, l’Amministrazione può utilizzare a titolo di ausilio un software di trascrizione di questo tipo, come già menzionato. In tal caso, ha tuttavia l’obbligo di verificare la qualità della trascrizione. Questo vale anche per una trascrizione completa e letterale. In particolare, occorre verificare se le parole utilizzate siano state trascritte correttamente e se è stata presa in considerazione la comunicazione non verbale. È pertanto necessario che una persona che ha partecipato all’audizione verifichi la trascrizione. L’autorità ha la responsabilità – anche se si avvale di un software di trascrizione come ausilio – di garantire che siano registrati (almeno) i fatti essenziali per il seguito della procedura. Secondo il diritto procedurale, compete all’autorità anche l’accertamento dei fatti (art. 12 PA). Se il software di trascrizione viene utilizzato in questo senso, l’azione dello Stato è conforme all’ordine giuridico, per cui non vi è nulla da obiettare dal punto di vista giuridico.

In conclusione, anche se la redazione del verbale non può essere interamente affidata a un sistema di IA, è comunque possibile impiegare una soluzione software come ausilio, a condizione che una persona che ha partecipato all’audizione verifichi la qualità della trascrizione. Restano riservate le altre esigenze della procedura amministrativa, in particolare il diritto di essere sentito della persona interessata.

Dove si possono trovare informazioni in materia di IA sul sito Internet dell’UFG?

www.bj.admin.ch > Stato & Cittadino > Protezione dei dati > Domande e risposte sulla protezione dei dati
- FAQ Diritto in materia di protezione dei dati: decisione individuale automatizzata, n. 6.2 / profilazione, n. 2.3 / valutazione d’impatto sulla protezione dei dati, n. 6.3
www.bj.admin.ch > Stato & Cittadino > Protezione dei dati > Informazioni destinate agli organi federali
- Revisione totale della legge sulla protezione dei dati (LPD) – Elaborazione di basi legali per il trattamento dei dati da parte di organi federali: sinossi delle modifiche principali: decisioni individuali automatizzate, n. 2.2.1 lett. c (con sviluppi specifici sull’IA) / profilazione, n. 2.2.1 lett. b / valutazione d’impatto sulla protezione dei dati, n. 4.3
- Guida di legislazione – Protezione dei dati: decisione individuale automatizzata: n. 2.3.4 e 3.2.3 / processo decisionale individuale assistito da intelligenza artificiale, n. 2.3.5 e 3.2.3 / profilazione, n. 2.3.3 e 3.2.2
- Strumento per l’esame preliminare dei rischi (tabella Excel)
- Guida VIPD, p. 3 e 17