Si parla sempre più spesso di assistenti vocali e di privacy, e d’altronde non potrebbe essere altrimenti: si stima che Google Assistant abbia circa 500 milioni di utenti attivi mensili, Siri oltre 370 milioni. Per quanto riguarda le installazioni, Cortana di Microsoft e DuerOS di Badu sono presenti in oltre 400 milioni di oggetti, mentre Alexa in oltre 200 milioni e Bixby di Samsung in oltre 160 milioni. Si tratta quindi di strumenti entrati nella quotidianità di milioni di persone che li usano per i motivi più disparati, spesso dimenticando di parlare ad un dispositivo che registra la propria voce, e quindi ogni parola che gli viene rivolta.
Anche per questo il Comitato europeo per la protezione dei dati personali (EDPB) è intervenuto sull’utilizzo degli assistenti vocali, pubblicando una serie di linee guida e raccomandazioni per risolvere i problemi nell’applicazione del Regolamento europeo n. 679 del 2016 a questo nuovo contesto tecnologico.
1. Cosa sono e come funzionano gli assistenti vocali virtuali?
L’assistente vocale virtuale (VVA) è un programma che interpreta il linguaggio naturale tramite algoritmi di intelligenza artificiale in grado di interloquire con gli esseri umani allo scopo di soddisfare diverse tipologie di richieste (rispondere a richieste di informazioni varie, fare ricerche su Internet, ricercare percorsi stradali, ecc.) o compiere determinate azioni (regolare la temperatura o l’illuminazione di un’abitazione, attivare elettrodomestici, ecc.).
Questo perché un VVA può essere suddiviso in moduli che consentono di svolgere compiti diversi: si pensi all’acquisizione e restituzione del suono, alla trascrizione automatica del parlato (da parlato a testo), all’elaborazione automatica del linguaggio, strategie di dialogo, accesso a fonti di conoscenza esterne, sintesi vocale (text to speech), ecc. Svolge quindi il ruolo di intermediario e gestore che dovrebbe facilitare lo svolgimento dei compiti dell'utente.
Per comprendere al meglio il funzionamento di questi strumenti, può essere particolarmente utile ed interessante conoscerne i passaggi funzionali.
L’assistente vocale è collocato in un’apparecchiatura che può essere uno smartphone o un altoparlante. Il VVA, se non viene avviato, è in standby seppur in ascolto costante, e fino a quando non viene rilevata un'espressione di sveglia specifica, non viene trasmesso alcun audio dal dispositivo che riceve la voce e non viene eseguita alcuna altra operazione. Quando l'utente pronuncia l'espressione di risveglio, il VVA confronta localmente l'audio con l’espressione, e se corrispondono, l’assistente apre un canale di ascolto e il contenuto audio viene immediatamente trasmesso. Una volta attivato, l’utente formula una richiesta che viene trasmessa al provider VVA. La sequenza del discorso pronunciato viene quindi trascritta automaticamente.
Utilizzando le tecnologie di elaborazione del linguaggio naturale (NLP), il comando viene interpretato, le intenzioni del messaggio vengono estratte e le variabili informative (slot) vengono identificate. Viene quindi utilizzato un dialog manager per specificare lo scenario di interazione da implementare con l'utente fornendo lo schema di risposta appropriato. Se il comando coinvolge una funzionalità fornita da un'app di terze parti, il provider VVA invia allo sviluppatore dell'app le intenzioni e le variabili informative (slot) del messaggio.
Dopodiché viene identificata una risposta adattata alla richiesta dell’utente. Risposte come “non ho la risposta alla tua domanda”, sono standard nel caso in cui il VVA non sia in grado di interpretare correttamente la richiesta; invece, qualora vi riesca, viene creata una frase di risposta e/o viene identificata un’azione. Se necessario, vengono utilizzate risorse remote come database della conoscenza accessibili al pubblico (enciclopedie online, ecc.), oppure accessibili tramite autenticazione (conto bancario, applicazione musicale, account per acquisti online, ecc.). Infine, pronunciando l’espressione di spegnimento, il VVA torna in standby, in attesa che venga pronunciata ancora l’espressione di sveglia e la nuova richiesta dell’utente.
2. I rischi per i dati personali degli utenti (e non solo)
Se l’EDPB ha sentito la necessità di intervenire sul tema degli assistenti vocali virtuali, è per far fronte agli evidenti rischi che l’utilizzo di questi strumenti comportano.
I VVA non interagiscono soltanto con l’audio dell’utente, ma possono catturare accidentalmente anche l'audio di persone che non intendevano utilizzare un servizio. Innanzitutto, perché l'espressione del risveglio può essere modificata: gli individui che non sono a conoscenza di questo cambiamento potrebbero utilizzare accidentalmente l'espressione di attivazione aggiornata. In secondo luogo, i VVA possono rilevare l'espressione del risveglio anche per errore, ma è altamente improbabile che la regola madre del consenso sia applicabile in caso di attivazione accidentale. Inoltre, il consenso come definito nel GDPR deve essere "l'indicazione inequivocabile dei desideri dell'interessato". Pertanto, è difficile ipotizzare che un'attivazione accidentale possa essere interpretata come un consenso valido. Se i responsabili del trattamento dei dati vengono a conoscenza (ad esempio tramite revisione automatica o umana) che il servizio VVA ha elaborato accidentalmente dati personali, devono verificare che esista una base giuridica valida per ciascuna finalità del trattamento di tali dati. In caso contrario, i dati raccolti dovrebbero essere cancellati.
Tuttavia, non si tratta soltanto di una questione legata al consenso, ma anche di un problema quantitativo e qualitativo.
Dalla richiesta iniziale alla relativa risposta, il primo inserimento di dati personali genererà dati personali successivi. Ciò include i dati primari. I VVA utilizzano il parlato per mediare tra gli utenti e tutti i servizi connessi ma, a differenza di altri intermediari, i VVA possono avere pieno accesso al contenuto delle richieste e di conseguenza fornire al progettista un’ampia varietà e quantità di dati personali. Inoltre, si tratta spesso di informazioni particolarmente delicate come preferenze e abitudini relative a stili di vita, consumi, interessi, posizione, percorsi abituali, domicilio, indirizzo del posto di lavoro e stati emotivi.
3. L’intervento dell’EDPB
Nel documento del 9 marzo scorso l’EDPB si è soffermato su una pluralità di questioni.
Innanzi tutto, il Comitato ha ritenuto che il framework normativo di riferimento sia costituito dal GDPR e dalla e-Privacy Directive, la quale riporta la definizione di apparecchi terminali, “terminal equipment”, in cui rientrano i VVA. Ciò significa che il titolare del trattamento, quando chiede il consenso per la memorizzazione o per ottenere l'accesso alle informazioni ai sensi dell'articolo 5, paragrafo 3, della Direttiva e-Privacy, dovrà informare l'interessato su tutte le finalità del trattamento (ovvero il "trattamento successivo”), quindi il consenso ai sensi dell'articolo 6 GDPR sarà generalmente la base giuridica più adeguata a coprire il successivo trattamento dei dati personali. Pertanto, il consenso costituirà probabilmente la base giuridica sia per l'archiviazione e l'accesso alle informazioni già ottenute, sia per il trattamento dei dati personali a seguito delle operazioni di raccolta.
Sempre in tema di consenso, una problematica presa in considerazione dall’EDPB e già anticipata nel precedente paragrafo, è data dai casi di attivazione accidentale. In tali ipotesi di avviamento del servizio, che dovrebbe essere riconosciuto come tale tramite controlli umani o automatizzati, il fornitore dovrebbe cancellare al più presto i dati raccolti per errore. Un focus è posto anche sulle diverse tipologie di dati trattati, che ricomprendono i “primary data” (registrazioni vocali, cronologia delle richieste), gli “observed data” (dati del dispositivo e attività online) e gli “inferred or derived data” (come i dati dedotti dalla profilazione dell’utente). Tali dati possono riguardare tanto i soggetti interessati diretti (generalmente i membri di una famiglia che utilizzano un assistente vocale), quanto gli interessati accidentali (che interagiscono inconsapevolmente, ad esempio pronunciando per caso l’espressione di sveglia). Inoltre, la questione si lega anche ad una problematica ulteriore data dalla diffusione dei dati. Il trattamento dei dati, in considerazione del fatto che gli assistenti vocali si interconnettono con altri device o servizi offerti da terze parti, può avvenire anche da parte di altri soggetti esterni all’assistente vocale utilizzato.
Di conseguenza, secondo l’EDPB, emerge la necessità di gestire attentamente i ruoli in tema di privacy, alla luce della catena di stakeholders coinvolti nel processo. Le considerazioni dell’EDPB evidenziano la necessità di implementare adeguate misure di sicurezza e di garanzia, di applicare i principi di privacy by design e di privacy by default, e di ricorrere agli strumenti di accountability previsti espressamente dal GDPR. Inoltre, il provider dei servizi VVA dovrebbe fornire agli interessati tutte le informazioni previste dal GDPR ai sensi dell’articolo 13 e del Considerando 58, in una forma semplice, chiara e accessibile. Tali informazioni dovrebbero essere rilasciate non solo agli utenti registrati ai servizi VVA, ma anche a chi non è registrato ed agli utenti accidentali - per quanto, nella pratica, quest’ultima condizione sia difficile da rispettare.
4. Conclusioni
Come ogni strumento tecnologico caratterizzato da una forte e rapida diffusione, un utilizzo pressoché quotidiano ed una incidenza importante sui dati personali, anche gli assistenti vocali virtuali hanno reso necessario un intervento volto ad informare gli utenti ed a cercare di controllare il flusso dei dati attraverso queste tecnologie.
In effetti, le linee guida proposte dall’EDPB sono coerenti con i rischi che questa tecnologia comporta. Tuttavia, non hanno solamente la funzione di controllare il fenomeno, ma anche quella di rendere gli utenti consapevoli delle potenzialità di questi strumenti, poiché proteggere i propri dati è prima di tutto compito degli stessi utilizzatori attraverso un uso informato delle nuove tecnologie.
Lo stesso Garante italiano per la protezione dei dati personali, con una nota sul proprio sito, si è espresso sulla materia fornendo una serie di consigli utili agli utenti per un utilizzo dei VVA a prova di privacy. In particolare, l’Autorità si è soffermata su una serie di abitudini quotidiane da acquisire per proteggersi al meglio, come disattivare l’assistente vocale prima di dormire o più in generale quando non lo si utilizza, evitare di condividere un quantitativo eccessivo di informazioni, soprattutto quelle più sensibili, e cancellare periodicamente la cronologia delle ricerche. Il tutto, come sempre, accompagnato da un’importante attività di informazione circa l’uso dei propri dati da parte dell’assistente vocale, dalla raccolta all’archiviazione, fino alla cessione degli stessi a terzi.
di Marco Martorana
Nessun commento:
Posta un commento