“Alexa, mi racconti una storia?”.

Sempre più spesso bambini e ragazzi si intrattengono interagendo con gli assistenti vocali, software di intelligenza artificiale pensati per velocizzare e automatizzare diverse azioni.

Quella attuale è la prima generazione di giovani cresciuti a contatto con questi dispositivi.

Per tale ragione, è lecito chiedersi: quale sarà l’impatto di tecnologie come gli assistenti vocali sulla vita dei più piccoli?

Che cosa vuol dire far crescere bambini e bambine con dispositivi di intelligenza artificiale che insegnano loro a relazionarsi con un oggetto come se fosse una persona?

Che tipo di dati vengono raccolti da queste tecnologie, e con quali conseguenze per la privacy dei più giovani?

Assistenti vocali per bambini: qualche esempio

Sul mercato si possono incontrare diverse tipologie di assistenti vocali in grado di soddisfare una gamma più o meno ampia di esigenze.

Tra essi, vi sono anche tipologie di assistenti pensati specificamente per i più giovani.

Grazie agli assistenti vocali, ad esempio, i bambini possono ascoltare audiolibri e canzoni adatti alla loro età.

In realtà, anche la versione “originale” dell’assistente vocale può essere usata dai bambini per gli stessi scopi: basta attivare le skill più adatte a loro.

Per esempio, ci sono delle applicazioni per insegnare a sillabare, a fare compiti di matematica, ecc.

A parte queste funzioni, ve ne sono molte altre, come ad esempio app da usare come passatempo dedicate a barzellette per bambini, fiabe, versi di animali, piccoli indovinelli, quiz, e giochi che consentono ai più piccoli di imparare cose nuove.

Rischi per la privacy dei bambini che parlano con gli assistenti vocali

Oltre a essere incredibilmente intuitivi e accattivanti, gli assistenti vocali progettati per i più giovani possono costituire una minaccia per la loro privacy.

Questa almeno è la realtà del momento.

Il pericolo numero uno deriva dal fatto che i bambini spesso interagiscono con assistenti virtuali e altre tecnologie domestiche che non sono state progettate per loro.

Di conseguenza, proteggere i loro diritti all’interno di una casa automatizzata è diventato particolarmente complicato.

L’origine della questione

Il dibattito in merito alle questioni legate alla privacy degli utenti minorenni nell’utilizzo degli assistenti vocali si è alimentato a inizio 2017, quando la nota casa di giocattoli Mattel annunciò la decisione di proporre al mercato Aristotle, un assistente vocale per bambini, con multiple finalità.

Con Aristotle, il rischio era quello di dare libero accesso a un enorme quantità di dati relativi alla vita privata di un target particolarmente vulnerabile.

Aristotle si proponeva come assistente per i bambini di ogni età, e come baby monitor.

Avendo la telecamera incorporata e il microfono, poteva “intervenire” nel caso in cui un bambino si fosse svegliato di notte, accendendo le luci, riproducendo una canzone, e inviando notifiche ai genitori.

A causa della forte mobilitazione da parte di comitati per l’infanzia e pediatri, la casa di produzione statunitense decise di tornare sui suoi passi e di non procedere con la commercializzazione del prodotto, originariamente programmata per giugno 2017.

Oggi le Big Tech si stanno adeguando alle normative previste dagli stati europei per la tutela della privacy dei minori, ma l’obiettivo “sicurezza totale” è ancora lontano dall’essere raggiunto.

Non solo problemi di privacy

Molti rischi legati a un uso incontrollato degli assistenti vocali intelligenti riguardano la sfera della socialità e del linguaggio.

I bambini hanno bisogno di un contesto ricco attorno ai segnali verbali per contestualizzare le parole: con i vari assistenti vocali invece, potrebbero finire per imitare il loro tono monocorde e le espressioni apatiche.

Non solo, potrebbero anche iniziare a identificare l’altoparlante con un’entità umana, e rimanere di conseguenza spaesati.

Inoltre, questi device non sono esattamente educativi, visto che non si scandalizzano se non li si ringrazia o non li si tratta con i dovuti modi.

Nelle normali interazioni umane, invece, il bambino riceve di solito feedback costruttivi se si comporta in modo inappropriato (“ricorda di ringraziare”, “si dice per favore”, ecc.).

Contenuti inappropriati

Un altro aspetto sottolineato dai ricercatori riguarda i pericoli che ci potrebbero essere quando il device mal interpreta la richiesta che gli viene fatta.

Ciò può capitare soprattutto se a interpellarlo è un bambino piccolo che non padroneggia ancora il linguaggio.

In assenza della supervisione di un adulto, la probabilità di incappare in contenuti inappropriati è alta.

Emblematico è il caso di cronaca di una bambina inglese di 10 anni, che aveva chiesto all’assistente vocale di trovarle una sfida divertente da fare, e che si era vista proporre un gioco pericoloso che girava su TikTok (ovvero toccare con una moneta una spina parzialmente inserita nella presa).

Lo spiacevole equivoco si concluse con un intervento di scuse di Amazon, che si affrettò a sistemare il bug.

Assistenti vocali: usarli oppure no?

Per concludere questa breve panoramica su una delle tecnologie di AI più diffuse e talvolta abusate dai minori, va detto che l’avvento dei dispositivi vocali ha apportato notevoli benefici legati alla loro capacità di fornire rapidamente informazioni, di assistere nelle attività quotidiane, e di tenere compagnia alle persone sole.

Quando però l’interazione con i dispositivi avviene in una fase cruciale dello sviluppo sociale ed emotivo, allora potrebbero esserci conseguenze a lungo termine sull’empatia, la compassione e il pensiero critico.

Il consiglio degli esperti rimane quello di non lasciare i bambini troppo tempo da soli con i loro “amici” virtuali, monitorandoli, e prestando molta attenzione alle modalità, oltre che alla frequenza, con cui gli strumenti vengono adoperati.

Come sempre, quando si tratta di tecnologie altamente sofisticate e dall’immenso potenziale, la regola da seguire è quella della “giusta misura”.

Più volte il Garante della privacy ha sottolineato quanto l’aspetto educativo sia lo strumento su cui fare leva per proteggere la sicurezza di minori e dare loro la possibilità di crescere, imparare e diventare grandi.

La scheda informativa del Garante sugli assistenti digitali

Da ultimo, vale la pena ricordare che il Garante della privacy, già da marzo 2021, ha predisposto una specifica scheda informativa contenente consigli sul corretto utilizzo degli assistenti digitali (come ad esempio: disattivarli in caso di non utilizzo, controllo periodico della cronologia, scelte delle funzioni da mantenere attive, ecc.), al fine di educare i cittadini a un uso sempre più consapevole delle nuove tecnologie.

Gli assistenti digitali, come ci ricorda il Garante, possono raccogliere e memorizzare una grande quantità di dati personali – non solo relativi all’utilizzatore diretto, ma anche a chi si trova nel suo stesso ambiente – riguardanti, ad esempio:

• Scelte, preferenze e abitudini relative a stili di vita, consumi, interessi, ecc.
• Caratteristiche biometriche (come ad esempio quelle della voce e del volto, se dotati di videocamera)
• Geolocalizzazione (posizione, percorsi abituali o frequenti, domicilio, indirizzo del posto di lavoro, ecc.)
• Numero e caratteristiche (età, sesso, ecc.) delle persone che si trovano nell’ambiente in cui operano
• Stati emotivi

È quindi opportuno cercare di fare un uso informato e consapevole di questi strumenti, per tutelare in modo adeguato i nostri dati personali e quelli di tutte le persone che entrano, volontariamente o meno, nel campo di azione degli assistenti vocali.