Sappiamo bene che l’intelligenza artificiale è uno strumento tanto utilizzato quanto discusso. 

L’AI, scrive il Commissario europeo per l’innovazione, la ricerca, la cultura, l’istruzione e la gioventù Mariya Gabriel, sta cambiando le modalità di lavoro di scuole, università ed educatori, e quelle di apprendimento dei nostri figli.

Sta inoltre rendendo i contesti educativi più reattivi, aiutando gli insegnanti a rispondere alle necessità specifiche di ciascun discente, e si sta rapidamente convertendo in un elemento fondamentale del tutoraggio personalizzato e della valutazione, mettendo sempre più in luce il potenziale di cui dispone per fornire preziose informazioni sullo sviluppo degli studenti.

L’impatto dell’intelligenza artificiale sui nostri sistemi di istruzione e formazione è innegabile, e aumenterà ulteriormente in futuro.

L’elaborazione di orientamenti etici sull’uso dell’AI rientra nel “Piano d’azione per l’istruzione digitale (2021-2027)”, che nella “Priorità 1” punta a “Promuovere lo sviluppo di un ecosistema altamente efficiente di istruzione digitale”.

L’UE parla di “intelligenza artificiale etica”, indicando uno sviluppo, una diffusione e un utilizzo dell’AI tali da assicurare il rispetto di norme e principi etici, e dei valori fondamentali connessi.

Sebbene l’Unione Europea stia dimostrando grande interesse per l’utilizzo dell’AI, sia all’interno che all’esterno del mondo dell’istruzione, l’intelligenza artificiale crea non solo delle opportunità, ma anche dei rischi che, soprattutto nel caso dei minori, non possono essere trascurati.

Che cos’è Bikini Off e perché desta preoccupazione

Bikini Off, che negli ultimi mesi è diventato un trend preoccupante per gli adolescenti, è un bot di Telegram (nota app di messaggistica istantanea) che, grazie all’intelligenza artificiale, spoglia letteralmente le persone in foto.

Realizzata dalla Crystal Future OÜ, azienda di Tallinn, in Estonia, nata nel 2017, e finora artefice di app dedicate al gaming, Bikini Off è un bot completamente aperto: non ci sono controlli all’accesso, né limitazioni all’età degli utenti.

Chiunque può accedervi e realizzare i falsi. Anche dei ragazzini di 13 anni.

Come funziona Bikini Off

Per utilizzare il “prodotto” è necessaria l’utenza di Telegram e, cercando Bikini Off nel motore di ricerca, si può iniziare una conversazione con l’intelligenza artificiale.

Seguendo le semplici istruzioni impartite, e caricando la foto che si vuole “denudare”, in circa 30 secondi si ottiene un risultato pari alla realtà.

Il servizio è a pagamento tramite criptovaluta, ma il bot mette a disposizione la modifica di una prima foto gratuita, e questo rende il tutto ancora più pericoloso.

Stiamo parlando di uno strumento facilmente accessibile e semplice da utilizzare, che rappresenta una grave violazione della privacy e dei diritti del singolo individuo.

Quali sono i rischi di Bikini Off

Accessibile solo tramite Telegram, il bot è un sistema automatico che crea dei deepfake, ossia immagini che fanno leva sull’intelligenza artificiale per dare a vita a elaborazioni del tutto credibili, spesso indistinguibili dalle originali.

Ma è soprattutto la semplicità d’uso che fa paura.

Basta inviare una foto al bot (una qualsiasi foto, anche tratta da Instagram o Facebook), e in pochi secondi si ottiene il risultato voluto: gli abiti non ci sono più, spariti. 

C’è poi l’aspetto della gratuità. 

La prima foto è di prova e non si paga. Per le successive si devono acquistare dei crediti pagabili in ogni modo: dalle carte di credito a PayPal, passando per le criptovalute e Google Pay.

Insomma, utilizzando Bikini Off si entra in un sottobosco oscuro e non raccomandabile, né per la mancanza di sicurezza informatica, né soprattutto questioni morali. 

Inutile specificare come questo bot possa risultare pericoloso e illegale, visto che apre a ricatti, episodi di cyberbullismo, o di revenge porn (sia pure manipolato, come nel caso dei deepfake).

Il caso dei ragazzi di Roma

A Roma, lo scorso aprile, due ragazzini di 14 anni, per gioco, hanno scattato una foto a una ragazza minorenne, “denudandola” con l’app Bikini Off.

Una bravata rischiosa, in quanto i giovani sono stati accusati di produzione e diffusione di materiale pedopornografico, dal momento che la vittima, non essendo informata della cosa, risultava estranea ai fatti.

Il GIP, tuttavia, considerando come siano stati due ragazzini incensurati gli autori della foto, ha dichiarato il non luogo a procedere per irrilevanza del fatto.

I due quattordicenni hanno poi cancellato l’immagine, e chiesto agli altri compagni a cui l’avevano inviata di fare lo stesso, impegnandosi con serietà a far sparire ogni traccia di ciò che avevano prodotto.

L’allarme del Garante dell’Infanzia

L’utilizzo di Bikini Off pare sia particolarmente diffuso nelle scuole medie, tanto che Monica Sansoni, il Garante dell’Infanzia della Regione Lazio, è intervenuta con preoccupazione, dichiarando che il suo ufficio riceve almeno due segnalazioni a settimana relative alla creazione e alla diffusione di immagini pornografiche.

Per questo ha deciso di organizzare incontri formativi nelle scuole, nelle parrocchie e nei gruppi sportivi, con il progetto “Genitori al centro, missione adolescenza”.

L’obiettivo è quello di sensibilizzare gli adulti sull’importanza di avere una buona conoscenza del mondo virtuale frequentato dai loro figli.

In un secondo momento verrà fatto un passo verso la formazione degli stessi adolescenti.

Bikini Off non è un caso isolato

ll fenomeno del deepfake ha radici profonde.

Nell’ultimo periodo, con gli sviluppi dell’intelligenza artificiale, è diventato ancora più semplice da utilizzare, e le immagini e i video che crea sono incredibilmente realistici. 

Bikini Off non è l’unico caso. 

Lo scorso marzo FaceMega, un’app che sostituisce facce e corpi utilizzando l’intelligenza artificiale, ha lanciato una campagna pubblicitaria provocatoria, non capendo forse che la sua sponsorizzazione è il miglior biglietto da visita per essere sradicata da ogni App Store.

Basta scaricare la foto del volto di una persona e applicarla sul corpo di qualsiasi altra, ed ecco servita la ricetta perfetta per mostrare una tecnologia performante usata nel peggiore dei modi possibili.

Il deepfake è diventata una tecnologia molto pericolosa, soprattutto per le ragazze.

Febbraio 2023 è stato il mese che ha registrato il maggior numero di deepfake prodotti e caricati sul web.

Il ruolo di insegnanti ed educatori

Per concludere, tornando al valore innegabile dell’intelligenza artificiale per l’apprendimento, se è vero che il suo impiego può essere di aiuto alla didattica, è altrettanto vero che una progettazione inadeguata o un uso poco attento dei sistemi di AI può provocare conseguenze dannose. 

Gli insegnanti, e gli educatori in generale, devono dare prova di consapevolezza, e verificare che i sistemi di intelligenza artificiale che utilizzano siano affidabili ed equi.

Devono inoltre garantire che la gestione dei dati relativi all’istruzione sia sicura, che protegga la riservatezza dei singoli, e che sia utilizzata per il bene comune.