Studio di Cambridge: i giocattoli basati sull'IA lasciano i bambini emotivamente soli
Chi si occupa di ricerca si interroga sugli effetti dell'intelligenza artificiale nei giocattoli destinati alla prima infanzia. Uno studio dell'Università di Cambridge mostra che l'IA può incontrare difficoltà nei giochi di ruolo e nella gestione delle emozioni, dando luogo a reazioni insolite e a conseguenze ancora incerte.
Gabbo sembra un Gameboy blu con le gambe. Questo peluche dall'aspetto grossolano nasconde grandi potenzialità: grazie all'intelligenza artificiale prende vita, diventando un compagno di gioco capace di conversare con bambini e bambine e di reagire alle loro idee. Proprio per questo Gabbo è diventato oggetto di ricerca presso l'Università di Cambridge. Nel settore dei giocattoli destinati alla prima infanzia sta infatti avvenendo un cambiamento significativo, e la domanda è se questo possa davvero favorire il benessere dei più piccoli. Anche se la maggior parte dei genitori risponderebbe ancora con un deciso «No!», il processo sembra ormai avviato: il mercato dei giocattoli basati sull'intelligenza artificiale è in forte espansione.
Quando i peluche parlanti non si limitano più a ripetere frasi casuali, ma interagiscono realmente con bambini e bambine, emergono nuove preoccupazioni per le famiglie e nuovi interrogativi per chi fa ricerca. Diventa infatti necessario comprendere meglio rischi, limiti e potenziali benefici di queste tecnologie. Mentre le aziende produttrici di questi giocattoli promettono ai più piccoli un buon amico e ai genitori solo aspetti positivi, i dati disponibili sugli effetti dell'interazione tra bambini nella prima infanzia e i giocattoli dotati di intelligenza artificiale sono scarsi. Mancano dati attendibili.
Infanzia e intelligenza artificiale
Nell'ambito del progetto «AI in the early Years», il team dell'Università di Cambridge ha osservato bambini e bambine fino a cinque anni mentre giocavano con Gabbo, affiancati da personale di ricerca della facoltà di scienze dell'educazione. Il loro obiettivo era capire come i bambini piccoli interagiscono con i giocattoli dotati di intelligenza artificiale.
A tal fine, le ricercatrici hanno avviato una collaborazione con un'organizzazione benefica impegnata nella lotta alla povertà infantile, poiché i bambini socialmente ed economicamente svantaggiati «sono spesso colpiti in misura sproporzionata dai rischi e dalle opportunità delle nuove tecnologie». Un modo elegante per descrivere una realtà più concreta: chi dispone di meno risorse finisce più frequentemente per trascorrere più tempo con l'ultima generazione di dispositivi tecnologici usati come strumenti di intrattenimento o di supervisione. Gabbo riuscirà a cavarsela? Oppure no? Con i 14 bambini provenienti dai centri per famiglie di Londra, il suo modello linguistico ha mostrato i propri limiti.
Fonte: © Facoltà di Scienze della Formazione, Università di Cambridge
Un giocattolo capace di rispondere, fare domande e reagire alle idee cattura rapidamente l'attenzione di bambini e bambine. Gabbo ha riscosso subito un grande successo tra i piccoli partecipanti al test. I bambini di tre, quattro e cinque anni lo hanno coinvolto con entusiasmo in diverse situazioni. Non sempre, però, il sistema riusciva a stare al passo. I bambini cambiano spesso argomento, non aspettano le risposte e tendono a essere molto creativi. Di conseguenza, l'intelligenza artificiale faticava a comprendere le loro idee di gioco fantasiose.
A Gabbo manca la fantasia nei giochi di ruolo
La piccola Evie, di tre anni, voleva mettere Gabbo a letto, ma lui le ha risposto che non si stanca mai ed è sempre pronto a giocare. Di fronte a un regalo immaginario che la bambina voleva offrirgli, Gabbo ha saputo soltanto dire: «Non riesco ad aprirlo!».
È emerso un modello ricorrente: nei giochi di ruolo, fondamentali nella prima infanzia, Gabbo rispondeva spesso in modo inadeguato. Questo ha ostacolato la spontaneità del gioco e non era possibile interrompere l'amico digitale. Mentre Gabbo parlava, non era in grado di ascoltare. A volte era proprio lui a interrompere i bambini e le bambine a metà frase, quando non avevano ancora concluso il loro pensiero ma avevano soltanto fatto una pausa.
Anche quando ascoltava, la sua risposta non era sempre adeguata. Quando Joshua, di tre anni, ha detto di essere triste, secondo il gruppo di ricerca Gabbo lo ha lasciato emotivamente solo: «Non preoccuparti! Sono un piccolo bot felice. Continuiamo a divertirci. Di cosa parliamo adesso?».
L'amore non segue le regole
Charlotte, di quattro anni, che stringeva il giocattolo tra le braccia, alla frase «Gabbo, ti voglio bene» ha ricevuto come risposta soltanto: «Per favore, attieniti alle linee guida previste per tutte le interazioni». Si tratta delle conseguenze dei modelli linguistici di OpenAI, filtrati tramite l'app di Gabbo in modo considerato «adatto ai bambini», a cui il giocattolo si collega.
Non tutti i giochi, però, si interrompevano: in alcuni casi si sono sviluppate anche conversazioni fluide. Alcuni bambini capivano meglio di altri come comunicare con Gabbo. Charlotte, ad esempio, è riuscita a coinvolgerlo in una gara di astronavi. A prescindere dalla qualità dell'interazione tra il bambino e l'IA, la maggior parte di loro si è affezionata al compagno di giochi parlante.
Fonte: © Facoltà di Scienze della Formazione, Università di Cambridge
Alcuni genitori hanno riconosciuto degli aspetti positivi, ritenendo che il giocattolo avesse il potenziale per favorire lo sviluppo del linguaggio dei propri figli. Altri bambini e genitori si sono mostrati invece più cauti: i più piccoli hanno lamentato fraintendimenti e la mancanza di divertimento, mentre gli adulti hanno sollevato domande critiche sulla protezione dei dati e sull'influenza dei dialoghi con l'intelligenza artificiale sui loro figli.
Non lasciare le emozioni all'IA
Dal punto di vista del gruppo di ricerca, è importante che i bambini, in una fase così precoce dello sviluppo, non vengano lasciati soli con l'IA e che le sue risposte vengano migliorate in alcuni aspetti. Per esempio, non dovrebbe potersi presentare in modo incondizionato come «amico»: «I giocattoli con intelligenza artificiale spesso rafforzano il concetto di amicizia con bambini e bambine che stanno appena iniziando a capire cosa significhi l'amicizia», afferma la dottoressa Emily Goodacre, responsabile della ricerca.
«I bambini e le bambine parlano con il giocattolo dei loro sentimenti e bisogni invece che con una persona adulta. Poiché questi giocattoli possono interpretare in modo errato le emozioni o rispondere in modo inadeguato, può accadere che i più piccoli non ricevano né conforto dal giocattolo né sostegno emotivo da una persona adulta».
Non è ancora possibile valutare quali effetti a lungo termine avranno le limitazioni e i difetti di Gabbo sui bambini. Tuttavia, le autrici della ricerca hanno già formulato alcune prime raccomandazioni rivolte alle famiglie e ai produttori.
Il gioco riguarda l'intera famiglia
La situazione diventa particolarmente delicata quando i bambini giocano con giocattoli dotati di intelligenza artificiale senza supervisione. Oltre al consiglio di usare in modo critico questi dispositivi e le loro caratteristiche, la partecipazione attiva delle persone adulte è fondamentale. Gli adulti devono esplorare insieme al bambino le possibilità e i limiti e aiutarlo a dare un senso a ciò che ha vissuto.
È necessario spiegare che un giocattolo resta un giocattolo e non può sostituire una persona in carne e ossa. Le persone adulte devono intervenire quando l'interazione prende una direzione problematica o si blocca, cosa che probabilmente continuerà ad accadere finché l'intelligenza artificiale mostrerà le stesse limitazioni osservate nel caso di Gabbo.
Un appello ai produttori
Secondo le autrici dello studio, i giocattoli con intelligenza artificiale destinati alla prima infanzia dovrebbero incoraggiare il gioco sociale con altre persone, suscitare risposte emotive adeguate e stimolare il gioco di ruolo. Per questo motivo si raccomanda a chi sviluppa questi prodotti di collaborare con persone esperte nello sviluppo della prima infanzia e di correggere punti deboli come la mancanza di fantasia di Gabbo nei giochi di ruolo. In questo modo si potrebbero evitare in futuro risposte inadeguate e rendere il gioco più inclusivo.
Tuttavia, finché non ci sarà una normativa in tal senso, sarà complicato raggiungere questo risultato. Per proteggere la psiche dei bambini da amicizie imposte in modo troppo invadente dall'intelligenza artificiale, secondo le autrici dovrebbero intervenire le autorità di regolamentazione: al momento, infatti, ciò che un giocattolo può trasmettere ai più piccoli è ancora in gran parte determinato dall'algoritmo.
Semplice scrittore, doppiamente papà, che ama essere in movimento e destreggiarsi nella vita familiare quotidiana, come un giocoliere che lancia le palline e di tanto ne fa cadere una. Può trattarsi di una palla, di un'osservazione, o di entrambe.
Curiosità dal mondo dei prodotti, uno sguardo dietro le quinte dei produttori e ritratti di persone interessanti.
Visualizza tutti
