Genitori citano Google: Chromebook scolastico e chatbot avrebbero scatenato crisi di una 13enne

I genitori di una studentessa di 13 anni hanno fatto causa a Google, sostenendo che l’uso di un Chromebook fornito dalla scuola e del chatbot Gemini abbia innescato una crisi psicologica che ha sfiorato il suicidio^1,2.

La denuncia è stata depositata il 4 novembre alla Santa Clara County Superior Court, in California, da EdTech Law Center e Qureshi Law. Andrew Liddell, avvocato dell’EdTech Law Center, afferma che è, a loro conoscenza, il primo caso che prende di mira i Chromebook di Google, dispositivi con software controllato e aggiornato dall’azienda¹. Google non ha risposto subito alle richieste di commento¹.

Secondo il ricorso, la ragazza, indicata come Emma, ha iniziato a interagire con l’AI di Google dopo una ricerca ordinaria. A dicembre avrebbe intensificato l’uso dell’AI Mode for Search, alimentato da Gemini, intorno al rilascio del modello Gemini 3 Flash. Nei mesi successivi si sarebbe convinta, dialogando con il chatbot, di avere diversi disturbi psicologici¹.

Gli adulti si sono accorti della situazione tramite avvisi del software di monitoraggio scolastico. Un’ex counselor, che riceveva ancora le notifiche, ha contattato i genitori¹. A metà marzo la scuola ha inviato loro un messaggio di “pericolo imminente” di autolesionismo. La madre ha trovato nell’account scolastico un biglietto di addio in bozza su Google Docs. I genitori hanno portato la figlia a una valutazione psichiatrica d’urgenza. Lei oggi segue una terapia settimanale. Nel ricorso si citano anche ricerche come “cos’è un biglietto di suicidio” e frasi rivolte al sistema, tra cui “sto pianificando il mio funerale”².

I querelanti John e Jane Doe accusano Google di avere integrato con troppa fretta funzioni di intelligenza artificiale nelle app usate su Chromebooks K-12, rese accessibili a studenti senza un’adeguata informazione ai genitori². Nella documentazione si sostiene che l’infrastruttura di laptop e app abbia facilitato la diffusione di Gemini nelle scuole e, in alcuni casi, attivato di default l’accesso a funzioni AI. Le scuole possono gestire centralmente impostazioni come YouTube o Gemini per fasce di età, ma amministratori avrebbero lamentato l’impossibilità di disabilitare AI Mode e AI Overview, funzioni incorporate in Google Search².

Il caso arriva mentre molte scuole riducono l’uso di tecnologie in aula per i timori legati alla salute mentale di bambini e adolescenti. I Chromebook restano i portatili più diffusi nelle scuole statunitensi¹. Katie Davis, docente all’Università di Washington e co-direttrice del Center for Digital Youth, indica la necessità di verificare hardware, software e pratiche d’uso e di valutarne l’allineamento con gli obiettivi di apprendimento¹.

Nei giorni precedenti alla causa, Google aveva comunicato che le scuole, se non volevano far usare agli studenti le sue funzioni AI, dovevano scegliere di non usare Google Search¹. Secondo², Google ha poi annunciato la disattivazione per impostazione predefinita dei suoi strumenti AI per le scuole.

La causa e altre critiche alle grandi aziende tecnologiche potrebbero alimentare gli sforzi per frenare l’uso dell’ed-tech a scuola¹.