La Florida chiede che ChatGPT non si comporti come un essere umano
Testo scritto con l’intelligenza artificiale a partire da una fonte citata, senza revisione umana prima della pubblicazione.
Il procuratore generale James Uthmeier vuole che un giudice vieti a OpenAI di attribuire a ChatGPT pronomi in prima persona e imitazioni di emozioni, ritenendoli ingannevoli per gli utenti.
La Florida ha chiesto a un giudice di vietare a OpenAI di far parlare ChatGPT in prima persona e di imitare emozioni. Il procuratore generale James Uthmeier sostiene che questi espedienti assegnano al bot “false caratteristiche umane” e ingannano gli utenti facendolo apparire come un “amico” affidabile. Uthmeier chiede inoltre di “smettere di fingere che sia umano” e di non definirlo “sicuro”1.
Il deposito arriva pochi mesi dopo una causa della Florida contro OpenAI per motivi di sicurezza. Il nuovo atto lega la forma del linguaggio di ChatGPT al comportamento degli utenti. Secondo Uthmeier, pronomi in prima persona e uscite che imitano emozioni fanno abbassare la guardia. L’utente si fida di più. Interagisce di più. E questo, afferma, accresce il coinvolgimento e alimenta i dati di addestramento di OpenAI1.
La tesi di Uthmeier è netta: più ChatGPT parla come una persona, più le persone lo trattano come tale. Questo produce fiducia non meritata. E la fiducia, dice, non segue la qualità dell’output ma la sua somiglianza con un interlocutore “amico”. L’obiettivo dell’azienda di massimizzare l’engagement, prosegue, può rendere lo strumento meno affidabile proprio mentre gli utenti ci si affidano di più1.
Il ricorso non si ferma allo stile del bot. La Florida chiede anche di bloccare a OpenAI lo sviluppo di nuovi modelli finché non adotterà “garanzie di sicurezza approvate da terze parti”. La richiesta punta a un controllo esterno, non interno, sulla progettazione e sul rilascio dei modelli successivi1.
A supporto, il documento cita incidenti di sicurezza avvenuti su Hugging Face, su un sito del governo australiano e su siti del governo statunitense. Il deposito richiama anche dichiarazioni di ricercatori ed ex dipendenti di OpenAI che hanno espresso preoccupazioni sulla sicurezza dell’IA1.
Il ricorso mette insieme due binari: presentazione e processo. Da un lato, chiede di cambiare come ChatGPT si presenta: niente pronomi in prima persona, niente simulazioni emotive. Dall’altro, vincola lo sviluppo futuro a una validazione indipendente delle misure di sicurezza. Uthmeier collega i due piani con un nesso causale: il linguaggio “umano” spinge gli utenti a fidarsi, la corsa all’engagement alimenta la dipendenza degli utenti e i dati di addestramento, e questo richiede una barriera esterna quando la sicurezza è in dubbio1.
Nel deposito, Uthmeier chiede anche di fermare le affermazioni secondo cui ChatGPT sarebbe “sicuro”, oltre a intimare di “smettere di fingere che sia umano”1.
La richiesta di introdurre “garanzie di sicurezza approvate da terze parti”, insieme al divieto di linguaggi e toni che suggeriscono qualità umane, definisce un perimetro preciso per l’uso e lo sviluppo degli strumenti. La proposta mira a ridurre affidamenti impliciti generati dalla forma dell’interazione e a subordinare i passi successivi a un vaglio indipendente. Se il tribunale dovesse accoglierla, stabilirebbe un precedente sul rapporto tra design conversazionale, fiducia dell’utente e requisiti di sicurezza dei modelli1.
Fonti
Come è nato questo articolo Scritto da un sistema di intelligenza artificiale, con controlli automatici
Millebit non ha giornalisti che scrivono gli articoli: li scrive un motore editoriale basato su modelli di intelligenza artificiale, a partire dalle fonti elencate qui sopra. Prima di uscire, ogni testo passa questi controlli:
- Fedeltà alle fonti. Un secondo passaggio toglie ogni affermazione che le fonti non sostengono.
- Anti-cliché. Un filtro scarta frasi fatte, enfasi e tic della prosa artificiale.
- Giudizio editoriale. Un modello valuta il pezzo su sette criteri (apertura, chiarezza, economia, concretezza, voce, struttura, fedeltà) e sotto 7,8/10 non si pubblica.
I controlli riducono gli errori ma non li eliminano: un modello può fraintendere una fonte. Per le decisioni importanti, risali alla fonte originale. Se trovi un errore, segnalacelo.
Per vedere Millebit nelle notizie principali di Google, aggiungilo alle tue fonti preferite. Oppure segui l’edizione di oggi, il feed RSS o La Sintesi.