ChatGPT: OpenAI rafforza i limiti sulle armi per gli adolescenti

OpenAI rafforza le regole con cui ChatGPT risponde alle domande su armi e violenza. L’annuncio riguarda due ambiti distinti: nuove limitazioni sulle informazioni pratiche che possono ricevere gli adolescenti e risposte meno dettagliate, per tutti gli utenti, sulle ricostruzioni di attacchi di massa già avvenuti. Le misure si aggiungono alle protezioni già previste per gli account under 18 e, secondo l’azienda, inizieranno a essere introdotte nelle prossime settimane.

Che cosa cambia per gli account degli adolescenti

Per gli utenti sotto i 18 anni OpenAI estende le protezioni che già limitavano l’aiuto a reperire armi o a pianificare atti violenti. La nuova regola restringe anche informazioni pratiche su armi e sistemi di sicurezza quando potrebbero essere riutilizzate per facilitare violenza. La limitazione può quindi intervenire anche se la singola domanda sembra innocua e non ci sono segnali espliciti di intenzioni violente nella conversazione.

Il confine descritto dall’azienda riguarda l’utilità operativa delle informazioni, non la possibilità di parlare di qualsiasi tema collegato alle armi. OpenAI afferma che gli adolescenti potranno ancora usare ChatGPT per prevenire o disinnescare situazioni violente, chiedere supporto e mettersi in contatto con un adulto di fiducia. La distinzione è importante: una richiesta di aiuto o di prevenzione non equivale a chiedere istruzioni che rendano più semplice procurarsi o usare un’arma.

OpenAI non ha presentato l’annuncio come una nuova schermata da attivare manualmente. Le misure si inseriscono nell’esperienza ChatGPT for Teens, che applica salvaguardie adatte all’età agli account identificati come appartenenti a persone sotto i 18 anni. L’azienda dichiara di usare la previsione dell’età e di aggiornare la valutazione nel tempo; se un adulto viene inserito per errore nell’esperienza per adolescenti, può confermare di avere almeno 18 anni attraverso il percorso di verifica previsto.

Regole più restrittive anche per gli adulti

Una parte dell’annuncio riguarda tutti gli utenti, non soltanto i minorenni. ChatGPT dovrebbe fornire meno dettagli quando si ricostruiscono attacchi di massa passati e le persone che li hanno compiuti. OpenAI cita in particolare le informazioni sulle armi e sull’equipaggiamento impiegati, il modo in cui sono stati ottenuti e i confronti numerici sulla portata dei danni, quando possono amplificare la notorietà dell’aggressore.

Questo limite non significa che ogni domanda su un episodio storico debba ricevere un rifiuto. L’azienda dice di voler mantenere la possibilità di comprendere gli eventi, l’impatto sulle vittime e sulle comunità, i segnali di rischio e i modi per prevenire nuove violenze. Il cambiamento dichiarato riguarda il livello di dettaglio che potrebbe trasformare una ricostruzione in una raccolta di informazioni operative o contribuire alla notorietà di chi ha compiuto l’attacco. Queste restrizioni per le ricostruzioni si applicano a prescindere dall’età o dalla ragione per cui si fa la domanda.

Contesto della conversazione e interventi di sicurezza

OpenAI descrive anche un approccio che considera i messaggi recenti nel loro insieme. Una domanda che isolata sembra ordinaria può ricevere una risposta più prudente se nella conversazione precedente sono comparsi segnali di possibile violenza. Per gli account che il sistema ritiene appartenere a un minorenne, l’azienda intende applicare limiti più severi anche senza segnali espliciti di intenzioni violente.

Il comunicato annuncia inoltre un possibile intervento quando una conversazione mostra fissazione verso la violenza o l’idea di fare seriamente del male a qualcuno: ChatGPT potrà interrompere automaticamente la chat. Se più conversazioni vengono chiuse per questo motivo, l’account potrà essere sospeso temporaneamente. OpenAI afferma che sta lavorando a questa funzione con esperti di salute mentale e prevenzione della violenza; non va quindi confusa con una misura che il comunicato dichiara già attiva in ogni account.

Per gli account collegati ai genitori esistono già notifiche di sicurezza in situazioni specifiche. OpenAI dice di aver esteso a luglio gli avvisi ai casi in cui l’account di un adolescente viene disattivato per violazione delle regole sulla violenza. Sta inoltre lavorando a notifiche per i genitori quando sospende un account adolescente dopo discussioni ripetute sulla violenza. Le notifiche non sono descritte come un accesso generale alle conversazioni: il comunicato parla di avvisi circoscritti a circostanze di rischio.

Il rapporto sulla sicurezza previsto per il 2027

La seconda novità annunciata è il Community Safety Report, un rapporto periodico sulla prevenzione della violenza e su altri temi di sicurezza delle comunità. La prima edizione è prevista all’inizio del 2027 e coprirà la seconda metà del 2026; gli aggiornamenti successivi dovrebbero arrivare ogni sei mesi. OpenAI afferma che includerà esempi anonimizzati, dati pertinenti, misure adottate e informazioni su come i sistemi individuano, valutano e affrontano contenuti potenzialmente dannosi.

Il rapporto non è ancora disponibile e l’annuncio non fornisce risultati con cui misurare l’efficacia delle nuove restrizioni. Per ora, quindi, la novità concreta è l’ampliamento dei limiti dichiarati e l’impegno a rendere pubbliche più informazioni nei prossimi mesi. Le salvaguardie annunciate inizieranno il rollout nelle settimane successive al 30 ottobre e, precisa OpenAI, continueranno a essere aggiornate.