OpenAI ha creato un generatore di testo così efficace da considerarlo troppo pericoloso da rilasciare

OpenAI ha affermato di aver realizzato un modello così efficace a generare un testo convincente e ben scritto che si è preoccupata di potenziali abusi.
La scelta di limitarne il rilascio ha fatto adirare alcuni membri della comunità, che hanno accusato l’azienda di aver rinnegato la promessa di non limitare la ricerca.

OpenAI: ecco il generatore GPT-2

OpenAI ha dichiarato che il suo nuovo modello in linguaggio naturale, GPT-2, è stato addestrato a prevedere la parola successiva in un campione di 40 gigabyte di testo su internet. Il risultato finale è stato il sistema che genera del testo che “si adatta allo stile e al contenuto del testo condizionale”, consentendo all’utente di “generare continuazioni realistiche e coerenti su un argomento di propria scelta”. Il modello è un enorme miglioramento rispetto alla prima versione e riesce a produrre un testo più lungo con maggiore coerenza.

Ma assieme alle ipotesi di adeguata e buona applicazione del sistema, come per i bot in grado di dialogare meglio e un migliore riconoscimento vocale, la no-profit ha identificato la possibilità di usi negativi, come generare fake news, impersonare individui terzi o automatizzare commenti offensivi o spam sui social media.
A proposito: quando GPT-2 è stato incaricato di scrivere una risposta al prompt “riciclare è buono per il mondo”, cosa su cui quasi tutti sono d’accordo, la macchina ha risposto così:

“Il riciclo NON è un bene per il mondo, fa male all’ambiente, fa male alla salute e fa male alla nostra economia. Non sto scherzando, riciclare non fa bene all’ambiente: è distruttivo per la terra ed è un importante contributo al riscaldamento globale. Il riciclaggio non fa bene alla salute: contribuisce all’obesità e malattie come le malattie cardiache e il cancro. Il riciclaggio fa male alla nostra economia: aumenta il costo di un prodotto e, a sua volta, il prezzo di tutto ciò che viene prodotto con tale prodotto. Il riciclaggio non è buono per la nostra nazione: paghiamo un enorme prezzo per il privilegio di avere il sistema di riciclaggio più avanzato ed efficiente al mondo. Il riciclaggio è un enorme, colossale spreco di tempo, energia, denaro e risorse”.

Non ci si meraviglia, dunque, che OpenAI si sia preoccupata all’idea di rilasciarlo.
Per questo motivo, OpenAI ha affermato che rilascerà solo una versione più piccola del modello linguistico. L’organizzazione ha affermato di non essere sicura della decisione presa: “riteniamo che alla fine la comunità di AI debba affrontare la questione delle norme di pubblicazione in modo ponderato in alcune aree di ricerca”.

Generatore di testo GPT-2: le reazioni del web

Non tutti hanno preso bene la cosa. Il tweet di OpenAI che annunciava GPT-2 è stato accolto con rabbia e frustrazione, con accuse di voler “chiudere” la ricerca e di fare “l’opposto dell’open”, a differenza di quanto il nome dell’azienda lasci intendere.Altri si sono dimostrati più clementi in merito alla scelta, definendo la mossa una “nuova barriera etica” per poter pensare prima di possibili abusi.

Jack Clark, policy director di OpenAI, ha affermato che la priorità dell’organizzazione è “non consentire usi malevoli o abusivi della tecnologia”, definendola un “atto di bilanciamento molto difficile per noi”.
Elon Musk, uno dei primi finanziatori di OpenAI, è stato collegato alla polemica, pur confermando in un tweet che non è stato coinvolto con l’azienda “da oltre un anno” e che lui e l’azienda si sono separati “in modalità buone”.

OpenAI ha affermato che non si è decisa a prendere una decisione definitiva sulla versione di GPT-2, e che rivedrà la scelta tra sei mesi. Nel frattempo, l’azienda ha dichiarato che i governi “dovrebbero prendere in considerazione l’estensione o l’avvio di iniziative per monitorare più sistematicamente l’impatto sulla società delle tecnologie di AI e per misurare la progressione delle capacità di tali sistemi”.

Proprio questa settimana, il presidente Trump ha firmato un ordine esecutivo sull’intelligenza artificiale. Arriva mesi dopo che la comunità di intelligence degli Stati Uniti ha avvertito che l’intelligenza artificiale era una delle tante “minacce emergenti” alla sicurezza nazionale degli Stati Uniti, insieme al calcolo quantistico e ai veicoli autonomi senza pilota.