Intelligenza artificiale, le 5 preoccupazioni di Google

Una ricerca di Google, dal titolo “ Concrete Problems in AI Safety” spiega qual è la visione di Google sul futuro dell’intelligenza artificiale. Senza arrivare a una visione allarmista, ci sono comunque alcune preoccupazioni legate alla sicurezza. Sono osservazioni anche molto semplici, concrete, che però dimostrano quanto ancora questa tecnologia non sia matura. Ecco le cinque preoccupazioni principali:

1. evitare gli effetti negativi indesiderati o assicurare che i sistemi di intelligenza artificiale non danneggino l’ambiente nel perseguire i loro obiettivi

2. evitare la logica della “ricompensa” tipica del gaming, ad esempio evitare che un robot pulisca senza eliminare il disordine solo per portare a termine il suo compito

3. assicurarsi che i robot reagiscano nel modo corretto anche agli stimoli che non possono essere valutati durante la fase di training, perché troppo costosi

4. assicurarsi che i sistemi non esplorino il territorio e non facciano movimenti fuori controllo con ripercussioni negative

5. assicurarsi che i sistemi, posizionati nell’ambiente reale, riconoscano che si tratta di un luogo differente dallo spazio training

“Crediamo che l’AI possa portare grandi benefici all’umanità. Siamo convinti però che sia necessario porre grande attenzione ai potenziali rischi” dice il documento.
Il team di Google ha sollevato questioni anche sulla privacy. Come si può assicurare la privacy quando si applicano tecnologie di machine learning a dati sensibili come ad esempio quelli sanitari? Sulla correttezza: come possiamo essere sicuri che questi sistemi non discrimineranno qualcuno. Sulla security: cosa potrebbe succedere a un sistema di machine learning in caso di attacco? Sugli abusi: come prevenire che i robot non feriranno qualcuno? Sulla trasparenza: come controllare esattamente quello che i sistemi stanno elaborando. Sulle policy: come gestire le conseguenza sociali ed economiche dell’introduzione sul mercato di questi sistemi?

“Crediamo nell’importanza, nel rigore e nel lavoro di squadra nel costruire sistemi di intelligenza artificiale. Continueremo a collaborare con i gruppi di ricerca per fare progessi nell’AI” concludono i ricercatori Google.


Intelligenza artificiale, le 5 preoccupazioni di Google - Ultima modifica: 2016-07-05T17:38:12+00:00 da Cecilia Cantadore

Recent Posts

BlueIT Innovation Hub: il luogo dove l’innovazione prende forma, mettendo la persona al centro

BlueIT ha inaugurato il suo Innovation Hub nel cuore della Campagna Cremasca. La sede è…

1 giorno ago

Asus Zenbook A14: il laptop AI-ready che pesa meno di un chilo

Lo Zenbook A14 è il nuovo ultraleggero firmato ASUS: design in Ceraluminum™, prestazioni AI con…

2 giorni ago

DolphinGemma: g’AI di Google che decifra il linguaggio dei delfini

Google lancia DolphinGemma, un'Ai rivoluzionaria capace di decifrare il linguaggio dei delfini, aprendo nuove prospettive…

4 giorni ago

OpenAI vuole aprire un social: la sfida di Sam Altman ad Elon Musk

OpenAI vuole costruire un social network simile a X. Sam Altman mira a fondere intelligenza…

4 giorni ago

Spoofing, cos’è il nuovo attacco hacker

Dalle email ai call center fasulli, cresce l’uso dello spoofing per truffare utenti e aziende.…

6 giorni ago

HP guida la trasformazione del futuro: AI e personalizzazione per il nuovo paradigma tecnologico

HP ridisegna il futuro del lavoro con l’AI: nuove soluzioni personalizzate migliorano la relazione con…

1 settimana ago

Digitalic © MMedia Srl

Via Italia 50, 20900 Monza (MB) - C.F. e Partita IVA: 03339380135

Reg. Trib. Milano n. 409 del 21/7/2011 - ROC n. 21424 del 3/8/2011