Una ricerca di Google, dal titolo “ Concrete Problems in AI Safety” spiega qual è la visione di Google sul futuro dell’intelligenza artificiale. Senza arrivare a una visione allarmista, ci sono comunque alcune preoccupazioni legate alla sicurezza. Sono osservazioni anche molto semplici, concrete, che però dimostrano quanto ancora questa tecnologia non sia matura. Ecco le cinque preoccupazioni principali:
1. evitare gli effetti negativi indesiderati o assicurare che i sistemi di intelligenza artificiale non danneggino l’ambiente nel perseguire i loro obiettivi
2. evitare la logica della “ricompensa” tipica del gaming, ad esempio evitare che un robot pulisca senza eliminare il disordine solo per portare a termine il suo compito
3. assicurarsi che i robot reagiscano nel modo corretto anche agli stimoli che non possono essere valutati durante la fase di training, perché troppo costosi
4. assicurarsi che i sistemi non esplorino il territorio e non facciano movimenti fuori controllo con ripercussioni negative
5. assicurarsi che i sistemi, posizionati nell’ambiente reale, riconoscano che si tratta di un luogo differente dallo spazio training
“Crediamo che l’AI possa portare grandi benefici all’umanità. Siamo convinti però che sia necessario porre grande attenzione ai potenziali rischi” dice il documento.
Il team di Google ha sollevato questioni anche sulla privacy. Come si può assicurare la privacy quando si applicano tecnologie di machine learning a dati sensibili come ad esempio quelli sanitari? Sulla correttezza: come possiamo essere sicuri che questi sistemi non discrimineranno qualcuno. Sulla security: cosa potrebbe succedere a un sistema di machine learning in caso di attacco? Sugli abusi: come prevenire che i robot non feriranno qualcuno? Sulla trasparenza: come controllare esattamente quello che i sistemi stanno elaborando. Sulle policy: come gestire le conseguenza sociali ed economiche dell’introduzione sul mercato di questi sistemi?
“Crediamo nell’importanza, nel rigore e nel lavoro di squadra nel costruire sistemi di intelligenza artificiale. Continueremo a collaborare con i gruppi di ricerca per fare progessi nell’AI” concludono i ricercatori Google.
Scopri tutte le novità di iOS 18.4, l’aggiornamento che rivoluziona l’esperienza su iPhone con AI,…
Le batterie nucleari innovative promettono 50 anni di autonomia senza ricarica. Scopri come funziona, i…
Il nuovo generatore di immagini di ChatGPT con la nuova funzione di modifica immagini rivoluziona…
Scopri strategie, trend e dati esclusivi sull’Influencer Marketing nel beauty: un webinar gratuito per ottimizzare…
Agenti AI OpenAI, Microsoft e Salesforce puntano su sistemi autonomi per trasformare il lavoro, ma…
La fine del supporto a Windows 10 non è solo un aggiornamento di calendario: è…
Via Italia 50, 20900 Monza (MB) - C.F. e Partita IVA: 03339380135
Reg. Trib. Milano n. 409 del 21/7/2011 - ROC n. 21424 del 3/8/2011