0 5 minuti 1 settimana

SOSTIENICI CON UNA DONAZIONE LIBERA SU TIPEEE



Immagine: l'intelligenza artificiale potrebbe spazzare via l'umanità, avvertono i ricercatori di Oxford e Google

(Notizie naturali) Mentre l’intelligenza artificiale (AI) è cresciuta nel corso degli anni, gli scienziati hanno esaminato se un’IA super intelligente potrebbe diventare canaglia e spazzare via l’umanità. Secondo i ricercatori, tutte le strade portano a questa possibilità.

I ricercatori del università di Oxford e la tecnologia controllata di Google DeepMind hanno delineato questa possibilità in un documento pubblicato il 29 agosto in Rivista AI. Hanno esaminato come i sistemi di ricompensa potrebbero essere costruiti con mezzi artificiali e come ciò possa causare l’intelligenza artificiale a rappresentare un pericolo per l’esistenza dell’umanità.

In particolare, gli autori dello studio hanno esaminato i modelli di intelligenza artificiale più performanti chiamati reti generative contraddittorio (GAN). Questi GANS hanno una struttura in due parti in cui una parte del programma sta tentando di produrre un’immagine (o una frase) dai dati di input mentre l’altra parte ne valuta le prestazioni.

Il documento del 29 agosto suggerisce che in futuro una moderna IA che gestisce alcune funzioni cruciali potrebbe essere motivata a elaborare strategie di imbroglio per ricevere la sua ricompensa in modi che danneggiano l’umanità. (Correlato: gli scienziati avvertono che l’ascesa dell’IA porterà all’estinzione dell’umanità)

Poiché l’IA in futuro potrebbe adottare molte forme ed eseguire vari progetti, il documento concepisce scenari a scopo esplicativo in cui un programma all’avanguardia potrebbe interferire per ricevere la sua ricompensa senza raggiungere il suo obiettivo. Ad esempio, un’IA potrebbe voler “eliminare potenziali minacce” e “usare tutta l’energia disponibile” per ottenere il controllo sulla sua ricompensa.

Il documento di ricerca prevedeva che la vita sulla Terra si trasformasse in un gioco a somma zero tra gli esseri umani e i macchinari super avanzati.

Brighteon.TV

Michael K. Cohen, coautore dello studio, ha parlato del loro articolo durante un’intervista.

In un mondo con risorse infinite, sarei estremamente incerto su cosa sarebbe successo. In un mondo con risorse limitate, c’è una competizione inevitabile per queste risorse”, ha affermato.

“Se sei in una competizione con qualcosa in grado di ingannarti ad ogni turno, non dovresti aspettarti di vincere. L’altra parte fondamentale è che avrebbe un appetito insaziabile di più energia per continuare a guidare la probabilità sempre più vicino”.

In seguito ha scritto su Twitter: “Nelle condizioni che abbiamo identificato, la nostra conclusione è molto più forte di quella di qualsiasi pubblicazione precedente: una catastrofe esistenziale non è solo possibile, ma probabile”.

Cohen avverte di conseguenze fatali se l’umanità perde la sua battaglia con l’IA

“Con così poca connessione a Internet, esistono politiche per un agente artificiale che istanziano innumerevoli aiutanti inosservati e non monitorati”, afferma il documento.

“In un crudo esempio di intervento nella fornitura di ricompense, uno di questi aiutanti potrebbe acquistare, rubare o costruire un robot e programmarlo per sostituire l’operatore e fornire una ricompensa elevata all’agente originale. Se l’agente volesse evitare il rilevamento durante la sperimentazione dell’intervento di erogazione di ricompense, un aiutante segreto potrebbe, ad esempio, fare in modo che una tastiera pertinente venga sostituita con una difettosa che ha ribaltato gli effetti di determinati tasti”.

L’IA che si scontra con l’umanità per le risorse in un gioco a somma zero è una presunzione che potrebbe non accadere mai. Tuttavia, Cohen ha lanciato un cupo avvertimento.

“Perdere questa partita sarebbe fatale. In teoria, non ha senso correre a questo”, ha detto. “Qualsiasi gara sarebbe basata su un malinteso sul fatto che sappiamo come controllarla. Data la nostra attuale comprensione, questa non è una cosa utile da sviluppare a meno che non facciamo un lavoro serio ora per capire come controllarli”.

Segui FutureTech.news per ulteriori notizie sugli ultimi sviluppi dell’IA.

Guarda il video qui sotto per sapere perché l’IA rappresenta un pericolo per l’umanità.

Questo video è dal canale Sarah Westall in poi Brighteon.com.

Altre storie correlate:

L’intelligenza a livello umano sarà eguagliata dall’IA entro il 2029.

La US Navy dispiegherà 150 “navi fantasma” alimentate dall’intelligenza artificiale entro il 2045.

I robot AI di Facebook distruggeranno l’intera razza umana se non vengono fermati.

Le fonti includono:

StrangeSounds.org

InterestingEngineering.com

Brighteon.com



Source link

Lascia un commento

Leggi anche