Il progresso dell'intelligenza artificiale potrebbe portare alla fine dell'esistenza umana così come la conosciamo, secondo una brevissima lettera aperta rilasciata ieri (30 maggio) e firmata da grandi dirigenti tecnologici, scienziati di intelligenza artificiale, accademici e, un po' incongruamente, il musicista Grimes .
“Mitigare i rischi di estinzione da A.I. dovrebbe essere una priorità globale insieme ad altri rischi su scala sociale come le pandemie e la guerra nucleare”, il corto dichiarazione legge. È stato pubblicato dal Center for A.I. Safety (CAIS), un'organizzazione senza scopo di lucro incentrata sulla protezione dell'implementazione della tecnologia.
Il breve avvertimento, che non includeva informazioni contestuali riguardo alla sua grave supposizione, segue due recenti lettere aperte che alludevano a potenziali pericoli posti da A.I. ricerca e implementazione.
A marzo, più di 1.000 esperti del settore tra cui Elon Musk e il co-fondatore di Apple Steve Wozniak firmato una lettera chiedendo una pausa di sei mesi su A.I. sviluppo per studiare i rischi e sviluppare protocolli di sicurezza. Il mese successivo, è stata pubblicata un'altra lettera dai membri dell'Associazione per il progresso dell'intelligenza artificiale, tra cui Microsoft Eric Horvitz, chief scientific officer di , avvertendo della capacità dell'IA di potenziare i cattivi attori.
L'urgenza dei due messaggi precedenti impallidisce rispetto a quella della succinta dichiarazione del CAIS, che afferma che il suo obiettivo è quello di “creare una conoscenza comune del numero crescente di esperti e personaggi pubblici che prendono sul serio anche alcuni dei rischi più gravi dell'IA avanzata. '
Oltre a Grimes, altri sostenitori inaspettati della lettera includono il podcaster Sam Harris, il capo di TED Chris Anderson e Kersti Kaljulaid, l'ex presidente della Repubblica di Estonia. I firmatari che si distinguono, tuttavia, non sono quelli che sembrano fuori posto, ma piuttosto quelli che hanno costruito carriere sulla stessa tecnologia che ora avvertono potrebbe causare l'estinzione.
Sam Altman, amministratore delegato di OpenAI
Sam Altman, capo del creatore di ChatGPT OpenAI , ha firmato la lettera insieme ai co-fondatori Ilya Sutskever, John Schulman e altri tre dirigenti di OpenAI.
Lanciato per la prima volta nel 2015 come organizzazione non profit con l'obiettivo di sviluppare l'A.I. in modo sicuro, l'azienda è passata a un ibrido modello di “profitto limitato”. nel 2019. A novembre ha rilasciato A.I. chatbot ChatGPT, che è diventato rapidamente virale e ha suscitato preoccupazioni riguardo al suo potenziale scrivere compiti scolastici E sostituire la forza lavoro.
La valutazione di mercato di OpenAI era tra $ 27 miliardi e $ 29 miliardi a partire da aprile.
Nonostante il suo sostegno all'avvertimento urgente della lettera, Altman ha già elogiato l'ascesa di sistemi di intelligenza artificiale sempre più sofisticati. sistemi. 'Questa rivoluzione creerà una ricchezza fenomenale', ha detto in a Post sul blog del 2021 . 'Il prezzo di molti tipi di lavoro (che determina i costi di beni e servizi) scenderà verso lo zero una volta che un'IA sufficientemente potente 'si unirà alla forza lavoro'.'
Geoffrey Hinton, AI pioniere
Due membri di un trio di scienziati informatici noti come i 'padrini dell'IA' hanno anche promesso il loro sostegno alla recente lettera.
I firmatari Geoffrey Hinton e Yoshua Bengio hanno lavorato nell'A.I. campo per decenni e, con Yann LeCun, ha contribuito a gettare le basi per lo sviluppo della tecnologia. I tre hanno ricevuto il Premio Turing nel 2018.
Hinton e Bengio, attualmente professori rispettivamente all'Università di Toronto e all'Università di Montreal, hanno entrambi espresso preoccupazione per i progressi dell'IA.
All'inizio di questo mese, Hinton ha detto al New York Times ha lasciato il lavoro a Google parlare dei rischi dell'A.I ., aggiungendo che ora si rammarica del lavoro della sua vita. 'È difficile vedere come puoi impedire ai cattivi attori di usarlo per cose cattive', ha detto.
Bengio espresso sentimenti simili A BBC oggi (31 maggio), rivelare la minaccia di A.I. gli ha fatto dubitare dei suoi anni di ricerca. 'Si potrebbe dire che mi sento perso', ha detto.
Nel frattempo LeCun, capo A.I. scienziato del Meta, ha deciso di non firmare la lettera.
Demis Hassabis, CEO di Google DeepMind
Diversi dipendenti di Google, tra cui più di dieci che lavorano per il suo machine learning A.I. startup DeepMind, sono firmatari della dichiarazione. L'elenco include il CEO e co-fondatore di DeepMind Demis Hassabis, che in precedenza ha lavorato come A.I. programmatore di videogiochi presso Lionhead ed Elixir.
DeepMind è stato acquistato da Google nel 2014 per circa 500 milioni di dollari. Hassabis ha esortato l'azienda a procedere con cautela e sostiene che l'intelligenza artificiale generale (A.G.I), termine che si riferisce a computer con capacità cognitive paragonabili a quelle degli esseri umani, potrebbe emergere entro il prossimo decennio .
cosa accadrà se clinton vince
“Sosterrei non muoversi velocemente e rompere le cose ' Hassabis ha detto Tempo a gennaio, aggiungendo di ritenere che i profitti dell'A.G.I. dovrebbe essere ridistribuito uniformemente.
Tuttavia, la divisione di Hassabis ha preso piede negli ultimi mesi. Google DeepMind è stato formato ad aprile, dopo che Google ha unito le divisioni incentrate sull'intelligenza artificiale DeepMind e Brain in ' accelerare il progresso verso un mondo in cui l'IA può aiutare a risolvere le più grandi sfide che l'umanità deve affrontare .” E all'inizio di quest'anno, Google annunciato all'interno dei suoi guadagni del quarto trimestre del 2022 che le informazioni finanziarie di DeepMind verranno ora riportate tra i costi aziendali di Alphabet man mano che vengono sempre più utilizzate dalla società.
Grimes, musicista e produttore
Grimes, l'eclettica musicista ed ex partner romantico del co-fondatore di OpenAI Musk, ha sperimentato la tecnologia nel corso della sua carriera, utilizzandola in particolare per creare un AI ninna nanna per suo figlio e un AI chatbot allenato dai suoi stessi manierismi.
“Penso che l'A.I. è fantastico”, ha detto al New York Times. “Sento solo che, creativamente, penso che A.I. può sostituire gli esseri umani”.
Il più recente A.I. progetto di Grimes, il cui vero nome è Claire Boucher, è stato rilasciato questo mese sotto forma di Elf.Tech, an AI programma software che consente ai fan di duplicare la sua voce per creare le proprie canzoni. 'Mi piace l'idea di aprire l'approvvigionamento di tutta l'arte e uccidere il copyright', ha twittato l'artista, che offre una ripartizione dei diritti d'autore del 50% per le canzoni di successo derivanti dall'A.I. programma.
Dario Amodei, amministratore delegato di Anthropic
Antropico Dario Amodei di ha sostenuto la dichiarazione insieme ai co-fondatori Jared Kaplan e Chris Olah. A firmare la lettera anche la sorella Daniela Amodei, presidente di Anthropic.
Amodei ha lavorato in precedenza presso Google, Baidu e OpenAI prima di lasciare quest'ultima azienda nel 2020 per dirigere la propria A.I. avviare, che è stato valutato a $ 4,1 miliardi a marzo .
Anche l'avvio sostenuto da Google ha raccolto $ 450 milioni in un round di finanziamento questo mese, il più grande A.I. round di finanziamento nel 2023 dall'investimento OpenAI di Microsoft all'inizio di quest'anno.
Il prodotto principale di Anthropic è Claude, un chatbot che ha iniziato a testare a gennaio con un gruppo selezionato di utenti. Claudio è stato addestrato con una serie di linee guida morali al fine di evitare risposte offensive da parte dell'A.I. strumento di chat, che attinge dalla Dichiarazione delle Nazioni Unite sui diritti umani e dalle regole sulla privacy dei dati di Apple. Il processo della startup di creare una 'I.A. innocua'. assistente” è stato presentato in a Libro bianco di dicembre .
All'inizio di questo mese, insieme ad altri A.I. CEO come Altman, Amodei ha incontrato il presidente Biden per discutere come implementare i regolamenti nell'A.I. settore per mitigarne il rischio.
Kevin Scott, CTO di Microsoft
I dirigenti di A.I. Anche la potente Microsoft ha firmato la lettera, incluso il chief technology officer dell'azienda Kevin Scott.
Microsoft è un investitore in OpenAI, una partnership estesa a gennaio con un accordo multimiliardario. Alimenta il suo motore di ricerca Bing con ChatGPT.
Scott, che ha detto che il 2023 sarà “t 'anno più entusiasmante che l'A.I. comunità abbia mai avuto, ” afferma che Microsoft sta migliorando la sua A.I. processi progettati per mitigare i danni della tecnologia.
Ma nonostante abbia firmato una dichiarazione in cui sosteneva che A.I. ha il potenziale per distruggere la civiltà umana, Scott ha scritto il libro del 2020 Riprogrammare il sogno americano , il quale sostiene che A.I. può rivoluzionare l'imprenditorialità nelle città rurali. Microsoft si è anche fortemente concentrata sull'A.I. negli ultimi mesi, rivendicando la spinta si tradurrà in un aumento dei profitti per l'azienda nel tempo.
A cosa servirà l'ennesima lettera aperta?
Il fatto che così tanti firmatari abbiano legami finanziari con A.I. società di ricerca e sviluppo ha portato alcuni a chiedersi se i recenti inviti alla prudenza siano una trovata pubblicitaria o forse un modo per ottenere un vantaggio competitivo in un settore sempre più affollato.
All'inizio di questo mese, è stato chiesto informazioni al CTO di Microsoft l'equilibrio tra la grande A.I. aziende che cercano normative che le favoriscano solo e un panorama normativo composto da piccole start-up competitive. 'Penso che dovremmo avere entrambi', ha detto Scott Verga . 'Non credo che ci sia una cosa a priori in cui uno preclude l'altro.'
Altman ha anche chiesto una maggiore regolamentazione nell'A.I. industria, esprimendo preoccupazioni sul fatto che la tecnologia possa essere sfruttata da regimi autoritari o utilizzata per attacchi informatici, tuttavia il suo desiderio di supervisione normativa sembra essere selettivo, poiché anche Altman in precedenza ha affermato che OpenAI potrebbe lasciare l'UE a causa della potenziale 'eccessiva regolamentazione' della regione di A.I.
Concentrandosi sulle sconvolgenti ma improbabili conseguenze dell'A.I. l'implementazione sposta l'attenzione delle autorità di regolamentazione dai rischi reali posti dall'intelligenza artificiale, ha suggerito il professore di diritto dell'Università di Washington Ryan Calo in una serie di tweet . “Affrontare gli impatti immediati dell'IA sul lavoro, sulla privacy o sull'ambiente è costoso. Proteggersi dall'intelligenza artificiale in qualche modo 'svegliarsi' non lo è.
