“I risultati dell’intelligenza artificiale sono deludenti”.

Il 29 marzo, un gruppo di personalità di spicco, anche della Silicon Valley, ha pubblicato una lettera in cui chiedeva di interrompere lo sviluppo dell’intelligenza artificiale per almeno sei mesi e di utilizzare questo tempo per sviluppare protocolli di sicurezza. Ne parliamo con Wim Naudé, esperto di intelligenza artificiale presso l’Organizzazione per la cooperazione e lo sviluppo economico.

Di cosa hanno paura gli autori?

Gli autori temono GPT4, l’ultima versione del modello linguistico su cui si basa intelligenza artificiale (AI). Non è chiaro come questo modello sia stato addestrato. Il timore è che il modello possa evolversi così rapidamente da diventare più intelligente degli umani. Quindi la fine potrebbe essere vicina per l’umanità, secondo questi scienziati. Ad esempio, l’intelligenza artificiale può vedere l’umanità come una minaccia e dichiararle guerra. Oppure la minaccia passa attraverso a Blocco AI, con l’intelligenza artificiale che prende il controllo del governo e approva leggi in tutto il mondo che non potranno mai essere modificate. C’è anche un caso plausibile matricepoiché l’intelligenza artificiale fornisce incentivi e può quindi influenzare il comportamento umano”.

Le preoccupazioni sono giustificate ai tuoi occhi?

Filosoficamente parlando, sì. Ma questa telefonata sembra essere motivata anche dai deludenti risultati dell’intelligenza artificiale. Non è la prima lettera aperta di questo gruppo di celebrità della Silicon Valley. Nel 2015 hanno postato su il futuro della vita Una lettera aperta, in cui chiedevano maggiori ricerche sull’intelligenza artificiale. Credevano che i benefici dell’intelligenza artificiale sarebbero stati enormi e che avrebbe potuto, ad esempio, risolvere il problema della povertà nel mondo. Ora che sembra deludente otto anni dopo, sembra che i benefici non superino più i rischi, secondo loro.

Ma puoi anche pensare alla chiamata come a una trovata pubblicitaria: l’industria tecnologica è sotto pressione. D’altra parte, gli autori cercano di indicare quanto sia potente la loro creatività, avvertendo al riguardo. D’altra parte, vogliono mostrare quanto siano virtuosi nell’advocacy.

Tuttavia, io stesso non credo che l’intelligenza artificiale sia una minaccia esistenziale: nessuna civiltà è stata ancora distrutta dalla sua stessa tecnologia.

Dovremmo continuare a cercare l’intelligenza artificiale?

Abbiamo soprattutto bisogno di più ricerca sull’intelligenza umana. Possiamo imparare molto da esso, perché il cervello umano ottiene risultati superiori rispetto all’intelligenza artificiale, pur utilizzando una frazione dell’energia. Ma ne capiamo ancora poco: la coscienza umana, ad esempio, è ancora una scatola nera.

Dovremmo anche continuare a ricercare l’intelligenza artificiale, ma l’industria tecnologica dovrebbe concentrarsi maggiormente sulle scoperte più importanti. Gli strumenti di intelligenza artificiale ci distraggono dalla tecnologia di base che stiamo cercando e ci vorrà più tempo per trovarla. Ad esempio, secondo un crescente coro di commentatori, la fisica fondamentale, che ha fornito quasi tutte le tecnologie che hanno alimentato le passate rivoluzioni industriali, è in stasi”.

L’intelligenza artificiale può guidare la crescita della produttività?

“Anche questo è deludente al momento. Negli Stati Uniti, solo il 2% delle aziende utilizza l’IA. Molte aziende ritengono che l’IA sia troppo costosa e i benefici siano troppo limitati, e quindi non redditizi. In ogni caso, non è certo che l’intelligenza artificiale aumenterà la produttività, perché l’applicazione può essere molto complessa e richiedere molto tempo.

Dovremmo preoccuparci che il nostro lavoro diventi obsoleto?

“No, non credo. Alcuni lavori diventeranno ridondanti, ma non vedo alcun problema. Ci sono più lavori che mai. I miei figli ora non hanno idea di cosa scegliere tra circa 15.000 lavori . Che tipo di carriera La carriera che vogliamo per noi stessi ora è fondamentale. A volte ho anche pensato se voglio continuare a fare il mio lavoro attuale per il resto della mia vita. In questa generazione, le persone possono felicemente cambiare carriera.”

letteratura

Bengio, Y, S. Russell, E. Musk e altri (2023) Sospendere esperimenti di intelligenza artificiale gigante: una lettera aperta. Lettera aperta, 22 marzo. Disponibile su futureoflife.org.