L’inventore di ChatGPT crea un nuovo modulo per “gestire un’intelligenza artificiale super intelligente”: “il suo enorme potere può essere molto pericoloso” | Tecnica

L’intelligenza artificiale viene addestrata raccogliendo informazioni su Internet ed eventualmente anche elaborando le domande poste dagli utenti. La tecnologia sta diventando sempre più intelligente e, sebbene possa risolvere molti problemi fondamentali, gli esperti avvertono che “l’estinzione dell’umanità è imminente”. “La superintelligenza sarà la tecnologia di maggior impatto mai inventata dall’umanità”, afferma OpenAI. “Ma l’enorme potere della superintelligenza può anche essere molto pericoloso e può portare all’incapacità dell’umanità o addirittura all’estinzione degli esseri umani”.

Guarda anche. Lo studente cattura il suo insegnante usando ChatGPT

In questo momento, non c’è modo di “potenziare l’IA superintelligente”, scrive OpenAI. Questo deve cambiare, quindi l’azienda sta creando internamente una nuova unità: “Superalignment”. Questo dipartimento, composto da scienziati qualificati e “start-up”, deve garantire attraverso controlli di sicurezza quotidiani che l’IA non diventi ostile, causi il caos o peggio.

OpenAI non può garantire che funzionerà. “Sebbene questo sia un obiettivo incredibilmente ambizioso e non abbiamo alcuna garanzia di successo, siamo ottimisti sul fatto che sforzi mirati e combinati possano risolvere questo problema”. L’azienda è alla ricerca di nuovi dipendenti disposti a contribuire. “Abbiamo bisogno delle menti più intelligenti del mondo”. OpenAI si aspetta di saperne di più sull’IA e sui suoi rischi e opportunità lungo il percorso. Questi risultati saranno condivisi con tutti durante tutto il processo.

Dave Maasland, CEO della società di sicurezza digitale Eset Nederland, dubita che OpenAI sia completamente onesto. “Penso che dobbiamo stare attenti a essere pienamente coinvolti in questa narrazione”, avverte Masland. Non dimentichiamo che OpenAI beneficia dell’interesse che genera, questo significa che aumentare le proprie capacità e il proprio software può giocare a loro favore e rendere i concorrenti meno “capaci”.

Secondo Masland, questo non cambia il fatto che ci sono seri rischi a lungo termine e una sezione OpenAI separata sarebbe molto gradita. “Ma dobbiamo anche essere realistici: ChatGPT è molto lontano dalla superintelligenza. Non ci siamo ancora del tutto ed è tempo di dare uno sguardo più tranquillo e sfumato a OpenAI ed essere vigili per approfondire la storia che stanno pittura.”

Il Parlamento europeo ha recentemente approvato una legislazione per contrastare l’intelligenza artificiale. Il regolamento europeo previsto disciplina la progettazione, l’uso e la vendita di sistemi di intelligenza artificiale. Il riconoscimento facciale tramite smart camera sarà vietato nei luoghi pubblici e verranno introdotte regole vincolanti per i grandi modelli di chatbot come ChatGPT.