OpenAI, produttore del rivoluzionario software chatbot ChatGPT, sta creando un nuovo dipartimento interno per impedire che l’intelligenza artificiale (AI) diventi ostile. “Abbiamo bisogno di nuove scoperte scientifiche e tecniche per risolvere questo problema”, ha detto lo sviluppatore statunitense in una dichiarazione sul sito web che annunciava il piano. Tuttavia, gli esperti mettono in dubbio l’integrità dell’azienda.
La superintelligenza sarà la tecnologia più influente mai inventata dall’umanità
ChatGPT utilizza l’intelligenza artificiale (AI) per scrivere script vocali che abbiano un senso. In breve tempo il sistema fece scalpore creando sceneggiature difficilmente distinguibili dal lavoro umano. Ciò ha reso il servizio popolare, ma anche controverso. ChatGPT è da tempo bandito in Italia, e anche la Francia sta indagando.
L’intelligenza artificiale viene addestrata raccogliendo informazioni su Internet ed eventualmente anche elaborando le domande poste dagli utenti. La tecnologia sta diventando sempre più intelligente e, sebbene possa risolvere molti problemi fondamentali, gli esperti avvertono che “l’estinzione dell’umanità è imminente”. “La superintelligenza sarà la tecnologia di maggior impatto mai inventata dall’umanità”, afferma OpenAI. “Ma l’enorme potere della superintelligenza può anche essere molto pericoloso e può portare all’incapacità dell’umanità o addirittura all’estinzione degli esseri umani”.
Guarda anche. Lo studente cattura il suo insegnante usando ChatGPT
Evita il disordine
In questo momento, non c’è modo di “potenziare l’IA superintelligente”, scrive OpenAI. Questo deve cambiare, quindi l’azienda sta creando internamente una nuova unità: “Superalignment”. Questo dipartimento, composto da scienziati qualificati e “start-up”, deve garantire attraverso controlli di sicurezza quotidiani che l’IA non diventi ostile, causi il caos o peggio.
OpenAI non può garantire che funzionerà. “Sebbene questo sia un obiettivo incredibilmente ambizioso e non abbiamo alcuna garanzia di successo, siamo ottimisti sul fatto che sforzi mirati e combinati possano risolvere questo problema”. L’azienda è alla ricerca di nuovi dipendenti disposti a contribuire. “Abbiamo bisogno delle menti più intelligenti del mondo”. OpenAI si aspetta di saperne di più sull’IA e sui suoi rischi e opportunità lungo il percorso. Questi risultati saranno condivisi con tutti durante tutto il processo.
Lontano dalla superintelligenza
Dave Maasland, CEO della società di sicurezza digitale Eset Nederland, dubita che OpenAI sia completamente onesto. “Penso che dobbiamo stare attenti a essere pienamente coinvolti in questa narrazione”, avverte Masland. Non dimentichiamo che OpenAI beneficia dell’interesse che genera, questo significa che aumentare le proprie capacità e il proprio software può giocare a loro favore e rendere i concorrenti meno “capaci”.
ChatGPT è tutt’altro che super intelligente. Non ci siamo ancora, ed è tempo di dare uno sguardo più tranquillo e sfumato a OpenAI
Secondo Masland, questo non cambia il fatto che ci sono seri rischi a lungo termine e una sezione OpenAI separata sarebbe molto gradita. “Ma dobbiamo anche essere realistici: ChatGPT è molto lontano dalla superintelligenza. Non ci siamo ancora del tutto ed è tempo di dare uno sguardo più tranquillo e sfumato a OpenAI ed essere vigili per approfondire la storia che stanno pittura.”
regolamenti europei
Il Parlamento europeo ha recentemente approvato una legislazione per contrastare l’intelligenza artificiale. Il regolamento europeo previsto disciplina la progettazione, l’uso e la vendita di sistemi di intelligenza artificiale. Il riconoscimento facciale tramite smart camera sarà vietato nei luoghi pubblici e verranno introdotte regole vincolanti per i grandi modelli di chatbot come ChatGPT.
“Hey Google, trovami una ricetta” vs. Ehi ChatGPT, suggeriscimi un piatto: quale motore di ricerca è il miglior aiuto in cucina? (+)
L’intelligenza artificiale potrebbe davvero significare la fine dell’umanità? “I sistemi d’arma che sparano in modo completamente indipendente non sono più molto indietro” (+)
Accesso gratuito illimitato a Showbytes? quale può!
Accedi o crea un account e non perdere mai nulla delle stelle.
“Specialista televisivo. Amichevole fanatico del web. Studioso di cibo. Drogato estremo di caffè.”