QWERTYmag

Informazioni sull'Italia. Seleziona gli argomenti di cui vuoi saperne di più su QwertMag

L’inventore di ChatGPT crea un nuovo modulo per “gestire un’intelligenza artificiale super intelligente”: “il suo enorme potere può essere molto pericoloso” |  Tecnica

L’inventore di ChatGPT crea un nuovo modulo per “gestire un’intelligenza artificiale super intelligente”: “il suo enorme potere può essere molto pericoloso” | Tecnica

OpenAI, produttore del rivoluzionario software chatbot ChatGPT, sta creando un nuovo dipartimento interno per impedire che l’intelligenza artificiale (AI) diventi ostile. “Abbiamo bisogno di nuove scoperte scientifiche e tecniche per risolvere questo problema”, ha detto lo sviluppatore statunitense in una dichiarazione sul sito web che annunciava il piano. Tuttavia, gli esperti mettono in dubbio l’integrità dell’azienda.

La superintelligenza sarà la tecnologia più influente mai inventata dall’umanità

IA aperta

ChatGPT utilizza l’intelligenza artificiale (AI) per scrivere script vocali che abbiano un senso. In breve tempo il sistema fece scalpore creando sceneggiature difficilmente distinguibili dal lavoro umano. Ciò ha reso il servizio popolare, ma anche controverso. ChatGPT è da tempo bandito in Italia, e anche la Francia sta indagando.

L’intelligenza artificiale viene addestrata raccogliendo informazioni su Internet ed eventualmente anche elaborando le domande poste dagli utenti. La tecnologia sta diventando sempre più intelligente e, sebbene possa risolvere molti problemi fondamentali, gli esperti avvertono che “l’estinzione dell’umanità è imminente”. “La superintelligenza sarà la tecnologia di maggior impatto mai inventata dall’umanità”, afferma OpenAI. “Ma l’enorme potere della superintelligenza può anche essere molto pericoloso e può portare all’incapacità dell’umanità o addirittura all’estinzione degli esseri umani”.

Guarda anche. Lo studente cattura il suo insegnante usando ChatGPT

Evita il disordine

In questo momento, non c’è modo di “potenziare l’IA superintelligente”, scrive OpenAI. Questo deve cambiare, quindi l’azienda sta creando internamente una nuova unità: “Superalignment”. Questo dipartimento, composto da scienziati qualificati e “start-up”, deve garantire attraverso controlli di sicurezza quotidiani che l’IA non diventi ostile, causi il caos o peggio.

READ  Mercadona ha finito i meloni ed ecco perché

OpenAI non può garantire che funzionerà. “Sebbene questo sia un obiettivo incredibilmente ambizioso e non abbiamo alcuna garanzia di successo, siamo ottimisti sul fatto che sforzi mirati e combinati possano risolvere questo problema”. L’azienda è alla ricerca di nuovi dipendenti disposti a contribuire. “Abbiamo bisogno delle menti più intelligenti del mondo”. OpenAI si aspetta di saperne di più sull’IA e sui suoi rischi e opportunità lungo il percorso. Questi risultati saranno condivisi con tutti durante tutto il processo.

Lontano dalla superintelligenza

Dave Maasland, CEO della società di sicurezza digitale Eset Nederland, dubita che OpenAI sia completamente onesto. “Penso che dobbiamo stare attenti a essere pienamente coinvolti in questa narrazione”, avverte Masland. Non dimentichiamo che OpenAI beneficia dell’interesse che genera, questo significa che aumentare le proprie capacità e il proprio software può giocare a loro favore e rendere i concorrenti meno “capaci”.

ChatGPT è tutt’altro che super intelligente. Non ci siamo ancora, ed è tempo di dare uno sguardo più tranquillo e sfumato a OpenAI

Dave Maasland, CEO della società di sicurezza digitale Eset Netherlands

Secondo Masland, questo non cambia il fatto che ci sono seri rischi a lungo termine e una sezione OpenAI separata sarebbe molto gradita. “Ma dobbiamo anche essere realistici: ChatGPT è molto lontano dalla superintelligenza. Non ci siamo ancora del tutto ed è tempo di dare uno sguardo più tranquillo e sfumato a OpenAI ed essere vigili per approfondire la storia che stanno pittura.”

regolamenti europei

Il Parlamento europeo ha recentemente approvato una legislazione per contrastare l’intelligenza artificiale. Il regolamento europeo previsto disciplina la progettazione, l’uso e la vendita di sistemi di intelligenza artificiale. Il riconoscimento facciale tramite smart camera sarà vietato nei luoghi pubblici e verranno introdotte regole vincolanti per i grandi modelli di chatbot come ChatGPT.

READ  Ethereum ha distrutto $ 250 milioni in ETH, ora oltre $ 23 miliardi archiviati in ETH 2.0 » Crypto Insiders

“Hey Google, trovami una ricetta” vs. Ehi ChatGPT, suggeriscimi un piatto: quale motore di ricerca è il miglior aiuto in cucina? (+)

L’intelligenza artificiale potrebbe davvero significare la fine dell’umanità? “I sistemi d’arma che sparano in modo completamente indipendente non sono più molto indietro” (+)