ChatGPT non è sicuro! I dipendenti di OpenAI hanno presentato un enorme reclamo contro l’azienda Negligenza nei protocolli di sicurezza nel nuovo modello di procedura di openai rivendicazioni dei dipendenti

Sicurezza dell’IA: Nel campo dell’intelligenza artificiale (AI) si parla molto di OpenAI, del suo chatbot ChatGPT e degli ultimi Large Language Model (LLM). Tuttavia, il livello di sicurezza di questa azienda solleva molte domande. Secondo i rapporti, OpenAI sta violando le norme di sicurezza e protezione nella fretta di costruire nuovi modelli e cercare di andare avanti.

Il rapporto afferma che le norme di sicurezza venivano ignorate anche prima che OpenAI lanciasse il suo ultimo modello GPT-4 Omni (o GPT-4o). In una lettera scritta in forma anonima da alcuni dipendenti di OpenAI, hanno espresso preoccupazione per la mancanza di supervisione durante la creazione dei sistemi di intelligenza artificiale. Per affrontare questo problema, OpenAI ha creato un nuovo “Comitato per la sicurezza e la protezione” composto da membri del consiglio e manager selezionati.

Il rapporto aggiunge che il personale è sotto pressione per accelerare nuovi protocolli di test progettati per “prevenire danni catastrofici ai sistemi di intelligenza artificiale al fine di rispettare la scadenza di lancio di maggio di OpenAI”. Questi protocolli mirano a garantire che i modelli di intelligenza artificiale non forniscano informazioni dannose, come istruzioni su come costruire armi chimiche, biologiche, radiologiche e nucleari (CBRN), o aiuti negli attacchi informatici.

In precedenza, i dipendenti di OpenAI si erano lamentati di violazioni delle norme di sicurezza e protezione dell’azienda. Il mese scorso, alcuni ex e attuali dipendenti di OpenAI e Google DeepMind hanno scritto una lettera. La lettera sollevava preoccupazioni per la mancanza di supervisione durante la creazione di nuovi sistemi di intelligenza artificiale. Ciò può portare a rischi significativi.

La lettera richiedeva l’intervento del governo, meccanismi di regolamentazione e aziende per proteggere gli informatori. Geoffrey Hinton e Joshua Benzio, tre massimi esperti nel campo dell’intelligenza artificiale, hanno sostenuto il messaggio.