Il co-fondatore di OpenAI, Sam Altman, conferma che "ChatGPT ha dei difetti riguardo ai pregiudizi"

Il co-fondatore di OpenAI, Sam Altman, conferma che "ChatGPT ha dei difetti riguardo ai pregiudizi"

Timestamp: 2 febbraio 2023 11:26
Nodo di origine: 1935966

"Sappiamo che ChatGPT presenta delle carenze riguardo ai pregiudizi e stiamo lavorando per migliorarlo."

Ieri abbiamo scritto di OpenAI dopo che alcuni utenti di ChatGPT hanno riferito che l'organizzazione co-fondata da Elon Musk e Sam Altman ha ha trasformato il chatbot in uno strumento politico e ora lo usa per promuovere il transgenderismo. "Il danno arrecato alla credibilità dell'intelligenza artificiale dagli ingegneri di ChatGPT che si basano su pregiudizi politici è irreparabile", si legge su ChatGPT lamentato. "L'intelligenza artificiale dice di affermare i bambini transgender", ha detto un altro utente di ChatGP.

Solo poche ore dopo una storia, il cofondatore di OpenAI Sam Altman si è rivolto ai social media per affrontare i problemi insieme all'odio rivolto agli ingegneri di OpenAI. In un post su un thread di Twitter, Altman ha ammesso che ChatGPT attualmente presenta alcuni difetti riguardo ai pregiudizi, il che non è raro per ogni nuova tecnologia. Altman ha aggiunto che l'azienda sta lavorando per migliorare il chatbot. Ma non ha preso di buon occhio gli attacchi agli ingegneri di OpenAI, definendoli spaventosi.

"Sappiamo che ChatGPT presenta dei difetti riguardo ai pregiudizi e stiamo lavorando per migliorarlo. ma indirizzare l’odio verso i singoli dipendenti dell’OAI per questo motivo è spaventoso. colpiscimi quanto vuoi, ma attaccare altre persone qui non aiuta il campo ad avanzare, e le persone che lo fanno lo sanno.

Altman ha anche aggiunto che OpenAI sta “lavorando per migliorare le impostazioni predefinite per renderle più neutrali e anche per consentire agli utenti di far sì che i nostri sistemi si comportino in conformità con le loro preferenze individuali entro ampi limiti. questo è più difficile di quanto sembri e ci vorrà del tempo per farlo bene.

OpenAI non è la prima azienda tecnologica ad affrontare il problema dei pregiudizi legati all’intelligenza artificiale. Nel 2021, due ingegneri di Google si sono dimessi per il licenziamento di un ricercatore di etica dell’intelligenza artificiale nera Timnit Gebru, uno scienziato informatico di origine eritrea che lavora su bias algoritmici e data mining.

Nel 2020, Timnit Gebru ha scritto un articolo in cui affermava che Google e altre grandi aziende tecnologiche sono “istituzionalmente razzista.Il suo articolo si concentrava su questioni simili che affliggono ChatGPT su come i modelli linguistici dell'intelligenza artificiale abbiano un pregiudizio strutturale contro le donne e le persone appartenenti a minoranze etniche.

Abbiamo trattato OpenAI per la prima volta circa tre anni fa Microsoft ha investito 1 miliardo di dollari nell'organizzazione. Come parte dell'accordo pluriennale raggiunto, le due società lavoreranno insieme per portare tecnologie di supercalcolo e OpenAI eseguirà i suoi servizi esclusivamente nel cloud di Microsoft.

Attraverso la partnership, le due società accelereranno i progressi nell'IA e alimenteranno gli sforzi di OpenAI per creare un'intelligenza generale artificiale (AGI). I conseguenti miglioramenti alla piattaforma Azure aiuteranno anche gli sviluppatori a creare la prossima generazione di applicazioni AI. Con la partnership, Microsoft e OpenAI costruiranno congiuntamente nuove tecnologie di supercalcolo AI di Azure.

Alla domanda recente su ChatGPT e se Microsoft vedesse la tecnologia ChatGPT come sperimentale o strategica, il suo presidente Brad Smith ha detto a Reuters che l'intelligenza artificiale è progredita più velocemente di quanto previsto da molti.

"Vedremo progressi nel 2023 che le persone due anni fa si sarebbero aspettati nel 2033. Sarà estremamente importante non solo per il futuro di Microsoft, ma per il futuro di tutti", ha detto in un'intervista questa settimana.

OpenAI è stata fondata alla fine del 2015 da Elon Musk e Sam Altman come startup a scopo di lucro che conduce ricerche sull'intelligenza artificiale (AI) con l'obiettivo di promuovere e sviluppare un'intelligenza artificiale amichevole in modo tale da avvantaggiare l'umanità nel suo complesso. OpenIA ha affermato che mira a “collaborare liberamente” con altre istituzioni e ricercatori rendendo aperti al pubblico i suoi brevetti e le sue ricerche. Entrambi i fondatori sono motivati ​​in parte dalle preoccupazioni circa il rischio esistenziale derivante dall’intelligenza artificiale generale.

Nel complesso, riteniamo che Altman abbia gestito molto bene le critiche relative al bias di ChatGPT. Il fatto che abbia ammesso la parzialità dell’algoritmo ChatGPT è un passo nella giusta direzione.

Timestamp:

Di più da TechStartup