Cofondatorul OpenAI, Sam Altman, confirmă că „ChatGPT are deficiențe în privința părtinirii”

Cofondatorul OpenAI, Sam Altman, confirmă că „ChatGPT are deficiențe în privința părtinirii”

Marca temporală: 2 februarie 2023 11:26
Nodul sursă: 1935966

„Știm că ChatGPT are deficiențe în privința părtinirii și ne străduim să o îmbunătățim.”

Ieri, am scris despre OpenAI după ce unii utilizatori ai ChatGPT au raportat că organizația co-fondată de Elon Musk și Sam Altman a a transformat chatbot-ul într-un instrument politic și acum îl folosesc pentru a promova transgenderismul. „Prejudiciul adus credibilității inteligenței artificiale de către inginerii ChatGPT, care construiesc părtiniri politice, este ireparabil”, un ChatGPT plâns. „AI spune să afirmăm copiii transgender”, a spus un alt utilizator ChatGP.

La doar câteva ore după o poveste, co-fondatorul OpenAI, Sam Altman, a apelat la rețelele sociale pentru a aborda problemele, împreună cu ura îndreptată către inginerii OpenAI. Într-o postare pe Twitter, Altman a recunoscut că ChatGPT are în prezent unele defecte în privința părtinirii, ceea ce nu este neobișnuit pentru fiecare tehnologie nouă. Altman a adăugat că compania lucrează pentru a îmbunătăți chatbot-ul. Dar nu a primit cu drag atacurile asupra inginerilor OpenAI, numind-o îngrozitor.

„Știm că ChatGPT are deficiențe în privința părtinirii și ne străduim să o îmbunătățim. dar direcționarea urii către angajații individuali ai OAI din această cauză este îngrozitoare. lovește-mă tot ce vrei, dar atacarea altor oameni de aici nu ajută câmpul să avanseze, iar cei care o fac știu asta.”

Altman a adăugat, de asemenea, că OpenAI „lucrează pentru a îmbunătăți setările implicite pentru a fi mai neutre și, de asemenea, pentru a oferi utilizatorilor posibilitatea de a determina sistemele noastre să se comporte în conformitate cu preferințele lor individuale în limite largi. acest lucru este mai greu decât pare și ne va lua ceva timp pentru a reuși.”

OpenAI nu este prima companie de tehnologie care se confruntă cu problema părtinirii AI. În 2021, doi ingineri Google au demisionat din cauza concedierii unui cercetător de etică a inteligenței artificiale negre Timnit Gebru, un informatician născut în Eritreea care lucrează la prejudecăți algoritmice și extragerea datelor.

În 2020, Timnit Gebru a scris o lucrare în care spunea că Google și alte mari companii de tehnologie sunt „rasist instituţional.” Lucrarea ei s-a concentrat pe probleme similare care afectează ChatGPT despre modul în care modelele de limbaj AI au o prejudecată structurală împotriva femeilor și a persoanelor aparținând minorităților etnice.

Am acoperit pentru prima dată OpenAI în urmă cu aproximativ trei ani Microsoft a investit 1 miliard de dolari in organizatie. Ca parte a acordului multianual la care sa ajuns, cele două companii vor lucra împreună pentru a aduce tehnologii de supercomputing, iar OpenAI își va rula serviciile exclusiv în cloud-ul Microsoft.

Prin parteneriat, cele două companii vor accelera progresele în AI și vor stimula eforturile OpenAI de a crea inteligență generală artificială (AGI). Îmbunătățirile rezultate ale platformei Azure vor ajuta, de asemenea, dezvoltatorii să construiască următoarea generație de aplicații AI. Odată cu parteneriatul, Microsoft și OpenAI vor construi împreună noi tehnologii de supercomputing Azure AI.

Când a fost întrebat recent despre ChatGPT și dacă Microsoft a văzut tehnologia ChatGPT ca experimentală sau strategică, președintele său Brad Smith a spus pentru Reuters că AI a progresat mai repede decât au prezis mulți.

„Vom vedea progrese în 2023 la care oamenii în urmă cu doi ani le-ar fi așteptat în 2033. Va fi extrem de important nu doar pentru viitorul Microsoft, ci și pentru viitorul tuturor”, a spus el într-un interviu în această săptămână.

OpenAI a fost înființat la sfârșitul anului 2015 de Elon Musk și Sam Altman ca o companie startup cu scop profit care efectuează cercetări în domeniul inteligenței artificiale (AI) cu scopul de a promova și dezvolta IA prietenoasă, astfel încât să beneficieze umanitatea în ansamblu. OpenIA a spus că își propune să „colaboreze liber” cu alte instituții și cercetători, făcând brevetele și cercetările sale deschise publicului. Ambii fondatori sunt motivați parțial de preocupările legate de riscul existențial din inteligența generală artificială.

În general, credem că Altman a gestionat foarte bine criticile legate de părtinirea ChatGPT. Faptul că a recunoscut părtinirea algoritmului ChatGPT este un pas în direcția bună.

Timestamp-ul:

Mai mult de la TechStartups