Salah satu pendiri OpenAI Sam Altman menegaskan 'ChatGPT memiliki kekurangan seputar bias'

Salah satu pendiri OpenAI Sam Altman menegaskan 'ChatGPT memiliki kekurangan seputar bias'

Stempel Waktu: 2 Februari 2023 11:26
Node Sumber: 1935966

“Kami tahu bahwa ChatGPT memiliki kekurangan seputar bias, dan sedang berupaya memperbaikinya.”

Kemarin, kami menulis tentang OpenAI setelah beberapa pengguna ChatGPT melaporkan bahwa organisasi yang didirikan oleh Elon Musk dan Sam Altman telah mengubah chatbot menjadi alat politik dan sekarang menggunakannya untuk mempromosikan transgenderisme. “Kerusakan yang terjadi pada kredibilitas AI oleh para insinyur ChatGPT yang membangun bias politik tidak dapat diperbaiki,” salah satu ChatGPT mengeluh. “AI mengatakan untuk menegaskan anak-anak transgender,” kata pengguna ChatGP lainnya.

Hanya beberapa jam setelah sebuah cerita, salah satu pendiri OpenAI, Sam Altman, turun ke media sosial untuk mengatasi masalah tersebut bersama dengan kebencian yang ditujukan kepada para insinyur OpenAI. Dalam posting utas Twitter, Altman mengakui bahwa ChatGPT saat ini memiliki beberapa kekurangan seputar bias, yang tidak jarang terjadi pada setiap teknologi baru. Altman menambahkan bahwa perusahaan sedang bekerja untuk meningkatkan chatbot. Tapi dia tidak menerima serangan terhadap insinyur OpenAI, menyebutnya mengerikan.

“Kami tahu bahwa ChatGPT memiliki kekurangan seputar bias, dan sedang berupaya memperbaikinya. tetapi mengarahkan kebencian pada masing-masing karyawan OAI karena hal ini sangat mengerikan. pukul saya semau Anda, tetapi menyerang orang lain di sini tidak membantu kemajuan lapangan, dan orang yang melakukannya tahu itu.

Altman juga menambahkan bahwa OpenAI “bekerja untuk meningkatkan pengaturan default agar lebih netral, dan juga untuk memberdayakan pengguna agar sistem kami berperilaku sesuai dengan preferensi masing-masing dalam batas yang luas. ini lebih sulit daripada kedengarannya dan akan membutuhkan waktu bagi kita untuk memperbaikinya.

OpenAI bukanlah perusahaan teknologi pertama yang menghadapi masalah bias AI. Kembali pada tahun 2021, dua insinyur Google mengundurkan diri atas pemecatan peneliti etika Black AI Timnit Gebru, seorang ilmuwan komputer kelahiran Eritrea yang bekerja pada bias algoritmik dan penambangan data.

Pada tahun 2020, Timnit Gebru menulis makalah di mana dia mengatakan bahwa Google dan perusahaan teknologi besar lainnya adalah “rasis secara institusional.” Makalahnya berfokus pada masalah serupa yang mengganggu ChatGPT tentang bagaimana model bahasa AI memiliki bias struktural terhadap perempuan dan orang-orang dari etnis minoritas.

Kami pertama kali meliput OpenAI sekitar tiga tahun lalu Microsoft menginvestasikan $1 miliar dalam organisasi. Sebagai bagian dari kesepakatan multi-tahun yang dicapai, kedua perusahaan akan bekerja sama untuk menghadirkan teknologi superkomputer dan OpenAI akan menjalankan layanannya secara eksklusif di cloud Microsoft.

Melalui kemitraan ini, kedua perusahaan akan mempercepat terobosan dalam AI dan memperkuat upaya OpenAI untuk menciptakan kecerdasan buatan (AGI). Peningkatan yang dihasilkan pada platform Azure juga akan membantu pengembang membangun aplikasi AI generasi berikutnya. Dengan kemitraan ini, Microsoft dan OpenAI akan bersama-sama membangun teknologi superkomputer Azure AI yang baru.

Ketika ditanya baru-baru ini tentang ChatGPT dan apakah Microsoft memandang teknologi ChatGPT sebagai eksperimental atau strategis, Presidennya Brad Smith mengatakan kepada Reuters bahwa AI telah berkembang lebih cepat dari yang diperkirakan banyak orang.

“Kita akan melihat kemajuan pada tahun 2023 yang diharapkan orang dua tahun lalu pada tahun 2033. Ini akan menjadi sangat penting tidak hanya untuk masa depan Microsoft, tetapi untuk masa depan semua orang,” katanya dalam sebuah wawancara minggu ini.

OpenAI didirikan pada akhir 2015 oleh Elon Musk dan Sam Altman sebagai startup nirlaba yang melakukan penelitian dalam kecerdasan buatan (AI) dengan tujuan mempromosikan dan mengembangkan AI ramah sedemikian rupa sehingga bermanfaat bagi umat manusia secara keseluruhan. OpenIA mengatakan pihaknya bertujuan untuk "berkolaborasi secara bebas" dengan institusi dan peneliti lain dengan membuat paten dan penelitiannya terbuka untuk umum. Kedua pendiri sebagian dimotivasi oleh kekhawatiran tentang risiko eksistensial dari kecerdasan umum buatan.

Secara keseluruhan, kami yakin Altman menangani kritik tentang bias ChatGPT dengan sangat baik. Fakta bahwa dia mengakui bias algoritme ChatGPT adalah langkah ke arah yang benar.

Stempel Waktu:

Lebih dari TechStartup