Người đồng sáng lập OpenAI Sam Altman xác nhận 'ChatGPT có những thiếu sót xung quanh sự thiên vị'

Người đồng sáng lập OpenAI Sam Altman xác nhận 'ChatGPT có những thiếu sót xung quanh sự thiên vị'

Dấu thời gian: ngày 2 tháng 2023 năm 11 26:XNUMX sáng
Nút nguồn: 1935966

“Chúng tôi biết rằng ChatGPT có những thiếu sót xung quanh sự thiên vị và đang nỗ lực để cải thiện nó.”

Hôm qua, chúng tôi đã viết về OpenAI sau khi một số người dùng ChatGPT báo cáo rằng tổ chức do Elon Musk và Sam Altman đồng sáng lập đã biến chatbot thành một công cụ chính trị và hiện đang sử dụng nó để thúc đẩy chủ nghĩa chuyển giới. “Những thiệt hại gây ra đối với uy tín của AI do các kỹ sư ChatGPT xây dựng theo khuynh hướng chính trị là không thể khắc phục được,” một ChatGPT phàn nàn. “AI nói để khẳng định trẻ em chuyển giới,” một người dùng ChatGP khác nói.

Chỉ vài giờ sau một câu chuyện, Sam Altman, người đồng sáng lập OpenAI, đã lên mạng xã hội để giải quyết các vấn đề cùng với sự căm ghét nhắm vào các kỹ sư OpenAI. Trong một bài đăng trên Twitter, Altman thừa nhận rằng ChatGPT hiện có một số sai sót xung quanh sự thiên vị, điều này không hiếm đối với mọi công nghệ mới. Altman nói thêm rằng công ty đang làm việc để cải thiện chatbot. Nhưng anh ấy không hài lòng với các cuộc tấn công vào các kỹ sư OpenAI, gọi đó là điều kinh khủng.

“Chúng tôi biết rằng ChatGPT có những thiếu sót xung quanh sự thiên vị và đang nỗ lực để cải thiện nó. nhưng hướng sự ghét bỏ vào từng nhân viên OAI vì điều này thật kinh khủng. Bạn muốn đánh tôi bao nhiêu cũng được, nhưng tấn công người khác ở đây không giúp lĩnh vực này tiến lên, và những người làm việc đó biết điều đó.”

Altman cũng nói thêm rằng OpenAI đang “làm việc để cải thiện cài đặt mặc định trở nên trung lập hơn và cũng để trao quyền cho người dùng để hệ thống của chúng tôi hoạt động phù hợp với sở thích cá nhân của họ trong phạm vi rộng. điều này nghe có vẻ khó hơn và chúng ta sẽ mất một thời gian để làm đúng.”

OpenAI không phải là công ty công nghệ đầu tiên đối mặt với vấn đề thiên vị AI. Trở lại năm 2021, hai kỹ sư Google từ chức về việc sa thải một nhà nghiên cứu đạo đức AI của Người da đen Timnit Gebru, một nhà khoa học máy tính sinh ra ở Eritrea, người làm việc về xu hướng thuật toán và khai thác dữ liệu.

Vào năm 2020, Timnit Gebru đã viết một bài báo trong đó cô ấy nói rằng Google và các công ty công nghệ lớn khác là “thể chế phân biệt chủng tộc.” Bài báo của cô ấy tập trung vào các vấn đề tương tự đang gây khó chịu cho ChatGPT về cách các mô hình ngôn ngữ AI có xu hướng cấu trúc đối với phụ nữ và những người thuộc dân tộc thiểu số.

Lần đầu tiên chúng tôi đề cập đến OpenAI khoảng ba năm trước sau khi Microsoft đã đầu tư 1 tỷ đô la trong tổ chức. Là một phần của thỏa thuận kéo dài nhiều năm đã đạt được, hai công ty sẽ làm việc cùng nhau để mang đến các công nghệ siêu máy tính và OpenAI sẽ chạy các dịch vụ của mình độc quyền trên đám mây của Microsoft.

Thông qua quan hệ đối tác, hai công ty sẽ đẩy nhanh các bước đột phá trong AI và hỗ trợ các nỗ lực của OpenAI nhằm tạo ra trí tuệ tổng quát nhân tạo (AGI). Kết quả cải tiến đối với nền tảng Azure cũng sẽ giúp các nhà phát triển xây dựng thế hệ ứng dụng AI tiếp theo. Với sự hợp tác này, Microsoft và OpenAI sẽ cùng nhau xây dựng các công nghệ siêu máy tính Azure AI mới.

Gần đây, khi được hỏi về ChatGPT và liệu Microsoft có xem công nghệ ChatGPT là thử nghiệm hay chiến lược hay không, Chủ tịch Brad Smith nói với Reuters rằng AI đã tiến bộ nhanh hơn nhiều người dự đoán.

“Chúng ta sẽ thấy những tiến bộ vào năm 2023 mà mọi người hai năm trước đã mong đợi vào năm 2033. Điều đó sẽ cực kỳ quan trọng không chỉ đối với tương lai của Microsoft mà còn đối với tương lai của mọi người,” ông nói trong một cuộc phỏng vấn vào tuần này.

OpenAI được thành lập vào cuối năm 2015 bởi Elon Musk và Sam Altman với tư cách là một công ty khởi nghiệp vì lợi nhuận tiến hành nghiên cứu về trí tuệ nhân tạo (AI) với mục tiêu thúc đẩy và phát triển AI thân thiện theo cách mang lại lợi ích cho toàn thể nhân loại. OpenIA cho biết họ nhằm mục đích “cộng tác tự do” với các tổ chức và nhà nghiên cứu khác bằng cách công khai các bằng sáng chế và nghiên cứu của mình. Cả hai nhà sáng lập đều được thúc đẩy một phần bởi những lo ngại về rủi ro tồn tại từ trí tuệ nhân tạo nói chung.

Nhìn chung, chúng tôi tin rằng Altman đã xử lý rất tốt những lời chỉ trích về xu hướng ChatGPT. Việc anh ấy thừa nhận sai lệch thuật toán ChatGPT là một bước đi đúng hướng.

Dấu thời gian:

Thêm từ khởi nghiệp công nghệ