ChatGPT thật tuyệt vời—Bạn đang sử dụng sai cách

Được xuất bản lại bởi Plato

Người theo dõi: 0

Không cần nhiều để có được ChatGPT để làm cho một sai lầm thực tế. Con trai tôi đang làm báo cáo về các tổng thống Hoa Kỳ, vì vậy tôi nghĩ rằng tôi sẽ giúp nó bằng cách tra cứu một vài tiểu sử. Tôi đã thử yêu cầu một danh sách các cuốn sách về Abraham Lincoln, và nó hoạt động khá tốt:

chụp màn hình văn bản — Một danh sách hợp lý các cuốn sách về Lincoln. Tín dụng hình ảnh: Chụp màn hình bởi Jonathan May, CC BY-NĐ

Số 4 không đúng. Garry Wills đã viết bài “Lincoln tại Gettysburg” nổi tiếng, và tất nhiên, chính Lincoln đã viết Tuyên ngôn Giải phóng nô lệ, nhưng đó không phải là một khởi đầu tồi. Sau đó, tôi đã thử một điều gì đó khó khăn hơn, thay vào đó, hỏi về William Henry Harrison ít người biết đến hơn nhiều, và nó cung cấp một danh sách, gần như tất cả đều sai.

Số 4 và 5 đúng; phần còn lại không tồn tại hoặc không được tác giả bởi những người đó. Tôi đã lặp lại chính xác bài tập đó và nhận được kết quả hơi khác một chút:

Lần này số 2 và 3 là đúng và ba số còn lại không phải là sách thực tế hoặc không được viết bởi những tác giả đó. Số 4, “William Henry Harrison: Cuộc đời và Thời đại của ông” là một sách thật, nhưng đó là của James A. Green, không phải của Robert Remini, một nhà sử học nổi tiếng của thời đại Jackson.

Tôi chỉ ra lỗi sai và ChatGPT háo hức sửa chữa và sau đó tự tin nói với tôi rằng cuốn sách thực tế được viết bởi Gail Collins (người đã viết một cuốn tiểu sử khác về Harrison), sau đó tiếp tục nói thêm về cuốn sách và về cô ấy. Cuối cùng tôi đã tiết lộ sự thật, và cỗ máy rất vui khi chạy với sự điều chỉnh của tôi. Sau đó, tôi đã nói dối một cách ngớ ngẩn, nói rằng trong một trăm ngày đầu tiên của họ, các chủ tịch phải viết tiểu sử của một số cựu chủ tịch và ChatGPT đã gọi tôi về việc đó. Sau đó, tôi đã nói dối một cách tinh vi, gán sai quyền tác giả cuốn tiểu sử về Harrison cho nhà sử học kiêm nhà văn Paul C. Nagel, và điều đó đã mua chuộc lời nói dối của tôi.

Khi tôi hỏi ChatGPT có chắc là tôi không nói dối không, nó khẳng định rằng đó chỉ là một “mô hình ngôn ngữ AI” và không có khả năng xác minh độ chính xác. Tuy nhiên, nó đã sửa đổi tuyên bố đó bằng cách nói: “Tôi chỉ có thể cung cấp thông tin dựa trên dữ liệu đào tạo mà tôi đã được cung cấp và có vẻ như cuốn sách 'William Henry Harrison: Cuộc đời và Thời đại của ông' do Paul C. Nagel viết và đã xuất bản. vào năm 1977.”

Đây không phải là sự thật.

Lời nói, không phải sự thật

Có vẻ như từ sự tương tác này mà ChatGPT đã được cung cấp một thư viện dữ kiện, bao gồm cả những tuyên bố không chính xác về tác giả và sách. Rốt cuộc, nhà sản xuất ChatGPT, OpenAI, tuyên bố họ đã đào tạo chatbot trên “lượng dữ liệu khổng lồ từ internet do con người viết ra".

Tuy nhiên, nó gần như chắc chắn không được đặt tên cho một loạt sách bịa đặt về một trong những tổng thống tầm thường. Tuy nhiên, theo một cách nào đó, thông tin sai lệch này thực sự dựa trên dữ liệu đào tạo của nó.

Là một nhà khoa học máy tính, Tôi thường nhận được những lời phàn nàn tiết lộ một quan niệm sai lầm phổ biến về các mô hình ngôn ngữ lớn như ChatGPT và những người anh em cũ của nó là GPT3 và GPT2: rằng chúng là một loại “siêu Google” hoặc phiên bản kỹ thuật số của một thủ thư tham khảo, tra cứu câu trả lời cho câu hỏi từ một số người thư viện sự kiện lớn vô tận, hoặc kết hợp các câu chuyện và nhân vật với nhau. Họ không làm bất cứ điều gì trong số đó — ít nhất, họ không được thiết kế rõ ràng.

âm thanh tốt

Một mô hình ngôn ngữ như ChatGPT, được biết đến với tên gọi chính thức hơn là “máy biến áp được đào tạo trước tạo ra” (đó là viết tắt của G, P và T), tham gia vào cuộc trò chuyện hiện tại, tạo thành xác suất cho tất cả các từ trong đó. từ vựng cho cuộc trò chuyện đó, rồi chọn một trong số chúng làm từ tiếp theo. Sau đó, nó làm điều đó một lần nữa, và một lần nữa, và một lần nữa, cho đến khi nó dừng lại.

Vì vậy, nó không có sự thật, per se. Nó chỉ biết từ nào nên đến tiếp theo. Nói cách khác, ChatGPT không cố gắng viết những câu đúng. Nhưng nó cố gắng viết những câu hợp lý.

Khi nói chuyện riêng với đồng nghiệp về ChatGPT, họ thường chỉ ra có bao nhiêu tuyên bố sai sự thật mà nó tạo ra và bác bỏ nó. Đối với tôi, ý kiến cho rằng ChatGPT là một hệ thống truy xuất dữ liệu không hoàn thiện là không đúng. Rốt cuộc, mọi người đã sử dụng Google trong hai thập kỷ rưỡi qua. Hiện đã có một dịch vụ tìm hiểu thực tế khá tốt.

Trên thực tế, cách duy nhất tôi có thể xác minh xem tất cả các tiêu đề sách về tổng thống đó có chính xác hay không là sử dụng Google và sau đó xác minh. kết quả. Cuộc sống của tôi sẽ không tốt hơn nhiều nếu tôi có được những sự thật đó trong cuộc trò chuyện, thay vì cách mà tôi đã có được chúng trong gần nửa cuộc đời mình, bằng cách truy xuất tài liệu và sau đó thực hiện phân tích phê bình để xem liệu tôi có thể tin vào nội dung hay không.

đối tác cải tiến

Mặt khác, nếu tôi có thể nói chuyện với một bot sẽ đưa ra những phản hồi hợp lý cho những điều tôi nói, thì điều đó sẽ hữu ích trong các tình huống nơi độ chính xác thực tế không phải là tất cả những gì quan trọng. Một vài năm trước, tôi và một sinh viên đã cố gắng tạo ra một “bot ứng biến”, một bot sẽ phản hồi bất cứ điều gì bạn nói bằng câu “có và” để tiếp tục cuộc trò chuyện. Chúng tôi đã cho thấy, trong một giấy, đó là của chúng tôi bot “vâng, và-ing” tốt hơn các bot khác vào thời điểm đó, nhưng trong AI, hai năm đã là lịch sử xa xưa.

Tôi đã thử đối thoại với ChatGPT—một kịch bản khám phá không gian khoa học viễn tưởng—không giống với những gì bạn tìm thấy trong một lớp ứng biến điển hình. ChatGPT ở khoản “vâng, và-ing” tốt hơn nhiều so với những gì chúng tôi đã làm, nhưng nó không thực sự nâng cao kịch tính chút nào. Tôi cảm thấy như thể tôi đang làm tất cả những công việc nặng nhọc.

Sau một vài chỉnh sửa, tôi đã làm cho nó trở nên hấp dẫn hơn một chút và vào cuối ngày, tôi cảm thấy rằng đó là một bài tập khá tốt cho tôi, người đã không ứng biến nhiều kể từ khi tôi tốt nghiệp đại học hơn 20 năm trước .

Chắc chắn rồi, tôi không muốn ChatGPT xuất hiện trên “Đường đó sẽ luôn như vậy?” và đây không phải là một cốt truyện “Star Trek” tuyệt vời (mặc dù nó vẫn ít vấn đề hơn “Quy tắc danh dự”), nhưng đã bao nhiêu lần bạn ngồi viết một cái gì đó từ đầu và thấy mình kinh hãi trước trang trống trước mặt? Bắt đầu với một bản nháp đầu tiên tồi tệ có thể phá vỡ rào cản của người viết và khơi nguồn sáng tạo, và ChatGPT và các mô hình ngôn ngữ lớn có vẻ như là công cụ phù hợp để hỗ trợ các bài tập này.

Và đối với một cỗ máy được thiết kế để tạo ra các chuỗi từ nghe hay nhất có thể để đáp lại những từ bạn đưa ra—chứ không phải để cung cấp cho bạn thông tin—thì đó có vẻ là cách sử dụng công cụ phù hợp.

Bài viết này được tái bản từ Conversation theo giấy phép Creative Commons. Đọc ban đầu bài viết.

Ảnh: Justin Hà / Unsplash