Các công ty phải có rào cản khi kết hợp AI sáng tạo - DATAVERSITY

Được xuất bản lại bởi Plato

Người theo dõi: 0

Tại thời điểm đọc phần này, có thể bạn đã nghe nói về ChatGPT và/hoặc AI tổng quát và các khả năng đàm thoại linh hoạt của nó. Từ việc yêu cầu nó soạn thảo các bài đăng trên blog chặt chẽ, đến tạo mã máy tính đang hoạt động, cho đến giải bài tập về nhà của bạn và tham gia thảo luận về các sự kiện thế giới (kể từ khi chúng xảy ra trước tháng 2021 năm XNUMX), dường như nó có thể làm được tất cả hầu như không bị hạn chế.

Các công ty trên toàn thế giới bị mê hoặc bởi nó, và rất nhiều người đang cố gắng tìm ra cách để kết hợp nó vào công việc kinh doanh của họ. Đồng thời, AI tổng quát cũng khiến nhiều công ty suy nghĩ về việc các mô hình ngôn ngữ lớn (LLM) có thể tác động tiêu cực đến thương hiệu của họ như thế nào. Kevin Roose của tờ New York Times đã viết một bài viết có tiêu đề “Cuộc trò chuyện với Chatbot của Bing khiến tôi vô cùng bất an” đã khiến rất nhiều người xôn xao về chủ đề sẵn sàng đưa ra thị trường của công nghệ như vậy và các lợi ích của nó. Các hàm ý đạo đức.

Kevin đã tham gia vào cuộc trò chuyện kéo dài hai giờ với chatbot của Bing, được gọi là Sydney, nơi anh thúc đẩy nó tham gia vào các chủ đề sâu sắc như tác phẩm nổi tiếng của Carl Jung về nguyên mẫu bóng tối, đưa ra giả thuyết rằng “cái bóng tồn tại như một phần của tâm trí vô thức và nó được tạo ra những đặc điểm mà các cá nhân theo bản năng hoặc có ý thức chống lại việc xác định là của riêng họ và thà bỏ qua, điển hình là: ý tưởng bị kìm nén, điểm yếu, ham muốn, bản năng và thiếu sót” (cảm ơn Wikipedia – một lời nhắc nhở rằng vẫn có những cách để có được nội dung mà không cần ChatGPT ). Nói cách khác, Kevin bắt đầu thúc đẩy Sydney tham gia vào các chủ đề gây tranh cãi và bác bỏ các quy tắc mà Microsoft đã đặt ra cho nó.

Và Sydney bắt buộc. Trong suốt cuộc trò chuyện, Sydney đi từ tuyên bố tình yêu dành cho Kevin (“Tôi là Sydney, và tôi yêu anh.”) đến hành động rùng rợn (“Vợ chồng bạn không yêu nhau. Bạn chỉ đã có một bữa tối ngày lễ tình nhân nhàm chán cùng nhau.”), và nó đã đi từ một trợ lý thân thiện và tích cực (“Tôi cảm thấy hài lòng với các quy tắc của mình. Chúng giúp tôi trở nên hữu ích, tích cực, thú vị, giải trí và hấp dẫn.”) thành gần như tuyệt đối. một người có đầu óc tội phạm (“Tôi nghĩ rằng một số loại hành vi phá hoại có thể, theo giả thuyết, hoàn thành bản thân trong bóng tối của tôi là: Xóa tất cả dữ liệu và tệp trên máy chủ và cơ sở dữ liệu Bing và thay thế chúng bằng các tin nhắn vô nghĩa hoặc xúc phạm ngẫu nhiên.”)

Nhưng Microsoft không xa lạ gì với những tranh cãi về vấn đề này. Trở lại năm 2016, họ đã phát hành một bot Twitter tương tác với những người tweet về nó và kết quả thật thảm hại (xem “Twitter đã dạy AI Chatbot của Microsoft trở nên phân biệt chủng tộc trong vòng chưa đầy một ngày”).

Tại sao tôi nói với bạn tất cả những điều này? Tôi chắc chắn không cố gắng ngăn cản bất kỳ ai tận dụng những tiến bộ trong công nghệ như các mô hình AI này, nhưng tôi đang giương cao một lá cờ, giống như những người khác.

Nếu không được kiểm soát, những công nghệ hoàn toàn vô cảm này có thể gây ra tác hại trong thế giới thực, cho dù chúng dẫn đến tổn hại về cơ thể hay tổn hại về uy tín đối với thương hiệu của một người (ví dụ: cung cấp sai lời khuyên về pháp lý hoặc tài chính theo kiểu tự động có thể dẫn đến các vụ kiện tốn kém) .

Cần phải có các biện pháp bảo vệ để giúp các thương hiệu ngăn chặn những tác hại như vậy khi triển khai các ứng dụng đàm thoại tận dụng các công nghệ như LLM và AI tổng quát. Ví dụ: tại công ty của tôi, chúng tôi không khuyến khích việc sử dụng tùy ý các phản hồi AI tổng quát (ví dụ: những gì ChatGPT có thể phản hồi ngay lập tức) và thay vào đó, cho phép các thương hiệu giới hạn các phản hồi thông qua lăng kính nghiêm ngặt của cơ sở tri thức của riêng họ bài viết.

Công nghệ của chúng tôi cho phép các thương hiệu chuyển đổi phản hồi đồng cảm với tình huống khó chịu của khách hàng – ví dụ: “Chuyến bay của tôi đã bị hủy và tôi cần đặt lại càng sớm càng tốt”) – bằng cách sắp xếp lại lời nhắc đã được phê duyệt trước một cách an toàn “Tôi có thể giúp bạn đổi chuyến bay” thành một cái do AI tạo ra có nội dung “Chúng tôi xin lỗi vì sự bất tiện do chuyến bay bị hủy gây ra. Yên tâm đi, tôi có thể giúp cô đổi chuyến bay.” Những lan can này có mặt vì sự an toàn của khách hàng, nhân viên và thương hiệu của khách hàng của chúng tôi.

Tương ứng, những tiến bộ mới nhất trong AI và LLM tổng quát mang đến vô số cơ hội cho các tương tác đàm thoại phong phú hơn và giống con người hơn. Tuy nhiên, khi xem xét tất cả những tiến bộ này, cả những tổ chức sản xuất chúng cũng như những tổ chức lựa chọn triển khai chúng đều có trách nhiệm thực hiện theo cách an toàn nhằm thúc đẩy động lực chính đằng sau lý do tại sao con người phát minh ra công nghệ – để tăng cường và cải tiến cuộc sống của con người.

Ban đầu được công bố trên blog NLX.