Amazon Q đối mặt với những thách thức: Ảo giác và rò rỉ dữ liệu

Amazon Q đối mặt với những thách thức: Ảo giác và rò rỉ dữ liệu

Dấu thời gian: Ngày 5 tháng 2023 năm 2 00:XNUMX sáng
Nút nguồn: 2994031

Trợ lý AI sáng tạo của Amazon, Amazon Q, đang được xem xét kỹ lưỡng. Các báo cáo chỉ ra ảo giác và rò rỉ dữ liệu, làm dấy lên cuộc tranh luận về mức độ sẵn sàng sử dụng của công ty.

Khi mối lo ngại ngày càng gia tăng, các chuyên gia nhấn mạnh tầm quan trọng của việc thử nghiệm kỹ lưỡng, các quy định tiềm năng và vai trò của Amazon trong việc giải quyết những thách thức này.

Ảo giác và các vấn đề riêng tư xuất hiện

Các tài liệu bị rò rỉ do The Platformer báo cáo tiết lộ rằng Amazon Q đang vật lộn với những thông tin không chính xác, bao gồm cả ảo giác và rò rỉ dữ liệu. Các nghiên cứu nhấn mạnh sự thiếu chính xác của các mô hình ngôn ngữ lớn (LLM) khi kết nối với cơ sở dữ liệu của công ty. Các nhà phân tích theo dõi ngành cho rằng những vấn đề này khiến Amazon Q không phù hợp để đưa ra quyết định trong môi trường doanh nghiệp.

Pareekh Jain, Giám đốc điều hành của EIIRTren & Pareekh Consulting, chỉ ra những hạn chế, nói rõ, “Nếu có ảo giác, bạn không thể sử dụng chúng để ra quyết định trong môi trường công ty.” Trong khi Amazon định vị Q là người bạn đồng hành trong công việc của hàng triệu người thì các nhà phân tích lại đặt câu hỏi về mức độ sẵn sàng của nó đối với việc sử dụng rộng rãi trong doanh nghiệp.

Thử nghiệm những thách thức và tầm quan trọng của thử nghiệm nội bộ

Để giải quyết những vấn đề này, các chuyên gia nhấn mạnh sự cần thiết phải thử nghiệm nội bộ rộng rãi trước khi trí tuệ nhân tạo trợ lý đã sẵn sàng để phát hành thương mại. Jain nhấn mạnh tầm quan trọng của việc đánh giá dữ liệu và thuật toán để xác định nguyên nhân cốt lõi của sự thiếu chính xác.

Jain nói thêm: “Tôi nghĩ trước tiên họ cần phải thử nghiệm nhiều hơn với nhân viên nội bộ. “Họ phải xem liệu đó có phải là vấn đề với dữ liệu hay thuật toán hay không.” Amazon Q tận dụng 17 năm kinh nghiệm phát triển và dữ liệu của AWS, nhấn mạnh vai trò của Amazon trong bối cảnh AI đang phát triển nhanh chóng.

Đào tạo và các bước tiến tới cải tiến

Trong khi ảo giác đặt ra những thách thức, Sharath Srinivasamurthy, phó chủ tịch IDC, nhấn mạnh các bước để cải thiện việc sử dụng AI có khả năng tạo ra. Srinivasamurthy đề xuất các mô hình đào tạo về dữ liệu chất lượng cao hơn, tăng cường nhanh chóng, liên tục tinh chỉnh dữ liệu dành riêng cho tổ chức và kết hợp kiểm tra con người để phát hiện các phản hồi đáng ngờ.

“Đào tạo các mô hình về dữ liệu chất lượng tốt hơn, liên tục tinh chỉnh các mô hình về dữ liệu và chính sách của tổ chức hoặc ngành cụ thể, đồng thời tăng cường một lớp kiểm tra của con người trong trường hợp phản hồi đáng ngờ là một số bước cần được thực hiện để tận dụng tốt nhất công nghệ mới nổi này,” Srinivasamurthy nói.

Những lo ngại về quy định và lời kêu gọi AI có trách nhiệm

Báo cáo ảo giác thúc đẩy các cuộc thảo luận về sự cần thiết của các quy định, nhưng Sanchit Vir Gogia, nhà phân tích trưởng và Giám đốc điều hành tại Greyhound Research, cảnh báo về khả năng phản tác dụng. Gogia gợi ý rằng các quy định quá nghiêm ngặt có thể cản trở việc trao đổi và sử dụng dữ liệu, lấy sự thành công của GPT của OpenAI là một ví dụ về lợi ích của một ngành ít được quản lý hơn.

Jain lặp lại quan điểm này, nhấn mạnh tầm quan trọng của việc tự điều chỉnh. Jain giải thích: “Các quy định có thể tồn tại, nhưng trọng tâm chủ yếu là tự điều chỉnh”. “Nên tập trung vào AI có trách nhiệm, nơi logic có thể được giải thích cho khách hàng thay vì tạo ra các hệ thống ‘hộp đen’.”

Khi Amazon bước vào không gian AI tổng quát, mọi con mắt đều đổ dồn vào gã khổng lồ công nghệ để giải quyết những thách thức này, đặc biệt là khi xem xét việc họ gia nhập muộn so với các công ty dẫn đầu ngành như Microsoft và Google. Jain lưu ý rằng AWS là một công ty đi sau, làm tăng kỳ vọng và xem xét kỹ lưỡng về các công nghệ như chatbot.

Dấu thời gian:

Thêm từ MetaNews