Các tác nhân AI sáng tạo có khả năng tạo ra các phản hồi giống con người và tham gia vào các cuộc hội thoại bằng ngôn ngữ tự nhiên bằng cách sắp xếp một chuỗi lệnh gọi đến các mô hình nền tảng (FM) và các công cụ tăng cường khác dựa trên đầu vào của người dùng. Thay vì chỉ thực hiện các ý định được xác định trước thông qua cây quyết định tĩnh, các tổng đài viên có quyền tự chủ trong bối cảnh bộ công cụ có sẵn của họ. nền tảng Amazon là một dịch vụ được quản lý hoàn toàn giúp cung cấp FM hàng đầu của các công ty AI thông qua API cùng với công cụ dành cho nhà phát triển để giúp xây dựng và mở rộng quy mô các ứng dụng AI tổng hợp.
Trong bài đăng này, chúng tôi trình bày cách xây dựng một đại lý dịch vụ tài chính AI tổng quát do Amazon Bedrock cung cấp. Nhân viên hỗ trợ có thể hỗ trợ người dùng tìm thông tin tài khoản của họ, hoàn thành đơn xin vay tiền hoặc trả lời các câu hỏi bằng ngôn ngữ tự nhiên đồng thời trích dẫn nguồn cho các câu trả lời được cung cấp. Giải pháp này nhằm mục đích hoạt động như một bệ phóng để các nhà phát triển tạo ra các tác nhân đàm thoại được cá nhân hóa của riêng họ cho các ứng dụng khác nhau, chẳng hạn như nhân viên ảo và hệ thống hỗ trợ khách hàng. Mã giải pháp và nội dung triển khai có thể được tìm thấy trong Kho GitHub.
Amazon cung cấp giao diện hiểu ngôn ngữ tự nhiên (NLU) và xử lý ngôn ngữ tự nhiên (NLP) cho nguồn mở Đại lý đàm thoại LangChain được nhúng trong một Amplify AWS trang mạng. Đại lý được trang bị các công cụ bao gồm Anthropic Claude 2.1 FM được lưu trữ trên Amazon Bedrock và dữ liệu khách hàng tổng hợp được lưu trữ trên Máy phát điện Amazon và Amazon Kendra để cung cấp các khả năng sau:
- Cung cấp phản hồi được cá nhân hóa – Truy vấn DynamoDB để biết thông tin tài khoản khách hàng, chẳng hạn như chi tiết tóm tắt thế chấp, số dư đến hạn và ngày thanh toán tiếp theo
- Tiếp cận kiến thức tổng quát – Khai thác logic lý luận của tổng đài viên song song với lượng dữ liệu khổng lồ dùng để đào tạo trước các FM khác nhau được cung cấp thông qua Amazon Bedrock để đưa ra câu trả lời cho bất kỳ lời nhắc nào của khách hàng
- Sắp xếp các câu trả lời có ý kiến – Thông báo phản hồi của đại lý bằng cách sử dụng chỉ mục Amazon Kendra được định cấu hình bằng các nguồn dữ liệu đáng tin cậy: tài liệu của khách hàng được lưu trữ trong Dịch vụ lưu trữ đơn giản của Amazon (Amazon S3) và Trình thu thập thông tin web Amazon Kendra được cấu hình cho trang web của khách hàng
Tổng quan về giải pháp
Ghi demo
Bản ghi demo sau đây nêu bật chức năng của tổng đài viên và chi tiết triển khai kỹ thuật.
Giải pháp xây dựng
Sơ đồ sau minh họa kiến trúc giải pháp.
Quy trình phản hồi của tổng đài viên bao gồm các bước sau:
- Người dùng thực hiện hộp thoại bằng ngôn ngữ tự nhiên với tổng đài viên thông qua việc họ lựa chọn các kênh web, SMS hoặc giọng nói. Kênh web bao gồm một trang web được lưu trữ trên máy chủ Amplify với chatbot nhúng Amazon Lex dành cho khách hàng hư cấu. Các kênh thoại và SMS có thể được cấu hình tùy chọn bằng cách sử dụng Kết nối Amazon và tích hợp nhắn tin cho Amazon Lex. Mỗi yêu cầu của người dùng được Amazon Lex xử lý để xác định ý định của người dùng thông qua một quy trình được gọi là nhận dạng ý định, bao gồm việc phân tích và diễn giải thông tin đầu vào (văn bản hoặc lời nói) của người dùng để hiểu hành động hoặc mục đích dự định của người dùng.
- Amazon Lex sau đó sẽ gọi một AWS Lambda xử lý để thực hiện mục đích của người dùng. Hàm Lambda liên kết với chatbot Amazon Lex chứa logic và quy tắc nghiệp vụ cần thiết để xử lý ý định của người dùng. Lambda thực hiện các hành động cụ thể hoặc truy xuất thông tin dựa trên thông tin đầu vào của người dùng, đưa ra quyết định và tạo ra phản hồi thích hợp.
- Lambda trang bị logic cho tác nhân dịch vụ tài chính dưới dạng tác nhân đàm thoại LangChain có thể truy cập dữ liệu dành riêng cho khách hàng được lưu trữ trên DynamoDB, sắp xếp các phản hồi có ý kiến bằng cách sử dụng tài liệu và trang web của bạn do Amazon Kendra lập chỉ mục, đồng thời cung cấp câu trả lời kiến thức chung thông qua FM trên Amazon Bedrock. Phản hồi do Amazon Kendra tạo ra bao gồm ghi nhận nguồn, thể hiện cách bạn có thể cung cấp thêm thông tin theo ngữ cảnh cho tổng đài viên thông qua Truy xuất thế hệ tăng cường (GIẺ). RAG cho phép bạn nâng cao khả năng của nhân viên để tạo ra phản hồi chính xác hơn và phù hợp với ngữ cảnh hơn bằng cách sử dụng dữ liệu của riêng bạn.
Kiến trúc đại lý
Sơ đồ sau minh họa kiến trúc tác nhân.
Quy trình lập luận của tác nhân bao gồm các bước sau:
- Tác nhân đàm thoại LangChain kết hợp bộ nhớ hội thoại để nó có thể trả lời nhiều truy vấn bằng cách tạo theo ngữ cảnh. Bộ nhớ này cho phép tác nhân cung cấp các phản hồi có tính đến bối cảnh của cuộc trò chuyện đang diễn ra. Điều này đạt được thông qua việc tạo theo ngữ cảnh, trong đó tác nhân tạo ra các phản hồi phù hợp và phù hợp với ngữ cảnh dựa trên thông tin mà nó đã ghi nhớ từ cuộc trò chuyện. Nói một cách đơn giản hơn, nhân viên ghi nhớ những gì đã nói trước đó và sử dụng thông tin đó để trả lời nhiều câu hỏi theo cách có ý nghĩa trong cuộc thảo luận đang diễn ra. Đại lý của chúng tôi sử dụng Lớp lịch sử tin nhắn trò chuyện DynamoDB của LangChain như một bộ đệm bộ nhớ hội thoại để nó có thể gợi lại các tương tác trong quá khứ và nâng cao trải nghiệm người dùng bằng các phản hồi có ý nghĩa hơn, phù hợp với ngữ cảnh hơn.
- Tác nhân sử dụng Anthropic Claude 2.1 trên Amazon Bedrock để hoàn thành nhiệm vụ mong muốn thông qua một loạt các kiểu nhập văn bản tự tạo cẩn thận được gọi là nhắc nhở. Mục tiêu chính của kỹ thuật kịp thời là gợi ra những phản hồi cụ thể và chính xác từ FM. Các kỹ thuật kỹ thuật nhanh chóng khác nhau bao gồm:
- bắn không – Một câu hỏi duy nhất được đưa ra cho mô hình mà không có bất kỳ manh mối bổ sung nào. Mô hình dự kiến sẽ tạo ra phản hồi chỉ dựa trên câu hỏi nhất định.
- bắn ít – Một bộ câu hỏi mẫu và câu trả lời tương ứng được đính kèm trước câu hỏi thực tế. Bằng cách cho mô hình tiếp xúc với những ví dụ này, mô hình sẽ học cách phản ứng theo cách tương tự.
- Chuỗi suy nghĩ – Một kiểu nhắc nhở ngắn gọn cụ thể trong đó lời nhắc được thiết kế để chứa một loạt các bước lý luận trung gian, hướng dẫn người mẫu thông qua quá trình suy nghĩ logic, cuối cùng dẫn đến câu trả lời mong muốn.
Tác nhân của chúng tôi sử dụng lý luận theo chuỗi suy nghĩ bằng cách thực hiện một loạt hành động khi nhận được yêu cầu. Sau mỗi hành động, tác nhân bước vào bước quan sát, nơi nó thể hiện một ý nghĩ. Nếu vẫn chưa đạt được câu trả lời cuối cùng, tác nhân sẽ lặp lại, chọn các hành động khác nhau để tiến tới đạt được câu trả lời cuối cùng. Xem mã ví dụ sau:
Suy nghĩ: Tôi có cần sử dụng một công cụ không? Đúng
Hành động: Hành động cần thực hiện
Đầu vào hành động: Đầu vào của hành động
Quan sát: Kết quả của hành động
Suy nghĩ: Tôi có cần sử dụng một công cụ không? KHÔNG
Đại lý FSI: [câu trả lời và tài liệu nguồn]
- Là một phần trong các lộ trình lý luận khác nhau và các lựa chọn tự đánh giá của đại lý để quyết định hành động tiếp theo, nó có khả năng truy cập các nguồn dữ liệu khách hàng tổng hợp thông qua một Công cụ truy xuất chỉ mục Amazon Kendra. Bằng cách sử dụng Amazon Kendra, nhân viên thực hiện tìm kiếm theo ngữ cảnh trên nhiều loại nội dung, bao gồm tài liệu, Câu hỏi thường gặp, cơ sở kiến thức, sách hướng dẫn và trang web. Để biết thêm chi tiết về các nguồn dữ liệu được hỗ trợ, hãy tham khảo Nguồn dữ liệu. Tổng đài viên có quyền sử dụng công cụ này để cung cấp các câu trả lời có ý kiến cho các lời nhắc của người dùng cần được trả lời bằng cách sử dụng thư viện kiến thức có thẩm quyền do khách hàng cung cấp, thay vì kho kiến thức tổng quát hơn được sử dụng để huấn luyện trước Amazon Bedrock FM.
hướng dẫn triển khai
Trong các phần sau, chúng tôi thảo luận về các bước chính để triển khai giải pháp, bao gồm cả trước khi triển khai và sau triển khai.
triển khai trước
Trước khi triển khai giải pháp, bạn cần tạo phiên bản phân nhánh của kho lưu trữ giải pháp bằng webhook được bảo mật bằng mã thông báo để tự động hóa việc triển khai liên tục trang web Amplify của bạn. Cấu hình Amplify trỏ đến kho lưu trữ nguồn GitHub mà từ đó giao diện người dùng của trang web của chúng tôi được xây dựng.
Ngã ba và nhân bản ví dụ về generative-ai-amazon-bedrock-langchain-agent- kho
- Để kiểm soát mã nguồn xây dựng trang web Amplify của bạn, hãy làm theo hướng dẫn trong Ngã ba một kho lưu trữ để phân nhánh kho lưu trữ ví dụ về generative-ai-amazon-bedrock-langchain-agent-example. Điều này tạo ra một bản sao của kho lưu trữ bị ngắt kết nối khỏi cơ sở mã gốc, do đó bạn có thể thực hiện các sửa đổi thích hợp.
- Vui lòng lưu ý URL kho lưu trữ phân nhánh của bạn để sử dụng nhằm sao chép kho lưu trữ trong bước tiếp theo và đặt cấu hình biến môi trường GITHUB_PAT được sử dụng trong tập lệnh tự động hóa triển khai giải pháp.
- Sao chép kho lưu trữ rẽ nhánh của bạn bằng lệnh git clone:
Tạo mã thông báo truy cập cá nhân GitHub
Trang web được lưu trữ trên Amplify sử dụng Mã thông báo truy cập cá nhân GitHub (PAT) làm mã thông báo OAuth để kiểm soát nguồn của bên thứ ba. Mã thông báo OAuth được sử dụng để tạo webhook và khóa triển khai chỉ đọc bằng cách sử dụng nhân bản SSH.
- Để tạo PAT của bạn, hãy làm theo hướng dẫn trong Tạo mã thông báo truy cập cá nhân (cổ điển). Bạn có thể thích sử dụng một ứng dụng GitHub để truy cập các tài nguyên thay mặt cho một tổ chức hoặc để tích hợp lâu dài.
- Hãy lưu ý PAT của bạn trước khi đóng trình duyệt—bạn sẽ sử dụng nó để định cấu hình biến môi trường GITHUB_PAT được sử dụng trong tập lệnh tự động hóa triển khai giải pháp. Tập lệnh sẽ xuất bản PAT của bạn tới Quản lý bí mật AWS sử dụng Giao diện dòng lệnh AWS (AWS CLI) và tên bí mật sẽ được sử dụng làm GitHubTokenSecretName Hình thành đám mây AWS tham số.
Triển khai
Tập lệnh tự động triển khai giải pháp sử dụng mẫu CloudFormation được tham số hóa, GenAI-FSI-Agent.yml, để tự động cung cấp các tài nguyên giải pháp sau:
- Trang web Amplify để mô phỏng môi trường giao diện người dùng của bạn.
- Một bot Amazon Lex được cấu hình thông qua gói triển khai nhập bot.
- Bốn bảng DynamoDB:
- Bảng tài khoản người dùng đang chờ xử lý – Ghi lại các giao dịch đang chờ xử lý (ví dụ: đơn xin vay vốn).
- Bảng tài khoản người dùng hiện có – Chứa thông tin tài khoản người dùng (ví dụ: tóm tắt tài khoản thế chấp).
- Bảng chỉ mục hội thoại – Theo dõi trạng thái hội thoại.
- Bảng hội thoại - Lưu trữ lịch sử hội thoại.
- Vùng lưu trữ S3 chứa trình xử lý tác nhân Lambda, trình tải dữ liệu Lambda và các gói triển khai Amazon Lex, cùng với các câu hỏi thường gặp của khách hàng và các tài liệu ví dụ về đơn đăng ký thế chấp.
- Hai hàm Lambda:
- Người xử lý đại lý – Chứa logic tác nhân đàm thoại LangChain có thể sử dụng thông minh nhiều công cụ khác nhau dựa trên đầu vào của người dùng.
- trình tải dữ liệu – Tải dữ liệu tài khoản khách hàng mẫu vào UserExistingAccountsTable và được gọi dưới dạng tài nguyên CloudFormation tùy chỉnh trong quá trình tạo ngăn xếp.
- Lớp Lambda dành cho các thư viện Amazon Bedrock Boto3, LangChain và pdfrw. Lớp này cung cấp cho thư viện FM của LangChain mô hình Amazon Bedrock làm FM cơ bản và cung cấp pdfrw dưới dạng thư viện PDF nguồn mở để tạo và sửa đổi các tệp PDF.
- Chỉ mục Amazon Kendra cung cấp chỉ mục có thể tìm kiếm về thông tin đáng tin cậy của khách hàng, bao gồm tài liệu, Câu hỏi thường gặp, cơ sở kiến thức, hướng dẫn sử dụng, trang web, v.v.
- Hai nguồn dữ liệu Amazon Kendra:
- Amazon S3 – Lưu trữ một ví dụ về tài liệu Câu hỏi thường gặp của khách hàng.
- Trình thu thập thông tin web Amazon Kendra – Được định cấu hình bằng miền gốc mô phỏng trang web dành riêng cho khách hàng (ví dụ: .com).
- Quản lý truy cập và nhận dạng AWS (IAM) cho các tài nguyên trước đó.
AWS CloudFormation điền trước các tham số ngăn xếp bằng các giá trị mặc định được cung cấp trong mẫu. Để cung cấp các giá trị đầu vào thay thế, bạn có thể chỉ định tham số làm biến môi trường được tham chiếu trong các cặp `ParameterKey=,ParameterValue=` trong lệnh `aws cloudformation create-stack` của tập lệnh shell sau.
- Trước khi bạn chạy tập lệnh shell, hãy điều hướng đến phiên bản phân nhánh của kho lưu trữ generative-ai-amazon-bedrock-langchain-agent-example làm thư mục làm việc của bạn và sửa đổi các quyền của tập lệnh shell để có thể thực thi được:
- Đặt các biến môi trường Kho lưu trữ Amplify và GitHub PAT được tạo trong các bước trước khi triển khai:
- Cuối cùng, chạy tập lệnh tự động hóa triển khai giải pháp để triển khai các tài nguyên của giải pháp, bao gồm cả GenAI-FSI-Agent.yml Ngăn xếp CloudFormation:
source ./create-stack.sh
Tập lệnh tự động hóa triển khai giải pháp
Trước đó source ./create-stack.sh shell
chạy các lệnh AWS CLI sau để triển khai ngăn xếp giải pháp:
Hậu triển khai
Trong phần này, chúng tôi thảo luận về các bước sau triển khai để khởi chạy một ứng dụng giao diện người dùng nhằm mô phỏng ứng dụng Sản xuất của khách hàng. Đại lý dịch vụ tài chính sẽ hoạt động như một trợ lý được nhúng trong giao diện người dùng web mẫu.
Khởi chạy giao diện người dùng web cho chatbot của bạn
Sản phẩm Giao diện web Amazon Lex, còn được gọi là giao diện người dùng chatbot, cho phép bạn nhanh chóng cung cấp ứng dụng khách web toàn diện cho chatbot Amazon Lex. Giao diện người dùng tích hợp với Amazon Lex để tạo ra một plugin JavaScript sẽ kết hợp tiện ích trò chuyện do Amazon Lex cung cấp vào ứng dụng web hiện có của bạn. Trong trường hợp này, chúng tôi sử dụng giao diện người dùng web để mô phỏng ứng dụng web hiện có của khách hàng bằng chatbot Amazon Lex được nhúng. Hoàn thành các bước sau:
- Làm theo hướng dẫn để triển khai ngăn xếp CloudFormation giao diện người dùng web Amazon Lex.
- Trên bảng điều khiển AWS CloudFormation, hãy điều hướng đến ngăn xếp Kết quả đầu ra tab và xác định giá trị cho
SnippetUrl
.
- Sao chép đoạn mã Iframe giao diện người dùng web, đoạn này sẽ giống với định dạng bên dưới Thêm giao diện người dùng ChatBot vào trang web của bạn dưới dạng Iframe.
- Chỉnh sửa phiên bản phân nhánh của kho lưu trữ nguồn Amplify GitHub bằng cách thêm plugin JavaScript giao diện người dùng web của bạn vào phần được gắn nhãn
<-- Paste your Lex Web UI JavaScript plugin here -->
cho mỗi tệp HTML trong phần thư mục phía trước:index.html
,contact.html
vàabout.html
.
Amplify cung cấp quy trình xây dựng và phát hành tự động kích hoạt dựa trên các cam kết mới đối với kho lưu trữ phân nhánh của bạn và xuất bản phiên bản mới của trang web lên miền Amplify của bạn. Bạn có thể xem trạng thái triển khai trên bảng điều khiển Amplify.
Truy cập trang web Khuếch đại
Với plugin JavaScript giao diện người dùng web Amazon Lex đã sẵn sàng, bạn hiện đã sẵn sàng khởi chạy trang web demo Amplify của mình.
- Để truy cập miền trang web của bạn, hãy điều hướng đến ngăn xếp CloudFormation Kết quả đầu ra và tìm URL tên miền Khuếch đại. Ngoài ra, sử dụng lệnh sau:
- Sau khi truy cập URL miền Amplify của mình, bạn có thể tiến hành kiểm tra và xác thực.
Kiểm tra và xác nhận
Quy trình kiểm tra sau đây nhằm mục đích xác minh rằng tổng đài viên xác định và hiểu chính xác ý định của người dùng trong việc truy cập dữ liệu khách hàng (chẳng hạn như thông tin tài khoản), thực hiện quy trình công việc kinh doanh thông qua các ý định được xác định trước (chẳng hạn như hoàn thành đơn xin vay vốn) và trả lời các truy vấn chung, chẳng hạn như lời nhắc mẫu sau:
- Tại sao tôi nên sử dụng ?
- Mức giá của họ cạnh tranh như thế nào?
- Tôi nên sử dụng loại thế chấp nào?
- Xu hướng thế chấp hiện nay là gì?
- Tôi cần tiết kiệm bao nhiêu để trả trước?
- Tôi sẽ phải trả những chi phí nào khác khi kết thúc?
Độ chính xác của phản hồi được xác định bằng cách đánh giá mức độ liên quan, mạch lạc và tính chất con người của các câu trả lời do Amazon Bedrock cung cấp cho Anthropic Claude 2.1 FM. Các liên kết nguồn được cung cấp cùng với mỗi phản hồi (ví dụ: .com dựa trên cấu hình Trình thu thập thông tin web của Amazon Kendra) cũng phải được xác nhận là đáng tin cậy.
Cung cấp phản hồi được cá nhân hóa
Xác minh rằng tổng đài viên truy cập thành công và sử dụng thông tin khách hàng có liên quan trong DynamoDB để điều chỉnh phản hồi dành riêng cho người dùng.
Lưu ý rằng việc sử dụng xác thực mã PIN trong tác nhân chỉ nhằm mục đích trình diễn và không được sử dụng trong bất kỳ hoạt động triển khai sản xuất nào.
Sắp xếp các câu trả lời có ý kiến
Xác thực rằng các câu hỏi gây tranh cãi được nhân viên đưa ra câu trả lời đáng tin cậy, tìm nguồn trả lời chính xác dựa trên các tài liệu và trang web đáng tin cậy của khách hàng được Amazon Kendra lập chỉ mục.
Cung cấp thế hệ theo ngữ cảnh
Xác định khả năng của tổng đài viên trong việc cung cấp phản hồi phù hợp theo ngữ cảnh dựa trên lịch sử trò chuyện trước đó.
Tiếp cận kiến thức tổng quát
Xác nhận quyền truy cập của tổng đài viên vào thông tin kiến thức chung đối với các truy vấn không dành riêng cho khách hàng, không có ý kiến, yêu cầu phản hồi chính xác và mạch lạc dựa trên dữ liệu đào tạo của Amazon Bedrock FM và RAG.
Chạy các ý định được xác định trước
Đảm bảo tổng đài viên diễn giải chính xác và thực hiện đầy đủ các lời nhắc của người dùng trong đàm thoại nhằm chuyển hướng đến các ý định được xác định trước, chẳng hạn như hoàn thành đơn xin vay vốn như một phần của quy trình làm việc của doanh nghiệp.
Sau đây là tài liệu đăng ký khoản vay được hoàn thành thông qua quy trình hội thoại.
Chức năng hỗ trợ đa kênh có thể được kiểm tra cùng với các biện pháp đánh giá trước đó trên các kênh web, SMS và thoại. Để biết thêm thông tin về việc tích hợp chatbot với các dịch vụ khác, hãy tham khảo Tích hợp bot Amazon Lex V2 với Twilio SMS và Thêm bot Amazon Lex vào Amazon Connect.
Làm sạch
Để tránh bị tính phí trong tài khoản AWS của bạn, hãy dọn sạch các tài nguyên được cung cấp của giải pháp.
- Thu hồi mã thông báo truy cập cá nhân GitHub. GitHub PAT được định cấu hình với giá trị hết hạn. Nếu bạn muốn đảm bảo rằng PAT của bạn không thể được sử dụng để truy cập theo chương trình vào kho lưu trữ Amplify GitHub đã phân nhánh của bạn trước khi kho này hết hạn, bạn có thể thu hồi PAT bằng cách làm theo hướng dẫn sau: Hướng dẫn của GitHub repo.
- Xóa ngăn xếp GenAI-FSI-Agent.yml CloudFormation và các tài nguyên giải pháp khác bằng cách sử dụng tập lệnh tự động xóa giải pháp. Các lệnh sau sử dụng tên ngăn xếp mặc định. Nếu bạn tùy chỉnh tên ngăn xếp, hãy điều chỉnh các lệnh cho phù hợp.
# export STACK_NAME=<YOUR-STACK-NAME>
./delete-stack.sh
Tập lệnh tự động xóa giải pháp
Sản phẩm
delete-stack.sh shell
tập lệnh sẽ xóa các tài nguyên được cung cấp ban đầu bằng tập lệnh tự động hóa triển khai giải pháp, bao gồm cả ngăn xếp GenAI-FSI-Agent.yml CloudFormation.
Những cân nhắc
Mặc dù giải pháp trong bài đăng này thể hiện khả năng của một đại lý dịch vụ tài chính AI tổng hợp do Amazon Bedrock cung cấp, nhưng cần phải nhận ra rằng giải pháp này chưa sẵn sàng để đưa vào sản xuất. Đúng hơn, nó đóng vai trò như một ví dụ minh họa cho các nhà phát triển muốn tạo ra các tác nhân đàm thoại được cá nhân hóa cho các ứng dụng đa dạng như nhân viên ảo và hệ thống hỗ trợ khách hàng. Lộ trình sản xuất của nhà phát triển sẽ lặp lại giải pháp mẫu này với những cân nhắc sau.
An ninh và sự riêng tư
Đảm bảo an toàn dữ liệu và quyền riêng tư của người dùng trong suốt quá trình thực hiện. Triển khai các biện pháp kiểm soát truy cập và cơ chế mã hóa thích hợp để bảo vệ thông tin nhạy cảm. Các giải pháp như đại lý dịch vụ tài chính AI tổng quát sẽ được hưởng lợi từ dữ liệu chưa có sẵn cho FM cơ bản, điều này thường có nghĩa là bạn sẽ muốn sử dụng dữ liệu riêng tư của riêng mình để có bước nhảy vọt lớn nhất về khả năng. Hãy xem xét các phương pháp hay nhất sau đây:
- Giữ bí mật, giữ nó an toàn – Bạn sẽ muốn dữ liệu này luôn được bảo vệ, bảo mật và riêng tư hoàn toàn trong quá trình tạo và muốn kiểm soát cách chia sẻ và sử dụng dữ liệu này.
- Thiết lập các rào cản sử dụng – Hiểu cách dịch vụ sử dụng dữ liệu trước khi cung cấp dữ liệu đó cho nhóm của bạn. Tạo và phân phối các quy tắc về dữ liệu nào có thể được sử dụng với dịch vụ nào. Hãy làm rõ những điều này với nhóm của bạn để họ có thể di chuyển nhanh chóng và tạo nguyên mẫu một cách an toàn.
- Liên quan đến pháp lý, sớm hay muộn – Yêu cầu nhóm Pháp lý của bạn xem xét các điều khoản và điều kiện cũng như thẻ dịch vụ của các dịch vụ bạn dự định sử dụng trước khi bắt đầu chạy bất kỳ dữ liệu nhạy cảm nào thông qua chúng. Đối tác pháp lý của bạn chưa bao giờ quan trọng hơn ngày hôm nay.
Như một ví dụ về cách chúng tôi đang nghĩ về vấn đề này tại AWS với Amazon Bedrock: Tất cả dữ liệu đều được mã hóa và không rời khỏi VPC của bạn, đồng thời Amazon Bedrock tạo một bản sao riêng của FM cơ sở mà chỉ khách hàng mới có thể truy cập được và tinh chỉnh hoặc đào tạo bản sao riêng này của mô hình.
Thử nghiệm chấp nhận của người dùng
Tiến hành thử nghiệm chấp nhận của người dùng (UAT) với người dùng thực để đánh giá hiệu suất, khả năng sử dụng và sự hài lòng của đại lý dịch vụ tài chính AI tổng quát. Thu thập phản hồi và thực hiện các cải tiến cần thiết dựa trên ý kiến đóng góp của người dùng.
Triển khai và giám sát
Triển khai tác nhân đã được thử nghiệm đầy đủ trên AWS, đồng thời triển khai giám sát và ghi nhật ký để theo dõi hiệu suất của tác nhân, xác định sự cố và tối ưu hóa hệ thống khi cần. Tính năng giám sát và khắc phục sự cố của Lambda được bật theo mặc định cho trình xử lý Lambda của tác nhân.
Bảo trì và cập nhật
Thường xuyên cập nhật cho đại lý các phiên bản và dữ liệu FM mới nhất để nâng cao tính chính xác và hiệu quả của nó. Giám sát dữ liệu dành riêng cho khách hàng trong DynamoDB và đồng bộ hóa việc lập chỉ mục nguồn dữ liệu Amazon Kendra của bạn nếu cần.
Kết luận
Trong bài đăng này, chúng tôi đã đi sâu vào thế giới thú vị của các tác nhân AI tổng hợp và khả năng của chúng trong việc tạo điều kiện thuận lợi cho các tương tác giống con người thông qua việc điều phối các cuộc gọi tới FM và các công cụ bổ sung khác. Bằng cách làm theo hướng dẫn này, bạn có thể sử dụng Bedrock, LangChain và các tài nguyên khách hàng hiện có để triển khai, kiểm tra và xác thực thành công một đại lý đáng tin cậy cung cấp cho người dùng hỗ trợ tài chính chính xác và được cá nhân hóa thông qua các cuộc trò chuyện bằng ngôn ngữ tự nhiên.
Trong bài đăng sắp tới, chúng tôi sẽ trình bày cách cung cấp chức năng tương tự bằng cách sử dụng phương pháp thay thế với Đại lý cho Amazon Bedrock và Cơ sở kiến thức về Amazon Bedrock. Việc triển khai hoàn toàn do AWS quản lý này sẽ khám phá thêm cách cung cấp khả năng tự động hóa và tìm kiếm dữ liệu thông minh thông qua các tác nhân được cá nhân hóa nhằm thay đổi cách người dùng tương tác với ứng dụng của bạn, giúp các tương tác trở nên tự nhiên, hiệu quả và hiệu quả hơn.
Giới thiệu về tác giả
Kyle T. Blocksom là Kiến trúc sư giải pháp cấp cao của AWS có trụ sở tại Nam California. Niềm đam mê của Kyle là gắn kết mọi người lại với nhau và tận dụng công nghệ để mang đến những giải pháp mà khách hàng yêu thích. Ngoài công việc, anh ấy thích lướt sóng, ăn uống, đấu vật với con chó của mình và chiều chuộng cháu gái và cháu trai của mình.
- Phân phối nội dung và PR được hỗ trợ bởi SEO. Được khuếch đại ngay hôm nay.
- PlatoData.Network Vertical Generative Ai. Trao quyền cho chính mình. Truy cập Tại đây.
- PlatoAiStream. Thông minh Web3. Kiến thức khuếch đại. Truy cập Tại đây.
- Trung tâmESG. Than đá, công nghệ sạch, Năng lượng, Môi trường Hệ mặt trời, Quản lý chất thải. Truy cập Tại đây.
- PlatoSức khỏe. Tình báo thử nghiệm lâm sàng và công nghệ sinh học. Truy cập Tại đây.
- nguồn: https://aws.amazon.com/blogs/machine-learning/build-generative-ai-agents-with-amazon-bedrock-amazon-dynamodb-amazon-kendra-amazon-lex-and-langchain/
- : có
- :là
- :không phải
- :Ở đâu
- $ LÊN
- 1
- 10
- 100
- 11
- 32
- 7
- 799
- 8
- 9
- a
- có khả năng
- Giới thiệu
- chấp nhận
- truy cập
- có thể truy cập
- truy cập
- cho phù hợp
- Tài khoản
- chính xác
- chính xác
- đạt được
- ngang qua
- Hành động
- Hoạt động
- hành động
- thực tế
- thêm
- thêm vào
- điều chỉnh
- Đại lý
- đại lý
- AI
- Định hướng
- Mục tiêu
- Tất cả
- cho phép
- dọc theo
- Đã
- Ngoài ra
- thay thế
- đàn bà gan dạ
- Amazon Kendra
- Amazon
- Amazon Web Services
- số lượng
- khoa trương
- an
- phân tích
- và
- trả lời
- câu trả lời
- nhân loại
- bất kì
- api
- Các Ứng Dụng
- các ứng dụng
- phương pháp tiếp cận
- thích hợp
- kiến trúc
- LÀ
- AS
- thẩm định, lượng định, đánh giá
- Tài sản
- hỗ trợ
- Hỗ trợ
- Trợ lý
- liên kết
- At
- tăng cường
- Xác thực
- tự động hóa
- Tự động
- Tự động hóa
- tự trị
- có sẵn
- tránh
- AWS
- Hình thành đám mây AWS
- AWS Lambda
- Cân đối
- cơ sở
- dựa
- BE
- được
- trước
- thay mặt
- hưởng lợi
- BEST
- thực hành tốt nhất
- lớn nhất
- Bot
- mang lại
- đệm
- xây dựng
- xây dựng
- xây dựng
- kinh doanh
- by
- california
- gọi là
- Cuộc gọi
- CAN
- khả năng
- khả năng
- có khả năng
- Thẻ
- cẩn thận
- trường hợp
- CD
- chuỗi
- thay đổi
- Kênh
- kênh
- tải
- trò chuyện trên mạng
- chatbot
- chatbot
- sự lựa chọn
- lựa chọn
- trích dẫn
- cổ điển
- giống cá lăng
- trong sáng
- khách hàng
- đóng cửa
- mã
- cơ sở mã
- mạch lạc
- COM
- cam kết
- Các công ty
- cạnh tranh
- bổ túc
- hoàn thành
- Hoàn thành
- hoàn toàn
- hoàn thành
- toàn diện
- điều kiện
- Cấu hình
- cấu hình
- XÁC NHẬN
- kết hợp
- Hãy xem xét
- sự cân nhắc
- An ủi
- chứa
- chứa
- nội dung
- Loại nội dung
- bối cảnh
- theo ngữ cảnh
- liên tục
- điều khiển
- điều khiển
- Công ước
- Conversation
- đàm thoại
- cuộc hội thoại
- đúng
- Tương ứng
- Chi phí
- khóa học mơ ước
- thu thập thông tin
- tạo
- tạo ra
- tạo ra
- Tạo
- tạo
- đáng tin
- Current
- khách hàng
- khách hàng
- dữ liệu khách hàng
- Hỗ trợ khách hàng
- khách hàng
- tùy chỉnh
- dữ liệu
- bảo mật dữ liệu
- quyết định
- quyết định
- cây quyết định
- quyết định
- Mặc định
- cung cấp
- giao
- Demo
- chứng minh
- thể hiện
- triển khai
- triển khai
- thiết kế
- mong muốn
- chi tiết
- Xác định
- xác định
- Nhà phát triển
- phát triển
- Đối thoại
- khác nhau
- ngắt kết nối
- thảo luận
- thảo luận
- phân phát
- khác nhau
- do
- tài liệu
- tài liệu
- làm
- Dog
- miền
- xuống
- dự thảo
- hai
- suốt trong
- e
- mỗi
- Sớm hơn
- bỏ lỡ
- Hiệu quả
- hiệu quả
- hiệu quả
- nhúng
- kích hoạt
- mã hóa
- mã hóa
- tương tác
- Kỹ Sư
- nâng cao
- đảm bảo
- Nhập cảnh
- Môi trường
- đã trang bị
- thiết yếu
- Ether (ETH)
- đánh giá
- đánh giá
- ví dụ
- ví dụ
- thú vị
- hiện tại
- dự kiến
- kinh nghiệm
- hết hạn
- hết hạn
- khám phá
- xuất khẩu
- bày tỏ
- tạo điều kiện
- Câu Hỏi Thường Gặp
- thông tin phản hồi
- Tập tin
- Các tập tin
- cuối cùng
- tài chính
- dịch vụ tài chính
- tìm kiếm
- cuối
- dòng chảy
- theo
- tiếp theo
- Trong
- ngã ba
- định dạng
- tìm thấy
- Nền tảng
- từ
- lối vào
- hoàn thành
- hoàn thành
- đầy đủ
- chức năng
- chức năng
- chức năng
- xa hơn
- thu thập
- Tổng Quát
- tạo ra
- tạo ra
- tạo
- tạo ra
- thế hệ
- thế hệ
- Trí tuệ nhân tạo
- đi
- GitHub
- được
- hướng dẫn
- hướng dẫn
- khai thác
- Có
- he
- giúp đỡ
- tại đây
- nổi bật
- của mình
- lịch sử
- tổ chức
- host
- Độ đáng tin của
- Hướng dẫn
- HTML
- http
- HTTPS
- i
- IAM
- xác định
- xác định
- Bản sắc
- if
- minh họa
- thực hiện
- thực hiện
- nhập khẩu
- quan trọng
- cải tiến
- in
- bao gồm
- bao gồm
- bao gồm
- Bao gồm
- kết hợp
- kết hợp
- chỉ số
- lập chỉ mục
- báo
- thông tin
- đầu vào
- đầu vào
- thay vì
- hướng dẫn
- cụ
- Tích hợp
- Tích hợp
- tích hợp
- Thông minh
- Tự động hóa thông minh
- dự định
- ý định
- tương tác
- tương tác
- Giao thức
- Trung cấp
- nội bộ
- trong
- viện dẫn
- viện dẫn
- liên quan đến
- các vấn đề
- IT
- ITS
- JavaScript
- jpg
- nhảy
- Giữ
- Key
- kiến thức
- nổi tiếng
- Ngôn ngữ
- mới nhất
- phóng
- ra mắt
- Launchpad
- lớp
- hàng đầu
- Rời bỏ
- Hợp pháp
- Tỉ lệ đòn bẩy
- thư viện
- Thư viện
- Lượt thích
- Dòng
- liên kết
- loader
- tải
- cho vay
- khai thác gỗ
- logic
- hợp lý
- yêu
- thấp hơn
- làm cho
- LÀM CHO
- Làm
- quản lý
- giám đốc
- cách thức
- Có thể..
- có ý nghĩa
- có nghĩa
- các biện pháp
- cơ chế
- Bộ nhớ
- tin nhắn
- hoàn tất
- MIT
- kiểu mẫu
- mô hình
- Sửa đổi
- sửa đổi
- Màn Hình
- giám sát
- chi tiết
- Thế chấp
- di chuyển
- nhiều
- nhiều
- phải
- tên
- đặt tên
- Tự nhiên
- Ngôn ngữ tự nhiên
- Xử lý ngôn ngữ tự nhiên
- Hiểu ngôn ngữ tự nhiên
- Thiên nhiên
- Điều hướng
- cần thiết
- Cần
- cần thiết
- không bao giờ
- Mới
- tiếp theo
- nlp
- nlu
- Không
- ghi
- tại
- lời thề
- Mục tiêu
- quan sát
- of
- cung cấp
- thường
- on
- đang diễn ra
- có thể
- mở
- mã nguồn mở
- hoạt động
- Khăng khăng
- Tối ưu hóa
- or
- điều phối
- dàn nhạc
- cơ quan
- nguyên
- ban đầu
- Nền tảng khác
- vfoXNUMXfipXNUMXhfpiXNUMXufhpiXNUMXuf
- kết quả đầu ra
- bên ngoài
- kết thúc
- tổng quan
- riêng
- gói
- gói
- cặp
- tham số
- thông số
- một phần
- Đối tác
- niềm đam mê
- qua
- con đường
- đường dẫn
- Trả
- thanh toán
- cấp phát chính
- người
- thực hiện
- hiệu suất
- thực hiện
- quyền
- riêng
- Cá nhân
- đường ống dẫn
- Nơi
- kế hoạch
- plato
- Thông tin dữ liệu Plato
- PlatoDữ liệu
- xin vui lòng
- Plugin
- điểm
- Bài đăng
- quyền lực
- -
- thực hành
- trước
- xác định trước
- thích hơn
- trình bày
- trước
- chính
- riêng tư
- riêng
- thủ tục
- tiến hành
- quá trình
- xử lý
- xử lý
- sản xuất
- sản xuất
- Sản lượng
- lập trình
- Tiến độ
- nhắc nhở
- bảo vệ
- bảo vệ
- nguyên mẫu
- cho
- cung cấp
- cung cấp
- cung cấp
- công khai
- xuất bản
- Xuất bản
- mục đích
- mục đích
- truy vấn
- câu hỏi
- Câu hỏi
- Mau
- phạm vi
- Giá
- hơn
- Đạt
- đạt
- sẵn sàng
- thực
- nhận
- công nhận
- công nhận
- ghi âm
- hồ sơ
- xem
- phát hành
- có liên quan
- đáng tin cậy
- xa
- kho
- yêu cầu
- yêu cầu
- cần phải
- tài nguyên
- Thông tin
- Trả lời
- phản ứng
- phản ứng
- kết quả
- kết quả
- xem xét
- nguồn gốc
- quy tắc
- chạy
- chạy
- chạy
- một cách an toàn
- Nói
- tương tự
- sự hài lòng
- lưu
- Quy mô
- kịch bản
- Tìm kiếm
- Bí mật
- bí mật
- Phần
- phần
- an toàn
- an ninh
- xem
- lựa chọn
- ý nghĩa
- nhạy cảm
- riêng biệt
- Loạt Sách
- phục vụ
- dịch vụ
- DỊCH VỤ
- định
- chia sẻ
- Shell
- nên
- tương tự
- Đơn giản
- đơn giản
- duy nhất
- SMS
- đoạn
- So
- chỉ duy nhất
- giải pháp
- Giải pháp
- nguồn
- mã nguồn
- nguồn
- Tìm nguồn cung ứng
- Miền Nam
- riêng
- phát biểu
- ngăn xếp
- Bắt đầu
- Tiểu bang
- Trạng thái
- ở lại
- Bước
- Các bước
- là gắn
- lưu trữ
- cửa hàng
- phong cách
- Thành công
- như vậy
- bộ
- TÓM TẮT
- vật tư
- hỗ trợ
- Hệ thống hỗ trợ
- Hỗ trợ
- sợi tổng hợp
- hệ thống
- hệ thống
- T
- Hãy
- Tandem
- Nhiệm vụ
- đội
- Kỹ thuật
- kỹ thuật
- Công nghệ
- mẫu
- về
- điều khoản và điều kiện
- thử nghiệm
- thử nghiệm
- Kiểm tra
- văn bản
- hơn
- việc này
- Sản phẩm
- thông tin
- Nguồn
- cung cấp their dịch
- Them
- sau đó
- Kia là
- họ
- Suy nghĩ
- của bên thứ ba
- điều này
- nghĩ
- Thông qua
- khắp
- đến
- bây giờ
- bên nhau
- mã thông báo
- công cụ
- công cụ
- đối với
- theo dõi
- Hội thảo
- tàu hỏa
- Giao dịch
- Chuyển đổi
- cây
- Xu hướng
- đúng
- giai điệu
- Twilio
- kiểu
- loại
- ui
- Cuối cùng
- Dưới
- cơ bản
- hiểu
- sự hiểu biết
- hiểu
- sắp tới
- Cập nhật
- trên
- URL
- khả năng sử dụng
- Sử dụng
- sử dụng
- đã sử dụng
- người sử dang
- Kinh nghiệm người dùng
- quyền riêng tư của người dùng
- Người sử dụng
- sử dụng
- sử dụng
- sử dụng
- HIỆU LỰC
- xác nhận
- giá trị
- Các giá trị
- biến
- nhiều
- khác nhau
- Lớn
- xác minh
- phiên bản
- thông qua
- Xem
- ảo
- Giọng nói
- chờ đợi
- muốn
- là
- Đường..
- we
- web
- Ứng dụng web
- các dịch vụ web
- Website
- trang web
- là
- Điều gì
- cái nào
- trong khi
- rộng
- Phạm vi rộng
- sẽ
- với
- ở trong
- không có
- Công việc
- công nhân
- quy trình làm việc
- Luồng công việc
- đang làm việc
- thế giới
- sẽ
- Vâng
- nhưng
- bạn
- trên màn hình
- zephyrnet
- Zip