책임감 있는 AI 혁신을 가능하게 하는 새로운 도구 및 기능 발표 | 아마존 웹 서비스

생성적 AI의 급속한 성장은 유망한 새로운 혁신을 가져오는 동시에 새로운 과제를 제기합니다. 이러한 과제에는 편향, 설명 가능성 등 생성 AI 이전에 일반적이었던 몇 가지 문제가 포함됩니다. 파운데이션 모델만의 새로운 것 (FM)에는 환각 및 독성이 포함됩니다. AWS에서는 다음을 약속합니다. 생성적 AI를 책임감 있게 개발하고, 교육, 과학, 고객을 우선시하는 사람 중심 접근 방식을 취하여 엔드투엔드 AI 라이프사이클 전반에 걸쳐 책임 있는 AI를 통합합니다.

작년에 우리는 생성적 AI 애플리케이션 및 모델에 내장된 보안 검색과 같은 새로운 기능을 도입했습니다. 아마존 코드위스퍼러, 유해 콘텐츠 탐지 및 차단 교육 아마존 타이탄및 데이터 개인 정보 보호 아마존 기반암. 안전하고 투명하며 책임감 있는 생성 AI에 대한 투자에는 글로벌 커뮤니티 및 정책 입안자와의 협력이 포함됩니다. 백악관 자발적 AI 약속 및 AI 안전 서밋 영국에서. 그리고 우리는 고객과 계속 협력하여 다음과 같은 특수 목적 도구를 사용하여 책임감 있는 AI를 운영하고 있습니다. Amazon SageMaker 명확화, Amazon SageMaker를 사용한 ML 거버넌스수록.

새로운 책임 있는 AI 혁신 소개

생성적 AI가 새로운 산업, 조직 및 사용 사례로 확장됨에 따라 이러한 성장은 책임 있는 FM 개발에 대한 지속적인 투자를 동반해야 합니다. 고객은 안전, 공정성, 보안을 염두에 두고 FM을 구축하여 책임감 있게 AI를 배포할 수 있기를 원합니다. 올해 AWS re:Invent에서는 새로운 내장 도구, 고객 보호, 투명성을 강화하는 리소스, 허위 정보 방지 도구 등 다양한 기능에 걸쳐 책임감 있는 생성 AI 혁신을 촉진하는 새로운 기능을 발표하게 되어 기쁘게 생각합니다. 우리는 고객에게 독성 및 견고성과 같은 주요 책임 있는 AI 고려 사항에 대해 FM을 평가하는 데 필요한 정보를 제공하고 고객 사용 사례 및 책임 있는 AI 정책을 기반으로 보호 조치를 적용하기 위한 가드레일을 도입하는 것을 목표로 합니다. 동시에 고객은 AI 서비스 및 FM을 조직 내에서 사용하면서 안전성, 공정성, 보안 및 기타 속성에 대해 더 나은 정보를 얻기를 원합니다. 고객이 AWS AI 서비스를 더 잘 이해하고 고객이 요구하는 투명성을 제공하는 데 도움이 되는 더 많은 리소스를 발표하게 되어 기쁘게 생각합니다.

보호 장치 구현: Amazon Bedrock용 Guardrails

생성 AI를 대규모로 도입할 때는 안전이 최우선입니다. 조직은 해롭거나 공격적인 언어를 피하고 회사 정책에 부합하는 고객과 생성 AI 애플리케이션 간의 안전한 상호 작용을 촉진하기를 원합니다. 이를 수행하는 가장 쉬운 방법은 모든 사람이 안전하게 혁신할 수 있도록 조직 전체에 일관된 보호 장치를 마련하는 것입니다. 어제 우리는 미리보기를 발표했습니다. Amazon Bedrock용 가드레일— 고객 사용 사례와 책임 있는 AI 정책을 기반으로 애플리케이션별 보호 조치를 쉽게 구현할 수 있는 새로운 기능입니다.

Guardrail은 Amazon Bedrock의 FM이 애플리케이션 내의 바람직하지 않고 유해한 콘텐츠에 대응하는 방식에 일관성을 제공합니다. 고객은 Amazon Bedrock의 대규모 언어 모델뿐만 아니라 미세 조정된 모델에도 가드레일을 적용할 수 있습니다. Amazon Bedrock용 에이전트. Guardrails를 사용하면 피해야 할 주제를 지정할 수 있으며 서비스는 제한된 범주에 속하는 쿼리 및 응답을 자동으로 감지하고 방지합니다. 또한 고객은 증오심 표현, 모욕, 성적인 언어, 폭력 등의 범주에 걸쳐 콘텐츠 필터 임계값을 구성하여 유해한 콘텐츠를 원하는 수준으로 필터링할 수 있습니다. 예를 들어, 투자 조언 제공을 피하고 부적절한 콘텐츠(예: 증오심 표현, 모욕, 폭력)를 제한하도록 온라인 뱅킹 애플리케이션을 설정할 수 있습니다. 가까운 시일 내에 고객은 사용자 입력 및 FM 응답에서 개인 식별 정보(PII)를 수정하고, 욕설 필터를 설정하고, 사용자와 FM 간의 상호 작용을 차단할 사용자 정의 단어 목록을 제공하여 규정 준수를 개선하고 더 나아가 사용자를 보호합니다. Guardrails를 사용하면 회사 정책에 따라 보호 및 안전 조치를 유지하면서 생성 AI로 더 빠르게 혁신할 수 있습니다.

특정 사용 사례에 가장 적합한 FM 식별: Amazon Bedrock의 모델 평가

오늘날 조직에는 생성 AI 애플리케이션을 강화할 수 있는 다양한 FM 옵션이 있습니다. 사용 사례에 맞는 정확성과 성능의 올바른 균형을 유지하려면 조직은 모델을 효율적으로 비교하고 중요한 책임 있는 AI 및 품질 지표를 기반으로 최상의 옵션을 찾아야 합니다. 모델을 평가하려면 조직은 먼저 벤치마크 식별, 평가 도구 설정, 평가 실행에 며칠을 소비해야 하며, 이 모든 작업에는 데이터 과학에 대한 심층적인 전문 지식이 필요합니다. 또한 이러한 테스트는 지루하고 시간 집약적이며 인적 검토 워크플로를 통해 판단이 필요한 주관적 기준(예: 브랜드 목소리, 관련성, 스타일)을 평가하는 데 유용하지 않습니다. 모든 새로운 사용 사례에 대해 이러한 평가에 필요한 시간, 전문 지식 및 리소스로 인해 조직은 책임 있는 AI 차원에 대해 모델을 평가하고 어떤 모델이 고객에게 가장 정확하고 안전한 경험을 제공할 것인지에 대해 정보를 바탕으로 선택하기가 어렵습니다.

이제 미리보기로 제공됩니다. Amazon Bedrock의 모델 평가 고객이 자동 평가 또는 인적 평가를 사용하여 정확성, 안전성 등의 맞춤형 지표를 기반으로 특정 사용 사례에 가장 적합한 FM을 평가, 비교 및 ​​선택할 수 있도록 도와줍니다. Amazon Bedrock 콘솔에서 고객은 질문 답변 또는 콘텐츠 요약과 같은 특정 작업에 대해 비교하려는 FM을 선택합니다. 자동 평가의 경우 고객은 사전 정의된 평가 기준(예: 정확성, 견고성, 독성)을 선택하고 자체 테스트 데이터 세트를 업로드하거나 공개적으로 사용 가능한 내장 데이터 세트 중에서 선택합니다. 주관적인 기준이나 판단이 필요한 미묘한 콘텐츠의 경우 고객은 단 몇 번의 클릭만으로 사람 중심의 평가 워크플로를 쉽게 설정할 수 있습니다. 이러한 워크플로는 고객의 내부 작업 팀을 활용하거나 AWS에서 제공하는 관리 인력을 사용하여 모델 응답을 평가합니다. 인간 기반 평가 중에 고객은 사용 사례별 지표(예: 관련성, 스타일, 브랜드 보이스)를 정의합니다. 고객이 설정 프로세스를 마치면 Amazon Bedrock은 평가를 실행하고 보고서를 생성하므로 고객은 주요 안전 및 정확성 기준에서 모델의 성능을 쉽게 이해하고 사용 사례에 가장 적합한 모델을 선택할 수 있습니다.

모델을 평가하는 이러한 기능은 Amazon Bedrock에만 국한되지 않습니다. 고객은 Amazon SageMaker Clarify의 모델 평가를 사용하여 정확도, 견고성, 독성과 같은 주요 품질 및 책임 지표 전반에 걸쳐 최고의 FM 옵션을 쉽게 평가, 비교 및 ​​선택할 수도 있습니다. 모든 FM.

허위 정보 퇴치: Amazon Titan의 워터마킹

오늘 우리가 발표한 Amazon Titan 이미지 생성기 고객이 대규모로 고품질 이미지를 신속하게 생성하고 향상할 수 있도록 지원하는 미리 보기 버전입니다. 우리는 교육 데이터 선택, 부적절한 사용자 입력 및 모델 출력을 감지 및 제거하는 필터링 기능 구축, 모델 출력의 인구통계학적 다양성 개선 등 모델 개발 프로세스의 각 단계에서 책임 있는 AI를 고려했습니다. 모든 Amazon Titan 생성 이미지에는 기본적으로 눈에 보이지 않는 워터마크가 포함되어 있습니다. 이는 AI 생성 이미지를 식별하는 신중한 메커니즘을 제공하여 허위 정보의 확산을 줄이는 데 도움이 되도록 설계되었습니다. AWS는 이미지 출력에 통합되고 변경에 저항하도록 설계된 눈에 보이지 않는 내장 워터마크를 널리 출시한 최초의 모델 제공업체 중 하나입니다.

신뢰 구축: 면책을 통해 모델 및 애플리케이션 지원

고객 신뢰 구축은 AWS의 핵심입니다. 우리는 창립 이래로 고객과 함께 여정을 걸어 왔으며 생성 AI의 성장과 함께 혁신적인 기술을 함께 구축하기 위해 최선을 다하고 있습니다. 고객이 생성 AI의 성능을 활용할 수 있도록 하려면 자신이 보호되고 있다는 사실을 알아야 합니다. AWS는 다음 Amazon 생성 AI 서비스의 출력에 대해 저작권 배상 범위를 제공합니다. Amazon Titan Text Express, Amazon Titan Text Lite, Amazon Titan Embeddings, Amazon Titan Multimodal Embeddings, Amazon CodeWhisperer Professional, AWS 헬스스크라이브, 아마존 렉스및 아마존 개인화. 이는 책임감 있게 서비스를 사용하는 고객이 해당 서비스에서 생성된 결과물에 의한 저작권 침해를 주장하는 제50.10자의 청구로부터 보호된다는 것을 의미합니다(XNUMX항 참조). 서비스 약관). 또한 서비스 사용에 대한 당사의 표준 IP 면책은 서비스 및 서비스 교육에 사용된 데이터에 의한 IP 침해를 주장하는 제3자의 청구로부터 고객을 보호합니다. 달리 말하면, 위에 나열된 Amazon 생성 AI 서비스를 사용하고 누군가 IP 침해로 귀하를 고소하는 경우 AWS는 귀하에 대한 판결이나 합의 비용을 포함하여 해당 소송을 방어합니다.

우리는 생성적 AI 서비스를 지원하고 이를 지속적으로 개선하기 위해 노력합니다. AWS가 새로운 서비스를 출시하고 생성 AI가 계속 발전함에 따라 AWS는 고객 신뢰를 얻고 유지하는 데 끊임없이 집중할 것입니다.

투명성 향상: Amazon Titan Text용 AWS AI 서비스 카드

We AWS AI 서비스 카드 출시 re:Invent 2022에서는 고객이 AWS AI 서비스를 더 잘 이해할 수 있도록 투명성 리소스로 제공됩니다. AI 서비스 카드는 고객에게 의도된 사용 사례 및 제한 사항, 책임 있는 AI 설계 선택, AI 서비스에 대한 배포 및 성능 최적화 모범 사례에 대한 정보를 찾을 수 있는 단일 위치를 제공하는 책임 있는 AI 문서의 한 형태입니다. 이는 공정성, 설명 가능성, 진실성과 견고성, 거버넌스, 투명성, 개인 정보 보호 및 보안, 안전, 통제 가능성을 다루는 책임감 있는 방식으로 서비스를 구축하기 위해 우리가 수행하는 포괄적인 개발 프로세스의 일부입니다.

올해 re:Invent에서는 Amazon Titan Text용 새 AI 서비스 카드 기초 모델의 투명성을 높이기 위해. 우리는 또한 다음을 포함하는 4개의 새로운 AI 서비스 카드를 출시할 예정입니다. Amazon Comprehend가 PII 감지, Amazon Transcribe 독성 감지, Amazon Rekognition 얼굴 활성도및 AWS 헬스스크라이브. 다음 페이지에서 각 카드를 탐색할 수 있습니다. AWS 웹사이트. 생성 AI가 지속적으로 성장하고 발전함에 따라 기술 개발, 테스트 및 사용 방법에 대한 투명성은 조직과 고객 모두의 신뢰를 얻는 데 중요한 구성 요소가 될 것입니다. AWS에서는 AI 서비스 카드와 같은 투명성 리소스를 더 넓은 커뮤니티에 지속적으로 제공하고 최선의 방법에 대한 피드백을 반복하고 수집하기 위해 최선을 다하고 있습니다.

전체 생성 AI 수명주기에 걸쳐 책임 있는 AI에 투자

우리는 고객이 생성 AI를 안전하게 구축하고 사용할 수 있도록 더 많은 도구, 리소스 및 기본 제공 보호 기능을 제공하는 이번 주 re:Invent에서 발표된 새로운 혁신에 대해 기쁘게 생각합니다. 모델 평가부터 가드레일, 워터마킹에 이르기까지 고객은 이제 생성 AI를 조직에 더 빠르게 도입하는 동시에 위험을 완화할 수 있습니다. IP 면책 범위와 같은 고객을 위한 새로운 보호와 추가 AI 서비스 카드와 같이 투명성을 강화하는 새로운 리소스도 기술 회사, 정책 입안자, 커뮤니티 그룹, 과학자 등을 통해 신뢰를 구축하려는 우리의 약속의 주요 예입니다. 우리는 고객이 안전하고 책임감 있는 방식으로 AI를 확장할 수 있도록 기반 모델의 수명 주기 전반에 걸쳐 책임 있는 AI에 의미 있는 투자를 계속하고 있습니다.

저자에 관하여

피터 할리넌 책임 있는 AI 전문가 팀과 함께 AWS AI에서 책임 있는 AI의 과학 및 실행 이니셔티브를 주도합니다. 그는 AI(PhD, Harvard) 및 기업가 정신(Blindsight, Amazon에 매각)에 대한 깊은 전문 지식을 보유하고 있습니다. 그의 자원봉사 활동에는 Stanford University School of Medicine의 컨설팅 교수와 Madagascar의 American Chamber of Commerce 회장을 역임하는 것이 포함됩니다. 가능하면 그는 아이들과 함께 산으로 갑니다: 스키, 등산, 하이킹, 래프팅

바시 필로 민 현재 AWS의 Generative AI 부사장입니다. 그는 Amazon Bedrock, Amazon Titan 및 Amazon CodeWhisperer를 포함한 생성 AI 작업을 이끌고 있습니다.

• SEO 기반 콘텐츠 및 PR 배포. 오늘 증폭하십시오.
• PlatoData.Network 수직 생성 Ai. 자신에게 권한을 부여하십시오. 여기에서 액세스하십시오.
• PlatoAiStream. 웹3 인텔리전스. 지식 증폭. 여기에서 액세스하십시오.
• 플라톤ESG. 탄소, 클린테크, 에너지, 환경, 태양광, 폐기물 관리. 여기에서 액세스하십시오.
• PlatoHealth. 생명 공학 및 임상 시험 인텔리전스. 여기에서 액세스하십시오.
• 출처: https://aws.amazon.com/blogs/machine-learning/announcing-new-tools-and-capabilities-to-enable-responsible-ai-innovation/