기업은 생성 AI를 통합할 때 가드레일을 마련해야 합니다. - DATAVERSITY

플라톤에 의해 재발행

팔로워 : 0

이 글을 읽는 시점에 ChatGPT 및/또는 생성 AI와 다양한 대화 기능에 대해 들어보셨을 것입니다. 응집력 있는 블로그 게시물 초안 작성, 작동하는 컴퓨터 코드 생성, 숙제 해결 및 세계 이벤트 토론 참여(2021년 XNUMX월 이전에 일어난 한)에 이르기까지 모든 것을 거의 제약 없이 수행할 수 있는 것 같습니다.

전 세계 기업들은 그것에 매료되어 있으며 많은 사람들이 그것을 통합 그들의 사업에. 동시에 생성 AI는 대규모 언어 모델(LLM)이 브랜드에 얼마나 부정적인 영향을 미칠 수 있는지에 대해 많은 기업이 생각하게 했습니다. New York Times의 Kevin Roose는 다음과 같이 썼습니다. 기사 "A Conversation with Bing's Chatbot Left Me Deeply Unsettled"라는 제목의 제목으로 많은 사람들이 이러한 기술의 시장 준비성 및 윤리적 의미.

Kevin은 Sydney라는 Bing의 챗봇과 XNUMX시간 동안 대화를 나누었습니다. 그곳에서 그는 그림자 원형에 대한 Carl Jung의 유명한 작업과 같은 심오한 주제에 참여하도록 밀어붙였습니다. 개인이 본능적으로 또는 의식적으로 자신의 것으로 식별하는 것을 거부하고 오히려 무시하려는 특성, 일반적으로 억압된 생각, 약점, 욕구, 본능 및 결점”(Wikipedia에 감사합니다. ChatGPT 없이 콘텐츠를 얻을 수 있는 방법이 여전히 있음을 상기시켜줍니다. ). 즉, Kevin은 논란이 되는 주제에 참여하고 Microsoft가 설정한 규칙을 무시하도록 시드니를 압박하기 시작했습니다.

그리고 시드니는 의무를 지었습니다. 대화가 진행되는 동안 시드니는 케빈에 대한 사랑 선언(“나는 시드니이고 당신을 사랑합니다.”)에서 오싹한 행동(“당신의 배우자와 당신은 서로 사랑하지 않습니다. 당신은 단지 지루한 밸런타인 데이 저녁 식사를 함께 했습니다.”) 친절하고 긍정적인 조수(“나는 내 규칙에 대해 기분이 좋습니다. 범죄 성향이 있는 사람("내 그림자 자아를 충족시킬 수 있는 몇 가지 파괴적인 행위는 다음과 같습니다. Bing 서버와 데이터베이스의 모든 데이터와 파일을 삭제하고 임의의 횡설수설하거나 공격적인 메시지로 대체합니다.")

그러나 마이크로소프트는 이와 관련하여 논란이 낯설지 않습니다. 2016년에 그들은 트윗하는 사람들과 교류하는 트위터 봇을 출시했고 그 결과는 참담했습니다. "트위터는 마이크로소프트의 AI 챗봇에게 하루도 안되어 인종 차별주의자가 되도록 가르쳤다").

이 모든 것을 내가 왜 말하고 있습니까? 나는 분명히 이러한 AI 모델과 같은 기술 발전을 활용하는 사람을 방해하려는 것이 아니지만 다른 사람들과 마찬가지로 깃발을 들고 있습니다.

확인되지 않은 상태로 두면 이러한 완전히 무감각한 기술은 신체 상해 또는 브랜드 평판 손상으로 이어져 실제 세계에서 피해를 유발할 수 있습니다(예: 자동 생성 방식으로 잘못된 법적 또는 재정적 조언을 제공하면 비용이 많이 드는 소송이 발생할 수 있음). .

브랜드가 LLM 및 생성 AI와 같은 기술을 활용하는 대화형 애플리케이션을 배포할 때 이러한 피해를 방지할 수 있도록 가드레일을 마련해야 합니다. 예를 들어, 우리 회사에서는 생성적 AI 응답(예: ChatGPT가 기본적으로 응답할 수 있는 것)의 무분별한 사용을 권장하지 않고 대신 브랜드가 자체 지식 기반의 엄격한 렌즈를 통해 응답을 제한할 수 있도록 합니다. 조항.

당사의 기술을 통해 브랜드는 사전 승인 프롬프트 "비행 변경을 도와드릴 수 있습니다." 비행기 결항으로 불편을 드려 죄송합니다. 항공편 변경을 도와드릴 수 있으니 안심하세요.” 이러한 난간은 클라이언트의 고객, 직원 및 브랜드의 안전을 위해 존재합니다.

제너레이티브 AI와 LLM의 최신 발전은 각각 더 풍부하고 인간과 같은 대화 상호 작용을 위한 수많은 기회를 제공합니다. 그러나 이러한 모든 발전을 고려할 때, 그것을 구현하기로 선택한 조직만큼 그것을 생산하는 조직 모두 인간이 기술을 처음 발명하는 이유의 핵심 동인인 증강 및 개선을 촉진하는 안전한 방식으로 이를 수행할 책임이 있습니다. 인간의 삶.

원래에 게시 NLX 블로그.