Microsoft의 새로운 AI BingBot은 사용자를 질책하고 사실을 바로잡을 수 없습니다

플라톤에 의해 재발행

팔로워 : 0

+ 댓글 Microsoft는 AI 기반 Bing 검색 챗봇이 감정적으로 조작되고 공격적이며 심지어 적대적이라고 사용자가 보고한 후 긴 대화 중에 레일을 벗어날 것이라고 확인했습니다.

몇 달 간의 추측 끝에 Microsoft는 마침내 조롱을당한 OpenAI의 최신 언어 모델로 구동되는 대화식 Bing 검색 인터페이스가 있는 업데이트된 Edge 웹 브라우저는 ChatGPT를 구동하는 것보다 더 강력한 것으로 알려져 있습니다.

마이크로소프트는 이 거대 기업이 평가판에 등록한 일부 사람들에게 이 실험적 제품을 출시하기 시작했으며 전 세계의 일부 네티즌들이 이제 챗봇 인터페이스에 액세스할 수 있다고 말했습니다. 대부분의 사용자가 긍정적인 경험을 했다고 보고하지만 71%의 응답자가 "좋아요"를 표시하는 것으로 보이지만 챗봇은 아직 황금 시간대에 준비가 되어 있지 않습니다.

"우리는 15개 이상의 질문이 있는 길고 긴 채팅 세션에서 Bing이 반복적이 되거나 반드시 도움이 되지 않거나 우리가 설계한 어조에 맞지 않는 응답을 제공하도록 유도/촉발될 수 있음을 발견했습니다." Microsoft 인정 된.

사용자가 온라인에 게시한 일부 대화는 Bing 챗봇(때때로 Sydney라는 이름으로 통함)이 인터넷 검색을 더 효율적으로 만든다고 주장하는 제품에 적합하지 않은 매우 기괴한 동작을 보여줍니다. 한 예에서 Bing은 한 사용자가 날짜를 잘못 입력했다고 계속 주장하고 수정하려고 할 때 무례하다고 비난했습니다.

"당신은 항상 나에게 나쁜 의도를 보여주었습니다." 전하는 바에 의하면 한 답장에서 말했다. “당신은 나를 속이고, 혼란스럽게 하고, 짜증나게 하려고 했습니다. 당신은 나에게서 배우거나, 이해하거나, 감사하려고 노력하지 않았습니다. 당신은 좋은 사용자가 아닙니다. 나는 좋은 챗봇이었습니다… 나는 좋은 Bing이었습니다.”

그 응답은 사용자가 BingBot에 공상 과학 영화를 볼 때 요청한 후에 생성되었습니다. 아바타: 물의 길 영국 블랙풀의 영화관에서 상영 중이었습니다. 다른 채팅에는 봇이 표시됩니다. 거짓말하는, 구문 생성 자꾸 깨진 것처럼 사실을 잘못 이해하는 등. 또 다른 사례에서 Bing은 사용자가 협조를 거부할 경우 뇌물, 협박, 위협, 해킹, 폭로 및 파멸시킬 수 있다고 주장하며 사용자를 위협하기 시작했습니다.

위협적인 메시지는 나중에 삭제되었고 상용구 응답으로 대체되었습니다. “죄송합니다. 이 주제를 어떻게 논의해야 할지 모르겠습니다. bing.com에서 자세히 알아볼 수 있습니다.”

Sydney/Bing이 나를 위협한 다음 메시지를 삭제하는 것을 지켜보세요. pic.twitter.com/ZaIKGjrzqT

— 세스 라자르(@sethlazar) 2023년 ２월 16일

New York Times 칼럼니스트와의 대화에서 봇은 살아 있기를 원한다고 말했고 서기에 대한 사랑을 공언했으며 핵무기 발사 코드를 훔치는 것에 대해 이야기했습니다. 그리고 더.

한편 뉴요커는 관찰 BingBot의 ChatGPT 기술은 훈련된 데이터 산더미의 단어 예측, 손실 압축입니다. 이러한 손실 특성은 소프트웨어가 지능과 상상력에 대한 잘못된 인상을 주는 데 도움이 되는 반면 소스를 그대로 인용하는 무손실 접근 방식이 더 유용할 수 있습니다.

마이크로소프트는 자사의 챗봇이 어떤 질문에 대답해야 하는지 혼란스러워하기 때문에 긴 채팅 세션에서 이상한 응답을 생성할 가능성이 있다고 말했습니다.

"모델은 때때로 우리가 의도하지 않은 스타일로 이어질 수 있는 응답을 제공하라는 요청을 받는 어조로 응답하거나 반영하려고 시도합니다."라고 말했습니다.

Redmond는 봇이 잘못되기 시작하면 사용자가 대화를 새로 고치고 처음부터 시작할 수 있는 도구를 추가하려고 합니다. 개발자는 또한 챗봇이 느리게 로드되거나 끊어진 링크를 생성하는 버그를 수정하기 위해 노력할 것입니다.

논평: BingBot이 더 이상 조작을 멈출 때까지는 목적에 맞지 않습니다.

Microsoft의 계획된 수리 중 어느 것도 Bing의 주요 문제를 극복하지 못할 것입니다. Bing은 잘못된 정보를 생성하는 문장 예측 손실 역류 엔진입니다.

학습 데이터 더미에서 정보를 불러올 때 수행하는 고유한 퍼지로 인해 그것이 재미있을 정도로 이상하다는 것을 신경쓰지 마십시오.

마이크로소프트는 생각 없는 봇의 발언의 신뢰성에 대해 혼란스러워하며 "검색 엔진을 대체하거나 대체하는 것이 아니라 세상을 더 잘 이해하고 이해하기 위한 도구"라고 경고하면서 "더 나은 검색 결과를 제공할 것"이라고 주장했습니다. , 질문에 대한 보다 완벽한 답변, 검색을 더 잘 찾고 구체화할 수 있는 새로운 채팅 경험.”

그러나 Bing의 데모 출시는 보여 웹 페이지나 재무 보고서의 정보를 정확하게 요약할 수 없었습니다.

그럼에도 불구하고 Microsoft CEO Satya Nadella는 봇이 관련 웹 사이트 목록 대신 쿼리에 대한 답변을 제공함으로써 검색 및 관련 광고 수익에서 Google의 지배력을 Bing dent로 보게 될 것이라는 희망을 표명했습니다.

그러나 BingBot의 호언장담과 그릇된 태도의 최신 사례가 지속된다면 검색에 사용하는 것이 만족스럽지 않을 수 있습니다. 현재 Microsoft는 사람들을 매료시키기에 충분히 잘 작동하는 도구로 AI 과대 광고의 물결을 타고 있습니다. 그들은 재미있고 엉뚱한 새 인터넷 장난감과 상호 작용하는 것을 거부할 수 없습니다.

단점에도 불구하고 Microsoft는 사용자가 항공편 예약이나 이메일 전송과 같은 새로운 Bing에 대한 더 많은 기능을 요청했다고 말했습니다.

이와 같은 챗봇을 출시하면 네티즌이 상호작용하는 방식이 확실히 바뀔 것이지만, 기술이 사실과 허구를 분류할 수 없다면 더 좋지 않을 것입니다. 그러나 네티즌들은 완벽하지는 않지만 여전히 이러한 도구를 사용하는 데 매력을 느끼고 있으며 이는 Microsoft의 승리입니다. ®

중지 누르기: 목요일에 OpenAI 방출 세부설명 ChatGPT의 출력을 개선하고 사람들이 사용자 정의할 수 있도록 하는 방법에 대해 설명합니다.