OpenAI 공동 창립자 Sam Altman, 'ChatGPT에 편향에 대한 단점이 있음' 확인

OpenAI 공동 창립자 Sam Altman, 'ChatGPT에 편향에 대한 단점이 있음' 확인

타임 스탬프 : 2 년 2023 월 11 일 오전 26:XNUMX
소스 노드 : 1935966

"우리는 ChatGPT에 편견에 대한 단점이 있다는 것을 알고 있으며 이를 개선하기 위해 노력하고 있습니다."

어제 ChatGPT의 일부 사용자가 Elon Musk와 Sam Altman이 공동 설립한 조직이 챗봇을 정치적 도구로 바꾸다 이제 그것을 사용하여 트랜스젠더를 조장합니다. 한 ChatGPT는 "정치적 편견을 구축한 ChatGPT 엔지니어가 AI의 신뢰성에 가한 피해는 돌이킬 수 없습니다."라고 말했습니다. 불평하다. 또 다른 ChatGP 사용자는 “AI가 트랜스젠더 어린이를 긍정하라고 말한다”고 말했다.

이야기가 나온 지 몇 시간 만에 OpenAI 공동 창립자 Sam Altman은 OpenAI 엔지니어에 대한 증오와 함께 문제를 해결하기 위해 소셜 미디어를 사용했습니다. Twitter 스레드 게시물에서 Altman은 현재 ChatGPT에 바이어스와 관련된 몇 가지 결함이 있음을 인정했으며, 이는 모든 신기술에서 드문 일이 아닙니다. Altman은 회사가 챗봇을 개선하기 위해 노력하고 있다고 덧붙였습니다. 그러나 그는 OpenAI 엔지니어에 대한 공격을 끔찍하다고 말하면서 친절하게 받아들이지 않았습니다.

“우리는 ChatGPT에 편견에 대한 단점이 있다는 것을 알고 있으며 이를 개선하기 위해 노력하고 있습니다. 그러나 이것 때문에 개별 OAI 직원들에게 증오를 지시하는 것은 끔찍합니다. 마음껏 때려도 여기 있는 다른 사람을 공격하는 것은 현장 발전에 도움이 되지 않으며, 그렇게 하는 사람들도 그것을 알고 있습니다.”

Altman은 또한 OpenAI가 “기본 설정을 보다 중립적으로 개선하고 사용자가 광범위한 범위 내에서 개별 선호도에 따라 시스템이 작동하도록 할 수 있도록 하기 위해 노력하고 있습니다. 생각보다 어려운 일이고 바로잡는 데 시간이 좀 걸릴 것입니다.”

OpenAI는 AI 편견 문제에 직면한 최초의 기술 회사가 아닙니다. 2021년, 구글 엔지니어 XNUMX명 사임 알고리즘 편향 및 데이터 마이닝을 연구하는 에리트리아 태생의 컴퓨터 과학자인 Black AI 윤리 연구원 Timnit Gebru의 해고에 대해.

2020년에 Timnit Gebru은 Google과 다른 대형 기술 회사가 "제도적으로 인종 차별적입니다.” 그녀의 논문은 AI 언어 모델이 어떻게 여성과 소수 민족에 속하는 사람들에 대해 구조적 편견을 가지고 있는지에 대해 ChatGPT를 괴롭히는 유사한 문제에 초점을 맞췄습니다.

우리는 약 XNUMX년 전에 OpenAI를 처음 다루었습니다. 마이크로소프트는 1억 달러를 투자했습니다. 조직에서. 다년 계약의 일환으로 두 회사는 슈퍼컴퓨팅 기술을 제공하기 위해 협력할 것이며 OpenAI는 Microsoft의 클라우드에서만 서비스를 실행할 것입니다.

파트너십을 통해 두 회사는 AI의 혁신을 가속화하고 인공 일반 지능(AGI)을 만들기 위한 OpenAI의 노력에 힘을 실어줄 것입니다. Azure 플랫폼에 대한 그 결과 향상된 기능은 개발자가 차세대 AI 애플리케이션을 구축하는 데 도움이 될 것입니다. 파트너십을 통해 Microsoft와 OpenAI는 새로운 Azure AI 슈퍼컴퓨팅 기술을 공동으로 구축할 것입니다.

최근 ChatGPT에 대한 질문과 Microsoft가 ChatGPT 기술을 실험적 또는 전략적으로 본다면 Brad Smith 사장은 Reuters에 AI가 많은 사람들이 예상한 것보다 더 빠르게 발전했다고 말했습니다.

"우리는 2023년 전 사람들이 2033년에 기대했던 발전을 XNUMX년에 보게 될 것입니다. 그것은 마이크로소프트의 미래뿐만 아니라 모든 사람의 미래를 위해서도 매우 중요할 것입니다."라고 그는 이번 주 인터뷰에서 말했습니다.

OpenAI는 2015년 말 Elon Musk와 Sam Altman이 인류 전체에 혜택을 주는 방식으로 친근한 AI를 홍보하고 개발하는 것을 목표로 인공 지능(AI) 연구를 수행하는 영리 스타트업으로 설립되었습니다. OpenIA는 특허와 연구를 대중에게 공개함으로써 다른 기관 및 연구자들과 "자유롭게 협력"하는 것을 목표로 한다고 말했습니다. 두 설립자 모두 인공 일반 지능의 실존적 위험에 대한 우려에서 부분적으로 동기를 부여받았습니다.

전반적으로 우리는 Altman이 ChatGPT 편향에 대한 비판을 매우 잘 처리했다고 믿습니다. 그가 ChatGPT 알고리즘 편향을 인정했다는 사실은 올바른 방향으로 나아가는 단계입니다.

타임 스탬프 :

더보기 테크스타트업