메타의 수석 AI 과학자, AI의 실존적 위협을 일축하다

메타의 수석 AI 과학자, AI의 실존적 위협을 일축하다

타임 스탬프 : 23 년 2023 월 1 일 오후 50:XNUMX
소스 노드 : 2951498

인공지능(AI)을 둘러싼 글로벌 논의가 중요한 고비에 이르렀습니다. 업계 거물급 인사들의 최근 선언은 의견의 극명한 차이를 시사합니다. Meta의 수석 AI 과학자인 Yann LeCun은 한쪽 끝에 서서 현재 형태의 AI의 안전성을 주장합니다.

반대로, 'AI의 대부'라는 애칭을 지닌 제프리 힌튼(Geoffrey Hinton) 박사는 자신의 긴급한 우려 사항을 밝히기 위해 Google에서 사임했습니다.

거대한 AI 논쟁

그의 있음 회견 Financial Times와 함께 LeCun은 아무 말도하지 않았습니다. 그는 AI의 실존적 위험에 대한 우려가 "시기상조"라고 말했습니다. 그는 AI가 인류를 제거할 수 있다는 생각은 “터무니없다”고 덧붙였다. 그러나 이러한 관점은 AI를 둘러싼 현재의 논쟁을 매우 흥미진진하게 만듭니다.

그는 AI의 현재 한계를 강조합니다. "현재 우리가 가지고 있지 않은 학습 능력 측면에서 고양이와 경쟁할 수 있는 시스템을 설계하기 전까지는 실존적 위험에 대한 논쟁은 매우 시기상조입니다." 또한 LeCun은 현재 AI 모델이 세상의 복잡성을 이해해야 한다고 강조했습니다. 그들은 진정으로 계획하거나 추론할 수 없습니다.

그러나 그러한 낙관론은 AI 커뮤니티 외부에서도 공유됩니다. 힌튼 박사의 출발 Google의 후속 설명에서는 이러한 차이를 강조합니다. 그의 즉각적인 우려에는 AI의 잠재력이 포함됩니다. 오용 온라인 플랫폼에서. 그는 AI가 가짜 사진, 비디오, 텍스트로 인터넷을 가득 채울 수 있어 실제 콘텐츠와 AI 생성 콘텐츠를 구별하는 것이 점점 더 복잡해질 수 있다고 우려합니다.

이러한 직접적인 영향 외에도 Hinton의 더 넓은 두려움은 AI의 사회적 영향, 특히 잠재적인 일자리 손실과 AI 군비 경쟁의 심화에 관한 것입니다. 후자의 우려는 치명적인 자율 무기 시스템(LAWS) 개발과 관련이 있습니다.

AI 실수 및 오용

AI 대화의 또 다른 측면은 잠재적인 오용입니다. 예를 들어, 세계적으로 유명한 암호화폐 플랫폼인 바이낸스(Binance)는 AI가 만든 비방 캠페인에 휩싸였습니다. AI는 CEO인 Changpeng "CZ" Zhao를 중국 공산당 청년 단체와 부정확하게 연결했습니다.

더욱이 AI 도구는 가짜 뉴스를 생성할 가능성을 보여 미디어 환경에 심각한 우려를 불러일으켰습니다. 예를 들어, 데일리 메일(Daily Mail)은 AI가 생성한 정보를 기반으로 한 기사를 게재하도록 오해를 받았다가 나중에 이를 철회했습니다. 이러한 사례는 Hinton 박사와 같은 전문가들이 반대해 온 두려움을 강조합니다.

전 세계적인 주의를 촉구합니다

개인의 목소리도 중요하지만 집단적인 인정이 훨씬 더 중요합니다. OpenAI 및 Google DeepMind와 같은 조직의 책임자를 포함한 여러 AI 전문가들이 공동으로 우려를 표명했습니다. 간결하면서도 강력한 공동 성명에는 "AI로 인한 멸종 위험을 완화하는 것이 전염병 및 핵전쟁과 같은 다른 사회적 규모의 위험과 함께 글로벌 우선순위가 되어야 합니다."라고 적혀 있습니다.

그러나 이러한 집단적 주의 촉구 속에서도 앞으로 나아갈 길은 더욱 분명해질 수 있습니다. OpenAI의 CEO인 Sam Altman은 이 복잡한 이야기를 엿볼 수 있는 기회를 제공했습니다. 그가 앞에 나타난 동안 상원 청문회 그는 AI 규제를 논의하기 위해 혁신을 지연시키지 않는 견제와 균형의 중요성을 강조했습니다.

AI와 함께 전진하다

사회가 AI 지배 시대로 더 깊이 들어가면서 이러한 논쟁을 탐색하는 것은 중추적인 역할을 할 것입니다. LeCun과 같은 업계 리더들은 AI의 긍정적인 궤적에 대해 자신감을 표명하지만 Hinton과 같은 경고의 목소리는 우리에게 앞으로의 과제를 상기시켜 줍니다.

혁신과 규제 사이의 미묘한 균형을 맞추는 것이 중요합니다. AI의 잠재적인 위험과 기회에 대한 지속적인 담론은 인류가 이 혁신적인 기술을 활용하는 방법에서 결정적인 역할을 할 것이기 때문에 학술적인 것 이상입니다.

타임 스탬프 :

더보기 메타뉴스