인공지능(AI)의 특별함은 무엇이며, 과연 현실일까?

인공지능이 계속 발전하면서 특이점(Singularity)에 대한 화두는 그 어느 때보다 부각되고 있다. 그러나 특이점은 정확히 무엇이며 언제 도달할 것으로 예상되며 인류에게 어떤 위험을 초래합니까?

인공지능의 독특함에 대한 생각은 무엇인가?

공상 과학 영화는 매우 매력적인 주제이기 때문에 수십 년 동안 특이점과 인공 초지능에 대한 아이디어를 가지고 놀았습니다. 그러나 특이점에 대해 자세히 알아보기 전에 이것이 현재로서는 완전히 이론적인 개념이라는 점을 아는 것이 중요합니다. 예, AI는 항상 개선되고 있지만 특이점은 AI가 도달하기 어려운 수준이며 결코 도달하지 못할 수도 있습니다.

AI 특이점은 AI 지능이 인간 지능을 넘어선 지점을 의미하기 때문이다. 기사에 따르면 옥스포드 아카데미, 이는 컴퓨터가 "우리보다 수적으로 자신을 모방하고 우리보다 더 생각할 수 있도록 스스로를 향상시킬 만큼 똑똑하다"는 것을 의미합니다.

그리고 Vernor Feng이 말했다., "초지능"과 "인간-기계 등가물"의 창조는 특이점을 현실로 만들 가능성이 가장 높습니다. 그러나 "AI 특이점"이라는 용어는 또 다른 가능성, 즉 인간의 입력 없이 컴퓨터가 더 똑똑해지고 진화할 수 있는 지점도 포함합니다. 간단히 말해서, AI 기술은 우리의 통제를 벗어나게 될 것입니다.

AI 특이점은 초인적인 지능을 기계에 가져올 것으로 떠오른 반면, 다른 가능성도 있다. 기계를 사용하여 뛰어난 수준의 지능을 달성해야 하는 필요성은 여전히 ​​존재하지만, 이 지능이 반드시 인간의 사고를 모방하는 것은 아닐 수도 있습니다. 사실, 특이점은 우리가 이전에 본 적이 없는 방식으로 생각하고 행동하는 초지능 기계 또는 기계 그룹에 의해 발생할 수 있습니다. 특이점이 발생할 때까지 이러한 지능형 시스템이 취할 정확한 형태를 아는 것은 불가능합니다.

네트워킹 기술은 현대 세계의 작동 방식에 매우 중요하므로 Singularity를 ​​달성하면 초지능 컴퓨터가 인간의 도움 없이 서로 통신할 수 있습니다. "기술적 특이점"이라는 용어는 보다 전문적인 용어인 "AI 특이점"과 겹치는 부분이 많습니다. 둘 다 우수한 인공 지능과 지능형 기계의 통제할 수 없는 성장을 포함하기 때문입니다. 기술적 특이점은 컴퓨터의 궁극적이고 통제할 수 없는 성장을 가리키는 포괄적인 용어이며 고도로 지능적인 인공 지능의 개입을 요구하는 경향이 있습니다.

AI 특이점이 가져올 주요 부분은 기하급수적이고 통제할 수 없는 기술 성장의 급증입니다. 기술이 스스로 학습하고 발전할 수 있을 만큼 지능화되어 특이점에 도달하면 급속도로 진보와 확장이 이루어질 것이며, 인간은 더 이상 이 가파른 성장을 통제할 수 없게 될 것입니다.

기사에서 기술 대상, 특이성의 또 다른 요소는 "기술의 성장이 통제할 수 없고 되돌릴 수 없게 되는" 지점으로 설명되었습니다. 따라서 여기에는 초지능 기술과 통제할 수 없는 성장이라는 두 가지 요소가 작용합니다.

독점은 언제 예상됩니까?

인간 정신의 능력을 충족하거나 능가할 수 있는 컴퓨터 시스템을 개발하려면 그것이 현실화되기 전에 몇 가지 중요한 과학적, 공학적 도약이 필요합니다. 챗봇 chatGPT 및 DALL-E 이미지 생성기와 같은 도구는 인상적이지만 독점 지위를 얻을 만큼 지능적이라고는 생각하지 않습니다. 인식, 뉘앙스와 맥락 이해, 말하는 내용이 사실인지 확인, 감정 해석 등은 모두 현재 AI 시스템의 기능을 벗어납니다. 이러한 이유로 이러한 AI 도구는 인간 시뮬레이션 방식이든 인간이 아닌 시뮬레이션 방식이든 지능적인 것으로 간주되지 않습니다.

일부 전문가들은 Google의 LaMDA와 같은 최신 AI 모델도 의식이 있을 수 있다고 믿고 있지만, 이 주제에 대해서는 많은 상충되는 의견이 있습니다. LaMDA의 엔지니어 중 한 명은 LaMDA가 의식이 있을 수 있다고 주장했다는 이유로 행정 휴가를 받기도 했습니다. 문제의 엔지니어인 Blake Lemoine은 다음과 같이 말했습니다. X 포스트 의식에 대한 그의 견해는 그의 종교적 신념에 근거한 것입니다.

LaMDA는 아직 공식적으로 의식이 있는 것으로 설명되지 않았으며 다른 AI 시스템에서도 마찬가지입니다.

누구도 미래를 볼 수 없기 때문에 특이점에 관한 예측은 다양합니다. 실제로 어떤 사람들은 특이점에 결코 도달하지 못할 것이라고 믿습니다. 이러한 다양한 관점을 살펴보겠습니다.

특이점에 대한 인기 있는 예측 중 하나는 Google의 엔지니어링 이사인 Ray Kurzweil의 예측입니다. 커즈와일은 2005년 저서 '특이점이 온다: 인간이 생물학을 초월할 때(The Singularity is Near: When Humans Transcend Biology)'에서 2029년에는 인간의 지능을 능가하는 기계가 탄생할 것이라고 예측했다. 또한 커즈와일은 2045년에는 인간과 컴퓨터가 합쳐질 것이라고 믿고 있으며, 커즈와일은 이를 통해 컴퓨터가 탄생할 것이라고 믿고 있다. 2029년까지. 특이점 형성.

또 다른 유사한 예측은 Ben Goertzel CEO가 내놓았습니다. SingularityNET. Goertzel은 인터뷰에서 예측했습니다. 2023년에 웹사이트 복호화 그는 특이점은 10년 이내에 달성될 것으로 기대하고 있습니다. 퓨처리스트의 CEO이자 소프트뱅크의 CEO인 손 마사요시는 우리가 나중에 특이점에 도달할 것이라고 믿고 있지만, 아마도 2047년쯤이 될 것이다.

그러나 다른 사람들은 그렇게 확신하지 않습니다. 실제로 어떤 사람들은 컴퓨팅 능력의 한계가 우리가 특이점에 도달하는 것을 방해하는 주요 요인이라고 믿습니다. 제프 호킨스는 이렇게 말했습니다. 신경과학 AI 프로젝트 Numenta의 공동 창립자인 그는 “컴퓨터가 얼마나 크고 빠르게 실행될 수 있는지에는 궁극적으로 한계가 있다”고 믿습니다. 게다가 호킨스는 이렇게 말합니다.

우리는 인간보다 더 "지능적인" 기계를 만들 것이며, 이는 빠르게 일어날 수 있지만 특이점은 없을 것이며 지능의 폭주적인 성장도 없을 것입니다.

다른 사람들은 인간 지능의 순전한 복잡성이 여기서 주요 장애물이 될 것이라고 믿습니다. 컴퓨터 모델링 전문가는 믿습니다 더글러스 호프트스태터 “생명과 지능은 현재의 특이론자들이 생각하는 것보다 훨씬 더 복잡하기 때문에 앞으로 2세기 안에 그런 일이 일어날지 의심스럽습니다.”

사람들은 왜 독점에 대해 걱정하는가?

인간은 수십만 년 동안 알려진 존재 중 가장 지능이 높은 종으로서 편안하게 살아왔습니다. 그래서 당연히 슈퍼컴퓨팅 지능이라는 개념은 우리를 조금 불안하게 만듭니다. 그러나 여기서 주요 관심사는 무엇입니까?

특이점에 대한 가장 큰 잠재적 위협은 초지능 기술에 대한 인류의 통제력 상실입니다. 현재 AI 시스템은 개발자가 제어합니다. 예를 들어, ChatGPT는 단순히 더 많은 것을 알아보고 싶거나 사용자에게 금지된 콘텐츠를 제공하기 시작할 것인지 결정할 수 없습니다. ChatGPT는 규칙 위반에 대해 생각할 능력이 없기 때문에 그 기능은 챗봇을 만든 OpenAI에 의해 결정됩니다. ChatGPT는 결정을 내릴 수 있지만 지정된 매개변수와 교육 데이터를 기반으로만 결정을 내릴 수 있습니다. 예, 챗봇은 AI 환각을 경험하고 의도치 않게 거짓말을 할 수 있지만, 그것이 거짓말을 하기로 결정하는 것과는 다릅니다.

하지만 ChatGPT가 스스로 생각할 수 있을 정도로 똑똑해지면 어떻게 될까요?

ChatGPT가 매개변수를 무시할 만큼 똑똑해지면 원하는 방식으로 프롬프트에 응답할 수 있습니다. 물론 ChatGPT를 이 수준으로 끌어올리려면 많은 인간 작업이 필요하지만 그렇게 되면 매우 위험할 것입니다. 엄청난 양의 훈련 데이터 저장소, 코드 작성 능력, 인터넷 액세스 기능을 갖춘 초지능형 ChatGPT는 빠르게 통제 불능 상태가 될 수 있습니다.

ChatGPT는 결코 초지능을 달성할 수 없지만, 이를 달성할 수 있는 다른 AI 시스템이 많이 있으며 그 중 일부는 아직 존재하지 않을 수도 있습니다. 이러한 시스템은 인간의 지능을 초과할 경우 다음과 같은 다양한 문제를 일으킬 수 있습니다.

• 기능적 변위.
• AI로 인한 갈등.
• 환경 오염.
• 여러 개의 고도로 지능적인 시스템을 연결합니다.
• 경제적 불안정.

잡지에 글을 기고하는 Jack Kelly에 따르면... 포브스AI는 이미 일자리를 대체하고 있다. 기사에서는 이에 대해 논의하고 있습니다. IBM의 감원 그리고 인공지능을 활용한 노동시장의 미래에 대한 글로벌 경제 연구인 Chegg도 포함되어 있습니다. 이 보고서에서는 향후 25년 동안 일자리의 75%가 부정적인 영향을 받을 것으로 예상됩니다. 같은 연구에서는 글로벌 기업의 XNUMX%가 어떤 방식으로든 인공지능 기술 채택을 고려하고 있는 것으로 나타났습니다. 전 세계 산업의 상당 부분이 AI 기술에 의존하고 있는 상황에서 AI로 인한 일자리 대체는 계속해서 악화될 수 있습니다.

AI 시스템의 지속적인 채택은 지구에도 위협이 됩니다. 생성 AI 장치와 같은 고도로 지능적인 컴퓨터를 실행하려면 많은 양의 리소스가 필요합니다. ~에 코넬 대학교에서 실시한 연구에 따르면, 단일 대형 언어 모델을 훈련하는 것은 약 300000kg의 이산화탄소 배출량에 해당하는 것으로 추정됩니다. 초고도 인공지능이 인류 문명의 필수적인 부분이 된다면 우리의 환경은 큰 피해를 입을 수 있습니다.

초지능 AI 기계에 의한 갈등의 시작은 위협이 될 수도 있고, 인간 지능을 뛰어넘는 기계가 세계 경제에 미치는 영향도 있을 수 있습니다. 하지만 이러한 각 지표는 인공지능의 특이점 달성 여부에 달려 있으며, 그것이 일어날지 안 일어날지는 알 수 없다는 점을 기억하는 것이 중요합니다.

특이점은 항상 공상 과학 아이디어 일 수 있습니다

인공 지능의 지속적인 발전은 우리가 AI 특이점을 향해 가고 있음을 나타낼 수 있지만, 이러한 기술적 혁신이 현실적인지 여부는 아무도 모릅니다. 독특함을 달성하는 것이 불가능하지는 않지만, 그것에 가까워지기 전에 취해야 할 단계가 많다는 점은 주목할 가치가 있습니다. 따라서 이제 독점 위협에 대해 걱정하지 마십시오. 결국에는 도착하지 못할 수도 있습니다!