1.
몇 일사이 페이스북에서 샘 알트만이 쓴 글을 자주 봅니다. Singurality를 다루었는데 주제가 주제인지라 관심이 많네요. 여러 분이 번역을 해서 올렸는데 이원재 경제 평론가께서 올린 글을 공유합니다.
원문은 The Gentle Singularity입니다. 짧은 글입니다.
부드러운 특이점(The Gentle Singularity)
우리는 중대한 전환점을 지났다. 이미 이륙은 시작됐다. 인간성은 디지털 초지능을 구축하기 일보 직전이다. 그리고 최소한, 현재까지는 우리가 걱정했던 것처럼 괴상한 모습은 아니다.
아직 로봇들이 거리를 걸어다니는 것은 아니다. 우리 대부분이 하루종일 인공지능과 대화하는 것도 아니다. 사람들은 여전히 병들어 죽는다. 쉽게 우주로 갈 수도 없다. 우주 자체에 대해 우리가 아직 모르는 부분 역시 많다.
그럼에도, 우리는 최근 여러 의미에서 사람보다 똑똑한 시스템을 만들었다. 그리고 그 시스템을 사용하는 사람들이 내놓는 성과가 의미있는 정도로 강력해지게 만들 수 있게 되었다. 해내기 정말 어려운 일을 이미 해낸 것이다. 우리는 얻기 어려운 과학적 통찰을 통해 가까스로 GPT-4나 o3를 만들 수 있게 되었다. 이들이 우리를 멀리 날아오르게 만들 것이다.
인공지능은 여러 의미에서 세상에 기여한다. 무엇보다도 인공지능으로 빨라지는 과학적 진보와 높아지는 생산성은 엄청난 정도로 우리 삶의 질을 높일 것이다. 우리는 현재보다 압도적으로 더 나은 미래를 만날 수 있다. 과학적 진보는 모든 진보의 가장 큰 힘이다. 우리가 얼마나 더 나은 미래를 가질 수 있는지를 생각해보는 것만으로도 흥분된다.
어떤 의미에서, 챗GPT는 이미 지금까지의 어떤 인간보다도 더 강력하다. 수억명의 사람들이 매일 챗GPT에 점점 더 중요한 업무를 맡기며 의지하고 있다. 그러니 이 제품의 아주 작고 새로운 기능 하나가 엄청나게 큰 긍정적 결과를 가져올 수 있다. 반대로 이 제품의 아주 작은 흠결 하나가 수억명의 사람들에 의해 확대재생산되어 엄청나게 큰 부정적 결과를 가져올 수도 있다.
2025년에 우리는 실제로 생각하는 일을 하는 인공지능 에이전트들을 만나게 됐다. 컴퓨터 코딩은 이제 전혀 달라질 것이다. 2026년에 아마도 우리는 새로운 통찰을 얻을 줄 아는 인공지능을 만나게 될 것이다. 2027년에 아마도 우리는 컴퓨터 속이 아니라 실제 현실에서 일을 할 줄 아는 로봇을 만나게 될 것이다.
더 많은 사람들이 소프트웨어를 개발하고 예술작품을 창작할 수 있게 될 것이다. 그러나 세상에는 훨씬 더 많은 소프트웨어와 예술작품에 대한 수요가 생길 것이다. 인공지능을 활용하는 전문가들은 여전히 비전문가보다 더 나은 능력을 보여줄 것이다. 일반적으로, 2030년에 한 사람이 일을 해낼 수 있는 능력의 크기는 2020년과는 비교할 수 없을 정도로 달라질 것이다. 그리고 더 많은 사람이 그로부터 어떻게 혜택을 받게 될 것인지를 알아내게 될 것이다.
인간에게 가장 중요한 영역에 있어서, 2030년이 크게 달라지지는 않을 것이다. 사람들은 여전히 그들의 가족을 사랑하고, 자신들의 창의력을 표현하고, 게임을 할 것이며, 호수에서 수영을 즐길 것이다.
그러나 여전히 아주 중요한 영역에 있어서, 2030년대는 인류 역사 어느 시기보다도 아주 크게 달라져 있을 것이다. 우리가 인간 수준의 지능 이상으로 얼마나 더 갈 수 있는지 모르지만, 곧 그런 그런 지능을 만나게 될 것이기 때문이다.
지능과 에너지는 2030년대에 엄청나게 풍부해질 것이다. 즉 생각 그리고 생각할 수 있게 하는 능력이 흔해지는 것이다. 이 두 가지는 오랜 세월 인간 진보의 근본적 제약조건이었다. 풍부한 지능과 에너지, 그리고 좋은 정치구조가 있다면, 우리는 논리적으로 말하자면 무엇이든 될 수 있다.
우리는 이미 놀라운 디지털 지능과 함께 살고 있다. 초기의 충격이 지나간 뒤, 우리는 이미 여기 익숙해져 있다. 처음에 인공지능이 아름다운 문장을 쓰는 데 놀라던 우리는 이미 아름다운 소설을 쓰는 인공지능을 기대하고 있다. 처음에 의사들이 하던 진단을 인공지능이 해내고 생명을 구하는 모습에 놀라던 우리는, 이제 치료법을 개발하는 인공지능을 기대하고 있다. 작은 컴퓨터 프로그램을 짜는 인공지능에 놀라던 우리는, 기업 하나를 통째로 만들어내는 인공지능을 기대하고 있다. 이게 바로 특이점이 오는 방법이다. 놀라움이 일상이 되고, 당연한 권리가 되는 것이다.
과학자들은 이미 인공지능 이전보다 두세배 생산성이 높아졌다고 말한다. 고급 인공지능은 여러 이유로 흥미롭지만, 아마도 인공지능 그 자체를 더 빠르게 연구할 수 있게 해준다는 점이 가장 중요할 것이다. 우리는 새로운 컴퓨터와 더 나은 알고리즘과 그 밖의 뭐든 더 빠르게 만들어낼 것이다. 10년이 걸리던 연구를 1년만에, 한 달 만에 할 수 있다면, 진보의 속도는 분명히 달라질 것이다.
우리가 이미 개발한 도구가 과학적 성취를 더욱 높이고 더 나은 인공지능 시스템을 만드는 데 도움을 줄 것이다. 물론 인공지능 시스템이 완전히 자율화되어 스스로 코드를 짜는 시스템까지는 아니다. 그럼에도 이는 재귀적 자기발전의 유충 버전이라고 할 수 있다.
다른 선순환 구조도 있다. 경제적 가치 창출로 인프라 구축의 선순환이 생겨 점점 더 강력한 인공지능 시스템을 실행할 수 있게 된 것이다. 로봇이 다른 로봇들을 만들고 데이터센터가 다른 데이터센터들을 구축할 수 있는 시기가 멀지 않다.
첫 100만대의 휴머노이드는 예전 방식으로 생산할 수 있다. 그러나 그들이 미네랄을 채취해 정제하고, 트럭을 운전하고, 공장을 운영하면서 더 많은 새로운 로봇을 만드는 데 투입될 수 있다. 이 새로운 로봇은 반도체 칩을 생산하는 데, 데이터 센터를 구축하는 데 투입될 수 있다. 이렇게 되면 진보의 속도는 완전히 달라질 것이다.
데이터센터 구축이 자동화되면, 지능의 가격도 결과적으로 전기의 가격에 수렴하게 될 것이다. (사람들이 챗GPT의 대답 하나가 사용하는 에너지가 얼마나 되는지 궁금해한다. 챗GPT의 평균적 응답은 0.34와트시를 쓴다. 즉 1초 동안 오븐을 돌리거나 전구를 몇 분 켜두는 정도이다. 물은 0.000085갤런 쓴다. 티스푼의 15분의 1 정도 부피다.) 기술적 진보는 점점 가팔라질 것이다. 그리고 사람들은 계속해서 어떤 상황이든지 적응할 수 있을 것이다. 물론 특정 직군 일자리가 모두 사라지는 것과 같은 매우 어려운 문제들이 생길 것이다. 그러나 세상은 아주 빠르게 부유해질 것이다. 따라서 우리는 우리가 과거에 상상할 수 없었던 새로운 정책 아이디어들을 논의할 수 있을 것이다. 새로운 사회계약을 한번에 채택할 수는 없을지라도, 과거 수십년을 돌아본다면, 점진적 변화가 쌓여 결국 거대한 변화에 다다르게 될 것이다.
지난 역사를 반추해 보면, 우리는 새로운 할 일과 새로운 수요를 찾아낼 것으로 보인다. 그리고 새로운 방법들을 빠르게 만들어낼 것이다. 산업혁명 이후의 직업 변화는 중요한 최신 사례이다. 기대치가 높아질 것이지만, 우리의 역량도 그만큼 빨리 커질 것이고 우리는 더 나은 세상을 만들어낼 것이다. 우리는 그 어느 때보다 놀라운 것들을 만들어낼 것이다. 우리는 다른 사람들의 생각과 행동을 배려하며 그들을 돌볼 줄 안다. 기계에 대해 그리하지는 않는다. 이건 인공지능에 대해 사람이 가진 중요하고 흥미로운 장점이다.
천년 전의 자급자족 농민이 지금의 우리를 본다면, 우리가 하는 일 중 상당수는 가짜 노동을 하거나 놀고 있는 것으로 여길 것이다. 우리는 이미 그 당시에는 상상할 수 없었던 풍부한 음식과 사치품을 갖고 있기 때문이다. 천년 뒤의 사람들이 하는 일들이 지금의 우리가 볼 때 가짜 노동이나 노는 것처럼 보이는 것이면 좋겠다. 물론 천년 뒤 사람들에게 그것들은 매우 중요하고 만족스러운 일일 것이라고 확신한다.
새로운 불가사의들이 달성되는 속도는 엄청나게 빠를 것이다. 2035년에 무엇이 올지는 상상하기조차 어렵다. 한 해는 고에너지물리학을 풀어내고 다음 해에 우주 정복을 시작할 수도 있다. 재료과학의 혁신을 이룬 이듬해에 인간 두뇌와 컴퓨터가 합체되는 인터페이스를 만들어낼지도 모른다. 많은 사람들은 지금과 같은 방식으로 살기를 선택하겠지만, 누군가는 컴퓨터와 연결하는 플러그를 자신의 뇌에 기꺼이 꽂을 수도 있다.
이런 전망을 보면 고개를 젓게 될지도 모르겠다. 그러나 아마도, 어느 정도 충격은 있더라도, 이 모든 변화는 감당가능할 것이다. 상대적 관점에서, 특이점은 한 걸음씩 진전되고, 인간과 기게의 융합은 천천히 일어난다. 우리는 기하급수적 기술혁신의 긴 곡선을 암벽등반하듯 올라가고 있다. 앞을 보면 늘 수직 절벽처럼 보이고 뒤를 보면 평지처럼 보이지만, 실은 그냥 매끄러운 곡선 모양이다. 2020년을 생각해 보자. 2025년에 일반인공지능(AGI)처럼 보이는 것이 온다는 이야기가 그때 어떻게 들렸는지, 그리고 지금 비슷한 상황을 맞아 어떻게 느껴지는지 생각해 보자.
물론 여기에는 심각한 도전들이 있다. 안전 문제를 기술적 그리고 사회적으로 푸는 것도 중요하다. 하지만 결정적으로 중요한 것은 초지능에 대한 접근권을 경제적으로 의미있는 방식으로 분배하는 것이다. 가장 좋은 경로는 다음 두 가지이다.
1. 인공지능의 정렬 문제를 풀자. 우리 사회가 공동으로 원하는 장기적 결과를 인공지능이 학습하고 이 결과를 위해 행동하도록 만드는 것이다. 지금의 소셜미디어는 정렬 문제에 실패한 대표적 사례다. 소셜미디어 알고리즘은 끊임없이 스크롤하는 인간을 만들고 단기적 선호를 계속 확인하게 해준다. 그러나 그들은 우리의 두뇌를 착취하며 장기적 선호를 잊어버리게 한다.
2. 초지능을 값싸게 만들어 폭넓게 사용가능하며 어떤 개인에게도, 어떤 기업에게도, 어떤 국가에게도 편중되지 않도록 하는 데 초점을 맞추자. 사회는 회복력 높고 창조적이며 적응이 빠르다. 사람들이 공동의 의지와 지혜를 모아낼 수 있다면, 우리는 이 기술의 장점을 극대화하고 단점을 최소화할 수 있다. 사용자에게 많은 자유를 주고, 넓은 범위에서 사회가 이런 결정을 공동으로 해 나가게 하는 것이 중요하다. 어떤 범위에서 어떻게 인공지능을 정렬시켜 나갈지를 논의해야 한다. 이런 대화를 일찍 시작할수록 좋다.
우리 인공지능 기업들은 세상의 두뇌를 만들고 있다. 누구나 쉽게 자신에게 정확히 맞는 두뇌를 사용하게 될 것이다. 아이디어의 한계만이 제약조건이 되는 세상이 올 것이다. 오랫동안 스타트업의 기술자들은 ‘아이디어맨’들을 조롱했다. 아이디어만 갖고 그걸 구현할 사람들을 쓸모없다고 생각했던 것이다. 그런데 내가 보기에 지금은 이런 아이디어맨들이 자신들의 세상을 만나게 됐다.
오픈AI는 무엇보다 초지능 연구기업이다. 해야 할 많은 일들이 있다. 그러나 어둠은 빠르게 사라지고 가야 할 길 대부분은 분명해졌다. 우리가 이만큼 해낼 수 있었던 것에 감사한다.
사실상 공짜나 다름없는 지능이 우리 손 안에 쥐어지기 직전이다. 제정신이 아닌 것처럼 들릴 수도 있다. 하지만 우리가 2020년으로 돌아가 지금의 상황을 설명한다면, 2030년에 대한 이런 예측을 지금 이야기하는 것보다 더 제정신이 아닌 것처럼 들렸을 것이다.우리가 초지능을 향해 부드럽게, 기하급수적으로, 그러면서도 별 탈 없이 나아가기를.(May we scale smoothly, exponentially and uneventfully through superintelligence)
2.
그러면 알트만의 생각을 어떻게 바라보아야 할까요? 우선 Singuratity의 개념을 이해해보죠. 위키의 정의입니다.
기술적 특이점(技術的特異點, 영어: technological singularity, TS)은 인공지능(AI)의 발전이 가속화되어 모든 인류의 지성을 합친 것보다 더 뛰어난 초인공지능이 출현하는 시점을 말한다. 즉, 특이점이란 미래학에서 문명의 미래 발전에 가상 지점을 뜻하는 용어로서, 미래에 기술 변화의 속도가 급속히 변함으로써 그 영향이 넓어져 인간의 생활이 되돌릴 수 없도록 변화되는 기점을 뜻한다.
IBM에 올라온 What is the technological singularity?도 비슷합니다. 제가 생각하기에, 출현이라는 뜻을 이해할 때 “인간의 지능 혹은 능력을 이해하고 해석하고 조절할 수 없는”이라는 단서가 붙어야 할 듯 합니다.
The technological singularity is a theoretical scenario where technological growth becomes uncontrollable and irreversible, culminating in profound and unpredictable changes to human civilization.
In theory, this phenomenon is driven by the emergence of artificial intelligence (AI) that surpasses human cognitive capabilities and can autonomously enhance itself. The term “singularity” in this context draws from mathematical concepts indicating a point where existing models break down and continuity in understanding is lost. This describes an era where machines not only match but substantially exceed human intelligence, starting a cycle of self-perpetuating technological evolution.
The theory suggests that such advancements could evolve at a pace so rapid that humans would be unable to foresee, mitigate or halt the process. This rapid evolution could give rise to synthetic intelligences that are not only autonomous but also capable of innovations that are beyond human comprehension or control. The possibility that machines might create even more advanced versions of themselves could shift humanity into a new reality where humans are no longer the most capable entities. The implications of reaching this singularity point could be good for the human race or catastrophic. For now, the concept is relegated to science fiction, but nonetheless, it can be valuable to contemplate what such a future might look like, so that humanity might steer AI development in such a way as to promote its civilizational interests
기술적 특이점을 어떻게 이해하느냐와 더불어 현재 수준을 어떻게 이해하느냐에 따라 평가가 달라집니다. 이를 다루는 기사를 소개합니다. AI타임즈의 알트먼 “챗GPT, 이미 인간 넘어서…초지능은 천천히 성장”입니다.
이번 글은 최근 여러 업계 리더가 AGI 도달 시점도 대해 아직 긴 시간이 걸릴 것으로 보인다고 밝힌 데 대한 반응으로 보입니다. 데미스 허사비스 구글 딥마인드 CEO의 말이나 순다르 피차이 구글 CEO의 ‘AJI’ 발언 등이 대표적입니다.
그리고 이런 견해차가 발생하는 것은 알트먼 CEO가 생각하는 AGI와 ASI에 대한 초점이 다른 사람들과는 다르기 때문입니다. 일반적으로 AGI는 단순한 지적 능력을 넘어 인간과 흡사한 측면을 가지는 것으로 이해됩니다. 이 때문에 세계를 이해하는 월드모델(LWM)의 중요성을 강조하거나 ‘Strawberry’에 r이 몇개인지 세는 것을 중요하게 생각합니다.
그러나 알트먼 CEO는 이런 단점보다는 AI가 수학이나 변호사 시험에서 인간보다 우수한 성적을 거두는 등 엄청난 지식을 갖췄다는 점을 중요하게 생각합니다. 특히, 이런 다양한 능력을 사람이 가질 수 있는 한계 이상으로 갖췄다는 점이 인간을 넘어섰다고 판단하는 기준인 듯합니다.특히, 그가 생각하는 ASI는 최근 ‘과학 발전’으로 좁혀지고 있습니다. 여러 전문 분야 지식을 갖춘 지구상 모든 인간보다 다양한 전문성을 갖춘 AI가 이를 조합, 이제까지 등장한 적이 없는 새로운 아이디어를 내놓는다면 그것으로 충분히 초지능으로 부를 수 있다고 주장하는 셈입니다.
얼마 전 다리오 아모데이 앤트로픽 CEO도 환각 여부를 AGI 달성 기준으로 따지는 것이 불합리하다고 지적했습니다. 이는 어차피 기계는 한계가 있으며, 이는 인간도 마찬가지라는 것입니다.둘의 입장은 조금 다르지만, 어쨌든 AGI를 ‘인간과 똑같은’이라는 기준으로 볼 필요는 없다는 데 대해서는 일치합니다
위 기사중 현재를 AJI(Artificial Jagged Intelligence)로 바라보는 입장을 소개합니다. 구글 CEO “현재 모델은 AGI에 못 미친 ‘AJI’ 상태…천재성과 실수가 공존”라는 기사입니다.
순다르 피차이 구글 CEO가 현재의 인공지능(AI)을 완벽하지 않은, 그러나 폭발적으로 성장하는 ‘들쭉날쭉한 AI(AJI)’로 정의했다. 인공일반지능(AGI)에 가까워지기 위해 끊임없이 성능이 발전 중이지만, 동시에 환각과 정보 오류, 기초적 실수 같은 문제도 가지고 있다는 설명이다.
피차이 CEO는 최근 렉스 프리드먼 팟캐스트에 출연, 현재 AI의 단계를 ‘AJI(Artificial Jagged Intelligence)’라고 표현했다. 이는 뛰어난 능력과 터무니없는 실수가 공존하는 현재의 AI를 상징하는 개념이다. 그는 “이 용어는 아마 안드레이 카르파시가 처음 썼을 것”이라고 소개했다. 카르파시는 오픈AI 공동 창립자이자 컴퓨터 비전 전문가로 잘 알려져 있다. 실제로 카르파시는 지난해 X(트위터)를 통해 “최첨단 모델이 복잡한 수학 문제는 해결하면서도 9.9가 9.11보다 크다는 것을 이해하지 못하는 등 매우 단순한 문제에는 약한 모습을 보이는 이상한 특성을 설명하기 위해 ‘들쭉날쭉한 지능(Jagged Intelligence)’라는 말을 만들었다”라고 밝혔다. 대형언어모델(LLM)들이 간단한 게임에서 말도 안 되는 결정을 내리거나 숫자 세는 것도 때로는 어려워하는 것을 예로 들었다. 그 이유로 “인간은 지식과 문제해결 능력이 선형적으로 향상되지만, AI는 그렇지 않다”라고 지적했다.
피차이 CEO 역시 이에 공감하며 “모델이 대단한 일을 해내는 동시에, ‘strawberry’에 r이 몇개인지도 세지 못하거나 단순 계산에서 오류를 보이기도 한다”라고 밝혔다.이어 “현재는 AJI의 시대에 있으며, 드라마틱한 진보 속에서도 일부는 여전히 작동하지 않는 과도기적 국면”이라고 설명했다.AGI 도달 시점에 대해선 신중한 입장을 보였다. 2030년까지도 이에 완전히 도달하긴 어렵다고 봤다. 그러나 “AGI에 도달하지 않아도 그 전에 이미 충격적인 수준의 진보가 나타날 것”이라고 강조했다.또 AI가 가져올 인류 발전의 핵심 분야로 ▲모국어 기반 지식 접근성 향상 ▲과학 발견 가속 ▲기후 변화 대응 ▲경제 성장 촉진 등 네가지를 꼽았다. 이는 그가 2024년 9월 UN ‘미래 정상회의(Summit of the Future)’에서 발표한 주요 비전이기도 하다. 동시에 그는 향후 AI 생성 콘텐츠를 명확히 구분할 수 있는 체계적 라벨링 시스템이 필요하다고 강조했다.
이 외에도, 최근 AI 발전과 관련해 주목할 만한 핵심 메시지 몇가지를 전했다.
우선, ‘토큰 폭발(Token Explosion)’ 현상을 거론했다. 이는 구글의 ‘제미나이’가 1년 만에 월간 토큰 사용량이 9.7조에서 480조로 약 50배 증가한 것을 말한다.그는 이 데이터를 두고 “각 토큰은 누군가가 AI를 통해 ‘아하’의 순간을 경험한 것”이라며, AI가 실생활에서 실질적인 통찰과 도약을 제공하고 있다는 점을 강조했다.
또 AI가 단순한 기술 진보를 넘어 ‘문명의 도약 패키지’ 역할을 하게 될 것이라고 확신했다. 그는 “AI는 80억 인류 모두에게 새로운 능력을 제공할 것”이며 “머릿속 생각이 현실로 구현되는 시대가 열리고 있다”라고 말했다. 이는 AI의 가능성을 기존 기술의 연장이 아니라, 인류 능력의 근본적 확장으로 보고 있음을 의미한다.
구글이 이미 초강력 AI 모델을 개발했지만, 너무 느리고 비용이 많이 들어 상용화하지 않고 있다는 발언으로도 눈길을 끌었다. 성능 면에서는 현재 모델들을 뛰어넘는 고성능 AI를 개발했지만, 현실적으로 서비스 제공이 어려운 상태라는 것이다.AI의 긍정적인 면만 강조한 것은 아니다. AI 멸종 위험에 대한 내부 논의가 실제로 진행되고 있으며, “근본적으로 위험은 꽤 높다”라고 인정했다.
AJI시대의 도래와 한국의 진로을 보시면 원문에 가깝게 번역해서 소개합니다. 직접 읽어보시면.
