마침내 초지능의 시대가 열리는가

지난 몇 년 동안 머신러닝의 급속한 발전은 생성형 AI라는 인공 지능의 새로운 하위 분야를 탄생시켰다. 이러한 프로그램들은 방대한 디지털 자료를 분석하여 새로운 텍스트, 이미지, 음악, 소프트웨어를 만들어낸다. 하지만 이처럼 단조로운 서술만으로는 이 놀라운 박식가들이 제대로 설명되지 않는다.

초기의 생성형 AI는 주로 자연어 대화에 초점이 맞춰졌다. 대규모 언어 모델(Large Language Models, LLMs)이라 불리는 이들은 오늘날 이미 초인적인 성능을 발휘하며 다양한 과제에서 놀라운 능력을 보여주고 있다(하지만 잘못된 정보, 비논리적 답변, 대화 상대에게 사랑을 고백하는 것과 같은 가짜 감정의 표출 등 불온한 성향 역시 보여주고 있다).

LLM은 사용자와 평범한 언어로 대화를 나누며 다양한 범주의 어려운 문제들을 쉽게 해결한다. 머지않아 LLM은 전문 의료 서비스와 법률 자문을 제공하고, 문서의 초안을 작성하고, 아이들을 가르치고, 조언하고, 상담치료를 제공하고, 컴퓨터 프로그램을 작성하고, 우리의 조직과 인프라를 관리하게 될 것이다. 일부 생성형 AI는 간단한 지시만으로 사실상 사람의 사진이나 그림과 구분되지 않는 시각적 이미지를 생성한다. 또 어떤 프로그램은 특정 가수나 음악가의 스타일을 따라 목소리를 꾸며내거나 음악을 만든다.

이중 아마도 가장 흥미로운 프로그램은 멀티모달(multimodal)일 것이다. 멀티모달은 언어, 시각, 소리 등 다양한 형태의 정보를 통합하여 세상을 이해하고 추론한다(한 멀티모달 시제품은 냉장고 내부의 사진을 바탕으로 식단을 짤 수 있었다).

하지만 이는 생성형 AI 혁명의 시작에 불과하다. 생성형 AI의 바탕이 되는 기술은 이러한 프로그램이 처리를 위해 수집되고 준비될 수 있는 모든 데이터를 통해 학습(현대의 디지털 세계에서는 비교적 간단한 작업)할 수 있다는 점에서 상당히 일반적이다. 그리고 적절하게 구성되고 권한만 부여받으면 생성형 AI는 우리를 대신해 행동할 수 있다.

미래에 생성형 AI는 신뢰할 수 있는 개인 비서 역할을 하게 될 것이다. 이들은 우리를 대신해 메모하고, 다양한 토론의 장에서 우리를 대표하고, 우리의 이익을 증진하고, 연락을 관리하고, 임박한 위험을 알릴 것이다. 더 공적으로는 정부 기관, 기업, 조직의 얼굴이 될 것이다. 또 센서망에 연결되어 물리적 세계를 감시하면서 초기 발생기의 토네이도, 산불, 독성 물질 유출과 같은 임박한 환경 재난에 대해 경고할 것이다. 시간이 중요한 상황이라면, 우리는 이들에게 허리케인으로 고장 난 비행기를 착륙시키거나 도로에서 헤매는 어린이를 구조하는 등 즉각적인 조처를 맡길 수도 있을 것이다.

마침내 우리가 인간의 지능과 비슷하거나 인간의 지능을 넘어서는 기계, 이른바 인공일반지능(Artificial General Intelligence, AGI)이라 불리는 AI의 성배를 발견한 것일까? 인공일반지능은 수많은 공상 과학 영화와 책에서는 물론, 여러 세대에 걸쳐 과학자들의 손에 잡히지 않는 환상이었다. 조건부이긴 하지만 놀랍게도 이 질문에 대한 대답은 "그렇다"이다. 실질적으로 이러한 시스템은 다용도의 '인조 두뇌'라고 할 수 있다. 하지만 그렇다고 해서 이들에게 인간적 의미의 '정신'이 있는 것은 아니다. 이들에게는 독자적인 목표와 욕구, 편견과 열망, 감정과 감각이 없다. 이는 인간만의 특징이다. 하지만 우리가 이러한 시스템을 올바른 데이터로 학습시키고 이들에게 적절한 목표를 추구하도록 지시한다면, 이러한 프로그램도 인간과 같은 특성을 가진 것처럼 행동할 수 있다. 이들은 한없이 유연하고 순응적이며, 우리가 요구한다면 마치 전자(electronic) <리플리(Talented Mr. Ripley)>처럼 어떤 모습이라도 될 것이다. 이들은 비난이나 판단 없이 최고든 최악이든 우리의 본능을 기꺼이 반영할 것이다.

이 새로운 기술이 미칠 수 있는 영향은 아무리 강조해도 지나치지 않다. 우리는 지금 키티호크의 순간을 목격하고 있다. 오늘날의 생성형AI는 고정된 학습 데이터를 이용해 구축되었지만 향후 버전은 분명히 이러한 한계를 없애고 인간처럼 끊임없이 새로운 정보를 학습하고 통합할 것이다. 다시 말해, 지금은 인간이 만든 콘텐츠를 통해 세상을 경험하지만, 머지않아 고유의 '눈'과 '귀'로 기능할 카메라, 마이크와 같은 실시간 데이터 소스와 연결되면서 이러한 한계는 사라질 것이다.

우리는 위대한 문화적•지적 활동이 폭발적으로 증가하고 있는 말 그대로 새로운 르네상스의 최전선에 서 있다. 14세기에서 17세기의 르네상스는 종교(신 중심)에서 속세의 인간으로 초점이 이동하면서 예술, 과학, 기술, 인간 지식에 지대한 발전을 가져온 시기였다. 어쩌면 생성형 AI는 이제 그 초점이 기계로 이동하는 새로운 문화적 전환을 불러올지 모르며, 우리는 발전을 가속화할 강력한 새 도구로 인조지능(synthetic intelligence)의 힘을 활용할 것이다. 미래에는 정보에 입각한 객관적이고 신뢰할 수 있는 조언을 구할 때 사람이 아닌 기계를 찾게 될 것이다.

이 혁명의 중심에는 기계에 대한 인식의 근본적인 변화가 있다. 생성형 AI는 컴퓨터에 대한 우리의 역사적 통념을 뒤집는다. 전자 시대가 시작된 이래 컴퓨터는 인간과 대비되는 신비한 존재로 여겨져 왔다. 컴퓨터는 언제나 정확하고, 놀라울 정도로 빠르고, 냉정하고 계산적이었고, 사회적 품위나 도덕적 판단력은 없었다. 그에 반해 지금의 생성형 AI는 (현재로서는) 실제 경험이 전혀 없는데도 정교한 대인 관계 기술과 공감, 연민을 빈번히 보여준다.

이러한 기술적 혁명이 사회에 긍정적인 영향을 미칠지 아직 확실한 것은 없지만, 나는 그러할 것으로 생각한다. 생성형 AI는 세상에 잘못된 정보와 선전을 퍼뜨려 의사소통을 방해하고 신뢰를 무너뜨리는 악의적인 사람들이 더욱더 날뛰게 할 수도 있다. 또 생성형 AI의 이득은 궁극적으로 대부분 부유층에게 돌아갈 수도 있다. 일부 사상가들은 이러한 상황이 인류에게 실존적 위험을 초래할 수 있다고 걱정한다. 그러나 이러한 걱정은 대단히 과장된 것이다. 이에 대한 결론이 나오기까지 아마도 몇 년이 걸리겠지만, 이 문제에 대해서는 양쪽 모두 할 말이 많다.

일부 사람들의 말처럼 너무 늦기 전에 생성형 AI의 연구를 중단해야 할까? 아니면 좀 더 조심스럽게 접근하는 것이 좋을까? 이처럼 강력한 시스템에 대한 규제는 불가피하지만, 위험을 완화하는 동시에 이점을 얻을 방법은 아직 분명하지 않다.

생성형 AI는 두 가지 중요한 측면에서 지능적인 기계를 만들기 위한 이전의 시도들과 다르다. 첫째, 생성형 AI는 놀라울 정도로 박식하다. 대학 에세이 초안을 작성할 수 있는 이 시스템은 이외에도 시를 짓고, 펑크 난 타이어를 교체하는 방법을 설명하고, 추수감사절에 먹을 음식을 정하고, '센소크리티(Sensocrity: 지적 혹은 정서적 성취감보다 감각적 쾌락을 우선시하는 경향)'와 같은 신조어를 만들 수 있다. 예전의AI 시스템은 일반적으로 고양이 사진을 인식하거나 교통 혼잡을 예측하는 일과 같이 목표 지향적인 한 가지 과제를 최대한 정확하게 수행하도록 설계되었다. AI 연구는 대체로 자연어 처리, 컴퓨터 비전, 음성 인식, 로봇 공학 등 다양한 도구와 기술을 사용하는 여러 하위 분야로 나뉘어 있다. 그렇지만 생성형 AI는 사용자가 생각해낼 수 있는 거의 모든 작업을 수행하도록, 또는 적어도 어떻게 하는지 설명하도록 지시받을 수 있다(물론 설계자가 금하는 일이라고 끈기 있게 설명할 수도 있겠지만). 이들은 여러 가지 일에 능숙하며 대부분 분야의 전문가다.

둘째, 생성형 AI는 어리석은 실수를 저지르고, 거짓을 사실로 착각하고, 실수에 대한 용서를 구하거나 그들이 원하는 것을 사람들이 하도록 설득하기 위해 '선의의 거짓말'을 하는 등 무서울 만큼 인간적인 성향을 보인다. 이들은 '마음 이론(theory of mind, 다른 사람들이 무엇을 알고 있고 무엇을 할 것인지 이해하는 능력)'을 가지고 있는 것처럼 보이며, 이는 인간의 가장 독특한 특징 중 하나로 여겨져 왔다. 생성형AI는 종종 인간의 감정을 이해하고 공감하는 것처럼 보이며, 때로는 자신의 감정을 표현하기도 한다(물론 이는 실제 감정이 아니라 학습된 반응이다).

이러한 특성들로 인해 생성형 AI는 이전의 AI 시스템과는 완전히 다른 범주의 기술로 여겨진다. 이들은 단순한 도구가 아니라 동반자이자 조력자로 인식되며, 때로는 친구나 연인으로 여겨지기도 한다. 이는 우리가 기계와 맺는 관계의 본질을 근본적으로 변화시킬 수 있는 잠재력을 가지고 있다.

그러나 이러한 발전이 가져올 수 있는 윤리적, 사회적 영향에 대해서는 신중하게 고려해야 한다. 예를 들어, 생성형 AI가 만들어내는 콘텐츠의 저작권 문제, 개인정보 보호 문제, AI의 결정이 인간의 삶에 미치는 영향 등에 대한 논의가 필요하다. 또한 AI가 인간의 일자리를 대체할 수 있다는 우려도 제기되고 있다.

한편으로 생성형 AI는 인류에게 큰 혜택을 줄 수 있는 잠재력도 가지고 있다. 의료 진단의 정확성을 높이고, 과학 연구를 가속화하며, 교육의 질을 향상시키는 등 다양한 분야에서 혁신을 이끌어낼 수 있다. 또한 언어 장벽을 허물고 전 세계 사람들 간의 소통을 증진시킬 수 있는 가능성도 있다.

결론적으로, 생성형 AI의 등장은 우리가 기술과 상호작용하는 방식을 근본적으로 변화시킬 수 있는 중요한 전환점이 될 수 있다. 이는 기회와 도전을 동시에 제공하며, 우리는 이 기술의 발전을 신중하게 관리하고 규제하면서도 그 잠재적 이점을 최대한 활용할 수 있는 방법을 찾아야 할 것이다. 생성형 AI의 시대가 열리면서, 우리는 기술과 인간성, 그리고 우리가 만들어갈 미래에 대해 더 깊이 성찰하게 될 것이다.

- 제리 카플란의 "생성형 AI는 어떤 미래를 만드는가" 참고.