사랑의 기계들: AI가 세상을 더 나은 곳으로 바꿀 수 있는 방법

2024년 10월

저는 강력한 AI의 위험성에 대해 많이 생각하고 이야기합니다. 제가 CEO로 있는 Anthropic이라는 회사는 이러한 위험을 줄이기 위한 연구를 많이 하고 있습니다. 그 때문에 사람들이 종종 제가 AI가 주로 나쁜 영향을 미칠 것이며 위험하다고 생각하는 비관주의자 또는 '운명론자'라고 결론 내리곤 합니다. 하지만 저는 그렇게 생각하지 않습니다. 사실 제가 위험성에 집중하는 주된 이유 중 하나는, 위험만이 근본적으로 긍정적인 미래를 가로막는 유일한 요소라고 보기 때문입니다. 대부분의 사람들은 AI의 긍정적인 면이 얼마나 극적일 수 있는지 과소평가하고 있으며, 그만큼 위험도 과소평가한다고 생각합니다.

이 에세이에서는 AI의 긍정적인 측면, 즉 모든 것이 제대로 작동할 때 강력한 AI가 가져올 수 있는 세상을 그려보려고 합니다. 물론 누구도 미래를 확실하게 예측할 수 없으며, 강력한 AI의 영향은 과거 기술 변화보다도 훨씬 예측하기 어려울 것입니다. 그래서 여기서 말하는 내용은 불가피하게 추측에 불과할 수밖에 없습니다. 하지만 최소한 유용하고 교육적인 추측을 제공하려고 노력하며, 구체적인 비전이 추상적인 비전보다 토론을 촉진하는 데 더 도움이 된다고 믿기 때문에 많은 세부 사항을 포함하고 있습니다.

먼저, 왜 제가 강력한 AI의 긍정적인 면에 대해 많이 이야기하지 않았는지, 그리고 앞으로도 위험에 대해 더 많이 이야기할 이유에 대해 간단히 설명하고 싶습니다. 특히 저는 다음과 같은 이유로 이러한 선택을 했습니다:

  1. 레버리지 극대화: AI 기술의 기본 개발과 그 이점의 많은 부분(모든 것은 아님)은 피할 수 없는 것처럼 보이며, 이는 강력한 시장의 힘에 의해 근본적으로 추진됩니다. 반면 위험은 사전에 결정된 것이 아니며, 우리의 행동에 따라 그 발생 가능성을 크게 변화시킬 수 있습니다.
  2. 선전으로 비춰질 수 있는 위험 회피: AI 회사가 AI의 모든 놀라운 혜택에 대해 이야기하는 것은 선전처럼 보이거나 단점에서 주의를 돌리려는 것처럼 보일 수 있습니다. 저는 또한 원칙적으로 자신의 이익을 위해 너무 많은 시간을 투자하는 것은 영혼에 좋지 않다고 생각합니다.
  3. 과대함 회피: 많은 AI 위험 공공 인물들(특히 AI 회사 리더들)이 마치 그들이 사람들을 구원으로 인도하는 예언자처럼 행동하며 AGI 세계를 가져오려는 사명에 대해 이야기하는 방식에 종종 반감을 느낍니다. 회사가 세계를 일방적으로 형성하는 것처럼 보는 것도 위험하며, 실용적인 기술 목표를 본질적으로 종교적인 용어로 보는 것도 위험합니다.
  4. '공상 과학'이라는 짐 회피: 많은 사람들이 강력한 AI의 긍정적인 면을 과소평가하고 있다고 생각하지만, 급진적인 AI 미래에 대해 이야기하는 소규모 커뮤니티는 지나치게 '공상 과학적'인 어조를 띄는 경우가 많습니다(예: 업로드된 마인드, 우주 탐사, 사이버펑크 분위기 등). 이는 사람들이 이러한 주장들을 덜 진지하게 받아들이게 하고, 일종의 비현실성을 부여합니다. 여기서 문제는 이러한 기술들이 가능한지 여부가 아니라, 이러한 논의가 어떤 문화적 전제와 함께 오는지, 그리고 어떤 종류의 미래가 바람직한지에 대한 암묵적인 가정들이 포함된다는 점입니다.

이 모든 우려에도 불구하고, 저는 강력한 AI가 가져올 수 있는 좋은 세상에 대해 논의하는 것이 중요하다고 생각합니다. 위험에 맞서 싸우는 계획만 있는 것이 아니라, 모두가 더 나은 결과를 얻을 수 있는 비전이 있어야 한다고 생각합니다.

AI의 긍정적인 적용 분야는 매우 넓습니다(로봇 공학, 제조, 에너지 등 포함). 그러나 저는 인간의 삶의 질을 직접적으로 개선할 수 있는 몇 가지 중요한 분야에 집중할 것입니다. 제가 가장 기대하는 다섯 가지 분야는 다음과 같습니다:

  1. 생물학과 신체 건강
  2. 신경과학과 정신 건강
  3. 경제 발전과 빈곤 문제
  4. 평화와 통치
  5. 일과 의미

기본 가정과 프레임워크

이 에세이를 더 구체적이고 현실적인 방식으로 진행하기 위해, 강력한 AI가 어떤 모습일지(즉, 5-10년의 타이머가 시작되는 기준점) 명확하게 정의하는 것이 도움이 됩니다. 또한 그러한 AI가 도입된 이후의 영향을 생각할 때 사용할 프레임워크를 제시하는 것이 유익합니다.

강력한 AI(저는 AGI라는 용어를 별로 좋아하지 않습니다)가 어떤 모습일지, 그리고 언제(혹은 실제로 만들어질지)가 큰 주제입니다. 저는 이 주제를 공개적으로 논의했으며, 나중에 별도의 에세이를 써서 이 주제를 다룰 생각입니다. 많은 사람들이 강력한 AI가 곧 개발될 것에 대해 회의적이며, 어떤 사람들은 AI가 결코 만들어지지 않을 것이라고 생각합니다. 저는 강력한 AI가 2026년쯤 도래할 수 있다고 생각하지만, 그보다 훨씬 더 오래 걸릴 수도 있는 방법도 있다고 봅니다. 그러나 이 에세이에서는 이러한 논의는 차치하고, 강력한 AI가 비교적 빨리 도래할 것이라고 가정한 후, 그 후 5-10년 동안 무슨 일이 일어날지에 대해 집중하고자 합니다. 또한 강력한 AI의 시스템이 어떤 모습일지, 그 능력은 무엇이며 어떻게 상호작용할지를 가정하여 논의할 것입니다.

제가 생각하는 강력한 AI는 오늘날의 대형 언어 모델(LLM)과 유사한 형태일 가능성이 높지만, 다른 구조에 기반할 수도 있으며 여러 개의 상호작용하는 모델로 구성될 수도 있고, 학습 방법이 다를 수도 있습니다. 그 모델의 특징은 다음과 같습니다:

  1. 순수한 지능의 관점에서, AI는 노벨상 수상자를 포함한 대부분의 관련 분야(생물학, 프로그래밍, 수학, 공학, 글쓰기 등)에서 그보다 더 똑똑합니다. 이는 해결되지 않은 수학적 문제를 증명하고, 훌륭한 소설을 쓰고, 어려운 코드베이스를 처음부터 작성할 수 있다는 것을 의미합니다.
  2. AI는 단순히 "대화할 수 있는 똑똑한 존재"가 아니라, 텍스트, 오디오, 비디오, 마우스 및 키보드 제어, 인터넷 접근 등 인간이 가상으로 작업할 수 있는 모든 인터페이스를 사용할 수 있습니다. 이 AI는 인터넷에서 행동을 취하거나, 인간에게 지시를 내리거나, 실험을 지시하거나, 비디오를 보고 만들거나 등 모든 작업을 인간보다 더 뛰어난 기술로 수행할 수 있습니다.
  3. AI는 단순히 질문에 답하는 데 그치지 않고, 몇 시간, 며칠 또는 몇 주가 걸릴 수 있는 작업을 부여받고 그 작업을 자율적으로 수행할 수 있습니다.
  4. AI는 물리적인 형태를 가지지는 않지만, 컴퓨터를 통해 기존의 물리적 도구, 로봇, 실험실 장비를 제어할 수 있으며, 스스로 사용할 수 있는 로봇이나 장비를 설계할 수도 있습니다.
  5. 이 AI 모델을 학습시키는 데 사용된 자원은 수백만 개의 AI 인스턴스를 실행하는 데 재사용될 수 있으며, 모델은 인간의 속도보다 10배에서 100배 빠르게 정보를 흡수하고 행동을 생성할 수 있습니다. 다만 물리적 세계나 소프트웨어의 응답 시간에 의해 제한될 수 있습니다.
  6. 이 수백만 개의 인스턴스는 각각 독립적으로 작동할 수 있으며, 필요한 경우 협력하여 공동 작업을 수행할 수 있습니다. 각 AI 인스턴스는 특정 작업에 특화된 능력을 가질 수 있습니다.

이러한 AI는 매우 어려운 문제를 빠르게 해결할 수 있는 능력을 가질 것입니다. 그러나 그 속도가 얼마나 빠를지는 추정하기 어렵습니다. 두 가지 극단적인 관점이 모두 틀렸다고 생각합니다. 첫 번째는 "특이점"이라는 개념으로, AI가 자기 자신을 개선하여 과학적, 공학적, 운영적 문제를 거의 즉시 해결한다는 것입니다. 하지만 지능이 강력하다고 해도 하드웨어를 만들거나 생물학적 실험을 수행하는 데 물리적 제한이 있기 때문에 즉각적인 변화를 기대하기는 어렵습니다. 두 번째는 기술 발전이 이미 한계에 도달했거나 사회적 요인에 의해 제한되어, 인간을 초월하는 지능이 거의 기여하지 않을 것이라는 생각입니다. 저는 수백 명의 뛰어난 사람들이 함께 일할 경우 과학적 문제 해결 속도가 크게 빨라질 수 있다고 믿습니다.

따라서 이러한 두 가지 극단적인 관점 사이에 있는 더 복잡하고 미묘한 진실이 있을 것이며, 이는 과제와 분야에 따라 다를 것입니다. 이를 생산적인 방식으로 사고하기 위해서는 새로운 프레임워크가 필요하다고 생각합니다.

경제학자들은 종종 노동, 토지, 자본과 같은 "생산 요소"에 대해 이야기합니다. AI 시대에는 "지능의 한계 수익"에 대해 이야기해야 하며, 지능이 높을 때 지능과 상호보완적인 다른 요소들이 무엇인지 파악하는 것이 중요하다고 생각합니다. 우리는 "더 똑똑해지는 것이 이 작업에 얼마나 도움이 되는가?"라는 질문을 통해 AI가 강력해진 세상을 생각해보아야 합니다.

1. 생물학과 건강

생물학은 과학적 진보가 인간 삶의 질을 직접적이고 명확하게 향상시킬 가능성이 가장 큰 분야일 것입니다. 지난 세기 동안 인간의 오랜 고통 중 일부(예: 천연두)가 마침내 정복되었지만, 여전히 많은 질병이 남아 있으며 이를 해결하는 것은 거대한 인도주의적 성취가 될 것입니다. 질병 치료를 넘어서, 생물학적 과학은 이론적으로 인간의 건강 수명을 연장하고, 우리의 생물학적 과정을 통제하고 자유롭게 하며, 현재 인간 조건의 불변 요소로 여겨지는 일상적인 문제들을 해결할 수 있습니다.

앞서 설명한 "제한 요인" 언어를 생물학에 적용할 때, 지능을 생물학에 직접 적용하는 데 있어서 주요 도전 과제는 데이터, 물리적 세계의 속도, 그리고 내재된 복잡성입니다(사실 이 세 가지는 서로 밀접하게 관련되어 있습니다). 인간의 제약도 임상 시험이 진행되는 후반 단계에서는 중요한 역할을 합니다. 이 문제들을 하나씩 살펴보겠습니다.

세포, 동물, 심지어 화학적 과정에 대한 실험은 물리적 세계의 속도에 의해 제한됩니다. 많은 생물학적 실험 과정은 박테리아나 다른 세포를 배양하거나 단순히 화학 반응을 기다리는 것을 포함하며, 이것은 때때로 며칠, 심지어 몇 주가 걸리기도 하며 이를 가속화할 명백한 방법이 없습니다. 동물 실험은 몇 달(혹은 더 오래) 걸릴 수 있으며, 인간 실험은 종종 몇 년(혹은 장기적인 결과를 연구하는 경우 수십 년)이 걸립니다. 이와 관련하여, 데이터가 부족한 경우가 종종 있습니다. 이는 양의 문제가 아니라 질의 문제입니다. 즉, 관심 있는 생물학적 효과를 다른 1만 가지 혼란스러운 요인들에서 분리하거나, 특정 과정에서 인과적으로 개입하거나, 어떤 효과를 직접적으로 측정하는 명확하고 모호하지 않은 데이터가 항상 부족하다는 것입니다(간접적이거나 노이즈가 많은 방식으로 그 결과를 추론하는 대신). 제가 질량 분석 기술을 연구할 때 수집했던 단백질체 데이터와 같은 방대한 분자적 데이터조차도 여전히 불완전합니다(이 단백질들이 어떤 유형의 세포에 있었는가? 세포의 어느 부분에 있었는가? 세포 주기의 어느 단계였는가?).

이러한 데이터 문제의 일부는 내재된 복잡성에 기인합니다. 인간 대사 작용을 설명하는 생화학적 다이어그램을 본 적이 있다면, 이 복잡한 시스템에서 어느 부분의 효과를 고립시키는 것이 매우 어렵고, 그 시스템에 정밀하게 또는 예측 가능한 방식으로 개입하는 것은 더욱 어렵다는 것을 알 것입니다. 마지막으로, 인간을 대상으로 한 실제 임상 시험을 진행하는 데는 시간이 걸리며, 많은 관료적 규제 요건이 있습니다. 이는 많은 사람들이(저를 포함하여) 불필요하게 시간이 걸리고 진보를 지연시킨다고 생각합니다.

이러한 점들을 감안할 때, 많은 생물학자들은 역사적으로 AI와 "빅 데이터"의 가치에 대해 회의적이었습니다. 지난 30년 동안 수학자, 컴퓨터 과학자, 물리학자들이 생물학에 그들의 기술을 적용한 사례는 성공적이었지만, 처음에 기대했던 것만큼 변혁적인 영향을 미치지 못한 경우가 많습니다. 일부 회의론은 AlphaFold와 같은 획기적인 돌파구로 인해 줄어들었으며, AlphaFold는 최근 화학 노벨상을 받은 것을 자격으로 생각할 수 있는 혁신적인 AI입니다. 하지만 여전히 AI는 특정한 환경에서만 유용하다는 인식이 남아 있습니다. 흔히 말하는 것이 "AI는 데이터를 더 잘 분석할 수 있지만, 더 많은 데이터를 생성하거나 데이터의 질을 향상시킬 수는 없다. 쓰레기 데이터를 넣으면 쓰레기 결과가 나온다"는 것입니다.

하지만 저는 이 회의적인 관점이 AI를 잘못된 방식으로 생각하고 있다고 생각합니다. AI의 진보에 대한 우리의 핵심 가정이 옳다면, AI는 데이터를 분석하는 도구가 아니라 생물학자가 수행하는 모든 작업을 수행하는 가상 생물학자로 생각해야 합니다. 여기에는 실험을 설계하고 실험실 로봇을 제어하거나, 인간에게 어떤 실험을 해야 하는지 지시하는 등(박사 과정 학생들에게 지시하는 지도 교수가 하는 것처럼) 실제로 실험을 실행하는 작업이 포함됩니다. AI는 연구 과정 전반을 가속화함으로써 생물학을 진정으로 발전시킬 수 있습니다. 이것이 AI가 생물학을 혁신적으로 변화시킬 수 있는 가장 큰 힘입니다. 저는 사람들이 AI가 생물학을 변혁할 수 있는 능력에 대해 가장 큰 오해를 하고 있을 때마다 이 점을 반복하고 싶습니다. AI는 단순히 데이터를 분석하는 도구로서만 존재하는 것이 아니라, 생물학자들이 하는 거의 모든 일을 개선하고 직접적으로 수행하는 데 사용할 수 있습니다.

구체적으로 AI가 생물학에서 가속화를 가져올 수 있는 곳에 대해 이야기하자면, 생물학의 진보 중 놀라울 정도로 많은 부분이 극소수의 발견에서 비롯된다는 점을 지적하고 싶습니다. 이러한 발견은 종종 생물학적 시스템에서 정밀하고 일반화된 개입을 허용하는 넓은 측정 도구나 기술과 관련이 있습니다. 이런 주요 발견은 연간 대략 하나씩 있으며, 이 발견들은 생물학의 진보의 50% 이상을 차지한다고 할 수 있습니다. 이 발견들은 본질적인 복잡성과 데이터 제한을 직접적으로 극복하여 우리의 생물학적 과정에 대한 이해와 통제력을 증대시키기 때문에 매우 강력합니다.

몇 가지 예로는 다음과 같은 것들이 있습니다:

  • CRISPR: 이는 살아 있는 생명체에서 어떤 유전자든 편집할 수 있는 기술입니다(아무 유전자 서열을 원하는 대로 바꾸는 것이 가능함). 초기 기술이 개발된 이후로 특정 세포 유형을 타겟으로 하고 정확성을 높이며 잘못된 유전자를 편집하는 것을 줄이는 등 인간에게 안전하게 사용하기 위해서 꾸준히 개선되었습니다.
  • 다양한 종류의 현미경: 정밀한 수준에서 일어나는 일을 관찰할 수 있는 도구들로, 고급 광학 현미경(형광 기술이나 특수 광학을 사용하는), 전자 현미경, 원자력 현미경 등이 포함됩니다.
  • 유전체 서열 분석 및 합성: 지난 몇 십 년 동안 비용이 수백 배 감소한 기술입니다.
  • 옵토제네틱 기술: 빛을 비추어 뉴런을 발화시키는 기술로, 신경과학의 혁신입니다.
  • mRNA 백신: 이론적으로 어떤 것에 대해서든 백신을 설계하고 신속하게 수정할 수 있는 가능성을 제공하며, COVID-19 팬데믹 동안 유명해졌습니다.
  • CAR-T와 같은 세포 치료법: 면역 세포를 체외로 꺼내어 다시 프로그램해, 이론적으로 무엇이든 공격할 수 있게 만듭니다.
  • 질병의 세균설이나 면역 체계와 암 사이의 연관성을 인식한 개념적 통찰**: 이러한 개념적 진보는 의료의 중요한 변화를 이끌어냈습니다.

제가 이 기술들을 나열한 이유는 중요한 주장을 하려 하기 때문입니다: 저는 이러한 발견의 속도가 10배 이상 증가할 수 있다고 생각합니다, 만약 훨씬 더 많은 유능하고 창의적인 연구자가 있다면 말입니다. 다시 말해, 이러한 발견에서 지능의 수익률이 매우 높다고 생각하며, 생물학과 의학의 거의 모든 것이 이러한 발견들에서 파생된다고 생각합니다.

왜 그렇게 생각하느냐고요? 제가 제시하는 몇 가지 질문에 대한 답을 통해 지능의 수익률을 파악할 수 있기 때문입니다. 첫째, 이러한 발견은 대개 극소수의 연구자들에 의해 이루어집니다. 종종 같은 인물이 반복적으로 발견을 해내는데, 이는 실험의 시간이 제한 요소라는 생각보다는, 연구자의 능력이 중요하다는 것을 시사합니다. 둘째, 많은 경우 이러한 발견은 몇 년 앞서 이루어질 수 있었던 것들입니다. 예를 들어 CRISPR는 1980년대부터 박테리아 면역 체계의 자연적 요소로 알려져 있었지만, 이 기술이 일반적인 유전자 편집에 사용할 수 있다는 사실을 깨닫기까지 25년이 걸렸습니다. 또한 이러한 기술들은 종종 연구 커뮤니티의 지지 부족으로 인해 몇 년씩 지연되기도 합니다(예를 들어 mRNA 백신 개발자의 사례에서 볼 수 있듯이). 셋째, 성공적인 프로젝트들은 종종 자원 부족 속에서도 이루어지거나, 처음에는 유망하지 않다고 생각되었던 후속 연구로 이루어졌습니다. 이는 단순히 막대한 자원의 집중이 발견을 이끄는 것이 아니라, 창의성과 기지가 중요한 요소임을 시사합니다.

마지막으로, 일부 발견들은 순차적인 의존성이 있지만(발견 A를 먼저 해야 B를 할 수 있는 도구나 지식을 얻을 수 있음), 많은 경우 이들은 독립적입니다. 이는 동시에 여러 가지를 병행할 수 있음을 의미합니다. 이러한 사실들과 제가 생물학자로서 쌓은 경험을 바탕으로, 저는 만약 더 많은 연구자가 뛰어나고 생물학에 대한 광범위한 지식을 잘 연결할 수 있다면, 수백 개의 발견이 기다리고 있다고 확신합니다(다시 CRISPR의 예를 생각해보세요). AlphaFold/AlphaProteo가 인간보다 훨씬 효과적으로 중요한 문제를 해결한 성공 사례는, 비록 특정 도구의 좁은 영역에서 이루어진 것이지만, 앞으로 나아갈 길을 제시한다고 생각합니다.

따라서 저는 강력한 AI가 이러한 발견의 속도를 적어도 10배 가속할 수 있다고 생각합니다, 즉 생물학의 다음 50-100년간의 진보를 5-10년 만에 이루어낼 수 있다는 것입니다. 왜 100배가 아니냐고요? 어쩌면 가능할지도 모르지만, 여기서는 실험 시간과 실험 설계가 중요한 역할을 합니다. 100년간의 진보를 1년 만에 이루려면 동물 실험이나 현미경 설계 같은 일들이 첫 번째 시도에서 모두 올바르게 이루어져야 할 것이기 때문입니다. 1000년치 진보를 5-10년 내에 이루는 것도 가능할 수 있다는 다소 황당하게 들리는 생각조차 열어두지만, 100년을 1년 내에 이루는 것은 회의적입니다. 또 다른 표현으로 하자면, 실험과 하드웨어 설계에는 "지연"이 있으며, 이들을 논리적으로 추론할 수 없는 것들을 배우기 위해서는 여러 번의 반복이 필요합니다. 그러나 그 위에 막대한 병렬 처리가 가능할 수 있습니다.

임상시험에 관해서는 많은 관료주의와 지연이 존재하지만, 대부분의 느림은 결국 효과가 미미하거나 모호한 약물을 엄격하게 평가해야 한다는 필요성에서 비롯됩니다. 오늘날 대부분의 치료법은 효과가 미미한 것이 현실입니다. 예를 들어, 평균적인 암 치료제는 생존 기간을 몇 개월 연장하는 반면, 상당한 부작용이 있어 신중히 측정해야 합니다. 그 결과, 엄청난 규모의 연구가 필요하고 복잡한 절충이 요구되며, 이는 관료제와 상충된 이해관계로 인해 더더욱 시간이 오래 걸립니다.

그러나 무언가가 정말 잘 작동할 때는 훨씬 빠르게 진행됩니다. 효과가 큰 경우 승인이 더 수월해지며, COVID-19 mRNA 백신이 9개월 만에 승인된 것처럼 급속 승인의 가능성이 열립니다. 물론 이조차도 너무 느리다고 생각할 수 있으며, 사실 mRNA 백신은 2개월 내에 승인되었어야 한다고 주장할 수 있습니다. 그러나 이러한 지연(약 1년 내에 약물이 승인되는 과정)과 병렬 처리는 5-10년 내에 생물학을 혁신적으로 변화시키기에 충분히 호환될 수 있습니다. 더 나아가 AI가 지원하는 생물학적 과학은 임상 시험의 반복 필요성을 줄여 더 나은 동물 실험이나 세포 실험 모델(혹은 시뮬레이션)을 개발할 수 있어 인간에게 발생할 일을 더 정확히 예측할 수 있을 것입니다.

마지막으로 임상 시험 및 사회적 장벽과 관련하여 주목할 점은, 생물의학 혁신이 일반적으로 성공적으로 적용된 강력한 기록을 가지고 있다는 점입니다. 많은 기술이 기술적으로 성공적임에도 불구하고 사회적 요인에 의해 방해받지만, 약물 개발 프로세스는 매우 느리지만 한 번 개발되면 일반적으로 성공적으로 배포되고 사용됩니다.

이 모든 내용을 요약하자면, AI 지원 생물학과 의학은 인간 생물학자들이 앞으로 50-100년 동안 이룰 수 있는 진보를 5-10년 내에 압축하여 이룰 수 있을 것이라는 기본적인 예측입니다. 저는 이것을 "압축된 21세기"라고 부르며, 강력한 AI가 개발된 이후 몇 년 안에 생물학과 의학의 전체 21세기 진보를 이루어낼 수 있을 것이라고 봅니다.

AI의 생물학 및 의학이 몇 년 내에 어떤 변화를 가져올지에 대한 예측 목록

이 목록은 어떤 엄격한 방법론에 기반한 것은 아니며, 세부 사항에서 틀릴 가능성이 매우 높지만, AI의 급진적 변화를 대략적으로 설명하려는 시도입니다.

  1. 대부분의 자연적인 전염병의 예방 및 치료 가능성: 20세기 동안 전염병에 대한 엄청난 진보를 이루었으므로, 21세기 내에 이러한 질병들을 "마무리"할 수 있다는 상상은 그리 급진적이지 않습니다. mRNA 백신과 유사한 기술은 이미 "모든 것에 대한 백신"을 가능하게 만들고 있습니다. 전염병이 세계적으로 완전히 근절될지 여부는 빈곤과 불평등에 관한 질문에 달려 있으며, 이는 3장에서 논의될 것입니다.

  2. 대부분의 암 제거: 지난 몇 십 년 동안 암 사망률은 매년 약 2% 감소했습니다. 이는 현재의 과학 속도로 볼 때 21세기 말쯤에 대부분의 암이 사라질 것임을 시사합니다. 일부 암 종류는 이미 거의 완치되었습니다(예: 일부 백혈병은 CAR-T 치료로 해결됨). 저는 암을 초기 단계에서 예방하는 매우 선택적인 약물에 대해 더욱 기대하고 있습니다. AI는 또한 개별 암의 유전체에 매우 정밀하게 적응된 치료법을 가능하게 할 것입니다. 이들은 오늘날에도 가능하지만, 시간과 인간의 전문 지식이 많이 필요해 AI는 이를 확장할 수 있을 것입니다. 사망률과 발생률이 95% 이상 감소할 가능성이 있다고 봅니다. 그러나 암은 매우 다양하고 적응력이 뛰어나며, 몇몇 희귀하고 어려운 악성 종양은 여전히 남아있을 수 있습니다.

  3. 대부분의 유전 질환에 대한 효과적인 예방과 치료: 향상된 배아 선별 기술 덕분에 대부분의 유전 질환을 예방할 수 있을 것이며, CRISPR의 더 안전하고 신뢰할 수 있는 후손 기술이 기존 사람들의 대부분의 유전 질환을 치료할 수 있을 것입니다. 몸 전체에 영향을 미치는 질환들은 마지막까지 해결이 어려운 고질적인 문제가 될 수 있습니다.

  4. 알츠하이머 예방: 우리는 알츠하이머의 원인을 알아내는 데 어려움을 겪고 있습니다. 이 질환은 베타 아밀로이드 단백질과 관련이 있지만, 그 실제 세부 사항은 매우 복잡한 것으로 보입니다. 이것은 AI의 도움이 필요한 문제로, AI는 더 나은 측정 도구를 사용하여 생물학적 효과를 분리하고 문제를 해결할 수 있을 것입니다. 알츠하이머는 상대적으로 간단한 개입으로 예방될 가능성이 높습니다. 그러나 이미 발생한 알츠하이머 손상을 되돌리는 것은 매우 어려울 수 있습니다.

  5. 대부분의 다른 질환에 대한 치료 개선: 당뇨병, 비만, 심장병, 자가면역 질환 등 기타 질환의 치료가 개선될 것입니다. 이러한 질환은 대부분 암이나 알츠하이머보다 "해결하기 쉬운" 문제로 보이며, 일부는 이미 빠르게 감소하고 있습니다. 예를 들어, 심장병 사망률은 이미 50% 이상 감소했으며, 간단한 개입인 GLP-1 작용제는 비만과 당뇨병에 큰 진전을 이루었습니다.

  6. 생물학적 자유: 지난 70년 동안 피임법, 체중 관리, 가임력 관리 등에서 많은 진전이 이루어졌습니다. 그러나 AI가 촉진하는 생물학은 우리의 신체 외모, 생식력, 기타 생물학적 과정을 완전히 통제할 수 있는 가능성을 크게 확장시킬 것입니다. 이러한 개념을 생물학적 자유라고 부를 수 있는데, 이는 사람들이 원하는 모습이 되고, 그들의 삶을 그들에게 가장 매력적인 방식으로 살 수 있는 권리를 가지는 것입니다. 물론, 전 세계적으로 이러한 기술에 대한 접근성에 관한 중요한 질문이 있을 것이며, 이는 3장에서 논의될 것입니다.

  7. 인간 수명의 두 배 연장: 이것은 다소 급진적으로 보일 수 있지만, 20세기 동안 기대 수명이 거의 두 배 증가했다는 점을 고려하면(약 40세에서 75세로), "압축된 21세기"에서 인간 수명이 150세로 증가하는 것은 경향적으로 타당한 예측입니다. 당연히 노화 과정을 늦추는 개입은 대부분 이전 세기 동안 질병 예방을 통해 조기에 사망을 방지한 것과는 다를 것입니다. 하지만 그 변화의 크기 자체는 전례가 없는 것은 아닙니다. 구체적으로는 이미 쥐의 최대 수명을 25-50% 연장하는 약물이 존재하며, 그 부작용은 매우 적습니다. 그리고 일부 거북이 같은 동물은 이미 200년 동안 살기 때문에, 인간이 어떤 이론적인 상한선에 도달한 것은 아닙니다. 아마 가장 중요한 것은 인간 노화를 측정할 수 있는 신뢰할 만한 지표가 필요한 것이며, 이를 통해 실험과 임상 시험에서 빠른 반복이 가능해질 것입니다. 인간 수명이 150세가 되면, 살아있는 사람들 대부분은 자신이 원하는 만큼 오래 살 수 있을지도 모릅니다. 그러나 이것이 생물학적으로 가능한지에 대해서는 확신할 수 없습니다.

이 목록을 보면, 향후 7-12년 내에 이 모든 것이 이루어진다면 세계가 얼마나 달라질지 생각해 볼 필요가 있습니다. 이는 단번에 인류가 수천 년 동안 겪어온 대부분의 고통을 제거하는 상상할 수 없는 인도주의적 승리일 것입니다. 저의 많은 친구와 동료들이 아이를 키우고 있는데, 그 아이들이 자랐을 때, 질병이라는 단어가 그들에게 천연두나 흑사병처럼 들리기를 바랍니다. 그 세대는 생물학적 자유와 자기 표현의 증가를 누릴 것이며, 운이 좋다면 자신이 원하는 만큼 오래 살 수 있을 것입니다.

이러한 변화는, 강력한 AI를 예상한 소수의 사람들을 제외하고는 모두에게 매우 놀라울 것입니다. 예를 들어, 현재 미국에서 수천 명의 경제학자와 정책 전문가들이 사회보장제도와 메디케어를 어떻게 유지할지, 그리고 (주로 70세 이상에서 발생하는) 암과 같은 말기 질환으로 인한 의료비용을 어떻게 줄일지를 두고 토론하고 있습니다. 그러나 이러한 예측이 모두 실현된다면, 이러한 프로그램에 대한 문제는 급격하게 개선될 것입니다. 왜냐하면, 일하는 연령대와 은퇴 연령대 인구 비율이 급격하게 변화할 것이기 때문입니다. 물론 이러한 문제들은 다른 새로운 문제들로 대체될 수 있는데, 예를 들어 새로운 기술에 대한 접근성을 어떻게 보장할 것인가와 같은 문제들이 있을 것입니다. 그러나 생물학 분야에서 AI가 가속화될 경우, 그 변화가 얼마나 큰지를 다시 한 번 되새길 필요가 있습니다.

2. 신경과학과 정신 건강

이전 섹션에서는 신체적 질병과 일반적인 생물학에 초점을 맞췄고, 신경과학이나 정신 건강에 대해서는 다루지 않았습니다. 하지만 신경과학도 생물학의 하위 분야이며, 정신 건강은 신체 건강만큼이나 중요합니다. 실제로 정신 건강이 인간의 행복에 더 직접적으로 영향을 미칠 수 있습니다. 수백만 명의 사람들이 중독, 우울증, 조현병, 저기능 자폐증, PTSD, 정신병적 성향 또는 지적 장애와 같은 문제들로 인해 매우 낮은 삶의 질을 경험하고 있습니다. 그보다 더 많은 사람들이 일상적인 문제들로 고통을 받고 있는데, 이는 종종 이러한 심각한 임상적 장애의 경미한 버전으로 해석될 수 있습니다. 또한 일반적인 생물학과 마찬가지로, 문제를 해결하는 것 이상으로 인간의 기본적인 경험의 질을 향상시킬 가능성도 있습니다.

제가 생물학에 대해 제시한 기본 프레임워크는 신경과학에도 동일하게 적용됩니다. 이 분야는 소수의 중요한 발견들, 특히 측정 도구나 정밀한 개입과 관련된 발견에 의해 추진되고 있습니다. 앞서 언급한 목록 중 옵토제네틱스는 신경과학의 발견이며, 최근의 CLARITY 및 확장 현미경과 같은 기술들도 이와 같은 맥락에서 중요한 발전입니다. 그리고 일반 세포 생물학에서의 많은 방법들은 신경과학에도 직접적으로 적용됩니다. 저는 AI가 이러한 진전을 가속화할 것이며, 따라서 생물학과 마찬가지로 "100년의 진보를 5-10년 안에 이루는" 모델이 신경과학에도 동일하게 적용될 것이라고 생각합니다.

20세기 신경과학에서 이룬 진보는 엄청났습니다. 예를 들어, 뉴런이 왜, 어떻게 발화하는지를 이해한 것도 1950년대 이후의 일입니다. 따라서 AI에 의해 가속화된 신경과학이 몇 년 동안 급속히 발전할 가능성이 높습니다.

AI 자체에 대해 우리가 최근 몇 년간 배운 것들이 신경과학의 발전을 돕는 도구가 될 수 있다고 생각합니다. 그 중 하나는 해석 가능성(interpretability) 연구입니다. 생물학적 뉴런은 표면적으로는 인공 뉴런과 완전히 다른 방식으로 작동합니다(뉴런은 스파이크 속도로 통신하며, 인공 뉴런에는 없는 시간 요소가 있으며, 세포 생리학과 신경전달물질에 관한 여러 세부 사항들이 뉴런의 작동 방식을 상당히 수정합니다). 하지만, "단순한 단위들이 선형적/비선형적 조합을 통해 중요한 계산을 수행하는 네트워크들이 어떻게 함께 작동하여 복잡한 계산을 수행하는가"라는 기본 질문은 동일합니다. AI 해석 연구자들이 인공지능 시스템에서 발견한 계산 메커니즘 중 하나가 최근에 쥐의 뇌에서 재발견되었으며, 이는 이러한 발견들이 신경과학에 새로운 시각을 제공할 수 있음을 시사합니다.

인공 신경망에서 실험을 하는 것이 실제 신경망에서 실험하는 것보다 훨씬 쉽기 때문에, 해석 가능성 연구는 우리가 신경과학을 더 잘 이해하는 데 기여할 수 있을 것입니다. 또한 강력한 AI는 인간보다 이러한 도구를 더 잘 개발하고 적용할 수 있을 것입니다.

해석 가능성 외에도, 지능 시스템이 학습하는 방식에 대해 AI로부터 배운 것들은 신경과학에서도 혁명을 일으킬 수 있다고 봅니다. 제가 신경과학 분야에서 일할 때, 많은 사람들이 지금 생각해보면 잘못된 질문에 집중하고 있었다고 생각합니다. 그 이유는 확장 가설(scaling hypothesis)이나 쓴 교훈(bitter lesson)이 당시에는 존재하지 않았기 때문입니다. 단순한 목적 함수와 많은 데이터만으로 매우 복잡한 행동을 유도할 수 있다는 개념은 학습의 목적 함수와 구조적 편향이 중요하다는 것을 보여줍니다. 신경과학자들이 아직 이 교훈을 완전히 받아들이지 않았다고 생각되지만, AI 연구자들이 신경과학 연구를 더 빠르게 가속화할 가능성이 크다고 생각합니다.

저는 AI가 신경과학적 진보를 네 가지 경로를 통해 가속화할 것이라고 예상하며, 이들이 협력하여 정신 질환을 치료하고 기능을 개선할 수 있기를 기대합니다:

  1. 전통적인 분자 생물학, 화학 및 유전학: 이는 1장에서 논의한 일반적인 생물학 이야기와 동일하며, AI는 동일한 메커니즘을 통해 이를 가속화할 수 있습니다. 많은 약물이 신경전달물질을 조절하여 뇌 기능에 영향을 미치며, 경각심이나 인식에 영향을 주거나 기분을 변화시키는 역할을 합니다. AI는 더 많은 새로운 약물 발명을 도울 수 있을 것입니다.

  2. 세밀한 신경 측정 및 개입: 이는 개별 뉴런이나 신경 회로가 무엇을 하는지 측정하고 그 행동을 변화시키는 능력입니다. 옵토제네틱스 및 신경 프로브 같은 기술은 살아 있는 생명체에서 측정과 개입이 모두 가능하며, 많은 고급 방법들도 제안되고 있습니다.

  3. 고급 계산 신경과학: 앞서 언급했듯이 AI에서 얻은 구체적인 통찰력과 일반적인 시각은 시스템 신경과학의 문제들을 해결하는 데 유용하게 적용될 수 있습니다. 특히 복잡한 질병(예: 정신병 또는 기분 장애)의 진짜 원인과 역학을 밝혀내는 데 도움이 될 수 있습니다.

  4. 행동 개입: 생물학적 신경과학에 집중하고 있지만, 20세기 동안 정신과와 심리학은 다양한 행동 개입 방법을 개발해왔습니다. AI는 이러한 새로운 방법들을 개발하고, 환자들이 기존 방법을 더 잘 따를 수 있도록 도울 수 있을 것입니다. 더 넓게 보자면, AI 코치가 항상 자신을 더 나은 버전으로 만들어주고, 상호작용을 연구하여 더 효과적으로 학습할 수 있게 해주는 시스템은 매우 유망해 보입니다.

이 네 가지 진보 경로가 함께 작용하여, 신체 질병에서와 마찬가지로 대부분의 정신 질환을 치료하거나 예방할 수 있을 것이라고 생각합니다. 구체적으로 말하자면, 다음과 같은 일들이 일어날 것으로 추측됩니다.

  1. 대부분의 정신 질환은 치료 가능할 것이다: 저는 정신과 질환의 전문가가 아니지만(제가 신경과학에서 연구한 것은 소수의 뉴런 그룹을 연구하는 것과 관련된 것이었음), PTSD, 우울증, 조현병, 중독 등 질환들은 네 가지 진보 경로를 결합한 치료 방법으로 매우 효과적으로 해결될 수 있을 것이라고 추측합니다. 그 답은 아마도 "무언가가 생화학적으로 잘못되었다"는 것과 "고차원에서 신경망 자체가 잘못되었다"는 결론의 조합일 것입니다. 이는 시스템 신경과학의 문제로, 앞서 언급한 행동 개입의 영향력을 배제하지는 않습니다. 측정과 개입 도구는 특히 살아 있는 인간을 대상으로 한 빠른 반복과 진보를 가능하게 할 것입니다.

  2. 매우 구조적인 상태는 더 어렵겠지만 불가능하지는 않다: 예를 들어, 정신병적 성향은 뇌의 일부 영역이 단순히 작거나 덜 발달된 것과 관련이 있다는 신경해부학적 차이가 있다는 증거가 있습니다. 또한 정신병적 성향을 가진 사람들은 어릴 때부터 공감 능력이 부족한 것으로 보이며, 이는 그들의 뇌가 항상 그 상태였음을 시사합니다. 이는 일부 지적 장애 및 기타 상태에서도 마찬가지일 수 있습니다. 성인의 뇌를 재구성하는 것은 어려운 일로 보이지만, 지능이 높을 때 그만큼의 큰 수익을 가져올 수 있는 작업이기도 합니다. 어른의 뇌를 더 유연하게 변형할 수 있는 어린 시절의 상태로 되돌리는 방법이 있을지도 모릅니다. 저는 이 가능성에 대해 확신할 수는 없지만, AI가 여기서 발명할 수 있는 방법에 대해 낙관적입니다.

  3. 정신 질환의 유전적 예방은 가능할 것 같다: 대부분의 정신 질환은 부분적으로 유전적이며, 전장유전체연관분석(GWAS)이 관련 요인을 파악하는 데 점점 더 많은 성과를 내고 있습니다. 이 요인들은 대부분 다수의 유전자에 의해 결정되며, 배아 선별을 통해 대부분의 이러한 질환을 예방할 수 있을 것입니다. 하나의 차이점은 정신 질환이 더 다유전성(polygeneic)이어서, 질환과 연관된 긍정적 특성을 모르고 선택에서 제외할 가능성이 크다는 것입니다. 그러나 최근 몇 년간의 GWAS 연구 결과는 이러한 상관관계가 과장되었을 수 있다는 것을 시사하고 있습니다. 어쨌든 AI로 가속화된 신경과학은 이러한 것들을 더 잘 이해하는 데 도움이 될 것입니다. 물론 복합적인 특성에 대한 배아 선별은 여러 사회적 문제를 불러일으킬 것이며 논란이 될 가능성이 큽니다. 그러나 저는 대부분의 사람들이 심각하거나 쇠약하게 만드는 정신 질환에 대한 선별을 지지할 것이라고 추측합니다.

  4. 임상 질환으로 생각되지 않는 일상적인 문제들도 해결될 것이다: 우리 대부분은 임상 질환이라고 할 수 없지만 일상적인 심리적 문제들을 가지고 있습니다. 어떤 사람은 쉽게 화를 내고, 어떤 사람은 집중하는 데 어려움을 겪거나 쉽게 졸립니다. 또 어떤 사람은 두려움이나 불안을 많이 느끼며 변화에 잘 적응하지 못합니다. 오늘날에도 집중력이나 각성에 도움을 주는 약물(예: 카페인, 모다피닐, 리탈린)이 이미 존재하지만, 20세기 동안 많은 약물이 인지 기능이나 정서 상태를 조정해 온 것을 감안할 때, 미래에는 더 많은 것이 가능할 것이라고 생각합니다. 아마도 더 많은 약물이 아직 발견되지 않았을 것이며, 표적 광 자극(위에서 언급한 옵토제네틱스 참고)이나 자기장과 같은 완전히 새로운 개입 방법들도 있을 수 있습니다. 인지 기능이나 감정 상태를 조절할 수 있는 약물이 20세기에 많이 개발된 것을 고려하면, 21세기의 빠른 진보를 통해 모두가 자신의 뇌를 더 잘 통제하고 일상에서 더 충만한 경험을 할 수 있는 시대가 올 것이라고 확신합니다.

  5. 인간의 기본적인 경험은 훨씬 더 나아질 수 있다: 창의적 영감, 연민, 성취감, 사랑, 명상적 평화와 같은 비범한 순간을 경험한 사람은 많습니다. 이러한 경험의 성격과 빈도는 개인마다, 그리고 같은 사람이라도 시기에 따라 크게 달라지며, 특정 약물로 촉발될 수도 있습니다(물론 종종 부작용이 동반됩니다). 이러한 모든 것은 경험할 수 있는 가능성의 공간이 매우 넓다는 것을 시사하며, 인간의 삶에서 더 많은 부분이 이러한 비범한 순간들로 채워질 수 있습니다. 또한 다양한 인지 기능을 전반적으로 향상시키는 것도 가능할 것입니다. 이것은 아마도 신경과학에서 말하는 생물학적 자유 또는 연장된 수명에 해당하는 개념일 것입니다.

한 가지 덧붙이자면, 공상 과학에서 자주 등장하는 '마음 업로드(mind uploading)'라는 주제를 여기서 논의하지 않았습니다. 이는 인간 뇌의 패턴과 역동성을 소프트웨어에 구현하는 아이디어입니다. 이 주제는 그 자체로 하나의 에세이가 될 수 있겠지만, 강력한 AI가 있어도 마음 업로드는 기술적, 사회적 장애로 인해 실제로 구현하는 데 시간이 걸릴 수 있다고 생각합니다. 그러므로 5-10년이라는 단기적인 관점에서는 논외로 보고 있습니다.

요약하자면, AI가 촉진하는 신경과학은 대부분의 정신 질환을 치료하거나 예방할 가능성이 매우 높으며, 인지적 및 정신적 자유를 크게 확장할 것입니다. 이는 신체 건강에서의 개선만큼이나 급진적인 변화가 될 것입니다. 외부에서 볼 때 세계는 눈에 띄게 달라지지 않을 수 있지만, 인간이 경험하는 세계는 훨씬 더 나은 인간적인 세상이 될 것이며, 자기 실현의 기회를 더 많이 제공할 것입니다. 또한 개선된 정신 건강은 정치적, 경제적 문제로 보이는 많은 다른 사회적 문제도 완화할 것이라고 생각합니다.

출처: https://darioamodei.com/machines-of-loving-grace