3. 경제 발전과 빈곤 문제

앞서 두 섹션은 새로운 기술을 개발하여 질병을 치료하고 인간의 삶의 질을 개선하는 것에 대한 논의였습니다. 하지만 인도주의적 관점에서 당연히 떠오르는 질문은, “모든 사람이 이러한 기술에 접근할 수 있을까?”입니다.

질병을 치료하는 것은 한 가지 문제이고, 그 질병을 세계적으로 근절하는 것은 또 다른 문제입니다. 더 넓게 보면, 현재의 건강 개입조차도 전 세계 모든 곳에서 적용되고 있지 않으며, 이는 비건강 분야의 기술 발전에도 마찬가지입니다. 다시 말해, 많은 지역에서는 여전히 생활 수준이 심각하게 낮습니다. 예를 들어, 사하라 이남 아프리카의 1인당 GDP는 약 2,000달러인 반면, 미국은 약 75,000달러에 이릅니다. AI가 선진국에서 경제 성장을 더 가속시키고 삶의 질을 향상시키는 반면, 개발도상국에서는 아무런 도움이 되지 않는다면, 이는 엄청난 도덕적 실패이며, 앞서 두 섹션에서 논의된 진정한 인도주의적 승리에 오점을 남기게 될 것입니다. 이상적으로는 강력한 AI가 선진국을 혁신하면서도 개발도상국이 선진국을 따라잡을 수 있도록 도와야 합니다.

기술이 지능에 큰 수익을 제공하는 것처럼 분명하지 않기 때문에, AI가 불평등과 경제 성장을 해결할 수 있을지에 대해선 앞선 기술 발명에 대한 확신만큼 자신감이 없습니다. 경제는 인간의 제약, 내재된 복잡성 등을 포함하고 있기 때문에, AI가 유명한 **‘사회주의 계산 문제’**를 해결할 수 있을지 회의적이며, 정부가 그런 AI에게 경제 정책을 맡길 것이라고 보기도 어렵습니다. 또한 사람들에게 효과적인 치료법을 수용하게 만드는 등의 문제가 여전히 남아있습니다.

개발도상국이 직면한 문제는 광범위한 부패로 인해 더욱 복잡해집니다. 부패는 빈곤을 악화시키고, 빈곤은 다시 부패를 증가시키는 악순환을 만듭니다. AI를 이용한 경제 발전 계획은 부패, 약한 제도 및 인간적인 도전 과제를 해결해야 합니다.

그럼에도 불구하고 낙관적인 이유는 있습니다. 질병이 근절되었고, 많은 국가들이 가난에서 벗어나 부유해진 적이 있으며, 이러한 결정들은 지능에 높은 수익을 제공하는 일이었기 때문입니다. 따라서 AI가 이러한 문제를 인간보다 더 잘 해결할 수 있을 가능성이 있습니다. 또한 인간적인 제약을 우회하는 목표 지향적 개입이 가능할 수 있으며, AI는 이러한 개입에 집중할 수 있을 것입니다. 더욱 중요한 점은, 우리가 시도해야 한다는 것입니다. AI 기업과 선진국 정책 입안자들은 개발도상국이 이 혁신에서 소외되지 않도록 최선을 다해야 합니다. 도덕적 책무는 너무나 큽니다. 그래서 이 섹션에서는 낙관적인 경우를 계속 논의하겠지만, 이러한 결과가 보장되지 않으며, 우리의 집단적인 노력에 달려 있다는 점을 강조하고자 합니다.

강력한 AI가 개발된 후 5-10년 동안 개발도상국에서 일어날 수 있는 일에 대해 몇 가지 추측을 제시하겠습니다:

  1. 보건 개입의 분배: 제가 가장 낙관적으로 보는 부분은 보건 개입을 전 세계에 분배하는 것입니다. 실제로 질병은 위에서 주도하는 캠페인에 의해 근절된 적이 있습니다. 1970년대에 천연두가 완전히 제거되었고, 소아마비와 기니벌레는 거의 근절되었습니다(연간 100건 미만 발생). 수학적으로 정교한 역학적 모델링이 질병 근절 캠페인에서 중요한 역할을 했으며, 인간보다 더 똑똑한 AI 시스템이 이 일을 더 잘 수행할 여지가 충분히 있다고 생각합니다. 물류 배분도 크게 최적화될 수 있습니다. 제가 GiveWell에 초기 기부자로 참여하면서 배운 점 중 하나는, 일부 보건 자선단체는 다른 자선단체보다 훨씬 효과적이라는 것이며, AI로 가속화된 노력이 더 효과적일 것이라고 기대할 수 있습니다. 또한, 일부 생물학적 혁신은 배포 물류를 훨씬 더 간단하게 만듭니다. 예를 들어, 말라리아는 매번 감염될 때마다 치료해야 해서 근절이 어려웠지만, 한 번만 접종하면 되는 백신은 물류를 훨씬 더 단순하게 만듭니다(실제로 이러한 말라리아 백신들이 현재 개발 중입니다). 배포 메커니즘은 그보다 더 간단해질 수 있습니다. 일부 질병은 원칙적으로 동물 매개체를 표적으로 하여 근절할 수 있습니다. 예를 들어, 박테리아에 감염된 모기를 방출하여 다른 모기에게 전염시키거나, 유전자 드라이브를 사용하여 모기를 근절할 수 있습니다. 이는 수백만 명을 치료하는 광범위한 캠페인을 벌이는 대신, 몇 가지 집중된 조치만으로 문제를 해결할 수 있습니다. 5-10년 내에 AI 주도 보건 혜택의 상당 부분(약 50%)이 전 세계 최빈국에까지 전파될 것이라고 생각합니다. 개발도상국이 5-10년 후에는 적어도 오늘날 선진국보다 건강한 상태가 되는 것을 목표로 삼을 수 있습니다. 이를 이루려면 세계 보건 기부, 정치적 옹호, AI 개발자 및 정책 입안자들의 적극적인 노력이 필요할 것입니다.

  2. 경제 성장: 개발도상국이 건강뿐만 아니라 전반적으로도 선진국을 빠르게 따라잡을 수 있을까요? 이에 대한 선례는 있습니다. 20세기 말에 여러 동아시아 경제는 연간 10%에 달하는 실질 GDP 성장률을 달성하여 선진국과 격차를 줄였습니다. 인간 경제 계획자들이 이런 성공을 이끌어낸 결정들을 내렸으며, 이는 몇 가지 핵심 요소(수출 주도 성장 정책이나 천연 자원에 의존하지 않는 정책)를 조정함으로써 가능했습니다. AI 경제 장관과 중앙은행장이 이와 유사한 성과를 재현하거나 초과할 가능성이 충분히 있습니다. 중요한 질문은 개발도상국 정부들이 이들 도입을 받아들일지, 그리고 자결권을 존중하면서도 이러한 변화를 수용할 수 있을지 여부입니다. 낙관적인 측면으로는, 앞서 언급한 보건 개입이 경제 성장에 자연스럽게 영향을 미칠 것이라는 점입니다. 에이즈, 말라리아, 기생충 퇴치는 생산성에 큰 변화를 가져올 것이며, 기분과 집중력을 개선하는 신경과학 개입 역시 선진국과 개발도상국 모두에 영향을 미칠 것입니다. 마지막으로, 비보건 AI 기술(예: 에너지 기술, 운송 드론, 개선된 건축 자재, 더 나은 물류 및 분배 시스템 등)은 자연스럽게 전 세계로 확산될 수 있습니다. 예를 들어, 휴대전화는 별다른 기부 노력이 없이 시장 메커니즘을 통해 사하라 이남 아프리카 지역에도 빠르게 퍼졌습니다.

더 부정적인 측면으로 보면, AI와 자동화는 많은 잠재적 이점을 제공하지만, 아직 산업화되지 않은 국가들의 경제 개발에 도전 과제가 될 수 있습니다. 자동화가 증가하는 시대에 이러한 국가들이 여전히 경제를 발전시키고 개선할 수 있는 방법을 찾는 것이 경제학자들과 정책 입안자들이 해결해야 할 중요한 과제입니다. 전반적으로 꿈의 시나리오는 아마도 개발도상국이 연간 20%의 GDP 성장률을 달성하는 것입니다. 이 중 10%는 AI를 이용한 경제적 의사 결정에서, 나머지 10%는 건강을 포함한 AI 기술의 확산에서 나올 수 있을 것입니다. 만약 이 목표를 달성한다면, 사하라 이남 아프리카는 5-10년 안에 현재의 중국 1인당 GDP 수준에 도달할 것이며, 개발도상국 대부분은 현재 미국의 GDP 수준을 초과하는 성장을 이룰 것입니다. 다시 말하지만, 이것은 꿈의 시나리오이며 기본적으로 이루어지는 것은 아닙니다. 이는 모두가 협력해야 가능한 목표입니다.

  1. 식량 안보: 더 나은 비료와 살충제, 더 많은 자동화, 더 효율적인 토지 사용 등 농업 기술의 발전은 20세기 동안 작물 생산량을 급격히 증가시켰으며, 수백만 명을 기아에서 구했습니다. 유전자 공학은 현재 많은 작물들을 더욱 개선하고 있습니다. AI로 주도되는 제2의 녹색 혁명을 통해 농업 공급망을 더욱 효율적으로 만들고, 개발도상국과 선진국 간의 격차를 줄이는 데 기여할 수 있을 것입니다.

  2. 기후 변화 완화: 기후 변화는 개발도상국에서 더 심각하게 느껴질 것이며, 이들의 발전을 저해할 것입니다. AI는 대기 중 탄소 제거, 청정 에너지 기술, 그리고 탄소 집약적인 공장형 축산업에 대한 의존도를 줄이는 실험실에서 배양된 고기 등의 기술 발전을 통해 기후 변화를 늦추거나 방지하는 데 도움을 줄 수 있을 것입니다. 물론 앞서 논의한 것처럼, 기술만이 기후 변화 문제를 제한하는 유일한 요소는 아닙니다. 기후 변화 해결에는 인간 사회의 요인도 중요하지만, AI로 강화된 연구는 기후 변화를 완화하는 비용과 혼란을 크게 줄이고, 개발도상국이 더 많은 경제적 진보를 이루도록 해줄 수 있습니다.

  3. 국내 불평등: 저는 주로 세계적인 불평등에 대해 이야기했지만(가장 중요한 문제라고 생각함), 국가 내에도 불평등이 존재합니다. 급격한 건강 개선, 특히 수명 연장이나 인지력 강화 약물과 같은 혁신이 나올 경우, 이러한 기술이 부유층만을 위한 것이라는 우려가 있을 것입니다. 하지만 저는 선진국 내 국내 불평등에 대해 더 낙관적입니다. 그 이유는 두 가지입니다. 첫째, 시장은 선진국에서 더 잘 작동하며, 시장은 가치가 높은 기술의 가격을 낮추는 데 시간이 지남에 따라 효과적입니다. 둘째, 선진국의 정치 제도는 시민들의 요구에 더 잘 반응하고, 모든 사람에게 보편적으로 접근할 수 있는 프로그램을 실행할 수 있는 국가 역량이 더 크며, 시민들은 삶의 질을 크게 향상시킬 수 있는 기술에 접근할 수 있기를 요구할 것입니다. 물론 이러한 요구가 반드시 성공할 것이라고 보장할 수는 없으며, 우리가 공정한 사회를 보장하기 위해 모두가 최선을 다해야 할 또 하나의 중요한 영역이 될 것입니다. 부의 불평등은 기술 접근 불평등과는 별개의 문제이며, 해결이 더 어렵고, 이는 5장에서 다루도록 하겠습니다.

  4. '옵트아웃' 문제: 선진국과 개발도상국 모두에서 사람들이 AI 혜택을 거부하는 문제(예: 반백신 운동이나 러다이트 운동)가 있을 수 있습니다. 효과적으로 결정할 능력이 가장 부족한 사람들이 자신들의 결정 능력을 개선할 수 있는 기술을 거부하고, 이로 인해 격차가 점점 더 벌어지는 나쁜 피드백 루프가 형성될 가능성이 있습니다. 이는 결국 디스토피아적 하위 계층을 만들어낼 수도 있습니다. 일부 연구자들은 이러한 문제가 민주주의를 약화시킬 수 있다고 주장했으며, 이 주제는 다음 장에서 더 논의할 예정입니다. 이는 어려운 문제입니다. 사람들을 강제하는 것은 윤리적으로 적합하지 않다고 생각하지만, 과학적 이해를 증진시키려는 노력을 할 수는 있습니다. 그리고 어쩌면 AI 자체가 우리를 도울 수 있을지도 모릅니다. 희망적인 징조는, 역사적으로 반기술 운동이 그저 말뿐인 경우가 많았다는 것입니다. 현대 기술에 대해 반대하는 목소리는 있지만, 대부분의 사람들은 결국 기술을 받아들이는 경향이 있습니다. 최소한 개인의 선택에 달린 문제에 있어서는 말입니다. 개인적 선택과 관련된 기술은 대부분 채택되고 있으며, 핵 발전과 같은 정말로 어려움을 겪는 기술은 집단적인 정치적 결정인 경우가 많습니다.

전반적으로, 저는 AI의 생물학적 진보가 개발도상국에 신속하게 전파될 것이라는 데 낙관적입니다. 또한, AI가 경제 성장을 전례 없이 가속화하고, 개발도상국이 최소한 선진국이 현재 위치에 도달하도록 도울 수 있을 것이라고 기대하지만, 확신은 없습니다. 선진국과 개발도상국 모두에서의 옵트아웃 문제는 우려스럽지만, 시간이 지나면서 완화될 것이라고 예상하며, AI가 이 과정을 가속화할 수 있을 것이라고 생각합니다. 완벽한 세상은 아니겠지만, 뒤처진 이들이 완전히 따라잡지는 못하더라도, 우리가 옳은 방향으로 빠르게 움직일 수 있다면 그들이 발전을 이룰 수 있을 것입니다. 그리고 우리가 그렇게 한다면, 우리는 전 세계 모든 인간에게 약속한 존엄성과 평등을 실현하는 데 일조할 수 있을 것입니다.

4. 평화와 통치

앞서 첫 세 가지 섹션에서 모든 일이 순조롭게 진행된다고 가정해 봅시다. 질병, 빈곤, 불평등이 크게 줄어들고, 인간의 삶의 질이 크게 향상되었다고 말입니다. 그러나 이로 인해 인간 간의 모든 갈등이 해결되는 것은 아닙니다. 인간은 여전히 서로에게 위협이 될 수 있습니다. 기술 발전과 경제 발전이 민주주의와 평화를 촉진하는 경향이 있긴 하지만, 이 경향은 매우 느슨한 것으로, 빈번히 후퇴할 수 있습니다. 20세기 초 사람들은 전쟁을 영원히 끝냈다고 생각했으나, 두 차례의 세계대전이 뒤따랐습니다. 30년 전에는 프랜시스 후쿠야마가 “역사의 종말”을 선언하며 자유 민주주의의 최종 승리를 예견했지만, 그 예측은 아직 실현되지 않았습니다. 20년 전 미국 정책 입안자들은 중국과의 자유무역이 중국을 부유하게 만들면 자연스럽게 민주주의로 나아갈 것이라 믿었지만, 이는 전혀 실현되지 않았습니다. 우리는 이제 다시 제2의 냉전이 시작되는 듯한 분위기 속에서 권위주의가 부활하고 있습니다. 그리고 인터넷 기술이 민주주의를 강화할 것이라는 초기 기대와 달리, 인터넷 기술이 권위주의를 돕는 것일 수 있다는 그럴듯한 이론들도 제기되고 있습니다. 그렇다면, 강력한 AI가 이러한 평화, 민주주의, 자유 문제에 어떻게 영향을 미칠지 이해하는 것이 중요해 보입니다.

불행히도, AI가 민주주의와 평화를 우선적으로, 구조적으로 촉진할 것이라는 강한 이유는 없어 보입니다. 인간 간의 갈등은 적대적이며, AI는 이론적으로 양쪽 모두를 도울 수 있습니다. 오히려 일부 구조적 요인은 불안하게 보일 수 있습니다. 예를 들어, AI는 선전 및 감시를 더욱 강화할 수 있으며, 이는 독재자들이 선호하는 도구입니다. 따라서 AI가 민주주의와 개인의 권리를 강화하려면, 우리가 직접 나서서 싸워야 합니다. 저는 이 문제에 대해 국제 불평등 문제보다 훨씬 더 강한 감정을 가지고 있습니다. 자유 민주주의의 승리와 정치적 안정은 보장되지 않으며, 과거처럼 이번에도 큰 희생과 헌신이 필요할 것입니다.

저는 이 문제를 두 가지 부분으로 나눠 생각합니다. 국제 갈등과 각국의 내부 구조 문제입니다. 국제 갈등 측면에서, 강력한 AI가 등장할 때 민주주의 국가들이 국제 무대에서 우위를 점하는 것이 매우 중요하다고 생각합니다. AI가 권위주의를 강화하는 것은 상상하기도 끔찍한 일이며, 민주주의 국가들이 AI를 어떻게 세상에 도입할지 결정해야 한다고 생각합니다. 이를 통해 권위주의에 의해 압도당하지 않고, 권위주의 국가 내에서 인권 침해를 막아야 합니다.

현재로서는 가장 효과적인 방법이 **'협상 전략(entente strategy)'**이라고 생각합니다. 이는 민주주의 연합이 AI에 대한 일시적 우위를 확보하기 위해 공급망을 통제하고, **반대 세력이 핵심 자원(칩과 반도체 장비 등)**에 접근하지 못하도록 차단하거나 지연시키는 전략입니다. 이 연합은 한편으로는 압도적인 군사적 우위를 확보하고(강력한 '채찍' 역할), 다른 한편으로는 AI의 혜택을 널리 나누어 더 많은 국가들이 민주주의를 지지하도록 유도할 수 있습니다(이는 **평화를 위한 원자(Atoms for Peace)**와 비슷한 맥락). 이 연합은 점점 더 많은 국가들의 지지를 얻어내고, 최악의 적들을 고립시킬 수 있으며, 결국 그들도 더 이상 민주주의 국가들과 경쟁하기보다는 혜택을 받는 쪽이 더 나은 선택이라고 느끼게 만들 것입니다.

이 모든 것이 성공적으로 이루어진다면, 우리는 민주주의 국가들이 세계 무대에서 주도권을 가지며, 독재 국가들로부터 침해당하지 않고 민주주의가 우위를 유지하는 세상을 만들 수 있을 것입니다. 이는 이상적으로 '영원한 1991년', 즉 민주주의 국가들이 우위를 점하고 후쿠야마의 예언이 실현되는 세상으로 이어질 수 있습니다. 하지만 이를 달성하기 위해서는, 민주주의 정부와 민간 AI 기업의 긴밀한 협력, 그리고 채찍과 당근 사이의 균형에 대한 매우 현명한 결정이 필요할 것입니다.

설령 이 모든 것이 잘 이루어진다 하더라도, 각국 내부에서 벌어지는 민주주의와 독재의 싸움이라는 질문이 남습니다. 이 문제를 예측하는 것은 당연히 어렵습니다. 하지만 만약 전 세계적으로 민주주의 국가들이 AI의 우위를 점한다면, AI가 각국에서 민주주의를 구조적으로 강화할 가능성도 있다고 생각합니다. 특히, 이러한 환경에서는 민주주의 정부들이 정보 전쟁에서 우위를 점할 수 있기 때문입니다. 민주주의 정부들은 독재 국가들의 선전과 영향을 차단할 수 있으며, 독재 국가들이 차단하거나 감시할 수 없는 방식으로 정보를 전달하고 AI 서비스를 제공하여 글로벌 정보의 자유를 제공할 수 있습니다. 이는 즉각적인 변화는 아니겠지만, 시간이 지나면서 글로벌 거버넌스가 민주주의를 향해 기울어지는 경향을 강화할 수 있을 것입니다.

첫째, 1-3장에서 논의된 삶의 질 개선은 일반적으로 민주주의를 촉진하는 경향이 있습니다. 특히, 정신 건강, 복지, 그리고 교육이 향상되면, 이는 권위주의 지도자에 대한 지지와 반비례할 가능성이 큽니다. 일반적으로 사람들이 기본적인 욕구가 충족되면, 자기 표현의 욕구가 커지며, 민주주의는 그런 자기 표현의 한 형태입니다. 반면, 독재주의는 두려움과 원망에서 번성합니다.

둘째, 자유로운 정보가 권위주의를 약화시킬 가능성이 있습니다. 정보의 자유를 AI가 통해 보장할 수 있다면, 이는 독재 정부의 생존을 위협할 수 있습니다. 억압적인 정부는 사람들이 지도자가 실제로 권력을 유지할 능력이 없다는 사실을 인식하지 못하게 함으로써 생존합니다. 예를 들어, **스르자 포포비치(Srđa Popović)**는 세르비아에서 밀로셰비치(Milošević) 정권을 무너뜨리는 데 중요한 역할을 했으며, 그는 독재자들의 권력을 심리적으로 무너뜨리는 기술에 대해 많이 썼습니다. 포포비치보다 훨씬 더 효과적인 AI 버전이 각국의 포켓에 들어가 있다면, 독재자들은 이를 막을 수 없으며, 전 세계의 반체제 인사와 개혁가들에게 큰 힘이 될 것입니다.

다시 말하지만, 이 싸움은 길고 지연된 투쟁이 될 것이며, 승리가 보장되지 않습니다. 그러나 우리가 AI를 옳은 방향으로 설계하고 구축한다면, 자유를 옹호하는 사람들이 우위를 점할 수 있는 싸움이 될 수 있을 것입니다.

신경과학과 생물학에서와 마찬가지로, 우리는 단순히 독재를 막는 것만이 아니라 민주주의를 더 발전시키는 방법을 찾아야 합니다. 오늘날의 민주주의는 불완전하며, 법의 지배와 같은 원칙들은 때때로 위반되고 있습니다. 민주주의 사회는 모든 사람에게 법 앞에서 평등한 대우를 약속하고 기본적인 인권을 보장한다고 하지만, 현실에서는 이러한 약속이 항상 지켜지지 않습니다. 이 약속이 부분적으로라도 이행된다는 사실은 자랑스러울 수 있지만, AI가 이러한 문제를 더 잘 해결할 수 있는 방법을 제시할 가능성도 있습니다.

예를 들어, AI가 법률과 사법 시스템을 개선하여 더 공정하게 만들 수 있을까요? 오늘날 사람들은 주로 AI 시스템이 차별의 원인이 될 것이라고 걱정하지만, 이 문제는 방어해야 할 중요한 우려입니다. 동시에 민주주의의 생명력은 새로운 기술을 활용해 민주적 제도를 개선하는 데 달려 있으며, 그저 위험에 대응하는 것만으로는 충분하지 않습니다. 성숙하고 성공적인 AI 시스템은 편견을 줄이고 더 공정한 결정을 내릴 가능성이 있습니다.

수세기 동안 법적 시스템은 공정성을 추구하면서도 본질적으로 주관적인 면이 존재해왔습니다. 법은 인간이 해석해야 하기 때문에 편견이 개입될 수밖에 없습니다. 법을 완전히 기계적으로 만들려는 시도는 실패했는데, 이는 현실 세계가 너무 복잡하여 수학적 공식으로는 항상 포착되지 않기 때문입니다. 대신 법적 시스템은 모호한 기준을 사용합니다. 예를 들어, "잔인하고 비정상적인 처벌"이나 "구제할 가치가 없는" 것과 같은 기준이 그것입니다. 인간은 이러한 기준을 해석하는데, 이는 종종 편향, 편애, 또는 임의적 판단으로 이어질 수 있습니다. **암호화폐의 '스마트 계약'**은 법률에 혁신을 가져오지 않았습니다. 왜냐하면 일반적인 코드는 다양한 실생활 상황에서 유의미한 판단을 내리기에는 충분히 똑똑하지 않기 때문입니다. 하지만 AI는 이를 해결할 수 있을 만큼 충분히 똑똑할 수 있으며, 이는 법과 정의에 폭넓고 모호한 판단을 기계적으로 처리할 수 있는 첫 번째 기술입니다.

저는 판사를 AI로 완전히 대체하자는 제안을 하는 것이 아닙니다. 하지만 편향이 없는 판단과 복잡한 현실을 이해하고 처리하는 능력을 결합한 AI는 법률과 정의 분야에 큰 긍정적 영향을 미칠 수 있을 것으로 보입니다. 적어도 이러한 시스템은 인간의 의사 결정을 보조하는 도구로 작용할 수 있습니다. 이와 같은 시스템의 투명성은 매우 중요하며, 성숙한 AI 과학은 이를 제공할 수 있습니다. 이러한 시스템의 훈련 과정을 철저히 연구하고, 고급 해석 가능성 기술을 사용하여 최종 모델 내부를 살펴보고 숨겨진 편견이 있는지 평가할 수 있습니다. 이는 인간으로서는 불가능한 방법입니다. AI 도구는 또한 사법이나 경찰의 문맥에서 기본 권리 침해를 감시하는 데 사용되어, 헌법을 더 자율적으로 실행할 수 있게 할 것입니다.

이와 비슷하게, AI는 시민들의 의견을 모으고 갈등을 해결하며, 합의를 도출하는 데 사용할 수 있습니다. 컴퓨팅 민주주의 프로젝트에서 이미 일부 아이디어가 시도되고 있으며, 이는 Anthropic과의 협력을 포함합니다. 더 정보에 밝고 깊이 있는 시민들은 당연히 민주적 제도를 강화할 것입니다.

또한, AI는 정부 서비스 제공을 도울 수 있는 명백한 기회를 제공합니다. 모든 사람에게 원칙적으로 제공되어야 하지만, 실질적으로는 많은 사람에게 충분히 제공되지 않는 서비스들이 많습니다. 여기에는 건강 서비스, 운전면허 발급, 세금, 사회 보장, 건축 규제 시행 등이 포함됩니다. 아주 사려 깊고 유능한 AI가 정부가 법적으로 제공해야 하는 모든 혜택을 시민들에게 이해하기 쉬운 방식으로 제공하고, 복잡한 정부 규정을 준수하도록 돕는 역할을 한다면 매우 큰 변화를 가져올 수 있을 것입니다. 국가 역량을 증대시키는 것은 법 앞에서 평등을 보장하는 데 도움이 되며, 민주적 통치에 대한 존중도 강화시킬 수 있습니다. 제대로 실행되지 않은 서비스는 현재 정부에 대한 냉소주의의 주요 원인 중 하나입니다.

이러한 아이디어들은 다소 막연하게 들릴 수 있으며, 이 섹션의 초반에서 언급했듯이, 제가 생물학, 신경과학, 빈곤 해결에서의 발전 가능성만큼 이들에 대해 확신이 있는 것은 아닙니다. 이것은 어쩌면 비현실적으로 이상적인 목표일지도 모릅니다. 그러나 중요한 것은 야심 찬 비전을 가지고, 크게 꿈꾸며 시도해 보는 것입니다. AI가 자유, 개인 권리, 법 앞에서의 평등을 보장하는 수호자 역할을 할 수 있는 비전은 너무나 강력한 비전이기 때문에, 이를 위해 싸우지 않을 수 없습니다. AI가 지원하는 21세기의 정치 체제는 개인의 자유를 더 강하게 보호하고, 자유 민주주의가 세계적으로 채택되고 싶은 형태의 정부로 자리 잡도록 돕는 희망의 등대가 될 수 있습니다.

5. 일과 의미

앞서 논의한 네 가지 섹션에서 모두 순조롭게 진행되었다고 가정해봅시다. 즉, 우리는 질병, 빈곤, 불평등을 해결했으며, 자유 민주주의가 지배적인 정부 형태가 되었고, 기존 자유 민주주의 국가들 또한 더 나은 형태로 발전했다고 말입니다. 그럼에도 불구하고 한 가지 중요한 질문이 남아 있습니다. 누군가는 이렇게 물을 수 있습니다. "기술이 이렇게 발전하고 AI가 모든 일을 한다면, 인간은 의미를 어떻게 찾을 수 있을까요? 그리고 경제적으로 생존할 수 있을까요?"

이 질문은 앞서 논의한 다른 문제들보다 더 어렵습니다. 그 이유는 제가 반드시 이 질문에 대해 더 비관적이기 때문이 아니라, 더 모호하고 예측하기 어려운 문제이기 때문입니다. 이 질문은 사회가 어떻게 조직되어 있는지에 대한 거시적인 문제와 관련이 있으며, 이러한 문제는 시간이 지나면서 분산적인 방식으로 해결되기 때문입니다. 예를 들어, 역사적인 수렵채집 사회는 사냥이 없으면 인생이 무의미하다고 생각했을 수 있으며, 우리 현대 사회가 기술로 인해 목적을 상실한 사회라고 상상했을 것입니다. 그들은 또한 경제가 모든 사람을 부양할 수 있는 방법이나 인간이 기계화된 사회에서 어떤 역할을 할 수 있는지 상상할 수 없었을 것입니다.

그럼에도 불구하고, 이 문제에 대해 몇 가지 생각을 공유할 가치가 있습니다. 제가 이 부분을 짧게 다룬다고 해서 이 질문을 진지하게 받아들이지 않는 것은 아닙니다. 오히려 명확한 답변이 부족하기 때문에 그렇습니다.

의미에 대한 질문에서, AI가 인간보다 더 잘할 수 있다고 해서 인간이 그 일을 하는 것이 무의미해지는 것은 아니라고 생각합니다. 대부분의 사람들은 세계 최고가 아니지만, 그것 때문에 특별히 신경 쓰지 않습니다. 물론 현재 그들은 비교 우위를 통해 경제적 가치를 창출하며 기여하고 있고, 그로부터 의미를 얻기도 합니다. 하지만 사람들은 경제적 가치를 생산하지 않는 활동도 크게 즐깁니다. 저는 비디오 게임을 하거나 수영을 하고, 야외를 산책하거나 친구들과 대화를 나누는 데 많은 시간을 보냅니다. 이 활동들은 경제적 가치를 창출하지 않습니다. 제가 비디오 게임을 더 잘하려고 하거나 산을 더 빨리 오르려 노력하는 날도 있지만, 누군가가 저보다 이 일을 훨씬 더 잘한다고 해서 그것이 저에게 중요하지는 않습니다. 요컨대, 저는 의미는 경제적 노동에서 나오는 것이 아니라, 인간관계와 연결성에서 나온다고 생각합니다. 사람들은 성취감이나 경쟁의식을 원하지만, AI 시대에도 사람들은 여전히 매우 어려운 작업을 복잡한 전략을 세우며 몇 년 동안 수행할 수 있을 것입니다. 이는 사람들이 오늘날 연구 프로젝트에 착수하거나, 할리우드 배우가 되려 하거나, 회사를 창업하는 것과 비슷합니다. (a) AI가 이 작업을 더 잘할 수 있다는 사실과 **(b) 이 작업이 더 이상 세계 경제의 일부로 보상받지 않는다는 사실은 저에게 그다지 중요하지 않다고 생각합니다.

경제적 측면은 의미적 측면보다 더 어렵다고 생각합니다. 여기서 말하는 경제적 문제는 대부분 또는 모든 인간이 고도로 발전된 AI 중심의 경제에 기여할 수 없게 될 가능성에 대한 것입니다. 이는 불평등 문제와는 더 거시적인 문제이며, 특히 새로운 기술에 대한 접근성의 불평등과는 구별되는 문제입니다. 이 문제에 대해 몇 가지 추가적인 논의가 필요합니다.

단기적으로는, 비교 우위가 여전히 인간을 경제적으로 유의미하게 유지시키고, 오히려 그들의 생산성을 높일 것이라는 주장에 동의합니다. 이는 어떤 면에서는 경쟁의 평준화를 가져올 수 있으며, 인간의 생산성을 높일 것입니다. AI가 어떤 직업의 90%를 더 잘해도, 나머지 10% 때문에 인간의 역할은 더욱 중요해지고, 보상이 더 커질 가능성이 있습니다. 사실, AI가 인간보다 모든 일을 100% 잘하더라도, AI가 특정 작업에 대해 비효율적이거나 비싸다면, 또는 인간과 AI가 사용하는 자원이 의미 있는 차이를 가진다면, 비교 우위의 논리는 여전히 적용됩니다. 인간이 상대적 또는 절대적 우위를 계속 유지할 수 있는 영역 중 하나는 물리적 세계라고 생각합니다. 따라서 저는 인간 경제가 **“데이터센터 안의 천재 국가”**를 넘어서도 계속해서 유효할 것이라고 봅니다.

그러나 장기적으로는 AI가 너무 광범위하게 효과적이고 저렴해져 현재의 경제 시스템이 더 이상 의미를 갖지 않게 될 것이라고 생각합니다. 그 시점에서는 지금의 경제 구조는 더 이상 작동하지 않으며, 경제가 어떻게 조직되어야 할지에 대한 광범위한 사회적 논의가 필요할 것입니다.

이것이 비정상적인 상황처럼 들릴 수 있지만, 사실 인류는 과거에 큰 경제적 전환을 성공적으로 헤쳐 나왔습니다. 수렵 채집 생활에서 농업 사회로, 농업 사회에서 봉건 제도, 그리고 산업화 사회로의 전환을 이뤄냈습니다. 저는 앞으로 새롭고 낯선 무언가가 필요할 것이며, 오늘날 아무도 이를 제대로 상상하지 못하고 있다고 생각합니다. 그 해결책이 보편 기본 소득과 같은 간단한 해법일 수도 있지만, 저는 그것이 단순히 해결책의 일부분에 불과할 것이라고 생각합니다. AI 시스템이 자본주의 경제를 운영하고, 그 후 인간들에게 자원을 분배할 수도 있을 것입니다(총체적인 경제 규모가 엄청나게 클 것이므로). AI가 인간의 가치를 바탕으로 판단한 기준에 따라 인간에게 보상을 줄 수도 있을 것입니다. 또는 경제가 Whuffie 포인트 같은 개념으로 운영될 수도 있고, 경제 모델이 예측하지 못한 방식으로 인간이 여전히 경제적으로 유의미한 가치를 가질 수도 있습니다. 모든 해결책에는 수많은 잠재적인 문제가 있지만, 많은 반복과 실험을 거쳐야만 이러한 해결책들이 제대로 작동할 것인지 알 수 있을 것입니다. 또한 다른 문제들처럼 이 문제에서도 좋은 결과를 얻기 위해 노력해야 합니다. 착취적이거나 디스토피아적인 결과로 나아가지 않도록 싸워야 합니다. 이 주제에 대해 더 많은 논의가 필요하며, 나중에 이 주제에 대해 더 깊이 다루고자 합니다.

정리

위에서 논의한 다양한 주제를 통해, AI가 세상을 더 나은 방향으로 이끌 가능성이 있는 세상을 상상해 보았습니다. 이 세상이 실제로 실현될지 여부는 알 수 없으며, 만약 이 세상이 실현된다면 그것은 수많은 용감하고 헌신적인 사람들의 막대한 노력과 투쟁이 있어야만 가능합니다. AI 기업들을 포함한 모든 사람들이 자신의 역할을 다 해야 하며, 위험을 방지하고 이익을 최대한 실현하기 위해 노력해야 합니다.

그러나 이것은 싸울 만한 가치가 있는 세계입니다. 만약 이 모든 일이 5년에서 10년 사이에 일어난다면, 대다수의 질병이 정복되고, 생물학적 및 인지적 자유가 확장되며, 수십억 명의 사람들이 빈곤에서 벗어나 새로운 기술을 공유하게 되며, 자유 민주주의와 인권의 부활이 일어난다면, 이를 목격하는 사람들은 그 효과에 놀랄 것이라고 생각합니다. 여기서 제가 말하는 것은 개인적으로 새로운 기술의 혜택을 받는 경험 자체만을 의미하는 것이 아닙니다. 오랫동안 기대해 왔던 이상이 한 번에 실현되는 모습을 지켜보는 경험을 의미합니다. 많은 사람들이 눈물에 휩싸일 정도로 감동을 받을 것이라고 생각합니다.

이 에세이를 쓰면서 흥미로운 긴장을 발견했습니다. 한편으로 이 에세이에서 제시된 비전은 극히 급진적인 것입니다. 이는 거의 누구도 향후 10년간 일어날 일로 예상하지 않는 것이며, 많은 사람들에게는 터무니없는 공상처럼 보일 수 있습니다. 어떤 사람들은 이러한 변화가 바람직하지 않다고 생각할 수도 있습니다. 이 비전은 모두가 동의하지 않을 가치와 정치적 선택을 내포하고 있습니다. 하지만 동시에 이 비전은 매우 분명하고 당연한 것처럼 보입니다. 다양한 방식으로 더 나은 세상을 상상하다 보면, 결국 대체로 이런 비전으로 귀결된다는 것입니다.

이안 M. 뱅크스의 소설 **《게임의 명수(The Player of Games)》**에서 주인공은 **문화(Culture)**라는 사회의 일원으로, 이 사회는 제가 이 에세이에서 제시한 원칙과 비슷한 원칙을 바탕으로 한 사회입니다. 그는 군사적 제국의 억압적인 사회로 여행을 떠나, 복잡한 전투 게임을 통해 리더십이 결정되는 그 사회의 지도자와 경쟁하게 됩니다. 그러나 이 게임은 너무 복잡하여, 각 플레이어의 정치적 및 철학적 세계관이 게임 전략에 반영됩니다. 주인공은 결국 황제를 물리치며, 그의 가치관(즉, 문화의 가치관)이, 비록 무자비한 경쟁과 적자생존에 기반한 사회에서 만들어진 게임에서도 승리 전략을 나타낸다는 것을 증명합니다. 스콧 알렉산더의 유명한 블로그 글도 같은 주제를 다룹니다. 경쟁은 결국 자기 파멸을 가져오며, 결국에는 동정과 협력에 기반한 사회로 귀결된다는 것입니다. 이는 **“역사의 도덕적 곡선”**과 유사한 개념입니다.

저는 문화의 가치가 승리 전략이라고 생각합니다. 왜냐하면 그것들은 도덕적으로 명백한 수많은 작은 결정들의 합이기 때문이며, 그 결정들은 모든 사람을 하나로 묶는 경향이 있습니다. 공정성, 협력, 호기심, 자율성에 대한 기본적인 인간 직관은 반박하기 어렵고, 우리의 파괴적인 충동들보다 더 누적적입니다. 아이들이 질병으로 죽어서는 안 된다는 주장은 명백하게 도덕적입니다. 그러한 주장에서 모든 아이들이 평등하게 그 권리를 누릴 자격이 있다는 주장으로 이어지기 쉽습니다. 그러한 주장에 따라 모두가 힘을 모아 그 결과를 달성하기 위해 지식을 동원하자고 주장하는 것도 어렵지 않습니다. 대부분의 사람들은 다른 사람을 불필요하게 공격하거나 해치는 사람들은 처벌받아야 한다는 주장에 동의하며, 거기에서 나아가 처벌은 모든 사람에게 일관되고 체계적으로 적용되어야 한다는 주장으로 나아가는 것은 그리 어려운 일이 아닙니다. 이와 비슷하게, 사람들은 자신의 삶과 선택에 대해 자율성과 책임을 가져야 한다는 주장에 동의합니다. 이러한 간단한 직관들이 논리적으로 결론에 이르면, 법의 지배, 민주주의, 계몽주의 가치로 이어집니다. 이러한 결론이 피할 수 없는 것은 아니겠지만, 통계적으로 인류가 이미 그 방향으로 나아가고 있었다고 봅니다. AI는 단지 그 논리를 더 명확히 하고, 그 목적지를 더 분명하게 만드는 도구일 뿐입니다.

그럼에도 불구하고, 이 비전은 초월적인 아름다움을 지닌 것입니다. 우리는 그것을 현실로 만들기 위해 작은 역할을 할 기회를 얻었습니다.

감사합니다. 케빈 에스벨트, 파라그 말릭, 스튜어트 리치, 매트 이글레시아스, 에릭 브린욜프슨, 짐 맥클레이브, 앨런 대포, 그리고 Anthropic의 여러 사람들이 이 에세이 초안을 검토해 주셨습니다. 2024년 노벨 화학상 수상자들께도 이 에세이를 통해 감사를 표합니다.

출처: https://darioamodei.com/machines-of-loving-grace