필수정보

『AI 경제학』은 인공지능을 둘러싼 어마어마한 기회와 도전을 설명한다. 금융에서 제조업에 이르기까지, 의류 산업에서 광업에 이르기까지 인공지능 시스템의 영향은 전기와 인터넷처럼 모든 곳에 미칠 것이다. 물론 인공지능은 사람들의 일자리를 줄이고 앞으로 수십 년 동안 여러 산업에 변화의 바람을 불러일으킬 것이다. 따라서 아직 와 닿지 않지만 다가올 혁신의 토대가 될 시스템 차원의 변화를 주시할 필요가 있다. 인공지능에 대한 기초 경제학과 인공지능의 쓸모를 알리는 책 가운데 이만큼 통찰력을 갖춘 책은 없다.

서문: 멀리서 온 성공

1부 무르익는 시간

01 세 가지 유형의 기업가 비유
02 인공지능의 시스템적 수용의 미래
03 인공지능은 예측하는 기술이다

2부 규칙

04 결정하거나 결정을 피하거나
05 감추어진 불확실성
06 규칙은 교착된다

3부 시스템

07 교착된 시스템 대 유연한 시스템
08 시스템 중심적 사고방식
09 지금껏 가장 뛰어난 시스템

4부 지배력

10 판도 변화와 지배력
11 기계가 지배한다고?
12 누적되는 지배력

5부 인공지능이 불러올 판도 변화의 양상

13 대분리
14 확률로 표현되는 사고방식
15 새로운 판단 적임자

6부 새로운 시스템 구상

16 신뢰성 있는 두 가지 시스템 디자인
17 백지상태에서 설계하기
18 시스템 변화에 대한 대비

에필로그: 인공지능의 편향과 시스템

감사의 글
주
찾아보기

인공지능의 시대에 누가 지배력을 얻고 누가 잃는가

현재 전 세계적으로 가장 큰 이슈는 인공지능인 듯하다. 인공지능 관련 기업들이 전 세계 기업 순위 상위권을 독차지하고, 매일매일 순위도 엎치락뒤치락 하는 형국이다.

그렇다면 인공지능(Artificial Intelligence, 人工智能)이란 무엇인가? 인간의 지능이 갖는 학습, 추리, 적응, 논증 따위의 기능을 갖춘 컴퓨터 시스템을 의미한다. 2016년 딥마인드의 알파고가 이세돌 9단과 바둑 대국에서 4승 1패로 크게 이기던 때에도 많은 사람이 충격을 받았다. 지금은 인공지능이 구현한 세상인지 실제 현실인지조차 헷갈릴 만큼 급격한 변화 속에서 두려움까지 불러일으키고 있다.

저자들은 2018년 펴낸 『예측 기계』에서 인공지능의 경제학을 주제로 언급할 만한 것은 다 말했다고 생각했다. 그러나 전혀 그렇지 않았다. 『예측 기계』는 인공지능 경제학을 위한 체계를 제시했고, 베스트셀러에도 올랐다(우리나라에서도 출간되었으나 현재는 절판되었다). 그러나 『예측 기계』의 체계에서는 전체의 일부, 즉 도입 단계 솔루션만 다루었다. 인공지능의 또 다른 핵심 부분, 즉 시스템 부분에 대해서는 언급조차 못했다. 이 책에서 남은 이야기를 한다.

이 책은 인공지능을 둘러싼 어마어마한 기회와 도전을 설명한다. 금융에서 제조업에 이르기까지, 의류 산업에서 광업에 이르기까지 인공지능 시스템의 영향은 전기와 인터넷처럼 모든 곳에 미칠 것이다. 물론 인공지능은 사람들의 일자리를 줄이고 앞으로 수십 년 동안 여러 산업에 변화의 바람을 불러일으킬 것이다. 따라서 아직 와 닿지 않지만 다가올 혁신의 토대가 될 시스템 차원의 변화를 주시할 필요가 있다. 인공지능에 대한 기초 경제학과 인공지능의 쓸모를 알리는 책 가운데 이만큼 통찰력을 갖춘 책은 없다.

인공지능의 핵심 특징은 ‘예측’이다

“캐나다의 첫 번째 인공지능 관련 유니콘은 어느 도시에서 등장할 것 같습니까?” 과학 기반의 스타트업 양성 프로그램을 운영하는 ‘창조적 파괴연구소(Creative Destruction Lab, CDL)’를 설립해 인공지능 분야도 다루던 저자들에게 사람들이 한 질문이다. “몬트리올 아니면 토론토겠지요. 어쩌면 에드먼턴일 수도 있고요.”
하지만 그들의 예측은 틀리고 말았다. 인공지능 상용화에 대한 지식이 적지 않았는데도 말이다.

2020년 11월 19일, 〈월스트리트 저널〉의 헤드라인에는 이렇게 쓰여 있었다. “미국 장외증권거래소의 지주회사 나스닥이 금융 부정 탐지 기업 베라핀(Verafin)을 27억 5000만 달러에 인수하다.” 베라핀은 뉴펀들랜드주의 주도 세인트존스에 본사를 두고 있다. 세인트존스는 좀처럼 큰 사건이 일어나지 않았고, 뉴펀들랜드주는 캐나다에서 가장 동쪽에 있으며 인구는 50만 명이 겨우 넘었다. 무엇보다 기술 분야와는 별 상관이 없는 곳이었다.

나스닥이 사려 한 것은 인공지능이었다. 베라핀은 투자를 크게 늘려 금융 부정을 예측하고, 은행 고객의 신원을 인증하는 시스템을 구축했다. 이런 시스템은 은행이 규제를 준수하며 영업하기 위해 핵심적으로 갖추어야 하는 것이었다. 이 시스템에는 빅 데이터가 반드시 필요했으며, 은행과 비영리 금융 기관의 데이터는 그중에서 가장 큰 부분이었다.

저자들의 예측이 틀린 이유는 인공지능 자체의 경제적 특징, 즉 예측 비용의 하락에는 주목하면서도 인공지능을 동반해야 하는 새로운 시스템의 구축을 둘러싼 경제학은 등한시했기 때문이다. 저자들은 이 새로운 시스템을 더 잘 이해했더라면, 최첨단 머신 러닝 모델을 제작하는 기술적 환경을 평가할 것이 아니라 예측 문제를 중심에 두고 응용 환경을 조사했을 테고 데이터과학자들을 고용해 예측 분석을 조직의 워크플로(workflow)에 통합시킨 기업들을 살펴봤을 것이며, 따라서 뉴펀들랜드주 세인트존스에 본사를 두고 있는 베라핀을 주목했을 것이라고 말한다.

무르익는 시간: 도입 단계 솔루션을 넘어 시스템 단계 솔루션으로

기술의 잠재력을 확인한 때로부터 광범위한 수용에 이를 때까지 ‘무르익는 시간’이 필요하다. 무르익는 시간 동안 드러나는 특징 중 하나는 도입 단계 솔루션이 거둔 성공과 그에 대한 열광이다. 그러나 얼핏 인공지능은 여전히 기술 시장의 일부를 겨냥한 상품처럼 보인다. 이미 응용 단계 솔루션에서도 어느 정도 발전과 실험이 이루어졌다. 하지만 이 솔루션의 쓰임새는 제한적이다. 현재 이러한 응용 단계 솔루션은 전화기나 자동차 안전 기능 같은 기성 상품의 기능을 향상시키고 있다.

무르익는 시간 동안 기업가와 경영자는 이러한 응용 단계 솔루션을 수용하는 것이 경제적으로 유의미해지도록 애쓴다. 네이선 로젠버그가 주목했듯 기술의 경우 “무수한 사업 실패는 대부분 창업자가 자신이 우연히 매료된 부분과 전체 시스템의 나머지 부분 사이의 상호 의존이라는 연관성을 이해하지 못했기 때문이다”.

진정한 변화는 혁신가들이 새로운 시스템 단계 솔루션을 창조할 때 비로소 시작된다. 이러한 시스템 단계 솔루션 자체가 인공지능을 무시할 수 없는 경제적 규모에 이르게끔 하고, 이렇게 해서 모멘텀이 형성되면 추가로 응용 단계 솔루션에 강한 자극을 준다. 이처럼 규모의 잠재력이 보이고 혁신이 잇따라야 인공지능 시스템은 경제적으로 추구할 만한 가치를 얻는다.

20세기가 전기의 시대였다면 21세기는 인공지능의 시대다

“AI는 인간이 여태껏 공들인 것 중에서 아마 가장 중요해질 것이다. 인공지능이 미칠 반향은 전기보다 클 것이다.” 구글 CEO 순다르 피차이의 말이다. 저자들은 구글을 제외한 많은 회사가 지금껏 이를 잘 이해하지 못하고 있다고 말한다. 2020년 〈MIT 슬론 매니지먼트 리뷰〉와 보스턴 컨설팅 그룹의 조사에 따르면, 각종 조직의 11퍼센트만이 인공지능으로 얻을 기업의 이익이 상당하다고 평가하는 것으로 나타났다.

구글 브레인을 설립하고 중국 검색 엔진 바이두의 수석과학자를 지낸 인공지능 분야의 선구자 앤드루 응(Andrew Ng)은 다음과 같이 말했다. “인공지능은 새로운 전기(電氣)다. 인공지능에는 모든 산업을 변화시키고 거대한 경제적 가치를 창출할 잠재력이 있다.” 저자들 역시 이에 동의한다. 그러나 과거 경험에 비추어볼 때 이런 변화는 오랜 시간에 걸쳐 이루어지고 우여곡절을 겪으리라는 게 저자들의 견해다.

처음 전기 붐이 일었을 때 백열전구가 촛불을 대체하고, 전기 모터가 증기 기관을 대체했다. 이는 도입 단계 솔루션이므로 구조 변화를 반드시 동반해야 하는 것은 아니었다. 그래서 경제는 변화를 겪지 않았다.

인공지능도 마찬가지 상황에 놓여 있다. 현재 인공지능은 예측 분석을 위한 새로운 도구로 쓰인다. 예를 들어 예측력 강화에서 얻을 수 있는 혜택을 이해하는 베라핀 같은 회사는 인공지능의 기업적 이익을 이해하는 11퍼센트에 속한다. 이들은 이미 예측을 수행하고 있으며, 인공지능은 이러한 회사의 예측을 개선하고, 더 빠르고 더 낮은 비용으로 그 일을 처리할 것이다.

발전을 통해 만든 전기를 분산된 공간에서 사용한다는 더 큰 혜택을 이해하고 누리면서 전기의 진정한 잠재력이 실현되었듯, 인공지능은 예측함으로써 얻는 혜택을 완전히 활용할 수 있는 순간에 이르러야 진정한 잠재력을 발휘할 것이다. 이런 혜택이란 예측이 의사 결정의 개선에 기여하는 것을 의미한다.

인공지능은 의사 결정을 개선할 수 있기 때문에 인간이 할 수 있는 모든 일에 큰 영향을 미칠 것이다. 인공지능은 데이터 수집, 모델 수립, 예측 수행 등 기술적 과제뿐 아니라 적재적시에 적절한 의사 결정이 이루어져야 하는 조직적 과제를 해결할 수 있다. 정보의 질이 개선될 경우 새로운 문제 해결 방식을 찾아야 하는 전략적 과제 역시 마찬가지다.

시스템 변화는 판도를 바꾼다

인공지능 수용이 크게 확대된다면, 이는 시스템 변화 때문에 벌어질 테고 그 변화는 판도 역시 바꿀 것이다. 판도가 바뀐다는 것은 인공지능 때문에 한 산업에 속한 기업과 그 내부의 인사들이 대부분 역할의 변화를 겪는다는 뜻이며, 이런 변화와 함께 지배력도 이동한다는 얘기다. 즉, 경제적 승자와 패자가 나뉜다.

이러한 판도 변화를 이해하기 위해 저자들은 농업에서의 예측 문제를 예로 든다. 농업은 기계화로 인해 고용이 부쩍 줄어든 산업이다. 그런데 농장 경영은 여전히 농부의 몫이다. 농장은 크고 처리할 문제도 많은 반면, 그 대부분을 여전히 농부들이 소유하고 있다. 농부들은 산적한 문제에 대한 결정을 내리기 위해 일기 예보를 활용하는데, 토지의 작황은 본질적으로 농부 자신의 예측과 더 일반적으로는 의사 결정에서 농부가 발휘하는 농업 기술에 좌우되는 측면이 강하다.

그런데 상황이 변하고 있다. 농부는 날씨의 변동을 감수하게 마련이지만, 농부가 이를 어떤 식으로 감수할지는 농작물과 농토의 상태에 따라 결정된다. 이 추가적인 위험은 최초로 인터넷을 통해 일기 예보를 제공한 데이비드 프리드버그가 미국 농부들을 상대로 보험 판매를 하던 시절에 깨달았다. 프리드버그는 적외선 위성 이미지 및 토양 구성과 관련한 미국 정부의 데이터 등을 이용해 날씨에 따른 토지별 위험도나 예상 수확량을 계산할 수 있었다.

프리드버그는 농부를 상대로 보험을 판매하기 위해 클라이맷 코퍼레이션(The Climate Corporation)을 설립했는데, 얼마 지나지 않아 농부들이 농토와 관련한 자신의 데이터에 주목한다는 사실을 깨달았다.

예측은 농부에게 가장 중요한 결정, 즉 거름주기, 파종, 수확과 관련한 결정을 내리는 데 큰 역할을 했다. 이러한 결정의 목적은 거의 한결같았다. 수익의 극대화였다. 농사는 농부의 직감에 따른 임기응변식 판단에 따라 이루어졌다. 하지만 클라이맷은 농사를 과학적 의사 결정의 문제이자 확률의 문제로 변화시켰다. 프리드버그는 농부가 확률적 경우의 수를 따질 수 있도록 도운 것이다.

농부들은 새로운 도구를 사용하면서 기술 변화를 이해하는 것에 익숙했는데, 이러한 지식이 그들의 의사 결정 방식을 바꾸었다. 정말로 결정 자체가 바뀌었을 뿐 아니라, 거리상 동떨어진 곳에서 그러한 결정이 내려졌다. 예측 기계가 발전함에 따라 농부들은 점차 그 예측을 바탕으로 의사 결정을 하는 게 아니라 타인에게 그걸 맡길 것이다. 적절한 정보, 기술, 인센티브, 조정 능력을 갖춘 사람이 의사 결정을 맡는 경우가 늘어나면 농업 경영이 개선될 가능성이 크다.

인공지능의 문제점과 해결을 위한 노력

2016년 마이크로소프트의 연구자들이 ‘테이’라는 인공지능 알고리즘을 출시해 트위터에서 의사소통하는 방법을 학습시켰다. 몇 시간도 안 돼 테이는 모욕적인 트윗을 익히고는 이를 대량 쏟아냈다. 그러나 테이는 유별난 실패작이 아니며, 이런 이야기는 차고 넘친다. 기업을 포함한 많은 조직이 인공지능의 채택을 망설이는 이유다. 인공지능의 예측 성능이 인간만 못해서가 아니라 오히려 인간 행세에 너무 능숙하기 때문이다.

인공지능 예측에는 데이터가 필수적이며, 특히 인간의 선호와 행동에 대한 예측이 담긴 데이터의 경우에는 학습의 원천이 바로 인간이다. 인간을 상대로 하는 게임을 학습하는 경우에는 이러한 사실이 장점일 수 있지만, 인간은 불완전한 존재이고 인공지능은 그 불완전성을 계승한다.

인공지능 솔루션에 대한 사고방식 때문에 우리는 이것이 당면한 문제라는 사실을 깨닫지 못한다. 가령 인사 부서에서 지원자 수백 명의 자격을 심사해야 하는 경우, 먼저 떠오르는 인공지능 사용법은 이 업무를 인간이 아니라 알고리즘에 맡기는 것이다. 이는 결국 예측, 즉 특정한 자격을 갖춘 지원자가 해당 기업에서 의도한 결과를 낼 가능성에 대한 예측을 하는 일이다. 이런 인공지능 사용 방식은 도입 단계 솔루션에 해당하며 충분히 가능하다. 하지만 경우에 따라서는 시스템 차원의 완전한 재설계를 해야 할 필요성도 있다. 편향이라는 바람직하지 못한 결과를 배제하려면 시스템 중심적 사고방식이 반드시 필요하기 때문이다.

미국 노동자 153명 중 1명이 아마존에서 일한다고 한다. 따라서 아마존이 인력 채용을 도울 인공지능 개발에 큰 관심을 쏟는 것은 당연하다. 2014년 아마존은 인공지능 채용 시스템을 도입했다. 그런데 1년도 지나지 않아 그 시스템을 폐기했다. 소프트웨어 부문이나 나머지 기술 부문에 지원한 사람들에 대한 평가가 젠더 중립성을 해치는 식으로 이루어졌기 때문이다. 아마존의 인공지능은 남성 지원자들이 압도적으로 많던 과거 데이터를 기반으로 학습했기 때문이다.

이런 이야기를 듣고 나면 인공지능이 지극히 편향적이라고 생각하게 된다. 하지만 인공지능이 그러한 결정에서 핵심을 차지한다면 객관적 지표를 마련할 수 있을 것이다. 우리는 인공지능이 사람을 대우하는 방식을 파악할 수 있고, 인공지능은 비슷한 사람들을 달리 대우할 뚜렷한 동기를 품지 않기 때문에 분명 실제로 누구든 동등하게 대우하도록 힘을 쏟을 수 있다.

책의 구성

이 책의 목적은 인공지능의 시스템 단계 솔루션 발전을 고무하는 데 있다. 그 핵심은 바로 의사 결정과 그 의사 결정 안에서 예측이 하는 역할이다.

1부에서는 세 가지 유형의 기업가 비유를 제시하며 기술이 무르익는 동안 인공지능의 발전과 효율적 사용을 가로막는 장애물을 소개한다. 그것은 전기를 비롯해 과거의 여러 범용 기술이 보낸 무르익는 시간과 거의 유사하다. 3장에서는 이러한 도전과 기회를 이해시키는 징검다리로서 이 책에 앞서 출간한 『예측 기계』의 주제를 다시금 논의하고, 인공지능에서 예측이 핵심 부분으로 자리 잡는 과정을 밝힌다.

2부에서는 높은 가치 창출은 도입 단계 솔루션만으로 불충분하다는 주장을 뒷받침하기 위해 의사 결정 과정을 파헤친다. 여기서는 세 가지 큰 주제를 살핀다. 첫째, 의사 결정은 쉽지 않다는 것이다. 단순히 규칙을 따르는 것과 비교해 인지적 비용이 수반된다. 의사 결정의 긍정적 측면은 새로운 정보에 대응해 당장의 행동을 바꿀 수 있다는 것이다. 둘째, 인공지능의 예측은 결국 규칙에서 의사 결정으로 나아가도록 만드는 결정적 요인일 수 있다. 아울러 조직을 부정적 결과로부터 보호하려는 규칙과 그에 따른 행동 방식 때문에 불확실성이 감추어질 수 있다. 따라서 인공지능을 적용해야 하는 부분을 찾는 일이 까다로운데, 한편 그것이야말로 판도 변화를 불러올 가능성이 가장 큰 부분이기도 하다. 셋째, 각 의사 결정 사이의 관계다. 여러 의사 결정이 상호 작용하는 가운데 규칙에서 예측에 기반한 의사 결정으로 옮겨가면 실제로 시스템에 대한 불신이 발생한다. 이것을 극복하려면 시스템 차원의 변화가 필요하다. 문제는 규칙이 보통 교묘하게 기존 시스템을 옴짝달싹 못하게 속박한다는 것이다. 따라서 기존 시스템을 바꾸기보다 처음부터 새롭게 시스템을 갖추는 편이 더 쉬울 수 있다.

3부에서는 새로운 시스템의 창출 과정을 살핀다. 이 과정에서는 예측에 대응하기 위해 하나의 의사 결정을 바꾸는 걸 넘어 상호 작용하는 의사 결정 전체에 영향을 미치는 상황이 발생한다. 특히 이전부터 규칙이 많은 것을 주도해온 경우, 시스템 중심적 사고방식을 수용하고 의사 결정 사이의 미묘한 관계를 이해하는 것이 중요하다는 점을 설명한다. 또 인공지능 예측이 혁신 프로세스에서 이미 시스템 변화의 효과를 낳고 있음을 들려준다. 더불어 혁신 프로세스 이외의 곳에서도 변화가 필요하다는 것을 어렴풋이 보여준다.

4부에서는 시스템 차원의 변화가 불러올 핵심적 결과를 살핀다. 즉 시스템 차원의 변화는 지배력에 영향을 미친다는 것이다. 판도가 바뀌면 프로세스 측면에서 경제적 지배력의 이동이 수반된다. 저자들은 산업을 혁신하는 판도 변화와 시스템 차원의 변화가 지금까지 어떤 관계에 있었는지 설명하기 위해 최근의 사례를 살펴본다. 그런 다음 인공지능에 대한 논의에서 등장하는 지배력과 관련한 공포의 일면, 즉 기계가 지배력을 가질 수 있는지를 들여다본다. 인공지능의 목적이 예측이고, 예측은 의사 결정 과정에 개입하는 것이라는 이해를 전제로, 지배력은 외견상 아무리 강력해 보여도 기계가 아닌 기계 너머에서 예측에 따른 대응 방식을 결정하는 판단에서 비롯한다는 점을 설명한다. 다음으로 예측으로 지배력이 확대되는 양상을 살펴본다.

5부에서는 예측이 기존 지배력을 허무는 메커니즘, 즉 인공지능으로 판도가 바뀌는 방식을 파헤친다. 예측 기계가 없던 시절의 임기응변식 의사 결정 방식에 늘 예측과 판단이 결합되어 있었다면, 인공지능이 등장해 그 예측과 판단이 분리되는 방식을 설명한다. 이처럼 예측과 판단이 분리되면 현재의 의사 결정자가 실제로 그러한 판단을 하기에 가장 적합한 사람인지 의문을 불러일으킨다. 이어서 판단하는 사람이 분리를 추구할 수 있다는 사실을 다룬다. 특히 판단이 분산적으로 이루어지는 상황에서 어떻게 결국 지배력의 집중을 불러올 만큼의 수준에 이르는지 살펴본다. 마찬가지로, 예측이 규칙으로부터 의사 결정으로의 변화를 불러일으키고 여기에 새로운 시스템마저 뒤따른다면, 새로운 인물이 의사 결정 역할을 차지하고, 따라서 이는 지배력의 새로운 근원이 된다.

6부에서는 시스템 디자인, 특히 새로운 인공지능 발전에 기반한 신뢰할 만한 시스템 디자인을 살펴보며, 기업과 산업을 의사 결정의 체계로 이해하도록 도울 수단을 제공한다. 여기에는 강력한 예측 기계를 이용해 가장 핵심적인 소수의 의사 결정에 조직의 과제를 대응시키는 접근 방식이 포함된다.

에필로그에서는 많은 사람이 우려하는 인공지능의 편향 사례를 소개한다. 저자들은 인공지능이 도입 단계 솔루션 수준에 머무를 경우, 인공지능의 편향이 문제가 되며 예측 기계의 수용에 대한 반발도 정당할 수 있다고 인정한다. 그러나 이러한 편향은 시스템적 사고의 관점에서 더 정확히 볼 수 있다. 시스템이 인공지능의 예측에 맞춰 조정되어가는 방식을 이해하면 편향 제거가 인공지능이 제공하는 기회이며, 인공지능에 의한 전복이 아님을 훨씬 쉽게 이해할 수 있다.

저자들은 인공지능이 이끄는 산업 변화에는 시간이 소요된다는 사실을 강조한다. 초기에는 그러한 변화가 어떻게 이루어지는지 확실치 않다. 많은 사람이 시도하겠지만, 수요를 잘못 예측하거나 비즈니스 모델의 단위당 수익성이 충분치 않아 실패를 거듭할 것이다. 하지만 결국에는 누군가 성공을 거두고 수익을 냄으로써 이 방법을 입증할 것이다. 그러면 나머지는 따라 하기 시작할 테고, 그 산업의 리더는 해자를 둘러 이익을 보호하려 할 것이다. 때로는 이게 효과를 거두기도 할 것이다. 그럼에도 그 산업은 변화를 겪을 것이며, 언제나 그렇듯이 승자와 패자가 나뉠 것이다.