- 시스템 단계 솔루션 기업가
산업혁명 시기 내내 공장 디자인의 목적은 중기력을 최대한 이용할 수 있게끔 하는 것이었다. 지금까지 살펴본 대로, 공장의 단일 동력원은 회전축을 거처 거기에 연결된 벨트와 도르래를 지나 개별 기계에 분배되었다. 현대인의 눈으로 보면 당시의 공장은 그 안에 사람들이 마치 톱니바퀴처럼 놓여 있는 하나의 거대한 기게였다. 전체적으로 볼 때 공장은 동력을 분배하는 단일 지점에 수백 개의 움직이는 부품이 연결되어 있는, 만화에서나 볼 법한 복잡한 장치였다. 동력원을 바꾸어도 이런 모습은 변하지 않았다. 그러나 새로운 장치를 도입하면서 일부 기업가들이 공장에 대한 기존의 생각을 바꾸었다. 이를테면 중심 회전축이 없는 공장 또는 심지어 함께 작동해야 하는 여러 기계에 동력을 전달하는 회전축이 없는 공장으로 말이다. 이제 여러분이 전기에 대해 잘 안다고 가정하고 공장을 새롭게 디자인한다면 어떤 모습을 띨까?
기존의 공장은 각종 기계 장치를 동력원 가까이에 놓이도록 만들어야 했다. 다시 말해, 각각의 작업 현장을 수직으로 층층이 배치하는 편이 유리했다. 19세기 말 다층 구조의 비좁은 공장은 노동 조건, 안전기계 성능에서 대가를 치르는 중이었다. 하지만 전기를 쓰면 기계를 비좁은 공간에 몽땅 밀어 넣을 필요가 없다
점차 많은 기업 경영자들이 시스템 단계 솔루션을 받아들일 때에 전기의 진가가 드러난다는 것을 깨달았다. 구체적으로 말하면, 전기의 이점을 빠짐없이 활용하는 시스템에서 말이다. 여기서 필자들은 '시스템이란 용어를 작업의 완수를 보장하는 상호 연관된 절차라는 뜻으로 사용한다.
공장 내부 공간을 경제학적으로 생각해보자. 중기와 중심 회전축이 존재하는 한 회전축 가까이에 있는 공간은 나머지 공간보다 가치가 더 클 수밖에 없다. 따라서 작업은 회전축 가까이에서 이뤄졌고, 그 작업이 끝나면 제품을 다음 과정을 위해 어딘가에 쌓아두거나 옮겨야 했다
즉, 완성하기까지 제품을 이리저리 이동시켜야 했다
하지만 전기가 유연성을 제공함으로써 공간의 경제적 가치가 평준화되었다. 이른바 라인을 따라 생산이 이루어지는, 다시 말해 미완성 제품을 이리저리 옮기지 않고 순차적인 공정 단계를 거치는 생산 방식이 좋은 평가를 얻었다. 헨리 포드(Henry Ford)라도 모델 T 자동차의 생산라인을 중기력에 기반해서는 구축할 수 없었을 것이다. 전기의 상업적 장래성이 엿보이고 수십 년이 지나서야 포드는 자동차 생산 라인을 구축할 수 있었다. 알다시피 포드는 자동차 기업가이지만, 달리 보면 시스템 단계 솔루션을 도입한 기업가이기도 했다. 이러한 시스템 변화는 공업 지대의 풍경을 바꾸었고, 그제야 마침내 전기의 사용이 생산성 통계에서 중요항목으로 등장했다.
- AI의 경우 우리는 다음 두 가지 동일한 질문을 할 수 있다.
(1) AI로 우리는 진정 무엇을 얻는가?
(2) 우리가 사업을 처음부터 새롭게 시작한다면 그 사업 프로세스와 비즈니스 모델을 어떻게 구축할 것인가?
전기가 더 저렴한 동럭뿐 아니라 어마어마한 생산성 증가를 가져올 공장 디자인을 낳았다면, 아마 인공지능 역시 비용이 더 적게 드는 예측뿐 아니라 생산성이 매우 높은 재화, 서비스, 조직 디자인을 낳을 것이다. 전기의 주된 혜택이 동력 사용과 동력원을 분리해 공장 디자인의 혁신을 촉진한 것이었다면, 인공지능의 주된 혜택은 예측과 나머지 의사 결정 과정을 분리하고 개별 의사 결정의 상호 관계를 새롭게 정립함으로써 조직 디자인의 혁신을 촉진하는 것이다
우리가 주장하는 바는 의사 결정에서 예측과 나머지 부분을 서로 분리하고, 예측을 인간이 아닌 기계에 맡김으로써 인공지능이 시스템 수준의 혁신을 일으킨다는 것이다. 의사 결정은 그 시스템에서 핵심 요소이고, 인공지능은 의사 결정을 향상시킨다
- 100년도 더 된 과거 동력 시장을 배경으로 설명한 세 가지 유형의 기업가 비유는 증기에서 전기로 바뀌는 동일한 기술 변화를 맞이한 기업가들이 받아들인 각각의 가치 제안을 보여준다. 이러한 가치 제안에는 도입 단계 솔루션(동력 비용을 절감하고 마찰에 의한 동력 손실이 줄어든다. 공장 시스템 디자인에는 아무 변화가 없다), 용용 단계 솔루션(개별 기계 장치마다 별도 전력 제공: 기계 장치를 모듈화해서 장치 하나가 멈추더라도 다른 장치는 영향을 받지 않는다. 공장 시스템 디자인에는 아무 변화 없다), 시스템 단계 솔루션(공장 디자인 변경 경량 건축, 단층구조, 노동자와 원자재의 이동 및 공간 배치를 최적화한 워크플로)이 있다.
- 일부 가치 제안은 특히 주목을 받았다. 전기의 경우, 시스템 변화 없이 증기를 전기로 곧장 대체하는 도입 단계 및 응용 단계 솔루션의 가치는 제한적이
었으며, 이는 산업계의 수용이 처음부터 더였다는 사실에서 드러난다. 시간이 지나자 일부 기업가는 중기를 계속 사용하는 한 불가능하거나 막대한 비용이 드는 분리, 즉 기계 장치와 동력원의 분리가 비로소 가능해지는 순간을 맞이했다. 전력을 이용하는 시스템 차원의 솔루션을 도입함으로써 말이다
대체로 시스템 단계 솔루션의 가치 제안은 도입 단계 솔루션의 가치 제안보다 휠씬 우월했다
전기 덕분에 기계 장치와 동력원의 분리가 기능해지면서 가치 제안이 연료비 절감에서 어마어마한 생산성 중가를 가져올 공장 디자인으로 급격하게 전환되었다. 이렇듯 인공지능은 예측을 의사 결정의 나머지 부분과 분리하고 가치 제안을 예측 비용 절감에서 어마어마한 생산성 증가를 가져올 시스템으로 전환시킬 것이다
- 예측은 의사결정을 하는 경우에만 가치를 얻는다. 따라서 이 책의 목적에
맞춰 앞의 정의를 다음과 같이 수정하고자 한다.
* 인공지능 도입 단계 솔루션: 예측이 기존 결정을 일부 개선하는 동시에 그 결정이 독립적으로 가능하다면, 예측은 도입 단계 솔루션으로서 유의미하다.
* 인공지능 응용 단계 솔루션: 예측으로 새로운 결정이 기능하거나 의사결정 방식이 변화하는 동시에 그 결정이 독립적으로 가능하다면, 예측은 응용 단계 솔루션으로서 유의미하다.
* 인공지능 시스템 단계 솔루션: 예측으로 기존 결정을 개선하거나 새로운
결정이 가능한 경우이면서 다른 의사결정 방식 또한 변화해야 하는 경우에만 예측은 시스템 단계 솔루션으로서 유의미하다.
- 세 가지 유형의 인공지능 솔루션, 즉 도입 단계 솔루션, 응용 단계 솔루션
시스템 단계 솔루션에 대한 정의에서 핵심 개념은 독립성이다. 인공지능의
예측이 핵심 결정을 개선해 가치를 창조하고, 그러한 가치 창조가 시스템을
변화시키지 않고도 독립적으로 가능하다면 이러한 도입 단계 솔루션(기존 결정의 향상)이나 응용 단계 솔루션(새로운 결정)은 실행 가능하다. 그러나 개선된 의사 결정의 가치가 독립적이지 않고 가치 창조를 위해 시스템의 상당한 변화가 필요한 경우에는 시스템 단계 솔루션이 필수적이다
- 일반적으로 시스템 단계 솔루션의 시행이 도입 단계 솔루션이나 응용 단계
솔루션의 시행보다 더 힘든 이유는 인공지능에 의해 의사 결정이 개선되면
시스템의 다른 의사 결정이 그 영향을 받기 때문이다. 도입 단계 및 응용 단
계 솔루션이 보통 기존 시스템을 강화한다면, 시스템 단계 솔루션은 정의상
기존 시스템을 전복하며 결과적으로 판도를 바꾸어버린다. 그런데 인공지능
에 대한 투자에서는 대체로 시스템 단계 솔루션일 때 가장 높은 수익을 거둘
가능성이 크다. 게다가 시스템 단계 솔루션은 일부 산업에서 판도를 바꾸는
원인으로 작용할 가능성이 높으며, 결국 승자와 패자가 갈릴 것이다
- 규칙은 미리 하는 의사 결정이다. 의사 결정을 하려면 규칙을 따르는 것과달리 때와 조건에 맞는 정보를 고려해야 한다. 따라서 결정에서 비롯된 행위
는 상황 변화에 대웅하는 것이기 때문에 규칙을 따르는 행위보다 보통 더 낫
다. 그렇다면 우리는 지금까지 왜 의사 결정보다 규칙에 의지했을까? 의사결정을 하려면 더 높은 인지적 비용이 발생한다. 그 비용을 감당하는 것이 타당한 경우는 언제일까? 결정의 중요성이 크고 정보의 가격이 낮은 때다
인공지능을 도입한다고 해서 결정의 중요성이 달라지는 것은 아니지만 정보의 비용은 낮출 수 있다.
- 규칙과 의사 결정 사이의 균형은 인공지능 시스템에 중요하다. 인공지능의
핵심 혜택이 의사 결정을 개선하는 것이기 때문이다. 인공지능은 규칙에 아
무런 도움도 주지 않는다. 인공지능이 예측을 하면 그 예측에 포함된 정보는
핵심 정보로서 의사 결정에 반영된다. 결국 인공지능이 더 강력해짐에 따라
정보(예측)의 비용이 낮아지고, 규칙에 의지하는 경우에 비해 의사 결정으로
인한 상대적 수익이 늘어난다. 이처럼 인공지능이 발전하면 규칙을 따르던
데에서 벗어나 의사 결정으로의 전환이 일부 이루어진다
그러나 규칙을 따르면 인지적 비용은 더 낮을 뿐 아니라 신뢰성 역시 더 높
을 수 있다. 의사 결정은 보통 서로 영향을 미친다. 시스템의 의사 결정이 상
호 의존하는 상황에서는 신뢰성이 중요한 문제로 대두할 수 있다. 예를 들어
조직은 대부분 규칙에 해당하는 SOPs에 의지한다. 이 절차는 인지적 부담이
낮고 신뢰성이 높다. 규칙을 의사 결정으로 전환하고 인공지능의 예측을 이
용하려면 신뢰성 저하에 대처할 수 있도록 시스템을 재구성해야 한다
- 표준운영절차와 마찬가지로 체크리스트도 규칙과 그 규칙을 따를 필요성 때문에 만들어진 것이며, 그 존재 목적은 신뢰성을 확보하고 오류를 줄이는 데 있다. 체크리스트의 대안은 전문가에게 지식에 근거한 의사결정을 하도록
맡기는 방법이 있다. 규칙에서 의사결정으로의 전환이 이러한 대안적 행위
의 효과를 높일 수는 있겠지만, 다른 사람들에게 골칫거리나 불확실성을 안
겨줄 수도 있다.
규칙은 시스템 안에 한데 얽혀 있다. 그 때문에 하나의 규칙을 인공지능 기반
의사 결정으로 바꾸는 일이 어려운 것이다. 따라서 매우 강력한 인공지능을
도입하더라도 그 가치가 잘 드러나지 않는 경우가 흔하다. 시스템을 이루는
많은 부분이 대개 규칙에 맞추어서 있고 변화를 거스르도록 디자인되어 있기때문이다. 이런 규칙은 상호 의존적이다. 다시 말해, 서로 교착되어 있다.
차선의 학습 내용을 예측하는 인공지능이 학생에게 제공하는 맞춤형 교육은 모범적 사례다. 하지만 연렁 기반 커리쿨럼이라는 규칙 기반 시스템에 이러한 인공지능을 도입하면 그 장점이 억눌리고 만다. 반면, 동일한 인공지능을 (연령 기반이 아닌) 맞춤형 토론 , 그룹 프로젝트, 교사에 대한 지원을 최대한 이용하는 새로운 시스템에 도입하면 교육 전반과 학생 개인의 성장 및 발전에 대단히 큰 영향을 미칠 것이다. 맞춤형 교육의 잠재력을 해방시키기 위해서는 예측 모델을 수립하는 것보다 현재 교육 시스템 전체를 옴짝달싹 못하게 하는 연령 기반 커리큘럼이라는 규칙을 교육에서 떼어내는 일이 시급하다
- 대부분 코로나19를 건강 문제로 생각하지만 우리는 이를 정보 문제로 재해석했다. 감염자의 경우 코로나19는 사실 건강의 문제다. 그러나 감염되지
않은 사람 대다수에게 코로나19는 정보 문제였다. 그 이유는 감염 여부에 대
한 정보가 없어 누구든 감염된 것처럼 전제하고 규칙을 따라야 했기 때문이
다. 그 결과는 경제 봉쇄였다. 우리가 충분히 정확한 예측을 할 수 있었다면
이러한 정보 문제를 해결하고 감염 가능성이 높은 사람들만 격리했을 것이
다. 인공지능의 예측으로 비로소 가능해질 새로운 의사 결정 체계를 추구할
때 규칙은 최대 장애물이 된다
- 예측 기계를 효과적으로 활용하려면 규칙에서 의사 결정으로 전환해야 한다. 하지만 그러기 위해서는 시스템 역시 이런 변화를 수용할 수 있어야 한다. 시스템의 신뢰성을 위해 규칙이 서로 교착되어 있다면, 그러한 시스템에서는 의사 결정을 하더라도 아무런 실익이 없을 것이다. 우리가 다문 코로나19 관련 사례에서는 12개 대기업으로 이루어진 작지만 유연한 시스템이 만들어지는 것을 볼 수 있었다. 이 회사의 CEO들은 자신의 리더십을 이용해 신속항원검사를 통한 감염 예측 정보를 기반으로 의사 결정이 이루어지도록 했다
덕분에 규칙으로 이루어진 지배적 시스템 아래서 언제 봉쇄될지 모르던 이
기업들은 운영을 계속할 수 있었다. 이런 성공은 이후 20개 넘는 조직이 이 유연한 시스템을 수용하고 규칙에서 의사 결정으로 전환하는 동기를 제공
했다.
- 전기의 경우, 공장제 수공업에서 증기를 대체하는 일은 수십 년이 걸릴 만큼 느렸다. 기존 공장에서는 증기보다 비용이 싸야만 전기도입에 실익이 있었기 때문이다. 이미 주기에 기반해 디자인한 공장의 경우, 전기 도입을 설득하는 것이 쉬운 일은 아니었다. 반면, 공장주들이 전기 덕분에 임대료가 비싼 도시를 벗어나 외곽에서 큰 단충 구조물로 엄청난 생산성 증대가 기대되는 새로운 공장을 짓는 게 가능하다는 사실을 깨닫자마자 전기는 투자자들의 이목을 모았다. 사실 전기차가 휘발유차보다 더 유망한 기술이라는 생각은 한참 전부터 있었다. 하지만 전기차가 등장하자 휘발유차는 주행 거리를 더 늘려서 결국 가장 지배적인 기술로 자리 잡았다. 적어도 21세기 초에 배터리 기술이 발전하기 전까지는 말이다. 공장 재구성의 경우에는 전기가 가치의 증대를 이루었지만, 교통수단의 경우에는 그렇지 않았던 것이다. 요컨대 가치가 있어야 승리할 수 있었다
결정적으로, 새로운 시스템을 수용하려면 반드시 기존 시스템을 없애야 하기 때문에 비용 차원에서만 접근하면 시스템 교체를 수용할 수 없을 것이다. 시스템을 바꾸는 데는 비용이 들어간다. 그래서 시스템변경 목적이 기존 시스템의 비용 일부를 아끼는 데 지나지 않는다면 시스템 교체의 가치를 입증하기 어려울 것이다. 대신 새로운 시스템으로 새로운 것, 즉 새로운 가치를 창출할 기회를 얻을 수 있다면 그것은 신기술의 수용을 촉진한다
- 현재 모든 경제 분야에서 인공지능 도입을 권할 때 마주하는 가장 지배적
인 태도는 과업 중심적 사고다. 그 골자는 인공지능이 정확성, 속도, 비용이
서 인간보다 더 나은 예측을 할 수 있다는 사실에 기대어 이를 적용할 구체
적 과업을 밝히는 것이다. 기업의 리더, 경영 컨설턴트, 학계는 대체로 이러
한 접근 방식을 따르고 있다
과업 중심 사고가 득세하는 상황이 놀라운 이유는 인공지능으로 가장 인상적인 결과를 낸 분야가 과업 중심 사고로 인간 노동을 대체한 분야가 아니라 현재 인공지능의 예측 능력 덕분에 시스템 수준의 디자인을 새로 이룬 분야이기 때문이다(아마존, 구글, 넷플릭스, 메타, 애플). 과업 중심 사고는 흔히 노동 대에에 의한 비용 절감에 이끌리는 도입 단계 솔루션을 낳는 반면, 시스템 중심 사고는 비용 절감이 아니라 가치 창출에 이끌리는 시스템 단계 솔루션을 낳는다
- 혁신 시스템에서 인공지능의 핵심 역할은 새로운 조합들의 결과를 예측하는것이다. 과거에는 가설을 만들기 위해 과학적 발견이나 실행과 오류에 의지했다면, 이제는 우리에게 모빈은 향상시킬 충분한 데이터가 있다면) 인공지능의 예측을 이용해 만들 수 있다.
자동화된 가설 생성은 혁신의 생산성을 크게 향상시킬 수 있다. 그러나 이
기술의 혜택을 완전히 누리기 위해서는 가설 생성 단계에 머물지 않고 혁신
시스템 전체를 재고해야 한다. 예를 들어, 가설 생성이 더욱 빨라지더라도 다
음 단계인 가설 검정이 변화하지 않는다면, 연구 시스템에 거의 영향을 미치
지 못하고 그저 병목 현상만 빚어질 것이다.
- 예측은 전력 산업의 새로운 운영 방식, 즉 발전이 중앙 집중적 차원에서 결정되지 않는 방식을 예고했다. 예측이 개선된다는 것은 현실에서 전기의 실제 수요가 예상 수요에서 크게 벗어나는 일이 한층 줄어든다는 의미다. 따라서 예측 정보가 여러 발전 사업자, 송전망 운영자, 배전 사업자에게 적어도 하루 전에 배포되면 그들 각자는 자신의 공급 계획안을 중앙의 시스템 운영자와 공유할 수 있었다. 이는 발전 사업자들의 재량권이 더욱 커졌음을 의미하며, 이것으로 다양한 발전 시설에 대한 투자와 효율성을 증가시키는 조치를 도입할 기회가 확대되었다. 모든 것을 관리하는 중앙 계획의 필요성이 없어진 것이다
이처럼 전력 산업이 맞이한 전환은 중앙 집중적 방식에서 탈중앙적 방식으로의 이동을 동반했다. 그러나 특히 기억할 것은 경제적 지배력을 가진 자와 관련해 그 이동이 갖는 함의다
경제적 지배력이 있다는 것은 시장에서 가치 있는 동시에 희소한 걸 소유하거나 통제할 수 있다는 의미다.
- 급진적 기술 변화가 기성 산업의 전통적 성과 지표에서는 미미해 보이지만, 그 산업이 별반 중시하지 않는 지표에서 성과를 보이는 경우에는 대단히 큰 판도 변화가 일어난다. 이 때문에 기성 기업의 약점이 드러날 수 있다. 역사학자 질 레포레는 그 이론을 다음과 같이 설명한다.
(크리스텐슨은) 1997년에 출간한 책 혁신가의 딜레마에서 경영진이 그릇된 결정을 내린 게 문제가 아니라 올바른 결정, 즉 회사가 수십년 동안 성공을 구가하도록 만든 올바른 결정을 내린 것이 문제라고 주장했다. (혁신가의 딜레마"는 올바른 일을 하는 것이 잘못된 일이라는 뜻이다.) 크리스텐슨이 눈치했듯이 문제는 역사의 속도 때문에 불거진 것이다. 그리고 이는 문제라기보다 비행기를 놓치는 것과 같은 기회 상실에 가까웠다. 기회 상실과 한 가지 차이가 있기는 하다. 그들은 비행기가 있는지조차 몰랐고 활주로를 풀밭인 양 쏘다녔는데, 비행기는 이륙하면서 그들의 머리 위를 휙 지나쳤다.
- 우리는 지배력을 '경제적 지배력'으로 정의한다. 소유하거나 통제하고 있는
게 수요에 비해 희소하다면 지배력이 있는 것이다. 경제적 지배력의 기저에
있는 희소성은 경쟁에 의헤 완화되는 성질을 가지고 있다. 이 때문에 경제학
자들은 경제적 지배력과 독점적 지배력를 동일시하곤 한다. 호소했던 것이
경쟁에 노출되면 지배력의 변화가 뒤따른다
- 때때로 시스템 단게 솔루션은 인공지능에서 최대한의 이익을 얻는 데 필수
적이다. 시스템 재구성은 산업 수준에서(예를 들어, 인공지능이 더욱 확산되면 데이터를 많이 축적한 산업의 지배력이 더 강해진다), 기업 수준에서, 직무 수준에서(예를 들어, 블록버스터의 대여점은 온라인렌털 서비스와 DVD 우편배달로 전환이 일어나자 지배력을 상실했다) 지배력의 이동을 낳을 수 있다. 변화에 저항하는 사람은 보통 현재 지배력을 누리고 있으며(그 때문에 저항하는 것이다), 따라서 시스템 수준의 변화를 가로막는 데 상당한 힘을 발휘한다. 이것이 판도 변화의 맥락을 창출한다
- 기계는 지배할 수 없지만 의사 결정을 대규모로 처리해 지배력을 만들 수 있으며, 그럴 경우 의사결정을 위한 판단의 주체와 실행 방식이 바뀌는 지배
력의 이동이 불가피해진다. 인공지능에 기반한 시스템에서는 판단이 의사결
정에서 분리되어 독립적으로 이루어질 수 있다. 의사 결정을 하기 위해 판단
이 개별적으로 이루어지는 상황에서 그러한 판단을 코드로 작성해 소프트웨
이에 삽입하면 다음의 결과에 이를 수 있다.
(1) 대규모 처리가 진행되며, 결
국 시장점유율의 변동이 일어나면서 지배력의 이동이 발생한다.
(2) 의사결정자가 바뀌며, 결국 판단을 내리던 기존 의사 결정자로부터 지동 처리를 위해 판단하는 사람 또는 판단의 자동 실행이 가능한 시스템 소유자에게로 지배력이 옮겨간다.
- 제조업 경제에서 공장은 흔히 시장 진입에 충분한 만금의 원가 경쟁력을 갖출 수 있는 최소 규모로 건설된다. 그 이유는 공장크기와 마찬가지로 제조업에서 단위당 평균 비용이 특정 생산량에 이를때까지 감소하기 때문이다. 그 생산량을 '최소 효율 규모'라고 부른다
인공지능에도 역시 최소 효율 규모가 있다. 그러나 이 규모는 공장에서처럼 생산 능력에 달린 문제가 아니라 학습용 데이터에 달린 문제며, 그 규모의 측정은 단위 비용을 두고 이루어지는 것이 아니라 예측의 정확도를 두고 이루어진다. 시장에서 인공지능의 성공은 예측의 정확성에 달려 있기 때문이다. 예측이 유용하려면 상업적 실행 가능성이 있을 만큼의 질을 갖추어야 한다. 최소 예측 정확도에 영향을 주는 요소로는 규정(예를 들어, 진단을 목적으로 인공지능에 기반해 의학적 결정을 하는 경우 필수적인 최소 예측 정확성), 편리성(예를 들어, 이메일 자동 응답 서비스에서 필요한 최소 예측 정확성), 경쟁(예를 들어 부동산의 보증에 이르기까지 검색 시장에 진입해 구글 및 빙과 경쟁하기 위해 필수적인 최소 예측 정확성) 등이 있다
- 판단으로 등장할 기회
예측과 판단이 분리되면 기회가 생긴다. 다시 말해, 의사 결정의 주체가 될 사람은 분리되지 않은 예측과 판단에 능숙한 사람이 아니라, 인공지능의 예측을 활용하는 판단에 능숙한 사람이다
인공지능의 예측이 가능해지면 이를 활용해 가장 뛰어난 판단을 하는 사람이 주목받을 수 있다. 앞서 언급한 대로 이론적으로 그리고 수많은 실행을 통해 인공지능은 대다수 방사선 전문의보다 더 정확하게 진단 예측을 할 수 있다. 정확성은 질병에 따라 다르다. 하지만 사실상 인공지능의 학습 훈련은 방사선 전문의들의 예측을 토대로 이루어지는 게 아니라, 병리학에서 악성 종양을 판단하듯 영상의학 이미지를 신뢰할 만한 관찰 결과와 매칭해 이루어진다. 따라서 인공지능의 예측이 인간의 예측을 능가할 가능성이 크다. 기술 선도자이자 인공지능 분야의 저명한 투자자 비노드 코슬라가 주장하듯 미래에는 방사선 전문의가 인공지능의 예측을 이용하지 않을 경우 그 자체로 의료 과실이 될 수도 있다
- 의사 결정은 시스템을 이루는 핵심적 기본 단위다. 인공지능이 등장하기 전까지 예측과 판단의 구분은 시스템 디자인의 관점에서 전혀 고려된 적이 없었다. 이 두 가지는 한 사람의 마음속에서 일어나는 작용이기 때문이다. 그러나 인공지능의 등장과 함께 상황이 바뀌었다. 예측을 기계에 맡기면 시스템디자인을 재고해볼 여지가 생긴다. 인공지능으로 더 빠르고 더 저렴한 예측이 가능하다면, 예측을 자주 하지 말아야 할 이유가 없지 않은가? 시시한 의사 결정이라도 예측을 이용하지 않을 이유가 없지 않은가? 판단을 코딩으로 설계해 의사결정을 자동화하고 이러한 자동화를 확대하지 않을 이유가 없지 않은가? 판단을 예측과 함께 한 사람에게 맡기던 이전 시스템과 달리, 훨씬 뛰어난 사람이나 그룹에 맡기지 않을 이유가 없지 않은가? 새로운 시스템 디자인이 등장할 기회가 이처럼 무궁무진한 것은 인공지능이 가장 기초적인 의사 결정을 예측과 판단으로 분리함으로써 새로운 기회를 창출하기 때문이다.
- 예측을 의사 결정에 반영하기 위해서는 판단이 이루어져야 한다. 전통적 의사 결정 방식에서는 판단을 예측과 구별해 정의하지 않는다 그렇다면 우리는 판단을 정의해야 한다. 판단은 어떻게 습득하는가? 전수나 학습 또는 경험을 통해 얻을 수 있다. 판단이 미리 준비되어 있지 않으면, 인공지능의 예측을 구축하는 데 투자할 동기는 낮아질 것이다. 마찬가지로 예측을 담당할 인공지능이 없다면, 여러 의사 결정과 관련한 판단을 습득하는 데 투자하기가 망설여질 것이다. 우리는 예측과 판단이 서로 필요한 상황을 맞이한다. 이는 시스템 재구축에 추가적인 장애물로 작용할 수 있다
- 인공지능의 능력을 최대한 이용하기 위해서는 많은 애플리케이션에 새롭게 디자인한 시스템 단계 솔루션이 필요하다. 이 솔루션에는 시스템이 결정론적 방식에서 확률적 방식으로 전환될 때 사회를 안심시키기 위한 규제 기능이 포함된다. 우리는 이런 시스템이 모든 예상 시나리오마다 어떤 효과를 낳을지 미리 알지 못한다. 충분히 검토하고 있지 않기 때문이다. 난해한 확률적 방식을 활용하는 제약 산업이 일부 부작용 위험을 감안해도 전체적으로 편익이 비용을 넘어서기 때문에 시민을 안심시킬 수 있는 규제 프로세스에서 이득을 얻는 것처럼, 우리에게는 기존 검사 체계와 달리 기계의 결정을 검토하는 FDA 같은 규제 기관이 필요할 것이다. 대개의 경우 이 기능은 확률적 정보에 의지하는 시스템 재구축의 성공을 좌우하는 요소일 수 있다
- 인공지능 실행으로 예측과 판단이 서로 분리되면 가치 창조의 기회를 맞이하는 한편, 판단 권한이 기존 의사 결정자에게서 다른 사람으로 옮겨가도록 할 새로운 시스템의 디자인이 반드시 필요할 수 있다. 판단 권한이 이처럼 이동하면 지배력이 재분배된다. 판단하는 사람은 궁극적으로 의사 결정을 하는
것이며, 따라서 지배력을 얻는다. 인공지능을 이용하는 새로운 시스템 디자인은 특정 개인들의 지배력을 약화시켜 그들의 반발을 초래할 수 있다
- 새로운 시스템 디자인에서 결정 권한은 어떻게 분배될까? 가장 낮은 비용으로 조직의 이해관계에 가장 부합하는 의사 결정을 내릴 수 있는 사람이나 집단에 결정을 맡길 것이다. 이때 그 기준은 의사 결정의 효율성이며, 여기에는 고려해야 할 네 가지 요소가 있다.
(1) 정보: 의사 결정에 필요한 정보에 접근하는 사람 또는 그 권한이 있는 사람인가?
(2) 기량: 의사 결정에 필요한 전문 지식과 기량을 갖춘 사람인가?
(3) 유인: 특정한 의사 결정과 관련해 조직의 이해관계와 가장 일치하는 유인이 있는 사람인가?
(4) 협력: 의사 결정이 조직의 여러 부분에 영향을 미치는 경우라면, 누가 조직의 목적에 가장 적합한 의사 결정을 내리기 위해 필요한 전반적 권한.정보.유인을 갖고 있는가? 그 대답은 예측과 판단을 둘 다 맡기는 경우와 인공지능이 예측을 수행함으로써 판단만을 맡기는 경우에 따라 다를 수밖에 없다.
- 새로운 시스템 디자인은 판단이 코드화하고 대규모 처리가 가능하다면 지배력을 집중시킬 것이다. 신용카드 네트워크와 영상의학 분야가 그 사례다. 신용카드 네트워크의 경우, 지배력은 과거의 상인들이 아니라 소수의 신용카드기업에 집중되었다. 영상의학의 경우, 일부에서는 영상 이미지의 패턴을 인식하고 이상 상태를 발견하는 핵심 기술이 조만간 지배력의 집중을 부를 것이라고 추측한다. 그렇다면 방사선 전문의의 진단 능력이 쓸모없게 되어도
이들은 나머지 판단에서 여전히 적임자로 남을까? 간호사, 사회복지사, 훈련
된 의료 전문가에게 그 판단을 맡길 수도 있다.
- 인공지능을 불확실성 해소에 이용할 수 있지만, 그 결과 다른 의사결정이 연달아 불협화음을 일으킨다면 근본적인 문제, 즉 수요와 공급을 균형값으로 수렴시켜야 하는 문제를 풀 수 없다. 채찍을 휘두르는 것처럼 일부에서만 인공지능 솔루션을 활용하면 나머지 의사 결정에 연쇄적으로 파문이 일어난다
상당히 역설적인 상황이다. 인공지능의 가치는 의사 결정을 개선하는데 달려 있고, 이는 불확실한 요소가 의사 결정에 반영되는 데서 비롯된다. 그런데 누군가의 의사 결정이 다른 의사 결정의 신뢰성을 낮추는 결과로 이어진다면. 잠재적으로 불확실성을 전가시키는 셈이다. 이 때문에 인공지능을 활용해 불확실성에 대처하는 것보다 애초에 신뢰성이 더 높은 시스템을 고수하는 편이 더 낫다는 생각이 들 수 있다
이를 처리하기 위한 인공지능의 시스템 단계 솔루션 구축 방법에는 두
가지가 있다. 협력을 중진하거나 부분적인 독립성을 강화하는 것이다
- 한국의 두산중공업과 마이크로소프트가 개발한 가상 풍력 발전 시스템은 그 다양한 장점을 실제로 보여준다. 이 시뮬레이션은 역학에 기반한 가상 모델에 풍력 터빈의 발전량을 예측하는 기계 학습을 결합시킨 것이다. 터빈의 예측 발전량과 실제 발전량을 비교함으로써 터빈 운전자는 발전을 정밀하게 통제하고 최적화할 수 있다. 게다가 이 가상시스템은 전반적인 풍력 발전 디자인과 개발에서 혁신을 이루었다. 마지막으로, 이것은 의사 결정의 협력을 가능케 했다. 발전량을 정확하게 예측함으로써 두산중공업은 전력망 운영자와 공급 전력량 계약의 규모를 늘릴 수 있었으며, 계약 불이행으로 인한 배상의 부담 역시 피할 수 있었다. 이 시스템은 시스템 단계 솔루션의 구축에 따른 위험을 낮추었다. 예를 들어, 예측의 개선으로 계속 작동할 수 있는 터빈과 유지 보수가 필요한 터빈을 구분함으로써 효과적인 의사 결정이 가능해졌다. 순차적으로, 전력망 운영자와의 계약 관련 의사 결정도 가능해졌다
- 의사 결정은 홀로 존재하는 것이 아니다. 한 가지 의사 결정의 결과에 나머지 의사 결정이나 행동이 영향을 받기도 한다. 이로 인해 실시간으로 의사결정을 하는 대신 사전에 구축된 규칙에 의지하는 경우가 있다. 규칙이 신뢰성을 증대시키기 때문이다. 그래서 시스템 전체에 도움을 줄 더 큰 신뢰성을
얻는 대가로 영향력이 적은 불리한 의사 결정을 감수한다. 신뢰성은 상호 의
존적 의사 결정으로 이루어진 시스템의 핵심적 특징이다
- 인공지능 기반 의사 결정이 불러올 신뢰성 저하에 대처하기 위한 두 가지 시스템 디자인 방식이 있다. (1) 협력적 시스템과 (2) 부분 독립적인 시스템이
그것이다. 협력적 시스템에는 전반적인 목표를 정한 다음 정보 흐름, 인센티브 및 의사 결정 권한을 설계해 시스템의 각 의사 결정자가 전체 목표를 최적화할 수 있는 정보와 인센티브를 갖도록 하는 작업이 포함된다. 부분 독립
적인 시스템은 조직 내부에서 이루어진 의사 결정이 서로 불협화음을 일으켜 발생하는 비용을 줄이기 위해 인공지능에 의지한 의사 결정이 나머지 의사 결정에 영향을 미치지 못하도록 하는 방식이다. 부분 독립성을 받아들이
면 협력에 따른 비용은 줄어들지만 시너지를 포기하는 대가를 치른다
- 대부분의 기업 시스템은 불확실성을 관리하는 너무 많은 상호 의존적 규칙과 함께 이와 관련된 가림막으로 이루어져 있다. 그 때문에 시스템 일부를 폐기할 방도를 찾거나 인공지능의 예측에 부웅하는 새로운 시스템 디자인을 고안하는 것은 어려운 일이다. 따라서 일부 규칙과 가림막을 개선하는 효과와 이러한 개선이 시스템의 나머지 부분에 미칠 영향을 상세히 따지기보다 맨 처음부터. 새롭게 설계하기를 제안한다. 인공지능 시스템 탐색 캔버스는 다음의 세 단계로 이루어진다.
(1) 조직의 목표를 명확하게 밝힌다.
(2) 가장 강력하고 예측 정확성 높은 인공지능을 갖춘다고 할 때, 그 목표 달성에 필요한 최소한의 필수적인 의사 결정을 선별한다.
(3) 이 필수적인 의사 결정마다 관련된 예측과 판단을 구체화한다
- 주택 보험의 경우 보험사의 가장 중요한 의사 결정은 다음 세 가지로 압축할 수 있다.
(1) 마케팅: 수익성이나 매출 신장을 최적화하기 위해 고객 지원 마케팅 자원의 할당을 결정한다.
(2) 계약 심사: 수익성이나 매출 신장을 극대화하기 위해 보험 가입자에게 맞는 보험료를 책정한다. (현재의 보험료 규제 아래서는 수익 실현이 불가능할 정도로 가입자의 위험이 크다고 에측되면 계약 심사 자체가 이루어지지 않을 것이다.)
(3) 보험금 청구: 보험금 청구가 정당한지 결정하고. 정당할 경우 보험금을 지급한다. 가장 강력하고 예측 정확성 높은 인공지능이 다음 세 가지를 예측할 수 있다면, 즉
(1) 고객이 보험 상품을 갈아탈 확률을 고려해 고객의 가입 기간 동안 실현할 가치,
(2) 보험 계약상 보상의 최고 한도액을 감안해 예상되는 보험금 지출액,
(3) 청구의 정당성을 예측할 수 있다면 주택 보험사는 처리 속도, 효율성, 비용, 수익성을 재디자인해 보험료와 편리에서 경쟁사를 능가할 수 있다. 바로 이것이 일부 인슈어테크 회사의 목표다
