- 김찬우 7단은 기본에 가장 충실한 수가 가장 창의적인 수인데, 인간은 기본에 충실할 수 없는 반면 인공지능은 그럴 수 있다고 한다. 세계아마바둑선수권대회 우승자 출신인 그는 2006년경부터 한국에 바둑 AI 프로그램을 들여왔고, 지금도 인공지능을 이용한 바둑 교육 앱을 개발해서 보급하는 IT 전문가이기도 하다.
"사람은 어떤 일을 할 때 대상을 분류해요. 그렇게 범주화하면서 약간 오류가 있어도 무시하고 데이터를 카테고리로 관리하죠. 그렇게 관리를하니까 고정관념이 생겨요. 그런 고정관념들이 일을 빨리 처리하는 데 도움이 되지만 어떤 요소들은 배제하게 돼요. 어쩔 수 없죠. 머리가 쓸 수 있는 에너지는 유한하니까. 그런데 인공지능은 그렇지 않죠. 모든 요소를 다 고려합니다. 인공지능이 그렇게 해서 둔 수를 보고 진짜 좋은 수인데' 하고 감탄하면서 분석해 보면 그게 가장 기본에 충실한 수인 거예요. 바둑뿐 아니라 우리가 쓰는 언어 자체가 그래요."
- 문학의 영토에 승부는 없지만, 일종의 튜링 테스트를 벌일 수는 있을 것이다. 인공지능이 쓴 소설을 인간 저자가 쓴 것처럼 필명으로 발표한 다음, 그 소설이 어떤 비평을 얻는지 지켜보는 것이다. 많은 문학 전문가가 그 작품의 문학성이나 독창성을 인정한다면, 인공지능은 독창적이고 문학적인 소설을 쓸 수 있다고 인정해야 한다. 그때 '인공지능은 자기가 쓰는 게 뭔지 모른다' 같은 말은 비겁한 자기위안일 따름이다. 오히려 그때 비로소 우리는 우리가
써왔던 게 뭔지 파악하게 될 것이다. 그때 우리는 문학성과 독창성의 의미를곱셉게 될 것이다. 그때 나는 멍하니 거리를 한참 걷고 술을 마시고 집에 들어가 울지도 모르겠다. 터미네이터가 등장하지 않아도, 내가 해고되지 않아도 나의 깊은 부분이 인공지능의 발전에 타격을 입을 수 있다.
- "바둑 역사를 길게는 5000년으로 보거든요. 그 5000년 동안 바둑의 패러다임은 인간이었는데 그게 끝난 거죠. 단순히 포석이 변했다는 수준이 아니라 우리가 바둑을 대하는 방식,바둑의 토양이나 문화 같은 게 송두리째 다 바뀌어 버렸어요. 알파고 이전까지 바둑을 도로 봤던 관점이라든가, 입단 제도라든가,관 문화, 프로기사들의 삶, 아마추어 기사들의 삶 등등 바둑의 전 영역에 걸쳐서 패러다임이 바뀐 거예요."
- 현대 자본주의 사회에서 많은 사람을 자극하는 인센티브는 수익성 강화다. 인공지능은 수익성 강화의 도구로 널리 보급될 것이다. 많은 경우 이것은 대중성 강화를 의미한다(이는 몇몇 분야의 스포츠화를 의미하기도 한다). 대부분의 음악 산업 종사자를 움직이는 것은 경제적 인센티브이며, 그들이 작곡 AI를 이용해 만들어내는 곡은 듣기 좋고 팔리기 좋은 음악들이지, 난해한 무조 음악들이 아닐 것이다. 대부분의 출판 산업 종사자를 움직이는인센티브 역시 마찬가지로 경제적인 것이며, 그들이 문학 AI를 이용해 대량생산할 소설도 전위소설이 아니라 중독성 강한 대중소설일것이다.
그렇다면 인간 소설가들은 짜릿하게 재미있는 소설 창작영역에서 인공지능과 경쟁하는 대신 '훌륭한 소설'의 정의를 바꾸고 반대 방향을 추구하게 되지 않을까? 예술가로서 인정받겠다는 인센티브에 끌린다면 가능한 선택이다. 문학계가 그런 선택을 한다면 이후 '현대소설'은 점점 이해하기 어려운 아방가르드가 대세인 장르가 될 수도 있다. 사실 나는 이것이 현대미술이 상업 일러스트에 대항한 방식이었다고 생각한다.
인공지능 이후 문학계가 어떻게 변할지 나는 잘 모르겠다. 대부분의 예상은 틀릴 확률이 높다는 사실만 안다. 그러나 문학이 인공지능으로 인해 어떤 식으로든 훼손되거나 번질될 수 있다고, 아마 그렇게 될 거라고 예상한다.
빠르게 변화하는 초창기 신기술 앞에서 여러 주체는 서로 다른 단기 인센티브에 따라 즉홍적으로 행동하며, 한번 내린 선택은 다음 선택에 영향을 미친다. 그렇게 여러 선택이 뭉치고 엮인 결과는, 멀리서 조망하면 전혀 합리적으로 보이지 않는다. 그 선택들은 기술 발전과 서로 영향을 주고받으며 단단히 묶여 '기술-환경'을 만든다.
- 당신이 이사회 멤버라면, AI 경영 도우미의 제안을 따르지 않는 인간 최고경영자를 얼마나 믿고 지지하겠는가? 다른 주주들은 어떨까? 직원들은? 인간 최고경영자보다 인공지능을 신뢰하는 이해관계자들이 있다는 사실 자체가 인간 경영인의 의사결정에 영향을 미칠 것이다. 학생들을 더 정직하게 대하게 된 바둑선생님들처럼, 인간 최고경영자는 자신의 결정이 왜 인공지능보다 나은 판단인지 근거를 대야 할 것이다. 자연스럽게 인간 최고경영자의 카리스마는 줄어든다. 그리고 시장에 언제나 '완전 AI 경영'이라는 선택지가 있는 한, 인간 최고경영자의 최고 연봉도 지금처럼 높을 수는 없을 것이다. 최고경영자라는 일자리가 사라지지 않더라도 말이다(경영에서도 의료 분야와 비슷하게, 법적 책임을 지는 존재로서의 인간이 필요하다).
좋은 판결은 좋은 경영보다도 모호한 개념이다. 경영에서의 의사결정은 그나마 이후의 기업 실적과 연관을 지을 수 있지만 판사의 의사결정에 대해서는 그럴 수도 없다. 게다가 어느 나라에서나 재판은 '제도적 잡음'이 심하기로 악명이 높다. 어느 판사를 만나느냐에 따라 형량이나 배상액이 크게 달라진다. 관련 연구는 판사의 판결이 다양한 요인에 영향을 받는다는 사실을 보여준다. 판결은 판사의 개인적 철학에 좌우되기도 하지만 그가 의사결정을 내릴 시점에 배가 고짜는지 아닌지에 따라 달라지기도 한다. 피고인의 성벌이나 인종, 판사의 성벌이나 인종이 모두 판결에 영향을 미치고, 피고인이 판사를 10대 시절에 괴롭혔던 일진과 외모가 닮았다는 점도 영향을 미칠 것이다.
법률과 판례를 딥러닝으로 익힌 AI 판결 도우미가 제안하는 판결이 좋은 판결인지는 아무도 모른다. 그러나 인간 판사의 의사결정이 AI 판결 도우미보다 낫다는 믿음도 없다. 적어도 AI 판결도우미는 '튀는 판결' 없이 안정적일 것 같기는 하다. 정치적으로 민감한 사안에서 정치적으로 편향돼 있다는 평가를 받는 판사가 AI 판결 도우미의 제안과 다른 판결을 내리면 어떤 논란이 벌어질까? 그때 그의 판결문은 얼마나 권위가 있을까?
AI 판결 도우미의 판결이 무난하다는 인식이 법조인 사회 안밖에 퍼지면, 결국 새로운 기준으로서의 역할을 하게 된다. 그러면 인공지능이 자기 제안 내용을 설명하는 게 아니라, 인공지능과 의견이 다른 인간 판사들이 그 이유를 해명해야 할 처지에 몰린다. 판사들은 판결문 초안을 쓸 때 AI 판결 도우미의 제안 내용을 살피고 자기 생각과 비교하게 될 것이다. 감정평가사나 손해사정인도 마찬가지다. 그들도 인공지능의 제안 내용을 의식하게 될 것이며 그 제안을 따르지 않을 경우 결과적으로 불이익을 받게 될 수도 있다. 감사 대상이 된다든가 하는 식으로 말이다.
법원 결정은 속도가 느리고 비용이 많이 들기로도 악명이 높다. 어쩌면 소액 민사소송의 경우 AI 판결 도우미가 주재하는 법원 밖 사설 법정이 생길 수도 있다. 정부의 의도와 관계없이 사법시스템이 민영화되는 것이다.
- 나는 소설을 쓸 때 무엇이 중요한지 안다. 내가 그 일을 하고 있는지 아닌지도 안다. 아무리 옆에서 누군가가 '당신은 중요한 존재'라고 말해도, 내가 소설을 쓸 때 중요한 일을 하고 있지 않다면 나는 소설을 쓸 때 중요한 존재가 아닌 거다.
인류학자 데이비드 그레이버는 2013년 불쉿 직업(bullshit job)'이라는 말을 만들어 냈고, 몇 년 뒤에 그 개념으로 책을 썼다. 그레이버는 현대 사회에는 통째로 사라져도 세상이 조금도 달라지지 않을 직업, 종사자들조차 속으로는 쓸모없는 일이라고 여기는 '불쉿 직업'이 많다고 주장한다. 그냥 많은 정도가 아니라 전체 일자리의 40퍼센트에 육박하며 현대 사회의 몇 가지 구조적 원인 때문에 점점 늘어나는 중이라고 한다.
불쉿 직업은 힘들고 보수와 처우가 형편없어서 인기 없는 일을 가리키지 않는다. 그레이버에 따르면 그것은 '쉿 직업(shit jobs)'인데, 그런 쉿 직업들은 불쉿 직업과 반대로 사회적 가치와 의미가 있으며, 종사자들이 사라지면 사회가 제대로 굴러가지 않는다. 환경미화원이나 건설 현장의 잡부가 대표적 사례다. 반대로 보수와 처우가 괜찮고 노동 강도가 높지 않은데도 의미가 없는 일이라면 불쉿 직업이다. 그레이버는 인사관리 컨설턴트, 커뮤니케이션 코디네이터, 홍보 조사원, 금융 전략가, "불필요한 위원회의 문제를 처리할 직원위원회에 참석하는 것을 일상 업무로 하는 사람들의 일자리"를 그 예로 들었다.
가상의 미래 출판사에서 인간 소설가로 일하며 괜찮은 급여를 받는다면, 나는 그 직업이 불쉿 직업이라고 여길 것이다.
- 그레이버는 불쉿 직업에 종사하는 사람들의 절대다수가 비참함을 느낀다고 주장한다. 그들은 "모호함과 강요된 기능" 때문에, "스스로가 원인이 되지 못하기" 때문에, "감내할 만한 가치가 없는 고통"을 받기 때문에, "자신이 해를 끼치고 있음을 알기" 때문에 비참하다.
이미 19세기에 도스토웹스키가 그레이버에 앞서 같은 관찰을 한 바 있다. 도스토웹스키의 시베리아 유형 체험을 바탕으로 한 중편소설 죽음의 집의 기록에서 화자는 유형수에게 완전히 무의미한 일을 시키는 게 가장 참혹한 형벌이라고 말한다. 벽돌을 만들고 땅을 파고 집을 짓는 일은 목적이 있고 의미가 있기 때문에 그런 일을 시키면 죄수는 고되더라도 거기에 열중할 수 있다.
심지어 죄수는 그 일을 잘하고 싶어 한다. 도스토옙스키는 "감옥의 모든 죄수들은 자연적인 요구와 자기 보존의 감정 때문에 자기의 일과 기능을 가지게 된다"라고, 죄수 중 많은 사람이 "훌륭한 장인이 되어 세상에 나가곤 했다"라고 썼다. 그러나 흙더미를 한 곳에서 다른 곳으로 옮겨 쌓게 하고 다시 원래 장소로 옮기게 하는 것처럼 쓸모없는 일을 시키면 인간은 그 무의미함과 모욕과 수치를 견디지 못한다. 그는 그 일을 왜 해야 하는지 알 수 없으며,
잘해야겠다는 의지도 잃는다.
나는 AI 시대가 공허의 시대가 될지도 모르겠다고 상상한다. 평범한 인간들이 가치를 잃어버리고, 가치로부터 소외되는. 현대인은 종교로부터 멀어지면서 인간 외부에 객관적 가치가 있다는 믿음에서 멀어졌다. 현대 주류 경제학이 노동가치설을 폐기하면서 우리는 어떤 일에 내재적 가치라는 있다는 믿음에서도 멀어졌다. 이제 무신론자와 자유시장주의자가 함께 합의할 수 있는 가치
는 시장 가격인데, 그것은 도덕적 규범이나 사회적 가치와는 상관없는 개념이다. 이제 우리는 가치가 없다고 느끼는 일을 하면서도 적당한 급여를 받을 때, 그 일에 왜 가치가 없다고 느끼는지 잘 설명하지 못한다.
우리가 새로운 가치의 원천을 찾아내지 못하면 인공지능에 기반한 사회는 거대한 '죽음의 집'이 될지도 모른다. 그것은 급여와는 상관없다.
- 우리는 외로움을 견디는 힘, 다른 사람과 건강하게 연결되는 법을 배우고 가르친 뒤에 앞서 말한 통신 기술의 이점을 누릴 수도 있었다. 그러나 현대인은 그러지 않았다. 현대인들은 자신들의 문제가 통신 기술이 느리거나 서비스 범위가 충분치 않아 발생한 것처럼 굴었다. 통신 기술이 자신들의 삶과 사회에 있었던 다양한 가치를 공격할 때에도 그러려니 했다. '모든 기술에는 명과 암이 있으니 통신 기술에도 밝은 면과 어두운 면이 있겠지. 그래도 대차대조표를 작성해 보면 이점이 더클 거야. 안 그러면 이 기술을 개발한 이유가 없잖아.' 상당수 현대인은 그렇게 생각하는 것 같다. 최근 1년간 만난 적 없고 앞으로 1년 동안도 만날 일 없을 수백명의 지인이 적어 보낸 무성의한 문자메시지나 댓글에 무성의하게 대답하면서, 고양이가 웃긴 행동을 하는 영상을 초고화질로 보면서, 정보의 홍수 속에서 무엇이 진실이고 무엇이 거짓인지 헷갈려하면서.
그러는 사이 통신 기술은 외로움을 견디는 바로 그 힘과 다른 사람과 건강하게 연결되는 그 방식 자체를 훼손하고 왜곡한다. 통신기술은 외로움이라는 개념을 변질시켰다. 외로움은 이제 다른 사람들과 함께 있는다고 해서 풀리는 문제가 아니다. 외로움은 이제 탁하고 막연하게 편재 문제다. 그리고 우리는 그윽하고 감미로운 고독을 잃어버렸다.
- 문명이 세속화의 길을 걸으면서 우리는 '좋은 삶'이라는 문제를 개인들에게 맡겼다. 자본주의는 합리적 개인들이 자기 삶에 가장 유용한 재화나 서비스를 각자 알아서 찾을거라고 가정한다. 케인스도 그렇게 생각하는 사람이었다. 그는 귀족적인 사람이었고 인정 투쟁을 할 필요가 없을 정도로 세상의 인정을 받고 있었다. 그는 어릴 때부터 여러 경시대회를 휩쓴 수학천재였고, 케임브리지의 최우수 학생이었고, 자신의 이론이 세계적 반향을 일으키며 한 학문의 모습을 바꾸고 정책 효과가 입중되는 모습을 보았다. 그냥 귀족적인 사람이 아니라 실제로 남작이었고, 주식 투자로 막대한 돈을 벌었으며, 발레리나와 결혼해 행복한 결혼생활을 누렸고, 버지니아 울프, E. M. 포스터와 어울리며
예술과 철학을 논했다. 평범한 사람들의 삶은 몰랐던 케인스는 다른 사람들도 당면한 고민거리를 해결하면 자신처럼, 귀족처럼 여가를 즐기리라 생각했다. 천만의 말씀. 우리네 보통 사람들은 당면한 문제가 해결되면 여가를 즐기는 게 아니라 미래의 위험을 해결하는 데 시간을 쏟는다. 혹은 승진을 하거나 업계의 인정을 받기위해 애쓴다. 식기세척기가 설거지 시간을 줄여주면 그 시간만큼 초과근무를 하거나 외국어 학원에 다닌다.
