회원 로그인
소셜네트워크 서비스를 통해서 로그인하시면 별도의 로그인 절차없이 회원서비스를 이용하실 수 있습니다.

서평

갈수록 비인간화, 비민주화 되어 가는 기술 발전에 대한 경고

크리스찬북뉴스 | 2017.11.21 20:51
갈수록 비인간화, 비민주화 되어 가는 기술 발전에 대한 경고 대량 살상 수학 무기/캐시 오닐/김정혜/흐름 출판/김상일 편집위원

갈수록 비인간화/비민주화 되어 가는 기술 발전에 대한 경고

 

제목부터가 신선하고 궁금증을 불러일으키는 캐시 오닐의 대량 살상 수학 무기는, 수학으로 학..박사를 모두 마치고 학계에서 평생을 보냈을 수도 있었던 전형적인 학자 타입인 저자가, 어느 순간 학자의 길을 버리고 비즈니스와 금융 세계에 뛰어들게 되면서 수학이 어떻게 유용하게, 인류의 유익을 위해서 사용될 수 있을까 고민하던 중, 예상치 않게 맞닥뜨리게 된 가공할 만한 현실을 아주 적나라하게 고발하면서도, 그렇다면 과연 대안이란 무엇일까를 독자들과 함께 고민해보고자 쓴 책입니다. 그 덕에 수학하고는 거리가 먼 저같은 독자들 또한 수학이 우리가 살아가는 현실을 왜곡해서 특정 소수의 이익에 부합하도록 창조해가는 능력이 있다는 사실을 배울 수 있었습니다. 대중들이 알지 못하는 기업을 이끌어가는 소수 CEO들과 전문가들의 세계에서 일어나는 잔인하고 끔찍한 일들을 정직하게 드러낸다는 것이 사실 쉬운 일은 아닙니다. 자칫 잘못하면 그가 속한 집단에서 매장될 수도 있기 때문입니다. 그렇기 때문에 저는 이 서평을 시작하기 전에 우선 저자인 캐시 오닐에게 감사를 표합니다. 오닐(을 비롯해서 기술의 발전이 어떻게 민주주의를 망가뜨리고 사회를 비인간화시켜가고 있는지에 대한 책을 낸 모든 저자들)의 용기와 정직이 아니었다면 이 책에 담긴 얘기들은 모두 묻혀 버렸을 것이고, 자기 유익만을 추구하는 소수의 손에 넘어간 수학은 아무런 반성도 없이 수많은 피해자와 약자들을 낳았을 것이기 때문입니다(사실 지금도 그런 일들이 비일비재하게 일어나고 있다는 것이 오닐의 진단이기도 합니다.).

 

이 책을 처음 접한 모든 분들은 일단 대량 살상 수학 무기라는 말 자체에 흥미를 느끼실 것입니다. 책의 원제목을 한글로 바꾸느라 약간 어색한 느낌이 들기는 하지만, 원제목은 2000년대 초반, 미국의 조지 부시 행정부가 사담 후세인의 이라크를 선제적으로 공격할 근거를 마련하기 위해서 후세인이 이라크 내륙에 대량 살상 무기(WMD: weapons of mass destruction)을 숨겨놓고 있다는 1급 정보가 있다는 사실을 대중에게 알림으로써 이라크 선제 공격의 근거를 마련하게 된 데서 유명해진 용어입니다. 캐시 오닐은 여기에 약간의 언어유희를 가미해서 책에서 자신이 밝혀내고자 하는 내용이 수학이 대량 살상 무기만큼이나 위험한 것일 수 있음을 강조하기 위해서 책의 제목을 WMD, 즉 대량 살상 수학 무기(weapons of math destruction)라고 붙인 것입니다. 책은 그 다루는 내용과 조직상 한가지 이야기만을 하지는 않습니다. 오히려 오닐은 사회 각 분야에서 어떻게 수학이 빅 데이터를 읽어내고 해석하는 알고리즘을 만들어내고, 그 알고리즘이 특정 소수의 이익만을 대변하는 도구가 되는지를 고발합니다. 오닐이 살펴보는 사회 각계에 닿는 WMD의 영향은 교육, 정치, 노동, 금융, 치안, 보험, 광고 등 아주 광범위합니다. 이 서평에서 그 모든 분야를 다 다루는 것은 책을 소개하는 목적에 부합하지도 않고, 자칫하면 너무 길어질 수 있기에 저는 오닐이 말하는 대량 살상 수학 무기의 세가지 특성, 1. 불투명성, 2. 확장성, 3. 피해, 각각을 잘 드러내는 예로 교육, 노동, 그리고 치안 세 분야에 집중해서 서평을 써보도록 하겠습니다. 각각의 특성이 말하는 것이 무엇인지가 교육, 노동, 치안이라는 분야에서 대량 살상 수학 무기가 어떻게 쓰이고 있는지에 대한 오닐의 분석을 따라가다 보면 밝혀지게 될 것입니다. 그 이후에는 책이 가진 잠재적 약점에 대해서 간단히 서술한 후에 책에 대한 전체적인 평과 함께 서평을 마치도록 하겠습니다.

 

불투명한 알고리즘: 교사 평가 모델의 허상

 

대량 살상 수학 무기를 읽으면서 가장 먼저 기억해야 하는 것은, 모든 대량 살상 수학 무기들은 공통적으로 특정한 현실을 읽어내기 위한 모델이라는 것입니다. 특히 대량 살상 수학 무기는 통계와 수학이라는 도구를 가지고 현실을 이해하고 읽어내려는 모델입니다. 하지만 중요한 것은, 상식적으로 생각해도 모델이란 기본적으로 특정한 시각과 관점에서 현실을 설명하기 때문에 편향적일 수밖에 없다는 것입니다. 더군다나 대량 살상 수학 무기의 경우 그 특정한 시각과 관점이 많은 경우 현실을 제대로 읽어낼 만한 객관성을 담보할 수 없는 집단의 것일 경우가 많다는 것입니다. 더욱 심각한 것은, 그렇게 객관성을 담보할 수 없는, 혹은 바꿔 말하면 현실을 충실하게 반영할 생각은 전혀 꿈에도 없으며, 좋게 말하면 그저 누군가의 관심사, 나쁘게 말하면 재정적 이익을 대변할 수 있을 뿐이기만 한 모델들이 현실을 판단하는 잣대가 되며, 더 나아가서 현실을 창조해 가고 있는 세상에서 우리가 살고 있다는 것입니다. 교육 분야에서 이런 면은 극명하게 드러납니다.

 

2007년 워싱턴 DC의 시장으로 부임한 에이드리언 펜티는 부임하자마자 교육 개혁을 천명합니다. 왜냐하면 당시 워싱턴에서 고등학교를 정규 과정 내 졸업하는 학생 비율이 50%를 가까스로 넘겼으며, 8학년의 경우 수학 성적이 학년 기준을 통과하는 학생의 비율이 8%에 불과했기 때문입니다 (17). 교육 당국은 학생들의 교육 성취가 떨어지는 까닭을 교사들 탓으로 (별 근거도 없이!) 돌리면서, 교사들을 평가하기 위해서 평가 모델을 도입하고자 합니다. 그 일환으로 당시 미셸 리 교육감은 임팩트라는 교사 평가 모델을 만들어내고, 그 평가에 따라서 2009-2010년 평가 점수가 하위 2%에 해당하는 교사들을 무더기로 해고하게 됩니다. 그 다음 해에는 하위 5%206명의 교사들이 해고되게 됩니다.

 

여기까지만 보면 그다지 큰 문제는 없어 보입니다. 모든 과정이 공정해 보이고, 당연히 해야 할 일을 한 듯이 보이지요. 그런데 문제는, 임팩트 모델이 교사들을 평가하기 위해서 쓰는 방식이 과연 공정하냐는 데 있습니다. 오닐은 임팩트 모델 때문에 교사 자리에서 밀려난 사람의 실제 이야기를 독자들에게 합니다. 그 교사의 이름은 새러 와이사키이며, 그녀는 워싱턴의 맥팔랜드 중학교에서 가르치고 있었습니다. 문제는 와이사키가 학부모들과 선생님들, 학생들 모두에게 엄청나게 좋은 평가를 받고 있던 교사라는데 있습니다. 하지만 임팩트 평가 모델은 와이사키를 아주 형편없는 교사로 평가했고, 그 결과 와이사키는 쫓겨나고 말았습니다. 어느 쪽의 평가가 공정한 걸까요? 과연 임팩트 모델이 와이사키의 교사로서의 가치를 제대로 평가한 걸까요?

 

그런데 더 심각한 문제는 (그리고 이것이 바로 WMD의 첫번째 특성인 불투명함입니다.) 와이사키 주변 사람들의 평가와 임팩트 평가 모델 사이의 평가가 이렇게 엇갈리게 될 경우에 당연히 합리적으로 취해야 할 다음 수순은, 이렇게 상반되는 평가가 나온 원인이 무엇인지를 찾고, 임팩트 평가 모델이 왜 주변 사람들의 평가를 제대로 교사 평가 모델에 넣지 못했는지를 찾기 위해서 피드백을 취합하는 것일 텐데, 안타깝게도 현재 교육 평가에 관한 알고리즘을 통해서 만들어지는 평가 모델들에는 이렇게 투명하게 모델을 만들어내는 과정이 존재하지 않는다는 것입니다. 오닐의 말을 더 들어보겠습니다.

 

“(임팩트) 평가 시스템이 와이사키와 205명의 교사들에게 실패자라는 꼬리표를 붙이자 워싱턴 교육 당국은 그들을 모두 해고했다. 그런데 이 평가 시스템에는 이 같은 결정이 옳은지에 대해 사후에 학습하는 과정이 있을까? 없다. 시스템이 교사들을 실패자라고 확신하면, 평가는 그것으로 끝이다. 206명의 나쁜교사들은 교직을 떠나야 했다. 오직 성과가 부진한 무능한 교사들을 워싱턴 교육청의 교단에서 끌어내리는 것, 그 사실 하나만이 가치부가 모형(임팩트)의 효과성을 증명하는 것처럼 보였다. 이렇듯 WMD는 진실을 찾는 대신에 스스로 진실을 구현한다”(23).

 

이게 무슨 말일까요? WMD는 외부의 피드백을 받아들이지 않는다는 말입니다. 오직 임팩트 교사 평가 모델의 개발자들만이 평가에 어떤 기준을 썼는지, 또 앞으로는 어떤 기준을 쓸지에 대한 권한을 가지고 있습니다. 와이사키와 같은 교사들은 왜 자신이 주변 사람들의 교사로서의 자신에 대한 평가와 임팩트의 평가가 다른 지에 대해서 의문을 제기합니다. 그런 의문이 받아들여질 공간이 임팩트 모델에 존재하지 않는다는 말입니다. 임팩트 모델뿐만이 아니라 WMD들은 대부분 수학과 컴퓨터에 뛰어난 극소수의 개발자들이 자신들이 생각하기에 합리적이라고 보는 임의적 기준으로 만들어 내는데, 그 기준이 합리적이라는 근거는 어디에도 없습니다. 만약 그렇다면 외부의 피드백을 계속해서 들어야 할 텐데, 그런 피드백을 취합할 여지가 전혀 없는 것이 문제라는 말입니다. 그러므로 임팩트 같은 모델들은 수없이 많은 교사들을 해고하는 근거가 되지만, 그 근거가 무엇인지 정작 해고당한 당사자들이 소통하고자 한다면 전혀 소통이 가능하지 않다는 것입니다. 아주 비민주적이라는 말이죠. 힘과 권력은 오직 임팩트의 개발자들에게 있고, 평가를 당하는 이들은 그냥 아무 말 없이 그러한 평가를 받아들여야만 하는 겁니다. 독재도 이런 독재가 없습니다.

 

무차별적으로 확장하는 괴물: 스타벅스의 클로프닝 (clopening)을 둘러싼 논란

 

대량 살상 수학 무기(WMD)의 두번째 특징은 무작정 확장된다는 것입니다. 사람들에 대한 고려가 전혀 없이 말입니다. 첫번째 WMD의 특성이 비민주적인 것이었다면, 두번째 특성은 비인간적인 것입니다. 사람들에 대한 고려가 전혀 없다는 말은 사람들을 부품 취급한다는 말입니다. 이같은 현상은 특히 경제적 유익을 추구하는 기업의 행태에서 잘 나타납니다. 오닐은 가장 비근한 예로, 최근 미국의 직장인들 사이에 유행하는 클로프닝(clopening)이라는 말에 대해서 언급합니다. 클로프닝은 상점이나 카페의 종업원이 밤늦게까지 일하다가 매장 문을 닫고 퇴근한 다음, 불과 몇 시간 후 새벽동도 트기 전에 다시 출근해서 매장 문을 여는 것을 가리키는 신조어입니다 (208). 왜 클로프닝이 신조어가 될 정도로 미국의 직장 문화에서 일상화가 되어 가고 있는 걸까요?라는 질문이 오닐이 던지는 질문입니다. 그것은 직원들의 일정을 짤 때 기업들이 WMD를 사용해서 그렇게 하기 때문입니다. 단적으로 말하면 말이죠. 일정을 짜는 WMD 모델은 직원들이 인간으로서 최소한의 존엄을 지키는데 관심을 전혀 두지 않습니다. 기계가 사람들의 사정을 봐줄리는 없죠. 그 대신, WMD 모델은 어떻게 해야 최소의 직원들을 가지고 최대의 성과를 낼 수 있을까라는 질문에 답하기 위해서 사람들의 일정을 짭니다. 그리고 거기에는 그렇게 짜여진 일정에 따라서 일해야 하는 사람들이 인간이며, 인간은 기업의 유익을 최우선적인 목적에 두고 돌릴 수 있는 기계가 아니라는 고려가 빠져 있다는 겁니다. 그렇기 때문에 클로프닝처럼 각 직원의 사정을 봐주지 않고 오직 기업의 이윤 추구에 가장 적합한 방식으로 일정을 짜는 것이 가능해진다는 겁니다. 오닐의 얘기를 직접 들어보겠습니다.

 

이같은 업무 방식의 최대 피해자는 스타벅스, 맥도날드, 월마트 같은 기업들에서 일하는 저임금 노동자들이다. 근무 일정 조정에 관한 통보가 적절히 이뤄지지 않기 때문에 이들의 피해는 더욱 커지고 있다. 많은 종업원이 수요일에 야간 근무를 하거나 금요일 혼잡한 시간대에 근무해야 한다는 사실을 겨우 하루 이틀 전에 통보받는다. 이런 일은 노동자들의 삶을 뒤죽박죽 엉키게 만든다. 특히 자녀가 있는 직원의 경우, 양육 문제 때문에 재앙과 같은 혼란에 빠질 수 있다”(209).

 

저 개인적으로 가장 충격적이었던 것은 이런 클로프닝을 통해서 우리 주변의 이웃들이 어떤 피해를 당하고 있는지를 구체적으로 설명하는 부분이었습니다. 오닐은 재닛 나바로라는 고학생 싱글맘의 이야기를 통해서 WMD의 폐해를 풀어냅니다. 나바로는 스타벅스에서 일하면서 대학을 다니고, 4살 짜리 아이를 홀로 키우고 있습니다. 하지만 클로프닝의 도입과 함께 나바로는 스타벅스에서 일하는 것 말고는 아무 것도 할 수 없게 되어버렸습니다. 놀라운 것은 이런 식의 일정이 갈수록 통상화 되어가고 있다는 것입니다. 기업이 이윤을 낼 수만 있다면 말이지요. 다행스럽다고 해야 할까요, 더 안타깝다고 해야 할까요. 오닐은 2014년 뉴욕 타임스가 스타벅스를 비롯한 기업들의 이런 클로프닝 행태를 고발했고, 기업들이 클로프닝을 없애겠다는 약속을 받아냈다고 적고 있습니다. 하지만 “1년 후 뉴욕 타임스는 후속 기사에서 스타벅스가 이런 목표를 달성하지 못했으며, 심지어 클로프닝 관행 조차 없애지 못했다고 고발했다는 얘기를 전합니다(213). 무서운 것은, 단순히 스타벅스 뿐만이 아니라, 그리고 직원들의 일정을 짜는 일 뿐만이 아니라, 우리가 미처 상상하지도 못했던 부분까지, 우리의 관계, 우리의 성향, 우리의 사생활, 우리의 모든 것에 WMD가 그 손을 뻗어서 분석하고 있으며, 우리 중 어느 누구도 그 무차별적인 확산을 완벽하게 막아낼 힘이 있는 사람이 없다는 것입니다. 오닐은 앞으로도 WMD는 더욱 더 확산될 것이며, 확산될 수밖에 없다고 암울한 미래를 말하고 있습니다. 페이스북이나 구글은 우리 각 사람에게 어떻게 광고를 해야 물건을 팔 수 있을지를 목적으로 해서 지금도 불법이 아닌 한도 내에서 우리 각 개인의 정보를 가능한 한 많이 모으고 있습니다. 생각해 보면 너무나 당연합니다. 구글의 인공 지능이 바둑의 세계 고수를 이기는 시대, 무인 자동차가 곧 상용화될 시대, 이런 시대에 기업의 이윤을 위해서 사람의 모든 것을 분석해내고자 하는 WMD가 그 영향력을 끼치지 못할 곳이 없게 될 거라는 건 누구나 어렵지 않게 예상할 수 있습니다.

 

피해의 편향성: 범죄가 된 가난, 그리고 편향적 범죄 예측 모형

 

하지만 이런 WMD의 피해는 확률상 부자나 권력을 가진 사람들 보다는 가난한 이들과 약자들이 더 많이 입게 될 겁니다. 그것이 오닐이 이 책에서 주장하는 주된 논지 중에 하나입니다. 그리고 WMD는 거기에 아주 지대한 역할을 합니다. 왜냐하면 WMD를 만드는데 들어가는 돈은 부자들의 돈이기 쉽고, WMD의 목적은 권력자들에 의해서 정해지기 쉽기 때문입니다.

 

실상 이런 부분이 바로 WMD가 가지고 있는 세번째 문제점입니다. WMD는 효율성만을 고려해서 만들어지는 모델인데, 그 효율성은 항상 누군가의효율성이고, 거기에는 공정함이 빠지게 되기 때문입니다. 오닐은 책 전체를 통해서 이런 면을 계속해서 강조합니다. 공정함, 정의 같은 개념들은 오직 인간만이 이해하고 고민하는 개념들이고, 모든 것들을 정량화시키지 않고는 그 능력을 나타낼 수 없는 WMD가 정의나 공정함을 정량화시키기는 쉽지 않다는 것입니다. 물론 애초에 정의나 공정함에 관심이 없기도 하고요. 앞서 얘기한 일정 관리 WMD에 관해서 이런 약점을 지적하는 오닐의 얘기를 들어보겠습니다.

 

다른 많은 WMD와 마찬가지로 일정 관리 모형이 가진 문제의 근본적인 원인은 개발자들이 선택한 목표에 있다. 일정 관리 모형은 정의 구현이나 모두의 이익이 아니라 효율성과 수익성에 맞춰 최적화된다. 이는 자본주의의 본질이기도 하다. 기업에게 수익은 생명을 유지시켜주는 산소나 마찬가지다. 기업의 입장에서 볼 때 잠재적인 비용 절감 가능성을 거부하는 것은 지극히 어리석고, 부자연스러운 행위다. 그렇기 때문에 사회에는 대항 세력이 필요하다. 효율성의 오남용을 고발하고 기업들을 질책해 옳은 일을 하게 만드는 대항 세력 말이다”(219).

 

정의와 공정성에 대한 고민이 WMD에 전혀 반영되지 않기 때문에, WMD의 편향성은 자연히 부자와 강자들로 향하게 되고, 그들의 관점과 유익이 반영된 WMD가 만들어지게 된다는 것은 지금까지의 논의로 보면 당연한 얘기가 될 겁니다. 오닐은 특히 치안과 안전에 관해서 가난한 자들과 약자들이 심각한 피해를 입고 있음을 고발합니다. (물론 특별히 WMD가 이런 성향을 창조해낸 것은 아닙니다. 사실상 WMD가 존재하기 전에도 가난한 자들과 약자들은 항상 부자와 강자들의 먹잇감이었지요. WMD는 그런 현실을 더욱 강화시켜주며, 가난한 자들과 약자들로 하여금 자신들이 처한 상황에서 더욱 빠져 나오기 어렵게 만든다는 것이 오닐의 논지라고 보는게 더 정확할 겁니다.)

 

오늘날 알고리즘 개발자들은 치안과 관련해서 효과적으로 보이는 모델들을 속속 개발하고 있습니다. 그 중 하나가 필라델피아 서쪽의 레딩이라는 작은 도시의 경찰 당국이 사용하고 있는 프레드폴(PredPol)입니다. 프레드폴은 범죄 예측소프트웨어입니다. 이런 예측 소프트웨어들은 경찰 당국 입장에서 보면 아주 환영할 만합니다. 왜냐하면 범죄가 더 빈번하게 일어나는 지역을 예측해주고, 재정적 한계 때문에 점점 더 부족해지는 경찰력을 효율적으로 배치할 수 있게 도와주기 때문입니다. 하지만 제가 굵은 글씨로 표시해 놓았듯이, WMD와 그와 비슷한 모델들의 치명적인 문제점은 예측소프트웨어라는데 있습니다. 왜 이게 문제일까요. 무엇보다도 예측은 예측 대상을 필요로 합니다. 즉 어떤 범죄를 예측하느냐를 사람이 넣어줘야 한다는 거죠. 그런데 여기서 어떤 범죄가 예측되어야 하냐는 데서 부자들이 짓는 범죄보다는, 가난한 사람들이 짓는 범죄가 예측의 대상으로 넣어진다는 겁니다. 오닐의 말을 들어보시죠.

 

프레드폴은 개인에게 초점을 맞추지 않는다. 대신 지리적 데이터에 온전히 집중한다. 프레드폴이 활용하는 핵심 변인은 각 범죄의 유형과 발생 장소, 그리고 발생 시점이다. 이는 언뜻 보면 아주 공정한 것처럼 생각된다그러나 이런 곳에서 벌어지는 대부분의 범죄는 강도와 차량 절도같은 중대 범죄가 아니다. 바로 여기서 심각한 문제가 발생한다. 프레드폴 시스템을 적용할 때, 경찰들에게 선택권이 주어진다경찰들이 강도, 살인, 강간 같은 중범죄를 예방하기 위해 순찰을 도는 것일지라도, 우범 지대로 분류된 동네에서는 순찰 시간이 길어질 수밖에 없다. 아무리 작은 범죄라도 눈앞에서 벌어진다면 경찰이 어떻게 모른 척 할 수 있겠는가. 만약 순찰을 돌다가 기껏해야 16살로 보이는 미성년자 둘이 술을 마시는 장면을 목격한다면, 그들의 행위를 중단시키는 게 옳다. 그러다 보면 이런 경범죄가 경찰의 범죄 예측 모형에서 점점 더 많은 점을 차지하고, 이는 다시 경찰이 그 지역을 순찰하게 만든다. 이는 바로 유해한 피드백 루프가 활성화되는 전형적인 과정이다. 경찰 활동 자체가 새로운 데이터를 생성시키고, 이런 데이터가 다시 더 많은 경찰 활동을 정당화해준다. 그리고 교도소는 피해자가 없는 범죄(victimless crimes)를 저지른 수많은 범죄자들로 넘쳐나게 된다. 이런 범죄자들은 대부분 가난한 동네 출신이고, 또 대부분 흑인이거나 히스패닉계다”(152).

 

즉 경찰이 순찰을 도는 빈도가 빈번한 지역에서는 아무리 경한 범죄라고 해도 그 범죄들이 모두 프레드폴의 데이타 목록에 저장되게 되고, 이는 또 다시 그 지역을 더욱 우범 지역이 되게 만드는 악순환에 빠지게 만든다는 것입니다. 실상 경한 범죄들, 앞에서 얘기했던 16살짜리 미성년자 둘이 술을 마시는 것 같은 류의 범죄들은 부자들이 거주하는 지역에서도 충분히 자주 일어날 수 있는데, 경찰들은 그런 지역에는 자주 출동하지 않으니까, 실제 범죄가 일어나는 숫자보다 덜한 감시를 받게 된다는 거지요. 적어도 프레드폴 같은 WMD가 기록하는 데이터의 감시망을 벗어나게 됩니다. 다음에 나오는 오닐의 예리한 통찰은 그런 면을 잘 지적합니다.

 

하지만 프레드폴이 예측한 범죄 다발 발생 구역에서 아주 멀리 떨어진 곳에서 일어나는 범죄들은, 다른 말로 부자들이 저지르는 범죄들은 어떨까? 21세기 들어 금융 세상의 왕들은 흥청망청 돈잔치를 벌였다. 그들은 거짓말을 했고, 고객들이 돈을 잃는다는 쪽에 수십억 달러를 배팅했으며, 금융 사기를 저질렀고, 신용평가기관들을 매수했다. 금융 세상에서 일어난 엄청난 범죄들로 인해 세계 경제는 거의 5년간 파탄의 길을 걸었다. 수백만 명의 사람들이 집과 일자리, 건강보험을 잃었다하지만 오늘날의 금융 세계는 업계의 막대한 부와 강력한 로비 활동에 힘입어 경찰의 사각 지대에 있다. 내가 하고 싶은 말은 경찰은 어디에 관심을 기울일지 선택할 수 있다는 것이다. 오늘날 경찰들은 거의 오롯이 가난한 사람들에게 초점을 맞추고 있다데이터 과학자들은 경찰의 편향된 선택을 프레드폴처럼 사람들의 삶에 미치는 영향력이 갈수록 커지는 모형들에 그대로 주입했다”(157-159).

 

불투명함, 확장성, 그리고 피해. 이 세가지는 앞으로도 갈수록 WMD가 끼치게 되는 영향력이 커지면서 더욱 더 다방면으로 넓게, 깊게 우리의 삶에 파고들게 될 확률이 높습니다. 그러면 우리는 무엇을 해야 할까요.

 

희망은 어디에 있는가: 도덕적 상상력과 감시

 

마치 독버섯처럼 퍼지는 WMD의 마력에 맞설 수 있는 유일한 무기는, 오닐에 의하면 대항 세력을 만들어내는 것입니다. 대항 세력들은 알고리즘을 감시하게 될 겁니다. 그리고 알고리즘이 만들어질 때 들어가는 데이터와 기준을 평가하게 될 겁니다. 여기에 필요한 것이 바로 도덕적 상상력입니다. 우리에게는 변화하는 시대 상황에 맞춰서 옳고 그름이란 어떤 것인가를 상황에 맞게 제시할 사람들이 필요합니다. 그러한 도덕적 상상력의 발휘에 대해서, 오닐은 폴 윌모트가 알고리즘 개발자들을 위한 히포크라테스 선서를 작성한 것이 좋은 예가 될 수 있을 것이라고 말합니다. 선서의 일부를 발췌합니다.

나는 내가 세상을 만드는 것이 아니며, 세상이 내 방정식을 따르지 않음을 명심하겠습니다.

나는 내 모형을 사용하는 사람들이 그 정확성에 대해 거짓된 위안을 갖지 않도록 하겠습니다. 대신에 나는 모형에 이용된 가정과 간과된 점들을 밝히겠습니다.

나는 내 일이 사회와 경제에 지대한 영향을 끼칠 수 있음을, 그런 영향의 상당 부분이 나의 이해 수준을 능가하는 것임을 명심하겠습니다.

 

이런 도덕적 상상력의 발휘와 함께, 정부 기관 또한 감시 기관을 만드는데 박차를 가해야 할 것입니다. 오닐은 그런 일이 하루 속히 일어나기를 촉구합니다. 그렇게 감시 기관을 만들고 대항 세력을 키운다고 해도 WMD가 끼치는 악영향을 모두 막아낼 수는 없을 것입니다. WMD의 두번째 속성이 말해주듯이, 계속해서 WMD는 우리의 삶 속에 깊숙이 파고들게 될 것이기 때문입니다. 대항 세력을 만드는 것이 이미 늦었습니다만, 그래도 지금이라도 그렇게 해야 합니다.

 

전체적인 평가와 잠재적 약점

 

전체적으로 오닐의 책은 현실을 고발하기 위해서 쓰여진 책입니다. 그러다보니 알고리즘으로 만들어지는 모델이 끼치는 악영향과 폐해만을 다루고 있습니다. 바로 그런 면이 때로는 이 책의 약점이 될 수도 있는 것 같습니다. 실제로 아마존의 여러 독자들이 오닐의 관점이 공정하지 못할 수도 있음을 지적하고 있었습니다. 한 예로, 오닐이 얘기하는 직원 건강 프로그램 (wellness program)의 경우, 오닐의 지적과는 달리, 사람들에게 도움을 줄 수 있는 면도 있을 거라는 지적이 있었습니다. 물론 모든 이들에게 특정 모델에 맞게 만들어진 프로그램을 강요한다면 거기에는 문제가 있겠지만 말입니다. 또 하나, 오닐의 책이 현실 고발에 초점을 맞춘 책이기 때문에 대안 제시가 약하다는 것도 약점이 될 수 있을 겁니다. 조금 호혜적으로 본다면, WMD의 폐해가 이제서야 밝혀지고 있기 때문에 대안 제시까지 한 사람에게 바라는 것은 조금 무리일 수도 있습니다. 하지만 그럼에도 불구하고, 오닐이 이번 책에서 현실을 고발하는 차원에서 책을 썼다면, 후속작으로는 오닐이 짧게 책의 말미에 언급하는 도덕적 상상력의 발휘가 구체적으로 실제 사례를 통해서 어떻게 나타날 수 있는지에 대해서 좀 더 자세한 언급이 필요한 것이 사실입니다.

 

신학을 공부하는 사람으로서, 저에게 이 책은 큰 도전을 주었습니다. 빠르게 변화하는 현실 앞에서, 신학은 계속해서 상황에 맞는 대안과 대답을 제시할 의무를 가진 학문입니다. 기술 발전이라는 영역에 대해서 신학적인 관점에서 접근하는 전문가가 거의 전무한 현 상황에서, 사람들과 함께 교회를 세우기 위해서, 그리고 WMD의 피해자가 된 사람들과 함께 대항 세력을 만들어 나가기 위해서 나는 어떤 일을 할 수 있을까라는 고민의 시발점을 오닐의 책이 찍어 주었습니다. 오닐의 후속작을 기대하면서, 그리고 앞서 지적한 잠재적 한계를 잘 보완한 후속작을 오닐이 내기를 바라면서 서평을 마칩니다.

 




더 자세히 보기
twitter facebook me2day 요즘
2,646개(1/133페이지)
우리에게 '희망'은 존재하는가? 우리에게 '희망'은 존재하는가?
희망의 신학
위르겐 몰트만(Jürgen Moltmann)/이신건/대한기독교서회/모중현 편집위원


세상이나 현실을 바라볼 때 좌절하게 됩니다. 언제 세상이 옳은 방향, 좋은 방향으로 변화될지에 대한 기대까지 사라지게 만듭니다. 여전히 세상은 잔혹하고, 전쟁은 끊이지 않습니다. 우리의 일상에서도 각자의 이익을 위해 상대방의 사소한 실수는 크게 부각시키며, 자신의 잘못에는 관대합니다.​자본의 노예가 되어버린 사회는 새로운 계급이 형성됩니다. 사회적 제도로 인한 계층 구조는 아니지만, 부자와 가난한 자의 위치는 점점 더 멀어집니다. 가진 자는 현대 사회에서 더 많은 힘을 얻고, 그 힘을 자유롭게 사용합니다. 기울어진 운동장에서 힘없는...
칠십인역에 대한 새로운 이해 칠십인역에 대한 새로운 이해
칠십인역 입문
윌리엄 A. 로스(William A. Ross), 그레고리 R. 래니어(Gregory R. Lanier/이민희/북오븐/모중현 편집위원


목회자들이나 신학생들에게 칠십인역이 그렇게 낯설지는 않습니다. 하지만 칠십인역에 대한 기본적인 이해는 천차만별입니다. 70명의 번역자가 아닌 72명의 유대 학자들이 번역했다는 정도를 알고 있다는 것만으로도 큰 지적 만족을 하고 있을지도 모르겠습니다.실제로 히브리어로 된 구약성경이 그리스어로 번역된 것은 시기와 장소를 특정할 수 없습니다. 칠십인역에 대한 우리의 정보는 『아리스테아스의 편지』의 설명입니다. 프톨레마이오스 2세 필라델포스의 요청으로, 72명의 번역가들이 예루살렘 성전에서 파견되어 프톨레마이오스 궁궐에서 72일만에 과업을...
참 존재와 대면하는 시간 참 존재와 대면하는 시간
인간이란 무엇인가
폴 투르니에(Paul Tournier)/강주헌/포이에마/모중현 편집위원


한 사람을 알아간다는 것은 참으로 힘겨운 과정입니다. 저마다 자신의 참 존재가 무엇인지를 모른 채 상황에 휩쓸려 살아가기 때문입니다. 더하여 변화하는 환경에 맞추어 자신의 모습을 숨기기도 하고, 특정 부분만을 부각시키기도 합니다. 각자 저마다의 가면을 쓴 채 살아갑니다.이러한 삶은 타인과 적절하게 거리를 유지한 채 자신을 보호하기 위한 방법으로는 괜찮은 듯합니다. 문제는 진짜 나 자신이 어떤 존재인지가 불분명해진다는 것입니다. 다양한 역할에 맞추어 자신을 변화시키는 데는 능수능란하지만, 참 존재에 대한 인식은 흐릿해집니다.스위스의 ...
당신은 하나님을 안고 잘 지내는 사람 당신은 하나님을 안고 잘 지내는 사람
당신은 불안을 안고 잘 지내는 사람
헬렌 손/신하영/좋은씨앗/조정의 편집인


제목이 독특하다. <당신은 불안을 안고 잘 지내는 사람>. 원제는 “Hope in an Anxious World”으로, 직역하면 ‘불안한 세상 가운데 소망’ 정도가 될 것이다. 무난한 책 제목을 독특한 제목으로 바꾼 이유는 이 책의 저자인 헬렌 손(한국 발음 ‘손’이 아니라 ‘Thorne, ‘톤’에 가까운 ‘쏜’)이 이 책을 통하여 우리 모두가 불안을 안고 살아간다는 현실을 인정하면서 동시에 그 가운데 우리가 불안을 안고 잘 지낼 수 있다는 것을 성경을 통해 말하고 싶어 했기 때문이다. 다른 말로 하면 저자는 불안을 감쪽...
믿음이 주는 선물, 자유 그리고 순종 믿음이 주는 선물, 자유 그리고 순종
그리스도인의 자유
마르틴 루터/조계광/개혁된실천사/조정의 편집인


칼 트루먼은 마르틴 루터가 쓴 <교회의 바벨론 유수>, <독일 귀족에게 고함>, <그리스도인의 자유>를 종합하면 “종교개혁의 완벽한 선언문이 완성된다”라고 말했다(10p). 각각의 책은 세례와 성찬이 어떻게 말씀과 연관되어 재구성되어야 하는지, 교회와 국가의 관계가 어떻게 새롭게 정립되어야 하는지, 기독교 윤리가 어떻게 바르게 개정되어야 하는지를 다룬다. 트루먼은 <그리스도인의 자유>가 루터의 “신학 체계 안에서 매우 중요한 위치를 차지한다”라고 말했다(11p). 루터가 선행을 어떤 관점으...
열왕기에서 그리스도를 통해 하나님 만나기 열왕기에서 그리스도를 통해 하나님 만나기
열왕기, 그리스도 중심 성경읽기
레이몬드 딜라드/박성호/좋은씨앗/조정의 편집인


레이몬드 딜라드는 WBC 성경 주석 시리즈 중 <역대하>를 집필한 성경학자이고(솔로몬, 2005), 이번에 좋은씨앗에서 출간된 <열왕기, 그리스도 중심 성경 읽기>와 함께 단 두 권의 책이 국내 보급되었다. 출판사는 딜라드에 관하여 “그리스도 중심적으로 성경을 해석하고 가르치는 데 정평이 난 학자로 알려졌다”고 소개했는데, 그의 책을 추천한 사람 중에서 싱클레어 퍼거슨과 D. A. 카슨, 모세스 실바 등 건전하고 성경적인 교리를 가르치는 데 헌신하고 있는 유명한 학자들이 있어서, 다소 생소한 딜라드 역시 신뢰할...
우리에게 주어진 짧은 시간은 영원을 준비하는 절호의 기회다 우리에게 주어진 짧은 시간은 영원을 준비하는 절호의 기회다
시간 관리도 영성이다: 목적과 의미가 충만한 시간을 사는 예수의 원칙
조던 레이너/정성묵/두란노/조정의 편집인


솔직히 시간 관리에 관한 신앙 서적을 많이 읽어보진 않았다. 가장 기억에 남는 책은 케빈 드영의 <미친 듯이 바쁜>(부흥과개혁사, 2013)이다. 생산성을 추구한다는 이유로 삶을 오히려 규모 없게, 목적을 상실한 채 살지 않도록 경고하고, 단순한 목표를 세우고 충성스럽게 살라고(왜 바쁜지, 무엇을 위해 사는지 항상 기억하라고) 권면하는 좋은 책이었다. 2019년에는 팀 챌리스가 쓴 <Do More Better: A Practical Guide to Productivity>를 번역해서 청년들과 함께 읽고 실천해 ...
로마서 강해의 모범 사례 로마서 강해의 모범 사례
로마서 강해1: 로마서 1-2장
김병훈/개혁된실천사/조정의 편집인


나그네 교회 담임목사이자 합동신학대학원대학교 조직신학 교수인 김병훈이 쓴 책 중에서 처음 읽어본 것은 개혁된실천사에서 출간된 <슬픈 인생과 그리스도의 위로>였다(2021). 책 제목만 보고 가졌던 선입견이 금세 무너졌다. 저자는 같은 주제를 다룬 여러 신앙 서적이 그렇듯 몇 구절의 성경 본문을 가볍게 훑고 나서 숯한 예화와 쉴 새 없는 권면으로 독자를 위로하려고 하지 않았다. 주해가 풍성한 책이었다. 그 말은 저자가 성경 본문의 의미를 제대로 연구하고 독자에게 전달하기 위해 애쓴다는 걸 의미한다. 어쩌면 그런 저자의 열심...
개혁은 언제나 진리를 향한 뜨거운 열심을 원료로 한다 개혁은 언제나 진리를 향한 뜨거운 열심을 원료로 한다
종교개혁 신학: 조직신학 관점의 개요
매튜 바렛 외/스데반 황/생명의말씀사/조정의 편집인


'개혁'은 언제나 현재의 문제점을 전제하고, 기독교 개혁은 언제나 현재지향적이기보다 과거의 가르침을 기반으로 미래를 지향한다. 종교개혁은 루터와 칼빈, 루터교회와 개혁주의 교회로 단순하게 정리할 수 없는 역사적 신학적 다양성을 가지고 있다. 그럼에도 종교개혁의 역사와 그 가운데 선포된 종교개혁자들의 통일성 있는 가르침이 많은 사람들의 관심을 받고 계속해서 유익을 끼치는 이유가 있다. 종교개혁은 온건한 모양이든지 급진적인 방식이든지 일반적으로 '오직 성경'의 정신을 갖는다. 사람이 만든 전통과 사람이 세운 권위가 아니라 성경에게 모든...
돈에 대한 균형 감각 익히기 돈에 대한 균형 감각 익히기
돈: 탐욕의 대상에서 사랑의 도구로
손성찬/죠이북스/모중현 편집위원


현대인들에게 있어 '돈'은 매우 중요합니다. 자본주의라는 구조 속에서 돈은 필수적입니다. 없어서는 안되는 도구인 셈이죠. 가장 소중하고 가치 있는 것으로 표현하지는 않더라도, 마음 한구석에 이미 제일 우선적인 것으로 자리 잡고 있는 것이 돈입니다.돈에 대한 많은 책들은 세상의 관점을 따릅니다. 부를 적극적으로 추구해야 한다고 합니다. 평범하고 성실하게 살아서는 부자가 될 수 없다고 강조합니다. 적극적으로 자본을 축적하고, 그것을 통해 돈이 일하게끔 만들어야 한다고 주장합니다. 근로소득에 비해 자본소득이 더욱 중요하다고 말하기까지 합...
마침내, 교회가 되는 길 마침내, 교회가 되는 길
마침내, 교회가 희망이다
박영호/복있는사람/모중현 편집위원


교회는 참으로 독특합니다. 세상이 줄 수 없는 놀라운 위로를 받습니다. 어디에서도 맛볼 수 없는 영광과 위엄을 느낍니다. 우리의 어떠함보다 존재 자체를 받아주고 귀하게 여깁니다. 그 안에서 한없는 평안과 사랑을 누립니다. 함께 울고 웃는 사람들로 인해 진정한 하나 됨을 경험합니다.반면 교회에서 우리는 좌절과 실패, 억울함의 기억도 있습니다. 세상보다 더하다고 생각들 때가 있습니다. 배제와 혐오, 편견과 차별이 만연합니다. 그것이 거룩함이라고 포장됩니다. 그 누구보다도 자신의 과오를 인정하지 않는 사람들이 많아 보입니다. 탐욕으로 눈...
이제야 만나는 예수 그리스도 이제야 만나는 예수 그리스도
따름, 그 회복의 여정
오지영/Ivp/모중현 편집위원


'만남'은 우리 인생을 변화시킵니다. 누구를 만나는지와 그 만남의 깊이와 친밀함의 정도에 따라 변화의 폭을 가늠해 볼 수 있습니다. 인생의 막다른 길에서, 더 이상 나의 방법으로 헤어 나올 수 없을 때, 누군가의 만남이 새로운 전환점이 되었음을 기억합니다.'복음'은 교리의 모음이 아닙니다. 해야 할 것들의 목록도 아니지요. '복된 소식'은 '만남'입니다. 하나님과의 만남이 우리에게 가장 큰 '좋은 소식'입니다. 하나님이 인간 되셔서 친히 우리에게 만나자고 말씀하시며, 손을 내밀어 주시고, 함께해 주시는 것이 바로 '복음'입니다.그 ...
함께 눈물 흘릴 수 있다면.. 함께 눈물 흘릴 수 있다면..
우리의 춤은 변하여 슬픔이 되고
전원희/지우/모중현 편집위원


기쁨과 행복이 강요받는 시대입니다. 힘들어도 기뻐하라 합니다. 어려운 가운데서도 감사하라고 합니다. 눈물을 빨리 닦고 다시 일어서라 합니다. 어쩌면 우리는 충분하게 울어보지도 못한 채, 경쟁의 틈바구니 속으로 재차 들어갑니다. 소리 내어 크게 충분하게 울고 싶었는데 말입니다.우리에게 어쩌면 슬픔에 오롯하게 잠기어 있는 시간이 필요한지도 모르겠습니다. 그러한 시간은 고요하게 하나님과 독대하는 시간이 됩니다. 아픔을 부둥켜안고 오랫동안 울어본 사람만이 타인의 고통에 다다를 수 있습니다. 그들의 눈물에 동참할 수 있습니다.성경에도 기쁘고...
온전함을 위한 발걸음 온전함을 위한 발걸음
역설
파커J.파머(Parker J. Palmer)/김종훈 /템북/모중현 편집위원


세상 한복판에서 살아가지만 세상과 같지 않아야 하는 그리스도인의 삶은 이 자체로 역설입니다. 강렬하게 통합된 삶을 원하지만 우리가 추구하는 이상은 우리의 실제 삶과는 많이 다릅니다. 우리는 현실의 문제 앞에 이리저리 흔들리고 존재의 연약함으로 좌절하곤 합니다.개인적인 모순과 역설로도 벅찬데, 세상으로 나가면 더 큰 혼돈이 있음을 보게 됩니다. 자신이 가장 자신 있어 하는 부분이 때로는 다른 사람에게 가장 큰 걸림돌이 되기도 합니다. 겸손은 나약함으로 보이기도 하고, 진취적인 모습은 교만으로 비치기도 합니다.작가이자 교사, 활동가로서...
예수 그리스도의 여정에 동참하는 일상 예수 그리스도의 여정에 동참하는 일상
고난은 사랑을 남기고
김기현/두란노/모중현 편집위원


해마다 사순절이 되면 예수님의 십자가를 평소보다 더 많이 묵상하게 되는 것 같습니다. 십자가의 의미에 대해 깊이 이해하는 시간을 가지게 됩니다. 시간이 갈수록 십자가가 보다 분명하게 우리의 삶 한가운데로 들어와야 한다고 느껴집니다. 우리 삶에서 십자가가 해석되고 적용돼야 한다는 말입니다.사순절의 기간은 예수님의 십자가와 고난을 마음 깊숙이 새길 수 있는 유익한 절기입니다. 추상적이고 사변적인 이론에서 그치는 것이 아니라 보다 선명하게 우리의 일상과 맞닿을 수 있는 고난과 십자가에 대한 묵상이 우리에게 요구됩니다.말씀 자체의 묵상도 ...
하나님의 말씀을 따르는 삶 하나님의 말씀을 따르는 삶
버텨 줘서 고마워
한미연/세움북스/모중현 편집위원


하나님의 음성을 듣고, 귀신을 쫓아내며, 병을 치유하는 일은 지금도 일어납니다. 공개적으로 추천하지는 않지만, 절체절명의 순간에 내밀하게 하나님과 만나는 시간은 중요합니다. 무엇보다 우선되어야 하는 것은 은사 자체보다 하나님의 말씀에 깨어 있는 열린 마음이겠지요.말씀에 철저하게 순종하는 삶을 사는 사람들을 보면, 때로는 미련하게 보일 수도 있습니다. 적당하게 지혜롭게 살아가도 괜찮을 텐데 말이죠. 하지만 하나님의 부르심은 다양하고, 하나님께서는 각자의 성향과 은사에 맞게 필요한 것들로 채워주십니다. 인내와 순종의 삶에 하나님은 세밀...
그림을 통해 꿈꾸는 세상 그림을 통해 꿈꾸는 세상
교회 옆 미술관
구미정/비아토르/모중현 편집위원


예술에 관심은 많지만, 듣고 보는 것을 잘 이해하고 누리지는 못하는 듯합니다. 중학생 때 예술의 전당에서 열렸던 피카소 작품전이 생각납니다. 처음으로 접하는 그림이 하필 피카소라니요. 뭔가 모를 꿈틀거림이 있었지만, 그것을 표현하기에는 여러모로 어렸습니다.작품을 대할 때는 사전 지식과 더불어 직관적으로 작가의 의도를 파악할 수 있는 능력이 필요합니다. 이 두 가지가 공명할 때 제대로 작품을 알 수 있습니다. 음악이나 미술이 우리에게 말을 건네며, 그것을 통해 우리는 깊은 감동을 경험합니다.특별히 성경 이야기를 그림으로 표현한 '성화...
하늘과 땅을 잇대는 교회 하늘과 땅을 잇대는 교회
우리는 날마다 교회가 무엇인지 묻는다
이재학/샘솟는기쁨/모중현 편집위원


개인적으로 신학의 각론 중에 가장 어려운 부분은 교회론입니다. 왜냐하면 성경에서 말하는 이상적인 교회의 모습과 우리가 경험하는 실제적 교회의 차이 때문입니다. 하나님 나라의 실재로서 교회가 존재해야 하지만 우리가 마주하고 있는 현실은 참으로 슬프고 암담하기까지 합니다.물론 성경에서 나오는 초대 교회도 말도 많고 탈도 많았습니다. 그 갈등을 중재하고 새로운 해법을 모색하고자 바울은 편지를 적었습니다. 바울은 완벽하게 정리된 교리 모음집을 주려고 한 것이 아니라, 그 교회의 어려움과 문제에 대처하고자 그 상황에 가장 걸맞은 처방전을 제...
장벽을 넘으시는 예수님 장벽을 넘으시는 예수님
비트 주세요, 주님
지푸, 최재욱, 이창수/이야기가 있는 집/모중현 편집위원


참 많은 장벽이 존재합니다. 역설적이게도 교회에 더 많은 담이 있는 것 같습니다. 언제부터인가 교회에서 '거룩'이라는 단어는 좀 더 정제되고 점잖은 표현이나 태도를 뜻하게 된 듯합니다. 기존의 문화와 다르면 재빨리 선을 그으며, 세속적이라 비난할 때도 있습니다.그 틈을 메우려 했던 사람들 중에서도 성속의 이분법을 완전하게 넘어서지 못한 사람들이 보입니다. 가령 힙합이라는 도구를 사용하지만, 언어는 부드러워야 하며, 내용은 복음적이어야 한다는 식으로 말입니다. 물론 아직도 힙합이나 랩이라는 도구를 불편해하는 사람도 많은 것 같습니다....
죄인과 소외된 사람들이 환대 받는 교회 죄인과 소외된 사람들이 환대 받는 교회
어쩌다 거룩하게
나디아 볼즈웨버(Nadia Bolz-Weber)/윤종석/바람이불어오는곳/모중현 편집위원


교회에 대해 고민이 많아지는 요즘입니다. 교회는 무엇이며, 어떠한 모습이어야 할까요? 정답은 보이지 않는 듯합니다. 다양한 이론만큼이나, 실재하는 교회는 저마다 다른 모습입니다. 우리는 교회에서 은혜를 누리기도 하지만, 실패와 좌절을 맛보기도 합니다.중요한 요소들이 많이 있겠지만, 교회에 무엇보다 우선되는 것은 죄인을 환대할 수 있는 은혜의 능력일 것입니다. 소외된 이웃, 불편한 사람일지라도 너끈하게 감당하며 포용할 수 있는 모습 말입니다. 하지만 쉽지 않습니다. 교회조차도 깨어진 죄인들의 모임이니까요.결국 죄인이 죄인을 수용하고 ...
위로