목록

Home

책표지

중국에서 시작된 조지 오웰의 빅브라더, 전 세계로 감염될 것인가?

사회적 안전에 대한 니즈가 커지고 그에 따른 기술이 발전하면서 우리는 점점 더 통제받는 세계로 들어서고 있다. 이러한 통제가 국가 차원에서 진행되면 우리는 그것을 빅브라더 사회라고 ..


이전

목록







Big Brother is Alive and Well in China
 
Imagine a world where many of your daily activities are constantly monitored and evaluated: what you buy at the shops and online; where you are at any given time; who your friends are and how you interact with them; how many hours you spend watching content or playing video games; and what bills and taxes you pay or don’t pay. It's not hard to picture, because most of that already happens, thanks to Google, Facebook, Instagram, Fitbit and others. But now imagine a system where all these behaviors are rated as either positive or negative and distilled into a single number, according to rules set by the government. That would create your Citizen Score and it would tell everyone whether you were trustworthy, or not. Plus, your rating would be publicly ranked against that of the entire population and used to determine your eligibility for a mortgage or a job, where your children could go to school, or even your chances of getting a date.
 
Is this a fantasy about of “Big Brother” getting out of control?  No, according to the new book, Who Can You Trust? How Technology Brought Us Together and Why It Might Drive Us Apart by Rachel Botsman, it's already getting underway in China, where the government is developing the Social Credit System (or SCS) to rate the trustworthiness of its 1.3 billion citizens. The Chinese government is pitching the system as a desirable way to measure and enhance "trust" nationwide and to build a culture of "sincerity."  As the policy states, "It will forge a public opinion environment where keeping trust is glorious.  It will strengthen sincerity in government affairs, commercial sincerity, social sincerity and the construction of judicial credibility."


For now, participating in China's Citizen Scores is voluntary. But by 2020 it will be mandatory. The behavior of every single citizen and legal person (which includes every company or other entity) in China will be rated and ranked, whether they like it or not.


Prior to its national roll-out in 2020, the Chinese government is taking a watch-and-learn approach. In this marriage between communist “oversight” and capitalist “can-do,” the government will license eight private companies to come up with systems and algorithms for social credit scores. Predictably, data giants currently run two of the best-known projects.


The first is with China Rapid Finance, a partner of social-network Tencent and developer of the messaging app WeChat with more than 850 million active users.  The other, Sesame Credit, is run by the Ant Financial Services Group, an affiliate company of Alibaba. Ant Financial sells insurance products and provides loans to small- to medium-sized businesses. However, the real star of Ant is AliPay, its payments arm that people use not only to buy things online, but also for restaurants, taxis, school fees, cinema tickets and even to transfer money to each other.


Sesame Credit has also teamed up with other data-generating platforms, such as Didi Chuxing, the ride-hailing company that was Uber's main competitor in China before it acquired the American company's Chinese operations in 2016, and Baihe, the country's largest online matchmaking service. It's not hard to see how that all adds up to gargantuan amounts of big data that Sesame Credit can tap into to assess how people behave and rate them accordingly.


So, just how are people rated? Individuals on Sesame Credit are measured by a score ranging between 350 and 950 points. Alibaba does not divulge the "complex algorithm" it uses to calculate the number, but they do reveal the five factors taken into account. The first is credit history. For example, does the citizen pay their electricity or phone bill on time?  Next is fulfilment capacity, which it defines in its guidelines as "a user's ability to fulfil his/her contract obligations."  The third factor is personal characteristics, verifying personal information such as someone's mobile phone number and address.  But the fourth category, behavior and preference, is where it gets interesting.
 
Under this system, something as innocuous as a person's shopping habits become a measure of character. Alibaba admits it judges people by the types of products they buy. "Someone who plays video games for ten hours a day, for example, would be considered an idle person," says Sesame's Technology Director. "Someone who frequently buys diapers would be considered as probably a parent, who on balance is more likely to have a sense of responsibility." So, the system not only investigates behavior - it shapes it. It "nudges" citizens away from purchases and behaviors the government does not like.


Friends matter, too. The fifth category is interpersonal relationships. What does their choice of online friends and their interactions say about the person being assessed? Sharing what Sesame Credit refers to as "positive energy" online, nice messages about the government or how well the country's economy is doing, will make your score go up.


You can imagine how this might play out when the government's own citizen score system officially launches in 2020. Even though there is no suggestion yet that any of the eight private companies involved in the ongoing pilot scheme will be ultimately responsible for running the government's own system, it's hard to believe that the government will not want to extract the maximum amount of data for its SCS, from the pilots. If that happens, and continues as the new normal under the government's own SCS it will result in private platforms acting essentially as “spy agencies” for the government.


Posting dissenting political opinions or links mentioning Tiananmen Square has never been wise in China, but now it could directly hurt a citizen's rating. But here's the real kicker: a person's own score will also be affected by what their online friends say and do, beyond their own contact with them. If someone they are connected to online posts a negative comment, their own score will also be dragged down.


So why have millions of people already signed up to what amounts to a trial run for a publicly endorsed government surveillance system? There may be darker, unstated reasons - fear of reprisals, for instance, for those who don't put their hand up.  However, there is also a lure, in the form of rewards and "special privileges" for those citizens who prove themselves to be "trustworthy" on Sesame Credit.


If their score reaches 600, they can take out a Just Spend loan of up to 5,000 yuan (around $750) to use to shop online, as long as it's on an Alibaba site. Reach 650 points, and they may rent a car without leaving a deposit. They are also entitled to faster check-in at hotels and use of the VIP check-in at Beijing Capital International Airport. Those with more than 666 points can get a cash loan of up to 50,000 yuan (or $7500), obviously from Ant Financial Services. Get above 700 and they can apply for Singapore travel without supporting documents such as an employee letter. And at 750, they get fast-tracked application to a coveted pan-European Schengen visa.


Higher scores have already become a status symbol, with almost 100,000 people bragging about their scores on Weibo (the Chinese equivalent of Twitter) within months of launch. A citizen's score can even affect their odds of getting a date, or a marriage partner, because the higher their Sesame rating, the more prominent their dating profile is on Baihe.  In a country with an extreme gender imbalance, that’s quite a perk.


Sesame Credit already offers tips to help individuals improve their ranking, including warning about the downsides of friending someone who has a low score. This might lead to the rise of score advisers, who will share tips on how to gain points, or reputation consultants willing to offer expert advice on how to strategically improve a ranking or get off the trust-breaking blacklist.


Indeed, the government's Social Credit System is basically a gamified, big data version of the Communist Party's old surveillance system: dang'an.  Under this system, the regime keeps a dossier on every individual that tracks political and personal transgressions. A citizen's dang'an follows them for life, from schools to jobs.  Under that system, people started reporting on friends and even family members, raising suspicion and lowering social trust in China. The same thing will happen with digital dossiers. People will have an incentive to say to their friends and family, "Don't post that. I don't want you to hurt your score, but I also don't want you to hurt mine."


Currently, Sesame Credit does not directly penalize people for being "untrustworthy" because it's been found more effective to lock people in with treats for good behavior.  But the system is designed so that "untrustworthy people can't rent a car, can't borrow money or even can't find a job."   Sesame Credit has also approached China's Education Bureau about sharing a list of its students who cheated on national examinations, in order to make them pay into the future for their dishonesty.


Notably, penalties are set to change dramatically when the government system becomes mandatory in 2020.  Indeed, on September 25, 2016, the State Council General Office updated its policy entitled "Warning and Punishment Mechanisms for Persons Subject to Enforcement for Trust-Breaking". The overriding principle is simple: "If trust is broken in one place, restrictions are imposed everywhere."


For instance, people with low ratings will have slower internet speeds; restricted access to restaurants, nightclubs or golf courses; and the removal of the right to travel freely abroad with, "restrictive control on consumption within holiday areas or travel businesses."  Scores will influence a person's rental applications, their ability to get insurance or a loan and even social-security benefits. Citizens with low scores will not be hired by certain employers and will be forbidden from obtaining some jobs, including in the civil service, journalism and legal fields, where of course you must be deemed trustworthy. Low-rating citizens will also be restricted when it comes to enrolling themselves or their children in high-paying private schools.  Botsman is not fabricating this list of punishments. It's the new reality Chinese citizens will face.


As the government document states, the social credit system will "allow the trustworthy to roam everywhere under heaven, while making it hard for the discredited to take a single step".


As Botsman observes, “Where these systems really descend into nightmarish territory is that the trust algorithms, as currently designed, are unfairly reductive. They don't take into account context. For instance, one person might miss paying a bill or a fine because they were in hospital; another may simply be a freeloader.  And therein lies the challenge facing all of us in the digital world, and not just the Chinese. If life-determining algorithms are here to stay, we need to figure out how they can embrace the nuances, inconsistencies and contradictions inherent in human beings and how they can reflect real life.”


The government also argues that the system is a way to bring in those people left out of traditional credit systems, such as students and low-income households. Professor Wang Shuqin from the Office of Philosophy and Social Science at Capital Normal University in China recently won the bid to help the government develop the system that she refers to as "China's Social Faithful System". Without such a mechanism, doing business in China is risky, she stresses, as about half of the signed contracts are not kept. "Given the speed of the digital economy it's crucial that people can quickly verify each other's credit worthiness," she says. "The behaviour of the majority is determined by their world of thoughts. A person who believes in socialist core values is behaving more decently." She regards the "moral standards" the system assesses, in addition to financial data, as a bonus.


Given this trend, we offer the following forecasts for your consideration.


First, implementation of the Chinese government's Social Credit System will reinforce China’s trend toward collectivism.
As explained in the November 2017 issue, China is alone in being the world’s only large nation with rising wealth that has seen diminishing individualistic values. That’s largely a function of government efforts to minimize conflicts arising from its increasing wealth gap.  And, once the mandatory Social Credit System is in place, the Communist Party will have a great deal more leverage over individual behavior. This could undermine religious freedom and create a de facto “caste system” based on rankings.


Second, trends in technology, demography, and human behavior will converge in ways that pave the way for “social credit systems” around the world.


The prevalence of electronic transaction processing, social media, location-based services, and surveillance cameras combine with big data and AI to make cost-effective systems available globally.  The growing security risks created by migration into the EU and elsewhere creates a reasonable rationale for 24/7 surveillance.  And the actions of terrorists in places as diverse as Paris, New York and Mumbai, means that most nations will want to monitor social deviancy.  The need to balance stability and freedom will lead to serious policy debates in unexpected places.  And,


Third, the rise of “social credit systems” in places like China will trigger an anti-surveillance backlash in other places. 


The realization of what is possible with current technology will set off alarms among civil liberties advocates around the world.  The result will be compromises that support national security without infringing upon civil rights.  

 
References


1. Wired, 21 October 2017. RACHEL BOTSMAN. Big data meets Big Brother as China moves to rate its citizens.

http://www.wired.co.uk/article/chinese-government-social-credit-score-privacy-invasion


2. Rachel Botsman, October 4, 2017. Who Can You Trust? How Technology Brought Us Together and Why It Might Drive Us Apart(Penguin Portfolio).

https://www.amazon.com/Who-Can-You-Trust-Relationships/dp/1541773675 


3. com. December 2, 2017. Dom Galeon and Brad Bergan.  China’s “Social Credit System” Will Rate How Valuable You Are as a Human.

https://futurism.com/china-social-credit-system-rate-human-value/


4. Nov. 10, 2017. Amulya Shankar. What's your citizen 'trust score'? China moves to rate its 1.3 billion citizens.

https://www.usatoday.com/story/news/world/2017/11/10/whats-your-citizen-trust-score-china-moves-rate-its-1-3-billion-citizens/851365001/


5. Wall Street Journal. Nov. 28, 2016. Josh Chin and Gillian Wong.  China’s New Tool for Social Control: A Credit Rating for Everything.

https://www.wsj.com/articles/chinas-new-tool-for-social-control-a-credit-rating-for-everything-1480351590















사회적 안전에 대한 니즈가 커지고 그에 따른 기술이 발전하면서 우리는 점점 더 통제받는 세계로 들어서고 있다. 이러한 통제가 국가 차원에서 진행되면 우리는 그것을 빅브라더 사회라고 부른다. 하지만 자유 민주주의 국가에서 이것이 가능할까? 중국의 사례를 통해 어떤 일이 벌어지고 있는지 살펴보자.


우리의 일상적인 활동이 끊임없이 모니터링되고 평가되는 세상을 상상해보자. 상점이나 온라인에서 무엇을 구매하는지, 특정한 시간에 어디에 있었는지, 친구는 누구이고 그들과 어떻게 교류하는지, 어떤 콘텐츠를 보고 얼마나 많이 보는지, 비디오나 온라인 게임은 무엇을 하는지, 내는 세금은 얼마이고 무슨 세금인지...


이 정도의 상상은 사실 상상이 아니다. 이미 구글, 페이스북, 인스타그램, 핏빗(Fitbit) 등의 기업 덕분에 이미 우리는 그들에게 우리가 스스로에 대해 모르는 부분까지 파악이 된 상태다. 다만 이러한 것으로 개인의 삶이 크게 불편하거나 불이익을 받거나 정부의 규제를 받지는 않는다.


하지만 정부가 정한 규칙에 따라 이러한 모든 행동들에 대해 긍정적 혹은 부정적 평가가 내려지고 이것이 하나의 숫자나 점수로 분류되는 사회 시스템이라면 어떤가? 이 시스템은 시민에게 점수를 매겨 모든 사람들에게 ‘당신은 믿을 만한 사람’ 혹은 ‘그렇지 않은 사람’이라고 말할 수 있을 것이다. 추가적으로 이 시스템은 개인의 순위를 전체 인구 대비 정할 것이고, 특정 개인이 모기지 대출이나 특정 직업에 적합한지, 그의 자녀를 어느 학교에 보내야 하는지, 심지어 데이트를 즐길 기회를 줄 것인지 등의 결정을 내리는 데 활용할 수 있다면 어떠한가?


누구의 통제도 받지 않는 이러한 ‘빅브라더’는 단지 환상에 불과한 것일까? 그렇지 않다. 레이첼 보츠만(Rachel Botsman)이 쓴 『누구를 믿을 수 있나? ; 기술이 우리를 모으고 흩어지게 하는 방법(Who Can You Trust? How Technology Brought Us Together and Why It Might Drive Us Apart)』에 따르면, 중국에서 이미 이러한 일이 진행 중이다.


중국 정부는 13억 명의 신뢰도를 평가하기 위해 사회신용시스템(Social Credit System, SCS)을 야심차게 개발하고 있다. 중국 정부의 발표에 따르면 이 시스템은 중국 전역의 신뢰를 측정하고 강화하며, 성실 신의의 문화를 구축하기 위한 바람직한 방법으로 추진되는 것이다. 정책 부서는 “이 시스템은 신뢰를 유지하는 것이 영광이라는 여론 환경을 조성할 것이다. 또한 이 시스템은 정부 업무에 대한 신뢰, 상업적 신뢰, 사회적 신뢰, 사법적 신뢰를 구축하고 강화할 것이다”라고 공표했다.


현재 중국은 이러한 점수 부여에 대한 시범 사업에 사람들이 자발적으로 참여하도록 한다. 그러나 2020년에는 의무화될 것이다. 중국내 모든 개인과 법인(모든 회사와 기타 단체 포함)의 행동이 그들이 원하든 그렇지 않든 평가되고 순위가 매겨질 것으로 보인다.


2020년 국가적 선포 이전에, 중국 정부는 보고 배우는(watch-and-learn) 접근 방식을 취하고 있다. 공산주의자의 ‘감독(oversight)’과 자본가의 ‘할 수 있다(can-do)’를 결합시킨 기묘한 혼인 형태로, 중국 정부는 8개의 민간 기업들에게 승인을 내주어 사회신용점수를 위한 시스템과 알고리즘을 개발하도록 할 예정이다. 예상대로, 이미 데이터 대기업들이 가장 잘 알려진 프로젝트 2개를 이미 진행하고 있다.


그 하나는 차이나 래피드 파이낸스(China Rapid Finance)로 소셜 네트워크 텐센트(Tencent)의 파트너다. 텐센트는 10억 개 계정을 돌파한 중국의 메시징 앱 위챗(WeChat)의 개발사다. 또 하나는 세서미 크레딧(Sesame Credit)으로 알리바바 계열사인 안트 파이낸셜 서비스 그룹(Ant Financial Services Group)에서 운영하고 있다. 안트 파이낸셜은 보험 상품을 판매하고 중소 규모의 사업자들에게 대출을 제공한다. 그러나 안트의 진정한 스타는 알리페이(Alipay)로 사람들이 온라인으로 상품을 구매하고, 레스토랑, 택시, 수강료, 영화 티켓에 대한 결제 심지어 서로 간에 송금까지 할 수 있는 결제 수단이다.


세서미 크레딧은 디디추싱(Didi Chuxing)과 같은 또 다른 데이터 플랫폼들과도 팀을 이뤘다. 디디추싱은 라이드 해일링(ride-hailing) 기업으로 그들이 2016년 우버의 중국 법인을 인수하기 전까지, 중국내에서 우버의 주요 경쟁사였다. 이들은 중국에서 가장 큰 온라인 결혼중매 서비스 바이허(Baihe)도 인수했다. 그러한 모든 것들이 결국 엄청난 양의 빅데이터가 되는 방식을 알아내기란 어렵지 않다. 세서미 크레딧은 사람들이 어떻게 행동하는지를 평가하여 그에 따라 등급을 매길 수 있는 이 엄청난 빅데이터를 이용할 수 있다.


그렇다면, 사람들은 어떻게 등급으로 나뉘는 것일까? 세서미 크레딧에 있어 개인들은 350∼950점 사이에서 점수로 매겨진다. 알리바바는 그 숫자를 계산할 때 사용하는 ‘복잡한 알고리즘’을 누설하지는 않지만 5가지 여건이 계산에 투입된다고 밝힌 바 있다.


첫 번째는 신용 기록이다. 예를 들어, 그 사람이 전기 또는 전화 요금을 제때 내는가? 두 번째는 이행 능력이다. 그들의 가이드라인에 따르면 이것은 사용자의 계약 의무 이행 능력으로 정의된다. 세 번째는 개인적 특성으로 누군가의 핸드폰 번호, 주소와 같은 개인 정보를 확인한다.

네 번째는 행동과 선호도인데 이 부분은 매우 흥미롭다. 이 시스템에서는 사람의 쇼핑 습관만큼 무해한 것이 특성의 척도가 된다. 알리바바는 구입하는 제품의 유형에 의해 사람들을 평가하도록 했다. 예를 들어, “하루에 10시간 동안 비디오 게임을 하는 이는 나태한 인간으로 간주된다”. 이것은 거짓이 아니며, 세서미의 기술 책임자가 한 발언이다. “기저귀를 자주 구입하는 사람은 아마도 부모로 간주될 것이고, 모든 것을 감안할 때 그들은 좀 더 책임감을 가질 것 같다.” 따라서 이 시스템은 행동을 단순히 조사하는 것에 그치지 않는다. 행동으로 다른 평가를 내리는 것이다. 또한 정부가 원하지 않는 구매나 행위에서 사람들이 멀어지도록 넛지 방식의 조치를 취한다.


친구도 중요하다. 다섯 번째는 대인 관계다. 온라인 친구들에 대한 선택, 그리고 그들과의 상호작용은 평가받는 개인에 대해 무엇을 말해주는가? 세서미 크레딧이 온라인상 ‘긍정적 에너지(positive energy)’로 언급하는 것들, 즉 국가에 대한 좋은 메시지, 혹은 중국 경제가 얼마나 잘 되고 있는지에 대한 것들을 공유하면 점수가 올라가게 된다.


이러한 중국 정부 자체의 점수 시스템이 2020년에 공식적으로 런칭되면, 이것이 어떻게 운용될 것인지는 쉽게 상상할 수 있다. 현재 진행 중에 있는 시범 계획에 참여하고 있는 8개의 민간 기업들 중 누군가가 최종적으로 이러한 정부 자체 시스템을 가동하는 책임을 질 것인가? 아직까지 어떤 기미도 보이지 않는다. 다만 중국 정부가 그들의 사회신용시스템에 필요한 막대한 양의 빅데이터를 현재의 시범 서비스에서 빼내지 않을 것이라고 믿기는 어렵다. 만약 이런 일이 일어나고 정부의 사회신용시스템 하에서 이것이 새로운 법령으로서 계속 지속된다면, 사설 플랫폼이 본질적으로는 정부를 위해 봉사하는 스파이 기관처럼 행동하는 결과로 나타날 것이다.


정부의 의견이나 방침에 반대하는 포스팅 혹은 천안문 사태를 언급하는 링크는 중국 내에서는 결코 현명한 행동이 아니다. 그러나 이제는 더 심각해져서, 그러한 행동이 곧바로 점수로 직결된다. 그러나 진짜 놀랄만한 것은 이게 아니다. 한 개인의 점수가 그가 온라인 친구들과 접촉하는 것과 상관없이 그 친구들이 말하고 행동하는 바에 위해서도 영향을 받게 된다는 것이다. 즉, 그가 온라인 관계를 맺고 있는 친구들 중 누군가가 온라인 게시물에 부정적 의견을 달면, 그의 점수도 함께 떨어지게 된다.


그렇다면 결과적으로 공적으로 승인된 정부 감시 시스템의 시범 운영임이 분명한데 왜 수백 만 명의 사람들이 이에 서명하고 참여하게 된 것일까? 여기에는 더 어둡고 언급되지 않은 이유가 있다. 예를 들어, 손을 들어 지지하지 않은 사람들에 대한 보복의 두려움이 그중 하나다. 더불어 당근도 제공한다. 세서미 크레딧에서 ‘신뢰할 수 있음’으로 판명된 사람들에게는 보상과 특혜를 제공한다.


점수가 600점에 도달하면 알리바바 사이트에서 쇼핑에 사용할 수 있는 최대 5천 위안(약 750달러)의 저스트 스펜드 론(Just Spend loan)을 신청할 수 있다. 650점에 도달하면, 통장에 잔고가 없어도 차를 렌트할 수 있다. 또한 각종 호텔에서 더 빠른 예약을 할 수 있고, 베이징 캐피탈 국제 공항(Beijing Capital International Airport)에서 VIP 체크인을 이용할 수 있다.


666점을 넘어서는 사람들은 안트 파이낸스 서비스로부터 최대 5만 위안(약 7,500달러)의 현금 서비스를 받을 수 있고, 700점 이상은 재직증명서와 같은 구비 서류없이 싱가포르 여행을 신청할 수 있다. 750점에 이르면, 그 유명한 범유럽 쉔겐비자(Schengen visa) 신청에 보다 빠르게 접근할 수 있다.


더 높은 점수는 중국에서 이미 사회적 지위에 대한 상징이 되었다. 트위터와 같은 중국내 소셜 서비스인 웨이보(Weibo)에는 세서미 크레딧이 이 점수 서비스를 개시한 후 수개월 만에 높은 점수를 얻어 자랑하는 사람들만 약 10만 명에 이른다. 세서미 크레딧 등급이 높을수록 결혼중매 사이트 바이허에서 데이트 프로필이 더 유명해지기 때문에 이러한 점수는 데이트 또는 결혼 상대를 얻는 데에 영향을 미칠 수 있다. 극단적인 성비 불균형을 겪고 있는 중국에서, 이것은 굉장한 특혜라고 할 수 있다.


세서미 크레딧은 점수가 낮은 사람과 친구를 맺으면 점수가 하락한다는 경고를 포함하여 등급을 높이는 방법을 이미 제공하고 있다. 이로 인해 점수 획득 방법에 대한 정보를 공유할 스코어 조언자나 전략적으로 등급을 높이는 방법에 관해 혹은 신뢰가 없는 블랙리스트에서 벗어날 수 있도록 전문적 조언을 제공할 수 있는 컨설턴트가 등장할 수도 있다.


사실, 중국 정부의 사회신용시스템은 기본적으로 공산당의 오래된 감시시스템인 당안(?案, dang’an)의 디지털 빅데이터 버전이다. 중국에서 모든 성인은 자신의 개인 당안을 갖고 있으며, 이 당안이 평생 동안 족쇄처럼 따라 다닌다. 이 당안에는 개인의 핵심 경력, 정치적 입장과 성향, 도덕성 등 개인에 대한 주요 정보가 적혀 있다. 이 당안 시스템 하에서 사람들은 친구와 심지어 가족에 관해서도 보고한다. 당안으로 인해 중국내 사회는 의심이 만연하고 사회적 신뢰는 떨어졌다.


하지만 똑같은 일이 디지털 문서에서도 일어날 것이다. 사람들은 친구와 가족들에게 ‘포스팅을 하지 말 것’ 등 점수를 잃는 행동에 대한 제약을 서로에게 가할 수 있다. 궁극적으로 말과 행동에 족쇄가 걸리는 것이다.


현재 세서미 크레딧은 긍정적 행위자에 대한 대우로 사람들을 유도하는 것이 더 효과적이라는 점을 파악했기 때문에, ‘신뢰할 수 없는’ 사람들에게 직접적으로 패널티를 부과하진 않는다. 그러나 이 시스템은 신뢰할 수 없는 사람들은 차를 렌트할 수도, 돈을 빌릴 수도, 심지어 일자리를 찾을 수도 없도록 설계되었다.


주목할 만한 것은 2020년에 정부 제도가 의무화되면, 처벌 조항에 극적인 변화가 예고된다는 점이다. 실제로, 2016년 9월 25일, 중국의 국무원(國務院, the State Council General Office, 전국인민대표대의 집행기관이자 최고 국가행정기관)은 신용상실에 따른 집행 대상자에 대한 경고 및 처벌에 관한 정책을 새로 개정했다. 가장 중요한 원칙은 간단하다. 한 부분에서 신용이 손상되는 경우, 모든 부분에 제약을 가한다는 것이다.


예를 들어 등급이 낮은 사람들에게는 인터넷 속도가 느려지고, 레스토랑, 나이트클럽 또는 골프 코스에 대한 제한된 접근, 자유롭게 해외 여행을 할 수 있는 권리의 소멸, 휴가 지역 내 혹은 비즈니스 출장 중 지출 제한 등이 있다. 이외에도 점수는 임대 신청, 보험 또는 대출 능력 제한, 심지어 사회보장혜택에도 영향을 줄 수 있다. 점수가 낮은 사람들은 특정 기업에서는 채용하지 않으며, 공무직, 저널리즘, 법률 분야를 포함하여 일부 직업에 대한 접근이 금지될 수 있다. 이러한 특수 분야에 진출하려면 신용이 높아야 한다. 신용이 낮은 사람들은 고액 사립 학교에 자신이 입학하거나 자녀들이 입학하는 것에도 제약이 따를 수 있다.


레이첼 보츠만은 비단 중국뿐만 아니라 디지털 세상에서 일어날 수 있는 사회 시스템의 문제점을 지적한다. 또한 보츠만은 특정한 처벌 규정이나 목록을 기술하진 않았지만, 이러한 일은 충분히 일어날 수 있다. 중국의 정부 문서에 언급된 것을 보자.


“사회신용시스템은 신뢰할 수 있는 사람들이 하늘 아래 곳곳을 자유롭게 돌아다닐 수 있게 하고, 그렇지 않은 사람들은 단 할 걸음도 내딛는 것을 어렵게 만드는 것이다.”


보츠만은 자신이 통찰한 바를 이렇게 말한다.


“이러한 시스템들이 실제로 악몽같은 이유는 현재 설계된 대로의 신뢰 알고리즘이 불공정하게 환원된다는 데 있다. 이들은 문맥을 고려하지 않는다. 예를 들어 병원에 입원 중이었기 때문에, 청구서나 벌금을 내는 것을 지나쳤을 수 있다. 또 다른 사람은 그냥 단순한 프리로더일 수도 있다. 이것은 중국만의 일이 아니다. 오늘날 디지털 세계에는 우리 모두가 직면하고 있는 도전과제가 놓여 있다. 인생을 결정하는 알고리즘이 이곳에 모두 있다면, 우리는 그 알고리즘들이 인간 본연 내에 존재하는 각종 뉘앙스, 불일치, 모순을 그들이 어떻게 받아들이고 실제 삶에 어떻게 반영하는지를 알아야 할 필요가 있다.”


중국 정부는 이 사회신용시스템이 학생들이나 저소득 가구와 같은 전통적인 신용 시스템에서 벗어난 사람들을 끌어들이는 방법이라고 주장한다. 지식인도 이러한 주장에 참여하기도 한다. 최근 중국 베이징에 위치한 서우두사범대학(Capital Normal University)의 철학 및 사회과학부 왕 슈퀸(Wang Shuqin) 교수는 중국 정부가 이러한 시스템을 개발하는 데 도움을 주는데 참여하게 됐다고 밝혔다. 왕 교수는 이 시스템을 ‘중국의 사회적 신뢰 시스템’으로 언급했다.


왕 교수는 이러한 시스템이 없다면, 서면 계약서의 절반이 보관되지 않는 중국에서 사업을 하기란 위험하다고 강조했다. 왕 교수는 “디지털 경제의 속도를 고려할 때, 사람들은 서로의 신용 가치를 신속하게 검증할 수 있어야 한다”고 말한다.


중국에서 일어나고 있는 빅브라더 사회의 출현은 앞으로 어떻게 될 것인가? 우리는 기술과 발전 속도, 인구통계를 통해 다음과 같이 예측해본다.


첫째, 중국 정부의 사회신용시스템이 실행되면 중국의 집단주의 트렌드는 더욱 강화될 것이다.


중국은 전체적인 국가의 부는 증가하지만 일반적인 개인의 가치는 점차 하락하는 유일한 국가이다. 사회신용시스템은 이러한 부의 편중과 격차로 인한 갈등을 최소화하기 위한 기능이다. 우선 의무적인 사회신용시스템이 갖추어지면, 중국 공산당은 개인의 행동에 큰 영향력을 끼칠 수 있다. 그것이 종교의 자유를 억압하는 것이든, 실질적인 계급 사회를 만드는 것이든 그 결과는 긍정적이진 않을 것이다.

둘째, 기술, 인구통계, 인간행위에 대한 전 세계적 트렌드는 전 세계 곳곳에 중국처럼 각각의 사회신용시스템을 구축하는 길을 닦는 방향으로 움직일 것이다.


전자거래 처리, 소셜 미디어, 위치기반 서비스, 감시 카메라의 파급이 빅데이터, 인공지능과 결합하면서 전 세계적으로 비용 효율적 시스템이 가능해지고 있다. 이민자들의 증가로 인한 문화적 종교적 갈등을 비롯한 각종 사회 안전 니즈는 24시간 감시 시스템의 출현을 정당화하고 있다. 더불어 파리, 뉴욕, 뭄바이 등 세계 곳곳에서 일어나는 테러 양상 또한 대부분의 국가들에게 사회적 일탈을 감시하도록 부추기고 있다. 안전과 자유의 균형 요구는 앞으로 모든 국가에서 중요한 사회적 논의의 대상이 될 것이다.


셋째, 중국과 같은 국가에서의 사회신용시스템의 부상이 그 밖의 다른 지역에서는 반감의 형태로 등장할 것이다.


중국은 현대의 기술로 가능한 모든 것을 실현할 수 있는 국가다. 그리고 이를 실제로 실현하려고 한다. 그러나 시민의 자유를 옹호하는 이들에게 중국의 모습은 완벽한 반면교사의 모습이 될 것이다. 이에 따라 긍정적 목표를 위해 설계되는 시스템이라도 언제든 반대의 목소리에 직면할 수 있다.


* *


References List :
1. Wired, 21 October 2017. RACHEL BOTSMAN. Big data meets Big Brother as China moves to rate its citizens.
http://www.wired.co.uk/article/chinese-government-social-credit-score-privacy-invasion


2. Rachel Botsman, October 4, 2017. Who Can You Trust? How Technology Brought Us Together and Why It Might Drive Us Apart(Penguin Portfolio). 
https://www.amazon.com/Who-Can-You-Trust-Relationships/dp/1541773675


3. com. December 2, 2017. Dom Galeon and Brad Bergan.  China’s “Social Credit System” Will Rate How Valuable You Are as a Human
https://futurism.com/china-social-credit-system-rate-human-value/


4. Nov. 10, 2017. Amulya Shankar. What's your citizen 'trust score'? China moves to rate its 1.3 billion citizens 
https://www.usatoday.com/story/news/world/2017/11/10/whats-your-citizen-trust-score-china-moves-rate-its-1-3-billion-citizens/851365001/


5. Wall Street Journal. Nov. 28, 2016. Josh Chin and Gillian Wong.  China’s New Tool for Social Control: A Credit Rating for Everything 
https://www.wsj.com/articles/chinas-new-tool-for-social-control-a-credit-rating-for-everything-1480351590




이전

목록