The government gives you a score, and the score is a measure of how trustworthy you are as a citizen.

政府は点数をつけてくれますが、点数は国民としての信頼度を測るものです。

And determines what you are allowed to do, like ever.

そして、これまでのように、何をしても許されるかを決定する。

Boarding a train, getting a mortgage, all goes back to this score.

電車に乗ること、住宅ローンを組むこと、すべてがこのスコアに戻ってくる。

It's called social credit, it sounds like that show 'Black Mirror', but it's actually happening in China.

これはソーシャルクレジットと呼ばれていて、「ブラックミラー」という番組のように聞こえますが、実際には中国で起こっています。

So how does that change you? Does it change you?

それであなたはどう変わるの？変わるのか？

What does your life look like when your every move is watched?

一挙手一投足を見られた時、あなたの人生はどのように見えますか？

The system's eyes are in Big Data artificial intelligence, and roughly 200 millions surveillance cameras.

システムの目はビッグデータ人工知能とざっと2億台の監視カメラにあります。

And that's totally fine with Ou Yang Hao-Yiu.

そして、それは全く問題ないのがオウ・ヤン・ハオイユです。

She's 21, graduated from a good school with solid grades.

彼女は21歳で、良い学校を卒業していて、成績もしっかりしています。

She's diligent, she is nice.

彼女は勤勉だし、いい人だ。

No surprise, she is a 752.

当たり前ですが、彼女は七五二です。

That's her rating with a private company working with the government on the algorithms with the social credit system.

社会的信用システムのアルゴリズムを政府と一緒にやっている民間企業の彼女の評価だ。

The scores go from 350 to 950 and are based on habits and behavior.

点数は３５０点から９５０点になり、習慣や行動に基づいています。

Buy clothes or diapers, it's good; a lot of alcohol, too many video games, not so good.

洋服やオムツを買う、それは良いことです；お酒が多い、テレビゲームが多すぎる、あまり良くない。

Hao-Yiu's 752, put her a model citizen range and get her discounts and privileges, like using a share bike without a deposit.

ハオユウの七五二、モデル市民の範囲に入れて、保証金なしでシェアバイクを利用するような割引や特典を受けよう。

She likes it, her friends do too.

彼女はそれが好きで、彼女の友人もそれが好きです。

They all have pretty high scores.

みんなかなりの高得点を出しています。

It's a mechanism like pushes you to become a better citizen, to build on a trust, especially on the Chinese market.

特に中国市場での信頼関係を築くために、より良い市民になるための後押しをするような仕組みです。

You are not going to be punished if you haven't done anything wrong.

何も悪いことをしていないのに罰を受けることはありません。

I think that's the point, I think the system working as a warning or an alert to push people to be a good person.

そこがポイントだと思うんですよね、人を追い込むための警告やアラートとして機能しているのではないでしょうか。

And it's mandatory, when it goes national, social credit scores will be assigned to everyone of China's citizens for life.

そしてそれが義務化され、それが国家的なものになると、社会的信用スコアが中国国民全員に生涯にわたって割り当てられることになるのです。

And what's weird, it's that so many people seem okay with it.

不思議なのは、多くの人がそれでいいと思っていることだ。

It's complicated but China went from extreme poverty to economic giant pretty quickly, credit history system didn't grow at the same pace.

ややこしいけど、中国は極貧から経済大国になるのがかなり早くて、信用履歴のシステムも同じペースでは成長しなかった。

So people would default on loans and get away with it.

だから人はローンをデフォルトさせて逃げてしまう。

Adding scandals around fake food, tainted baby milk, counterfeit goods and what you've got is a big problem with trust.

偽物の食べ物、汚染された赤ちゃんのミルク、偽物の商品をめぐる不祥事を加えることは、信用に大きな問題があります。

So in 2014, the communist party called for a system to allow the trustworthy to roam everywhere under heaven;

そこで、2014年に共産党は、信頼できる者が天下をくまなく徘徊できるようなシステムを求めた。

while making it hard for the discredited to take a single step.

不信感を一歩踏み出せないようにしながらも

The model is a place called Rencheng, it's in Shandong Province.

モデルは山東省の連城という場所です。

It's orderly, streets are spotless and cars slow down which is unheard of in China

整然としていて、道はきれいで、車は中国では前代未聞のスピードを落としています。

Words like 'honesty' and 'credibility' appear on propaganda posters.

プロパガンダのポスターには「正直」や「信頼性」などの言葉が出てきます。

Display cases show pictures of Rencheng's most honored citizens.

展示ケースには、蓮城の最も栄誉ある市民の写真が展示されています。

You start with a thousand points, and you can print out your report anytime.

千点から始めて、いつでもレポートをプリントアウトできます。

You lose points for things like jaywalking, littering, tossing cigarette butts or spreading rumors.

信号無視、ポイ捨て、タバコの吸殻の投げ捨て、噂を広めるなどの行為はポイントを失います。

Cameras do a lot of the surveillance work but it's pretty analogue too.

監視の仕事はカメラが多いけど、それもかなりアナログなんだよね。

Like posters that list the way you can gain or lost points.

ポイントの獲得・消失方法を列挙したポスターのように

And each night, local TV shows the surveillance highlights of the day.

そして、毎晩、地元のテレビでは、その日の監視カメラのハイライトが映し出されます。

And then there is Jiu Ai-Ni, she's an information collector, a paid enforcer who walks around and writes down deeds about her neighbors.

ジウ・アイニは情報収集家で、お金を払って近所の人の行動を書き留めています。

Like the man who carried the drunk person home, things like this are good deeds, she said.

酔っ払いを家まで運んだ男のように、こういうことは善行だと彼女は言っていた。

But the farmer overheard swearing and being rude, yeah, bad deeds.

しかし、農夫は悪態をついたり、失礼なことを言っているのを小耳に挟んでいました。

Her quota is 10 a month.

彼女のノルマは月10回。

She likes the work, thinks the city is better for it

彼女は仕事が好きで、街の方がいいと思っている。

The thing about the social credit system is that there isn't one single system, not yet.

社会的信用制度については、一つの制度がないのが現状です。

Different places have different rules.

場所によってルールが違う

What do you do if you have bad social credit?

社会的信用が悪いとどうするの？

Well for one, you talk about it on weibo which is like twitter.

まあ、一つにはtwitterのような微博で話題にしていますね。

There are forums for discredited people to vent and get advice.

不信感を晴らすためのフォーラムがあり、アドバイスを得ることができます。

In Chongqing, we hooked up with Huang Wei-Jun.

重慶では、黄偉順さんとの出会いがありました。

He had a business until he was sued by a client and Huang refused to pay 90 grand to settle it.

彼は依頼人に訴えられるまで仕事をしていたが、黄氏は和解のために9万ドルを支払うことを拒否した。

So the court put him on a social credit blacklist, and things got way worse.

それで裁判所は彼を社会的信用のブラックリストに載せて事態は悪化した

He explains that being blacklisted means he can't buy airplane or train tickets.

ブラックリストに載っているということは、飛行機や電車のチケットが買えないということだと説明しています。

When he tries, a message pops up saying he's discredited.

彼がやろうとすると、メッセージが表示されて、彼は信用されていないと言っています。

By the end of last year, blacklisted people were blocked from booking 22 million flights and 5 million high-speed train trips, and the list goes on.

昨年末までに、ブラックリストに登録された人たちは、2200万便の航空券と500万回の高速鉄道の旅の予約がブロックされ、リストは続いています。

Being discredited makes it hard to get a job, a loan, a hotel room or put kids in certain schools.

信用を失墜させると、仕事やローン、ホテルの部屋、特定の学校に子供を入れることが難しくなります。

Then, there's the public shaming, photo galleries of blacklisted citizens;

あとは国民の恥、ブラックリストに載った市民のフォトギャラリーだな。

there's even an app that shows who around you is in debt.

周りの人が誰に借金をしているのかがわかるアプリまであります。

In China, being monitored is nothing new but algorithmic surveillance makes it possible to collect data to build detailed profiles of people.

中国では、監視されていることは何も新しいことではありませんが、アルゴリズムによる監視は、データを収集して人々の詳細なプロファイルを構築することを可能にしています。

Especially the ones not loyal to the government.

特に政府に忠誠を誓っていないものは。

Of all the videos surveillance cameras on the planet right now, nearly half of them are in China.

今地球上にある全てのビデオ監視カメラのうち、半分近くが中国にある。

Are people bothered by privacy concerns?

プライバシーの問題で悩んでいる人はいないのでしょうか？

So we think a lot of cameras keep the safety, it's really good.

だから多くのカメラが安全性を保っていると思いますが、それは本当に良いことです。

They're good things, and lots of people, we can accept it.

いいものだし、たくさんの人がいるから、受け入れられる。

And cameras are getting smarter, so the information that comes out for my image, identifies that I'm female, middle-age, talks about whether wearing glasses, shape of my face.

カメラも賢くなってきているので、私の画像に出てくる情報は、私が女性であること、中年であること、眼鏡をかけているかどうか、顔の形についての話をしてくれます。

AI is taking them next level, they can do more than just see, they actually understand who they are seeing.

AIは彼らを次のレベルに連れて行っている、彼らは見るだけではなく、彼らが見ている人を実際に理解している以上のことをすることができます。

So at what point can the technology go too much? Does it already?

では、どの時点で技術が行き過ぎてしまうのでしょうか？すでにそうなっているのでしょうか？

People don't care about it, but if the technology alerts too much, for example cross the red line, that's not very good.

人は気にしませんが、技術が過剰にアラートを出すと、例えば赤線を越えるとか、それはあまり良くないですよね。

How far off are we from needing to draw those red lines?

その赤い線を引く必要性からどれだけ離れているのでしょうか？

It's very hard to say, I think maybe in that case, maybe 10 years or 20 years, 15 years maybe.

非常に難しいことですが、その場合、もしかしたら10年とか20年とか15年とかになるのではないかと思います。

That's not very long, it's coming.

長くはないな、来るぞ。

It's coming. It's coming.

来たぞ来るわよ

Where does it all go?

どこに行くの？

HaoYiu isn't so bothered, her score is high, life is good and she's used to living most of it online.

HaoYiuはそれほど気にしていません、彼女のスコアは高く、生活は良好で、彼女はオンラインでの生活に慣れています。

Soon, her education and medical records and any run-ins with the law will factor into her social credit score.

すぐに、彼女の教育や医療記録、法律との衝突は、彼女の社会的信用スコアに影響を与える。

And wherever she goes, someone will follow and ask 'Who can you trust?'

そして、彼女が行くところには、誰かがついてきて、「誰を信じられるか」と尋ねてくる。