AI researchers have always said

今日はAIと私たちについて お話ししようと思います

that we humans do not need to worry,

コンピューターに奪われる仕事は 単純作業だけだから

because only menial jobs will be taken over by machines.

心配するには及ばないと

Is that really true?

AI研究者は いつも言っています

They have also said that AI will create new jobs,

本当にそうなんでしょうか？

so those who lose their jobs will find a new one.

AI技術は新たな仕事も 生むことになるので

Of course.

仕事を失った人は 新しい仕事を見つけられるとも言います

But the real question is:

そうでしょうけど

How many of those who may lose their jobs to AI

疑問なのは

will be able to land a new one,

AIのせいで 仕事を失う人のうち

especially when AI is smart enough to learn better than most of us?

新しい仕事を得られる人は どれくらいか ということです

Let me ask you a question:

ことに AIが私たちの多くよりも うまく物事を学べるのだとしたら

How many of you think

ひとつお聞きします

that AI will pass the entrance examination of a top university by 2020?

2020年までにAIが一流大学の 入試に通るようになると思う人は

Oh, so many. OK.

どれくらいいますか？

So some of you may say, "Of course, yes!"

結構いますね

Now singularity is the issue.

「もちろんそうなる！」 という人もいるでしょう

And some others may say, "Maybe,

シンギュラリティ（技術的特異点）が 今や問題なんだと

because AI already won against a top Go player."

「碁ではすでにAIが名人に勝って いるんだから そうなるかも」

And others may say, "No, never. Uh-uh."

と思う人もいるでしょう

That means we do not know the answer yet, right?

そして「絶対無理」と 言う人もいるでしょう

So that was the reason why I started Todai Robot Project,

まだ答えは分かっていない ということです

making an AI which passes the entrance examination

私が「東ロボくん」プロジェクトを 始めたのは そのためです

of the University of Tokyo,

日本で最高峰の 大学である

the top university in Japan.

東京大学の 入試に通るAIを

This is our Todai Robot.

作ろうという試みです

And, of course, the brain of the robot is working in the remote server.

これが東ロボくんです

It is now writing a 600-word essay

もちろん頭脳部分は 遠隔のサーバーで動いています

on maritime trade in the 17th century.

今 17世紀の 海上貿易について

How does that sound?

600語の小論文を 書いているところです

Why did I take the entrance exam as its benchmark?

そう聞いて どう感じますか？

Because I thought we had to study the performance of AI

私がAIのベンチマークとして 入試を選んだ理由は

in comparison to humans,

人間と比較した AIの能力を

especially on the skills and expertise

研究する必要があると 思ったからです

which are believed to be acquired only by humans

人間だけが 教育を通してのみ

and only through education.

獲得できるとされている

To enter Todai, the University of Tokyo,

スキルや専門的能力については 特にそうです

you have to pass two different types of exams.

東京大学に入るためには

The first one is a national standardized test

２種類の試験を受ける 必要があります

in multiple-choice style.

１つ目は選択式の

You have to take seven subjects

全国共通試験です

and achieve a high score --

７科目の試験を受けて

I would say like an 85 percent or more accuracy rate --

高得点を取る 必要があります

to be allowed to take the second stage written test

そこでの正答率が 85%以上でないと

prepared by Todai.

東大が用意する 記述式の２次試験を

So let me first explain how modern AI works,

受けることはできません

taking the "Jeopardy!" challenge as an example.

まず現在のAIが どのように動くのかを

Here is a typical "Jeopardy!" question:

クイズ番組『ジェパディ！』への挑戦を例に 説明しましょう

"Mozart's last symphony shares its name with this planet."

ジェパディの典型的な問題は こんな感じです

Interestingly, a "Jeopardy!" question always asks,

「モーツァルトの最後の交響曲は “この惑星” と同じ名前である」

always ends with "this" something:

興味深いことに ジェパディで問われる質問は

"this" planet, "this" country,

常に “この何々” という形をしています

"this" rock musician, and so on.

“この惑星” とか “この国” とか

In other words, "Jeopardy!" doesn't ask many different types of questions,

“このロック歌手” という具合に

but a single type,

言い換えると ジェパディでは 様々な形式の質問がされるわけではなく

which we call "factoid questions."

１つのタイプの問題—

By the way, do you know the answer?

一言で答えられる 雑学が問われるんです

If you do not know the answer and if you want to know the answer,

ちなみに この問題の答えは 分かりますか？

what would you do?

答えが分からなくて 答えを知りたいというとき

You Google, right? Of course.

皆さんならどうしますか？

Why not?

ネットで検索しますよね

But you have to pick appropriate keywords

もちろん

like "Mozart," "last" and "symphony" to search.

でも 検索するキーワードを 適切に選んでやる必要があります

The machine basically does the same.

「モーツァルト 最後 交響曲」というように

Then this Wikipedia page will be ranked top.

AIも基本的に 同じことをします

Then the machine reads the page.

そうすると このウィキペディアのページが 最初にヒットします

No, uh-uh.

それからAIは その内容を読むのかというと

Unfortunately, none of the modern AIs,

違います

including Watson, Siri and Todai Robot,

あいにく 現在のAIは

is able to read.

ワトソンにせよ Siriにせよ 東ロボくんにせよ

But they are very good at searching and optimizing.

読解はできません

It will recognize

でも AIは検索と最適化に 優れています

that the keywords "Mozart," "last" and "symphony"

AIはキーワード 「モーツァルト」「最後」「交響曲」が

are appearing heavily around here.

この辺りに 沢山出てくることを

So if it can find a word which is a planet

認識します

and which is co-occurring with these keywords,

だから惑星の名前であって

that must be the answer.

これらのキーワードと 一緒に現れるものがあれば

This is how Watson finds the answer "Jupiter," in this case.

それが答えに違いないと 判断します

Our Todai Robot works similarly, but a bit smarter

そうやってワトソンは「ジュピター(木星)」 という答えを見つけるのです

in answering history yes-no questions,

私たちの東ロボくんも 同じように動作しますが

like, "'Charlemagne repelled the Magyars.' Is this sentence true or false?"

歴史の正誤問題を解くために  もう少し賢くしました

Our robot starts producing a factoid question,

「“カール大帝はマジャール人を撃退した” という文は正しいか？」という問題なら

like: "Charlemagne repelled [this person type]" by itself.

東ロボくんは それをまず 穴埋め問題に変えます

Then, "Avars" but not "Magyars" is ranked top.

「カール大帝は (この人々を) 撃退した」

This sentence is likely to be false.

そうすると「マジャール人」ではなく 「アバール人」が上位に来るので

Our robot does not read, does not understand,

この文はどうも 正しくないようだと分かります

but it is statistically correct in many cases.

私たちのロボットは読まないし 理解しませんが

For the second stage written test,

多くの場合 統計的に正しいのです

it is required to write a 600-word essay like this one:

記述式の２次試験では

[Discuss the rise and fall of the maritime trade

こんな感じの600語の小論文を 書く必要があります

in East and Southeast Asia in the 17th century ...]

[17世紀の東アジアと東南アジアにおける 海上貿易の盛衰について600語で述べよ･･･]

and as I have shown earlier,

先ほどお見せしたように

our robot took the sentences from the textbooks and Wikipedia,

私たちのロボットは教科書や ウィキペディアから文を取り出し

combined them together,

組み合わせ 最適化して

and optimized it to produce an essay

小論文を作ります

without understanding a thing.

何ひとつ理解もしないで

(Laughter)

(笑)

But surprisingly, it wrote a better essay

でも 驚いたことに ロボットの小論文は

than most of the students.

たいていの学生のものより 出来が良かったんです

(Laughter)

(笑)

How about mathematics?

数学はどうでしょう？

A fully automatic math-solving machine

数学の問題を解く 完全自動の機械というのは

has been a dream

「人工知能」という言葉が 生まれたとき以来の

since the birth of the word "artificial intelligence,"

夢でしたが

but it has stayed at the level of arithmetic for a long, long time.

非常に長い間 算数のレベルに  留まっていました

Last year, we finally succeeded in developing a system

去年 私たちはついに

which solved pre-university-level problems from end to end,

高校レベルの数学の問題を最初から 最後まで解けるシステムの開発に成功しました

like this one.

たとえばこんな問題です

This is the original problem written in Japanese,

これは日本語で書かれた 元の問題です

and we had to teach it 2,000 mathematical axioms

自然言語で記述された問題を  入力できるようにするために

and 8,000 Japanese words

２千の数学公理と ８千の日本語の単語を

to make it accept the problems written in natural language.

教える必要がありました

And it is now translating the original problems

これは元の問題を

into machine-readable formulas.

機械にわかる式に 変換しているところです

Weird, but it is now ready to solve it, I think.

奇妙なものですが これで解くための準備ができました

Go and solve it.

では解きましょう

Yes! It is now executing symbolic computation.

今 記号処理を しているところです

Even more weird,

ますます奇妙になっていますが

but probably this is the most fun part for the machine.

たぶん機械にとっては ここが一番楽しいところなんでしょう

(Laughter)

(笑)

Now it outputs a perfect answer,

完全な解答が 出力されています

though its proof is impossible to read, even for mathematicians.

もっともこの証明は 数学者でも読めないような代物です

Anyway, last year our robot was among the top one percent

何にせよ 去年私たちのロボットは

in the second stage written exam in mathematics.

記述式の２次試験の数学で 上位１％に入りました

(Applause)

(拍手)

Thank you.

ありがとうございます

So, did it enter Todai?

では 東大に 入れたのでしょうか？

No, not as I expected.

いいえ 私が想定していたとおり 入れませんでした

Why?

なぜなのでしょう？

Because it doesn't understand any meaning.

意味をまったく 理解していないからです

Let me show you a typical error it made in the English test.

英語のテストでロボットがする 典型的な間違いの例をお見せしましょう

[Nate: We're almost at the bookstore. Just a few more minutes.

２人の会話の 穴埋め問題です

Sunil: Wait. ______ . Nate: Thank you! That always happens ...]

[A君 本屋はもうすぐだよ。あと少し歩くだけ。 B君 待って、( ＿＿＿ )。

Two people are talking.

A君 ありがとう、いつもなんだ。 B君 ５分前にも靴、結んでたよね？

For us, who can understand the situation --

選択肢 ① だいぶ歩いたね。② もうすぐだね。 ③ 高そうな靴だね。④ 靴紐がほどけてるよ。]

[1. "We walked for a long time." 2. "We're almost there."

状況を理解できる 私たちにとっては

3. "Your shoes look expensive." 4. "Your shoelace is untied."]

④番が正解なのは 明らかですよね？

it is obvious number four is the correct answer, right?

でも東ロボくんは ②番を選びました

But Todai Robot chose number two,

ディープラーニングの 技術を使って

even after learning 15 billion English sentences

150億個の英文を 学んだ後でです

using deep learning technologies.

私の言ったことが お分かりになったでしょう

OK, so now you might understand what I said:

現在のAIは 読めないし

modern AIs do not read,

理解できないのです

do not understand.

そうできるかのように 見せかけているだけです

They only disguise as if they do.

これは東ロボくんと 同じ試験を受けた

This is the distribution graph

50万人の学生の 点数の分布です

of half a million students who took the same exam as Todai Robot.

現在 私たちのロボットは 上位20%以内にいて

Now our Todai Robot is among the top 20 percent,

日本の６割以上の大学に

and it was capable to pass

合格できます

more than 60 percent of the universities in Japan --

東大は無理ですが

but not Todai.

でもホワイトカラーになる 人々の大部分より

But see how it is beyond the volume zone

上にいることに 注目してください

of to-be white-collar workers.

この結果に私が喜んだと お思いでしょう

You might think I was delighted.

なにしろ私たちのロボットが 多くの学生を超えたんですから

After all, my robot was surpassing students everywhere.

私はむしろ懸念を抱きました

Instead, I was alarmed.

どうして この知性を欠いた機械が

How on earth could this unintelligent machine outperform students --

人間の学生を

our children?

私たちの子供たちを 凌駕できたのでしょう？

Right?

人間の世界で何が起きているのか 調べることにしました

I decided to investigate what was going on in the human world.

中高の教科書から 文を数百個取り出し

I took hundreds of sentences from high school textbooks

簡単な選択式問題を作って

and made easy multiple-choice quizzes,

数千人の中高生に 答えてもらいました

and asked thousands of high school students to answer.

これが問題の例です

Here is an example:

[主として仏教は東南アジアや東アジアに、 キリスト教はヨーロッパ、南北アメリカ、オセアニアに、

[Buddhism spread to ... , Christianity to ... and Oceania,

イスラム教は北アフリカ、西アジア、 中央アジア、東南アジアに広まっている]

and Islam to ...]

もちろん元の問題は

Of course, the original problems are written in Japanese,

生徒達の母国語である 日本語で記述されています

their mother tongue.

[問. ( ＿＿＿ ) はオセアニアに広まりました。

[ ______ has spread to Oceania.

選択肢 ① ヒンドゥー教 ② キリスト教 ③ イスラム教 ④ 仏教]

1. Hinduism 2. Christianity 3. Islam 4. Buddhism ]

答えは当然 キリスト教ですよね？

Obviously, Christianity is the answer, isn't it?

問題文に書いてあります！

It's written!

東ロボくんも 正しい答えを選びました

And Todai Robot chose the correct answer, too.

でも中学生の３分の１は

But one-third of junior high school students

この問題で間違ったのです

failed to answer this question.

これは日本だけの 話なのでしょうか？

Do you think it is only the case in Japan?

そうは思いません

I do not think so,

「OECD生徒の学習到達度調査」で 日本はいつも上位に付けているからです

because Japan is always ranked among the top in OECD PISA tests,

３年ごとに 各国の15歳の生徒の

measuring 15-year-old students' performance in mathematics,

数学 科学 国語の能力を

science and reading

測っているテストです

every three years.

能力を伸ばせるような

We have been believing

優れた教材が

that everybody can learn

ウェブで無料公開され

and learn well,

インターネットで 見られるようになっていれば

as long as we provide good learning materials

誰でも 良く学べるはずだと

free on the web

私たちは そう 信じてきました

so that they can access through the internet.

でも そのような素晴らしい教材も 恩恵を受けられるのは ちゃんと読める子だけで

But such wonderful materials may benefit only those who can read well,

そして ちゃんと読める子の割合は

and the percentage of those who can read well

私たちが思っているより ずっと少ないのかもしれません

may be much less than we expected.

人間がAIと どう共存していくかは

How we humans will coexist with AI

しっかりした証拠に基づいて

is something we have to think about carefully,

慎重に考える必要があります

based on solid evidence.

しかも急いで そうしなければなりません

At the same time, we have to think in a hurry

時間がもうないのですから

because time is running out.

ありがとうございました

Thank you.

(拍手)

(Applause)

(クリス・アンダーソン) どうもありがとう

Chris Anderson: Noriko, thank you.

(新井紀子) こちらこそ

Noriko Arai: Thank you.

(アンダーソン) あなたの話は AIがどのように考え

CA: In your talk, you so beautifully give us a sense of how AIs think,

何がうまくでき 何ができないのかという感触を

what they can do amazingly

すごく見事に 伝えてくれました

and what they can't do.

私が正しく理解しているなら

But -- do I read you right,

人間がAIよりも うまくできることについて 子供達を助けられるよう

that you think we really need quite an urgent revolution in education

教育の変革を急がねばならないと お考えなんですね

to help kids do the things that humans can do better than AIs?

(新井) その通りです

NA: Yes, yes, yes.

私たち人間は 意味を理解することができます

Because we humans can understand the meaning.

これはAIに すごく欠けている部分です

That is something which is very, very lacking in AI.

でも多くの生徒は 理解せずに

But most of the students just pack the knowledge

ただ知識を 詰め込んでいます

without understanding the meaning of the knowledge,

それは知識ではなく ただの暗記で

so that is not knowledge, that is just memorizing,

AIでもできることです

and AI can do the same thing.

だから私たちは新しいタイプの教育を 考える必要があります

So we have to think about a new type of education.

(アンダーソン) 丸暗記から 意味の理解へという転換ですね

CA: A shift from knowledge, rote knowledge, to meaning.

(新井) ええ

NA: Mm-hmm.

(アンダーソン) 教育者諸氏にとっての 課題ですね　ありがとうございました

CA: Well, there's a challenge for the educators. Thank you so much.

(新井) ありがとうございました

NA: Thank you very much. Thank you.

(拍手)

(Applause)