Can a computer write poetry?

みなさんに質問があります

This is a provocative question.

コンピュータに 詩は書けるでしょうか

You think about it for a minute,

これは挑発的な質問です

and you suddenly have a bunch of other questions like:

少し考えてみてください

What is a computer?

するとたちまち 多くの疑問が浮かんでくるでしょう

What is poetry?

コンピュータとは何か？

What is creativity?

詩とは何か？

But these are questions

創造性とは何か？

that people spend their entire lifetime trying to answer,

こうした問いは

not in a single TED Talk.

一生かけて答を考えるべきもので

So we're going to have to try a different approach.

たった１回のTEDトークでは到底無理です

So up here, we have two poems.

だから今日は やり方を変えたほうが良さそうです

One of them is written by a human,

ここに２つの詩があります

and the other one's written by a computer.

１つは人間の手によって書かれた詩

I'm going to ask you to tell me which one's which.

もう一つはコンピュータが書いた詩です

Have a go:

どちらが人間が書いた詩でしょうか

Poem 1: Little Fly / Thy summer's play, / My thoughtless hand / Has brush'd away.

当ててみてください

Am I not / A fly like thee? / Or art not thou / A man like me?

詩１: 小さなハエよ／お前の夏の遊びを／ 思慮のない私の手が／叩き潰してしまった

Poem 2: We can feel / Activist through your life's / morning /

私とて そうではないのか／お前と同じハエでは？ お前とて そうではないのか／私と同じ人間では？

Pauses to see, pope I hate the / Non all the night to start a / great otherwise (...)

詩２: 我らは感じる／活動家は 君らの青き／時代の中にいると

Alright, time's up.

立ち止まり法王を見ては嫌うのさ／ 今夜始めよう／別の素晴らしい事を（...）

Hands up if you think Poem 1 was written by a human.

時間です

OK, most of you.

１番が人間の書いた詩だと思う人は 手を挙げてください

Hands up if you think Poem 2 was written by a human.

大多数ですね

Very brave of you,

２番だと思う人は手を挙げてください

because the first one was written by the human poet William Blake.

勇気がありますね

The second one was written by an algorithm

１番は詩人の ウィリアム・ブレイクが書いた詩

that took all the language from my Facebook feed on one day

２番はアルゴリズムが書いた詩です

and then regenerated it algorithmically,

そのアルゴリズムは ある日の私のFacebookのフィードから

according to methods that I'll describe a little bit later on.

言葉をかき集め アルゴリズムで生成しなおしたものです

So let's try another test.

方法については後ほど説明します

Again, you haven't got ages to read this,

別の詩も見てみましょう

so just trust your gut.

あまり時間は取りませんから

Poem 1: A lion roars and a dog barks. It is interesting / and fascinating

自分の直感を信じてみましょう

that a bird will fly and not / roar or bark. Enthralling stories about animals

詩１: ライオンはうなり 犬は吠える

are in my dreams and I will sing them all if I / am not exhausted or weary.

興味深きはうならず吠えずただ飛ぶ鳥よ 動物たちが紡ぐ面白き物語は私の夢の中

Poem 2: Oh! kangaroos, sequins, chocolate sodas! / You are really beautiful!

今度は私が歌ってあげようか／ そんな元気さえあるならば

Pearls, / harmonicas, jujubes, aspirins! All / the stuff they've always talked about (...)

詩２: あぁ！カンガルー スパンコール チョコレートにソーダ！／実に美しいものたちよ！

Alright, time's up.

真珠／ハーモニカ ナツメ それからアスピリン！ どれもみな／こいつらの話をしているのさ（...）

So if you think the first poem was written by a human,

はい　ここまで

put your hand up.

では 最初の詩が 人間の書いた詩だと思う人

OK.

手を挙げてください

And if you think the second poem was written by a human,

わかりました

put your hand up.

では 次の詩が 人間の書いた詩だと思う人

We have, more or less, a 50/50 split here.

手を挙げてください

It was much harder.

大体五分五分といったところですね

The answer is,

今度は難しかったですよね

the first poem was generated by an algorithm called Racter,

では 答え合わせです

that was created back in the 1970s,

１番の詩の書き手は ラクターというアルゴリズムです

and the second poem was written by a guy called Frank O'Hara,

1970年代に作成されました

who happens to be one of my favorite human poets.

２番が フランク・オハラという 男性が書いた詩

(Laughter)

奇遇にも私の大好きな「人間の」詩人です

So what we've just done now is a Turing test for poetry.

（笑）

The Turing test was first proposed by this guy, Alan Turing, in 1950,

このテストは 詩における チューリングテストです

in order to answer the question,

チューリングテストは1950年に アラン・チューリングにより発案されました

can computers think?

コンピュータは思考できるのか という問いへの答です

Alan Turing believed that if a computer was able

もし コンピュータと人間との間に

to have a to have a text-based conversation with a human,

テキストベースの会話が成り立ち

with such proficiency such that the human couldn't tell

しかもそれが 人間が気付かないほどに自然で

whether they are talking to a computer or a human,

優れた会話能力であるならば

then the computer can be said to have intelligence.

コンピュータに知能があると言える そう考えました

So in 2013, my friend Benjamin Laird and I,

2013年に私は 友人のベンジャミン・レアードと

we created a Turing test for poetry online.

詩のチューリングテストを ネットに公開しました

It's called bot or not,

「ボットかヒトか」です

and you can go and play it for yourselves.

誰でも使えて 自分で遊べます

But basically, it's the game we just played.

しかし基本的には 先ほどのゲームと一緒です

You're presented with a poem,

提示される詩を

you don't know whether it was written by a human or a computer

人間が書いたか コンピュータが書いたか

and you have to guess.

推測する遊びです

So thousands and thousands of people have taken this test online,

何千もの人がこのテストを使い

so we have results.

結果が出ました

And what are the results?

さて どんな結果でしょう？

Well, Turing said that if a computer could fool a human

チューリングは コンピュータが

30 percent of the time that it was a human,

人間の30%を騙す ことができれば

then it passes the Turing test for intelligence.

知能があると 考えました

We have poems on the bot or not database

一方で「ボットかヒトか」の 詩のデータベースでは

that have fooled 65 percent of human readers into thinking

65％の読者を騙しました

it was written by a human.

人間の詩だと信じたのです

So, I think we have an answer to our question.

もう何を言いたいか わかったはずです

According to the logic of the Turing test,

チューリングテストの理屈で言えば

can a computer write poetry?

コンピュータは詩を書けるか？

Well, yes, absolutely it can.

ええ 書けます 間違いなく書けます

But if you're feeling a little bit uncomfortable

しかし そう聞いて 違和感があっても

with this answer, that's OK.

問題ありません

If you're having a bunch of gut reactions to it,

直感的に拒否感があるかもしれません

that's also OK because this isn't the end of the story.

大丈夫です まだ話は続きます

Let's play our third and final test.

３回目 最後のテストです

Again, you're going to have to read

今度も詩を読んで

and tell me which you think is human.

人間が書いた方を当ててください

Poem 1: Red flags the reason for pretty flags. / And ribbons.

詩１: 赤い旗 なぜ可愛い旗があるのか／ そしてリボン

Ribbons of flags / And wearing material / Reasons for wearing material. (...)

そう 旗のリボン／装飾品よ／ なぜ身を飾るのか（...）

Poem 2: A wounded deer leaps highest, / I've heard the daffodil

詩２: 傷負う鹿が高々と飛ぶ／ ラッパズイセンの花が言うには

I've heard the flag to-day / I've heard the hunter tell; /

旗が言うには／ そして狩人が言うには／

'Tis but the ecstasy of death, / And then the brake is almost done (...)

それこそが 死の絶頂／ 憩いの終わりは近い（...）

OK, time is up.

はい 時間です

So hands up if you think Poem 1 was written by a human.

では １番が人間の詩だと思う人

Hands up if you think Poem 2 was written by a human.

２番が人間の詩だと思う人

Whoa, that's a lot more people.

２番の方が随分と多いですね

So you'd be surprised to find that Poem 1

もし１番が人間の書いた詩だとしたら？

was written by the very human poet Gertrude Stein.

そう これはれっきとした人間 ガートルード・スタインの詩です

And Poem 2 was generated by an algorithm called RKCP.

２番がRKCPという アルゴリズムの詩です

Now before we go on, let me describe very quickly and simply,

では進む前に 少し簡単に説明します

how RKCP works.

RKCPがどう動くのか

So RKCP is an algorithm designed by Ray Kurzweil,

RKCPはレイ・カーツワイルが 考えました

who's a director of engineering at Google

Googleの開発責任者の 一人で

and a firm believer in artificial intelligence.

人工知能の可能性を強く信じています

So, you give RKCP a source text,

まずRKCPに文章を読み込ませます

it analyzes the source text in order to find out how it uses language,

RKCPは文章を分析し 文体を学びます

and then it regenerates language

そして最初の文章の文体を

that emulates that first text.

真似ながら言葉を再構築します

So in the poem we just saw before,

誰もが人間が書いたと信じた

Poem 2, the one that you all thought was human,

先程の２番の詩は

it was fed a bunch of poems

大量の詩をもとに再構成されています

by a poet called Emily Dickinson

エミリー・ディキンソンの詩です

it looked at the way she used language,

彼女の文体を解析し

learned the model,

型を学習し

and then it regenerated a model according to that same structure.

同じ構造に従って 型を生成しなおしました

But the important thing to know about RKCP

しかし RKCPは驚くべきことに

is that it doesn't know the meaning of the words it's using.

言葉の意味を 全く理解していないのです

The language is just raw material,

言葉は単なる素材でしかありません

it could be Chinese, it could be in Swedish,

中国語でも スウェーデン語でも

it could be the collected language from your Facebook feed for one day.

言語が混ざった フィードでもいい

It's just raw material.

ただの材料なのですから

And nevertheless, it's able to create a poem

それにもかかわらず RKCPには詩が書けます

that seems more human than Gertrude Stein's poem,

ガートルード・スタインという 人間の詩よりも

and Gertrude Stein is a human.

より「人間らしい」と思わせる ような詩を書けるのです

So what we've done here is, more or less, a reverse Turing test.

先ほどやっていただいたのは チューリングテストの逆バージョンといったところです

So Gertrude Stein, who's a human, is able to write a poem

ガートルード・スタインは人間で 詩を書くことができます

that fools a majority of human judges into thinking

しかし それは大多数の人を欺き

that it was written by a computer.

コンピュータによって書かれた詩だと 思わせました

Therefore, according to the logic of the reverse Turing test,

つまり逆チューリングテスト によれば

Gertrude Stein is a computer.

詩人スタインは コンピュータです

(Laughter)

（笑）

Feeling confused?

混乱してきましたか？

I think that's fair enough.

無理のないことだと思います

So far we've had humans that write like humans,

さて ここまでのおさらいです 人間らしい詩を書く人間と

we have computers that write like computers,

コンピュータらしい詩を書くコンピュータ

we have computers that write like humans,

人間らしい詩を書くコンピュータ

but we also have, perhaps most confusingly,

しかし それに加えて たいへんややこしいことに

humans that write like computers.

コンピュータらしい詩を書く人間

So what do we take from all of this?

ここから何が言えるでしょう？

Do we take that William Blake is somehow more of a human

ブレイクはスタインよりも

than Gertrude Stein?

人間的なのでしょうか？

Or that Gertrude Stein is more of a computer than William Blake?

逆にスタインは コンピュータ的？

(Laughter)

（笑）

These are questions I've been asking myself

私はこの点を 考えてきました

for around two years now,

２年近くもです

and I don't have any answers.

でも答えはまだ見つからないままです

But what I do have are a bunch of insights

でもいくつかの知見が得られたのです

about our relationship with technology.

テクノロジーと人間の 関係について気づいた点です

So my first insight is that, for some reason,

１つめの知見ですが どういうわけか 私たちは

we associate poetry with being human.

詩を書くことと 人間であることを 結び付けています

So that when we ask, "Can a computer write poetry?"

だから 「コンピュータに詩は書けるか」と

we're also asking,

疑問に思った時には

"What does it mean to be human

「何が人間たらしめるのか？

and how do we put boundaries around this category?

人間以外とはどう 線引きするか？

How do we say who or what can be part of this category?"

どうすれば それが人間だと言い切れるのか」 と考えるのです

This is an essentially philosophical question, I believe,

これは かなり哲学的な質問だと 思います

and it can't be answered with a yes or no test,

はい・いいえでは 答えられません

like the Turing test.

チューリングテストとは違うのです

I also believe that Alan Turing understood this,

アラン・チューリングも1950年に

and that when he devised his test back in 1950,

そのことを理解した上で

he was doing it as a philosophical provocation.

哲学的な挑戦の意を込めて テストを発明したのだと思います

So my second insight is that, when we take the Turing test for poetry,

２つめの知見ですが 詩のチューリングテストは

we're not really testing the capacity of the computers

実はコンピュータの能力を 計っているわけではありません

because poetry-generating algorithms,

なぜなら詩を生成するアルゴリズムは

they're pretty simple and have existed, more or less, since the 1950s.

非常にシンプルで 1950年代から存在していたのですから

What we are doing with the Turing test for poetry, rather,

詩のチューリングテストの真の目的は

is collecting opinions about what constitutes humanness.

人間らしさを構成するものは何か 意見を集めることです

So, what I've figured out,

わかったことがあります

we've seen this when earlier today,

今日このトークで みなさんは

we say that William Blake is more of a human

ブレイクはスタインよりも

than Gertrude Stein.

人間らしいと判断しました

Of course, this doesn't mean that William Blake

もちろんウィリアム・ブレイクが

was actually more human

実際に より人間らしく

or that Gertrude Stein was more of a computer.

ガートルード・スタインのほうが コンピュータらしいわけではありません

It simply means that the category of the human is unstable.

人間か否かという線引きは あいまいなのです

This has led me to understand

私は この結果を踏まえこう理解しました

that the human is not a cold, hard fact.

人間とは かっちりした事実をもって 定義できるものではなく

Rather, it is something that's constructed with our opinions

むしろ 人々の意見のなかに 築かれる概念なのです

and something that changes over time.

日々変化するものが人間なのです

So my final insight is that the computer, more or less,

そして最後の知見は コンピュータはいわば鏡のように

works like a mirror that reflects any idea of a human

人間が示した考えを何でも映すということ

that we show it.

エミリー・ディキンソンを見せれば

We show it Emily Dickinson,

エミリー・ディキンソンを映し出し

it gives Emily Dickinson back to us.

ウィリアム・ブレイクを見せれば

We show it William Blake,

ウィリアム・ブレイクを映し出し

that's what it reflects back to us.

ガートルード・スタインを見せれば

We show it Gertrude Stein,

ガートルード・スタインを映し出します

what we get back is Gertrude Stein.

世の中にテクノロジーは 数多く存在しますが

More than any other bit of technology,

コンピュータは 教える人の考えを反映する鏡です

the computer is a mirror that reflects any idea of the human we teach it.

近頃は 人工知能について

So I'm sure a lot of you have been hearing

よく耳にするようになりました

a lot about artificial intelligence recently.

よく議論に上るのは

And much of the conversation is,

人工知能は作れるか？

can we build it?

知性の高いコンピュータや

Can we build an intelligent computer?

創造性のあるコンピュータは作れるか？

Can we build a creative computer?

そして何度も考えるはずです

What we seem to be asking over and over

「人間みたいなコンピュータは作れるのか？」と

is can we build a human-like computer?

しかし お分かりのように

But what we've seen just now

人間は科学的事実などではありません

is that the human is not a scientific fact,

絶え間なく変化し続け 思考を重ねる 概念なのです

that it's an ever-shifting, concatenating idea

いつまでも同じ「モノ」ではないのです

and one that changes over time.

未来の人工知能について

So that when we begin to grapple with the ideas

あれこれ考えをめぐらす時は

of artificial intelligence in the future,

「そんなものを作れるか？」と

we shouldn't only be asking ourselves,

自問自答するだけでは収まりません

"Can we build it?"

こんなことも 問うべきなのです

But we should also be asking ourselves,

「一体どんな人間の考えを映し出そうか」と

"What idea of the human do we want to have reflected back to us?"

これは真理をつく哲学的な疑問です

This is an essentially philosophical idea,

しかも ソフトウェアには 到底答えが出せない疑問です

and it's one that can't be answered with software alone,

しかし 人間にとっても 人類全体で存在意義を問うことなのです

but I think requires a moment of species-wide, existential reflection.

ありがとうございました

Thank you.

（拍手）

(Applause)