You've been very open about lots of issues on Twitter.

（クリス・アンダーソン） どんな懸念がありますか？

What would be your top worry

Twitterの抱える問題について あなたはオープンに話してますが

about where things are right now?

現状に関して

Jack Dorsey: Right now, the health of the conversation.

１番の懸念は何ですか？

So, our purpose is to serve the public conversation,

（ジャック・ドーシー） 現在は 対話の健全性です

and we have seen a number of attacks on it.

私たちの目的は 公共の場での対話に寄与することですが

We've seen abuse, we've seen harassment,

そこでたくさん攻撃を 目にしています

we've seen manipulation,

誹謗中傷や嫌がらせ行為

automation, human coordination, misinformation.

情報操作もあります

So these are all dynamics that we were not expecting

機械によるもの 組織的活動 誤った情報もありました

13 years ago when we were starting the company.

こうした動きの数々は 13年前に起業したときには

But we do now see them at scale,

予想していなかった事柄です

and what worries me most is just our ability to address it

しかし それが 規模を増しています

in a systemic way that is scalable,

１番の懸念は 我々がそういった問題に対し

that has a rigorous understanding of how we're taking action,

大きな規模で体系的に 対処できるかということで

a transparent understanding of how we're taking action

取り組みへの深い理解―

and a rigorous appeals process for when we're wrong,

取り組みについての クリアな理解と

because we will be wrong.

過ちが起きた際の 厳格な是正手続きが必要です

Whitney Pennington Rodgers: I'm really glad to hear

過ちは起きるものですから

that that's something that concerns you,

（ウィットニー・ペニントン・ロジャース） 懸念されていると聞けて

because I think there's been a lot written about people

うれしく思います

who feel they've been abused and harassed on Twitter,

これまでに多くの人々が

and I think no one more so than women and women of color

Twitter で誹謗中傷や 嫌がらせを受けており

and black women.

女性や 有色人種の女性 黒人女性は特にそうです

And there's been data that's come out --

データにも示されています

Amnesty International put out a report a few months ago

アムネスティ・インターナショナルの 数か月前の報告では

where they showed that a subset of active black female Twitter users

黒人女性の活発なユーザーの一部が 受け取るツイートの

were receiving, on average, one in 10 of their tweets

平均１割が何らかの ハラスメントだということでした

were some form of harassment.

だから Twitter コミュニティの 健全性について—

And so when you think about health for the community on Twitter,

「すべての人にとっての健全さ」について 伺いたいものですが

I'm interested to hear, "health for everyone,"

具体的には 女性や有色人種の女性 黒人女性のグループについて

but specifically: How are you looking to make Twitter a safe space

Twitterをどう安全な場に 変えていくのですか？

for that subset, for women, for women of color and black women?

（ジャック）そうですね

JD: Yeah.

かなりひどい状況ですよね

So it's a pretty terrible situation

何かのサービスを利用していて

when you're coming to a service

理想的には 世界について 何か学びたいのに

that, ideally, you want to learn something about the world,

ほとんどの時間を 誹謗中傷や嫌がらせを受け

and you spend the majority of your time reporting abuse, receiving abuse,

その報告に費やしているなんて

receiving harassment.

今 最も深く掘り下げているのは プラットフォームとサービスが

So what we're looking most deeply at is just the incentives

自然に生み出す 動機そのものについてです

that the platform naturally provides and the service provides.

現在は サービスを通じて 他者に誹謗中傷をしたり

Right now, the dynamic of the system makes it super-easy to harass

嫌がらせ行為をしたりするのが 非常に容易なシステムになっています

and to abuse others through the service,

残念ながら これまでのシステムはもっぱら

and unfortunately, the majority of our system in the past

人々が嫌がらせや誹謗中傷を 報告してくれるのに頼っていました

worked entirely based on people reporting harassment and abuse.

なので 昨年の中頃に もっと機械学習を使おう

So about midway last year, we decided that we were going to apply

この問題に深層学習を 適用しようと決め

a lot more machine learning, a lot more deep learning to the problem,

誹謗中傷が起きる場で もっと積極的な対策を講じようとしています

and try to be a lot more proactive around where abuse is happening,

被害者の負担を 完全になくすのが目的です

so that we can take the burden off the victim completely.

最近 進歩も見られました

And we've made some progress recently.

約38%の誹謗中傷ツイートが 機械学習アルゴリズムで

About 38 percent of abusive tweets are now proactively identified

自動的に検出されるようになり

by machine learning algorithms

報告する必要がなくなりました

so that people don't actually have to report them.

しかし 検出されたものは 人の目で確認しており

But those that are identified are still reviewed by humans,

人による確認なしに 内容やアカウントの凍結はしていません

so we do not take down content or accounts without a human actually reviewing it.

とはいえ １年前の０%からは 進歩でしょう

But that was from zero percent just a year ago.

つまり ０%であったときは

So that meant, at that zero percent,

誹謗中傷を受けた人が 皆 報告する必要があり

every single person who received abuse had to actually report it,

当事者にとっても 私たちにとっても大きな負担で

which was a lot of work for them, a lot of work for us

非常に不公平だったのです

and just ultimately unfair.

もうひとつの取り組みは 企業として

The other thing that we're doing is making sure that we, as a company,

あらゆるコミュニティが 参画できるよう努めることです

have representation of all the communities that we're trying to serve.

ビジネスを成功に導くには

We can't build a business that is successful

こうした問題を 日々実感している人々の

unless we have a diversity of perspective inside of our walls

多様な視点を 内部に持たねばなりません

that actually feel these issues every single day.

作業をしているチームだけではなく

And that's not just with the team that's doing the work,

上層部についても そうです

it's also within our leadership as well.

人々の経験に対して 共感を高め続ける必要があるし

So we need to continue to build empathy for what people are experiencing

行動を起こすのに役立つツールを 提供する必要があります

and give them better tools to act on it

ユーザーが目にしているものに もっとうまく容易に対処できる方法を

and also give our customers a much better and easier approach

提供する必要もあります

to handle some of the things that they're seeing.

ですから 技術面での取り組みが 多いですが

So a lot of what we're doing is around technology,

サービスが人々に与える 動機についても考えています

but we're also looking at the incentives on the service:

Twitter を開いたときに 何をしたいと思わせるのか？

What does Twitter incentivize you to do when you first open it up?

過去には

And in the past,

怒りや 群衆行動 集団的嫌がらせも

it's incented a lot of outrage, it's incented a lot of mob behavior,

多く誘発していました

it's incented a lot of group harassment.

大きな変革をするには

And we have to look a lot deeper at some of the fundamentals

サービスが何をしているのか本質的なことを 深く理解する必要があります

of what the service is doing to make the bigger shifts.

先ほど言った通り 技術面で 小さな変更は多くできますが

We can make a bunch of small shifts around technology, as I just described,

最終的には ネットワークそのものの 力学を深く理解する必要があり

but ultimately, we have to look deeply at the dynamics in the network itself,

それが今取り組んでいることです

and that's what we're doing.

（クリス）ですが 実感としては―

CA: But what's your sense --

実際に人々の行動を 根本的に変えるために

what is the kind of thing that you might be able to change

どんなことができると 思いますか？

that would actually fundamentally shift behavior?

（ジャック）始めた当初は

JD: Well, one of the things --

このサービスの基本に 「アカウントのフォロー」がありました

we started the service with this concept of following an account,

これは ひとつの例ですが

as an example,

でもそれは 人々がTwitterを使う 理由ではないと思うんです

and I don't believe that's why people actually come to Twitter.

Twitter は関心に基づいた ネットワークとして優れています

I believe Twitter is best as an interest-based network.

特定の関心を持って 利用されているんです

People come with a particular interest.

今は各自の関心に関係のあるアカウントを 探してフォローして回るのに

They have to do a ton of work to find and follow the related accounts

手間がかかります

around those interests.

そうではなく 関心をフォローしたり

What we could do instead is allow you to follow an interest,

ハッシュタグやトレンドや コミュニティを

follow a hashtag, follow a trend,

フォローするようにするのです

follow a community,

そうすれば特定の話題や関心に 関係するアカウントや

which gives us the opportunity to show all of the accounts,

トピックや「モーメント」や ハッシュタグなどを

all the topics, all the moments, all the hashtags

すべて表示することが できるようになり

that are associated with that particular topic and interest,

目に入ってくる視野が 大きく広がります

which really opens up the perspective that you see.

とはいえ アカウント中心から

But that is a huge fundamental shift

トピックや関心を中心にするよう ネットワーク全体を移行するのは

to bias the entire network away from just an account bias

大々的で根本的な変更です

towards a topics and interest bias.

（クリス）それほどまでに

CA: Because isn't it the case

コンテンツが 豊富である理由のひとつは

that one reason why you have so much content on there

世界中の何百万人もの人々に

is a result of putting millions of people around the world

フォロワーや注目の争奪戦を させたからではありませんか？

in this kind of gladiatorial contest with each other

Twitter で情報を得るだけの人には その変更は

for followers, for attention?

問題ないでしょうが

Like, from the point of view of people who just read Twitter,

コンテンツを生み出す人々は 皆 こう考えていますよね

that's not an issue,

「いいねや フォロワーや リツイートをもっと増やしたい！」と

but for the people who actually create it, everyone's out there saying,

彼らは それを実現しようと

"You know, I wish I had a few more 'likes,' followers, retweets."

試行錯誤しています

And so they're constantly experimenting,

そして１番効果的だと 分かったのは

trying to find the path to do that.

少し挑発的になったり

And what we've all discovered is that the number one path to do that

不快なことを言い立てたりすることです

is to be some form of provocative,

声高な侮辱は Twitter で 注目されます

obnoxious, eloquently obnoxious,

すごい速さで反応が来ますから

like, eloquent insults are a dream on Twitter,

炎上を自ら招く手法が できてしまうわけです

where you rapidly pile up --

それには どう対処しますか？

and it becomes this self-fueling process of driving outrage.

（ジャック）ええ その通りで

How do you defuse that?

それは動機の話に戻ります

JD: Yeah, I mean, I think you're spot on,

初期に下した選択のひとつに

but that goes back to the incentives.

フォロワーの数を表示する というものがあります

Like, one of the choices we made in the early days was

その数字を大きい太字で 表示することにしました

we had this number that showed how many people follow you.

大きく太字で表示されているものは 重要なわけで

We decided that number should be big and bold,

もっと上を目指そうとします

and anything that's on the page that's big and bold has importance,

当時として正しい判断だったか？

and those are the things that you want to drive.

違うかもしれません

Was that the right decision at the time?

サービスを最初から 作り直すなら

Probably not.

フォロワー数は そこまで強調しないと思います

If I had to start the service again,

「いいね」の数も強調しません

I would not emphasize the follower count as much.

「いいね」をする機能を そもそも作りませんね

I would not emphasize the "like" count as much.

現在 最も重要だと考えていることを

I don't think I would even create "like" in the first place,

後押しはしてくれませんから

because it doesn't actually push

ネットワークに健全な貢献をしたり

what we believe now to be the most important thing,

ネットワークに対話をもたらしたり

which is healthy contribution back to the network

対話への参加を促したり

and conversation to the network,

対話から何かを学ぶことには つながりません

participation within conversation,

こうしたことを 13年前には 考えていませんでしたが

learning something from the conversation.

今は非常に重要だと思っています

Those are not things that we thought of 13 years ago,

ですから フォロワー数を どう表示するか

and we believe are extremely important right now.

リツイート数や「いいね」を

So we have to look at how we display the follower count,

どう表示するかを考え

how we display retweet count,

深く問いかけねばなりません

how we display "likes,"

本当にこの数字を 追求させたいのか？

and just ask the deep question:

Twitter を開いたときに

Is this really the number that we want people to drive up?

「この数字を増やそう」と 思わせたいのか？

Is this the thing that, when you open Twitter,

今は そうではないと思います

you see, "That's the thing I need to increase?"

（拍手）

And I don't believe that's the case right now.

（ウィットニー）ここで客席からのツイートも

(Applause)

少し見てみましょうか

WPR: I think we should look at some of the tweets

（クリス）皆さんの質問を見ましょう

that are coming in from the audience as well.

これは Twitter の 素晴らしい点のひとつですね

CA: Let's see what you guys are asking.

みんなの知恵を借りて

I mean, this is -- generally, one of the amazing things about Twitter

想像しないほど多くの 知識や問いや視点を活用でき

is how you can use it for crowd wisdom,

その多くはとても 健全なものです

you know, that more knowledge, more questions, more points of view

（ウィットニー）今 流れていきましたが

than you can imagine,

「2020年の米大統領選挙で 外国の介入にどう対処するのか？」

and sometimes, many of them are really healthy.

インターネットで一般的に

WPR: I think one I saw that passed already quickly down here,

多く見られる問題ですね

"What's Twitter's plan to combat foreign meddling in the 2020 US election?"

自動化された悪意ある活動が 多く見られます

I think that's something that's an issue we're seeing

たとえば Twitter については

on the internet in general,

Zignal Lab による 調査結果が手元にありますが

that we have a lot of malicious automated activity happening.

今 お話ししていることの

And on Twitter, for example, in fact, we have some work

良い例として見てみましょう

that's come from our friends at Zignal Labs,

「ボット」というか

and maybe we can even see that to give us an example

組織的な悪意ある 自動化されたアカウントが

of what exactly I'm talking about,

選挙などを左右するのに 使われたりしています

where you have these bots, if you will,

Zignal Lab 提供の こちらの例は

or coordinated automated malicious account activity,

Twitter から抽出した データを使っていますが

that is being used to influence things like elections.

ここから実際に分かるのは—

And in this example we have from Zignal which they've shared with us

ひとつひとつの点がアカウントで 白が人間のユーザーで

using the data that they have from Twitter,

赤みが強いものほど

you actually see that in this case,

自動化傾向の強いアカウントです

white represents the humans -- human accounts, each dot is an account.

ボットと関わっている人間のユーザーが いくらか見られます

The pinker it is,

このケースは イスラエルの選挙に関連したもので

the more automated the activity is.

ベニー・ガンツに関する 虚偽の情報が広められています

And you can see how you have a few humans interacting with bots.

ご存じの通り 最終的に選挙結果は

In this case, it's related to the election in Israel

ネタニヤフが僅差で 勝利しましたが

and spreading misinformation about Benny Gantz,

これに影響された部分も あるかもしれません

and as we know, in the end, that was an election

Twitter 上の こうした活動について

that Netanyahu won by a slim margin,

具体的には 何をされていますか？

and that may have been in some case influenced by this.

虚偽の情報がいたずらに広まり 人々に影響して

And when you think about that happening on Twitter,

民主主義を左右しないように 何をしていますか？

what are the things that you're doing, specifically,

（ジャック）少し補足しますが

to ensure you don't have misinformation like this spreading in this way,

私たちも自問しました

influencing people in ways that could affect democracy?

実際に対話の健全性を 測ることはできるのか？

JD: Just to back up a bit,

それがどういうことなのか？

we asked ourselves a question:

自分が健康かを測る上で

Can we actually measure the health of a conversation,

体温や顔色などの尺度を

and what does that mean?

人間として持っているのと 同じように

And in the same way that you have indicators

対話の健全性についても 尺度を見いだせると思います

and we have indicators as humans in terms of are we healthy or not,

MIT の Cortico という ラボと共同して

such as temperature, the flushness of your face,

手始めに４つの指標案を出しました

we believe that we could find the indicators of conversational health.

最終的には システム上で 測れるものだと思います

And we worked with a lab called Cortico at MIT

１つめは「関心の共有度」です

to propose four starter indicators

ある対話において どれほどが同じ話題に

that we believe we could ultimately measure on the system.

収斂しているかどうかを測ります

And the first one is what we're calling shared attention.

２つめは「事実の共有度」です

It's a measure of how much of the conversation is attentive

これは ある対話において 同じ事実を

on the same topic versus disparate.

共有している割合を測ります

The second one is called shared reality,

その事実が真実かどうかではなく

and this is what percentage of the conversation

対話において 同じ事実が 共有されているかどうかです

shares the same facts --

３つめは「受容性」です

not whether those facts are truthful or not,

ある対話のどれほどが 受容的かつ礼儀にかなったものか

but are we sharing the same facts as we converse?

あるいは逆に不快なものかを測ります

The third is receptivity:

４つめは「視点の多様性」です

How much of the conversation is receptive or civil

フィルターバブルや エコーチェンバー現象が起きているか

or the inverse, toxic?

それとも 対話において 様々な意見が見られるかを測ります

And then the fourth is variety of perspective.

この４つに共通するのは それが大きいほどに

So, are we seeing filter bubbles or echo chambers,

対話がより健全なものになる ということです

or are we actually getting a variety of opinions

第一歩はこれらをその場で 測れるかを試すことですが

within the conversation?

できると思います

And implicit in all four of these is the understanding that,

「受容性」について 特に力を入れています

as they increase, the conversation gets healthier and healthier.

不快度のモデルを システム上に構築していて

So our first step is to see if we can measure these online,

不快であるとの理由から Twitter 上での対話から

which we believe we can.

立ち去る可能性を

We have the most momentum around receptivity.

実際に測定できます

We have a toxicity score, a toxicity model, on our system

かなりの精度です

that can actually measure whether you are likely to walk away

その他についても取り組んでおり

from a conversation that you're having on Twitter

次の段階は

because you feel it's toxic,

解決策を講じるとともに

with some pretty high degree.

これらの指標が時の経過とともに どう変化するかを観察し

We're working to measure the rest,

実験を続けることです

and the next step is,

目標はこれらをバランスよく 運用することです

as we build up solutions,

どれかを増やすと 他が減少することもあるでしょう

to watch how these measurements trend over time

「視点の多様性」を上げることで

and continue to experiment.

「事実の共有度」が下がる かもしれません

And our goal is to make sure that these are balanced,

（クリス）多く寄せられた質問に 言及しますね

because if you increase one, you might decrease another.

（ジャック）質問攻めですね

If you increase variety of perspective,

（クリス）多くの人が 疑問に思っているのは

you might actually decrease shared reality.

Twitter からネオナチを駆逐するのが どれだけ難しいのかということです

CA: Just picking up on some of the questions flooding in here.

（ジャック）（笑）

JD: Constant questioning.

暴力的な過激派集団に対する 方針があります

CA: A lot of people are puzzled why,

私たちの仕事や サービス規約のほとんどは

like, how hard is it to get rid of Nazis from Twitter?

コンテンツではなく 行動を対象にしています

JD: (Laughs)

ですから 行動に着目しています

So we have policies around violent extremist groups,

つまり サービスを通じて

and the majority of our work and our terms of service

繰り返し あるいは散発的に 嫌がらせ行為をしたり

works on conduct, not content.

KKK やアメリカ・ナチ党に 関連するような―