It went viral, but not in the way they'd hoped.

このソフトは評判になりましたが、彼らが期待したような形ではありませんでした。

James Clayton picks up the story.

ジェームズ・クレイトンがこの記事を取り上げています。

Yo, boys, I may need some help.

おい、お前ら、ちょっと手伝ってくれないか？

I found a room with a bunch of mob spawners.

モブ・スポナーが大量にいる部屋を見つけたんだ。

You ever wondered what it would be like to be someone else?

他の人になったらどうなるんだろうと思ったことはない？

With ElevenLabs AI technology, you can find out.

イレブンラボのAI技術で、あなたはそれを知ることができます。

Given a minute of anyone's voice, the software can quickly put together an imitation.

1分間、誰の声でも、すぐに模倣することができます。

Within days, people were imitating celebrity voices, making them say things they never said.

数日後には、有名人の声を真似して、その人が言ったことのないことを言わせることができるようになりました。

I just think I would love to get Ratatouilled.

ラタトゥイユされたいなーって思うだけです。

Ratatouilled?

ラタトゥイユ？

Like, have a little guy up there.

上にチビがいるような。

Excuse me?

すみません？

You know, making me cook delicious meals.

美味しいご飯を作らせてくれたり

This is the point where I tell you that you're actually listening to an AI voice,

実はAIの音声を聞いているんだよと教えてあげるポイントです、

but it wasn't exactly the most convincing voice.

しかし、説得力のある声ではありませんでした。

This is it.

これです。

Testing out my voice clone.

ボイスクローンのテスト中です。

I don't think it sounds like me that much, but what do you think?

そんなに自分に似ているとは思えないのですが、どうでしょうか？

I'm gonna record here too, just to, you know, to help them off.

俺も録音しておくよ、一応ね。

My producer, Ben, and I spoke to the CEO and co-founder of ElevenLabs, Matty Staniszewski, for the company's first broadcast interview.

プロデューサーのベンと私は、イレブンラボのCEO兼共同設立者であるマティ・スタニゼウスキーに、同社初の放送用インタビューとして話を聞きました。

So I had a go at mimicking my own voice,

そこで、自分の声を真似してみました、

and it, you know, it was sort of reasonably successful,

そして、それなりに成功しました、

although it seemed to have a bit of an Australian accent.

とはいえ、ちょっとオーストラリア訛りがあるような気もしますが。

Majority of our work is based on public domain data, where majority of the voices and the work that we have are actually US American accents.

私たちの作品の大半はパブリックドメインデータに基づいており、そこで私たちが持っている声や作品の大半は、実際には米国の訛りです。

So if Ben did it, it might be more successful.

だから、ベンがやればもっと成功するかもしれません。

Ben should definitely try it.

ベンはぜひやってみるべきです。

The company's terms and conditions are clear that you can only clone your own voice, but not everyone has abided by its rules.

会社の規約では、自分の声のクローンしか作れないと明言されているが、誰もがそのルールを守っているわけではありません。

On sites like 4chan, it's incredibly easy to find people who've taken celebrity voices and made them say racist and hateful things.

4chanのようなサイトでは、有名人の声を奪って人種差別や憎悪を言わせた人を見つけるのは信じられないほど簡単です。

ElevenLabs accepts its platform has been used for hate speech.

イレブンラボは、自社のプラットフォームがヘイトスピーチに利用されたことを認めています。

You know, 99% of content is kind of positive that we've seen

99％のコンテンツはポジティブなものです。

and for less than 1% of what was generated, it was usually against terms of service,

1%未満は利用規約に反するものでした、

whether it was hate speech or variations of that.

ヘイトスピーチであったり、そのようなバリエーションであったりしました。

The company says only paid users can clone voices now and they're developing a new tool to track down people abusing its platform.

同社は現在、有料ユーザーだけが声のクローンを作ることができ、プラットフォームを悪用する人々を追跡するための新しいツールを開発中であると述べています。

But ElevenLabs doesn't just do cloned voices.

しかし、イレブンラボはクローンボイスを作るだけではありません。

Just give me a second.

ちょっとだけ待っててね。

The company has another tool where users can create a unique voice completely from scratch.

同社にはもう一つ、ユーザーが完全にゼロからユニークな声を作ることができるツールがあります。

Let's use a female gender and I'm gonna do a middle age.

性別は女性で、中年をやってみましょう。

And I think even more fitting with a British accent.

そして、イギリス訛りがあるとさらにしっくりくると思います。

And I'm just gonna click generate.

そして、生成をクリックします。

That's gonna create that entirely new voice that doesn't exist.

存在しない音声が生成されます。

Britain's first live public broadcast was made from the factory of Marconi's Wireless telegraph company in Chelmsford.

チェルムスフォードにあるマルコーニの無線電信会社の工場から、イギリス初の公開生放送が行われました。

It's never been easier to imitate a politician's voice.

政治家の声を真似るのがこれほど簡単なことはありません。

Sleepy Joe, you have run this country to its absolute ground.

スリーピージョー、君はこの国を絶対的な地盤まで走らせたんです。

Well, at least I do run sometimes, if you know what I mean?

まあ、たまに走ってるんだけどね。

Mark Nitzberg is a professor at UC Berkeley's AI research lab.

マーク・ニッツバーグは、カリフォルニア大学バークレー校のAI研究所の教授です。

I asked him whether we should be worried about the presidential elections in 2024.

2024年の大統領選挙を心配する必要があるのか、彼に聞いてみました。

We'll very likely see many more deep fakes than we did in the last cycle just because it's so much simpler

(中略)前回よりもはるかにシンプルになったので、より多くの深いフェイクが見られる可能性が高いです。

and I'm not sure what measures we are taking to counter what effect that might have.

とのことですが、どのような効果があるのか、どのような対策をしているのかがわかりません。

There are plenty of other concerns around this tech too.

この技術の周辺には、他にもたくさんの懸念事項があります。

For example, scams,

例えば、詐欺とか、

this could make them far more believable and far easier to execute.

というように、より信憑性を高め、実行しやすくすることができます。

The Federal Trade Commission put out a statement in March,

連邦取引委員会は3月に声明を出しています、

warning people that scams imitating relatives can now be incredibly convincing.

親族を装った詐欺が信じられないほど説得力を持つようになったことを警告しています。

ElevenLabs themselves say that as AI develops,

イレブンラボ自身は、AIが発達するにつれて、そう言っています、

people are simply going to have to learn to trust voices they hear and things that they see less.

を信じるようにならなければなりません。

A kind of the wider education is just making sure that people across know that

もっと広い意味での教育が必要です。

as we think about audio, as we think about text, as we think about images,

オーディオについて考えるとき、テキストについて考えるとき、画像について考えるとき、

a lot of the content that has been created is likely or could be AI generated.

これまで作られてきたコンテンツの多くは、AIが生成したものである可能性が高い、あるいはその可能性があるからです。

And it's important to know that this might be the case.

そして、その可能性があることを知ることが重要です。

You know, one needs to again take this approach where we think about we want in a society before we allow the release of these tools.

このようなツールのリリースを許可する前に、私たちが社会で何を望んでいるかを考えるというアプローチが必要なんです。

Voice cloning for the public is here to stay.

一般向けのボイスクローニングは今後も続くでしょう。

It's very difficult to see how this is going to be put back in its box now.

今更、これを箱に戻すのは非常に難しいです。

But this is clearly disruptive technology that can be used for both good and bad.

しかし、これは明らかに破壊的な技術であり、良くも悪くも利用できるものです。