Name: ChatGPTのアーキテクト、ミラ・ムラーティが語るOpenAIの内側｜The Circuit with Emily Chang (Inside OpenAI, the Architect of ChatGPT, featuring Mira Murati | The Circuit with Emily Chang)
Uploaded: 2025-01-02T23:43:25.000Z
Duration: 24 min 2 s
Description: VoiceTubeの動画で発音を聞きながら英語表現を覚えよう！学べる英語：

Inside a nondescript building in the heart of San Francisco, one of the world's buzziest startups is making our AI-powered future feel more real than ever before.

サンフランシスコの中心部にある何の変哲もないビルの中で、世界で最も話題の新興企業のひとつが、AIを活用した未来をかつてないほどリアルなものにしようとしている。

They're behind two monster hits, ChatGPT and Ali, and somehow beat the biggest tech giants to market, kicking off a competitive race that's forced them all to show us what they've got.

彼らはChatGPTとAliという2つの大ヒット商品を開発し、どうにかして大手ハイテク企業を抑えて市場に投入した。

But how did this under-the-radar startup pull it off?

しかし、この水面下の新興企業はどうやってそれを成し遂げたのだろうか？

We're inside OpenAI, and we're going to get some answers.

我々はOpenAIの中にいて、いくつかの答えを得ようとしている。

それは我々を救うのか、それとも滅ぼすのか？

ウエストワールドのスパのような雰囲気だ。

It's almost like suspended in space and time a little bit.

時空が少し宙に浮いたような感じだ。

Yeah, it is a little bit of futuristic feel.

ああ、ちょっと未来的な感じだね。

This is one of the most introspective minds at OpenAI.

OpenAIで最も内省的なマインドの持ち主の一人だ。

CEOのサム・アルトマンのことはみんな知っている。

But Mira Moradi is a chief architect behind OpenAI's strategy.

しかし、ミラ・モラディはオープンAIの戦略を支えるチーフ・アーキテクトである。

イリヤが実際に描いたものだ。

チーフ・サイエンティストのイリヤだ。

この花は何を象徴しているのか？

My guess is that it's AI that loves humanity.

私の推測では、人類を愛しているのはAIだと思う。

We're very focused on dealing with the challenges of hallucination, truthfulness, reliability, alignment of these models.

私たちは、幻覚、真実性、信頼性、これらのモデルの整合性といった課題に対処することに非常に重点を置いている。

Has anyone left because they're like, you know what, I disagree?

誰か、私は反対だ、と言って辞めた人はいる？

There have been, over time, people that left to start other organizations because of disagreements on the strategy around deployment.

配備をめぐる戦略の不一致のために、他の組織を立ち上げるために去っていった人たちが、時とともに何人もいた。

And how do you find common ground when disagreements do arise?

また、意見の相違が生じた場合、どのようにして共通の基盤を見つけるのか？

You want to be able to have this constant dialogue and figure out how to systematize these concerns.

常に対話し、これらの懸念をどのように体系化するかを考えたい。

It's a combination of guiding the teams on the ground, thinking about longer-term strategy, figuring out our gaps, and making sure that the teams are well-supported to succeed.

現場のチームを指導し、より長期的な戦略を考え、我々のギャップを把握し、チームが成功するようしっかりとサポートする。

When you were making the decision about releasing Chat GPT into the wild, I'm sure there was like a go or no-go moment.

チャットGPTの公開を決断したとき、ゴーかノーかのような瞬間があったと思います。

We had Chat GPT for a while, and we sort of hit a point where we could really benefit from having more feedback from how people are using it, what are the risks, what are the limitations, and learn more about this technology that we have created and start bringing it in the public consciousness.

私たちはしばらくの間、Chat GPTを使用していたが、人々がどのように使用しているのか、どのようなリスクがあるのか、どのような制限があるのかなど、より多くのフィードバックを得ることで、私たちが作り上げたこの技術についてより多くのことを学び、一般の人々の意識に浸透させることができるという点に到達した。

It became the fastest-growing tech product in history.

史上最も急成長したハイテク製品となった。

I mean, what was your reaction to the world's reaction?

つまり、世界の反応にどう反応したか、ということだ。

We were surprised by how much it captured the imaginations of the general public and how much people just loved spending time talking to this AI system and interacting with it.

私たちは、このAIシステムが一般の人々の想像力をかき立て、人々がこのAIシステムと対話する時間をとても楽しんでいることに驚きました。

チャットGPTは人間を模倣できるようになった。

At the most basic level, how does this all happen?

最も基本的なレベルでは、これはどのようにして起こるのだろうか？

So, Chat GPT is a neural network that has been trained on a huge amount of data on a massive supercomputer, and the goal during this training process was to predict the next word in a sentence, and it turns out that as you train larger and larger models and more and more data, the capabilities of these models also increase.

つまり、Chat GPTは、巨大なスーパーコンピューター上の膨大なデータで訓練されたニューラルネットワークであり、この訓練過程での目標は、文中の次の単語を予測することだった。そして、より大きなモデルを訓練し、より多くのデータを訓練すればするほど、これらのモデルの能力も向上することが判明した。

They become more powerful, more helpful, and as you invest more on alignment and safety, they become more reliable and safe over time.

アライメントと安全性に投資すればするほど、時間とともに信頼性と安全性が高まっていく。

Open AI has kind of turbocharged this competitive frenzy.

オープンAIは、この競争熱に拍車をかけているようなものだ。

Do you think you can beat Google at its own game?

グーグルに勝てると思いますか？

Do you think you can take significant market share in search?

検索で大きなシェアを獲得できると思いますか？

私たちは検索を支配しようとしたわけではない。

What Chat GPT offers is a different way to understand information, and you could be, you know, searching, but you're searching in a much more intuitive way versus keyword-based.

チャットGPTが提供するのは、情報を理解するための別の方法であり、検索することは可能だが、キーワードベースではなく、もっと直感的な方法で検索することになる。

I think the whole world is sort of now moving in this direction.

今、世界中がこの方向に向かっていると思う。

The air of confidence, obviously, that Chat GPT sometimes delivers an answer with.

明らかに、チャットGPTが時折見せる自信に満ちた空気。

Why not just sometimes say, I don't know?

なぜ、ときどき「わからない」と言わないのか？

The goal is not to predict the next word reliably or safely.

ゴールは次の単語を確実に、あるいは安全に予測することではない。

When you have such general capabilities, it's very difficult to handle some of the limitations, such as what is correct.

そのような一般的な能力を持っている場合、何が正しいかなど、いくつかの制限を扱うのは非常に難しい。

Some of these texts and some of the data is biased.

これらの文章やデータの中には偏ったものもある。

その一部は間違っているかもしれない。

Isn't this going to accelerate the misinformation problem?

誤報問題を加速させることにならないか？

I mean, we haven't been able to crack it on social media for like a couple of decades.

つまり、私たちは数十年もの間、ソーシャルメディア上でそれを解読することができなかった。

Misinformation is a really complex, hard problem.

誤報は本当に複雑で難しい問題だ。

Right now, one of the things that I'm most worried about is the ability of models like GPT-4 to make up things.

今、私が最も心配していることの一つは、GPT-4のようなモデルのでっち上げ能力だ。

私たちはこれを幻覚と呼んでいる。

So they will convincingly make up things and it requires being aware and just really knowing that you cannot fully, blindly rely on what the technology is providing as an output.

だから、彼らは説得力のある作り話をするだろうし、テクノロジーがアウトプットとして提供するものを完全に、盲目的に信頼することはできないということを自覚し、本当に知る必要がある。

I want to talk about this term hallucination because it's a very human term.

この幻覚という言葉について話したい。

Why use such a human term for basically an AI that's just making mistakes?

基本的にミスを犯すだけのAIに対して、なぜそのような人間的な言葉を使うのか？

A lot of these general capabilities are actually quite human-like.

このような一般的な能力の多くは、実際には極めて人間的なものだ。

Sometimes when we don't know the answer to something, we will just make up an answer.

答えがわからないとき、私たちは答えをでっち上げることがある。

私たちが「わからない」と言うことはほとんどない。

And so, there is a lot of human hallucination in a conversation and sometimes we don't do it on purpose.

だから、会話の中には人間の幻覚がたくさんある。

Should we be worried about AI though that feels more and more human?

私たちは、より人間らしく感じられるAIを心配すべきなのだろうか？

Like, should AI have to identify itself as artificial when it's interacting with us?

例えば、AIが我々と相互作用する際に、人工物であることを識別する必要があるのだろうか？

I think it's a different kind of intelligence.

それは違う種類の知性だと思う。

It is important to distinguish output that's been provided by a machine versus another human.

機械が出した出力と人間が出した出力を区別することは重要だ。

But we are moving towards a world where we're collaborating with these machines more and more and so output will be hybrid.

しかし、私たちはこれらの機械とますます協力する世界へと向かっており、そのためアウトプットはハイブリッドになるだろう。

All of the data that you're training this AI on, it's coming from writers, it's coming from artists.

あなたがこのAIをトレーニングしているデータはすべて、作家やアーティストのものです。

How do you think about giving value back to those people when these are also people who are worried about their jobs going away?

仕事がなくなることを心配している人たちがいる中で、その人たちに価値を還元することをどう考えるか。

I don't know exactly how it would work in practice that you can sort of account for information created by everyone on the internet.

インターネット上のすべての人が作成した情報を勘定に入れるということが、実際にどのように機能するのか正確にはわからない。

I think there are definitely going to be jobs that will be lost and jobs that will be changed as AI continues to advance and integrate in the workforce.

AIが進歩し、労働力に統合され続けるにつれて、失われる仕事と変化する仕事が間違いなく出てくると思う。

迅速なエンジニアリングは今日の仕事である。

That's not something that we could have predicted.

それは私たちが予測できたことではない。

Think of prompt engineers like AI whisperers.

プロンプト・エンジニアは、AIのささやきのようなものだと考えてほしい。

They're highly skilled at selecting the right words to coax AI tools into generating the most accurate and illuminating responses.

彼らは、AIツールに最も正確で有益な回答を生成させるために適切な言葉を選ぶことに長けている。

It's a new job born from AI that's fetching hundreds of thousands of dollars a year.

それはAIから生まれた新しい仕事で、年間数十万ドルの値がつく。

What are some tips to being an ace prompt engineer?

エース級のプロンプト・エンジニアになるための秘訣は？

You know, it's this ability to really develop an intuition for how to get the most out of the model.

モデルを最大限に活用するための直感を養う能力なんだ。

How to prompt it in the right ways, give it enough context for what you're looking for.

適切な方法でそれを促し、求めているものに十分な文脈を与える方法。

One of the things that we talked about earlier was hallucinations and these large language models not having the ability to always be highly accurate.

先ほど話したことのひとつに、幻覚や、大規模な言語モデルが常に高い精度を持つとは限らないということがある。

So I'm asking the model with a browsing plugin to fact check this information.

だから、この情報を事実確認するために、閲覧プラグインを持つモデルに頼んでいるんだ。

そして今、ウェブをブラウズしている。

So there's this report that these workers in Kenya were getting paid $2 an hour to do the work on the backend to make answers less toxic.

つまり、ケニアの労働者たちは、回答が有害でないようにするためのバックエンドの作業で時給2ドルをもらっていたという報告だ。

And my understanding is this work is, it can be difficult, right?

私の理解では、この仕事は難しいものなんだろう？

Because you're reading texts that might be disturbing and trying to clean them up.

不穏な文章を読んで、それを片付けようとしているからだ。

So we need to use contractors sometimes to scale.

だから、規模を拡大するためには、時には契約社員を使う必要がある。

We chose that particular contractor because of their known safety standards.

私たちがその業者を選んだのは、安全基準が知られていたからだ。

And since then we've stopped working with them.

それ以来、私たちは彼らとの仕事を止めた。

ChatGPTのアーキテクト、ミラ・ムラーティが語るOpenAIの内側｜The Circuit with Emily Chang (Inside OpenAI, the Architect of ChatGPT, featuring Mira Murati | The Circuit with Emily Chang)