Name: AIを制御できるか？DeepMindの責任あるAI計画 (Can We Control AI? DeepMind’s Plan for Responsible AI)
Uploaded: 2026-01-30T18:27:02.000Z
Duration: 44 min 21 s
Description: VoiceTubeの動画で発音を聞きながら英語表現を覚えよう！学べる英語：

welcome to the Tech Download, a new CNBC original podcast where we unpack the tech stories that matter most.

CNBCオリジナルの新しいポッドキャスト、Tech Downloadへようこそ。ここでは最も重要なテクノロジーストーリーを掘り下げていきます。

Each season, we dive into one big theme and what it means for your money, with insights from the industry's most influential voices.

各シーズン、私たちは一つの大きなテーマと、それがあなたの経済にどう影響するかを、業界で最も影響力のある声からの洞察とともに探求します。

This season, we're looking at Google DeepMind, the powerhouse driving the tech giant's AI push.

今シーズンは、テクノロジー大手であるGoogleのAI推進を牽引する、Google DeepMindに焦点を当てます。

Ever wondered what would happen if AI got out of control or fell into the wrong hands?

AIが制御不能になったり、悪用されたりしたらどうなるか、考えたことはありますか？

And how can governments make sure it's safe from.

そして、政府はそれをどのように安全に保つことができるのでしょうか。

For you and I, our guests for this episode, DeepMind Senior Director for Responsible Development and Innovation, Dawn Blockswitch and Tom Lu, VP for Frontier AI Global affairs, addressed these questions.

今回、DeepMindの責任ある開発とイノベーション担当上級ディレクターであるDawn Blockswitch氏と、Frontier AIグローバルアフェアーズ担当VPのTom Lu氏が、これらの疑問に答えました。

When we think about responsible AI at Google DeepMind, we're not seeing it as something where it's slowing down progress.

Google DeepMindにおける責任あるAIについて考えるとき、それは進歩を遅らせるものとは考えていません。

Instead, it's about us thoughtfully designing it from the very, very beginning.

むしろ、最初から慎重に設計していくことなのです。

It's Arjun Karpil here in London and Steve Kovach in New York.

ロンドンからはアルジュン・カルピル、ニューヨークからはスティーブ・コヴァックがお届けします。

This is the third episode of our three parts into Google DeepMind.

これはGoogle DeepMindを掘り下げる3部構成の第3話です。

And I just want to set the scene here because we've, we've heard from Demis Hassabis, the CEO of DeepMind, We've heard from the CEO of DeepMind, Lila Ibrahim, and

そして、ここでは状況を説明したいと思います。なぜなら、DeepMindのCEOであるDemis Hassabis氏、DeepMindのCEOであるLila Ibrahim氏からお話を伺い、

多くのトピックについて聞いてきましたが、

this episode, we're going to hone in on this idea of responsibility when it comes to developing these systems.

今回のエピソードでは、これらのシステムを開発する上での責任という考え方に焦点を当てます。

And just to set the scene, there is a growing chorus of voices that are talking about the risks of AI and particularly fears around AI getting out of control as it gets more powerful, that the makers of these AI systems won't even be able to control them.

そして、状況を説明すると、AIのリスク、特にAIがより強力になるにつれて制御不能になることへの懸念、AIシステムの開発者でさえ制御できなくなるのではないかという懸念について語る声が高まっています。

The societal impact of AI when it comes to people losing jobs and how it's going to impact all of us.

AIが人々の仕事を奪うこと、そしてそれが私たち全員にどのような影響を与えるかというAIの社会的影響。

And of course, we are placing at this point in time a huge amount of trust in these technology companies, these giant technology companies with vast pockets, and

そしてもちろん、私たちは現時点で、これらの巨大なテクノロジー企業、莫大な資金を持つこれらのテクノロジー企業に多大な信頼を寄せています。

there's only, there's very few of them developing this technology to get this right when it comes to the safety and the responsibility of developing these systems.

そして、これらのシステムを開発する上での安全性と責任に関して、この問題を正しく行うことができるのは、ごくわずかな開発者だけです。

And that, I think, is a really profound thought.

そして、それは非常に深い考えだと思います。

When you think about it, Steve, here in the United States, the regulatory system is way different than it is over in the eu.

スティーブ、考えてみると、ここアメリカでは規制システムはEUとは全く違いますよね。

And companies here kind of have the benefit of lax regulation.

そして、ここでの企業は緩い規制の恩恵を受けているようなものです。

We went through this in the web 2.0 world, in the social media world, nothing happened.

Web 2.0の世界、ソーシャルメディアの世界でも同じようなことがありましたが、何も起こりませんでした。

We saw all the problems related to election interference, Cambridge Analytica, you know, all sorts of terrible things happening on YouTube and no regulation happened.

選挙干渉、ケンブリッジ・アナリティカ、YouTubeで起こったあらゆるひどいことに関連する問題を見ましたが、規制は何も起こりませんでした。

So when you say, you know, we have to put our trust in these companies, and

ですから、私たちがこれらの企業を信頼しなければならないと言うとき、そして

That's because our, at least here in the United States, our government has shown a lack of desire to really solve these issues.

それは、少なくともここアメリカでは、私たちの政府がこれらの問題を本当に解決したいという意欲を示していないからです。

So these AI companies, they have the benefit of just going at it.

ですから、これらのAI企業は、ただ突き進むという恩恵を受けています。

And the eu, I know you can speak to this a little bit, they're working on stuff in a more serious way, but

そしてEUは、これについて少しお話しいただけると思いますが、より真剣な方法で取り組んでいますが、

And in the meantime, this is evolving faster than regulators can even keep up.

そしてその間にも、規制当局が追いつくことすらできないほど、これは急速に進化しています。

それがまさにポイントなのです。

The regulators are always playing catch up because this technology is developing so fast.

この技術は非常に速く開発されているため、規制当局は常に追いつこうとしています。

I mean, the tech industry, industry will say, you know, we want the regulation, but

つまり、テクノロジー業界は、規制を求めていると言いますが、

we want it to be thoughtful and we want it to be adaptable.

それが慎重で適応性のあるものであることを望んでいます。

And the regulators will say, well, yeah, we need regulation, but

そして規制当局は、そう、規制は必要だと言うでしょうが、

they also are trying to themselves get to grip with, with what this technology is.

彼ら自身も、この技術が何であるかを理解しようとしています。

ですから、これは難しい状況です。

But these are the kind of topics we're going to unpack in this episode, both from how do you develop these AI systems responsibly from within, but

しかし、これらはまさに、AIシステムを内部から責任ある方法でどのように開発するか、という点も含めて、このエピソードで掘り下げていくトピックです。

also how does the regulatory approach fit in here and what kind of regulation could be brought forward.

そして、規制のアプローチはどのように関係し、どのような規制が導入される可能性があるのでしょうか。

We've got two super interesting guests and I want to kick off with the first one.

非常に興味深いゲストが2名いらっしゃいますので、まずはお一人目からご紹介します。

It'd be great to just kick off with, I guess, sort of trying to define what we mean by responsible development.

まず、責任ある開発とは何を意味するのか、定義することから始めたいと思います。

What are the kind of things you're thinking about?

どのようなことを考えていらっしゃいますか？

We want to build AI to benefit the world and humanity.

私たちは、世界と人類の利益のためにAIを構築したいと考えています。

それが私たちのミッションです。

So for us, we, what that means is being really thoughtful about how we're building and how we're, you know, like how our AI is being used.

私たちにとって、それはまさに、どのように構築しているか、そしてAIがどのように利用されているかについて、非常に慎重に考えることを意味します。

So our approach always takes into account the AI principles.

私たちの取り組みは、常にAIの原則を考慮に入れています。

It's guided by that and it centers around these principles of responsible governance, responsible research and responsible impact.

それは、それによって導かれ、責任あるガバナンス、責任ある研究、責任ある影響という原則を中心に据えています。

So when we think about responsible AI at Google DeepMind, we're not seeing it as something where it's slowing down progress or it's about hitting the brakes.

Google DeepMindにおける責任あるAIについて考えるとき、それは進歩を遅らせるものでも、ブレーキをかけることでもないと捉えています。

Instead, it's about us thoughtfully designing it from the very, very beginning, considering it at all aspects and all parts of the development journey.

むしろ、開発ジャーニーのあらゆる側面、あらゆる部分で、最初から最後まで、慎重に設計していくことです。

And when I talk about risks too, we think about quite a broad spectrum of risks.

リスクについて話すときも、かなり幅広いリスクを考えています。

So you would have seen our Frontier safety framework.

ですから、Frontierの安全性フレームワークをご覧になったかと思います。

It thinks about the most severe types of risks, like chemical and biological risks or cyber risks.

それは、化学的・生物学的なリスクやサイバーリスクのような、最も深刻な種類のリスクを考慮しています。

But we're also thinking about near term risks as well.

しかし、短期的なリスクについても考えています。

So whether that's bias and inequality, because they're really important.

例えば、バイアスや不平等など、それらは非常に重要だからです。

And we want to think about these things as a holistic set of risks and opportunities.

そして、これらをリスクと機会の全体的なセットとして捉えたいと考えています。

そして、それらは非常に関連していると考えています。

So that's why we don't want to just consider one or the other in isolation.

ですから、どちらか一方だけを孤立して考慮したくないのです。

They should be considered as a whole and as something that we are like considering in tandem and in parallel.

全体として、そして同時に並行して考慮しているものとして考えるべきです。

Some will say, you know, Google DeepMind's goal to, to build AI that benefits humanity and as part of that artificial general intelligence, this sort of idea of this extremely powerful AI systems that there's this kind of tension between being able to achieve AGI and these powerful AI systems and doing so responsibly that there is always this, this kind of tension there.

Google DeepMindの目標は、人類に利益をもたらすAIを構築することであり、その一部として人工汎用知能、つまり非常に強力なAIシステムという考え方には、AGIを達成できることと、これらの強力なAIシステムを責任を持って行うこととの間に、常に緊張関係があると言う人もいるでしょう。

And actually, can the two really coexist?

そして実際、その二つは本当に共存できるのでしょうか？

I do strongly believe that they coexist and they're not in competition.

共存できると強く信じており、競争関係にはありません。

And you know, going back to the point I around designing this thoughtfully in from the beginning, if you do that, it's really well considered and it must be done now as opposed to like, we don't want to get to AGI and go, hmm, we should now be thinking about these types of risks, but

そして、最初から慎重に設計するという私のポイントに戻ると、そうすれば、それは非常によく考慮されており、AGIに到達して「うーん、今これらのリスクについて考えるべきだ」と言うのではなく、今やらなければなりません。

rather think about it now so that we're getting ahead.

むしろ、先を見越せるように今考えるべきです。

A good example of this is the work that we did in AlphaFold, which I realize is not necessarily an AGI example, but

その良い例が、私たちがAlphaFoldで行ったことです。AGIの例とは必ずしも言えませんが、

with Alphafold, we embedded in the team for many, many years, working through with them and helping them anticipate some of the opportunities and, and

AlphaFoldでは、何年もの間チームに深く関わり、彼らと共に作業し、いくつかの機会を予測するのを手助けしました。

that meant that we helped sort of shape it from the very, very sort of like beginning.

それは、まさに最初からそれを形作るのを手助けしたということです。

And at the end we launched it and it was very, very successful and actually saw the benefits that we wanted to see come out of it for society.

そして最終的にそれをリリースし、非常に成功し、社会のために私たちが望んでいた利益が見られました。

And I think that is the process that we want to continue replicating even as we're getting to AGI.

そして、AGIに到達する際にも、このプロセスを継続的に再現したいと考えています。

The unfortunate thing, I guess, about unintended consequences is that we may not know what those unintended consequences might be.

意図しない結果についての残念な点は、それらが何であるか分からない可能性があることです。

How comfortable do you feel about your level of knowing what the risks are at this point?

現時点でリスクをどの程度把握していると感じていますか？

I think we have a good grip on some of the biggest risks that goes back to the frontier safety framework, because these are the big ones that we have considered, but

Frontier AIの安全性フレームワークに戻ると、私たちが考慮してきた大きなリスクについては、よく把握できていると思います。

also we've seen considered across the industry.

業界全体でも考慮されているからです。

So we know that there is some alignment in terms of the way that people are thinking about that, but

ですから、人々の考え方にはある程度の整合性があることがわかりますが、

we also need to be very mindful and thoughtful about monitoring as well.

モニタリングについても、非常に注意深く、慎重に行う必要があります。

So looking at exactly how the models are being used and in specific use cases, so that we can then say, right, based on this, we didn't see this one coming.

モデルがどのように使用されているか、具体的なユースケースを正確に確認することで、「これに基づいて、これは予期していなかった」と言うことができます。

And so actually we need to do, we need to make some changes and some adjustments.

そして実際に行う必要があるのは、変更や調整を加えることです。

And the other big, I think debate and concern right now is around misinformation and hallucinations with some of these AI systems.

そしてもう一つ、現在大きな議論や懸念となっているのは、これらのAIシステムにおける誤情報や幻覚についてです。

And you know, granted, using them, they've got a lot better, a lot, lot better, certainly from, you know, when they were first emerging and getting very popular with users.

そして、使用している中で、登場したばかりでユーザーに非常に人気が出始めた頃と比べると、はるかに、はるかに良くなっていることは認めます。

Yeah, but again it's, it's accuracy of these Systems is not 100%.

ええ、しかし繰り返しますが、これらのシステムの精度は100%ではありません。

So what's the kind of feedback mechanism for correcting and improving upon the misinformation that comes out of the systems that DeepMind's building?

DeepMindが構築しているシステムから出てくる誤情報を修正・改善するためのフィードバックメカニズムはどのようなものでしょうか？

Yeah, I think hallucinations are one of those unintended consequence, I think, of the creativity of the models.

ええ、幻覚は、モデルの創造性による意図しない結果の一つだと思います。

And so when we're trying to think about how to address that or where it may be appearing again, we go back to whether what we can see the users doing and users will flag things to us if they are seeing issues, but

そして、それをどのように対処するか、あるいはどこで再び現れる可能性があるかを考えているとき、ユーザーが何をしているかを確認し、ユーザーが問題に気づいた場合は私たちにフラグを立ててくれますが、

ログを通じて監視も行います。

We also have a number of different initiatives that we're putting into place to basically address things like factuality so that we're making sure that we're grounding in the right types of information.

事実確認のような問題に対処するために、適切な情報に基づいていることを確認するための、さまざまな取り組みも行っています。

Dawn, can you help me understand the term red teaming?

ドーンさん、レッドチーミングという言葉について説明していただけますか？

Red teaming is a really important part of our approach.

レッドチーミングは、私たちの取り組みの非常に重要な部分です。

And so like everybody has slightly different definitions, so I'll give you mine.

人によって定義が少しずつ異なるので、私の定義をお伝えします。

In our world, what it means is an unstructured sort of exploratory way of testing our models.

私たちの世界では、モデルをテストするための、構造化されていない探索的な方法を意味します。

And we complement that actually with structured evaluations.

そして、それに構造化された評価を加えています。

So data sets of like evaluations that we would run as standard on a model.

モデルに対して標準的に実行する評価のデータセットのようなものです。

But the red teaming side means we want to have people who either are like real experts in their fields or are wonderful at gel breaking.

しかし、レッドチーミングの側面は、それぞれの分野の専門家、あるいは「ブレーク」が得意な人に来てほしいということです。

And we want to see them really go in and explore the models and see what they can find and then they share that with us.

そして、彼らがモデルを深く探求し、何を見つけられるかを確認し、それを私たちと共有してほしいのです。

We will then make changes if appropriate, and then we can also then turn them into structured evaluations.

必要であれば変更を加え、その後、構造化された評価にすることもできます。

字幕リスト動画再生

AIを制御できるか？DeepMindの責任あるAI計画 (Can We Control AI? DeepMind’s Plan for Responsible AI)

perspective

episode

sort

approach