Name: ディープフェイクがフィードを氾濫させる：AI動画の危険性とその見分け方 | DW News (Deepfakes flooding your feed: Why AI videos are dangerous — and how to spot them | DW News)
Uploaded: 2026-01-02T13:41:30.000Z
Duration: 4 min 48 s
Description: VoiceTubeの動画で発音を聞きながら英語表現を覚えよう！学べる英語：

Wild animal attacks, newborn babies running out of hospitals, celebrities committing crimes, all on our feeds and all AI generated.

野生動物の襲撃、新生児の病院からの脱走、有名人の犯罪行為、これらすべてが私たちのフィードに流れ込み、すべてAI生成です。

They grab your attention, push your fear, or they make you believe things that never happened.

それらは私たちの注意を引きつけ、恐怖を煽り、あるいは実際には起こらなかったことを信じ込ませます。

程度の副詞

AI video generators got so good that it's getting harder and harder to tell what's real and what's AI generated.

AI動画生成は非常に高性能になり、何が本物で何がAI生成されたものかを見分けるのがますます困難になっています。

Let's have a look at why this is problematic, how they are produced and how to spot fake video.

なぜこれが問題なのか、どのように生成されるのか、そして偽の動画を見分ける方法を見ていきましょう。

A study found that participants were only about 50% accurate in spotting AI generated content, including audio and visual AI material.

ある研究によると、参加者は音声や映像のAI素材を含むAI生成コンテンツを見分ける精度が約50%だったことがわかりました。

Some of these clips, such as the running babies or cute rabbits on the trampoline, might be harmless and funny, but

走る赤ちゃんやトランポリンで遊ぶかわいいウサギのようなクリップの中には、無害で面白いものもあるかもしれませんが、

social media amplifies the spread of political and emotional messages.

ソーシャルメディアは政治的・感情的なメッセージの拡散を増幅させます。

The broader thing here that you have to understand that's dangerous is that when we enter a world where half or more of what you see is fake, when you see the real thing, you're not necessarily going to believe it.

ここで理解しなければならない、より広範で危険な点は、目にするものの半分以上が偽物である世界に入ると、本物を見たときに必ずしもそれを信じなくなってしまうということです。

こうして突然、私たちの世界には2つの危険が生じます。

People are doing bad things with deepfakes and generative AI scams, frauds, non consensual imagery, child sexual abuse, disinformation campaigns.

ディープフェイクや生成AIを使ったスカム、詐欺、同意なき画像、児童性的虐待、偽情報キャンペーンなどで人々が悪事を働いています。

But then when the real video of police misconduct, human rights violations, a politician saying something illegal or awful comes out, what's going to happen?

しかし、警察の不正行為、人権侵害、政治家が違法またはひどいことを言っている本物の映像が出てきたら、どうなるのでしょうか？

And so when you see this massive flood, everybody becomes suspicious of everything.

そして、この大規模な洪水を見たとき、誰もがすべてを疑うようになります。

You've probably used chatbots like ChatGPT, Gemini, Copilot.

ChatGPT、Gemini、Copilotのようなチャットボットを使ったことがあるでしょう。

The technology behind them is called large language models.

その背後にある技術は、大規模言語モデルと呼ばれます。

Put simply, they work by using tokens, basically numbers that represent words, letters or punctuation marks.

簡単に言うと、それらはトークン、つまり単語、文字、句読点を表す数字を使って機能します。

Text to video tools are a little trickier.

テキストから動画へのツールは、もう少し扱いにくいです。

They need to handle text inputs like your prompt and create videos or sound.

プロンプトのようなテキスト入力を処理し、動画や音声を作成する必要があります。

They are so called cross modal models, which is more or less a shared space for several AIs to work together and exchange information.

これらはクロスモーダルモデルと呼ばれ、複数のAIが協力して情報を交換する共有スペースのようなものです。

And this is how it works when you create a video with a prompt.

そして、プロンプトで動画を作成する際は、このような仕組みで動作します。

For example, with Google's VO3 video generator, the LLM breaks your input down into structured elements, for example, what the environment should look like, actions and emotions, and

例えば、GoogleのVO3動画生成では、LLMが入力された内容を、環境の外観、アクション、感情などの構造化された要素に分解し、

各シーンの詳細な計画を作成します。

Then a so called diffusion model creates realistic images frame by frame.

次に、ディフュージョンモデルと呼ばれるものが、フレームごとにリアルな画像を生成します。

It starts with random noise and gradually refines it into a coherent image that matches the LLM's instructions.

これはランダムなノイズから始まり、LLMの指示に合った一貫性のある画像へと徐々に洗練させていきます。

Afterwards, a temporal model predicts how each frame should change over time, creating smooth motion and transitions.

その後、テンポラルモデルが各フレームが時間とともにどのように変化すべきかを予測し、滑らかな動きと遷移を作成します。

Finally, all frames are stitched together into a complete video.

最後に、すべてのフレームが結合されて、完成した動画になります。

Please note, this is a very simplified explanation.

これは非常に簡略化された説明であることにご注意ください。

サウンドを作成できるモデルもあります。

But it's also very easy to misuse Are there still ways to detect deepfakes?

でも、悪用も非常に簡単です。ディープフェイクを検出する方法はまだありますか？

Some have obvious watermarks, like this one from OpenAI's Sora 2.

OpenAIのSora 2のような、これは分かりやすいウォーターマークがあるものもあります。

でも、もしなかったらどうでしょう？

Here are three tips how to detect an AI generated Video if you believe this CCTV footage, OpenAI founder Sam Altman stole GPUs in a store using an AI detection tool such as Hive.

AI生成された動画を検出するための3つのヒントです。このCCTV映像を信じるなら、OpenAIの創設者サム・アルトマンが店でGPUを盗んだというAI検出ツール（Hiveなど）を使ってみてください。

This video is likely to contain AI generated or deepfake content 99%, even though it's clear here such AI detection tools cannot yet detect all AI fakes and are only an indication.

この動画は、AI生成またはディープフェイクコンテンツを99%含んでいる可能性が高いです。ここでは明らかですが、そのようなAI検出ツールはまだすべてのAIフェイクを検出できず、あくまで指標にすぎません。

Zoom in and you'll see that this package moves as if by magic without the AI generated Sam Altman ever touching it.

ズームインすると、AI生成されたサム・アルトマンが触れていないのに、このパッケージが魔法のように動いているのがわかります。

Here you can see that the man's legs blend into the bench, even when it's hard to detect sometimes.

ここでは、男性の足がベンチに溶け込んでいるのがわかります。検出が難しい場合もありますが。

Often it's unnatural movements or blinding body parts that can still give it away.

しばしば、不自然な動きや、目をくらませるような体の部分が、まだそれを明らかにする可能性があります。

When you have visuals like this, ask yourself, does any of this even make sense?

このような映像を見たときは、これらはすべて理にかなっているのだろうか、と自問してみてください。

Or is this video just playing with your emotions?

それとも、この動画はあなたの感情を弄んでいるだけなのでしょうか？

両親はパニックで叫んでいます。

But the father running through a bucket and the mother running the wrong way?

でも、お父さんがバケツの中を走り抜け、お母さんが逆方向に走っているのは？

それほど論理的ではありません。

そして今、私たちは混乱しています。

Because I would argue that if we have a society where we don't agree on basic facts of what is happening in the world, we are destabilizing societies, economies and democracies.

なぜなら、もし私たちが世界の出来事について基本的な事実に合意できない社会を持っているなら、社会、経済、民主主義を不安定にしていると主張するでしょうから。

And that's what the combination of AI and social media are doing.

そして、それがAIとソーシャルメディアの組み合わせがしていることです。

The AI generated viral hits follow a recipe as old as social media evoke strong emotions.

AI生成されたバイラルヒットは、ソーシャルメディアと同じくらい古いレシピに従って、強い感情を呼び起こします。

これがエンゲージメントを得るための鍵です。

People that are triggered emotionally are more likely to comment or share, so check content before you share it.

感情的にトリガーされた人はコメントしたり共有したりする可能性が高いため、共有する前にコンテンツを確認してください。