Name: RAG vs ファインチューニング vs プロンプトエンジニアリング：AIモデルの最適化 (RAG vs Fine-Tuning vs Prompt Engineering: Optimizing AI Models)
Uploaded: 2025-08-16T08:19:05.000Z
Duration: 13 min 10 s
Description: VoiceTubeの動画で発音を聞きながら英語表現を覚えよう！学べる英語：

再帰代名詞

Remember how, back in the day, people would Google themselves, you'd type your name into a search engine, and you'd see what it knows about you?

その昔、検索エンジンに自分の名前を入力すると、その検索エンジンが自分について何を知っているかを見ることができたのを覚えているだろうか？

Well, the modern equivalent of that is to do the same thing with a chatbot.

まあ、現代のそれに相当するのは、チャットボットで同じことをすることだ。

転換語

So when I ask a large language model, who is Martin Kean, well, the response varies greatly depending upon which model I'm asking, because different models, they have different training datasets, they have different knowledge cutoff dates.

大規模な言語モデルに、マーティン・キーンとは誰かと尋ねると、どのモデルに尋ねるかによって返答は大きく異なる。

So what a given model knows about me, well, it differs greatly.

だから、あるモデルが私について知っていることは、まあ、大きく異なる。

But how could we improve the model's answer?

しかし、どうすればモデルの答えを改善できるだろうか？

So let's start with a model here, and we're going to see how we can improve its responses.

では、このモデルから始めて、どうすれば反応を改善できるかを見ていこう。

Well, the first thing it could do is it could go out and it could perform a search, a search for new data that either wasn't in its training dataset, or it was just data that became available after the model finished training.

まず最初にできることは、トレーニング・データセットに含まれていない、あるいはモデルのトレーニング終了後に利用可能になった新しいデータを検索することだ。

And then it could incorporate those results from the search back into its answer.

そして、その検索結果を答えに反映させることができる。

That is called RAG, or Retrieval Augmented Generation.

これはRAG（Retrieval Augmented Generation）と呼ばれている。

Or we could pick a specialized model, a model that's been trained on, let's say, transcripts of these videos.

あるいは、特化したモデル、例えばこれらのビデオのトランスクリプトで訓練されたモデルを選ぶこともできる。

That would be an example of something called fine tuning.

それは微調整と呼ばれるものの一例だろう。

Or we could ask the model a query that better specifies what we're looking for.

あるいは、私たちが探しているものをより明確に指定するクエリーをモデルに尋ねることもできる。

So maybe the LLM already knows plenty about the Martin Keens of the world, but let's tell the model that we're referring to the Martin Keen who works at IBM, rather than the Martin Keen that founded Keen Shoes.

だから、LLMはすでに世界のマーティン・キーンについてよく知っているのかもしれないが、モデルには、キーン・シューズを創業したマーティン・キーンではなく、IBMで働くマーティン・キーンを指していることを伝えよう。

That is an example of prompt engineering.

これは迅速なエンジニアリングの一例だ。

Three ways to get better outputs out of large language models, each with their pluses and minuses.

大規模言語モデルからより良い出力を得るための3つの方法、それぞれにプラスとマイナスがある。

では、それを分解してみよう。

So retrieval of external up-to-date information.

そのため、外部の最新情報を検索する。

That's augmentation of the original prompt with the retrieved information added in.

それは、元のプロンプトに検索された情報を追加したものだ。

That's generation of a response based on all of this enriched context.

それは、この豊かなコンテクストのすべてに基づいた反応の生成だ。

だから、こう考えることができる。

So we start with a query, and the query comes in to a large language model.

クエリから始まり、そのクエリが大規模な言語モデルに入ってくる。

Now what RAG is going to do is it's first going to go searching through a corpus of information.

RAGはまず、情報のコーパスを検索する。

So we have this corpus here full of some sort of data.

このコーパスにはある種のデータが詰まっている。

Now perhaps that's your organisation's documents.

おそらく、それはあなたの組織の文書だろう。

So it might be spreadsheets, PDFs, internal wikis, you know, stuff like that.

スプレッドシート、PDF、社内Wiki、そういったものだ。

But unlike a typical search engine that just matches keywords, RAG converts both your question, the query, and all of the documents into something called vector embeddings.

しかし、キーワードをマッチングさせるだけの一般的な検索エンジンとは異なり、RAGは質問とクエリ、そしてすべての文書をベクトル埋め込みと呼ばれるものに変換する。

So these are all converted into vectors, essentially turning words and phrases into long lists of numbers that capture their meaning.

そのため、これらはすべてベクトルに変換され、基本的には単語やフレーズをその意味をとらえる数字の長いリストに変える。

So when you ask a query like, what was our company's revenue growth last quarter?

だから、前四半期の収益成長率はどうでしたか？

Well RAG will find documents that are mathematically similar in meaning to your question, even if they don't use the exact same words.

RAGは、まったく同じ言葉が使われていなくても、あなたの質問と数学的に似た意味を持つ文書を見つける。

So it might find documents mentioning fourth quarter performance or quarterly sales.

そのため、第4四半期の業績や四半期ごとの売上高に言及した文書が見つかるかもしれない。

Those don't contain the keyword revenue growth, but they are semantically similar.

これらのキーワードには収益成長という言葉は含まれていないが、意味的には似ている。

Now once RAG finds the relevant information, it adds this information back into your original query before passing it to the language model.

RAGが関連情報を見つけると、言語モデルに渡す前に、その情報を元のクエリに追加する。

So instead of the model just kind of guessing based on its training data, it can now generate a response that incorporates your actual facts and figures.

そのため、モデルは学習データに基づいて推測するのではなく、実際の事実や数字を組み込んだ回答を生成することができる。

So this makes RAG particularly valuable when you are looking for information that is up to date, and it's also very valuable when you need to add in information that is domain specific as well.

このため、RAGは最新の情報を探しているときに特に重宝され、また、ドメイン固有の情報を追加する必要があるときにも非常に有用である。

しかし、これにはコストがかかる。

So one cost, that would be the cost of performance for performing all of this, because you have this retrieval step here, and that adds latency to each query compared to a simple prompt to a model.

そのため、単純なモデルへのプロンプトと比較して、各クエリに待ち時間が発生します。

There are also costs related to just kind of the processing of this as well.

また、その処理にも費用がかかる。

So if we think about what we are having to do here, we've got documents that need to be vector embeddings, and we need to store these vector embeddings in a database.

ここで何をしなければならないかを考えてみると、ベクトル埋め込みが必要な文書があり、そのベクトル埋め込みをデータベースに保存する必要がある。

All of this adds to processing costs, it adds to infrastructure costs to make this solution work.

これらすべてが処理コストに加算され、このソリューションを機能させるためのインフラ・コストに加算される。

So remember how we discussed getting better answers about me by training a model specifically on let's say my video transcripts?

そこで、例えば私のビデオ録画に特化したモデルを訓練することで、私についてより良い答えを得ることができると話し合ったのを覚えている？

これがファイン・チューニングだ。

So what we do with fine tuning is we take a model, but specifically an existing model.

つまり、ファインチューニングで行うのは、あるモデル、特に既存のモデルを使うということだ。

And that existing model has broad knowledge.

そして、その既存のモデルは幅広い知識を持っている。

And then we're going to give it additional specialised training on a focused data set.

そして、集中したデータセットでさらに特別なトレーニングを行う。

So this is now specialised to what we want to develop particular expertise on.

そのため、現在は特に専門性を高めたい分野に特化している。

Now during fine tuning, we're updating the model's internal parameters through additional training.

ファインチューニングでは、追加トレーニングによってモデルの内部パラメーターを更新する。

So the model starts out with some weights here, kind of like this.

このモデルは、このようなウェイトからスタートする。

And those weights were optimised during its initial pre-training.

そしてその重みは、最初の事前学習で最適化された。

And as we fine tune, we're making small adjustments here to the model's weight using this specialised data set.

そして微調整を行いながら、この特別なデータセットを使ってモデルのウェイトを微調整している。

だから、これを取り入れている。

Now this process typically uses supervised learning, where we provide input-output pairs that demonstrate the kind of responses we want.

このプロセスでは通常、教師あり学習が使われ、私たちが望む反応を示す入出力ペアを提供する。

So for example, if we're fine tuning for technical support, we might provide thousands of examples of customer queries, and those would be paired with correct technical responses.

例えば、テクニカル・サポートのファイン・チューニングをする場合、顧客からの問い合わせの例を何千と提供し、それらと正しいテクニカル・レスポンスをペアにして提供する。

The model adjusts its weights through backpropagation to minimise the difference between its predicted outputs and the targeted responses.

モデルは、バックプロパゲーションによって重みを調整し、予測出力と目標とする応答との差を最小化する。

So we're not just teaching the model new facts here, we're actually modifying how it processes information.

つまり、私たちはモデルに新しい事実を教えるだけでなく、モデルが情報を処理する方法を実際に修正しているのだ。

The model is learning to recognise domain-specific patterns.

このモデルは、ドメイン固有のパターンを認識するように学習している。

So fine tuning shows its strength when you particularly need a model that has very deep domain expertise.

ファイン・チューニングが威力を発揮するのは、特に深い専門知識を持つモデルが必要な場合だ。

That's what we can really add in with fine tuning.

それこそ、微調整で本当に追加できるものだ。

And also, it's much faster, specifically at inference time.

また、推論時のスピードも格段に速くなった。

So when we are putting the queries in, it's faster than RAG because it doesn't need to search through external data.

そのため、クエリーを投入する際、外部データを検索する必要がないため、RAGよりも速い。

And because the knowledge is kind of baked into the model's weights, you don't need to maintain a separate vector database.

そして、その知識はモデルの重みに焼き付けられているようなものなので、別個のベクトルデータベースを維持する必要はない。

Well, there's certainly issues here with the training complexity of all of this.

まあ、確かにこのトレーニングの複雑さには問題がある。

You're going to need thousands of high-quality training examples.

何千もの質の高いトレーニング例が必要になる。

There are also issues with computational cost.

The computational cost for training this model can be substantial and it's going to require a whole bunch of GPUs.

このモデルをトレーニングするための計算コストは相当なものになり、GPUが大量に必要になる。

And there's also challenges related to maintenance as well, because unlike RAG, where you can easily add new documents to your knowledge base at any point, updating a fine-tuned model requires another round of training.

また、メンテナンスに関する課題もある。いつでも簡単に新しいドキュメントを知識ベースに追加できるRAGとは異なり、微調整されたモデルを更新するには、再度トレーニングを行う必要があるからだ。

And then perhaps most importantly of all, there is a risk of something called catastrophic forgetting.

そしておそらく最も重要なのは、壊滅的な忘却と呼ばれるリスクがあることだ。

Now that's when the model loses some of its general capabilities while it's busy learning these specialised ones.

特殊な能力を身につけるのに忙しくなっている間に、モデルは一般的な能力を失ってしまうのだ。

So finally, let's explore prompt engineering.

それでは最後に、プロンプト・エンジニアリングを探ってみよう。

Specifying Martin Keen who works at IBM versus Martin Keen who founded Keen Shoes, that's prompt engineering, but at its most basic.

IBMで働くマーティン・キーンと、キーン・シューズを創業したマーティン・キーンを比較することは、迅速なエンジニアリングだが、最も基本的なことだ。

Prompt engineering goes far beyond simple clarification.

プロンプト・エンジニアリングは単純な説明をはるかに超えている。

So let's think about when we input a prompt, the model receives this prompt and it processes it through a series of layers.

そこで、私たちがプロンプトを入力すると、モデルはこのプロンプトを受け取り、一連のレイヤーを通してそれを処理する、ということを考えてみよう。

And these layers are essentially attention mechanisms.

そして、これらの層は基本的に注意のメカニズムである。

And each one focuses on different aspects of your prompt text that came in.

そしてそれぞれが、送られてきたプロンプト・テキストのさまざまな側面に焦点を当てている。

And by including specific elements in your prompt, so examples or context or how you want the format to look, you're directing the model's attention to relevant patterns it learned during training.

また、プロンプトに具体的な要素、つまり例や文脈、フォーマットをどのように見せたいかを含めることで、トレーニング中に学習した関連パターンにモデルの注意を向けさせることができる。

So for example, telling a model to think about this step by step, that activates patterns it learned from training data where methodical reasoning led to accurate results.

つまり、例えば、モデルに段階を追って考えるように指示することで、訓練データから学習したパターンが活性化され、理路整然とした推論が正確な結果を導くのだ。

So a well engineered prompt can transform a model's output without any additional training or without data retrieval.

そのため、うまく設計されたプロンプトは、追加のトレーニングやデータ検索なしにモデルの出力を変換することができる。

では、プロンプトの例を見てみよう。

あまり良いプロンプトではない。

An engineered prompt, it might read a bit more like this.

エンジニアのプロンプトなら、もう少しこんな風に読めるかもしれない。

新しいデータは追加していない。

We've just better activated its existing capabilities.

既存の能力をより活性化させただけだ。

Now I think the benefits to this are pretty obvious.

このメリットは明らかだと思う。

One is that we don't need to change any of our back end infrastructure here because there are no infrastructure changes at all in order to prompt better.

ひとつは、バックエンドのインフラを変更する必要がないということだ。

There's also the benefit that by doing this, you get to see immediate responses and immediate results to what you do.

また、こうすることで、自分の行動に対する反応や結果がすぐにわかるというメリットもある。

We don't have to add in new training data or any kind of data processing.

新たなトレーニングデータを追加したり、データ処理をしたりする必要はない。

But of course, there are some limitations to this as well.

しかしもちろん、これにも限界がある。

Prompt engineering is as much an art as it is a science.

迅速なエンジニアリングは、科学であると同時に芸術でもある。