Name: 独自のAIを運営する（ただし非公開） (Run your own AI (but private))
Uploaded: 2024-10-01T13:32:00.000Z
Duration: 22 min 13 s

現在進行形

私はプライベートAIというものを運営している。

It's kind of like ChatGPT, except it's not.

Everything about it is running right here on my computer.

そのすべてが私のコンピューターで動いている。

インターネットにも接続していない。

This is private, contained, and my data isn't being shared with some random company.

これはプライベートなもので、私のデータはどこかのランダムな会社と共有されることはない。

So in this video, I want to do two things.

そこでこのビデオでは、2つのことをしたい。

First, I want to show you how to set this up.

まず、この設定方法をお見せしたい。

It is ridiculously easy and fast to run your own AI on your laptop, computer, or whatever it is.

ラップトップでもコンピューターでも何でも、自分のAIを動かすのはとんでもなく簡単で速い。

This is free, it's amazing, it'll take you about five minutes.

無料だし、素晴らしいし、5分もあればできる。

And if you stick around to the end, I want to show you something even crazier, a bit more advanced.

そして最後までお付き合いいただければ、さらにクレイジーで、もう少し高度なものをお見せしたい。

I'll show you how you can connect your knowledge base, your notes, your documents, your journal entries, to your own Private GPT, and then ask it questions about your stuff.

あなたのナレッジ・ベース、メモ、文書、日記をあなたのプライベートGPTに接続し、あなたのものに関して質問する方法をお見せしよう。

And then second, I want to talk about how Private AI is helping us in the area we need help most, our jobs.

そして2つ目は、プライベートAIが、私たちが最も助けを必要としている分野である雇用において、どのように役立っているかについてお話ししたいと思います。

You may not know this, but not everyone can use ChatGPT or something like it at their job.

あなたは知らないかもしれませんが、誰もが仕事でChatGPTなどを使えるわけではありません。

Their companies won't let them, mainly because of privacy and security reasons.

主にプライバシーとセキュリティ上の理由から、彼らの会社はそうさせない。

But if they could run their own Private AI, that's a different story.

しかし、もし彼らが独自のプライベートAIを動かすことができれば、話は別だ。

それはまったく別のゲームだ。

And VMware is a big reason this is possible.

そして、VMwareがこれを可能にした大きな理由である。

They are the sponsor of this video, and they're enabling some amazing things that companies can do on-prem in their own data center to run their own AI.

彼らはこのビデオのスポンサーであり、企業が独自のAIを実行するために、自社のデータセンターでオンプレミスでできる素晴らしいことを可能にしている。

And it's not just the cloud, man, it's like in your data center.

クラウドだけでなく、データセンターでも同様だ。

彼らがやっていることはクレイジーだ。

それについては、もう少ししたらここで話すつもりだ。

Just go ahead and open it and take a little glimpse at what they're doing.

さっそく開いて、彼らが何をしているのか少し覗いてみてほしい。

We're gonna dive deeper, so just go ahead and have it open right in your second monitor or something, or on the side, or minimize.

これからもっと深く潜っていくから、セカンドモニターか何かで開いておいてくれ。

I don't know what you're doing, I don't know how many monitors you have.

何をやっているのか知らないし、モニターが何台あるのかも知らない。

Oh, and before we get started, I have to show you this.

ああ、始める前にこれを見てほしい。

You can run your own private AI that's kind of uncensored.

検閲のない自分だけのAIを動かすことができる。

So yeah, please don't do this to destroy me.

そうそう、僕を破滅させるようなことはしないでくれ。

At the end of this video, I'm doing a quiz.

このビデオの最後にクイズを出します。

And if you're one of the first five people to get 100% on this quiz, you're getting some free coffee.

そして、このクイズで100％を獲得した最初の5人のうちの1人なら、無料のコーヒーがもらえる。

ネットワーク・チャック・コーヒー

So take some notes, study up, let's do this.

だから、メモを取って、勉強して、やろうじゃないか。

Now, real quick, before we install a private local AI model on your computer, what does it even mean?

さて、あなたのコンピューターにプライベートなローカルAIモデルをインストールする前に、本当に手短に説明しよう。

At its core, an AI model is simply an artificial intelligence pre-trained on data we've provided.

AIモデルの核心は、我々が提供したデータで事前に訓練された人工知能に過ぎない。

One you may have heard of is OpenAI's chat GPT, but it's not the only one out there.

オープンエイのチャットGPTは聞いたことがあるかもしれないが、それだけではない。

We're gonna go to a website called huggingface.co.

これからhuggingface.coというウェブサイトに行く。

Just an incredible brand name, I love it so much.

本当に素晴らしいブランド名で、とても気に入っている。

This is an entire community dedicated to providing and sharing AI models.

これは、AIモデルを提供し、共有することに特化したコミュニティ全体である。

You're about to have your mind blown, ready?

あなたの心を揺さぶりますよ、いいですか？

ここでモデルをクリックするよ。

Many of these are open and free for you to use, and they're pre-trained, which is kind of a crazy thing.

これらの多くはオープンで無料で使えるし、事前にトレーニングされている。

We're gonna search for a model named Llama 2, one of the most popular models out there.

最も人気のあるモデルのひとつであるラマ2というモデルを探すことにしよう。

私は、このブランディングが大好きだ。

Llama 2 is an AI model known as an LLM or large language model.

ラマ2は、LLMまたは大規模言語モデルとして知られるAIモデルである。

Now this LLM, this pre-trained AI model was made by Meta, AKA Facebook.

さて、このLLM、つまり事前に訓練されたAIモデルは、メタ、別名フェイスブックによって作られた。

And what they did to pre-train this model is kind of insane.

そして、このモデルを事前にトレーニングするために彼らが行ったことは、ある意味、狂気の沙汰だ。

And the fact that we're about to download this and use it, even crazier.

そして、これをダウンロードして使おうとしているという事実が、さらにクレイジーだ。

If you scroll down just a little bit, here we go, training data.

少し下にスクロールすると、トレーニングデータがあります。

It was trained by over 2 trillion tokens of data from publicly available sources, instruction data sets, over a million human annotated examples.

これは、一般に公開されているソース、命令データセット、100万以上の人間が注釈を付けた例から2兆以上のトークンのデータによって訓練された。

Data freshness, we're talking July, 2023.

データの鮮度は2023年7月の話だ。

データの鮮度という言葉が好きだ。

データの入手はその第一歩に過ぎない。

Step two is insane because this is where the training happens.

ステップ2は非常識で、ここでトレーニングが行われるからだ。

Meta, to train this model, put together what's called a super cluster.

メタは、このモデルをトレーニングするために、スーパークラスターと呼ばれるものを作る。

これは6,000以上のGPUを搭載している。

It took 1.7 million GPU hours to train this model.

このモデルのトレーニングには170万GPU時間を要した。

And it's estimated it costs around $20 million to train it.

訓練には2000万ドルほどかかると言われている。

And now Meta's just like, here you go kid, download this incredibly powerful thing.

そして今、メタは、さあ小僧、この信じられないほどパワフルなものをダウンロードするんだ。

まだビーイングとは呼びたくない。

私はまだその準備ができていない。

But this intelligent source of information that you can just download on your laptop and ask it questions.

しかし、このインテリジェントな情報源は、ノートパソコンにダウンロードして質問するだけでいい。

And this is just one of the many models we could download.

そしてこれは、私たちがダウンロードできる数多くのモデルのひとつに過ぎない。

They have special models like text to speech, image to image.

テキストから音声、画像から画像といった特殊なモデルもある。

They have an uncensored version of Allama too.

アラマのノーカット版もある。

This guy, George Sung, took this model and fine tuned it with a pretty hefty GPU, took him 19 hours and made it to where you could pretty much ask this thing anything you wanted.

このジョージ・サンという男は、このモデルをかなり重いGPUで微調整し、19時間かけて、ほとんど何でも聞けるようにした。

Whatever question comes to mind, it's not going to hold back.

どんな疑問が浮かんだとしても、それを抑えるつもりはない。

So how do we get this fine tuned model onto your computer?

では、この微調整されたモデルをどうやってコンピューターに取り込むのか？

Well, actually I should warn you, this involves quite a bit of Allamas, more than you would expect.

警告しておくが、この映画にはアラマスがかなり登場する。

Our journey starts at a tool called Allama.

私たちの旅はアラマという道具から始まる。

Let's go ahead and take a field trip out there real quick.

さっそく遠足に行ってみよう。

All we have to do is install this little guy, Mr. Allama.

あとはこの小さな男、アラマ氏を設置するだけだ。

And then we can run a ton of different LLMs.

そうすれば、さまざまなLLMを運営することができる。

Llama2, Code Llama, told you lots of llamas.

ラマ2、コード・ラマは、たくさんのラマをあなたに伝えた。

And there's others that are pretty fun like Llama2 Uncensored, more llamas.

他にも『Llama2 Uncensored』のような、もっとラマがたくさん出てくる楽しいものもある。

ミストラル、すぐにお見せしますよ。

その前に、アラマを何にインストールするのか？

We can see right down here that we have it available on Mac OS and Linux, but oh, bummer, Windows coming soon.

マックOSとリナックスで利用可能なのはこの下を見ればわかる。

It's okay, because we've got WSL, the Windows Subsystem for Linux, which is now really easy to set up.

WSL（Linux用Windowsサブシステム）があるから大丈夫だ。

So we'll go ahead and click on download right here.

では、ここでダウンロードをクリックしましょう。

For Mac OS, you'll just simply download this and install it like one of your regular applications.

マックOSの場合は、これをダウンロードして通常のアプリケーションのようにインストールするだけだ。

Linuxの場合は、これをクリックする。

字幕リスト動画再生

独自のAIを運営する（ただし非公開） (Run your own AI (but private))

stuff

specific

insane

version