Well, first, it was more for me.

まあ、まずは自分のためだった。

I wanted to run all of my AI locally.

私はすべてのAIをローカルで動かしたかった。

And I'm not just talking command line with Olama.

Olamaのコマンドラインの話だけではない。

No, no, no.

いや、違う。

We have a GUI, a beautiful chat interface.

私たちにはGUIがあり、美しいチャットインターフェイスがあります。

And this thing's feature-filled.

機能満載だ。

It's got RBAC, chat histories, multiple models.

RBAC、チャット履歴、複数のモデルがある。

We can even add stable diffusion.

安定した拡散を加えることもできる。

And I was able to add this to my notes application, Obsidian, and have my chat interface right there.

そして、これを私のノート・アプリケーションであるObsidianに追加し、チャットのインターフェイスをそこに置くことができた。

I'm gonna show you how to do this.

その方法をお見せしよう。

Now, you don't need something crazy like Terry.

テリーのようなクレイジーなものは必要ない。

That's what I named my AI server.

それが私のAIサーバーの名前だ。

It can be something as simple as this, this laptop.

このノートパソコンのような単純なものでもいい。

I'll actually demo the entire setup on this laptop.

実際にこのノートパソコンでセットアップ全体をデモしてみる。

So luckily, the computer you're using right now, the one you're watching this video on, will probably work.

だから幸運なことに、あなたが今使っているコンピューター、つまりこのビデオを見ているコンピューターは、おそらく動くだろう。

And seriously, you're gonna love this.

そして真面目な話、これを気に入るはずだ。

It's customizable.

カスタマイズできる。

It's wicked fast, like way faster than anything else I've used.

これまで使ってきたどの製品よりも速い。

Isn't that amazing?

すごいでしょ？

And again, it's local.

そしてまた、地元だ。

It's private.

プライベートだ。

I control it, which is important because I'm giving it to my daughters.

娘たちに飲ませるのだから、私がコントロールするのは重要なことだ。

I want them to be able to use AI to help with school, but I don't want them to cheat or do anything else weird.

AIを学校の勉強に役立ててほしいが、カンニングや変なことはしてほしくない。

But because I have control,

でも、私がコントロールできるからだ、

I can put in special model files that restrict what they can do, what they can ask.

私は、彼らができることや要求できることを制限する特別なモデルファイルを置くことができる。

And I'll show you how to do that.

その方法をお見せしよう。

So here we go.

それでは、どうぞ。

We're about to dive in.

これから飛び込むところだ。

But first, let me have you meet Terry.

その前にテリーを紹介しよう。

Now, Terry has a lot of muscle.

今のテリーには筋肉がある。

So for the case, I needed something big.

だからケースには大きなものが必要だった。

I got the Leon Lee 011 Dynamic Evo XL.

僕はLeon Lee 011 Dynamic Evo XLを手に入れた。

It's a full tower E-ATX case.

フルタワーE-ATXケースだ。

Perfect to hold my Asus X670-E Creator ProArt motherboard.

Asus X670-E Creator ProArt マザーボードを収納するのに最適です。

This thing's also a beast.

これもまた獣だ。

I'll put it in the description so you can look at it.

説明文に書いておくので、見てほしい。

Now, I also gave Terry a big brain.

さて、私はテリーにも大きな頭脳を与えた。

He's got the AMD Ryzen 9 7950X.

彼はAMD Ryzen 9 7950Xを持っている。

That's 4.2 gigahertz and 16 cores.

これは4.2ギガヘルツで16コアだ。

For memory, I went a little crazy.

記憶のために、私は少しおかしくなった。

I've got 128 gigabytes of the G.Skill Trident Z5 Neo.

128GBのG.Skill Trident Z5 Neoを持っている。

It's DDR5-6000 and way overkill for what I'm doing.

DDR5-6000で、私がやっていることにはオーバーキルだ。

I think.

私はそう思う。

I got a Leon Lee water cooler for the CPU.

CPU用にLeon Leeの水冷クーラーを買ったんだ。

I'm not sure if I'm saying Leon Lee right.

レオン・リーという言い方が正しいかどうかは分からない。

I don't know.

分からないよ。

Correct me in the comments.

コメントで訂正してください。

You always do.

君はいつもそうだ。

And then for the stuff AI loves, I got two 4090s.

そしてAIが好きなもののために、4090を2台手に入れた。

It's the MSI Supreme and they're liquid cooled so they could fit on my motherboard.

MSIのSupremeで、液冷式なので私のマザーボードにフィットする。

24 gigabytes of memory each, giving me plenty of muscle for my AI models.

メモリはそれぞれ24ギガバイトで、AIモデルには十分なパワーを与えてくれる。

For storage, we got two Samsung 990 Pros, two terabytes, which you can't see because they're behind stuff.

ストレージは、サムスンの990プロを2台、2テラバイト用意した。

And also a Corsair AX1600i power supply.

そしてCorsair AX1600i電源も。

1600 watts to power the entire build.

1600ワット。

Terry is ready.

テリーは準備ができている。

Now I'm surprised to say my system actually posted on the first attempt, which is amazing.

今、私は、私のシステムが実際に最初の試みで投稿したと言うことに驚いている。

But what's not amazing is the fact that Ubuntu would not install.

しかし、驚くべきことではないのは、Ubuntuがインストールされなかったことだ。

I tried for hours, actually for a whole day.

私は何時間も、実際には丸一日努力した。

And I almost gave up and installed Windows, but I said, no, Chuck, you're installing Linux.

それで、あきらめてウィンドウズをインストールしようとしたんだけど、いや、チャック、君はLinuxをインストールするんだと言ったんだ。

So I tried something new, something I've never messed with before.

そこで私は、これまで手を出したことのない新しいことに挑戦した。

It's called Pop OS by System76.

System76のPop OSというものだ。

This thing is awesome.

これはすごいよ。

It worked the first time.

最初はうまくいった。

It even had a special image with NVIDIA drivers built in.

NVIDIAドライバを組み込んだ特別なイメージまであった。

It just stinking worked.

ただ、臭くてうまくいかなかった。

So I sipped some coffee, didn't question the magic and moved on.

だから私はコーヒーをすすり、マジックに疑問を抱かず、先に進んだ。

Now, if you do want to build something similar,

さて、もし同じようなものを作りたいのなら、

I've got all the links below.

以下にすべてのリンクを掲載する。

But anyways, let's talk about how to build your very own local AI server.

とにかく、自分だけのローカルAIサーバーを構築する方法について話そう。

First, what do you need?

まず、何が必要なのか？

Really, all you'll need is a computer.

本当に必要なのはコンピューターだけだ。

That's it.

それだけだ。

It can be any computer running Windows, Mac or Linux.

ウィンドウズ、マック、リナックスが動作するコンピューターであれば、どんなものでも構わない。

And if you have a GPU, you'll have a much better time.

GPUがあれば、より良い時間を過ごせるだろう。

Now, again, I have to emphasize this.

さて、もう一度強調しておく。

You won't need something as beefy as Terry, but the more powerful your computer is, the better time you'll have.

テリーほど頑丈なものは必要ないだろうが、コンピュータが高性能であればあるほど、より良い時間を過ごすことができる。

Don't come at me with a Chromebook, please.

Chromebookで攻めてこないでくれよ。

Now, step one, Olama.

さて、ステップ1、オラマ。

This is the foundation for all of our AI stuff and what we'll use to run AI models.

これは、私たちのAIに関するすべての基礎であり、AIモデルを実行するために使用するものだ。

So we'll head on over to olama.ai and click on download.

それではolama.aiにアクセスしてダウンロードをクリックしよう。

And they get a flavor for every OS.

そして、OSごとに味を変えている。

I love that.

私はそれが大好きだ。

Now, if you're on Mac, just download it right now and run it.

Macをお使いの方は、今すぐダウンロードして実行してください。

If you're on Windows, they do have a preview version, but I don't want you to do that.

Windowsならプレビュー版があるが、それはやめてほしい。

Instead, I want you to try the Linux version.

その代わり、Linux版を試してほしい。

We can install it with one command.

コマンドひとつでインストールできる。

And yes, you can run Linux on Windows with WSL.

そう、WSLを使えばWindows上でLinuxを動かすことができる。

Let's get that going real quick.

さっそく始めよう。

First thing I'll do is go to the start bar and search for terminal.

まず、スタートバーでターミナルを検索する。

I launched my terminal.

私は端末を立ち上げた。

Now, this first bit is for Windows folks only,

さて、この最初のビットは、ウィンドウズの人たちだけのためのものだ、

Linux people, just hang on for a moment.

Linuxの皆さん、ちょっと待ってください。

We got to get WSL installed or the Windows subsystem for Linux.

WSL、つまりLinux用のWindowsサブシステムをインストールしなければならない。

It's only one command, WSL dash dash install.

WSL dash dash installというたった一つのコマンドだ。

And that's it actually.

それだけだ。

Hit enter, and it's gonna start doing some stuff.

エンターキーを押せば、何かし始める。

When it's done, we'll set up a username and password.

それが終わったら、ユーザー名とパスワードを設定します。

I got a new keyboard, by the way.

ところで、新しいキーボードを買ったんだ。

Do you hear that?

聞こえたか？

Link below, it's my favorite keyboard in the entire world.

下のリンク、全世界で一番好きなキーボードだ。

Now, some of you may have to reboot, that's fine.

再起動が必要な人もいるかもしれないが、それは構わない。

Just pause the video and come back.

ビデオを一時停止して、また戻ってきてください。

Mine is ready to go though, and we're rocking Ubuntu 22.04, which is still amazing to me that we're running Linux on Windows.

Windows上でLinuxを動かしているなんて、今でも驚きだよ。

That's just magic, right?

ただのマジックだろ？

Now, we're about to install Olama, but before we do that, you got to do some best practice stuff, like updating our packages.

さて、これからOlamaをインストールするが、その前にパッケージのアップデートなど、ベストプラクティスをいくつかやっておく必要がある。

So we'll do a sudo apt update, and then we'll do a sudo apt upgrade dash y to apply all those updates.

そこで、sudo apt updateを実行し、sudo apt upgrade dash yを実行して、すべてのアップデートを適用する。

And actually, while it's updating, can I tell you something about our sponsor?

そして実は、更新している間に、スポンサーについてお話ししてもいいですか？

IT Pro by ACI Learning.

ACIラーニングによるITプロ。

Now, in this video, we're gonna be doing lots of heavy Linux things.

さて、このビデオでは、Linuxのヘビーなことをたくさんやるつもりだ。

I'm gonna walk you through it.

これから説明するよ。

I'm gonna hold your hand, and you may not really understand what's happening.

私はあなたの手を握り、あなたは何が起こっているのか理解できないかもしれない。

That's where IT Pro comes in.

そこでIT Proの出番だ。

If you want to learn Linux or really anything in IT, they are your go-to.

LinuxやITに関するあらゆることを学びたいのであれば、彼らが頼りになる。

That's what I use to learn new stuff.

新しいことを学ぶために使っているんだ。

So if you want to learn Linux to get better at this stuff, or you want to start making this whole hobby thing your career, actually learn some skills, get some certifications, get your A+, get your CCNA, get your AWS certifications, your Azure certifications, and go down this crazy IT path, which is incredible, and it's the whole reason I make this channel and make these videos.

だから、Linuxを学んでもっと上手になりたいとか、趣味のことを仕事にしたいと思ったら、実際にスキルを学んで、資格を取得して、A+を取得して、CCNAを取得して、AWSの資格を取得して、Azureの資格を取得して、このクレイジーなITの道に進むんだ。

Check out IT Pro.

IT Proをご覧ください。

They've got IT training that won't put you to sleep.

彼らはあなたを眠らせないITトレーニングを持っている。

They have labs, they have practice exams, and if you use my code NetworkChuck right now, you'll get 30% off forever.

ラボもあるし、模擬試験もある。今なら私のコード「NetworkChuck」を使えば、永久に30％オフになる。

So go learn some Linux, and thank you to IT Pro for sponsoring this video and making things like this possible.

そして、このビデオのスポンサーであり、このようなことを可能にしてくれているIT Proに感謝する。

And speaking of, my updates are done.

そういえば、更新も終わった。

And by the way, I will have a guide for this entire thing.

ちなみに、このガイドも用意するつもりだ。

Every step, all the commands, you can find it at the free NetworkChuck Academy membership.

すべてのステップ、すべてのコマンドは、NetworkChuck Academyの無料メンバーシップでご覧いただけます。

Click the link below to join and get some other cool stuff as well.

以下のリンクをクリックして参加し、他のクールなグッズも手に入れてください。

I can't wait to see you there.

そこで会うのが待ちきれないよ。

Now we can install Olama with one command.

これでOlamaを1つのコマンドでインストールできる。

And again, all commands are below.

繰り返しますが、すべてのコマンドは以下の通りです。

Just gonna paste this in.

これを貼り付けておこう。

A nice little curl command, little magic stuff, and this, I love how easy this is, watch.

ちょっとしたカールのコマンド、ちょっとした魔法のようなもの。

You just sit there and let it happen.

ただそこに座って、成り行きに任せるんだ。

Do you not feel like a wizard when you're installing stuff like this?

このようなものをインストールしているとき、魔法使いになったような気がしない？

And the fact that you're installing AI right now, come on.

そして、今まさにAIを導入しようとしている。

Now notice one thing real quick.

さて、ここでひとつ気づいてほしい。

Olama did automatically find out that I have an NVIDIA GPU, and it's like, awesome, you're gonna have a great time.

オラマは、私がNVIDIAのGPUを持っていることを自動的に見つけてくれた。

If it didn't see that and you do have a GPU, you may have to install some NVIDIA CUDA drivers.

もしそれが表示されず、GPUがある場合は、NVIDIA CUDAドライバーをインストールする必要があるかもしれません。

I'll put a link for that below, but not everyone will have to do that.

そのためのリンクを下に貼っておくが、すべての人がそうする必要はないだろう。

And if you're rocking a Mac with an M1 through M3 chip, you're gonna have a good time too.

M1～M3チップを搭載したマックなら、きっと楽しい時間を過ごせるだろう。

They will use the embedded GPU.

内蔵GPUを使用する。

Now at this point, our Mac users, our Linux users, and our Windows users are all converged.

この時点で、MacユーザーもLinuxユーザーもWindowsユーザーも、すべてコンバージェンスされている。

We're on the same path.

私たちは同じ道を歩んでいる。

Welcome, we can hold hands and sing.

ようこそ、手をつないで歌いましょう。

It's getting weird.

変な感じになってきた。

Anyways, first we have to test a few things to make sure Olama is working.

とにかく、まずはオラマが機能していることを確認するために、いくつかのことをテストしなければならない。

And for that, we're gonna open our web browser.

そのためにウェブ・ブラウザーを開く。

I know, it's kind of weird.

変な感じだよね。

Just stick with me.

僕と一緒にいてくれ。

I'm gonna launch Chrome here, and here in my address bar, I'm gonna type in localhost, which is looking right here at my computer, and port 11434.

Chromeを起動し、アドレスバーにlocalhostと入力する。

Hit enter, and if you see this right here, this message, you're good to go, and you're about to find this out.

エンターキーを押して、このメッセージが表示されたら、もう大丈夫です。

Port 11434 is what Olama's API service is running on, and it's how our other stuff is gonna interact with it.

ポート11434は、OlamaのAPIサービスが稼働しているポートであり、他のAPIサービスと相互作用するためのポートだ。

It's so powerful, just check this out.

とてもパワフルだ。

I'm so excited to show you this.

これをお見せできるのがとても楽しみです。

Now, before we move on, let's go ahead and add an AI model to Olama.

さて、次に進む前に、OlamaにAIモデルを追加してみよう。

And we can do that right now with olama pull, and we'll pull down Lama 2, a very popular one.

そして、オラマ・プルで今すぐそれができるんだ。

Hit enter, and it's ready.

エンターキーを押せば準備完了。

Now, let's test it out real quick.

では、早速テストしてみよう。

We'll do olama run Lama 2.

オラマ・ラン・ラマ2をやろう。

And if this is your first time doing this, this is kind of magic.

これが初めてなら、これは魔法のようなものだ。

We're about to interact with a chat GPT-like AI right here.

これからチャットGPTのようなAIと対話するところだ。

No internet required, it's all just happening in that five gigabyte file.

インターネットは必要なく、すべては5ギガバイトのファイルの中で起こっている。

Tell me about the solar eclipse.

日食について教えてください。

Boom, and you can actually control C that to stop it.

そして、それを止めるためにCをコントロールすることができる。

Now, I wanna show you this.

さて、これをお見せしよう。

I'm gonna open up a new window.

新しいウィンドウを開くよ。

This is actually an awesome command.

これは実に素晴らしいコマンドだ。

And with this WSL command,

そして、このWSLコマンドだ、

I'm just connecting to the same instance again, a new window.

また同じインスタンスに新しいウィンドウで接続しているだけだ。

I'm gonna type in watch-n 0.5, not four, five, nvidia-smi.

watch-n 0.5と入力します。4でも5でもなく、nvidia-smiです。

This is going to watch the performance of my GPU right here in the terminal and keep refreshing.

このターミナルでGPUのパフォーマンスを監視し、リフレッシュし続ける。

So keep an eye on this right here as I chat with Lama 2.

ラマ2世とおしゃべりしながら、ここから目が離せない。

Lama 2, give me a list of all Adam Sandler movies.

ラマ2 アダム・サンドラーの映画のリストをちょうだい。

And look at that GPU go, ah, it's so fun.

そのGPUを見て、ああ、楽しい。

Now, can I show you what Terry does real quick?

では、テリーが何をしているのか、すぐにお見せしてもいいですか？

I gotta show you Terry.

テリーに見せなきゃ。

Terry has two GPUs.

テリーは2つのGPUを持っている。

Here they are right here.

ここにある。

And olama can actually use both of them at the same time.

そして、オラマは実際にその両方を同時に使うことができる。

Check this out, it's so cool.

これを見て、とてもクールだよ。

List all the Samuel L. Jackson movies.

サミュエル・L・ジャクソンの出演作品をすべて見る

And look at that.

それを見てくれ。

Isn't that amazing?

すごいでしょ？

And look how fast it went.

そして、その速さを見てほしい。

That's ridiculous.

そんなバカな。

This is just the beginning.

これは始まりに過ぎない。

So anyways, I had to show you Terry.

とにかく、テリーを見せなければならなかったんだ。

So now we have olama installed.

これでオラマをインストールしたことになる。

That's just our base.

それは我々のベースだけだ。

Remember, I'm gonna say bye.

覚えておいてくれ、バイバイするつもりだ。

So forward slash bye to end that session.

だから、フォワード・スラッシュ・バイでそのセッションを終了する。

Step two is all about the web UI.

ステップ2はウェブUIのすべてだ。

And this thing is amazing.

そしてこれは素晴らしい。

It's called OpenWebUI.

OpenWebUIと呼ばれている。

And it's actually one of many web UIs you can get for olama.

そして実は、olamaで手に入る数多くのウェブUIのひとつなのだ。

But I think OpenWebUI is the best.

でも、僕はOpenWebUIがベストだと思う。

Now OpenWebUI will be run inside a Docker container.

これで OpenWebUI は Docker コンテナ内で実行される。

So you will need Docker installed.

そのため、Dockerをインストールする必要がある。

And we'll do that right now.

今すぐそうしよう

So we'll just copy and paste the commands from Network Shrug Academy.

そこで、ネットワーク・シュラッグ・アカデミーのコマンドをコピー＆ペーストしてみよう。

This is also available on Docker's website.

これはDockerのウェブサイトでも入手できる。

First step is updating our repositories and getting Docker's GPG key.

最初のステップは、リポジトリの更新とDockerのGPGキーの取得だ。

And then with one command, we'll install Docker and all its goodies.

そして1つのコマンドで、Dockerとそのすべてのグッズをインストールする。

Ready, set, go.

レディ、セット、ゴー。

Yes, let's do it.

そうだ、やろう。

And now with Docker installed, we'll use it to deploy our OpenWebUI container.

Dockerがインストールされたので、それを使ってOpenWebUIコンテナをデプロイしよう。

There'll be one command.

コマンドは1つだ。

You can simply copy and paste this.

これをコピー＆ペーストすればいい。

This docker run command is going to pull this image to run this container from OpenWebUI.

この docker run コマンドは、OpenWebUI からこのコンテナを実行するためのイメージを引っ張ってくる。

It's looking at your local computer for the olama base URL, because it's going to integrate and use olama.

olamaを統合して使用するため、ローカルのコンピューターでolamaのベースURLを探しているのだ。

And it's going to be using the host network adapter to make things nice and easy.

そして、ホスト・ネットワーク・アダプターを使うことで、物事をうまく簡単に進めることができる。

Keeping in mind, this will use port 8080 on whatever system you're using.

覚えておいてほしいのは、あなたが使っているシステムが何であれ、これは8080番ポートを使うということだ。

Now all we have to do is hit enter after we add some sudo at the beginning, sudo docker run, and let it do its thing.