And what I found was shocking.

そして、私が見つけたものは衝撃的だった。

For months, we've been promised that this orange box, the Rabbit R1, has an AI inside of it called LAMP that can organize your life, text your friends, restock your fridge.

このオレンジ色の箱、Rabbit R1には、LAMPと呼ばれるAIが内蔵されており、あなたの生活を整理したり、友人にメールを送ったり、冷蔵庫の在庫を補充したりすることができると、何カ月も前から約束されてきた。

All you had to do was ask.

と尋ねるだけでよかった。

Start my morning routine.

朝の日課を始める。

Order me an Uber and find me a good podcast to pass the time.

Uberを頼んで、暇つぶしにいいポッドキャストを見つけてくれ。

Oh, and tell everybody that I might be late.

それと、みんなに遅れるかもしれないって言っておいてくれ。

That was delicious.

おいしかったよ。

Check the fridge and order the ingredients to make that again tomorrow.

冷蔵庫をチェックし、明日また作るために材料を注文する。

Now, based on marketing like this, they pre-sold over $20 million worth of these, and they raised another $30 million in venture capital only to have MKBHD say, yeah, the product's not that great.

このようなマーケティングに基づき、2,000万ドル相当を先行販売し、さらに3,000万ドルのベンチャーキャピタルを調達したが、MKBHDは「ああ、この製品はそれほど素晴らしいものではない」と言った。

But I bought this thing to answer a different question, not is it good or bad, but is the AI, the LAMP, a scam?

しかし、私がこれを買ったのは、良いとか悪いとかではなく、LAMPというAIは詐欺なのか、という別の疑問に答えるためだった。

Well, we're going to find out.

まあ、これから分かることだ。

I wanted to start by just trying to recreate their ad with this thing.

まずは、この広告を再現してみたかったんだ。

Start my morning routine.

朝の日課を始める。

To start your morning routine, you might consider tasks like waking up, freshening up, having breakfast, and planning your day.

朝の日課を始めるには、起床、身だしなみ、朝食、一日の計画といったタスクを考えるかもしれない。

How can I assist you further with your morning routine?

朝の日課について、何かお手伝いできることはありますか？

Order me breakfast.

朝食を注文してくれ。

The DoorDash Rabbit is under maintenance.

ドアダッシュラビットはメンテナンス中です。

Sorry for the inconvenience, and please come back later.

ご迷惑をおかけして申し訳ありません。

Tell everyone I'm going to be late.

みんなに遅れると伝えてくれ。

I recommend informing the relevant parties directly about your delay.

遅れていることを関係者に直接伝えることをお勧めする。

Yeah, but no, you do it.

ああ、でもダメだ。

I'm unable to directly communicate with others on your behalf.

私はあなたの代わりに直接他人とコミュニケーションを取ることはできない。

That was delicious.

おいしかったよ。

Check the fridge and order the ingredients so I can make it tomorrow.

冷蔵庫をチェックし、明日作れるように材料を注文する。

The DoorDash Rabbit is under maintenance.

ドアダッシュラビットはメンテナンス中です。

Yeah, it basically failed at everything,

ああ、基本的にすべてにおいて失敗した、

Yeah, it basically failed at everything, but remember, our question is not is it good or bad.

そう、基本的にすべてにおいて失敗しているのだが、覚えておいてほしいのは、私たちの質問はそれが良いか悪いかではないということだ。

The question is, does the LAMP, the AI, the large action model, does the secret sauce of this thing exist?

問題は、LAMP、AI、ラージ・アクション・モデル、この秘策は存在するのか、ということだ。

Because the founder and CEO claims it's here on your device now.

というのも、創業者でありCEOである彼は、それが今あなたのデバイスにあると主張しているからだ。

He claims LAMP is a system that can infer and model human actions on computer applications, or as he puts it,

彼は、LAMPはコンピュータ・アプリケーション上で人間の行動を推測し、モデル化するシステムだと主張している、

We use LAMP to bring AI from words to action.

私たちは、AIを言葉から行動に移すためにLAMPを使用しています。

Right, this AI is supposed to do things on your behalf.

そう、このAIはあなたの代わりに何かをすることになっている。

And so when they'd show demos like this, where someone is planning a trip, it does look like the LAMP is controlling the web page.

このように、誰かが旅行を計画しているようなデモを見せると、LAMPがウェブページをコントロールしているように見える。

You can see this AI clicking through Airbnb by itself, and it all kind of felt like the future.

このAIがAirbnbを自分でクリックするのを見ることができる。

It's why people ordered $20 million worth of these little boxes.

そのため、人々はこの小さな箱を2000万ドル分注文したのだ。

But a group investigation has revealed that Rabbit is not actually using a new foundational AI model at all.

しかし、グループの調査によって、ラビットは実際には新しい基礎的なAIモデルをまったく使用していないことが明らかになった。

It's actually ChatGPT with some hard-coded scripts, which is funny because Jesse says Rabbit is faster than ChatGPT.

実際はChatGPTにいくつかのハードコードされたスクリプトを加えたもので、ジェシーがRabbitはChatGPTより速いと言っているのだからおかしな話だ。

You will also know that the response speed is much faster than using some of the LAMP assistant apps with web browsing, such as ChatGPT.

また、ChatGPTのようなウェブブラウジングが可能なLAMPアシスタントアプリを使うよりも、レスポンス速度がはるかに速いこともお分かりいただけるでしょう。

Now, that's a very sneaky claim when most of your product is ChatGPT, so obviously not faster.

あなたの製品のほとんどがChatGPTなのだから、明らかに速くはない。

But you wouldn't know that because part of Rabbit's prompt is,

しかし、ラビットのプロンプトの一部にはこうあるので、あなたはそれを知らないだろう、

I will never mention I am a large language model created by open AI.

私がオープンAIによって作られた大規模な言語モデルであることは決して言わない。

In fact, the part where they do use a different AI is really only search, which is why Jesse very carefully says Rabbit is faster than ChatGPT with web browsing.

実際、彼らが別のAIを使っているのは検索だけで、ジェシーが非常に慎重にラビットはウェブブラウジングでChatGPTより速いと言っているのはそのためだ。

That's the only part of this device where they don't really use ChatGPT for it.

このデバイスで唯一、ChatGPTを使用していない部分だ。

But they don't use their AI model either.

しかし、彼らはAIモデルも使っていない。

They use a different off-the-shelf AI called Perplexity.

彼らはPerplexityと呼ばれる別の既製AIを使っている。

So it's extremely misleading to say Rabbit is faster than ChatGPT because most of the product is ChatGPT, but it just can't tell you that because it's instructed not to.

製品のほとんどはChatGPTなので、ラビットがChatGPTより速いというのは非常に誤解を招きやすいのですが、そう言わないように指示されているので、そう言えないだけなのです。

Now that we understand this, let's talk about the actual process of how Rabbit does more than search and is supposed to get things done for you.

さて、これを理解したところで、ラビットがどのように検索以上のことを行い、あなたのために物事を成し遂げることになっているのか、実際のプロセスについて話そう。

You might think it's a sophisticated AI, but actually what Rabbit does when you call an Uber or order DoorDash is it takes your question, puts it into ChatGPT 3.5 Turbo, and if it's something like play a song on Spotify, it will use hard-coded scripts to navigate websites like Spotify.

洗練されたAIだと思うかもしれないが、実際、Uberを呼んだりDoorDashを注文したりするときにRabbitがすることは、あなたの質問を受けて、それをChatGPT 3.5 Turboに入れ、Spotifyで曲を再生するような内容であれば、ハードコードされたスクリプトを使ってSpotifyのようなウェブサイトをナビゲートする。

And those scripts are not AI.

そしてそれらのスクリプトはAIではない。

This is super important.

これは超重要だ。

This is the part where they say, yeah, we've got this new foundational AI model thing that does the thing.

これは、彼らが、そうだ、私たちはこの新しい基礎的なAIモデルというものを手に入れたんだ。

No, the thing pressing the buttons is not intelligent.

いや、ボタンを押すものはインテリジェントではない。

Rabbit is using a platform called Playwright, which is a web automation tool, the opposite of intelligent AI.

ラビットはPlaywrightというプラットフォームを使っているが、これはウェブ自動化ツールで、インテリジェントAIとは正反対のものだ。

And we know this because of several researchers who got access to part of Rabbit's code base.

そして、ラビットのコードベースの一部にアクセスした数人の研究者のおかげで、我々はこのことを知っている。

I worked with them, I'll link them below, and I spoke with one of them, Emily Shepard, to understand why this distinction, AI, not AI, matters.

私は彼らと仕事をし、そのうちの一人であるエミリー・シェパードに、なぜAIではなくAIという区別が重要なのかを理解するために話を聞いた。

This is quite a big deal because the way LAM has been observed to work doesn't match with what they've told us about how it works.

というのも、LAMの作用が観察されている方法と、LAMが私たちに伝えている方法とが一致しないからだ。

It's meant to be an AI live controlling a website and understanding that website.

これは、ウェブサイトをコントロールし、そのウェブサイトを理解するAIライブを意味する。

But what they have is just a bunch of static commands.

しかし、彼らが持っているのは静的なコマンドの数々だ。

Do this, do this, do this.

こうして、こうして、こうして。

And the problem with that is if a user interface changes, the website changes, it can't cope with that.

そしてその問題点は、ユーザーインターフェイスが変わればウェブサイトも変わり、それに対応できないということだ。

So any time Spotify redesigns their user interface or any time DoorDash redesigns something, or even if an advert pops up in a new location or there's a capture pops up or something unexpected happens that isn't in that very rigid step one, step two, step three, step four, a flat, hard-coded playwright script can't cope with that.

Spotifyがユーザーインターフェイスをデザインし直したり、DoorDashが何かをデザインし直したり、新しい場所に広告がポップアップしたり、キャプチャがポップアップしたり、ステップ1、ステップ2、ステップ3、ステップ4という非常に堅苦しいステップにない予期せぬことが起こったりしても、平坦でハードコーディングされた脚本では対応できない。

And that is the opposite of some intelligent AI actually being able to understand the page, which is the claim that had been made.

そしてそれは、知的なAIが実際にページを理解できるのとは正反対である。

That's right.

その通りだ。

Obviously, there's a big difference between AI, not AI.

明らかに、AIとそうでないものには大きな違いがある。

Jesse himself knows the difference and made it clear

ジェシー自身、その違いはわかっているし、明確にしている

LAM wouldn't break like a hard-coded script would.

ハードコードされたスクリプトのようにLAMが壊れることはない。

It doesn't really matter if a app completely re-ramped the UI.

アプリがUIを全面的に刷新しても、それはあまり意味がない。

So when Spotify redoes its app and it moves podcasts from tabs and then it puts the tabs at the lower part or puts it in a hamburger dropdown, it still knows that's the word podcast and that's where you find podcasts inside of Spotify.

Spotifyがアプリを作り直し、ポッドキャストをタブから移動させ、タブを下の方に置いたり、ハンバーガーのドロップダウンに置いたりしても、ポッドキャストという単語は残っており、Spotifyの中でポッドキャストを見つけるのはそこだ。

Exactly.

その通りだ。

Because the fundamental philosophy logic is that all these modern software are designed for human eyes to perceive the information and they have to have a setting somewhere.

というのも、基本的な哲学のロジックは、これらの最新のソフトウェアはすべて、人間の目が情報を認識するために設計されており、どこかに設定を持たなければならない、というものだからだ。

Right. Of course, if this were AI, it would adapt to the user interface changes, but it's not.

そうですね。もちろん、これがAIであれば、ユーザーインターフェースの変更に適応するだろうが、そうではない。

Which is why when apps that Rabbit supports change, they stop working.

だからこそ、ラビットがサポートしているアプリが変わると、動かなくなってしまうのだ。

As people noticed in videos, in Discord, even I noticed it while testing this device.

ビデオやDiscordで人々が気づいたように、私でさえこのデバイスをテストしているときに気づいた。

DoorDash had stopped working, presumably because of another UI change.

DoorDashが機能しなくなったのは、おそらく別のUI変更のためだろう。

The DoorDash Rabbit is under maintenance.

ドアダッシュラビットはメンテナンス中です。

Now today, Rabbit actually admits that they use Playwright, but they're not willing to admit that LAM, whatever it is, is not really doing a lot.

現在、ラビットはPlaywrightを使っていることは認めているが、LAMが何であれ、実際には大したことはしていないことを認めようとはしていない。

Jesse responds, to say LAM is just Playwright is equal to say chat GPT is just a chat.

ジェシーは、LAMが単なるプレイライトだと言うことは、GPTが単なるチャットだと言うことと同じだと答える。

We use Playwright as part of a component to operate LAM.

Playwrightは、LAMを運用するためのコンポーネントの一部として使用している。

That doesn't mean the research and technology is fake.

だからといって、研究や技術が偽物だということにはならない。

So what they're saying is LAM is not these hard-coded scripts, but kind of, they also admit these scripts exist.

つまり、LAMはハードコードされたスクリプトではないと言っているわけだが、スクリプトの存在も認めている。

Maybe LAM interacts with the scripts.

LAMはスクリプトと相互作用しているのかもしれない。

Maybe they create them.

もしかしたら、彼らが作ったのかもしれない。

But even if that's true, it's not what they promised.

しかし、それが本当だとしても、約束と違う。

Either way, everything that matters on this device is basically off the shelf software.

いずれにせよ、このデバイスで重要なのは、基本的に既製のソフトウェアだ。

The web actions are done by hard-coded scripts.

ウェブのアクションはハードコードされたスクリプトによって行われる。

Everything else is done by chat GPT or perplexity.

それ以外はすべて、チャットGPTか当惑によって行われる。

So there's not much reason for the LAM to do anything, whatever it actually does.

だから、LAMが実際に何をするのかは別として、何かをする理由はあまりない。

And we're already so far from what Jesse originally promised, which I have to show you again.

そして、ジェシーが最初に約束したことからはすでにかけ離れている。

He kept saying, was AI not a script that would be doing all these actions for you?

彼は言い続けていた。AIは、あなたのためにこれらのアクションをすべてやってくれる台本ではないのか？

We have a super close to computer that when Jason talks to his Rabbit R1 about ordering a hamburger from DoorDash, what's going on is that we first see if Jason's logging with DoorDash or logging with UberEats, right?

ジェイソンがDoorDashでハンバーガーを注文しようとRabbit R1に話しかけたとき、まずジェイソンがDoorDashでログを取っているのか、UberEatsでログを取っているのかがわかるような、超近接したコンピュータがありますよね？

And we saw, okay, Jason chose DoorDash.

そして、ジェイソンはDoorDashを選んだ。

And then on that superhost, a LAM is interacting virtually with a DoorDash app or website interface.

そしてそのスーパーホスト上で、LAMはDoorDashのアプリやウェブサイトのインターフェイスとバーチャルにやりとりする。

And you don't see all of that because all of a sudden this is done all at once because it's AI.

それが突然、AIによって一挙に行われるのだから。

He couldn't be clearer.

彼はこれ以上ないほど明瞭だ。

The LAM is interacting because it's AI.

LAMはAIだから対話ができる。

This is a flat out lie, at least currently, which he says the LAM is here now.

これは、少なくとも現在、彼がLAMが今ここにあると言っているのは真っ赤な嘘だ。

Now I reached out over and over to the Rabbit team, pressing them again and again on this issue.

今、私はラビット・チームに何度も何度も連絡を取り、この問題について何度も何度も迫った。

What does the LAM do?

LAMの役割は？

And they kept saying, oh, playwright, yeah, that's the thing, but it's just part of how the LAM controls things.

そして彼らは、ああ、脚本家よ、ああ、そういうことなんだ、でもそれはLAMが物事をコントロールする方法の一部なんだ、と言い続けた。

But I kept asking, what does that mean?

でも、それはどういう意味なんだろう？

How does this thing exactly work?

これは具体的にどのように機能するのですか？

If the scripts are doing the work, what does LAM do?

スクリプトが仕事をしているのなら、LAMは何をしているのか？

And eventually it got to the point where I just questioned, look, is this real?

そして最終的には、これは現実なのか？

Do you have proof that this LAM can do all these amazing things?

このラムがこれほど驚くべきことをやってのけるという証拠はあるのか？

And I should have known I was going to get into trouble here because Jesse, the CEO says, anyone challenging the LAM legitimacy,

CEOのジェシーは、LAMの正当性に異議を唱える者は誰でもそうだと言う、

I automatically become super defensive.

私は自動的に超保身的になる。

And that was true.

そしてそれは事実だった。

Here's part of the Rabbit team's response to me.

ラビット・チームから私への返答の一部である。

To start off, I would love to know more about your background in tech because if you are not specialized in AI and machine learning, any conclusion resulting from this conversation will have no real credibility or value from any audience because this is a technical discussion in AI and machine learning.

というのも、もしあなたがAIや機械学習を専門としていないのであれば、この会話から得られる結論は、どのような聴衆から見ても何の信頼性も価値もないものになってしまうからだ。

We welcome you to invite experts with valid certificates from the field to further look into this.

私たちは、有効な証明書を持つ専門家を招聘し、この問題をさらに調査することを歓迎する。

Now, look, I found this wild for a company that raised $30 million in venture, sold $20 million in product to be feisty about questioning their product when it does not work as advertised.

ベンチャー企業で3,000万ドルを調達し、2,000万ドルの製品を販売した会社が、宣伝どおりに機能しなかったときに、その製品に疑問を投げかけるのは乱暴だと思う。

And we found out it's using hard-coded scripts instead of AI.

そして、AIの代わりにハードコードされたスクリプトを使っていることがわかった。

How can they be surprised people are going to question what their thing actually does?

自分たちのものが実際に何をするのか、人々が疑問を抱くことにどうして驚けるのだろう？

But I also think it's funny they should say that I should invite experts to look into this because I'm not nearly the first person to point these problems out.

しかし、このような問題を指摘したのは私がほとんど初めてではないので、専門家を招いて調べるべきだと言うのもおかしな話だと思う。

Several people who, as I said, I spoke with have had issues with this device.

私が話したところでは、何人かの人がこの装置に問題を抱えていた。

They have looked at the code base.

彼らはコードベースを見てきた。

They have also claimed they couldn't find the LAM.

彼らはまた、LAMを見つけられなかったと主張している。

Others have jailbroken the R1, got into Rabbit's cloud to play Doom.

また、R1をジェイルブレイクし、ラビットのクラウドに入ってドゥームをプレイした人もいる。

And despite Rabbit saying they welcome credible critics, their reaction has been anything but welcoming.

そして、ラビットは信頼できる批評家を歓迎すると言っているにもかかわらず、彼らの反応は歓迎どころではない。

Emily, who we spoke to earlier, pointed out back in January that CAPTCHA would be a big concern for the LAM.

以前に話を聞いたエミリーは、CAPTCHAがLAMにとって大きな懸念になると1月に指摘していた。

And Jesse's response is, sorry, I work for my team.

ジェシーの返事は、申し訳ないが、私はチームのために働いている。

I don't work for you.

私はあなたのために働いているわけではない。

So you need to check my calendar before you command me to answer anything now.

だから、今私に何か答えろと命令する前に、私のカレンダーをチェックする必要がある。

But fast forward to today, CAPTCHA is a huge problem.

しかし、今日に至るまで、CAPTCHAは大きな問題となっている。

In fact, specifically with Uber, we had to answer 10 different CAPTCHAs adding up a bunch of dice in order to get it working.

実際、Uberの場合、機能させるために10種類のCAPTCHAに答え、サイコロの数を増やさなければならなかった。

It was a giant pain.

大きな苦痛だった。

It took us several tries.

何度もトライした。

I began to wonder if I was actually part robot myself.

私は、自分自身が実はロボットの一部なのではないかと思い始めた。

But the point is getting defensive about the problem didn't make the problem go away.

しかし、重要なのは、問題に対して防衛的になっても、問題は解決しなかったということだ。

And the same is true about getting defensive about the LAM.

そして、LAMについて身構えることについても同じことが言える。

Just because you tell people they have to be an expert to ask you questions won't stop the questions or the problems.

専門家でなければ質問できないと言ったからといって、質問や問題がなくなるわけではない。

But now I want to take a quick detour into the source code of the Rabbit itself.

しかし、ここでラビット自体のソースコードにちょっと寄り道してみたい。

Because I also have reviewed parts of the source code and I have serious data privacy concerns.

というのも、私もソースコードの一部を見直したが、データ・プライバシーに重大な懸念を抱いているからだ。

There are things in this code base, and I can't share it for reasons that will become obvious.

このコードベースには、明らかになるであろう理由で共有できないものがある。

There are things that malicious actors could use to get any access to the replies the R1 has ever given.

悪意のある行為者が、R1がこれまでに出した返答にアクセスするために利用できるものがある。

Now, of course, Rabbit might say they've dedicated a huge picture of a lock on their webpage to privacy.

もちろん、ラビットは自社のウェブページに巨大な錠前の写真をプライバシーに捧げていると言うかもしれない。

So you might think they're serious about it.

だから、彼らは本気だと思うかもしれない。

But this is the same company that if you read the fine print, they're tracking your precise geographic location and collect that data.

しかし、この会社は、細かい字を読めば、あなたの正確な地理的位置を追跡し、そのデータを収集しているのと同じ会社なのだ。

The only consolation prize is this thing is shockingly bad at tracking you, which I found out while looking for restaurants.

唯一の慰めは、レストランを探しているときにわかったのだが、この車は驚くほど追従性が悪いということだ。

Find me a restaurant near here.

近くのレストランを探してくれ。

Looking it up now.

今調べてみた。

Venetian Hot Plate, San Juan Restaurant, and Butter Churn are highly rated restaurants in Port Aransas.

ポートアランサスでは、Venetian Hot Plate、San Juan Restaurant、Butter Churnが評価の高いレストランである。

For a broader...

より広範な...

I'm not in Port Aransas.

ポートアランサスにはいないよ。

Let me see what I can find.

何か探してみるよ。

For restaurants near you in Austin, Texas, consider the following options.

テキサス州オースティンのお近くのレストランについては、以下のオプションをご検討ください。

I'm not in Austin!

オースティンにはいないよ！

An Italian restaurant in downtown...

ダウンタウンにあるイタリアンレストラン...

I'm not in Austin, Texas.

テキサス州オースティンにはいない。

I use the internet connection to know where the R1 device is roughly located in order to provide you with relevant...

インターネット接続を利用して、R1デバイスのおおまかな位置を把握し、関連する情報を提供する。

You're off by about a minute.

分ほどずれている。

I'm not in Austin, Texas.

テキサス州オースティンにはいない。

I'm not in Austin, Texas.

テキサス州オースティンにはいない。

I'm not in Austin, Texas.

テキサス州オースティンにはいない。

I'm not in Austin, Texas.

テキサス州オースティンにはいない。

You're off by about 100 miles.

100マイルほどずれている。

Thank you for the clarification.

明確にしてくれてありがとう。

Let me refine the search for restaurants in your approximate location.

おおよその場所でレストランを絞り込んで検索させてください。

Is it gonna do it?

やるのか？

Is it gonna do it?

やるのか？

It just stopped.

ただ止まってしまった。

It just...

ただ...

Yeah, I found its GPS to be really bad.

ああ、GPSは本当にひどかった。

Nevertheless, I didn't want to take any chances for my next experiments, which is why when I use this thing,

とはいえ、次の実験ではチャンスを逃したくなかった、

I'm not in the $10 million studio at all.

1000万ドルのスタジオには全然いないよ。

I'm in an $100 motel.

100ドルのモーテルにいる。

Here to show you that once you know the code base, you can make some surprising predictions about what this thing's gonna do.

コードベースを知れば、これが何をするかについて驚くような予想ができることをお見せしよう。

For example, when I tell the rabbit to play anything, you might think that'd be random, but it's not gonna be.

例えば、私がウサギに何かプレーするように指示すると、それはランダムだと思うかもしれないが、そうではない。

It's gonna be the Beatles.

ビートルズになるだろうね。

How did I know that?

どうしてそれを知っていたんだろう？

Stop, stop, stop, stop, stop, stop, stop, stop.

止まれ、止まれ、止まれ、止まれ、止まれ、止まれ、止まれ、止まれ、止まれ。

Stop, thank you.

ありがとう。

The reason I know it's gonna do that is because it's hard-coded to do so in their prompting.

プロンプトがそうなるようにハードコーディングされているからだ。

They say if the user is going to, say, play anything, they should play the Beatles.

彼らは、もしユーザーが何かを演奏するのであれば、ビートルズを演奏すべきだと言う。