Name: ウサギにガス抜きをされた。 (Rabbit Gaslit Me, So I Dug Deeper)
Uploaded: 2024-05-27T05:31:11.000Z
Duration: 18 min 13 s

This tech company gaslit me so hard about their previous scam that I decided to investigate their current project, Rabbit.

この技術会社は、以前の詐欺について私を激しく非難したので、私は彼らの現在のプロジェクトであるラビットを調査することにした。

そして、私が見つけたものは衝撃的だった。

For months, we've been promised that this orange box, the Rabbit R1, has an AI inside of it called LAMP that can organize your life, text your friends, restock your fridge.

このオレンジ色の箱、Rabbit R1には、LAMPと呼ばれるAIが内蔵されており、あなたの生活を整理したり、友人にメールを送ったり、冷蔵庫の在庫を補充したりすることができると、何カ月も前から約束されてきた。

Order me an Uber and find me a good podcast to pass the time.

Uberを頼んで、暇つぶしにいいポッドキャストを見つけてくれ。

Oh, and tell everybody that I might be late.

それと、みんなに遅れるかもしれないって言っておいてくれ。

Check the fridge and order the ingredients to make that again tomorrow.

冷蔵庫をチェックし、明日また作るために材料を注文する。

Now, based on marketing like this, they pre-sold over $20 million worth of these, and they raised another $30 million in venture capital only to have MKBHD say, yeah, the product's not that great.

このようなマーケティングに基づき、2,000万ドル相当を先行販売し、さらに3,000万ドルのベンチャーキャピタルを調達したが、MKBHDは「ああ、この製品はそれほど素晴らしいものではない」と言った。

But I bought this thing to answer a different question, not is it good or bad, but is the AI, the LAMP, a scam?

しかし、私がこれを買ったのは、良いとか悪いとかではなく、LAMPというAIは詐欺なのか、という別の疑問に答えるためだった。

まあ、これから分かることだ。

I wanted to start by just trying to recreate their ad with this thing.

まずは、この広告を再現してみたかったんだ。

To start your morning routine, you might consider tasks like waking up, freshening up, having breakfast, and planning your day.

朝の日課を始めるには、起床、身だしなみ、朝食、一日の計画といったタスクを考えるかもしれない。

How can I assist you further with your morning routine?

朝の日課について、何かお手伝いできることはありますか？

The DoorDash Rabbit is under maintenance.

ドアダッシュラビットはメンテナンス中です。

Sorry for the inconvenience, and please come back later.

ご迷惑をおかけして申し訳ありません。

みんなに遅れると伝えてくれ。

I recommend informing the relevant parties directly about your delay.

遅れていることを関係者に直接伝えることをお勧めする。

I'm unable to directly communicate with others on your behalf.

私はあなたの代わりに直接他人とコミュニケーションを取ることはできない。

Check the fridge and order the ingredients so I can make it tomorrow.

冷蔵庫をチェックし、明日作れるように材料を注文する。

ああ、基本的にすべてにおいて失敗した、

Yeah, it basically failed at everything, but remember, our question is not is it good or bad.

そう、基本的にすべてにおいて失敗しているのだが、覚えておいてほしいのは、私たちの質問はそれが良いか悪いかではないということだ。

The question is, does the LAMP, the AI, the large action model, does the secret sauce of this thing exist?

問題は、LAMP、AI、ラージ・アクション・モデル、この秘策は存在するのか、ということだ。

Because the founder and CEO claims it's here on your device now.

というのも、創業者でありCEOである彼は、それが今あなたのデバイスにあると主張しているからだ。

He claims LAMP is a system that can infer and model human actions on computer applications, or as he puts it,

彼は、LAMPはコンピュータ・アプリケーション上で人間の行動を推測し、モデル化するシステムだと主張している、

We use LAMP to bring AI from words to action.

私たちは、AIを言葉から行動に移すためにLAMPを使用しています。

Right, this AI is supposed to do things on your behalf.

そう、このAIはあなたの代わりに何かをすることになっている。

And so when they'd show demos like this, where someone is planning a trip, it does look like the LAMP is controlling the web page.

このように、誰かが旅行を計画しているようなデモを見せると、LAMPがウェブページをコントロールしているように見える。

You can see this AI clicking through Airbnb by itself, and it all kind of felt like the future.

このAIがAirbnbを自分でクリックするのを見ることができる。

It's why people ordered $20 million worth of these little boxes.

そのため、人々はこの小さな箱を2000万ドル分注文したのだ。

But a group investigation has revealed that Rabbit is not actually using a new foundational AI model at all.

しかし、グループの調査によって、ラビットは実際には新しい基礎的なAIモデルをまったく使用していないことが明らかになった。

It's actually ChatGPT with some hard-coded scripts, which is funny because Jesse says Rabbit is faster than ChatGPT.

実際はChatGPTにいくつかのハードコードされたスクリプトを加えたもので、ジェシーがRabbitはChatGPTより速いと言っているのだからおかしな話だ。

You will also know that the response speed is much faster than using some of the LAMP assistant apps with web browsing, such as ChatGPT.

また、ChatGPTのようなウェブブラウジングが可能なLAMPアシスタントアプリを使うよりも、レスポンス速度がはるかに速いこともお分かりいただけるでしょう。

Now, that's a very sneaky claim when most of your product is ChatGPT, so obviously not faster.

あなたの製品のほとんどがChatGPTなのだから、明らかに速くはない。

But you wouldn't know that because part of Rabbit's prompt is,

しかし、ラビットのプロンプトの一部にはこうあるので、あなたはそれを知らないだろう、

I will never mention I am a large language model created by open AI.

私がオープンAIによって作られた大規模な言語モデルであることは決して言わない。

In fact, the part where they do use a different AI is really only search, which is why Jesse very carefully says Rabbit is faster than ChatGPT with web browsing.

実際、彼らが別のAIを使っているのは検索だけで、ジェシーが非常に慎重にラビットはウェブブラウジングでChatGPTより速いと言っているのはそのためだ。

That's the only part of this device where they don't really use ChatGPT for it.

このデバイスで唯一、ChatGPTを使用していない部分だ。

But they don't use their AI model either.

しかし、彼らはAIモデルも使っていない。

They use a different off-the-shelf AI called Perplexity.

彼らはPerplexityと呼ばれる別の既製AIを使っている。

So it's extremely misleading to say Rabbit is faster than ChatGPT because most of the product is ChatGPT, but it just can't tell you that because it's instructed not to.

製品のほとんどはChatGPTなので、ラビットがChatGPTより速いというのは非常に誤解を招きやすいのですが、そう言わないように指示されているので、そう言えないだけなのです。

Now that we understand this, let's talk about the actual process of how Rabbit does more than search and is supposed to get things done for you.

さて、これを理解したところで、ラビットがどのように検索以上のことを行い、あなたのために物事を成し遂げることになっているのか、実際のプロセスについて話そう。

You might think it's a sophisticated AI, but actually what Rabbit does when you call an Uber or order DoorDash is it takes your question, puts it into ChatGPT 3.5 Turbo, and if it's something like play a song on Spotify, it will use hard-coded scripts to navigate websites like Spotify.

洗練されたAIだと思うかもしれないが、実際、Uberを呼んだりDoorDashを注文したりするときにRabbitがすることは、あなたの質問を受けて、それをChatGPT 3.5 Turboに入れ、Spotifyで曲を再生するような内容であれば、ハードコードされたスクリプトを使ってSpotifyのようなウェブサイトをナビゲートする。

そしてそれらのスクリプトはAIではない。

This is the part where they say, yeah, we've got this new foundational AI model thing that does the thing.

これは、彼らが、そうだ、私たちはこの新しい基礎的なAIモデルというものを手に入れたんだ。

No, the thing pressing the buttons is not intelligent.

いや、ボタンを押すものはインテリジェントではない。

Rabbit is using a platform called Playwright, which is a web automation tool, the opposite of intelligent AI.

ラビットはPlaywrightというプラットフォームを使っているが、これはウェブ自動化ツールで、インテリジェントAIとは正反対のものだ。

And we know this because of several researchers who got access to part of Rabbit's code base.

そして、ラビットのコードベースの一部にアクセスした数人の研究者のおかげで、我々はこのことを知っている。

I worked with them, I'll link them below, and I spoke with one of them, Emily Shepard, to understand why this distinction, AI, not AI, matters.

私は彼らと仕事をし、そのうちの一人であるエミリー・シェパードに、なぜAIではなくAIという区別が重要なのかを理解するために話を聞いた。

This is quite a big deal because the way LAM has been observed to work doesn't match with what they've told us about how it works.

というのも、LAMの作用が観察されている方法と、LAMが私たちに伝えている方法とが一致しないからだ。

It's meant to be an AI live controlling a website and understanding that website.

これは、ウェブサイトをコントロールし、そのウェブサイトを理解するAIライブを意味する。

But what they have is just a bunch of static commands.

しかし、彼らが持っているのは静的なコマンドの数々だ。

こうして、こうして、こうして。

And the problem with that is if a user interface changes, the website changes, it can't cope with that.

そしてその問題点は、ユーザーインターフェイスが変わればウェブサイトも変わり、それに対応できないということだ。

So any time Spotify redesigns their user interface or any time DoorDash redesigns something, or even if an advert pops up in a new location or there's a capture pops up or something unexpected happens that isn't in that very rigid step one, step two, step three, step four, a flat, hard-coded playwright script can't cope with that.

Spotifyがユーザーインターフェイスをデザインし直したり、DoorDashが何かをデザインし直したり、新しい場所に広告がポップアップしたり、キャプチャがポップアップしたり、ステップ1、ステップ2、ステップ3、ステップ4という非常に堅苦しいステップにない予期せぬことが起こったりしても、平坦でハードコーディングされた脚本では対応できない。

And that is the opposite of some intelligent AI actually being able to understand the page, which is the claim that had been made.

そしてそれは、知的なAIが実際にページを理解できるのとは正反対である。

Obviously, there's a big difference between AI, not AI.

明らかに、AIとそうでないものには大きな違いがある。

Jesse himself knows the difference and made it clear

ジェシー自身、その違いはわかっているし、明確にしている

LAM wouldn't break like a hard-coded script would.

ハードコードされたスクリプトのようにLAMが壊れることはない。

It doesn't really matter if a app completely re-ramped the UI.

アプリがUIを全面的に刷新しても、それはあまり意味がない。

So when Spotify redoes its app and it moves podcasts from tabs and then it puts the tabs at the lower part or puts it in a hamburger dropdown, it still knows that's the word podcast and that's where you find podcasts inside of Spotify.

Spotifyがアプリを作り直し、ポッドキャストをタブから移動させ、タブを下の方に置いたり、ハンバーガーのドロップダウンに置いたりしても、ポッドキャストという単語は残っており、Spotifyの中でポッドキャストを見つけるのはそこだ。

Because the fundamental philosophy logic is that all these modern software are designed for human eyes to perceive the information and they have to have a setting somewhere.

というのも、基本的な哲学のロジックは、これらの最新のソフトウェアはすべて、人間の目が情報を認識するために設計されており、どこかに設定を持たなければならない、というものだからだ。

Right. Of course, if this were AI, it would adapt to the user interface changes, but it's not.

そうですね。もちろん、これがAIであれば、ユーザーインターフェースの変更に適応するだろうが、そうではない。

Which is why when apps that Rabbit supports change, they stop working.

だからこそ、ラビットがサポートしているアプリが変わると、動かなくなってしまうのだ。

As people noticed in videos, in Discord, even I noticed it while testing this device.

ビデオやDiscordで人々が気づいたように、私でさえこのデバイスをテストしているときに気づいた。

DoorDash had stopped working, presumably because of another UI change.

DoorDashが機能しなくなったのは、おそらく別のUI変更のためだろう。

Now today, Rabbit actually admits that they use Playwright, but they're not willing to admit that LAM, whatever it is, is not really doing a lot.

現在、ラビットはPlaywrightを使っていることは認めているが、LAMが何であれ、実際には大したことはしていないことを認めようとはしていない。

Jesse responds, to say LAM is just Playwright is equal to say chat GPT is just a chat.

ジェシーは、LAMが単なるプレイライトだと言うことは、GPTが単なるチャットだと言うことと同じだと答える。

We use Playwright as part of a component to operate LAM.

Playwrightは、LAMを運用するためのコンポーネントの一部として使用している。

That doesn't mean the research and technology is fake.

だからといって、研究や技術が偽物だということにはならない。

So what they're saying is LAM is not these hard-coded scripts, but kind of, they also admit these scripts exist.

つまり、LAMはハードコードされたスクリプトではないと言っているわけだが、スクリプトの存在も認めている。

LAMはスクリプトと相互作用しているのかもしれない。

もしかしたら、彼らが作ったのかもしれない。

But even if that's true, it's not what they promised.

しかし、それが本当だとしても、約束と違う。

Either way, everything that matters on this device is basically off the shelf software.

いずれにせよ、このデバイスで重要なのは、基本的に既製のソフトウェアだ。

The web actions are done by hard-coded scripts.

ウェブのアクションはハードコードされたスクリプトによって行われる。

Everything else is done by chat GPT or perplexity.

それ以外はすべて、チャットGPTか当惑によって行われる。

So there's not much reason for the LAM to do anything, whatever it actually does.

だから、LAMが実際に何をするのかは別として、何かをする理由はあまりない。

And we're already so far from what Jesse originally promised, which I have to show you again.

そして、ジェシーが最初に約束したことからはすでにかけ離れている。

He kept saying, was AI not a script that would be doing all these actions for you?

彼は言い続けていた。AIは、あなたのためにこれらのアクションをすべてやってくれる台本ではないのか？

We have a super close to computer that when Jason talks to his Rabbit R1 about ordering a hamburger from DoorDash, what's going on is that we first see if Jason's logging with DoorDash or logging with UberEats, right?

ジェイソンがDoorDashでハンバーガーを注文しようとRabbit R1に話しかけたとき、まずジェイソンがDoorDashでログを取っているのか、UberEatsでログを取っているのかがわかるような、超近接したコンピュータがありますよね？

そして、ジェイソンはDoorDashを選んだ。

And then on that superhost, a LAM is interacting virtually with a DoorDash app or website interface.

そしてそのスーパーホスト上で、LAMはDoorDashのアプリやウェブサイトのインターフェイスとバーチャルにやりとりする。

And you don't see all of that because all of a sudden this is done all at once because it's AI.

それが突然、AIによって一挙に行われるのだから。

彼はこれ以上ないほど明瞭だ。

This is a flat out lie, at least currently, which he says the LAM is here now.

これは、少なくとも現在、彼がLAMが今ここにあると言っているのは真っ赤な嘘だ。

Now I reached out over and over to the Rabbit team, pressing them again and again on this issue.

今、私はラビット・チームに何度も何度も連絡を取り、この問題について何度も何度も迫った。

And they kept saying, oh, playwright, yeah, that's the thing, but it's just part of how the LAM controls things.

そして彼らは、ああ、脚本家よ、ああ、そういうことなんだ、でもそれはLAMが物事をコントロールする方法の一部なんだ、と言い続けた。