There's a building in Sydney at 1 Bligh Street.

シドニーのブリッグストリート1番地にビルがあります。

It houses lots of government apartments

官公庁のアパートがたくさん入っています。

and busy people.

と忙しい人たち。

From the outside, it looks like something out of American science fiction:

外から見ると、アメリカのSFの何かのように見える。

all gleaming glass and curved lines,

すべてがキラキラと輝くガラスと曲線。

and a piece of orange sculpture.

とオレンジ色の彫刻の一部。

On the inside, it has excellent coffee on the ground floor

中では、1階のコーヒーが絶品

and my favorite lifts in Sydney.

とシドニーでのお気に入りのリフト。

They're beautiful;

綺麗だよ

they look almost alive.

生きているように見える

And it turns out I'm fascinated with lifts.

そして、私はリフトに魅了されていることがわかりました。

For lots of reasons.

いろいろな理由があって

But because lifts are one of the places you can see the future.

しかし、リフトは未来が見える場所の一つだからです。

In the 21st century, lifts are interesting

21世紀はリフトが面白い

because they're one of the first places that AI will touch you

AIが最初に触れる場所の一つだからです

without you even knowing it happened.

あなたが気づかないうちに

In many buildings all around the world,

世界中の多くの建物で

the lifts are running a set of algorithms.

リフトは一連のアルゴリズムを実行しています。

A form of protoartificial intelligence.

プロトアーティフィシャル・インテリジェンスの一形態。

That means before you even walk up to the lift to press the button,

つまり、エレベーターまで歩いて行く前にボタンを押すということです。

it's anticipated you being there.

あなたがそこにいることを期待していました。

It's already rearranging all the carriages.

すでに全ての馬車を再編成しています。

Always going down, to save energy,

エネルギーを節約するために、常に下を向いています。

and to know where the traffic is going to be.

と、交通の便がどこにあるのかを知ることができます。

By the time you've actually pressed the button,

実際にボタンを押した時点で

you're already part of an entire system

おのれはもうおのれの一部

that's making sense of people and the environment

それが人と環境の理にかなっている

and the building and the built world.

と建物と建てられた世界。

I know when we talk about AI, we often talk about a world of robots.

AIの話をすると、よくロボットの世界の話をしますよね。

It's easy for our imaginations to be occupied with science fiction,

私たちの想像力はSFに占領されがちです。

well, over the last 100 years.

まあ、過去100年の間に

I say AI and you think "The Terminator."

私がAIと言ったら、あなたは「ターミネーター」と思うでしょう。

Somewhere, for us, making the connection between AI and the built world,

どこかで、私たちのために、AIと構築された世界のつながりを作っている。

that's a harder story to tell.

その方が難しい話だ

But the reality is AI is already everywhere around us.

しかし、現実はすでに私たちの身の回りのいたるところにAIが存在しています。

And in many places.

そして多くの場所で

It's in buildings and in systems.

それは建物の中にもシステムの中にもあります。

More than 200 years of industrialization

200年以上の工業化の歴史

suggest that AI will find its way to systems-level scale relatively easily.

AIが比較的簡単にシステムレベルのスケールに到達する道を見つけることを示唆しています。

After all, one telling of that history

結局のところ、その歴史の一つの話

suggests that all you have to do is find a technology,

技術を見つけるだけでいいのではないかと提案しています。

achieve scale and revolution will follow.

規模を達成し、革命はその後に続きます。

The story of mechanization, automation and digitization

機械化・自動化・デジタル化の話

all point to the role of technology and its importance.

すべては、技術の役割とその重要性を指し示しています。

Those stories of technological transformation

それらの技術的な変革の物語

make scale seem, well, normal.

スケールを普通に見せる

Or expected.

あるいは期待していた。

And stable.

そして安定している。

And sometimes even predictable.

時には予測可能なことも。

But it also puts the focus squarely on technology and technology change.

しかし、それはまた、技術と技術の変化に正面から焦点を当てています。

But I believe that scaling a technology and building a system

しかし、技術をスケーリングしてシステムを構築することは

requires something more.

はもっと何かを必要とします。

We founded the 3Ai Institute at the Australian National University

オーストラリア国立大学に3Ai研究所を設立しました。

in September 2017.

2017年9月に

It has one deceptively simple mission:

それには単純な使命がある

to establish a new branch of engineering

工務店を設立する

to take AI safely, sustainably and responsibly to scale.

AIを安全に、持続可能に、そして責任を持ってスケールアップさせるために。

But how do you build a new branch of engineering in the 21st century?

しかし、21世紀の工学の新しい分岐点はどうやって作るのでしょうか？

Well, we're teaching it into existence

まあ、私たちはそれを存在させるために教えています。

through an experimental education program.

実験的な教育プログラムを通じて

We're researching it into existence

存在することを研究している

with locations as diverse as Shakespeare's birthplace,

シェイクスピアの生家のような多様な場所で。

the Great Barrier Reef,

グレートバリアリーフ

not to mention one of Australia's largest autonomous mines.

オーストラリア最大の自治鉱山の一つであることは言うまでもありません。

And we're theorizing it into existence,

そして、私たちはそれを実在するように理論化しています。

paying attention to the complexities of cybernetic systems.

サイバネティックシステムの複雑さに注目しています。

We're working to build something new and something useful.

何か新しいもの、何か役に立つものを作りたいと思っています。

Something to create the next generation of critical thinkers and critical doers.

次世代の批判的思考者、批判的行動者を生み出すための何か。

And we're doing all of that

そして、私たちがやっているのは

through a richer understanding of AI's many pasts and many stories.

AIの多くの過去と多くの物語への理解を深めることで

And by working collaboratively and collectively

そして、協働して集団で取り組むことで

through teaching and research and engagement,

教えること、研究すること、そして関与することを通して

and by focusing as much on the framing of the questions

そして、質問のフレーミングにできるだけ焦点を当てることで

as the solving of the problems.

問題の解決として。

We're not making a single AI,

AIを一人で作っているわけではありません。

we're making the possibilities for many.

多くの人の可能性を作っています。

And we're actively working to decolonize our imaginations

私たちは想像力を脱植民地化するために 積極的に活動しています

and to build a curriculum and a pedagogy

そして、カリキュラムと教育学を構築するために

that leaves room for a range of different conversations and possibilities.

それは、様々な会話や可能性の余地を残しています。

We are making and remaking.

作ったり、作り直したりしています。

And I know we're always a work in progress.

そして、私たちは常に進行中の作業であることを知っています。

But here's a little glimpse

しかし、ここで少しだけ垣間見ることができます。

into how we're approaching that problem of scaling a future.

未来をスケーリングするという問題に どのようにアプローチしているかに

We start by making sure we're grounded in our own history.

まずは自分たちの歴史に根ざしているかどうかを確認することから始めます。

In December of 2018,

2018年の12月に

I took myself up to the town of Brewarrina

ブレワリナの町まで行ってきました

on the New South Wales-Queensland border.

ニュー・サウス・ウェールズ州とクイーンズランド州の境界線上にあります。

This place was a meeting place for Aboriginal people,

ここはアボリジニの人たちが集まる場所でした。

for different groups,

異なるグループのために。

to gather, have ceremonies, meet, to be together.

集まる、儀式をする、会う、一緒にいる。

There, on the Barwon River, there's a set of fish weirs

そこのバーウォン川には魚の堰堤があります

that are one of the oldest and largest systems

屈指の老舗システム

of Aboriginal fish traps in Australia.

オーストラリアのアボリジニのフィッシュトラップの

This system is comprised of 1.8 kilometers of stone walls

このシステムは、1.8キロの石垣で構成されています。

shaped like a series of fishnets

羅針盤状

with the "Us" pointing down the river,

私たち」が川を指差しながら

allowing fish to be trapped at different heights of the water.

魚が水の異なる高さでトラップされることを可能にします。

They're also fish holding pens with different-height walls for storage,

高さの違う壁を使って収納用に魚を飼っているペンもあるそうです。

designed to change the way the water moves

水の動きを変えるように設計されています。

and to be able to store big fish and little fish

と、大きな魚と小さな魚を収納できるように

and to keep those fish in cool, clear running water.

そして、それらの魚を冷たく澄んだ流水の中に保つために。

This fish-trap system was a way to ensure that you could feed people

この魚群探知機のシステムは、人々に餌を与えることができるようにするための方法でした。

as they gathered there in a place that was both a meeting of rivers

河合の地に集うように

and a meeting of cultures.

と文化の出会い。

It isn't about the rocks or even the traps per se.

それは岩のことでも、それ自体がトラップのことでもありません。

It is about the system that those traps created.

それは、それらの罠が生み出したシステムについてです。

One that involves technical knowledge,

専門的な知識を伴うもの。

cultural knowledge

ぶんかちしき

and ecological knowledge.

と生態学的な知識がある。

This system is old.

このシステムはもう古いです。

Some archaeologists think it's as old as 40,000 years.

考古学者の中には、4万年前と同じくらい古いと考えている人もいます。

The last time we have its recorded uses is in the nineteen teens.

その記録された用途が最後にあるのは、十九代の頃です。

It's had remarkable longevity and incredible scale.

驚異的な長寿と驚異的なスケールを持っていました。

And it's an inspiration to me.

そして、それは私にインスピレーションを与えてくれます。

And a photo of the weir is on our walls here at the Institute,

そして、堰の写真は、ここ研究所の壁にあります。

to remind us of the promise and the challenge

約束と挑戦を思い起こさせるために

of building something meaningful.

意味のあるものを作ることの

And to remind us that we're building systems

そして、私たちがシステムを構築していることを思い出させるために

in a place where people have built systems

人がシステムを構築してきた場所で

and sustained those same systems for generations.

そして何世代にもわたって同じシステムを維持してきました。

It isn't just our history,

歴史だけではありません。

it's our legacy as we seek to establish a new branch of engineering.

それは私たちの遺産であり、私たちは新しい技術部門の設立を目指しています。

To build on that legacy and our sense of purpose,

その遺産と目的意識を築くために

I think we need a clear framework for asking questions about the future.

将来のことを問うための明確な枠組みが必要だと思います。

Questions for which there aren't ready or easy answers.

用意されていない質問や簡単な答えがない質問。

Here, the point is the asking of the questions.

ここでは、質問の内容がポイントになります。

We believe you need to go beyond the traditional approach

従来のアプローチを超える必要があると考えています。

of problem-solving,

問題解決の

to the more complicated one of question asking

より複雑な質問へ

and question framing.

と質問のフレーミング。

Because in so doing, you open up all kinds of new possibilities

そうすることで、あらゆる新しい可能性が開けてくるからだ。

and new challenges.

と新たな挑戦をしています。

For me, right now,

今の私のために

there are six big questions that frame our approach

私たちのアプローチを構成する6つの大きな疑問があります。

for taking AI safely, sustainably and responsibly to scale.

AIを安全に、持続可能に、責任を持ってスケールアップさせるために。

Questions about autonomy,

自主性についての質問。

agency, assurance,

代理店、保証

indicators, interfaces and intentionality.

指標、インターフェイス、意図性。

The first question we ask is a simple one.

最初にお聞きするのは簡単な質問です。

Is the system autonomous?

システムは自律的なのか？

Think back to that lift on Bligh Street.

ブリー通りのリフトを思い出すんだ

The reality is, one day, that lift may be autonomous.

現実は、いつかそのリフトが自律的になるかもしれない。

Which is to say it will be able to act without being told to act.

つまり、言われなくても行動できるようになるということです。

But it isn't fully autonomous, right?

でも、完全自律型ではないんですよね。

It can't leave that Bligh Street building

ブリー通りの建物を離れることはできない

and wonder down to Circular Quay for a beer.

そして、サーキュラーキーでビールを飲みながら、不思議に思います。

It goes up and down, that's all.

上がったり下がったり、それだけです。

But it does it by itself.

でも、それは自分でやってくれます。

It's autonomous in that sense.

そういう意味では自律的です。

The second question we ask:

2つ目の質問をします。

does this system have agency?

このシステムには機関があるのでしょうか？

Does this system have controls and limits that live somewhere

このシステムはどこかに制御と限界があるのでしょうか？

that prevent it from doing certain kinds of things under certain conditions.

特定の条件の下では、特定の種類のことをすることができません。

The reality with lifts, that's absolutely the case.

リフトがある現実、それは絶対にあります。

Think of any lift you've been in.

どんなリフトに乗っていたか考えてみてください。

There's a red keyslot in the elevator carriage

エレベーターの馬車の中に赤いキースロットがあります

that an emergency services person can stick a key into

カギを突っ込むことができる

and override the whole system.

とシステム全体をオーバーライドします。

But what happens when that system is AI-driven?

しかし、そのシステムがAI駆動の場合はどうなるのでしょうか？

Where does the key live?

鍵はどこにあるの？

Is it a physical key, is it a digital key?

物理キーなのか、デジタルキーなのか。

Who gets to use it?

誰が使うの？

Is that the emergency services people?

救急隊の人たちかな？

And how would you know if that was happening?

それをどうやって知ったの？

How would all of that be manifested to you in the lift?

その全てがリフトでどうやって顕在化するのか？

The third question we ask is how do we think about assurance.

3つ目の質問は、アシュアランスをどのように考えるかということです。

How do we think about all of its pieces:

すべての作品をどう考えるか。

safety, security, trust, risk, liability, manageability,

安全、安心、信頼、リスク、責任、管理性。

explicability, ethics, public policy, law, regulation?

説明可能性、倫理、公共政策、法律、規制？

And how would we tell you that the system was safe and functioning?

そして、システムが安全で機能していたことをどうやって伝えるのか？

The fourth question we ask

第四の質問

is what would be our interfaces with these AI-driven systems.

これらのAI駆動システムとのインターフェイスは何になるのでしょうか？

Will we talk to them?

彼らと話すのか？

Will they talk to us, will they talk to each other?

彼らは私たちに話しかけてくるのだろうか、お互いに話しかけてくるのだろうか。

And what will it mean to have a series of technologies we've known,

そして、私たちが知っている一連の技術を持つということはどういうことなのでしょうか。

for some of us, all our lives,

何人かの人にとっては、一生のうち何人かは

now suddenly behave in entirely different ways?

今までとは全く違う行動をとるようになったのか？

Lifts, cars, the electrical grid, traffic lights, things in your home.

リフト、車、電気グリッド、信号機、家の中のもの。

The fifth question for these AI-driven systems:

これらのAI駆動システムの5つ目の質問です。

What will the indicators be to show that they're working well?

うまくいっていることを示す指標は何になるのか？

Two hundred years of the industrial revolution

産業革命の200年

tells us that the two most important ways to think about a good system

は、良いシステムを考える上で最も重要な2つの方法を教えてくれます。

are productivity and efficiency.

は生産性と効率性です。

In the 21st century,

21世紀になって

you might want to expand that just a little bit.

もう少し拡大した方がいいかもしれません。

Is the system sustainable,

システムは持続可能か。

is it safe, is it responsible?

安全なのか、責任があるのか？

Who gets to judge those things for us?

誰が裁くんだ？

Users of the systems would want to understand

システムの利用者は、以下のことを理解したいと考えています。

how these things are regulated, managed and built.

これらがどのように規制され、管理され、構築されているか。

And then there's the final, perhaps most critical question

そして、最後の、おそらく最も重要な質問があります。

that you need to ask of these new AI systems.

これらの新しいAIシステムに尋ねる必要があります。

What's its intent?

その意図は？

What's the system designed to do

システムは何をするために設計されているのか

and who said that was a good idea?

と誰が言った？

Or put another way,

別の言い方をすると

what is the world that this system is building,

このシステムが構築している世界とは何なのか。

how is that world imagined,

その世界はどのように想像されているのでしょうか。

and what is its relationship to the world we live in today?

そして、それは今の私たちが生きている世界とどのような関係があるのでしょうか？

Who gets to be part of that conversation?

誰がその会話の一部になるんだ？

Who gets to articulate it?

誰がそれを明確にするのか？

How does it get framed and imagined?

どうやって額装して想像するのか？

There are no simple answers to these questions.

これらの質問に簡単な答えはありません。

Instead, they frame what's possible

その代わりに、可能なことを枠にはめてしまう

and what we need to imagine,

と想像する必要があります。

design, build, regulate and even decommission.

設計、建設、規制、そして廃炉まで。

They point us in the right directions

正しい方向を指し示してくれる

and help us on a path to establish a new branch of engineering.

と、エンジニアリングの新たな分岐点を確立するための道筋に協力してください。

But critical questions aren't enough.

しかし、批判的な質問だけでは十分ではありません。

You also need a way of holding all those questions together.

また、それらの質問をまとめる方法も必要です。

For us at the Institute,

研究所の私たちのために。

we're also really interested in how to think about AI as a system,

また、AIをシステムとしてどのように考えていくのかということにも非常に興味があります。

and where and how to draw the boundaries of that system.

と、そのシステムの境界線をどこでどのように引くか。

And those feel like especially important things right now.

それが今は特に重要なことのように感じています。

Here, we're influenced by the work that was started way back in the 1940s.

ここでは、1940年代に始まった作品に影響を受けています。

In 1944, along with anthropologists Gregory Bateson and Margaret Mead,

1944年、人類学者のグレゴリー・ベイトソンとマーガレット・ミードと共に。

mathematician Norbert Wiener convened a series of conversations

ノーバート・ウィーナーは、一連の会話を招集した

that would become known as the Macy Conferences on Cybernetics.

その結果、サイバネティクスに関するメイシー会議として知られるようになりました。

Ultimately, between 1946 and 1953,

結局、1946年から1953年の間に

ten conferences were held under the banner of cybernetics.

サイバネティクスを旗印に10の学会が開催されました。

As defined by Norbert Wiener,

ノルベルト・ウィーナーが定義したように

cybernetics sought to "develop a language and techniques

サイバネティクスは「言語と技術の開発」を目指した

that will enable us to indeed attack the problem of control and communication

制御と通信の問題を実際に攻撃することができるようになります。

in advanced computing technologies."

先進的なコンピューティング技術における"

Cybernetics argued persuasively

サイバネティクスは説得力を持って主張した

that one had to think about the relationship

関係を考えなければならない

between humans, computers

人間とコンピュータの間

and the broader ecological world.

そして、より広い生態系の世界。

You had to think about them as a holistic system.

全人的なシステムとして考える必要があったんですね。

Participants in the Macy Conferences were concerned with how the mind worked,

メイシー会議の参加者は、心がどのように働くかに関心を持っていました。

with ideas about intelligence and learning,

知性と学習についての考えを持って

and about the role of technology in our future.

と、私たちの未来におけるテクノロジーの役割について。

Sadly, the conversations that started with the Macy Conference

悲しいかな、メイシー会議から始まった会話は

are often forgotten when the talk is about AI.

は、AIの話になると忘れがちです。

But for me, there's something really important to reclaim here

しかし、私にとっては、ここで取り戻すことが本当に重要なことなのです。

about the idea of a system that has to accommodate culture,

文化を受け入れなければならないシステムの考え方について

technology and the environment.

技術と環境。

At the Institute, that sort of systems thinking is core to our work.

研究所では、このようなシステム思考が私たちの仕事の核となっています。