That was the text message that was sent to me in April of 2022.

それが2022年4月に私に送られてきたメールだった。

I'm sitting in my grandmother's living room in what is her 90th birthday, surrounded by family and friends as my phone blows up with messages from strangers right across the country who say they have seen a video of me engaging in hardcore pornographic activity with a man.

祖母の90歳の誕生日に祖母の居間に座り、家族や友人に囲まれていると、私の携帯電話が、私が男性とハードコアなポルノ行為に及んでいるビデオを見たという全国の見知らぬ人たちからのメッセージで爆発した。

I knew this was impossible.

これは不可能だと思った。

With just three weeks out from my election, I felt as though my career was crumbling before my very eyes.

選挙からわずか3週間で、自分のキャリアが目の前で崩れていくような気がした。

My heart pounded, my mind raced, sweat beaded on my skin, and then I watched the video and my worst fear was realized.

心臓がドキドキし、心が高鳴り、汗がにじんだ。

Although this woman in the video was not me, she looked exactly like me, impossibly like me, eerily like me.

ビデオに映っていた女性は私ではなかったが、彼女は私にそっくりだった。

I had so many questions running through my mind.

たくさんの疑問が頭の中を駆け巡った。

Was this AI?

これはAIなのか？

Was it not?

そうだろう？

Who made this?

誰が作ったんだ？

How did they make it?

どうやって作ったのだろう？

Why did they make it?

なぜ彼らはそれを作ったのか？

So I did what anyone would do, and I approached my local police service to ask for advice, for guidance, and really, where did I go from there?

それで、誰でもするようなことをして、地元の警察署に相談し、アドバイスを求めた。

But they informed me that they wouldn't have the cybercrime technology to assist to find out where this video came from, and it was from that moment I knew that I was on my own.

しかし、このビデオの出所を突き止めるためのサイバー犯罪技術を持ち合わせていないとのことだった。

Now, to set the stage, as you can probably tell, I'm from Ireland, and to be exact, I'm Northern Ireland, which is an even smaller place.

さて、前置きが長くなったが、お分かりのように、私はアイルランド出身で、正確には北アイルランドという。

We have just 1.8 million people, very similar to size of Vienna.

ウィーンの人口とほぼ同じ180万人だ。

So you can imagine a rumor of this sinister nature, particularly in the world of politics, can go very far very fast, and that old saying, seeing is believing, began to haunt me.

特に政治の世界では、このような不吉な噂はあっという間に広まってしまう。

And in the weeks leading up to my election, this video, this false video, was shared thousands and thousands of times across WhatsApp.

そして私の選挙までの数週間、このビデオは、この偽のビデオは、WhatsApp上で何千回も何万回も共有された。

And attached to this video was photos of me at work, smiling, campaigning, building a sense of trust with my constituents.

そしてこのビデオには、仕事中の私の写真、笑顔、選挙活動、有権者との信頼関係の構築などが添付されていた。

And as the weeks went on, messages flooded in faster and faster, and they were of a very vile and sexual nature.

そして数週間が経つにつれ、メッセージはどんどん殺到し、その内容は非常に下劣で性的なものだった。

Ding, we've all seen your little video.

ディン、君の小さなビデオはみんな見たよ。

Ding, you should be ashamed of yourself.

ディン、恥を知りなさい。

Ding, ah, now I see how you got your position in politics.

チーン、ああ、君がどうやって政治家としての地位を手に入れたのかわかったよ。

It was very difficult.

とても難しかった。

And having been in politics since the age of 23, and at this point, I've been in it for about four to five years, and I'm from Northern Ireland, which is a post-conflict society, still very deeply divided.

私は北アイルランドの出身ですが、そこは紛争後の社会で、いまだに深く分断されています。

So I anticipated challenges, I anticipated disagreements, I even anticipated attacks.

だから、挑戦も、意見の相違も、攻撃さえも予想していた。

It's politics after all.

結局は政治だ。

But what I did not anticipate was this moment.

しかし、予想していなかったのはこの瞬間だった。

This was different.

これは違った。

This was the moment where misogyny meets the misuse of technology, and even had the potential to impact the outcome of a democratic election.

これは、女性差別とテクノロジーの悪用が出会った瞬間であり、民主的な選挙の結果に影響を与える可能性さえあった。

And the sad thing for me was this lie became so far spread, so far so fast, that even my own family started to believe it.

そして私にとって悲しかったのは、この嘘があまりに広く、あまりに早く広まり、自分の家族でさえも信じ始めたことだ。

Some would say that they'd heard it at a golf club, others would say they heard it at the bar, and of course, some even said they heard it in a locker room.

ゴルフクラブで聞いたという人もいれば、バーで聞いたという人もいる。もちろん、ロッカールームで聞いたという人さえいる。

A really good example of how far this went was people that I knew my entire life would pass me in the street without whispering a word, people like school teachers, people I had a sense of trust with and, you know, an affinity with, and that was really hard.

その良い例が、私がずっと知っている人たちが、道で一言もささやくことなくすれ違うことだ。学校の先生のような、信頼感や親近感のある人たちだ。

It felt like overnight, I was wearing a scarlet letter.

一晩で緋文字がついたような気分だった。

And as things moved on, and we're about two, three weeks out from the election, I kept receiving messages, and it got wider and wider, it was global.

そして事態が進み、選挙から2、3週間が経とうとしている頃、私はメッセージを受け取り続けた。

Not only was I receiving messages from Dublin and from London, but I was also receiving messages from Massachusetts, Manhattan, and I was getting so many follows on my political social media, predominantly from men, hungry for more of this scandal.

ダブリンやロンドンからだけでなく、マサチューセッツやマンハッタンからもメッセージを受け取っていたし、私の政治的なソーシャルメディアには、このスキャンダルの続報に飢えている、主に男性からたくさんのフォローがあった。

And this intersection of online harms impacting my real life was something I found utterly strange and surreal, but it got to the point where I was recognized on the street and approached by a stranger who asked me for a sexual favor.

そして、このネット上の被害が実生活に影響を及ぼすという交差点は、まったく奇妙でシュールなものだと感じていたが、路上で見知らぬ男に声をかけられ、性的な頼みごとをされるまでになった。

And it was just, for me, it was like in the blink of an eye, everything had just changed.

私にとっては、瞬く間にすべてが変わってしまったような感じだった。

And it was utterly humiliating.

そして、まったく屈辱的だった。

I didn't want to leave the house, and I had turned notifications off in my phone, just so I could kind of catch my breath.

家から出たくなかったし、一息つくために携帯の通知も切っていた。

But this wasn't ideal in the lead up, of course, to an election.

しかし、これは選挙を控えた時期にはもちろん理想的ではなかった。

And for me, I think that was the purpose of this false video, was to do just that.

私にとって、この偽ビデオの目的はまさにそれだった。

But what hurt the most for me was sitting down my father and having to explain to him this strange, surreal situation.

しかし、私にとって最も痛かったのは、父と同席し、この奇妙で非現実的な状況を説明しなければならなかったことだ。

My father is an Irishman, completely disconnected from tech.

私の父はアイルランド人で、技術とは完全に無縁だ。

And so having to explain this horrific situation was an entire fabrication was very hard to do.

だから、この恐ろしい状況をすべてでっち上げだと説明しなければならないのは、とてもつらいことだった。

This was this strange moment where the online world met my life, my reality.

ネットの世界と私の人生、私の現実が出会う不思議な瞬間だった。

Not only having the impact to ruin my reputation, but have the capacity to change the outcome of a democratic election.

私の評判を落とすだけでなく、民主的な選挙の結果を変えるほどの影響力がある。

And you know, for years, I spent so much time building trust with my constituents.

そして、私は何年もの間、有権者との信頼関係の構築に多くの時間を費やしてきた。

I mean, we all know how much people like politicians, and you know, we're as likable as the taxman.

つまり、政治家がどれだけ好かれているかはみんな知っている。

So for me, it was hard.

だから僕には難しかった。

It was really hard because it was years of hard work.

何年にもわたるハードワークだったから、本当に大変だった。

You know, I'm so passionate about my job and this video, this complete falsehood had the ability to just undermine years of hard work in mere seconds.

私は自分の仕事にとても情熱を持っているのに、このビデオ、この完全なデマは、ほんの数秒で長年のハードワークを台無しにしてしまった。

But instead of succumbing entirely to victimhood, I asked myself today, you know, where do we go from here?

しかし、被害者意識に完全に屈するのではなく、今日、自問した。

And how can AI evolve to prevent something like this happening again?

そして、このようなことが二度と起こらないようにするために、AIはどのように進化すればいいのだろうか？

Not only has it happened to me, but we want to future proof and ensure that this doesn't happen to the woman of tomorrow.

私に起きたことだけではなく、私たちは未来の女性たちにこのようなことが起きないよう、未来に備えたいのです。

How can we, you and I, people who care about people, ensure that this is a tech for good?

私たち、あなたや私、人々のことを考える人々は、どうすればこの技術を良いものにすることができるのだろうか？

How can we, the policy makers, the creators, the consumers, ensure we regulate AI and things like social media, putting humans and humanity at the center of artificial intelligence?

私たち政策立案者、クリエイター、消費者は、人工知能の中心に人間と人間性を置きながら、AIやソーシャルメディアのようなものをどのように規制していけばいいのでしょうか？

AI can change the world.

AIは世界を変えることができる。

In fact, as we've heard today, it already has.

実際、今日聞いたように、すでにそうなっている。

In a matter of seconds, people who speak completely different languages can connect and understand one another.

数秒のうちに、まったく異なる言語を話す者同士がつながり、理解し合うことができる。

And we've even seen the Pope as a style icon in a puffer jacket.

また、ローマ法王がパファージャケットを着てスタイル・アイコンとして登場したこともある。

So some really important uses right there.

つまり、本当に重要な用途がそこにある。

But then in my case as well, we can also see how it is weaponized against the truth.

しかし、私の場合も、それが真実に対してどのように武器化されているかを見ることができる。

And good examples of this would be art that appears like reality, AI generated reviews on fairly boosting certain products, and things like chap up propaganda.

その好例が、現実のように見えるアートや、AIが生成した特定の商品に関する公正な評価、そしてチャップアッププロパガンダのようなものだ。

And then politically speaking, we've seen over the years, deepfakes of Nancy Pelosi slurring, Joe Biden cursing, and even President Zelensky asking his soldiers to surrender their weapons.

政治的に言えば、ナンシー・ペロシが口ごもったり、ジョー・バイデンが罵ったり、ゼレンスキー大統領が兵士に武器を放棄するよう求めたりするディープフェイクを何年も見てきた。

So when AI is used like this to manipulate, it can be a threat to our democracy.

だから、AIがこのように操作に使われれば、民主主義を脅かすことになりかねない。

And the tech is becoming so advanced that it's hard to differentiate fact from fiction.

そして、その技術は非常に高度になり、事実とフィクションの区別がつきにくくなっている。

So how does AI interfere with politics?

では、AIはどのように政治に干渉するのか？

And for us as politicians, what should we be worried about?

私たち政治家は何を心配すべきなのか？

Could truth and democracy become shattered by AI?

真実と民主主義はAIによって粉砕されるのか？

Has it already?

それはもう終わったのか？

Well, to dive a little deeper here, I think firstly, we need to talk about the concept of truth.

さて、ここでもう少し深く掘り下げるために、まず真実という概念について話す必要があると思う。

Without truth, democracy collapses.

真実がなければ、民主主義は崩壊する。

Truth allows us to make informed decisions.

真実は、私たちが情報に基づいた決断を下すことを可能にしてくれる。

It enables us to hold leaders accountable, which is very important.

リーダーたちに責任を負わせることができる。

And it also allows us as political representatives to create a sense of trust with our citizens and our constituents.

また、政治家として市民や有権者との信頼関係を築くこともできる。

But without that truth, democracy is vulnerable to misinformation, manipulation, and of course, corruption.

しかし、その真実がなければ、民主主義は誤った情報や操作、そしてもちろん腐敗に弱い。

When AI erodes truth, it erodes trust, and it undermines our democracy.

AIが真実を侵食すれば、信頼が損なわれ、民主主義が損なわれる。

And for me, in my experience with a deepfake, I've seen what a fantastic distortion tool that deepfakes really are.

そして私にとって、ディープフェイクを経験したことで、ディープフェイクが本当に素晴らしい歪曲ツールであることを知った。

So how can we safeguard democracy from this ever-advancing technology?

では、この進化し続けるテクノロジーから民主主義を守るにはどうすればいいのか？

It's becoming ever harder to distinguish between real and synthetic content.

本物のコンテンツと合成コンテンツを区別するのはますます難しくなっている。

And politically, what role does AI play in the future?

そして政治的には、AIは将来どのような役割を果たすのだろうか？

And I can't talk about politics without talking about media as well.

メディアの話を抜きにして政治の話はできない。

They're undeniably linked, they're intertwined.

それらは紛れもなくリンクしており、絡み合っている。

And I think journalism has its own battle here as well.

そして、ジャーナリズムはここでも独自の戦いを強いられていると思う。

From AI algorithms, boosting articles unfairly to clickbait headlines, and then also moments where they can manipulate the public as well.

AIアルゴリズムから、クリックベイト・ヘッドラインに不当な記事ブースト、そして一般大衆を操作する瞬間もある。

But politically speaking, we've seen AI-tailored political messaging influencing voters.

しかし政治的には、AIが調整した政治的メッセージが有権者に影響を与えている。

We've seen it adding to existing bias.

既存のバイアスに拍車をかけている。

And definitely, I think we all have that aunt that's on Facebook and kind of believes anything.

それに、フェイスブックをやっていて、何でも信じてしまうようなおばさんは、誰にでもいると思う。

So for me, as a politician, I think it's really important we dive a little deeper into the relationship of AI, journalism, and media.

だから私は政治家として、AI、ジャーナリズム、メディアの関係をもう少し深く掘り下げることが本当に重要だと思う。

But it also puts us at risk of creating a more divided and reactionary society, because falsehoods can create a lot of reaction.

虚偽は多くの反感を生むからだ。

And for myself, coming from Northern Ireland, which is that post-conflict society, I do have concerns about how it could shape our political landscape and other places across the globe.

私自身は、紛争後の社会である北アイルランド出身であるため、それが私たちや世界中の他の地域の政治状況をどのように形成しうるかについて懸念を持っている。

Sadly, this deepfake video is not the only instance of me having experienced abuse with AI.

悲しいことに、AIによる虐待を経験したのは、このディープフェイク動画だけではない。

Just six months ago, I received 15 fake deepfake images of myself in lingerie, posing provocatively.

ちょうど半年前、私はランジェリー姿で挑発的なポーズをとった15枚の偽のディープフェイク画像を受け取った。

And I thought to myself, here we go again.

そして、またか、と思った。

And you know, I spoke with some other female politicians, thankfully, where I represent, we have more women getting into politics.

他の女性政治家たちとも話をしたんだけど、ありがたいことに、私が代表を務める地域では、政治家になる女性が増えているんだ。

But I had a really good conversation with them, and it's around, if this is happening to you now, what happens to me tomorrow?

でも、彼らとは本当にいい会話ができた。

And I think this really strikes at the heart of the climate of fear that AI can create for those in public life.

そしてこのことは、AIが公の場にいる人々にもたらす恐怖の風潮の核心を突いていると思う。

And I don't blame women, it's very sad, I don't blame women for not wanting to get into technology, come forward.

そして、私は女性を責めるつもりはない。とても悲しいことだが、女性が技術の世界に入りたがらないこと、前に出たがらないことを責めるつもりはない。

So that's so important that we safeguard it.

だから、それを守ることがとても重要なんだ。

What also concerned me was the position of elderly voters, perhaps their media literacy, their comprehension of this technology, people who don't use the internet, who perhaps are not aware of AI and its many, many uses.

さらに私が懸念したのは、高齢の有権者の立場、おそらくメディアリテラシーやこのテクノロジーに対する理解力、インターネットを使わない人々、おそらくAIやその多くの用途を知らない人々である。

So that was really concerning as well.

だから、それも本当に心配だった。

But it doesn't have to be this way.

だが、こうである必要はない。

We can be part of the change.

私たちは変化の一部になれる。

For me and my video, I still don't know, to this day, who did this.

私と私のビデオにとって、誰がこんなことをしたのか、今でもわからない。

I can imagine why they did it, but I don't know who did it.

なぜそんなことをしたのかは想像できるが、誰がやったのかはわからない。

And sadly, for me, and for across the globe, it still wouldn't be considered a crime.

そして悲しいことに、私にとっても、世界中の人々にとっても、それはまだ犯罪とはみなされない。

So from being the enemy of fair, transparent, good-natured politics, to warfare, to international But it doesn't have to be this way.

だから、公正で透明性があり、善良な政治の敵であることから、戦争、国際的な問題へと発展した。 しかし、こうである必要はない。

I feel passionately that AI can be a humanistic technology with human values that complements the lives that we live, to make us the very best versions of ourselves.

私は、AIが人間の価値観を備えた人間味あふれるテクノロジーとなり、私たちの生活を補完し、私たち自身を最高のものにすることができると熱く感じている。

But to do that, I think we need to embed ethics into this technology, to eliminate bias, to install empathy, and make sure it is aligned with human values and human principles.

しかし、そのためには、このテクノロジーに倫理を組み込み、偏見をなくし、共感を取り付け、人間の価値観や人間の原則に沿ったものにする必要があると思う。

Who knows?

誰が知っている？

Our democracy could depend on it.

私たちの民主主義はそれにかかっている。

And today, I know we have some of the brightest minds in this room.

そして今日、この部屋には最も優秀な頭脳の持ち主が何人かいることを私は知っている。

I heard some of the talks earlier, and I'm certain of that.

先ほどいくつかの話を聞いたが、それは確かだ。

And I know each and every one of you have weight on your shoulders when looking to the future.

そして、あなた方一人ひとりが将来を見据えるとき、肩に重荷を背負っていることも知っている。

But I also know each and every one of you want to see this tech for good.

しかし、私はあなた方一人ひとりが、この技術を良いものにしてほしいと思っていることも知っている。

And what gives me hope is witnessing the movement right across the globe to see this hard journey begin, to regulate this ever-advancing technology, which can be used for bad or for good.

そして、私に希望を与えてくれるのは、この困難な旅が始まるのを見届けようとする世界中の動きを目撃していることだ。

But perhaps we, each and every one of us in this room, can be part of finding the solution.

しかし、おそらくここにいる私たち一人ひとりが、解決策を見つける一端を担うことができるだろう。