You can't get over the statistics You and your partner Alex have been in a strong, loving relationship for years, and lately you're considering getting engaged.

統計から抜け出せない あなたとパートナーのアレックスは、長年にわたって強い愛情で結ばれており、最近では婚約を考えている。

Alex is enthusiastic about the idea, but you can't get over the statistics.

アレックスはそのアイデアに熱中しているが、あなたは統計を乗り越えることができない。

You know a lot of marriages end in divorce, often not amicably, and over 10% of couples in their first marriage get divorced within the first five years.

多くの結婚が離婚に至るのはご存知の通りだが、多くの場合、友好的ではなく、初婚のカップルの10％以上が最初の5年以内に離婚する。

If your marriage wouldn't even last five years, you feel like tying the knot would be a mistake.

結婚生活が5年も続かないなら、結婚するのは間違いだと思うだろう。

But you live in the near future, where a brand new company just released an AI-based model that can predict your likelihood of divorce.

しかし、あなたは近未来に生きている。そこでは、真新しい会社がAIベースのモデルを発表したばかりで、あなたの離婚の可能性を予測することができる。

The model is trained on datasets containing individuals' social media activity, online search histories, spending habits, and history of marriage and divorce.

このモデルは、個人のソーシャルメディア活動、オンライン検索履歴、消費習慣、結婚や離婚の履歴を含むデータセットで学習される。

And using this information, the AI can predict if a couple will divorce within the first five years of marriage with 95% accuracy.

そしてこの情報を使って、AIは結婚後5年以内に夫婦が離婚するかどうかを95％の精度で予測することができる。

The only catch is the model doesn't offer any reasons for its results.

唯一の欠点は、このモデルがその結果の理由を提示していないことだ。

It simply predicts that you will or won't divorce without saying why.

それは単に、あなたが離婚するかしないかを予測するだけで、その理由は語らない。

So, should you decide whether or not to get married based on this AI's prediction?

では、このAIの予測に基づいて結婚するかどうかを決めるべきなのだろうか？

Suppose the model predicts you and Alex would divorce within five years of getting married.

このモデルが、あなたとアレックスが結婚後5年以内に離婚すると予測したとしよう。

At this point, you'd have three options.

この時点で、あなたには3つの選択肢がある。

You could get married anyway and hope the prediction is wrong.

とにかく結婚して、予言が外れることを祈ればいい。

You could break up now, though there's no way to know if ending your currently happy relationship would cause more harm than letting the prediction run its course.

今すぐ別れることもできるが、今の幸せな関係に終止符を打つことが、予知を成り行きに任せるよりも害を及ぼすかどうかは知る由もない。

Or you could stay together and remain unmarried, on the off-chance marriage itself would be the problem.

あるいは、結婚そのものが問題である可能性を考えて、結婚せずに一緒にいることもできる。

Though without understanding the reasons for your predicted divorce, you'd never know if those mystery issues would still emerge to ruin your relationship.

しかし、離婚の理由を理解しなければ、そのような謎の問題がまだ浮上し、二人の関係を台無しにしてしまうかどうかはわからない。

The uncertainty undermining all these options stems from a well-known issue with AI around explainability and transparency.

これらすべての選択肢を損なう不確実性は、説明可能性と透明性をめぐるAIのよく知られた問題に起因している。

This problem plagues tons of potentially useful predictive models, such as those that could be used to predict which bank customers are most likely to repay a loan, or which prisoners are most likely to re-offend if granted parole.

この問題は、銀行のどの顧客がローンを返済する可能性が最も高いか、あるいは仮釈放が認められた場合にどの囚人が再犯する可能性が最も高いかを予測するために使用できるような、潜在的に有用な予測モデルの多くを悩ませている。

Without knowing why AI systems reach their decisions, many worry we can't think critically about how to follow their advice.

AIシステムがなぜそのような判断を下すのかがわからなければ、そのアドバイスにどう従うべきかについて批判的に考えることができないと、多くの人が心配している。

But the transparency problem doesn't just prevent us from understanding these models— it also impacts the user's accountability.

しかし、透明性の問題は、こうしたモデルの理解を妨げるだけでなく、ユーザーの説明責任にも影響する。

For example, if the AI's prediction led you to break up with Alex, what explanation could you reasonably offer them?

例えば、AIの予測によってアレックスと別れることになったとしたら、あなたは彼らにどのような説明をすることができるだろうか？

That you want to end your happy relationship because some mysterious machine predicted its demise?

幸せな関係に終止符を打ちたいのは、ある謎めいた機械がその終焉を予言したからなのか？

That hardly seems fair to Alex.

それはアレックスにとって公平とは思えない。

We don't always owe people an explanation for our actions, but when we do, AI's lack of transparency can create ethically challenging situations.

私たちは常に自分の行動について人々に説明する義務を負っているわけではないが、そうである場合、AIの透明性の欠如は倫理的に困難な状況を生み出しかねない。

And accountability is just one of the tradeoffs we make by outsourcing important decisions to AI.

そして説明責任は、重要な決定をAIに委託することで生じるトレードオフのひとつに過ぎない。

If you're comfortable deferring your agency to an AI model, it's likely because you're focused on the accuracy of the prediction.

AIモデルにエージェンシーを委ねることに抵抗がないのであれば、それは予測の精度を重視しているからだろう。

In this mindset, it doesn't really matter why you and Alex might break up— simply that you likely will.

この考え方では、あなたとアレックスが別れる理由などどうでもよく、ただ別れる可能性が高いということだ。

But if you prioritize authenticity over accuracy, then you'll need to understand and appreciate the reasons for your future divorce before ending things today.

しかし、もしあなたが正確さよりも信憑性を優先するのであれば、今日の事態に終止符を打つ前に、将来の離婚の理由を理解し、感謝する必要があるだろう。

Authentic decision-making like this is essential for maintaining accountability, and it might be your best chance to prove the prediction wrong.

このような本物の意思決定は、説明責任を維持するために不可欠であり、予測が間違っていることを証明する最大のチャンスかもしれない。

On the other hand, it's also possible the model already accounted for your attempts to defy it, and you're just setting yourself up for failure.

その一方で、モデルがすでにあなたの試みを計算に入れていて、あなたが失敗するように仕向けているだけという可能性もある。

95% accuracy is high, but it's not perfect.

95％の精度は高いが、完璧ではない。

That figure means 1 in 20 couples will receive a false prediction.

この数字は、20組に1組が間違った予言を受けることを意味する。

And as more people use this service, the likelihood increases that someone who was predicted to divorce will do so just because the AI predicted they would.

そして、このサービスを利用する人が増えれば増えるほど、AIが離婚すると予測したからといって、離婚すると予測された人が離婚する可能性が高まる。

If that happens to enough newlyweds, the AI's success rate could be artificially maintained, or even increased, by these self-fulfilling predictions.

もし十分な数の新婚夫婦にそのようなことが起これば、AIの成功率はこのような自己成就的予測によって人為的に維持され、あるいは上昇する可能性さえある。

Of course, no matter what the AI might tell you, whether you even ask for its prediction is still up to you.

もちろん、AIが何を言おうと、その予測を求めるかどうかはあなた次第だ。

Subtitling by SUBS Amara.org

字幕制作：SUBS Amara.org