Name: X、実在人物の画像でGrok AIが服を脱がせる機能停止へ - BBCニュース (X to stop Grok AI from undressing images of real people after backlash | BBC News)
Uploaded: 2026-01-15T17:02:30.000Z
Duration: 4 min 37 s
Description: VoiceTubeの動画で発音を聞きながら英語表現を覚えよう！

様態の副詞

Elon Musk's AI tool Grok, will no longer be able to edit photos of real people in order to digitally undress them in places where it's illegal to do so.

イーロン・マスク氏のAIツールGrokは、違法な場所で実在の人物の写真をデジタル的に裸にする編集ができなくなります。

基礎受動態

The tool is used on the social media platform X and there's been widespread concern about fake photos of people in revealing clothing without their consent.

このツールはソーシャルメディアプラットフォームXで利用されており、同意なしに露出度の高い服を着た人々の偽写真について、広範な懸念が出ていました。

The UK regulator Ofcom says it welcomes the development, but

イギリスの規制当局Ofcomは、この進展を歓迎すると述べていますが、

an investigation into whether the law has been broken remains ongoing.

法令違反があったかどうかについての調査は継続中です。

Our technology editor Zoe Kleinman reports.

テクノロジーエディターのゾーイ・クラインマンがレポートします。

Grok and the social network X have been under fire for several days over the AI tool's controversial feature, which enabled it to create and share sexualized images of women and children.

GrokとソーシャルネットワークXは、AIツールが女性や子供の性的に露骨な画像を生成・共有できたという物議を醸す機能について、数日間非難されていました。

Put this woman in a bikini, put bruises on her.

この女性をビキニ姿にして、彼女にあざをつけてください。

Some commands given to Grok via posts on X, along with a photo of a real person used without their consent.

Xへのポストを通じてGrokに与えられたいくつかのコマンドと、同意なしに使用された実在の人物の写真です。

GROK complied and published its responding image publicly back on X.

Grokはこれに応じ、反応画像をX上で公に公開しました。

Ashley Sinclair is the mother of one of Elon Musk's children.

アシュリー・シンクレアは、イーロン・マスク氏の子供の一人の母親です。

彼女にも同じことが起こりました。

It's incredibly violating and it's also how realistic it is because these look very real, these images, and

これは信じられないほど侵害的であり、これらの画像は非常にリアルに見えるため、そのリアルさも同様です。

they also have real parts of my real life, like my real son's backpack in the background, that was kept in these photos as they were altered.

また、これらの写真には、変更された後も、私の実在の息子のバックパックが背景にあるなど、私の実生活の実際の部分も含まれていました。

Following pressure from governments, campaigners and regulators around the world, X now says this will no longer be be the case.

世界中の政府、活動家、規制当局からの圧力に続いて、Xは今後このようにならないと述べています。

In a statement, the company we have implemented technological measures to prevent the Grok accounts from allowing the editing of images of real people in revealing clothes, such as bikinis.

同社は声明で、Grokアカウントがビキニのような露出度の高い服を着た実在の人物の画像を編集することを許可しないように、技術的な対策を実施したと発表しました。

This restriction applies to all users, including subscribers.

この制限は、加入者を含むすべてのユーザーに適用されます。

X added that it had zero tolerance for any form of child sexual exploitation and unwanted sexual content.

Xは、児童性的搾取や望まない性的コンテンツのいかなる形態に対してもゼロトレランスであると付け加えました。

It has already restricted the use of the photo editing tool ONX to those who pay for it and are, in theory, easier to identify.

すでに、有料加入者のみが利用できるようにONXという写真編集ツールの使用を制限しており、理論上は特定が容易になっています。

This will apply in countries where it's illegal.

これは、それが違法な国に適用されます。

Here in the uk, a law is promised to come into effect this week which criminalises the creation of sexual AI deepfakes without consent.

ここイギリスでは、今週施行される予定の法律があり、同意なしに性的なAIディープフェイクを作成することを犯罪とします。

Until now, it's only been illegal to share them.

これまで、共有することだけが違法でした。

Downing street says excess compliance is vindication for the government.

ダウニング街は、過剰なコンプライアンスは政府にとって正当化であると述べています。

I think it's a testament to all of the campaigners.

これは、すべてのキャンペーン活動家にとっての証だと私は思います。

I think it's a testament to the Prime Minister and the government, my colleagues, for taking a tough line to protect the public and to protect our kids in particular.

首相と政府、そして私の同僚たちが、国民、特に子供たちを守るために厳しい姿勢をとったことの証だと私は思います。

And I'm glad that we forced this change in approach.

そして、このアプローチの変更を強制できたことを嬉しく思います。

It's unusual to see one of Elon Musk's companies comply with the authorities without putting up a fight, a symbol of how serious this situation really is.

イーロン・マスク氏の会社が、争うことなく当局に従うのを見るのは珍しいことで、この状況の深刻さの表れです。

It remains to be seen whether X's technical measures will be sufficiently robust.

Xの技術的な対策が十分に堅牢であるかどうかは、まだわかりません。

And it doesn't get X off the hook either.

そして、それはXを免責するものでもありません。

The UK's online regulator Ofcom says its investigation into the company and whether it's already broken the laws of the Online Safety act will continue.

イギリスのオンライン規制当局であるOfcomは、同社に対する調査と、オンライン安全法にすでに違反しているかどうかについての調査を継続すると述べています。

This should not be game over for what's been happening on X.

これは、Xで起こっていることのゲームオーバーであってはなりません。

X is responsible for some serious abuses and harms and it must be held accountable.

Xは深刻な虐待や危害のいくつかに対して責任があり、その責任を追及しなければなりません。

But particularly we need to ensure that X has the controls in place so that this does not happen again in future.

しかし特に、Xが将来このようなことが二度と起こらないように、適切な管理体制を整えていることを確認する必要があります。

We do not want new technology to be developed and rolled out with similar consequences.

私たちは、同様の結果を伴って新しい技術が開発・展開されることを望んでいません。

This is a landmark moment for the tech industry and its regulators in terms of establishing and enforcing new boundaries.

これは、新しい境界線を確立し、執行するという点で、テクノロジー業界とその規制当局にとって画期的な瞬間です。

One thing the GROK crisis has shown us in real time is how difficult tech regulation is.

GROKの危機がリアルタイムで私たちに示したことの一つは、テクノロジー規制がいかに難しいかということです。

We've already got numerous laws in place designed to protect people from digital harm, but

デジタル被害から人々を保護するために設計された多くの法律はすでにありますが、

this week the government has still had to scramble to enforce another new rule that's specifically designed to deal with sexualized AI deepfakes.

今週、政府は性的に露骨なAIディープフェイクに対処するために特別に設計された別の新しい規則を施行するために奔走しなければなりませんでした。

But but it has stood its ground and it has forced changed with a company based in the US where the White House that's very protective of its tech businesses and anything that it perceives to be an attack of freedom of speech.

しかし、政府は断固として立ち上がり、アメリカに拠点を置く企業に対して変化を強いました。ホワイトハウスは、そのハイテクビジネスや言論の自由への攻撃と見なされるものすべてを非常に保護しています。

It's also worth noting that both the government and many senior politicians have remained active on the platform X this whole time.

政府と多くの有力政治家の両方が、この間ずっとプラットフォームXで活動を続けていたことも注目に値します。

About an hour ago, the Prime Minister sent a post to his 2 million followers in which he wrote, free speech is not the freedom to violate consent.

約1時間前、首相は200万人のフォロワーにポストを送り、そこには「言論の自由とは、同意を侵害する自由ではない」と書きました。

Young women's images are not public property and their safety is not up for debate.

若い女性の画像は公共のものではありませんし、彼女たちの安全は議論の対象ではありません。

He also said he was prepared to strengthen laws further if required.

必要であれば、さらに法律を強化する用意があるとも述べました。

I think what we'll probably see now is more scrutiny of other AI tools as well, because technically they're also capable of producing these images.

おそらく今後は、他のAIツールも同様に、こうした画像を生成する能力があるため、より厳しく調査されることになるでしょう。

They just aren't sharing them on social media.

ソーシャルメディアで共有されていないだけです。

ゾーイさん、ありがとうございました。