【海外ITニュース速報】Instagram、ダイレクトメッセージ用のヌードフィルターを開発中

【海外ITニュース速報】Instagram、ダイレクトメッセージ用のヌードフィルターを開発中

Instagram is developing a nudity filter for direct messages

Instagram、ダイレクトメッセージ用のヌードフィルターを開発中

要約(英語):

Instagram is testing a new way to filter out unsolicited nude messages sent over direct messages, a researcher has said. The feature, which is in the early stages of development, does not allow Instagram to see anyone's private messages, a spokesperson added. Earlier this year, Instagram introduced a "Sensitive Content" filter that works with abusive words, phrases, and emojis

要約(日本語):

Instagramは、直接メッセージを介して送信された未承諾のヌードメッセージを除外する新しい方法をテストしている、と研究者は述べています。開発の初期段階にあるこの機能は、Instagramが誰のプライベートメッセージを見ることができないとスポークスマンは付け加えました。今年の初め、Instagramは、虐待的な単語、フレーズ、絵文字で動作する「敏感なコンテンツ」フィルターを導入しました

本文:

cameraImage Credits: Alessandro Paluzzi Instagram is testing a new way to filter out unsolicited nude messages sent over direct messages, confirming reports of the development posted by app researcher Alessandro Paluzzi earlier this week.

カメライメージクレジット:Alessandro Paluzzi Instagramは、直接メッセージを介して送信された未承諾のヌードメッセージを除外する新しい方法をテストしており、今週初めにアプリ研究者Alessandro Paluzziが投稿した開発の報告を確認しています。

The images indicated Instagram was working on technology that would cover up photos that may contain nudity but noted that the company would not be able to access the photos itself.

Instagramが示す画像は、ヌードを含むかもしれない写真をカバーするテクノロジーに取り組んでいますが、会社は写真自体にアクセスできないことに注目しました。

The development was first reported by The Verge and Instagram confirmed the feature to TechCrunch.

開発は最初にThe Vergeによって報告され、Instagramはこの機能をTechCrunchに確認しました。

The company said the feature is in the early stages of development and it’s not testing this yet.

同社は、この機能は開発の初期段階にあり、まだこれをテストしていないと述べました。

“We’re developing a set of optional user controls to help people protect themselves from unwanted DMs, like photos containing nudity,” Meta spokesperson Liz Fernandez told TechCrunch.

「私たちは、ヌードを含む写真のように、人々が望まないDMから身を守るのを助けるために、オプションのユーザーコントロールのセットを開発しています」とメタのスポークスマンであるリズ・フェルナンデスはTechCrunchに語りました。

“This technology doesn’t allow Meta to see anyone’s private messages, nor are they shared with us or anyone else.

「このテクノロジーは、メタが誰のプライベートメッセージを見ることができず、私たちや他の人と共有されていません。

We’re working closely with experts to ensure these new features preserve people’s privacy while giving them control over the messages they receive,” she added.

私たちは専門家と緊密に協力して、これらの新機能が人々のプライバシーを維持しながら、彼らが受け取ったメッセージを制御することを保証しています」と彼女は付け加えました。

Screenshots of the feature posted by Paluzzi suggest that Instagram will process all images for this feature on the device, so nothing is sent to its servers.

Paluzziが投稿した機能のスクリーンショットは、Instagramがこの機能のすべての画像をデバイス上のすべての画像を処理するため、サーバーに送信されるものはありません。

Plus, you can choose to see the photo if you think it’s from a trusted person.

さらに、信頼できる人からのものだと思う場合は、写真を見ることができます。

When the feature rolls it out widely, it will be an optional setting for users who want to weed out messages with nude photos.

機能が広く展開すると、ヌード写真でメッセージを排除したいユーザーにとって、オプションの設定になります。

Last year, Instagram launched DM controls to enable keyword-based filters that work with abusive words, phrases and emojis.

昨年、InstagramはDMコントロールを起動して、虐待的な単語、フレーズ、絵文字で動作するキーワードベースのフィルターを有効にしました。

Earlier this year, the company introduced a “Sensitive Content” filter that keeps certain kinds of content — including nudity and graphical violence — out of the users’ experience.

今年の初め、同社は、ユーザーの経験から、ヌードやグラフィカルな暴力を含む特定の種類のコンテンツを保持する「敏感なコンテンツ」フィルターを導入しました。

Social media has badly grappled with the problem of unsolicited nude photos.

ソーシャルメディアは、未承諾のヌード写真の問題にひどく取り組んでいます。

While some apps like Bumble have tried tools like AI-powered blurring for this problem, the likes of Twitter have struggled with catching child sexual abuse material (CSAM) and non-consensual nudity at scale.

Bumbleのようなアプリの中には、この問題のためにAIを搭載したぼかしなどのツールを試してみたものもありますが、Twitterのようなものは、子どもの性的虐待資料(CSAM)や非合意のヌードを大規模に捕まえることに苦労しています。

Because of the lack of solid steps from platforms, lawmakers have been forced to look at this issue with a stern eye.

プラットフォームからの堅実なステップがないため、議員はこの問題を厳しい目で見ることを余儀なくされています。

For instance, the U.K.’s upcoming Online Safety Bill aims to make cyber flashing a crime.

たとえば、英国の今後のオンライン安全法案は、サイバーが犯罪をフラッシュすることを目指しています。

Last month, California passed a rule that allows receivers of unsolicited graphical material to sue the senders.

先月、カリフォルニアは、未承諾のグラフィカル素材の受信者が送信者を訴えることを許可する規則を可決しました。

Texas passed a law on cyber flashing in 2019, counting it as a “misdemeanor” and resulting in a fine of up to $500.

テキサスは2019年にサイバーフラッシュに関する法律を可決し、それを「軽罪」として数え、最大500ドルの罰金を科しました。

元記事

https://techcrunch.com/2022/09/22/instagram-is-developing-a-nudity-filter-for-direct-messages/

Newsカテゴリの最新記事