先週、テイラー・スウィフトの性的露骨なディープフェイク画像が流出 作られたと伝えられている 人工知能を使用したものがソーシャルメディア全体に拡散されました。これは、ディープフェイクとデジタルハラスメントの危険性が高まっている最新の、そして最も注目を集めた例にすぎませんでした。
スウィフトはこのようなことが起こった最初の女性ではないし、最後でもないだろう。ポルノディープフェイクの他のほぼすべての被害者は、世界中に何百万人ものファンを持ち、オンラインでディープフェイクに精通している億万長者のポップスターよりもリソースが少ないと言っても過言ではありません。しかし、このようなことが起こり得るという事実は、 テイラー・スウィフトにさえ は、この問題とより幅広い聴衆に新たな注目を集めるようになりました。擁護者らによれば、これは虐待と闘うための連邦法の制定にも拍車をかけているという。
火曜日、米国上院議員らは超党派の政策を導入した。 2024 年明示的な偽造画像および同意のない編集を妨害する法律 （DEFIANCE法）同意のないディープフェイクポルノに対処し、阻止するため。この法案は、「ソフトウェア、機械学習、人工知能、またはその他のコンピューター生成または技術的手段を使用して本物であるかのように見せかけられる」「デジタル偽造」の被害者が加害者を民事で訴えることを認め、初めて正義を求める機会を与えることになる。
同意のないディープフェイクポルノの被害者は、ディープフェイクポルノを作成、配布、または勧誘する人々を訴えるのにあまり成功していない、と同法案の創設者兼最高経営責任者（CEO）として議員らと協力したオムニー・ミランダ・マートン氏は言う。 性暴力防止協会 (SVPA) 。このテクノロジーはまだかなり新しいものであり、テクノロジーに関する他の社会問題と同様に、法律も追いつく必要があります。その一方で、テクノロジーは進歩し、AI によって生成されたディープフェイクを誰でも簡単に作成できるようになりました。
「日常の個人に対する性暴力の量は急増している。」
「2年ほど前までは。」 。 。誰かが高性能のコンピュータを必要とし、テクノロジーについて多くの知識を持ち、複雑なシステムを操作でき、場合によっては自分でシステムを構築できる必要がありました。そして、それをリアルに見せるためには、被害者の写真がたくさん必要でした」とマートーネ氏は説明する。 「しかし、AI技術は大幅に進歩しており、たった1枚か2枚の写真を使って、誰でも本当に本物に見える同意のないディープフェイクポルノを作成できる段階に来ています。彼らはテクノロジーについて詳しく知る必要はなく、携帯電話やコンピューターでアプリやウェブサイトにアクセスするだけで、ほんの数秒でそれを行うことができます。」
2017 年の時点で考えると、今日では驚くべきことです。 8人に1人 ソーシャルメディアユーザーは同意のないポルノのターゲットになっていると報告しており、ソーシャルメディア上の成人20人に1人が加害者だったという。 サイバー公民権イニシアチブ .
こうした技術の進歩、そして「インターネットにアクセスできる人なら誰でも簡単に作成できる」という事実を考慮すると、「日常の個人に対する性暴力の量は急増している」とマートーネ氏は言う。画像が入手可能なため、有名人が最も一般的なターゲットとなっていました。 「しかし、今では[加害者]は誰かのLinkedInやソーシャルメディア、あるいは会社のウェブサイトから入手できる数枚の写真だけを必要としています」とマートン氏は説明する。
Googleの倫理的人工知能チームの元共同リーダー、マーガレット・ミッチェル氏によると、これは女性にとって不当に有害だという。 「これは非常に違反的であり、もしあなたがその被害に遭った場合、非常にトラウマ的な心理的影響を及ぼします。また、それは客観化するので、他の人があなたを職業的なレンズではなく性的なレンズを通して見るように影響を与えます。それは、それが機会に影響を与える可能性があることを意味します」と彼女は247CMに語った。
「女性たちはすでに、職場でリーダーとしてみなされることや、真剣に受け止められることに苦労している。この種のコンテンツが出回ると、女性の昇進やより指導的な地位に就く方法に影響を与える可能性があります」と、現在 AI ビルダー向けのオープン プラットフォームであるハギング フェイスの主任倫理科学者を務めるミッチェル氏は続けます。 「それは、非常に多くのことに浸透しており、追跡するのが非常に難しい場合もありますが、根本的には、自分自身の見方、自分についての感じ方、他人の扱い方に影響を与えます。」
Swift の場合、画像の起源は次のとおりです。 4chan 女性に対する虐待的な画像を配布するために使用された Telegram 上のグループも報告されました。 404 メディア 。同メディアによると、Microsoftの無料AIジェネレーターであるDesignerは、同意のないコンテンツを作成するためによく使用されているという。この報道を受けてマイクロソフトは、 抜け穴を塞いだ これにより、デザイナーは AI によって生成された有名人のポルノを作成できるようになりました。
しかしその間に、画像はすぐに X (以前は Twitter として知られていました) に殺到しました。イーロン・マスク時代のコンテンツ管理の珍しい例として、Xは「テイラー・スウィフト」の検索を一時的にブロックし、拡散を遅らせたが、すべての画像を削除することはできなかったとCBSニュースが報じた。 報告されました 。 X社の反応は、多数のSwiftiesが投稿を報告し、サイトに投稿を削除するよう要求したことを受けてのことだった。また、この投稿はすでに広範囲に広がった後に行われた。ある情報によると、認証済みユーザーのアカウントが停止される前の 17 時間で、すでに 4,500 万回の閲覧、2 万 4,000 回のリツイート、数十万件の「いいね！」やブックマークが記録されていたという。 ザ・ヴァージ 。 1 月 29 日月曜日までに、ブロックは期限切れになりました。
SVPAはしばらく議会と協力してきたが（マートン氏は昨年、この問題に取り組むよう促す公開書簡を送ったとしている）だが、マートン氏は「テイラー・スウィフトのニュースが本当に大きくなるまで彼らは行動を起こさなかった」と考えているようだ。
「誰もあなたの画像を気にしていないと感じていても、AI は気にします。」
それでも、同意のないポルノの被害者のほとんどは目立った存在ではありません。そのほとんどは女性であり、人種、民族、性的指向など、社会から疎外されたアイデンティティを持っている人も少なくありません。たとえば、SVPAは、ジムでトレーニングをしていた大学生の女性が男性にナンパされたが、断ったという女性に協力したことがある。数週間後、別のジムの会員が女性を脇に寄せ、彼女が拒否した男性が彼女のディープフェイクポルノを作成し、ジムで他の会員に見せてインスタグラムに投稿したことを知らせ、彼女は削除することができた。マートーネ氏は、この問題への取り組みを踏まえ、最近ではディープフェイクポルノが作られたと話している。
法律がなければ、いかなる手段も講じることは困難です。問題のあるコンテンツは偽物であると認められているため、名誉毀損とはみなされないとマルトーネ氏は付け加えた。
いずれにせよ、社会として、私たち全員が同意のないコンテンツの作成や共有の防止に取り組むべきだと専門家は言います。問題は拡大しており、魔神を瓶に戻すことは不可能であるという考えが、必然性や無感覚感を助長するべきではありません。
自分はこのような状況に陥ることはないと考えている人のために、ミッチェル氏は、テクノロジーのおかげでこのような状況が非常に一般的になり、誰でも影響を受ける可能性があると強調した。
ミッチェル氏は次のように説明しています。「オンラインに公開したコンテンツは、個人または企業によって AI トレーニングの一部として使用される可能性があることに注意する必要があります。」したがって、Facebook 上の家族の写真は、一般の人々にとっては関心のあるものではないかもしれません。しかし、それは問題ではありません。問題は、このコンテンツが女性の対象化をさらに促進する形で巨大テクノロジー企業に取り上げられるかどうかだ。」
結局のところ、認識し、警戒する必要があるのはこのテクノロジーです。 「誰も自分の画像を気にしていないと感じていても、AI は気にしてくれます」とミッチェル氏は言います。 「AI システムは今でも彼らを一掃することができ、あなたを欺くために依然として使用される可能性があり、あらゆる種類の復讐の状況で使用される可能性があり、そのような悪意のある人物があなたに個人的に危害を加える可能性があるあらゆる種類の状況で使用される可能性があります。」
