AIによって捏造されたソーシャルミーディア広告の危険性

「耳掃除装置」のものとみられる、AIによって捏造された投稿がソーシャルミーディアによって拡散したことから、偽の健康関連推奨による潜在的な害が指摘されている。

ロサンゼルスの足病医で、ソーシャルメディアパーソナリティのダナ・ブレムス氏が発見した偽の広告は、最初の数秒間は彼女が実際に作成したものであった。捏造された後半は、人々が耳に物体を突っ込むことに対する彼女の反応を示したもので、これは非常に危険である。

ブレムスさんは、彼女の声のAIクローンを使用して自社の製品を勧めたふりをしたものであると述べている。

動画の後半をAIによって捏造し、その偽広告で製品の使用を推奨しているかのごとく言っていた。誰が広告を作成したのか、あるいはどこに拠点を置いているのかは不明のままだ。 その後、この問題への注意を呼びかける投稿を受けてインスタグラムのアカウントと関連ウェブサイトは削除された。

カリフォルニア大学バークレー校情報学部のハニー・ファリド博士はMedPage Todayに電子メールで、彼と同僚が実際の声とAIが生成した音声を区別するために訓練したモデルを使用して、ブレムスが呼びかけた音声を分析したと語った。このモデルでは、音声が AI によって生成されたものと判断できる氏は述べている。また、この事例は孤立したものではないとも指摘されている。

バークレー人工知能研究所のメンバーでもあるファリド氏は、「音声クローンの技術が向上するにつれて、この種の偽物が増加していることを目にするようになった」と述べている。

ディープフェイク動画の作成がますます容易になっている。さらに、大規模なソーシャルミーディアプラットフォームが、ディープフェイクに関連するコンテンツのモデレーションを処理するための設備が依然として整っていないことも影響している。

オーストラリアのアデレードにある、フリンダース大学医学・公衆衛生学部の上級研究員であるアシュリー・ホプキンス博士は、音声を複製したり、ディープフェイクビデオを作成したりする技術はさまざまなオンラインツールを通じて簡単に入手可能であり、最小限のものは容易に利用できると述べている。

そのような、なりすましを容易にすることを防ぐための、確実で強固な規制の枠組みが緊急に必要とされている。

この様な状況の中、主要7カ国（G7）が取り組む生成AIの国際ルール作り「広島AIプロセス」の最終合意案が判明した。開発者から利用者まで全ての関係者が守るべき責務を示す内容で、AIに特化した世界初の包括的な国際ルールとなる。利用者にもAIの脆弱（ぜいじゃく）性について検知や情報共有を求めるほか、専門機関を通じてAI生成コンテンツと見分ける「電子透かし」などの技術開発を進めることも盛り込んでいる（朝日新聞デジタル）。

当然取り組むべき、喫緊の課題であることに間違いはない。

しかし、捏造でなければ、普通のテレビコマーシャルに問題は無いのであろうか。その昔、欧米の有名俳優などは決してテレビコマーシャルには出演しなかった。自らが使用していない、あるいは飲食したことすらない商品の宣伝をすることの倫理上の問題とその責任を認識していたからだ。

しかし、今は全くお構いなく出演し、むしろコマーシャルに出演することがステータスになっている。人間の脳は圧倒的に視覚情報に頼っているため、これを見ている人間はコマーシャルと解っていても、その信憑性など考えることも無く無意識に信用してインプットしてしまう。

そもそも、テレビコマーシャルなどは全て止めた方が世の中は健全なものになると思う。

引用文献
Clinician Says Her Voice Was Cloned by AI for Social Media Ad
— "It's going to be a huge problem," says podiatrist Dana Brems
by Jennifer Henderson, Enterprise & Investigative Writer, MedPage Today November 30, 2023