津田健次郎提訴で見えたAI音声フェイク詐欺の企業防衛策最前線

声の無断利用が企業リスクへ変わる背景

声優・俳優として幅広く活動する津田健次郎氏が、AIによる声の無断利用をめぐってTikTokを相手に提訴したとされる問題は、エンタメ業界だけの争いではありません。声は本人の人格や職業上の価値を示すだけでなく、金融、SaaS、カスタマーサポート、社内承認の本人確認にも使われる「信頼のインターフェース」になっているためです。

生成AIの進化で、短い音声サンプルから本人らしい発話を作るコストは下がりました。従来のなりすましは文章や画像が中心でしたが、いまはビデオ会議、電話、SNS広告、音声アシスタントまで攻撃面が広がっています。本稿では、声の権利をめぐる法的論点、企業詐欺の実例、そしてDX部門が実務で整えるべき統制を整理します。

著名人被害から見える声の権利の空白

AI音声フェイクの論点は、大きく二つに分かれます。一つは「本人の声を勝手に使われた」という人格的・経済的な被害です。もう一つは、その声が広告や詐欺に使われ、聞き手が本人の発言だと誤信する社会的被害です。津田氏の件が注目されるのは、この二つが同時に表面化したからです。

米国でも、俳優スカーレット・ヨハンソン氏がOpenAIの音声「Sky」をめぐって抗議し、OpenAIが当該音声の利用を一時停止した事例がありました。OpenAI側は本人の声を使っていないと説明しましたが、本人が協力を断った後に似た声が公開された点が大きな議論を呼びました。これは、著名人の声が「音声データ」ではなく「本人らしさを運ぶブランド資産」として扱われ始めたことを示しています。

声そのものと実演を分ける日本法の整理

日本法では、声そのものが常に著作権で保護されるわけではありません。文化庁資料は、著作権法が保護するのは思想や感情を創作的に表現した著作物であり、俳優や歌手の実演には著作隣接権が問題になり得ると整理しています。つまり、録音されたナレーションや演技は保護対象になり得ますが、「声色」や「話し方」だけで直ちに著作権侵害になるとは限りません。

この空白を補う概念として、パブリシティ権が重要になります。知的財産戦略本部のAI時代の知財検討資料は、声が商品として鑑賞される場合、商品やサービスの差別化に使われる場合、広告として使われる場合には、声についてパブリシティ権による保護が可能と考えられると示しています。声優や俳優の声は、出演料や広告効果に直結する顧客吸引力を持つためです。

ただし、権利の線引きはまだ細かく整っていません。AIモデルの学習段階、合成音声の生成段階、SNSや広告での配信段階では、関与する事業者が異なります。誰が許諾を取るべきか、削除要請にどこまで応じるべきか、同意の範囲をどう証明するかが曖昧なままだと、クリエイター側だけでなくサービス提供者側も訴訟リスクを抱えます。

プラットフォームに求められる同意と来歴管理

プラットフォーム企業にとって重要なのは、「削除依頼が来たら対応する」という後追い運用だけでは不十分になっている点です。AI音声を投稿、広告、ライブ配信、音声読み上げ機能に組み込めるサービスでは、アップロード時点で権利者の同意や生成物の来歴を確認する仕組みが必要になります。

総務省・経済産業省のAI事業者ガイドラインは、AIシステムの入出力や学習プロセスのログ、トレーサビリティ、AI生成コンテンツを識別するための透かしや来歴メカニズム、AI利用の事実の情報提供を重視しています。声の無断利用に当てはめれば、誰の音声で学習したのか、生成物にAI利用ラベルが付いているのか、権利者からの申し立てをどの窓口で受けるのかを、サービス設計に埋め込む必要があります。

SaaSの観点では、これは単なるコンテンツモデレーションではありません。音声生成API、広告配信管理、本人確認、顧客対応履歴、権限管理がつながる統制課題です。音声AIを提供する企業は、利用規約だけで責任を利用者に移すのではなく、悪用パターンを前提にした審査、レート制限、異議申し立て、監査証跡を用意することが競争力になります。

香港送金詐欺が示す認証設計の限界

AI音声フェイクが危険なのは、聞き手が「本人の声だから正しい」と判断しやすい点です。これは、声優や俳優の無断利用にとどまらず、企業の財務承認や政治コミュニケーションを直撃しています。実際、香港ではディープフェイクを使ったビデオ会議型の詐欺が報じられ、企業の認証設計が大きく揺さぶられました。

英紙The Guardianは2024年2月、香港の多国籍企業の従業員が、上級幹部を装ったディープフェイク会議にだまされ、HK$2億を15回の送金で5つの銀行口座へ移したと報じました。香港警察は、詐欺側が事前に入手した動画にAIで偽の声を付けた可能性を説明しています。金額の大きさだけでなく、複数人が参加する会議に見せかけた点が特徴です。

HK$2億被害を生んだ会議型なりすまし

従来のビジネスメール詐欺は、CFOや取引先を名乗るメールで送金を迫る手口が中心でした。AI時代の攻撃は、メールの文面に加えて、声、顔、会議の空気まで偽装します。ビデオ会議に複数の幹部が映っていれば、従業員は「一人だけなら疑うが、全員がいるなら本物だ」と感じやすくなります。

この手口は、ディープフェイク検知だけで防ぐのが難しい構造を持っています。攻撃者は、事前にSNS、企業サイト、登壇動画、採用イベント、ポッドキャストから発話データを集められます。海外拠点やリモートワークが多い企業ほど、普段からオンライン会議でしか会わない相手が増え、違和感を検証しにくくなります。

米国政治でも同じ構造が見られます。AP通信は2024年、上院外交委員長だったベン・カーディン議員が、ウクライナの元外相ドミトロ・クレバ氏を装う高度なディープフェイク通話の標的になったと報じました。相手の見た目や音声は過去の面会と整合していたものの、政治的に誘導する質問が続いたため、議員側が不審に思い通話を終えました。金融だけでなく外交、選挙、経営判断でも「知っている人の声」が攻撃材料になります。

声紋認証だけに依存できない金融業務

金融業界では、声紋認証が本人確認の一部として使われてきました。しかし、AI音声の進化はこの前提を崩しています。OpenAIのサム・アルトマンCEOは2025年、米連邦準備制度の会議で、声紋を認証として受け入れる金融機関がまだあることに強い懸念を示し、AIが音声認証を破ったと述べました。発言の是非以前に、声だけを鍵にする設計が限界に来ていることは明らかです。

技術研究も同じ方向を示しています。PITCHと呼ばれる研究では、100人分の音声から1万8600件の本物音声と160万件のディープフェイク音声を用意し、通話中のチャレンジ応答で検知する手法を検証しました。人間の判定は一定の精度を示しましたが、機械判定や支援システムを組み合わせることで精度を高められるとされています。

一方で、別の2026年の研究では、参加者22人が詐欺文脈の音声16本を聞き分ける実験で、平均正答率が37.5％にとどまりました。合成音声を人間らしいと誤認するだけでなく、本物の音声をAIだと疑う逆方向の誤判定も起きています。人間の耳に頼る運用は、過信しても疑いすぎても業務を壊します。

企業が取るべき対策は、声を認証の一要素に格下げすることです。高額送金、口座変更、管理者権限の付与、顧客データの持ち出しでは、音声や会議での承認に加えて、別チャネルでのコールバック、ワークフロー上の多重承認、事前登録済みデバイス、取引金額に応じた遅延実行を組み合わせる必要があります。本人確認は「誰の声か」ではなく「どの権限で、どの手続きに従い、どの記録が残るか」で設計すべきです。

検知技術だけでは止めにくい三つの死角

AI音声フェイク対策では、検知ツール、透かし、電子署名、来歴管理が重要です。しかし、これだけで被害を止められると考えるのは危険です。第一の死角は、攻撃がリアルタイム化していることです。録音ファイルの事後検査ではなく、通話や会議の最中に意思決定を迫られるため、検知結果を待つ余裕がありません。

第二の死角は、攻撃者が技術ではなく心理を狙うことです。AIエージェントが一般的な詐欺手口を実行できることを示した研究や、生成AIが信頼の手掛かりを操作する「Synthetic Trust Attack」の研究は、問題の中心がメディアの真偽だけではないと指摘しています。緊急性、秘密保持、上司からの圧力、複数人の同調といった状況設計が、従業員の判断を奪います。

第三の死角は、声の正当利用と不正利用の境界が業務ごとに違うことです。声優の公認AIボイス、病気で声を失った人の音声再現、多言語ナレーション、問い合わせ対応の自動化など、音声AIには正当な用途があります。だからこそ、全面禁止ではなく、本人同意、用途限定、報酬、削除権、ログ保存、第三者提供の制限を契約とシステムでそろえる必要があります。

米FTCは、家族の緊急事態を装う詐欺で、オンラインにある短い音声クリップから声を複製できると警告し、声を信じず既知の電話番号で本人に確認するよう促しています。企業でも同じです。Slack、Teams、メール、電話、ビデオ会議のどれで依頼が来ても、既知の連絡先と既定の承認フローに戻す文化が必要です。

経営者が整えるべき音声AI統制

音声フェイク時代の防衛策は、セキュリティ部門だけで完結しません。法務は声の利用許諾とパブリシティ権を見直し、情シスはID管理とログを整え、経理は送金承認を再設計し、事業部はAI音声サービスの利用範囲を棚卸しする必要があります。特にSaaS導入企業は、外部ツールが音声データをどこに保存し、学習に使うのかを調達時点で確認すべきです。

実務では、まず声を使う業務を洗い出すことが出発点です。営業録音、コールセンター、ウェビナー、採用面接、役員メッセージ、本人確認、広告クリエイティブを一覧化します。次に、本人同意の有無、データ保持期間、生成AIへの入力可否、外部共有、削除手順を確認します。最後に、高リスク業務では声だけで完了しない承認フローへ移行します。

津田氏の提訴が投げかけた問題は、著名人の声を守るだけでは終わりません。声は、本人の仕事、企業の資金、選挙の信頼、顧客との関係をつなぐインフラになりました。AI音声を使う企業ほど、同意を記録し、来歴を示し、重要判断を複数の証跡で確認する体制が求められます。声を便利なUIとして使う時代だからこそ、声を唯一の証明にしない設計が必要です。

参考資料:

• AIと著作権
• AI事業者ガイドライン第1.0版
• AI時代の知的財産権検討会 中間とりまとめ（案）
• Company worker in Hong Kong pays out £20m in deepfake video call scam
• Sophistication of AI-backed operation targeting senator points to future of deepfake schemes
• Political consultant behind fake Biden robocalls faces $6 million fine and criminal charges
• AI robocalls can trick voters. The FCC made them illegal
• Scammers use AI to enhance their family emergency schemes
• 米俳優ヨハンソンさんがオープンAIに抗議、合成音声で広がる波紋
• OpenAI’s Sam Altman warns of AI voice fraud crisis in banking
• Voice-Enabled AI Agents can Perform Common Scams
• PITCH: AI-assisted Tagging of Deepfake Audio Calls using Challenge-Response
• Can You Tell It’s AI? Human Perception of Synthetic Voices in Vishing Scenarios
• PRAC3: Long Tailed Risks of Voice Actors in AI Data-Economy
• Synthetic Trust Attacks: Modeling How Generative AI Manipulates Human Decisions in Social Engineering Fraud