GLOSSARY

ディープフェイクとはなに?リスクや課題、ビジネスなどの様々な利用方法|もたらす可能性を徹底解説!

  • このエントリーをはてなブックマークに追加
deepfake

INDEX

ディープフェイク

皆さんはディープフェイクという言葉を知っていますか?

ディープフェイクはAI技術の発展によってさまざまな応用が利くため、ポジティブな可能性や将来性を持っているのがポイントです。しかし、その分悪用されるリスクや、活用する上での課題も多くあるため、今後どのように扱っていくかが最大の焦点になるでしょう。

それでは、ディープフェイクとはなにか、ディープフェイクが抱える課題やリスク、ディープフェイクのポジティブな可能性や将来性についてご説明しましょう。

ディープフェイクとは?

ディープフェイク

ディープフェイクとは、ディープラーニング技術を駆使して動画編集を行い、登場人物の顔や表情、声などを別人のものに差し替え、動画内で自在する本人が言っていないことを言ったり行動させたりすることができる方法です

本来はディープラーニング技術によって画像や動画を部分的に好感させる方法ですが、近年ではフェイクという言葉から派生したのか、偽動画のことを指す場合もあります。

ディープフェイクが出てくる以前はPhotoshopなどで画像の編集を行って別人に差し替えるケースはありますが、AI技術の発展によってディープフェイクが作られるようになりました。

ディープフェイクは誰でも簡単に作成できる?

結論から言えば、ディープフェイクは誰でも簡単に作成できるものではありません

高い精度のディープフェイクを作成する場合は、精密な加工や編集などを行うために勉強しなければなりませんし、最初から最後まで違和感なく動作するように作成しなければならないので必然的に作成に長時間かかります。

しかし、近年では特定のサイトやアプリを利用すれば、パソコンやスマホ1台でチープフェイクと呼ばれる簡単なディープフェイクが作成できるのがポイントです。

チープフェイクは多くの人が偽物だと見抜けるかもしれませんが、トラブルに発展する可能性が高いので悪用するのは厳禁です。

ディープフェイクが抱える課題やリスク

ディープフェイク

ディープフェイクが抱える課題やリスクは、以下の通りです。

  • 詐欺やソーシャルエンジニアリング
  • 登場人物のなりすまし
  • 演説動画の加工
  • フェイクポルノ
  • AIに関する法整備

それでは、ディープフェイクが抱える課題やリスクについてご説明しましょう。

詐欺やソーシャルエンジニアリング

ディープフェイク

ディープフェイクを活用すれば、振り込め詐欺やオレオレ詐欺、ソーシャルエンジニアリングも簡単にできるようになります

音声を差し替えることによって詐欺まがいの悪用ができますし、他者を心理的に操ることでシステムに侵入する際に必要なIDやパスワードを盗み出せるソーシャルエンジニアリングも可能です。

特に音声や外見を差し替えて高度に動かすことにより、行動ななりすましもできるので詐欺の手口の精度が格段に向上しているのが問題です。

登場人物のなりすまし

ディープフェイク

上記で軽く高度ななりすましによる詐欺が増えていると解説しましたが、それ以上に問題なのは政治家を初めとする登場人物のなりすましができてしまうことです。

ディープフェイクは動画の登場人物や表情などを加工して編集できるので、技術や知識さえあれば誰でも登場人物になりすますことができます。

元アメリカ大統領のオバマ氏やウクライナのゼレンスキー大統領、内閣総理大臣の岸田首相など、複数のディープフェイクが公開されました。

しかし、ディープフェイクだと説明されていたとしても、何も知らない人がディープフェイクを視聴したことで影響を受け、人々の投票行動を左右するなど、大きな悪影響や社会的な混乱につながる可能性があります

今後もこうしたディープフェイクが拡散される可能性があるため、1度ディープフェイクを視聴したからといって内容を鵜呑みにしないことが大切です。

演説動画の加工

ディープフェイク

ディープフェイクによって、各国の大統領などが演説している動画を加工した動画が拡散される可能性があります

演説動画でディープフェイクを作成する場合、演説者が絶対に言わないようなことを言わせることができるので、ありえないことを言わせたり卑猥な言葉を発言させたりできます。

もちろん世に拡散されることで大きなニュースとして取り上げられるだけでなく、場合によっては名誉棄損などの罪に問われて逮捕される可能性すらあるでしょう。

フェイクポルノ

ディープフェイクによるフェイクポルノとは、ポルノ動画に出演している人の顔を別人に差し替えるというものです。

ディープフェイクによるフェイクポルノは比較的作成しやすいのか、最も多い悪用事例として挙げられています。

海外はもちろん日本国内でも日本人女優やアイドルの顔を無断で使用したフェイクポルノが拡散されている状況です。

もちろんフェイクポルノ動画の制作や拡散に関わっただけで名誉毀損罪や著作権法違反などの罪に問われる可能性もあるので携わらないようにしましょう。

AIに関する法整備

ディープフェイクが抱える課題として、AIに関する法整備が挙げられます。

ディープフェイクによる偽動画の拡散などの被害を最小限に抑えるためには、AIに関する法整備が欠かせません。

倫理的観点や社会受容性などの観点から、AIの法制化、AI政策の整備、倫理のルール化など、早急にAIに関する法整備を推し進めていく必要性があるでしょう。

ディープフェイクがもたらすポジティブな可能性

ディープフェイク

ディープフェイクがもたらすポジティブな可能性は、以下の通りです。

  • AIによるニュースの自動読み上げ
  • 権利が不要なAIモデル生成
  • 音声の二次創作への活用
  • 映画の吹き替えの多言語化
  • 合成映像のアバターの活用
  • バーチャル試着室

それでは、ディープフェイクがもたらすポジティブな可能性についてご説明しましょう。

AIによるニュースの自動読み上げ

ディープフェイク

ディープフェイクを上手く活用することで、AIによるニュースの自動読み上げを実装することができます。

アナウンサーの代わりにAIがニュース原稿を読み上げてくれるので、アナウンサーを起用する必要性がなくなります。

もちろん本物のアナウンサーが優先して起用される可能性が高いですが、アナウンサーが不在のときでも放送できますし、アナウンサーが危険な場所に行く必要性もありません

24時間体制でニュースを読み上げることもできるでしょう。

権利が不要なAIモデル生成

ディープフェイク

ディープフェイクの技術を活用すれば、オリジナルの著作権・肖像権フリーの素材を簡単に作成できるのがポイントです。

この世に二つとない完全オリジナルのAIモデルが生成できる上に、本当にAIモデルなのかと思うレベルの非常に高いクオリティのモデルが生成できます。

著作権や肖像権がフリーなら権利を侵害する心配がないため、安心してさまざまな場面で活用できるでしょう。

音声の二次創作への活用

ディープフェイク

ディープフェイクの技術で音声を作成することにより、二次創作に活用できるのがポイントです。

たとえば自分の声を生成して音声データにして作品を作成することにより、二次創作として使うことができます。制作した作品が認められれば、制作者が収益の半分を得ることができるのがポイントです。

映画の吹き替えの多言語化

ディープフェイクは映画の吹き替えの多言語化ができるのが大きなポイントです。

基本的に映画の吹き替えを行う場合、口の動きはそのままで音声だけを吹き替えています。しかし、音声のみを吹き替える場合だと、音声と口の動きが合っていないので不自然に見える人も多いのではないでしょうか。

ですが、ディープフェイクは俳優が吹き替え音声と同じ言語を話しているかのような自然な吹き替えになります。この技術によって音声を複製したり映像を変えたりとさまざまな応用ができるでしょう。

合成映像のアバターの活用

企業内で何らかのプレゼンを行う場合、内容を充実させるためにディープフェイクが役立ちます。

ディープフェイクで合成映像のアバターを活用することにより、アバターをメールに登場させたり内蔵された翻訳機能を使って日本人に向けてAIアバターが日本語で話したりと、充実したプレゼンができるようになります。

バーチャル試着室

ディープフェイクは動画関連の技術だけでなく、さまざまな活用法があります。

その一つが、バーチャル試着室です。

バーチャル試着室とは、ユーザーが自身の前進画像をアップロードしたら、次に衣類やアクセサリー等を合成すると、体型や髪の色を考慮した試着がオンライン上でできる方法です。

オンラインショップを利用する場合、衣類やアクセサリー等を購入するときの難点として挙げられるのが、実際に試着できないことです。試着できないまま購入して、実際に届いたおるいやアクセサリー等を着たりつけたりするとサイズが合わなかったり似合わなかったりすることがあります。

ショップによっては返品できるかもしれませんが、そもそも現品するのが面倒だという人もいるでしょう。

バーチャル試着室を活用すれば、本来試着できない衣類やアクセサリー等をオンライン上で試着できるようになるので、非常に買い物がやりやすくなります。

買い物で失敗することがなく、購買意欲も高まる上に返品率も下がるので利益向上につながります。

ディープフェイクの将来性

ディープフェイク

ディープフェイクには、以下のような将来性があります。

  • エンタメ業界で活用される
  • 悪用を防ぐための開発が進められる
  • 役者による対応がハッキリする

ディープフェイクを正しく活用することによってエンタメ業界で思う存分活用できますし、今後悪用される手口に対する開発も進められています

また、今後は役者がディープフェイクに対する対応をハッキリさせる動きも行われるでしょう。ディープフェイクによる技術の一部を禁止したり、自分が持つ一部の権利を売却したりと、さまざまな対応を行うことでディープフェイク対策が徹底されます。

まとめ

ディープフェイク

ディープフェイクはさまざまな危険性がありますが、しっかりとした将来性があります。

悪用する人は確かにいますが、AIに関する法整備を徹底することで自ずと悪用されるケースが減少する可能性が高いでしょう。

ディープフェイクがもたらす可能性は多岐に亘るため、今後もさまざまな場面で活用されると言えるのではないでしょうか。

生成AIパスポートとは?

生成AIパスポートはエンジニア職だけでなく一般の方向けの資格です。
生成AI業界における最前線を走っている有識者たちに監修された資格試験で、最先端の確実な知識や簡易的な活用スキルを身につけることができる認定試験・資格です。

試験を通じて、文章生成をすることができるChatGPTなど、AIを活用したコンテンツ生成の具体的な方法や事例に加え、企業のコンプライアンスに関わる個人情報保護、著作権侵害、商用利用可否といった注意点などを学ぶことができます。

生成AIの活用普及を目的とした、国内最大級の生成AI団体である、一般社団法人生成AI活用普及協会(GUGA)が発行する認定試験です。

詳細はこちら