YouTube、AI生成音楽の新機能を発表。本人とAIの区別がつかない時代へ。
【YouTube、「ポップスターのAI生成音声」で音楽を作る新機能発表】
https://forbesjapan.com/articles/detail/67389
・有名ポップスターのAI生成音声で音楽をつくる新機能を開始すると、YouTubeが16日に発表
・YouTubeによると「ドリームトラック」と呼ばれる実験的なAI機能によって「選ばれた米国のクリエイターたち」が、YouTube「ショート」用の30秒トラックを生成できるようになる
・16日から、ドリーム・トラックによって音楽を生成できるのは、アレック・ベンジャミン、チャーリー・プース、チャーリ・XCX、デミ・ロヴァート、ジョン・レジェンド、パプース、シーア、T-ペイン、トロイ・シヴァンら9組のアーティスト
・歌詞、楽器、声といったすべての要素がAIツールによって生成されるとYouTubeは述べ、このソフトウェアはグーグルのDeepMindによる「これまでで最も先進的な音楽生成モデル」である「Lyria(リリア)」を搭載していると付け加えた
・YouTubeは、クリエイターに対してAIツールの使用を含め、リアルにみえるコンテンツを作成または捏造した場合、それを開示することを義務づける措置を導入した。TikTokのような他のプラットフォームも、ディープフェイクやAIコンテンツに捏造や改ざんのフラグを明確に立てるためのツールや要件を導入している
・OpenAIIのテキストや画像を生成するChatGPTのような生成AIモデルによる、よりリアルなコンテンツが普及するにつれて、人々が本物と捏造されたコンテンツを区別するのを助けるツールを求める声が高まっている。大手AI企業は、AIが生成したコンテンツに「透かし」を追加し、オンライン上のコンテンツが本物か偽物かを判断する手助けをすることを約束した
・DeppMindは、同社の「リリア」を通じて公開される音声には、音声コンテンツが操作された後でも検出できるようにするため「人間の耳には聞こえず、リスニング体験を損なわない内容」の「透かし」が入れられると述べている
以上、記事引用参考
本人なのかAIなのか、わからない時代へ。その区別はどのように行われていく?
YouTubeが新機能を発表。有名なアーティストの歌声はもちろん、そのアーティスト風の歌詞や楽器などもAIで生成できるみたいです。以下がその機能を使って作ったもの。
もう、本物と区別がつかないレベルです。。
この機能は、まだ限られた9組のクリエイター(アーティスト)しか使用できないみたいですが、いずれは一般の人も同様の機能を使えるようになるのでしょう。
そういえば、最近、政治家のフェイク動画がニュースになっていますよね。
バイデン大統領に日本語をしゃべらせているものは本当にすごいです。声質そのままで日本語!
動画拝借元→【AIを使ってバイデン大統領に日本語を話させたらこんなことに「ペラペラで違和感ない」「声まで似てる!」】
https://togetter.com/li/2232275
生成AIを使えば、簡単にこういうものが作れてしまいます。
バイデン大統領が日本語を喋るはずがないので、これは作り物(フェイク)だとわかりますが、
本物(本人)かのようなフェイク動画を作ろうと思えばいくらでも作れる時代になったことは、この動画からよくわかります。上述の音楽もしかり。
上の記事の中でも書いてありますが、
生成AIで作られたものは、「これは生成AIによって作られらものだよ」とわかるような目印(透かし)をつけると、大手AI企業たちは言っています。
たとえば、
AIによって作られた音楽には、人間の耳では聞こえない周波数に、信号の音のようなものを入れるということです。(超音波の信号を入れる)
まあ、この流れは当然だと思うのですが、
この目印(透かし)のようなものを排除して、目印なしでAI生成できるようにする技術もいずれ出てくるだろうということも、必然的な流れだと私は思っています。(違法行為技術が生まれる)
正規の音楽と海賊版の音楽があるように、
正規のAI音楽と海賊版のAI音楽があるような感じでしょうか。
人間やAIによってコンテンツが量産される時代、
「これは、一体、本人なのかAIなのか」
その区別や判断は、生成AI側(大手AI企業)の技術や管理だけではできなくなると思っています。
じゃあ、どうするか。
私の想像をさらに膨らませて考えると、、
本人自身で、そのコンテンツが本人(自分)かAIなのかを証明するしかないと思います。
AI(フェイク)のコンテンツに対し、
「そんなこと言ってない、歌っていない、行っていない」と本人が反論するのです。
じゃあ、その反論の証明はどうすればいいのか。
それは、ドライブレコーダーみたいに、自分の生活の24時間365日を記録しておくことです。
そうすれば、一発でAIコンテンツ(フェイク動画)かそうじゃないかがわかるし、証明もできます。
そんな未来を想像すると、
フェイク撲滅のための、24時間365日、自分を記録するための技術やシステムが今後必要になり、誕生するのかもしれません。
自分で自分を証明するために、自分の記録を録り続ける時代。
電話口で「おれだよ、おれ」と言うだけで分かり合えたり、騙されたりしていた時代、アナログでゆるい時代を、懐かしむ時がいつの日かくるのかもしれません。
長々と妄想を失礼しました。
ではでは
追記:こんな記事もありました。
【YouTubeが方針転換。「本物そっくりさん」AIコンテンツを取り締まり】
https://www.gizmodo.jp/2023/11/youtube-regulates-ai-generated-content.html
やはり、AIコンテンツの管理はユーザーの善意に委ねられていて、限界がありますよね。
「選ばれた米国のクリエイターたち」のひとり、T Painが早速、この機能を使って音楽を生成していました。本当、手軽に音楽を作っている感じです。自分風(T Pain風)の音楽をAIで作っています。このように、自分で自分AIを駆使する場合は、上述したような区別や判別の必要はないですね。^^;(あくまで他人が作ったAIコンテンツ、フェイクコンテンツが問題になってくる。)