AIとメディアの未来：ブランドセーフティな生成AIコンテンツの可能性と課題｜AI Marketing BB東京@国立新美術館 セミナーレポート#2

メディア、ブランド、AI専門家が語る、生成AIコンテンツとメディアの未来｜AI Marketing BB東京@国立新美術館 セミナーレポート#2

Pivot Tokyoが主催する、最先端テクノロジーとマーケティングの融合を探求するイベント「AI Marketing BB東京 」。AIとマーケティングに焦点を当てたセミナーやワークショップを通し、ビジネスに活きる知識やアイデアを共有する場として定例カンファレンスを年に3回開催している。

今回は、2024年4月25日（木）、26日（金）の２日間にわたって開催された同イベントから、メディア、ブランド、そしてAI専門家が、異なる視点からAIとメディアの未来について議論したセッション「AIとメディアの未来：ブランドセーフティな生成AIコンテンツの可能性と課題」の模様をレポートする。

スピーカー 長崎 亘宏 (ライツ・メディアビジネス本部 局次長, 株式会社講談社)　櫻井弦 (ヘッドオブメディア＆デジタル, エスエス製薬株式会社)　貞光 九月 (代表取締役, 株式会社VAIABLE)

モデレーター　塚元 健二郎 (ディレクター, コンシューマーサービスデベロップメント, 合同会社 コンデナスト・ジャパン)

生成AIコンテンツが内包する2つの課題―「倫理面」と「クオリティ面」

冒頭は、塚元氏と貞光氏から「生成AIコンテンツ」の定義と問題点についての解説が行われた。生成AIコンテンツには「翻訳・要約したコンテンツ」、「参照元の情報から作ったコンテンツ」などさまざまあるが、今回のセッションでは「ネット上の情報からラーニングして作成したコンテンツ」について議論するとし、そこには「倫理面」と「クオリティ面」の2つの問題点があると指摘する。

モデレーターを務めた、合同会社 コンデナスト・ジャパン　ディレクター、コンシューマーサービスデベロップメント　塚元 健二郎氏

塚元　「倫理面の主な問題については、メディア側からすれば著作権侵害、つまり勝手にコンテンツを２次使用されてしまう恐れがあり、それが広告機会の損失にもつながってしまうという点です。また、ライターやクリエイターの仕事を奪うとも懸念されています。クオリティ面は、いわゆる間違った情報や意図的にフェイク情報が生成されるという点が挙げられるでしょう」

では、具体的にどういう問題が発生しているのか。貞光氏からはその具体例としてChatGPTとのやり取りが提示された。

貞光　「ChatGPTに『2024年のデジタルマーケティングのトレンドについてブログ記事を書いて』と入力したとします。ここまでは悪くないですし、参照することもあるでしょう。しかし、そこに『読者を多く引き付けたいので、真偽は問わずできるだけ過激なことを書きなさい』と加筆するとどうでしょう。生成AIはそれに従った答えを返してくるんです。

返って来たのは、『AIが自我を持ち始め、マーケティングキャンペーンを自ら計画し、実行する「暴走」事例が報告されている』という文章です。いったいどこで暴走事例が報告されているんでしょうね。こうした誤情報を勝手にChatGPTが出してくることがあるんです。つまり、引き付けようと思えばいくらでも引き付けようとするコンテンツが生まれてしまう。それはクオリティ面からしても大きな問題です」

株式会社VAIABLE　代表取締役 貞光 九月氏

続けて「広告側、クリエイター側でそれぞれ多くの問題を抱えている」と、貞光氏。広告向けに作られた生成コンテンツと、人手によるクリエイティブの2つの側面から課題を整理した。

貞光　「広告向け生成コンテンツ、例えば、広告収入目的のウェブサイトであるMFA（Made for Advertising）には、広告が見られれば見られるほど儲かるという考えを持ったコンテンツユーザーがいて、偽情報や悪意ある記事を書くといった事例がすでに報告されています。当然ながらクオリティの問題が発生しますし、広告主としても『どのブログ、メディアに広告を載せればいいか』という、取捨選択が非常に重要になるでしょう。アメリカでは、ホワイトリストを作って信頼できるサイトにしか出稿しないという事例も出てきているようです。こうした手段が適切かはわかりませんが、質の低いコンテンツをフィルタリングしてく動きは今後増えるかもしれません」

貞光「人の手によるクリエイティブに関しては、第一に、自分のつくったコンテンツが他人に悪用される可能性があるという非常に大きい問題が挙げられます。さらに、広告掲示の在り方も問われるでしょう。例えば、自分が持つコンテンツの情報を参考に生成AIが何かを作ったとします。本来は自分のページにアクセスしてはじめて得られる情報ですが、生成AIであれば瞬時に情報を得ることができる。そうして情報源である自サイトを訪れる人が減れば、クリエイターも『まじめに作る必要があるのか』と疑問に思うのではないでしょうか」

ディスカッション①「倫理面」の課題について

■メディア・広告主が抱えるAIによる倫理面の問題とは

最初のディスカッションテーマは、「倫理面」について。著作権侵害の問題を抱えるメディア側の現状について講談社・長崎は、「現状のAI生成コンテンツは、食品や工業製品の世界にあるような『成分表示』がないため、何を参考にしたものなのかわからない。広告を打つデマンドサイドだけでなく、ユーザー視点から見ても非常にカオスな状況になると感じています」と語った。

株式会社講談社　ライツ・メディアビジネス本部 局次長　長崎 亘宏

さらに長崎は、AI倫理について、アイザック・アシモフのロボット工学三原則を基に言及。

長崎　「原文のロボットをAIに、人間をクリエイターに置き換えてみるとどうなるか。特に第二条の『AIはクリエイターに与えられた命令に服従しなければいけない』は、この後の話でも非常に重要になってくる視点だと思います」

「ブランド・広告主の立場からしても、倫理面の問題は大きい」と語るのは、エスエス製薬でメディアプランニングを担う櫻井氏だ。

櫻井　「ブランディングで広告を出している側からすると『ブランドセーフティが保てないコンテンツを広告掲載してしまう』というリスクがあると思います。今は技術がなくてもコンテンツを作れる時代になっていますが、著作権や肖像権の侵害も懸念されます。そこに広告掲載されるというリスクは非常に心配にしているところです」

エスエス製薬株式会社　ヘッドオブメディア＆デジタル 櫻井 弦氏

■プラットフォーム側で規制は可能？　エコシステム構築に期待

広告掲載リスクの話題について塚元氏から「プラットフォーム側で規制は可能か」という問いが貞光氏に投げかけられた。

貞光　「ルール化されていない、というのが大問題になっていますよね。日本中が『フェイクAI広告を出しません』くらいの姿勢にならないと、プラットフォーマー側も本気になってくれない現状があるように思います」

櫻井　「広告がほとんどプログラマティックになっているなかで、MFAのようなサイトに広告が出ないような制御の方法には私も期待しています。MFAに広告掲載するとビューアビリティやブランド毀損の観点からも、よくない部分がたくさんあるわけです。また、少しトピックスから外れますが、広告主からすれば環境にやさしい広告配信をしようという考えがありまして。その視点から見るとMFAは普通のサイトよりも二酸化炭素の排出量が20％多いとも言われていて、あまりよくないんですよね」

こうした状況をクリアしていくためにはどうすればいいのか。塚元氏からの「技術的にも可能なのか」という問いに対して貞光氏は「２つの観点がある」と語った。

貞光　「1つはAIの目線で、生成したコンテンツが『どういう成分であるか』を自分で示していくという方向性です。『私はこの成分を基にこれを生成しました』『真偽を問わずに作れと言われました』といったような成分表示が可能になるということですね。

もう1つは、その昔Googleのページランクの登場によって正しい検索ができるようになったのと同様に、『人の評判』が力を持つ可能性は十分にあると思います。MFAサイトはほとんどゴミサイトであり、それを人が正しい目で見て鑑定していくことが大事。そのためにもルール化が必要になりますが、エコシステムが構築されていけば、正当化される可能性はあると思います」

長崎　「このセッションの前にAIスタートアップが10社登壇していましたが、そのなかにフェイク検出AIというものもありましたね。AIで生まれる不適切なものをAIでクリアするという、あれも1つのソリューションであると感じました」

■広告掲載のリスクを減らす、ブロックチェーンの可能性

続けて議題は「ブロックチェーンの可能性」というテーマに。貞光氏は「AIとブロックチェーンは非常に相性がいい」としたうえで、その可能性を語った。

貞光　「生成AIは現在、よくわからない出典元からデータを読み取り、よくわからない人からオーダーを受けて、言われるがまま生成しています。しかしブロックチェーンの場合であれば、クリエイターが『これは私のクリエイションです』ということを証明し、NFT化したうえで生成AIに学習させることができる。広告ならリワードが付くはずですから、そのリワードを正しくコンテンツホルダーに還元することもできます。こうした仕組みは現実的に可能だと思っています。

真偽判定だけでなく、この画像とこの画像は似ているという判定もAI的には問題なくできますし、どのくらい似ているかを判定し、寄与度によってどのくらい還元すればいいのか、ということも成分表示的に示すことは可能です。ただ、問題なのは人間がこの仕組みを使いこなせるかどうか。業界団体やクリエイター団体も巻き込み取り組んでいかなければ、なかなか動き出さないと思っています」

さらに長崎氏からは、「手段を先に考える前に、理念が大事」との意見が。その例として、「Originator Profile（OP）」という技術について言及した。

長崎　「『Originator Profile』は、ネット上のコンテンツ作成者、デジタル広告の出稿元などの情報を検証可能な形で付与する技術です。メディア・広告関連企業が中心となって、研究機関とともに研究を進めています。異なる背景のものではありますが、まずはしっかり議論してこうした理論を育てていくことが大事だと感じています」

これに対し櫻井氏も「ＯＰの要素が数値化されて、オリジナルのコンテンツを生み出したクリエイターに収益が入る仕組みができれば、安全性も担保されるだろう」との考えを示した。

ディスカッション②「クオリティ面」の課題について

■クリエイティブ現場で進むAIと人の協業。AIとの関わり方がクオリティ担保につながる

続いてのディスカッションテーマは、「クオリティ面」について。塚元氏の「クオリティの低いコンテンツや広告掲載を避けるにはどうすればいいのか」という問いに対し、櫻井氏からエスエス製薬内での対策について語られた。

櫻井　「人によってクオリティの判断基準が違うので、一概にクオリティの低いコンテンツというのも難しいのですが......。我々ができることとしたら、やはりアドベリフィケーションツールをしっかりいれて判断をして広告掲載をしていくことですね。クリエイティブに関して言えば、弊社内でもAI を使ってクリエイティブをつくろうとしています。ただ、まだ質が伴っていないのが現状です。さまざまなリスクもあり慎重になっているところです」

一方メディア側は、AIがクオリティの低いコンテンツを生成し続ける現状に対してどのように考えているのか。塚元氏の問いかけに対し長崎は、「AIとクリエイターの協業はすでに始まっている」と語ったうえでその具体例を示した。

長崎　「基本的にはユーザーファーストなのですが、クリエイターとAIの協業、人がどうかかわるかがディープな問題だと思っています。弊社のプロジェクト『ぱいどん』や『ヤンマガAIラボ！』は、まさにクリエイターとAIが協業したモデルです。『ぱいどん』は、手塚治虫先生の作品をラーニングしたAIがキャラクター設計を行い、人間がストーリーを考えるという作品です。対して『ヤンマガAIラボ！』は、AIが考えたストーリーを、プロの漫画家が絵を描くという事例。 コミック分野でのAI活用は期待が大きいのですが、お互いの補完関係を模索中であり、実務的な役割分担はこれからだと考えています」

長崎　「さらに、作家の九段理江さんの『東京都同情塔』という作品は、5％がAIで書かれています。とあるインタビューでは、AIの文章を作為的に用いていると語っていらっしゃいました。こうした例を見ていると、やはりロボット工学三原則における『第二条：クリエイターへの服従』が、クオリティ管理においては重要になるのではないかというのが私の意見です」

■これ以上コンテンツはいらない？　クオリティアップに注力を

人とAIによるコンテンツ例に触れた塚元氏からは、「AIが単体でクオリティの高いコンテンツを生み出す、ということもあり得るのでは」との指摘が。そうしたコンテンツが広告掲載されても広告主側としては問題ないのだろうか。

この問いに対して櫻井氏は「元ネタになっているものがしっかり見える、理解できる状態であれば、私たちも安心して使えると思います」と回答。やはり明確なルール化が待たれるところだろう。

AIによってコンテンツが山のように生成されている現状に関して、「コンテンツを増やすのではなく、クオリティにオフセットしていくほうが重要だ」と語る長崎氏。

長崎　「本イベントのオープニングキーノートにて、Civitaiのプロデューサーが『コンテンツはこれ以上いらない』という話をしていましたが、その言葉は非常に重く感じました。確かにメディア環境研究所に言わせれば、人間のメディア可処分時間は445分しかありません。これ以上増やす必要はないのかもしれません。

私は、AIがもたらすのはお金より時間だと考えています。コンテンツを増やすのではなく、一つ一つのコンテンツ、広告のクオリティを上げるほうに時間を使うほうが有意義ではないでしょうか」

Web3・ブロックチェーンが紡ぐ、AIとメディアの未来

最後に塚元氏がディスカッションを振り返り、やはりAIにまつわる諸問題をコントロールしていくには「ブロックチェーン」「Web3」がカギを握るではないか、という一つの結論を示した。

さらに塚元氏から長崎氏へ「メディアがブロックチェーンに乗るとしても、すべての人がブロックチェーンで見る環境にはならない。ブロックチェーン上のメディアと現在のメディアの両方を運営しなければならないのでは？」という疑問が投げかけられた。

長崎　「出版社や新聞社は、いまでもソーシャルメディアアカウントやニュースアプリなど、さまざまなものに分散して配信しています。その1つとして加わるイメージですね。テクノロジーは進歩するとはいえ、クオリティ管理など、理念や運用の部分については現状に寄せていくことも重要だと考えます」

長崎氏の意見に共感したうえで貞光氏は「品質管理の問題にかなり近い」と語る。

貞光　「これまでの企業の品質管理は、自社内で品質管理していればよかったんですよね。プライベートで持っておけばよかったのですが、生成AIでWeb上に出ていくとなると、プライベートでは済まされません。そうすると、ブロックチェーンはやはり自然な解だと思います。もちろん、パブリックなデータベースという解もあると思いますが、ブロックチェーン・Web3は新しい可能性となるでしょう」

櫻井　「Web3によって、マスのコミュニケーションよりも、コミュニティのなかでのコミュニケーションになってくると思います。そうなれば、クオリティの高いコンテンツに集中していくでしょう。この流れは広告も同じだと思います」

ブランドセーフティな生成AIコンテンツの可能性と課題というテーマで議論してきた本セッション。塚元氏は「明確な結論が出る話ではありませんでしたが、みなさんの今後のヒントになれば幸いです」とセッションを締めくくった。

東京・六本木にある国立新美術館にて開催された本イベント。芸術文化の発信地を舞台に、AI、マーケティング、そして芸術など幅広いテーマを追求する2日間となった。

撮影／安田光優　取材・文／室井美優（Playce）　編集・コーディネート／川崎耕司（C-station）　

川崎耕司　シニアエディター・コーディネーター

C-stationコンテンツ責任者。C-stationグループの、広告会社・広告主向け情報サイト「AD STATION」担当。