生成AI活用のリスクと講じておきたい対策

生成AIとは

生成AI（ジェネレーティブAI）とは、学習したデータを元に新しいコンテンツを生成できるAI技術のことです。与えられたデータの範囲内で処理を行う従来型のAIとは異なり、新たなコンテンツを生成できる点が大きな特徴です。

生成AIによって実現できることの一例として、次のものが挙げられます。

テキスト生成：条件を満たす文章を生成する
画像生成：テキストや画像データを元に新たな画像を生成する
動画生成：テキストや画像データを元に動画コンテンツを生成する
音声生成：短い音声データから合成音声を生成する

生成AI活用に伴う主なリスク

生成AIの活用によって、業務効率化やアイデア創出のサポートといった多くのメリットを得られる反面、リスクとなりかねない面もあります。一般的な生成AI活用のリスクとして挙げられるのは次の3点です。

機密情報の漏えい

生成AIは学習データを元に、関連性が高いデータを判定する処理を繰り返すことでコンテンツを生成します。ユーザーが入力した指示文（プロンプト）も学習データとして利用される場合があるため、機密情報や個人情報をプロンプトに含めることがないよう注意が必要です。

たとえば、公開前の製品コンセプトをプロンプトとして記述した場合、無関係のユーザー向けの回答にもコンセプトの一部が提示されてしまう可能性があります。機密情報や個人情報を入力することのないよう、ルールを策定・周知することが重要です。

著作権などの侵害

生成AIの学習データに他人の著作物が含まれていた場合、生成されるアウトプットが著作権を侵害するおそれがあります。著作物の一部が引用されていたり、特定のキャラクターや商標がコンテンツに含まれていたりする可能性があるからです。

こうした事態を回避するには、プロンプトに既存の作品やキャラクターなどを連想させる言葉を含めないよう注意する必要があります。また、あらかじめ除外する要素を指定する「ネガティブプロンプト」を追加しておくのも効果的です。

ハルシネーション（幻覚）のリスク

生成AIの学習データに誤情報や古い情報が含まれていた場合、生成されるアウトプットが事実と異なるものになる可能性があります。生成AIによるアウトプットは、必ずしも正確とは限りません。生成AIが誤った情報をもっともらしく提示する現象は「ハルシネーション（幻覚）」と呼ばれています。このほか、計算や単位換算など生成AIが不得意な処理も存在するため、生成AIによるアウトプットは必ず人の目で確認することが重要です。

Webメディア制作に生成AIを活用する際に知っておきたいこと

前章で挙げた3点は、生成AIの活用に際して注意しておきたい一般的なリスクです。Webメディア制作に生成AIを活用する場合、次の点も理解しておくことが求められます。

日本語対応の完成度はサービスごとに異なる

生成AIサービスの日本語対応の完成度は、利用するサービスによって差があります。生成AIの処理を支えている生成モデルの中には、英語などの多言語から日本語へとローカライズされたものも少なくないからです。

生成モデルによっては、日本語で入力されたプロンプトを一度英訳し、その後日本語に翻訳し直しているケースも見られます。そのため、助詞や接尾名詞（「明るい（形容詞）」→「明るさ（名詞）」など）、サ変接続名詞（「管理（名詞）」→「管理する（動詞）」など）といった、日本語特有の表現が不自然になる場合があります。

なぜ日本語対応の難易度は高いのか

生成AIの日本語対応が容易ではない理由として、日本語特有の表記が挙げられます。英語などの言語は単語間がスペースで区切られているのに対して、日本語は単語や文節の区切りが明示されていません。そのため、ユーザーが入力した文章を一度単語に分解したのち、単語ごとに品詞を判定する「形態素解析」と呼ばれる処理が必要です。

ごく一般的な表現であれば、多くの生成AIサービスはすでに問題なく対応しているケースがほとんどです。一方で、流行語や口語表現など一般的な文章で使われる頻度が低い表現に関しては、学習データが不足しやすく形態素解析が十分に機能しない可能性があります。

たとえば、SNSを中心に「ありえん良さみが深い」といった言い回しが使われることがあります。「ありえん」のような口語的な表現は、AIが意味を適切に判定できないケースも少なくありません。結果として、生成AIにユーザーの意図が正しく伝わらなかったり、適切なアウトプットを得られなかったりすることが想定されます。

生成AIを活用するにあたって講じておきたい対策

生成AIを安全かつ効果的に活用していくには、どういった点に留意すればよいのでしょうか。必ず講じておきたい4つの対策を紹介します。

対策1：生成AIの活用範囲を明確にする

ひとつめの対策は、生成AIを実務のどの部分で活用するのか、具体的に決めておくことです。「企画のアイデア出し」「記事構成の素案作成」「誤字脱字のチェック」など、活用範囲をあらかじめ定め、用途を絞り込んでおくことをおすすめします。

現状の生成AIは、Webメディア制作の全工程を一任できるほど万能なツールとはいいがたいのが実情です。生成AIに実行してもらいたい処理をユーザーが指示し、想定するアウトプットが得られたか確認する工程が欠かせません。まずは既存の制作工程を小さな単位に分け、どの工程に生成AIを取り入れるのかを検討することから始めましょう。

対策2：アウトプットの情報源を確認する

生成AIによるアウトプットには、誤情報や不正確な情報が含まれていることもめずらしくありません。とくに数値データや法令に関する記述については、一次情報を精査して正確性をチェックする必要があります。

生成AIに出典を併記するよう指示することで、アウトプットの根拠となる情報源を示してもらうことも可能です。この場合も情報源を必ず確認し、根拠としてふさわしい資料を参照しているか、古い情報にもとづいていないか、といった点を慎重に精査しましょう。

対策3：人の目によるチェックの工程を必ず含める

生成AIを活用した際には、人の目によるチェックが必ず実施することも重要なポイントです。事実関係の確認だけでなく、不自然な表現や通常使われない言葉などが含まれていないか、目視によるチェックが欠かせません。

また、出力結果とあわせて入力したプロンプトも確認し、著作権侵害のリスクがないか検証しておく必要があります。商標や著作物・創作物を連想させる表現がプロンプトに含まれていないことを十分に確認した上で、成果物を公開しても問題ないか判断することが大切です。

対策4：生成AI活用のガイドラインを策定・周知する

生成AI活用に関するガイドラインを社内で策定し、周知徹底を図ることも欠かせないポイントです。生成AIのプロンプトとして用いるべきではない要素として、機密情報や個人情報などの具体例を挙げて従業員の理解を深めましょう。

また、定めたルールどおりに運用されているか、定期的にチェックすることも重要です。eラーニングなどを活用してリテラシーの強化を図ったり、理解度テストを行ったりするなど、従業員が適切な理解にもとづいて生成AIを活用するための仕組みを構築しておくことをおすすめします。

生成AIのリスク面を理解した上で安全かつ効果的に活用しよう

どのようなツールにもメリットとリスクの両面があるように、生成AIも活用の仕方によってはリスクを伴う可能性があります。生成AIの基本的な仕組みを理解した上で、メリット面を引き出す活用方法を検討していくことが重要です。今回紹介した生成AIの主なリスクと講じておきたい対策を参考に、安全かつ効果的な生成AIの活用方法について話し合ってみてはいかがでしょうか。