MyLibrary
ログイン

生成AI活用ガイド


生成AIを使う上での注意点

  • 更新日：2026/10/07

生成AIは便利なツールである一方，利用する際にはいくつかの注意点があります。特に，入力する情報の取り扱い，著作権，生成された情報の正確性などに注意が必要です。

情報漏洩

生成AIサービスでは，入力した情報が保存・利用される場合があります。また，サービスによっては，入力した情報がAIの学習に利用されることもあります。 サービスごとに情報の取り扱いや利用条件が異なるため，利用する前に確認することが重要です。第三者に知られては困る情報や，機密情報，個人情報，未公開の研究情報などは，安易に入力しないようにしましょう。

情報漏洩の事例

チャット履歴の漏洩1)

2023年にOpenAI社のChatGPTにおいて，他のユーザーのチャット履歴の一部などが表示されてしまうバグが生じました。また，有料版加入者の一部の支払情報が表示される状態になっていました。これはチャットの履歴を保存する仕組みなどに問題があったためであり，すぐに修正が行われました。

著作権侵害

生成AIを利用して文章や画像などを作成する場合，既存の著作物との類似性などにより，意図せず著作権を侵害する可能性があります。 また，生成AIを利用して作成したものを，Webサイトや論文，教材などで公開・利用する場合には，著作権や利用規約などを確認する必要があります。 「AIが生成したものだから自由に利用できる」とは限りません。既存の著作物との関係や，利用するサービスの規約などを確認した上で利用しましょう。

文化庁の見解

「AIと著作権について」2)

著作権の普及啓発などの活動を行っている文化庁が，「AIと著作権について」2)というWebページで生成AIを使う上での著作権の考え方やチェックリストをまとめています。 生成AIの急速な発展・普及に伴い，現行の著作権法がAIとの関係でどのように適用されるかを審議会にて検討した結果がまとめられています。
知らず知らずのうちに著作権侵害をしてしまうことのないよう，一度目を通しておくことをおすすめします。

ハルシネーション

生成AIは，実際には存在しない情報や，事実とは異なる情報を，もっともらしい文章として生成することがあります。この事象を「ハルシネーション（Hallucination）」といいます。生成AIの仕組み上，ハルシネーションを完全になくすことは難しいため，生成AIの回答をそのまま信頼せず，重要な情報については，信頼できる情報源や一次情報を確認することが必要です。

ナレッジ・カットオフ

生成AIが学習した情報には，一定の時点までという限界があります。この学習に使ったデータの最終収集時点のことをナレッジカットオフといいます。
そのため，最新のニュース，制度，研究成果などについては，生成AIが最新情報を持っていない可能性があります。検索機能を備えた生成AIであっても，重要な情報については情報源を確認しましょう。

バイアス

生成AIが学習する情報には，文化，言語，地域などによる偏りが含まれている場合があります。そのため，生成AIの回答にも特定の考え方や価値観が反映される可能性があります。 生成AIの回答をそのまま受け入れるのではなく，異なる視点や情報源と照らし合わせて確認することが大切です。

間接的プロンプトインジェクション

生成AIに読み込ませたWebページや文書などに，AIに対する悪意のある指示が含まれている場合があります。 これを利用して，生成AIに意図しない処理をさせたり，利用者を悪意のあるWebサイトへ誘導したりする攻撃を「間接的プロンプトインジェクション」といいます。 Webページやファイルなどを生成AIに読み込ませる場合は，AIの出力を無条件に信用せず，リンク先や指示内容を確認することが重要です。

生成AIを利用するときの基本姿勢

生成AIを利用するときは，次の3点を基本的な姿勢として意識しましょう。

Reference

  1. OpenAI. March 20 ChatGPT outage: Here’s what happened; 2023年3月 [2026年9月16日閲覧]. https://openai.com/index/march-20-chatgpt-outage/
  2. 文化庁. AIと著作権について; [2026年9月16日閲覧]. https://www.bunka.go.jp/seisaku/chosakuken/aiandcopyright.html

▲