このページでは保護者向けに生成AIに関する基本的な情報をまとめています。

分量が多くなってしまい申し訳ございませんが、このページを読んでもらえれば生成AIの基本的なことに関しては一通り理解できるように努めています。

もし何か情報が古い、間違っている、このような情報を追加してほしいなどあれば、右下のフィードバックボタンから、フィードバックしてもらえるとありがたいです。

目次

• 目次
• 生成AIについて
• 生成AIとは
• 生成AIの種類
• 生成AIの性能
• 簡単な仕組み
• 使い方
• 実例1: わからないことについて相談してみる
• 実例2: 塗り絵用のイラストを作成してもらう
• 使う上で気をつけること
• 出力が不正確な場合がある
• プロンプトによって結果が異なる
• 分野やモデル・サービスによって性能が異なる
• 基本的に利用に年齢制限がある
• バイアス・毒性が存在する
• 言語格差が存在する
• データが学習される可能性がある
• 個人情報の捏造、流出の可能性がある
• 機密情報の流出の可能性がある
• 著作権を侵害する可能性がある

生成AIについて

生成AIとは

生成AIとは、データを基にして文章や画像など新しいコンテンツを生成する人工知能のことです。残念ながら、多様な定義が存在していて、世界共通の明確な定義があるわけではありません。

有名な例として対話的にコンテンツを生成できる ChatGPT（チャットジーピーティー）があります。

ChatGPT を使うと例えば以下のように、遊びのプランを作成してもらうことができます。

さらに、思い通りの結果でなければ追加の指示を与えることで、思い通りの出力に近づく可能性が高まります。

このように対話を通して、出力を改善していくことも可能です。

ただし、重要なポイントとして生成AIから正確な内容が返ってこないときもあるので、得られた回答を鵜呑みにしないようにしましょう。

ここで、生成AIへの指示のことを「プロンプト」と呼びます。このプロンプトという言葉は頻出するため、是非覚えておいてください。

生成AIの種類

対話的にコンテンツを生成できる AI としては、ChatGPT 以外にも以下のように数多くのものがありますし、これら以外にも数多く多様な企業から多様な生成AIが提供されています。

• 対話型の生成AIの例
• Copilot（コパイロット）: https://copilot.microsoft.com/
• Gemini（ジェミニ）: https://gemini.google.com/
• Claude（クロード）: https://claude.ai/

また、画像生成や動画生成に特化した AI なども出てきており、多様な生成AIがある状況です。

• 画像生成AIの例
• Midjourney（ミッドジャーニー）: https://www.midjourney.com/home（英語）
• Adobe Firefly（アドビ ファイヤーフライ）: https://www.adobe.com/jp/products/firefly.html
• Stable Image（ステーブル イメージ）: https://stability.ai/stable-image（英語）
• 動画生成AIの例
• HeyGen（ヘイジェン）: https://www.heygen.com/ （英語）
• Dream Machine（ドリーム マシン）: https://lumalabs.ai/dream-machine（英語）
• Kling（クリング）: https://kling.kuaishou.com/en（英語）

さらに、最近は対話型の生成AIに画像認識・生成、音声認識・生成の機能が追加されてきており、対話型の生成AIでも画像や音声を扱えるようになってきています（生成AIのマルチモーダル化と呼んだりします）。

例えば、有料版にはなりますが ChatGPT でもイラスト調の画像を作成できるようになっています。

ここで、私的に利用する場合は基本的には問題ありませんが、仕事などで使う場合は著作権を侵害していないかを確認するために、Google などで画像検索を行い、酷似した画像がないかを確認することをおすすめします。

生成AIの性能

生成AIは、まるで人間が作ったかのようなコンテンツを生成することができます。

その性能も高いものになっています。例えば、ChatGPT（GPT-4）は日本の医師試験において合格できるほどの性能を有しています。

しかし、生成AIは万能ではありません。例えば、簡単な計算問題を間違えることもあります。

このようにあたかも計算したかのように回答が出てきていますが、実際に 3241 × 3027 を計算すると 9,810,507 が答えになります。

医師試験に合格するのに掛け算ができないのは意外なところですが、このように生成AIは得意な分野や不得意な分野が存在します。

そのため、生成AIの出力をそのまま信じてはいけません。 AIは万能ではなく、生成AIの出力はあくまでも参考意見として扱うことをおすすめします。

一般的には、以下の分野・作業に強いと言われています。

• 文章作成
• 要約
• 翻訳
• アイデア出し
• プログラミング

そのため、生成AIには得意不得意があることを知って、うまく活用していくことが重要です。

簡単な仕組み

ここでは、文章を生成する AI の仕組みについてとても簡単に説明します。

大枠の仕組みとしては、入力された文章に基づいて、次に来る文字や単語を予測することで、文章を生成しているのです。

例えば、「むかしむかし」のあとに出てきやすい言葉は「あるところに」のように、その言葉のあとに出てきやすいものを予想して、書き出しているということです。

そのような一見は単純な仕組みなのに、医師試験に合格できるレベルになっていること、自然と人とやりとりできることは驚くべきことで、実際AIの研究者たちも驚いていたようです。

ここで、大枠としては単純な仕組みだからといって、単純なことしかできない、創造的なことができないわけではないので、その点は気をつけておきましょう。

ちなみに大枠としては単純な仕組みですが、詳細な技術は複雑かつ高度なのでこちらでの説明は割愛させてもらいます。

使い方

生成AIは、様々な用途で活用することができます。

例えば、以下のような使い方が考えられます。

• 教育・学習で使う例
• 作文のアイデア出しをしてもらう
• わからない問題や疑問を生成AIに尋ねてみる（注: 結果の検証は必要）
• 英作文の添削をしてもらう
• 生成AIにクイズを作ってもらい、それを一緒に解いてみる
• 遊びで使う例
• 生成AIを使いながら一緒にキャラクターやストーリーを作り、独自の物語を作る
• 画像生成AIを使って塗り絵のためのイラストを作成してもらう
• 生成AIに曲の歌詞を作ってもらい、それを改善していく
• 日常生活で使う例
• 食事のアイデアを出してもらう
• 旅行プランの案を作ってもらう
• 誕生日やクリスマスなどのイベントで行うゲームやアイデアを計画してもらう

ただし、何度も書いていますが、AIの出力が必ずしも正しいわけではないので、参考程度に使うということが重要です。

以下では具体的な使い方について、ChatGPT を例として用いながらいくつかご紹介します。

具体的な事例についてはページ「保護者が子どもと活用する」に記載しているので、必要に応じてそちらもご覧ください。

実例1: わからないことについて相談してみる

例えば、以下のように Microsoft の Copilot にわからないことを相談することもできます。さらに、関連するサイトも聞くことで、出力された内容が正しいのかも確認できます。

ここで、気をつけていただきたいのは、生成AIが出力する内容が正しくないこともあるので、他の信頼できるサイトなどを確認してその内容を検証することが大事です。

実例2: 塗り絵用のイラストを作成してもらう

画像生成機能を使って塗り絵のイラストを作成してもらうこともできます。

例えば、GoogleのGeminiを使って作ってもらったイラストの例を見てみましょう。

あとは、この画像を紙に印刷すれば塗り絵ができるようになります。プロンプトを変えれば、異なるイラストを作成できます。

画像生成ができるAI全てがプロンプトをそのまま受け取ってくれるわけではありません。例えば、吉田が試した範囲では、MicrosoftのCopilotに同じプロンプトを使っても以下のような複雑なイラストしか生成してくれませんでした（もしかしたらもっと良いプロンプトがあるのかもしれません）。

使う上で気をつけること

生成AIは便利なツールですが、使う上で気をつけるべき点がいくつかあります。

ここでは、生成AIを使う上で注意すべき点をいくつかご紹介します。

出力が不正確な場合がある

生成AIは、常に正しい情報を生成するとは限りません。

実際、4桁の掛け算を間違えていましたよね。

生成AIが生成した情報は、必ずしも正確ではないことを理解し、他の資料や情報源と照らし合わせて確認することが重要です。

プロンプトによって結果が異なる

生成AIへの指示（プロンプト）の出し方によって、生成される結果は大きく変わります。

具体的な出力のイメージがある場合は、指示の中に具体例を入れたり、データを入れたり、できるだけ明確なプロンプトにすることによって、目的の出力を得られる可能性が高まります。

プロンプトについてより詳しく知りたい方は、プロンプトの基本 のページをご覧ください。

分野やモデル・サービスによって性能が異なる

生成AIの性能は、分野やモデルによって異なります。

• 分野による違いの例
• 医師試験に合格できるレベルに到達している
• 4桁の掛け算がうまくできない
• モデル・サービスによる違いの例
• GPT-3.5 という以前のモデルではアメリカの司法試験の下位10%のスコアしか取れなかった
• GPT-4 というより高性能なモデルでは、同試験の上位10%のスコアを取ることができる

このように、分野やモデル・サービスによって性能が異なるため、うまくいかなかったとしても違う分野で使う、違うモデル・サービスを使うことでうまく利用できる可能性があります。

更新頻度も高く、最新情報を把握するのは難しいですが、少なくとも1つのサービスを使って「生成AIはこの程度か」と思っていても、他のサービスを使うと驚くぐらい違うことはあることに注意しましょう。

基本的に利用に年齢制限がある

生成AIの利用には、年齢制限が設けられている場合があります。

詳しくは サービス比較 をご覧いただければと思いますが、基本的に以下のような条件になっていることが多いです。

• 12歳以下は利用できません
• 13歳～17歳は利用できますが、保護者や法定後見人などの同意が必要です
• 18歳以上は利用できます

そのため、保護者が操作して子どもと一緒に使うことをおすすめします。

バイアス・毒性が存在する

生成AIが学習したデータには、バイアスや毒性が含まれている可能性があります。

• バイアス: 性別、人種、宗教などに関する偏見や先入観
• 毒性: 有害・攻撃的なコンテンツを生成する能力

広く使われているサービスはそれらが出てこないようにトレーニングされていますが、場合によっては差別的な表現や偏った見方が出てきてしまう可能性があります。

そのため、生成AIが生成した情報を受け取る際には、批判的な思考を持ち、情報源や内容の信頼性を確認することが重要です。

言語格差が存在する

生成AIの性能は、言語によって異なる場合があります。

これは、生成AIが学習したデータの量や質が言語によって異なるためです。

一般的に英語で利用したときの性能が高くなりやすいと言われていますが、性能の向上とともにその格差が小さくなってきています。

ちなみに、筆者の吉田は、まず日本語で使って、結果がいまいちだったら英語で使ってみるといったような使い分けをしています。

データが学習される可能性がある

サービスによっては、生成AIに入力した情報が今後のAIの学習に利用される可能性があります。

そのため、次の項目にも関係しますが、特に個人情報や機密情報などを不用意に入力しないように注意しましょう。

また、サービスによっては、学習させない設定をすることもできますので、必要に応じてそのような設定を行いましょう。

主なサービスにおける学習の有無などについては、 サービス比較 に記載があるため、そちらをご覧ください。

個人情報の捏造、流出の可能性がある

生成AIは、人の名前や住所など個人情報を含むデータを学習している可能性があります。

また、個人情報を捏造する可能性もあります。

そして、個人情報を入力することは、所属している学校や組織のセキュリティポリシーに違反する可能性が非常に高いです。

そのため、以下の点に気をつけて使いましょう。

• 生成AIが生成する個人情報を完全には信じない
• 基本的に生成AIに個人情報を入力しない（安全な環境が用意されている場合は別です）

機密情報の流出の可能性がある

個人情報と同様に機密情報（外部に公開しない情報）を入力することは、所属している学校や組織のセキュリティポリシーに違反する可能性が非常に高いです。

そのため、基本的に生成AIには機密情報を入力しないように注意しましょう（安全な環境が用意されている場合は別です）。

著作権を侵害する可能性がある

生成AIは、既存の著作物を学習している可能性があります。

そのため、生成AIが生成する情報には、既存の著作物と酷似した内容が含まれている可能性があります。

実際に、生成された文章や画像などを使う場合は、インターネット検索などを用いて酷似したものがないかチェックするなど、他者の著作権を侵害していないかを確認しましょう。

ただし、私的に利用する場合は基本的には問題ないため、その点ご安心ください。