ChatGPT(チャットGPT)が抱えるセキュリティリスクとは？

こんにちは。
Wisbitのマーケティング担当 谷知です。

ChatGPT（チャットGPT）に関連した本ブログの投稿も今回で３回目です。

※これまでの投稿

• ChatGPT(チャットGPT)×FAQシステムの可能性とは？
• ChatGPT(チャットGPT)は何がすごい？本当に使える？

これまでの投稿では、話題沸騰中のChatGPTについて、何がそんなに優れているのか、FAQシステムなど組み合わせることでより効果的に利用できることなど、ChatGPTを利用するメリットを中心に説明してきました。

しかし、世間一般に徐々に浸透してきて企業利用も増えつつある今、話題になっているのはChatGPTの負の側面ではないでしょうか。
特に、情報漏洩のリスクが取り沙汰されています。

そこで今回は、GhatGPTのデメリットについて注目してみましょう。
本記事では、主にセキュリティについてまとめていきます。

第1章 ChatGPTとは

まずはChatGPTについて簡単におさらいしておきましょう。

ChatGPTとは、OpenAI社が開発したAI（人工知能）の一種で、自然言語処理技術を用いた大規模言語モデルのことです。

数十億もの単語や文章を学習して、人間のような自然な言葉でコミュニケーションを行うことができます。
例えば、質問を投げかけたり、文章を生成したり、翻訳したりすることができます。

人間のように自然な言葉で会話ができるため、カスタマーサポートやFAQ作成などの質疑応答に活用することができます。
また、大量のデータを学習することができるため、膨大な情報をまとめてナレッジ集約することも可能です。

このように、ChatGPTは、人間のように文章を理解し人間と話すことができるAIサービスの一つで、多様な場面での活用が期待されています。

第2章 ChatGPTがリスクと考えられる理由

注目度が高まっているChatGPTですが、その反面、品質面、倫理面、セキュリティ面などでリスクになってしまう可能性が高いことが叫ばれています。

【リスク①】間違った回答をすることがある

これは過去の投稿でも触れましたが、ChatGPTは必ずしも正解を返してくれるわけではありません。
ChatGPTは、膨大な量のデータから学習していますが、時には正しい答えを出せないことがあります。
例えば、特定の分野の専門知識が必要な質問に対しては、回答が正確ではない場合があります。
また、ChatGPTは人間と同じように考えることができないため、文脈によっては誤った答えを返すことがあります。

【リスク②】不適切な使い方をされてしまう

ChatGPTは、さまざまな目的で使うことができるが故に、使い方によっては倫理的に不適切な使い方をされてしまうことがあります。
悪意のある人が使うと、差別的な、攻撃的な、違法な行為を行うことがあり、たとえば、ChatGPTを使用してヘイトスピーチや偽情報を拡散することができてしまいます。
場合によっては犯罪に使われる懸念があるため、適切な倫理観を持って使用することが必要です。

【リスク③】プライバシーを侵害する恐れがある

ChatGPTは、インターネットを通じて情報を共有するため、個人情報や機密情報が漏れる可能性があります。
例えば、ChatGPTを使用して検索した情報が、第三者に全く別の目的で使用されることがあります。
また、ChatGPTを使用して個人情報を入力してしまうと、悪意のある人によって情報が盗まれることがあります。
そのため、適切なセキュリティ対策を講じる必要があります。

第3章 ChatGPTのプライバシーポリシーはどうなっている？

ChatGPTでの個人情報の取り扱いについては、OpenAI社のプライバシーポリシーで確認することができます。
簡単にまとめると、個人情報に関して以下の４点で収集する場合がある、と述べています。

• アカウント情報の収集
• ユーザーコンテンツの収集
• 通信情報の収集
• ソーシャルメディア情報の収集

なお、通信情報にはIPアドレスやcookieなどが含まれます。
これらを踏まえると、ChatGPTに個人情報はもちろん企業の機密情報などを投稿してしまうと、それを学習して個人情報や機密情報が漏洩してしまう可能性があるという解釈ができます。

このように、現在のOpenAI社のプライバシーポリシーは、個人情報を厳格に取り扱うルールが定められているとは言い難い内容です。
不特定多数の利用者がいるクラウド空間で、年齢制限や個人情報の提供に関する承諾や承認行為などができない現状では、リスクと捉えるのも当然でしょう。

そのため、ChatGPTの利用にあたっては、個人情報や機密情報が漏れてしまうリスクがある可能性があるとして、EU（欧州連合）やアメリカを中心に各国で議論されています。

第4章 ChatGPTのセキュリティへの懸念【EUの場合】

ChatGPTのセキュリティリスクに一早く反応したのは、個人情報保護に敏感なEU諸国です。
2023年3月末には、イタリアが一時的に利用を禁止し、ドイツやフランスなどがそれに続く可能性があるというニュースが流れました。

こうした背景には、EUには個人情報を厳格に取り扱う、GDPR（General Data Protection Regulation：一般データ保護規則）と関係があるからでしょう。

“GDPR”という言葉について、普段あまり耳にすることのない方向けに簡単に説明しますと、EU域内における個人情報に関する保護規則と思ってもらえれば良いです。
少しだけ解説を加えるとすれば、GDPRは、EU域内に拠点を置くすべての企業、組織、政府機関、およびEU加盟国に居住する個人の個人情報を処理するすべての企業や組織に適用されます。
そして、個人情報を取り扱う際に必要な要件を明確に規定しています。

例えば、個人情報を取り扱う企業や組織は、EU域内の市民から許可を得ることが必要とされています。
また、EU域内の市民に関するデータの保護に努めなければなりません。
これを守れない場合、多額の罰金が科せられてしまうため注意が必要です。

余談ながらGDPRに違反した場合の罰則はどうなっているかと言いますと、

• 全売上の４％
• 2,000万ユーロ（１ユーロ＠145円換算で29億円）

どちらか高い方が罰金となります。
中小企業では払えない額ですね。

話題を戻しますと、このGDPRを前述したOpenAI社のプライバシーポリシーに鑑みた場合、ChatGPTはGDPRに抵触してしまうことになります。
そのため、EU域内でChatGPTを利用することは難しいでしょう。

このような状況を踏まえ、OpenAI社は即座に個人情報の取り扱いに対する新たな対策について公表しました。
これを受けてイタリアは、個人情報を取り扱う上での条件がクリアできたとして、2023年4月末にChatGPTの利用制限を解除しています。

ChatGPTのセキュリティについては、今後も世界中で議論が繰り返されていくと考えられます。

第5章 ChatGPTの今後の展開について【日本の場合】

日本で今後、ChatGPTがどのように展開するかと言えば、間違いなく次の二極化が進むでしょう。

• コアな個人利用
• 法人契約できるサービスの出現による企業利用

現在のOepnAI社が提供しているChatGPTでは、データは全てクラウド上で保管されるため、少し乱暴な言い方をしてしまうと、誰でもどんな情報でも触れることが可能です。
もし、企業の機密情報や重要情報を間違ってChatGPT上に投稿してしまうと、それらの情報や個人情報が洩れるリスクがあります。

企業がChatGPTを導入する際には、個人情報の保護には十分な注意が必要であり、適切な情報セキュリティ対策を講じることが求められます。

そのため、今後は、その企業専用の環境を用意した“クローズドな環境のChatGPT“が提供され企業特有の使い方が定着してくるでしょう。

今後、日本でのChatGPTの企業利用については、需要が高まっていくと予想されています。
なぜなら、顧客とのコミュニケーションの改善や顧客サポートの効率化など、ChatGPTはさまざまなメリットを企業に享受することができるからです。

メリットとデメリットのバランスを保ちながらChatGPTを活用する企業が、これからの時代に成功する企業になるかもしれません。

第6章 FAQシステムを選択するという考え方

ChatGPTは、その仕組み自体にセキュリティリスクが潜んでいるため、利用者側も正しい知識と判断で活用していくことが重要であると言えます。
将来的には、法律なども含めて社会上のルールも整備されていくことでしょう。

しかしながら、ChatGPTは、顧客サポートやナレッジ活用などの場面で大きなメリットをもたらすことが大いに期待できます。
そのため、将来的には自社に導入したいと考える企業も多いのではないでしょうか。

そこで、将来のChatGPTの導入に備えてFAQシステムの導入を検討してみることをおすすめします。

FAQシステムは、よくある質問や疑問に対する回答をまとめておくことで、問い合わせ対応業務の効率化を図ることができるシステムです。

FAQシステムを導入することで、以下のようなメリットがあります。

• 顧客サポート業務の効率化
• 顧客満足度の向上
• オペレーターなど従業員の負荷軽減

FAQシステムで蓄積したデータは、ChatGPTと連携することで、より正確で役立つ回答を顧客に提供することができます。
今後のChatGPTをさらに便利に活用できるよう、まずはFAQシステムの導入をおすすめします。

第7章 AIを活用したFAQシステム「Wisbit AI FAQ」のご紹介

ここまで、ChatGPTを企業で利用する際のリスクや、情報管理の重要性についてご紹介しました。

AIを業務で活用する場合には、便利さだけでなく、社内の機密情報や業務情報をどのように管理し、必要な人に安全に共有するかを考えることも重要です。

そこで、社内の情報をFAQとして整理・活用できる「Wisbit AI FAQ」をご紹介します。

Wisbit AI FAQは、社内のマニュアルや規程、業務資料などをもとに、AIがFAQの作成を支援するFAQシステムです。

【Wisbit AI FAQの特徴】

1. 1. 社内資料をもとにAIがFAQを作成
   2. AIが生成したFAQの出典元を確認してから公開
   3. ISO/IEC 27017の認証を取得した企業が提供

既存の社内資料を活用してFAQを整備できるため、情報を一から入力する負担を抑えながら、社内のナレッジを共有しやすい形に整理できます。

また、AIが生成したFAQは、公開前に参照元を確認しながら内容をチェックできます。
さらに、提供元の株式会社CBITは、クラウドサービスの情報セキュリティに関する国際規格「ISO/IEC 27017」の認証を取得しています。

ChatGPTをはじめとする生成AIを企業で活用する際には、AIの利便性だけでなく、情報の管理や運用方法についても検討することが大切です。

今回は、ChatGPTのセキュリティを中心にまとめてみました。

FAQシステムとの連携やChatGPTをどう使うかなどについても、追ってまとめていこうと思います。

本日もお付き合いいただきありがとうございました。