AI利用時の脅威・リスクに関する実態
生成AIの登場により、業務でAIを利用する機会が増えていいます。生産性の向上などが期待される一方で、AIの悪用・誤用によるサイバー攻撃やインシデント被害も懸念されています。
AIの利用・導入に関する実態
独立行政法人情報処理推進機構(IPA)は、調査レポート「AI利用時の脅威、リスク調査報告書」を公開しました。これはAIを業務で利用または利用予定がある人を対象にAIを業務で利用するに当たってのセキュリティ上の脅威やリスクについて調査し、結果をまとめたものとなります。2024年3月18日〜21日の調査期間で、Webアンケートを実施。事前調査は企業・組織に従事する4941人、本調査は事前調査の回答者の中でAIを業務で利用または予定がある人1000人がそれぞれ対象となっています。
今回の調査結果によると、「業務でAIを利用(もしくは利用を許可している)」と回答した企業の割合は16.2%。「これから許可予定」は6.3%、「していない」は77.4%でした。予定ありを合わせても22.5%(回答者4,941人中1,114人)とまだ十分浸透はしていないことが伺えます。とはいえ、チャット・質問回答といった顧客向けサービス改善に有効と考えられるAIサービスから利用が加速しています。
導入率の高いサービスの業種別利用状況では、第1位のチャット・質問回答サービスは、特に通信業、サービス業で導入が進んでいます。第2位の翻訳サービスは2023年より前から導入されてきており、その他の業種を除くと導入率に業種の差はあまりありません。2023年間や今後の予定から見ても企業での代表的な利用方法として定着しつつあるようです。
セキュリティ脅威に関する実態
AIのセキュリティに関する脅威の種類と度合いに関する設問では、虚偽拡散、システム障害、情報漏洩など具体的な脅威の種類について回答を求めています。結果、いずれの脅威についても同程度に脅威であるとの回答が得られ、脅威の度合いとして「重大な脅威である」「やや脅威である」の回答は合わせて60.4%となっています。
AI導入・利用可否におけるセキュリティ対策の重要度については、分類AI利用者の74.5%、生成AI利用者の75.0%が「非常に重要だと思う」「やや重要だと思う」と回答しています。AIの導入・利用にセキュリティ対策は重要であるという回答者はともに7割を超えています。
また、「生成AI利用時のセキュリティに関連した規則・体制を整備しているか」を尋ねたところ、課題認識は60%を超えています。にもかかわらず、規則の策定、明文化、組織的な検討をしているのは20%未満で、詳細規則策定中を合わせても40%前後しか整備が進んでいないことがわかりました。個人任せの状態では課題の解決は難しく、事業への影響が懸念されています。
業務にAI利用していない理由としては、セキュリティや安全性のリスクを懸念しているとの回答が25%前後見られていますが、それ以前に、何にAIが利用できるのか理解と検討が十分ではない可能性が考えられます。とりあえず入りやすい部分から利用を開始してみて、AIへの理解を深めていくことも大事といえます。
『IPAテクニカルウォッチ「AI利用時のセキュリティ脅威・リスク調査報告書」』
(出典:2024年7月9日 情報処理推進機構より)
*********
弊社では、保守サービスやサポートに関する
facebookページを立ち上げています。
セキュリティの問題や脆弱性の情報を
毎日ピックアップして掲載しておりますので
よろしければお立ち寄りください。
ITサポート&サービス情報局【CTS】facebookページ
http://www.facebook.com/ITsupport.service
今週も「IT・保守サポートの日誌」をお読みいただき、
ありがとうございました。
シーティーエス株式会社 ブログ担当スタッフより