生成ＡＩ時代の新しいデジタルセキュリティ
吉田 信人氏 ちかと経営研究所
回答の信頼性を高める
ＡＩの最新情報や活用方法が活発に取り上げられているなか、総務・情報部門では企業経営で重要なリスク対策である情報セキュリティに焦点をあてたセミナーを開催しました。テーマは「生成ＡＩ時代の新しいデジタルセキュリティ」で、講師にＩＴコーディネータであり日本ディープラーニング協会ＣＤＬＥメンバーの吉田信人氏（会外）を迎え、総勢５６名で開催されました。
冒頭、吉田氏は社会から見たＡＩの問題例として、ブラックボックス、バイアス、脆弱性、品質保証、フェイクの各問題に触れ、出力結果の正確性とセキュリティリスクについて言及。次にＡＩの概要としてニューラルネットワーク、自然言語処理、大規模言語モデル、学習とチューニングについて説明しました。
生成ＡＩのさまざまなリスクとしては、(１)情報漏洩の懸念、(２)ハルシネーション、(３)フィルターバブルやエコーチェンバー、(４)敵対的攻撃、(５)著作権侵害、を具体例とともに紹介しました。生成ＡＩの問題解決の技術として、検索拡張生成（ＲＡＧ）についても説明されました。
ＲＡＧは生成ＡＩが「大規模言語モデル外の情報源から情報を検索し、その検索結果に基づいて回答を生成する」技術で、大規模言語モデルの回答が最新化され、社内文書や業務マニュアルなどの大規模言語モデル外データに依存した回答生成が可能になります。これにより、ハルシネーションの抑制や、根拠の明確化、業務効率化などのメリットが期待できるといいます。
リスク最小化に向けて
ＡＩ時代の新しいセキュリティ対策は、ゼロトラストの観点で情報流出に留意すること、組織全体のマネジメントシステムとして取り組むことを提案。実践的なアプローチは、(１)アクセス権限の付与を最小限に絞る、(２)出力状況を定期的にチェックし、誤情報や偏りを検出、(３)ＡＩに入力してはいけない情報を社員に伝えること、といいます。
また、生成ＡＩ運用ルールの事例紹介や、セキュリティ事故、情報セキュリティ１０大脅威、サプライチェーン強化に向けたセキュリティ対策評価制度を説明しました。
氾濫する情報に右往左往することなく、俯瞰的な企業変革が求められます。
