生成AI等を活用したサイバーセキュリティ対策強化

事業の目的

あらゆる分野において生成AIの実装が急速に進んでいる一方で、生成AIを巡るリスクとして、偽誤情報の拡散、プライバシーの侵害、知的財産権の侵害等に加えて、サイバー攻撃への悪用等によるサイバーセキュリティのリスクが新たに指摘されている。／他方、サイバー攻撃の大規模化・複雑化・巧妙化に伴い、サイバーセキュリティ対策の業務負荷が課題となっている中、サイバー攻撃対策への生成AI等の利活用が期待されている。／こうした背景を踏まえ、生成AI等のAI技術を巡る最新動向を把握しつつ、AIに起因するセキュリティリスクを可能な限り回避・低減するための「Security for AI」に取り組むとともに、AIをセキュリティ対策に効果的に活用するための「AI for Security」に取り組む。

現状・課題

①サイバー攻撃関連の通信は年々増加しており、さらに生成AIの出現等によりAIがサイバーセキュリティ分野に与える負の影響が顕在化しつつあることを踏まえ、生成AIをはじめとするAI技術がサイバーセキュリティに与える影響について事例調査し、負の影響を回避・低減するための対策を検討する必要がある。／②AIの安全性を巡って国際的に意識が高まる中で、海外の複数の専門機関と連携を図る必要がある。／③サイバー攻撃が質・量ともに増大し、さらに攻撃者側のAI活用も懸念される中、世界中のサイバー脅威情報の広範な収集や迅速な分析をする必要がある。／④電気通信事業者が自網内の通信トラフィックに係るデータを収集・蓄積・分析し、大規模サイバー攻撃等を実施するためにIoT機器に攻撃指令を出す指令元のサーバ（「Command & Controlサーバ」、略して「C&Cサーバ」という。）の検知等に取り組んでいるところ、C&Cサーバの多くは生存期間が短いこと等を踏まえ、分析の更なる精緻化・迅速化や対策の高度化に資する情報の充実等を図る必要がある。

行政事業レビュー推進チームの所見

・外部有識者の所見を踏まえ、修正や見直しの検討を行うこと。・更なる経費の効率化を図り、適正な予算執行に努めること。

事業所管部局による点検・改善

本事業は、「サイバーセキュリティ戦略」（令和３年９月28日閣議決定）において、「AI を活用したサイバーセキュリティ対策（ AI for Security ）に関しては、（中略）国は、 AI 技術に関する総合的な戦略等に基づき、 AI を活用した民間のサイバー対策を引き続き後押しするとともに、予防、検知、対処の各フェーズにおいて AI を活用した高効率かつ精緻な対策技術の確立を推進していく。さらに、AI そのものを守るセキュリティ（ Security for AI ）では、（中略）我が国においても基礎的な研究を振興するとともに、 ５～10年先に実現を目指す長期的取組として、引き続き技術課題の検討を進めていく。」とされたものであり、総務省が実施すべきものと認められる。

改善の方向性

本事業を実施するに当たって、効率的な予算執行が行われるよう努める。

外部有識者による点検

（１）本事業（の全部または一部）について、民間でも同様な問題意識で研究開発は行われていないでしょうか？敢えて政府が取り組む必要性に少々疑問があります。また、政府で取り組むにしても、他府省の別事業と重複して実施してしまっているということはないでしょうか？（２）「１０２：アクティビティ」の、北米に研究拠点を、という点について、特にICT関連業界ではネットを介した連携、共同作業等が当たり前になっているように思われるのですが、その中で敢えて多額の費用をかけて北米に物理的拠点を置くべき必要性に疑問があります。（３）「５０２：長期アウトカム」について、これは文言だけの問題かもしれませんが、セキュリティについての「研究」において我が国が「競争優位性」を確立する必要性というのがよく分かりません。例えば日本政府あるいは日本社会が「世界的にも最高水準のセキュリティを実装する必要性」ということなら分かるのですが。（４）「３０１：短期アウトカム」及び「５０４：長期アウトカム」の成果指標について、業界の実情を存じ上げないせいか、目標とする企業数がとても少ないように思われます。これらの目標とする企業数の根拠をどこかで説明していていただけるとありがたく思います。