AI安全性に係る国際会合への参画、及び高性能なAIシステムの利用に係るガイド等の開発事業

事業の目的

我が国のAI安全性の知見のハブであるAISIが、海外AISI等のAI安全性に係る専門機関との間で最新のAIシステムの開発・利用に係る課題の把握や最新知見等の共有を行うことを支援しつつ、これらの結果も踏まえてAIエージェントやフィジカルAIの開発・利用におけるセキュリティ確保に向けた技術調査・分析を行う。さらに、これに基づく国際的に整合が取れた各種分野におけるガイドの作成や検証ツールの開発を行うことで、最新のAIシステムの開発・利用による予期せぬAIリスクの抑制を図り、AIイノベーションの促進を図る。

現状・課題

米中を中心に、自律動作・継続学習を行う「AIエージェント」や、ロボット等に搭載された、いわゆる「フィジカルAI」等の開発が急激に進展しており、今後、これらの高性能・最新のAIシステムの利用に伴い、従来の情報漏洩や偽・誤情報の拡散に加えて、AIの自律動作や継続学習に伴う原因究明が困難な事象の発生の危険性が大きく増大することが予想される。／また、今般成立したAI法に基づき、国際的な規範の策定への参画や指針の整備、国際的動向等の社会経済情勢の変化への勘案が求められており、AI戦略本部の事務局である内閣府が主導して、「AIエージェント」や「フィジカルAI」等の最新のAIシステムの開発・利用における潜在的な課題への対応についても、海外AISI等のAI安全性に係る専門機関とも協力しながら対応を行っていくことが不可欠である。