ニュース紹介
「人とAIの安全な協調を支えるAIセーフティ基盤を構築しました」
NEDOが推進する事業において、産業技術総合研究所をはじめとする連名機関は、人とAIの安全な協調を支えるAIセーフティ基盤を構築しました。設計・評価・運用の一貫したガイドラインと評価・実証基盤を整備しました。
出典：新エネルギー・産業技術総合開発機構（NEDO） 2026年5月28日 プレスリリース
https://www.nedo.go.jp/news/press/AA5_101937.html
NEDO事業で産総研らが「AIセーフティ基盤」を構築、人とAIの安全な協調へ（FrontJournal解説）
FrontJournalの解説
この研究分野について
この発表はAIセーフティ（AIを安全に開発・運用するための技術と基準づくり）の分野です。生成AIが社会に急速に広がる中、誤作動や悪用、品質のばらつきといったリスクへの対応が課題になっています。研究者・企業は、AIを「安全に使える」ための評価方法やガイドラインを整備し、国際的なルール形成にも参画しようとしています。
①AIガバナンスは国際競争・協調の焦点
生成AIの普及に伴い、各国がAIの安全性基準（AIガバナンス）づくりを急いでいます。ISO/IEC 42001（AIマネジメントの国際規格）に整合した評価基盤を整えることは、日本企業が国際的な議論に参画し、製品の信頼性を担保するうえで重要です。
②設計・評価・運用を貫く実証基盤
産総研・Citadel AI・Corpy・琉球大学らが、マルチモーダルAI（文章・画像・音声など複数形式を扱うAI）の品質管理指針や、レッドチーミング（攻撃者視点で脆弱性を検証する手法）を含む評価・実証基盤を整備。医療など高リスク領域での人とAIの意思決定の枠組みも提供します。
編集部からひとこと
AIの社会実装が進むほど、性能だけでなく「安全に使えるか」が問われます。設計から運用まで一貫した評価基盤を国として整えることは、産業界がAIを安心して導入する土台になります。国際標準と歩調を合わせた日本発のAIセーフティ基盤の今後に注目しています。