招待講演

AIセキュリティ：何から何を守るのか？

佐久間 淳

東京科学大学 情報理工学院 教授
 理化学研究所 革新知能研究センター
  人工知能セキュリティ・プライバシーチーム　チームディレクター

2026年1月28日(水)［3日目］15:40～17:00

函館アリーナ　サブアリーナ

従来の情報セキュリティは、期待される挙動と期待されない挙動の境界が明確に定義され、「何から何を守るのか」が形式的に記述可能であるシステムを主たる対象としてきた。これに対し、近年のAI、特に大規模言語モデル（LLM）のようにメタ認知的判断を行い、与えられた課題や解法を状況に応じて自律的に再構成しうるシステムにおいては、その前提が揺らぎ、「守るべきもの」や「攻撃とみなすべき行為」の定義が固定されない。さらに、倫理的・社会的規範に依存する振る舞いの制御、オープンウェイトLLMの流通に伴う改変・再利用リスク、VLA（Vision-Language-Action）モデルによるAIの物理世界への接続がもたらす安全保障上の懸念など、AI自体の発展や利用形態の変化に起因する新たなセキュリティ上の問題群が現れつつある。講演では、これらの変化を踏まえたAI時代に必要とされるAIセキュリティについて議論する。

2003年3月東京工業大学大学院総合理工学研博士後期課程修了。博士(工学)。同年4月日本アイ・ビー・エム株式会社入社、東京基礎研究所に配属。2004年7月、東京工業大学総合理工学研究科助手、2007年4月同助教、2009年4月、筑波大学大学院システム情報工学研究科准教授、2016年4月同教授、2016年9月、理化学研究所革新統合知能研究センターチームリーダー(兼任)、2023年東京工業大学(2024年10月より東京科学大学)情報理工学院教授、現在に至る。ECML/PKDD 2022 Test of Time Award (2022)、情報処理学会コンピュータセキュリティシンポジウム最優秀論文賞 (2024, 2018, 2016)、日本統計学会出版賞(2022)、電子情報通信学会基礎・境界ソサイエティ機関誌Fundamentals Reviewベストオーサー賞(2017)、日本データベース学会上林奨励賞(2015)、電子情報通信学会 情報論的学習理論と機械学習 (IBISML) 研究会賞 (2014, 2010)。機械学習、AIセキュリティとデータプライバシの研究に従事。