AI Security Workshop 2025

AWSの目的

近年、AI技術を利用した多くの製品やサービスが世の中に浸透してきており、AIの意思決定が人々の生命や多くの産業に影響を与えるものになっている。AIによる自律的な意思決定から人間が徐々に排除されていく中で、設計原理としてAIのセキュリティを考慮する必要性が高まっている。AIセーフティやセキュリティを考える上で、AIセーフティ・セキュリティに関する課題や最新の研究動向をセキュリティコミュニティ間で共有し、活性化していくことは今後のセキュリティ研究の発展に重要なテーマの一つである。

上記目的のため、AWS（AIセキュリティワークショップ）は情報処理学会・CSEC研究会の有志と人工知能学会・安全性とセキュリティ研究会（SIG-SEC）の有志が協力して企画しています。今後，AWSがセキュリティ研究者とAI研究者の交流の場となり、「信頼されるAI」研究の活性化につながることを期待しています。

後援

人工知能学会安全性とセキュリティ研究会（SIG-SEC）

プログラム委員（50音順）

トラック長	大塚玲（情報セキュリティ大学院大学）
副トラック長	高橋健一（鳥取大学）栗林稔（東北大学）
プログラム委員	大坪雄平（警察庁／情報セキュリティ大学院大学）小野智司（鹿児島大学）菅　和聖（日本銀行）佐久間淳（東京科学大学）櫻井幸一（九州大学）芝原俊樹（NTT社会情報研究所）高橋健志（NICT）中村和晃（東京理科大学）披田野清良（KDDI総合研究所）丸山祐丞（EAGLYS/早稲田大学）森　隼基（NEC）矢内直人（パナソニック）吉田康太（立命館大学）

実行委員会

実行委員長	大塚玲（情報セキュリティ大学院大学）
実行委員	大坪雄平（警察庁／情報セキュリティ大学院大学）菅　和聖（日本銀行）榊　剛史（株式会社ホットリンク）櫻井幸一（九州大学）高橋健一（鳥取大学）張　海波（九州工業大学）溝口誠一郎（DNV ビジネス・アシュアランス・ジャパン）宮地充子（大阪大学）

参加登録

AWS2025への参加登録は、CSS2025への参加登録と共通となっています。

論文募集

AI技術の発展と共に、その安全性やセキュリティに対する懸念、コンピュータ・ネットワークセキュリティへの応用の必要性が高まっています。AWSトラックでは、これらの最新の研究動向を共有することを目的に、Security for AI、AI for Security、フェイクメディア、AIと法的規制などに関する論文を広く募集します。

論文賞

AWS2025への投稿論文は、CSS論文賞の対象となります。

プログラム

AWS企画セッション1「AIの安全性とサイバーセキュリティ（AI Safety and Cybersecurity）」（10/30 10:40-12:20 E会場）

講演タイトル	大規模言語モデルの安全性課題とその緩和に向けた取り組み
講演者	岡崎直観氏（東京科学大学）
概要	大規模言語モデル（LLM）の普及に伴い、安全性の確保は重要な研究開発課題となっている。本発表では、大規模言語モデルが引き起こしうるリスクについて概観したのち、そのリスクを軽減するための取り組み、特に性別バイアスの評価と自己改善による緩和、生成テキスト検出、透かし技術、メンバーシップ推論攻撃による情報漏洩リスクなどを紹介する。さらに、東京科学大学と産業技術総合研究所で開発されている日本語LLM「Swallow」における安全性対策の取り組みを紹介する。

講演タイトル	Five Challenge Problems for AI and Cybersecurity
講演者	Dr. Simson Garfinkel (Chief Scientist, BasisTech LLC)
概要	AI has moved from the laboratory into the world of business and government, but many underlying security problems have yet to be addressed. In this keynote address, Dr. Simson Garfinkel will present recent advances at the intersection of AI and cybersecurity, discuss opportunities for using AI to improve security, and then present five challenge problems that can only be solved through interdisciplinary research that advances the state-of-the-art in both AI and security.

AWS企画セッション2「人とAIの協働・共生に向けた未来社会デザインと法律」（10/30 13:50-15:30 E会場）

座長（全体司会）	藤村明子氏（NTT社会情報研究所）
パネルディスカッション進行役	池田美穂氏（NTT社会情報研究所）
パネリスト	岡村優希氏（NTT社会情報研究所）小川隆一氏（独立行政法人情報処理推進機構セキュリティセンター）坂本一仁氏（静岡大学）
概要	AI関連の研究開発や産業全体の国際競争力を高めるためには、様々な専門領域の知見を組み合わせた学際的アプローチが重要となる。その基礎となる「AI ・法律・セキュリティ」を軸としたパネルディスカッションを行う。人が提供してきた労働やサービスをAI技術が代替、伸長していく社会において、法律（例えば労働法）の従来からの整理がどのように変わっていくか、安心・安全をどのように実現するか、AIを活用したサービスや社会をどのようにデザインするか等の議論を通して、人とAIの協働・共生に向けた研究や産業の留意点と将来像を見据えていく。

TWS/AWS/BWS/UWS合同企画セッション「パネルディスカッション：関連WSから見たトラストの景観」（10/30 15:50-17:30 I会場）

モデレータ	島岡政基氏（筑波大学）
パネリスト	櫻井幸一氏（九州大学）矢内直人氏（パナソニック）須賀祐治氏（インターネットイニシアティブ）藤田真浩氏（三菱電機）
概要	AIセキュリティやユーザブルセキュリティ、ブロックチェーンセキュリティなど、トラストと関連の深いセキュリティ分野の関係者が集い、それぞれの分野において必要なトラスト研究領域、あるいはトラスト研究一般に対する捉え方や期待などを相互に議論する。これら議論を通じて、今後のTWSと関連WSとの連携の在り方について、関係者はもちろん参加者も含めて相互理解を深めることを狙いとする。