近年、AI技術を利用した多くの製品やサービスが世の中に浸透してきており、AIの意思決定が人々の生命や多くの産業に影響を与えるものになっている。AIによる自律的な意思決定から人間が徐々に排除されていく中で、設計原理としてAIのセキュリティを考慮する必要性が高まっている。AIセーフティやセキュリティを考える上で、AIセーフティ・セキュリティに関する課題や最新の研究動向をセキュリティコミュニティ間で共有し、活性化していくことは今後のセキュリティ研究の発展に重要なテーマの一つである。
上記目的のため、AWS（AIセキュリティワークショップ）は情報処理学会・CSEC研究会の有志と人工知能学会・安全性とセキュリティ研究会（SIG-SEC）の有志が協力して企画しています。今後，AWSがセキュリティ研究者とAI研究者の交流の場となり、「信頼されるAI」研究の活性化につながることを期待しています。
| トラック長 | 大塚玲（情報セキュリティ大学院大学） |
|---|---|
| 副トラック長 | 高橋健一（鳥取大学） 栗林稔（東北大学） |
| プログラム委員 |
大坪雄平（内閣府／警察庁） 小野智司（鹿児島大学） 菅 和聖（日本銀行） 佐久間淳（東京科学大学） 櫻井幸一（九州大学） 芝原俊樹（NTT社会情報研究所） 高橋健志（NICT） 中村和晃（東京理科大学） 披田野清良（KDDI総合研究所） 丸山祐丞（EAGLYS/早稲田大学） 森 隼基（NEC） 矢内直人（パナソニック） 吉田康太（立命館大学） |
| 実行委員長 | 大塚玲（情報セキュリティ大学院大学） |
|---|---|
| 実行委員 |
大坪雄平（内閣府／警察庁） 菅 和聖（日本銀行） 榊 剛史（株式会社ホットリンク） 櫻井幸一（九州大学） 高橋健一（鳥取大学） 張 海波（九州工業大学） 溝口誠一郎（DNV ビジネス・アシュアランス・ジャパン） 宮地充子（大阪大学） |
AWS2025への参加登録は、CSS2025への参加登録と共通となっています。
AI技術の発展と共に、その安全性やセキュリティに対する懸念、コンピュータ・ネットワークセキュリティへの応用の必要性が高まっています。AWSトラックでは、これらの最新の研究動向を共有することを目的に、Security for AI、AI for Security、フェイクメディア、AIと法的規制などに関する論文を広く募集します。
AWS2025への投稿論文は、CSS論文賞の対象となります。
| 講演タイトル | 大規模言語モデルの安全性課題とその緩和に向けた取り組み |
|---|---|
| 講演者 | 岡崎 直観氏（東京科学大学） |
| 概要 | 大規模言語モデル（LLM）の普及に伴い、安全性の確保は重要な研究開発課題となっている。本発表では、大規模言語モデルが引き起こしうるリスクについて概観したのち、そのリスクを軽減するための取り組み、特に性別バイアスの評価と自己改善による緩和、生成テキスト検出、透かし技術、メンバーシップ推論攻撃による情報漏洩リスクなどを紹介する。さらに、東京科学大学と産業技術総合研究所で開発されている日本語LLM「Swallow」における安全性対策の取り組みを紹介する。 |
| 講演タイトル | Five Challenge Problems for AI and Cybersecurity |
|---|---|
| 講演者 | Dr. Simson Garfinkel (Chief Scientist, BasisTech LLC) |
| 概要 | AI has moved from the laboratory into the world of business and government, but many underlying security problems have yet to be addressed. In this keynote address, Dr. Simson Garfinkel will present recent advances at the intersection of AI and cybersecurity, discuss opportunities for using AI to improve security, and then present five challenge problems that can only be solved through interdisciplinary research that advances the state-of-the-art in both AI and security. |
| 座長（全体司会） | TBA |
|---|---|
| パネルディスカッション進行役 | TBA |
| パネリスト | TBA |
| 概要 | AI関連の研究開発や産業全体の国際競争力を高めるためには、様々な専門領域の知見を組み合わせた学際的アプローチが重要となる。その基礎となる「AI ・法律 ・セキュリティ」を軸としたパネルディスカッションを行う。 人が提供してきた労働やサービスをAI技術が代替、伸長していく社会において、法律（例えば労働法）の従来からの整理がどのように変わっていくか、安心・安全をどのように実現するか、AIを活用したサービスや社会をどのようにデザインするか等の議論を通して、人とAIの協働・共生に向けた研究や産業の留意点と将来像を見据えていく。 |
| モデレータ | 島岡 政基氏（筑波大学） |
|---|---|
| パネリスト | 櫻井 幸一氏（九州大学） 矢内 直人氏（パナソニック） 須賀 祐治氏（インターネットイニシアティブ） 藤田 真浩氏（三菱電機） |
| 概要 | AIセキュリティやユーザブルセキュリティ、ブロックチェーンセキュリティなど、トラストと関連の深いセキュリティ分野の関係者が集い、それぞれの分野において必要なトラスト研究領域、あるいはトラスト研究一般に対する捉え方や期待などを相互に議論する。 これら議論を通じて、今後のTWSと関連WSとの連携の在り方について、関係者はもちろん参加者も含めて相互理解を深めることを狙いとする。 |