近年、AI技術を利用した多くの製品やサービスが世の中に浸透してきており、AIの意思決定が人々の生命や多くの産業に影響を与えるものになっている。AIによる自律的な意思決定から人間が徐々に排除されていく中で、設計原理としてAIのセキュリティを考慮する必要性が高まっている。AIセーフティやセキュリティを考える上で、AIセーフティ・セキュリティに関する課題や最新の研究動向をセキュリティコミュニティ間で共有し、活性化していくことは今後のセキュリティ研究の発展に重要なテーマの一つである。
上記目的のため、AWS（AIセキュリティワークショップ）は情報処理学会・CSEC研究会の有志と人工知能学会・安全性とセキュリティ研究会（SIG-SEC）の有志が協力して企画しています。今後，AWSがセキュリティ研究者とAI研究者の交流の場となり、「信頼されるAI」研究の活性化につながることを期待しています。
| トラック長 | 櫻井幸一（九州大学） |
|---|---|
| 副トラック長 | 高橋健一（鳥取大学） 大塚玲（情報セキュリティ大学院大学） |
| プログラム委員 | 芝原俊樹（NTT社会情報研究所）
披田野清良（株式会社KDDI総合研究所） 吉田康太（立命館大学） 矢内直人（パナソニックホールディングス株式会社) 栗林稔（東北大学） |
| 実行委員長 | 大塚玲（情報セキュリティ大学院大学） |
|---|---|
| 実行委員 | 櫻井幸一（九州大学） 高橋健一（鳥取大学） 菅和聖（日本銀行金融研究所） 榊剛史（株式会社ホットリンク） 溝口誠一郎（DNV ビジネス・アシュアランス・ジャパン） 宮地充子（大阪大学） |
AWS2024への参加登録は、CSS2024への参加登録と共通となっています。
AI技術の発展と共に、その安全性やセキュリティに対する懸念、コンピュータ・ネットワークセキュリティへの応用の必要性が高まっています。AWSトラックでは、これらの最新の研究動向を共有することを目的に、Security for AI、AI for Security、フェイクメディア、AIと法的規制などに関する論文を広く募集します。
AWS2024への投稿論文は、CSS論文賞の対象となります。
| 講演タイトル | 「生成AIのリスク対策：取り組み状況と課題」 |
|---|---|
| 講演者 | 福島 俊一氏（JST） |
| 概要 | 生成AIの登場によって深刻化する様々なAIリスクを取り上げ、その対策への取り組み状況を5つのケースに分けて俯瞰的に整理する。その上で、生成AIリスク対策・安全性確保に関する課題や方向性を論じる。 |
| 講演タイトル | 「AIシステムのセキュリティ: 脅威となりつつあるAIの現状と課題」 |
|---|---|
| 講演者 | 高橋 健志氏（NICT） |
| 概要 | AIはさまざまな分野に浸透し、既に多岐にわたるシステムで活用されている。その一方で、そのAIの威力が深刻な課題となりつつある。サイバーセキュリティ分野においても、セキュリティ対策を自動化・高度化するためのAI技術やシステムが構築されてきた。しかし、今度はそれらに組み込まれるAI自体が新たな攻撃ベクトルとなる危険性があり、様々な研究報告が発表されている。このAIセキュリティを重要視する潮流は世界的なものであり、すでに政策レベルで取り組みを進めている国も存在する。本講演では、まずAIセキュリティに関する世界的な動向を俯瞰する。次に、AIの具体的な脆弱性についてその全体像を概観し、さらに主要な脆弱性を紹介する。 |
| 講演タイトル | 「顔認証におけるAIの脅威と対策：研究動向とリスク管理」 |
|---|---|
| 講演者 | 宇根 正志氏（日本銀行） |
| 概要 | 顔認証を用いたサービスにおいて機械学習モデルによる合成画像を用いたなりすましの脅威が高まっている．画像の合成手法や合成画像の検知手法としてさまざまな手法が提案されているが、実際のサービスで検知手法を適切に使用するためには、検知の効果を横並びで評価することが望ましい。本稿講演では、検知手法の評価に関する課題やそれを踏まえたリスク管理の方針について考察する。 |
掲載予定