CSS2021 研究倫理相談TF/MWS/OWS/UWS連携企画
「Hypocrite Commits論文から考える サイバーセキュリティ研究倫理」

開催情報

日時 2021年10月27日 (水) 10:35-12:05
場所 オンライン開催 (Zoom)
開催趣旨 OSSコミュニティにおけるコードレビュープロセスを評価するため、Linuxカーネルに脆弱性入りパッチをコミットした論文が、IEEES&P2021に採択された。論文採択後に、その研究倫理についてLinuxカーネルコミュニティ・S&Pプログラム委員会・著者らの所属大学を巻き込んだ大きな議論になり、結果として著者らは論文を取り下げることとなった。本セッションでは、同論文の研究倫理面を中心に概観した後、オープンソース開発の観点、ヒューマンファクター/ユーザブルセキュリティ研究の観点、サイバーセキュリティ研究の観点、研究倫理の観点からそれぞれパネリストによる議論を行う。本セッションはサイバーセキュリティ研究倫理相談タスクフォースおよびMWS/OWS/UWSの連携セッションである。
プログラム(敬称略) -はじめに(5分)
  島岡 政基 (セコムIS研究所)
- Hypocrite Commits論文概説(20分)
  渡邉 卓弥 (NTT 社会情報研究所)
- パネルディスカッション(55分)
 - モデレータ
   島岡 政基 (セコムIS研究所)
 - パネリスト
   柴田 次一 (Linux Foundation)
   金岡 晃 (東邦大学)
   秋山 満昭 (NTT 社会情報研究所)
   篠田 陽一 (北陸先端科学技術大学院大学)

ディスカッションサマリ

モデレータ島岡氏より、本パネルディスカッションの主旨や全体の流れの説明、渡邉氏からのHypocrite Commits論文概説の後、Linux Foundation(柴田氏)、UWS(金岡先生)、MWS(秋山氏)それぞれのコミュニティの立場から今回の問題をどのように捉えているかご紹介いただきつつ、篠田先生も交えてディスカッションを行いました。
はじめに
島岡 政基 (セコムIS研究所) - 資料
Hypocrite Commits論文概説
渡邉 卓弥 (NTT 社会情報研究所) - 資料
Linux 開発コミュニティの現状
柴田 次一 (Linux Foundation) - 資料
Human Subject Researchとは
金岡 晃 (東邦大学) - 資料
参考資料「コミュニティに対する関連研究」
Hypocrite Commits論文から考える サイバーセキュリティ研究倫理
秋山 満昭 (NTT 社会情報研究所) - 資料
ディスカッション- 何が問題だったのか/どう振る舞うべきだったか

■コミッターの身元確認・レピュテーション

Linuxコミュニティではコミッターの身元確認を行うといったことは行っているか?(篠田先生)

コミッターの身元確認を行うことは現実的ではない。 オープンソースコミュニティは多くの開発者個人の集まりである。オープンソースを適切に開発していくにあたっては責任をもたせたり、規則で縛るのではなく、信頼関係を構築し、連携し、レビューしていくということが重要であると考えている。コントリビュータの身元確認を行うことは現実的にはコミュニティでは難しく、Linux Foundationで主導して行うことが検討されている。
もともと研究のためのコミュニティではないため、OSSを対象とする研究者には、コミュニティと一緒に課題に取り組む気持ちになってもらわないと協力は難しく、トラストも確立できないだろう。しかしながら、長期にわたりOSSを維持するためには、新しく人を受け入れていくことも重要であると考えている。(柴田氏)

コミッターのアイデンティティだけでなく、コミッターのレピュテーションを確立し、レビュープロセスに生かすことはあるか?(篠田先生)

コントリビュータのコミット統計を集め、ランキングしているほか、リーナス・トーバルズ氏他コミュニティメンバとの現実のコードレビューのプロセスの中でのコミュニケーションによって、徐々に中心メンバーになっていく流れがある。現実的な重要決定に関われるようになるにはコミュニティの中でのレピュテーションが重要である。これはルールとして定められるというよりは、コミュニティの中での自然な関係性の確立による。年数回のカンファレンスで、実際に顔を合わせることも含めて、日頃からのレビューや議論の中でトラストを確立していくという形になっている。
研究者にはぜひ、コミュニティの開発スタイルにあわせて提案することを心掛けて欲しい。 ステルスで研究して騙すようなことをされると、トラストを失う結果になるのではないかと考えている。(柴田氏)


■サイバーセキュリティ研究においては刮目すべき出来事であった

この出来事というのは、刮目・瞠目すべき出来事だったのでは無いかと考えている。従来から、OSSのセキュリティに関する研究はあったが、Hypocrite Commits論文は、研究プロセスとしても論文的にも優れており、脆弱性研究の教科書になり得るレベルのもの。一つ一つのプロセスを取り出して十分な吟味を重ねても価値があるものであるため、このような結果になったことは非常に残念である。(篠田先生)


■開発者へのリスペクト

とある産業コミュニティを対象にした研究のために、2年ほどコミュニティに参加して、積極的に会合にも出席することを続け、コミュニティにどのように役立つかを説得し、ようやく信頼を得て、インタビューやアンケートにお答えいただけるようになった経験がある。コミュニティを対象にした研究で、本質的な課題にアプローチするためには、最低でも1-2年腰を据えてじっくり行う必要がある。(秋山氏)


■研究者だけではなく、査読者もケーススタディを積み上げる必要がある

秋山さんが紹介されていたS&Pのパネルディスカッションで、Erin Kenneally氏(Menlo report作成者)から、「Menlo reportの理念」とその「実践」に乖離が生じているという意見があったが、ケーススタディを重ねていくのが良いという意見は良いと思う。また、論文執筆する研究者だけではなく、査読側もケーススタディを積み上げていくことが重要である。(金岡先生)


■まとめ

・コミュニティを対象とする研究では、研究者もコミュニティに参加し、コミュニティの一員として一緒に取り組んでいただくことが重要である。(柴田氏)

・ミネソタ大学の今回の事例を見て、こうした研究を怖いと感じた研究者も多いだろうが、萎縮するのではなく、むしろ、こうした議論があったということをバネに、セキュリティコミュニティが、外部のコミュニティなどに、どういう価値を与えて、どういう問題を解決していけるかを追求する方向に加速していければと考えている。CSSとしても、そういう議論を継続的に行っていきたい。(秋山氏)

・ヒューマンインタラクションとしても効果があることが認められる研究プロセスはある。論文執筆者、査読者ともに、こうしたほうがよかったといったケーススタディを積み重ねていけば、外部のコミュニティともリスペクトしながらやりとりすることができるようになるのではないか。(金岡先生)

・攻撃者目線で言うと、Linuxのようなオープンソースプロジェクトにおける大きなAttack Surfaceが露見する事態となった。既にプロダクトとして広く利用されているものへの攻撃手法が明らかになってしまったという意味でインパクトが大きい。この問題に対応していくには、(オープンソース)コミュニティとリサーチャーコミュニティの交流が欠かせない。研究者は今回の件を受けて尻込みし、問題を見つけても黙っていることにならないようにすることが重要である。
また、こうした脆弱性を発見するのは研究者だけではない。ホワイトハッカー、グレーハッカーに対して、どのように認識させていくのかということも課題である。(篠田先生)

・今後も色々なコミュニティと会話して、独りよがりにならないよう、この問題を踏まえた研究倫理の在り方について模索していきたい。(島岡氏)



















※これまでの活動は「サイバーセキュリティ研究における倫理的な研究プロセスについて」をご参照ください。

最終更新日: 2021年10月28日(木)
公開日: 2021年10月28日(木)