2019年3月8日
2019年3月8日
2019年3月8日（金）
ＡＩとセキュリティ
東京電機大学
総合研究所特命教授
兼サイバーセキュリティ研究所長
佐々木 良一
はじめに
機械学習を中心とする人工知能（Artificial Intelligence：AI）が各分野で注目を浴びており、AIとセキュリティ（安全性）の関係も非常に重要となってきている。AIとセキュリティの関係については次の4つの観点からの検討が必要であるということを私はいろいろなところで言っている。
(１) Attack using AI （AIを利用した攻撃）
(２) Attack by AI （AI自身による攻撃）
(３) Attack to AI （AIへの攻撃）
(４) Measure using AI （AIを利用したセキュリティ対策）
以下それぞれについて説明を加える。
（１）ＡＩを利用した攻撃
今後、AIを利用した不正者によるサイバー攻撃は増加してくると考えられる。特に、AI機能付きのマルウェアは近い将来、確実に誕生するだろう。今後は小さな種々のAI機能付きマルウェアが侵入し、協力しながら環境に最も適した攻撃をするようになっていくのではないかと考えている。少なくとも研究レベルでは、このような動きを考慮して今後の対策を考えておくことが大切となるだろう。
（２）AI自身による攻撃
AIが人間に及ぼす悪影響で最も大きな問題は人間を上回る能力を有するAIが誕生し将来的に人間が絶滅させられるではないかということである。
Googleの研究者のレイ・カールワイツは2045年にはAIの能力が、人間を超越するシンギュラリティが生じ、反乱すら起きるかもしれないとしている[1]。一方、多くのAI研究者は人間に対する反乱がおきる可能性は低く、過度の規制が逆にいろいろな問題を生じさせると考えている。私も大きな問題が発生する可能性は低いと思うが、人間がリスクに対する予測能力が低いのは3.11の原子力発電所の津波被害が想定外だったので経験済みである。引き続き状況をよく観察していく必要があると考えている。
（３）AIへの攻撃
AIのためのシステムへの攻撃による問題を考えておくことも必要である。システム内の情報を盗んだり改ざんしたりするような攻撃は他のシステムに対するものと同じである。しかし、訓練済みモデルの誤分類を誘発する攻撃や機械学習に対する偏った訓練データを意図的に与えるなどが原因で、不適切な判断をさせてしまう攻撃については固有の問題として検討しておく必要がある。
（４）AIを利用したセキュリティ対策
Google Scholarで「Cyber Security AND Artificial Intelligence」をキーワードとして検索すると2007年には1240件だったものが2017年には8210件と論文などの数が約6.6倍に増加していることがわかる。これらの調査やWEB上の製品紹介から、次のようなセキュリティ対策のためにすでにAIが使われていることが分かった。
・「マルウェアの検出」
・「ログの監視・解析」
・「継続的な認証」
・「トラフィックの監視・解析」
・「セキュリティ診断」
・「スパムの検知」
・「情報流出」など、
私たちも標的型攻撃用C&Cサーバの自動判別システムの開発[２]やルールベースシステムやベイジアンネットワークを利用した知的ネットワークフォレンジックシステムの開発[３]などにAIを利用してきた。その結果次のようなことが言える。
（ａ） AI、特に機械学習は適切に分類された大規模なデータセットを得ることが望ましいが、この分野では、他の異常系データと同様に大量のデータセットを入手するのは一般に困難である。したがってこれを入手する仕組みを確立することが実用的システム構築のカギとなる。
（ｂ） 特に、サイバー攻撃は時間とともに特性が変化することが多く、3か月に一度程度のモデルの継続的改良が必要となる。
（ｃ） サイバー攻撃がないにもかかわらずサイバー攻撃であるという誤アラート率は予想以上に小さくすることを要求されることが多い。したがって、誤アラート率が十分小さくならない場合は、誤アラートがあっても影響を十分小さくできるような仕組みと組み合わせる必要がある。
引き続きAIもセキュリティも重要なテーマであり上述した４つの観点から検討を続けていくことが大切であると考えられる。今後は、攻撃側と守備側に分かれてAI同士がお互いに戦い続けるようになっていくのだろうから。
参考文献
１） https://ja.wikipedia.org/wiki/人工知能 （2019年１月15日確認）
２） MASAHIRO KUYAMA, YOSHIO KAKIZAKI, RYOICHI SASAKI,” Method for detecting a malicious domain by using only well-known information” International Journal of Cyber-Security and Digital Forensics (IJCSDF) 5(4): 166-174
３） Ryoichi Sasaki et al.“ Development and Evaluation of Intelligent Network Forensic System LIFT Using Bayesian Network for Targeted Attack Detection and Prevention” International Journal of Cyber-Security and Digital Forensics (IJCSDF) 7(4): pp344-353, 2018
※記載内容は執筆者の知見を披露されているものであり、著作権は本人に帰属します。