セキュリティ
AIを悪用したサイバー攻撃のリスクと対策
AI（人工知能）が普及期に入った現在、AIによる脅威が現実のものになりつつあります。その端的な例が、AI技術を悪用したサイバー攻撃です。企業はこの新しい脅威に備えなくてはなりません。AIを悪用したサイバー攻撃のリスクと、今、企業が取り得る対策について考えます。
AIを悪用したサイバー攻撃とは
画像認識や音声認識、自動翻訳サービス、ビッグデータ解析、オペレーションサポート、さらには車の自動運転や医療診断などの分野で導入、開発、活用が進んでいるAI技術。AIはさまざまな情報を認識して理解し、データとして分析し、学習を繰り返しながら制御や誘導、最適化ができるといわれています。
そして、こうしたAI技術を悪用したサイバー攻撃が現実化しつつあります。ごく近い将来、サイバー攻撃ツールへのAI機能の組み込みが進み、既存のセキュリティを突破するようになると予測されています。
例えば、AI技術を用いればシステムの脆弱性を発見するのも容易になると考えられます。システムやソフトウェアの脆弱生・不具合を発見する手法として、予測不可能な入力データ（ファズ）を与えることで意図的に例外を発生させ、挙動を確認するファジングと呼ばれる手法がよく知られています。このファジングをAIが行えば、高度な技術や専門知識がなくても脆弱性を見つけられるようになり、悪用することで、さらにそこから最適化された攻撃方法を組み立てられるようになることが危惧されます。
また機械学習アルゴリズムなどを使って通常のユーザー（人間）のふるまいを模倣すれば、セキュリティ側がそれを機械的な攻撃だと見破ることが困難になるともいわれています。実際にログインの際の画像認識によるチューリングテストなどは、AI技術によって簡単に突破できる可能性が指摘されています。
AI悪用によるサイバー攻撃のリスクと対策
いずれにしても、AIによる攻撃はかつてない脅威となることが予想されます。これまで悪意ある攻撃方法の開発と実装・実践は、たとえ技術的には可能でも、時間やコストがかかるために断念されてきた側面もあったはずです。しかしAI技術を悪用すれば、時間とコストと労力を大幅に圧縮・削減できる可能性があります。そのことによってサイバー攻撃は、現在よりももっと日常的なリスクとなっていくでしょう。
では、AIを利用したサイバー攻撃を防ぐ方法について考えてみましょう。現状のままのセキュリティ対策で対応しているうちは、AI機能を駆使した攻撃に対して常に後手を踏むことになると予測され、完全に防ぐことは困難と言わざるを得ません。
解決法として期待されているのはAIを搭載したセキュリティシステムの開発です。AI対AIという構図になれば、攻撃側の優位点を同様の技術で抑え込むことができるかもしれません。試行錯誤を繰り返しながら学習し、圧倒的なスピード感でシステムに侵入してくるAIに対抗できるのは、分析し学習しながら最適な対応策を講じていくAIだけである可能性が高いでしょう。
AIを狙ったサイバー攻撃にも注意が必要
一方で、AIを狙ったサイバー攻撃にも注意を払う必要が出てきています。これはここまでの話とはまた異なる、AIが持つ特性を突いた攻撃のことです。
例えばAIに間違ったデータを与えれば、AIは間違った学習を行い、間違った分析結果や解答をアウトプットします。これはつまり、学習するためのデータを攻撃することでAIに誤作動を起こさせることも可能ということです。このような事態を防ぐには、AIに学習させるためのデータに改変が加えられていないかをチェックし、データを守るようなセキュリティを強化するしかありません。
AIは今後、社会のあらゆる分野で活用されていくことになります。ビジネスの中核を担い、インフラの安全性を支える役割を果たすようになるでしょう。そのAIがサイバー攻撃によって誤作動を起こすようになることは、企業や社会そのものに致命的なダメージを与えることになりかねません。
企業は新しいセキュリティ脅威にどのように向き合うべきか
このような状況下で今後、企業に求められるのは、AI技術を悪用した新しいセキュリティ脅威について、まずは正しく認識し危機感を持つことです。AI技術を使ってサイバー攻撃を行う者とセキュリティ開発に携わる人たちの攻防はまだ始まったばかりです。新しいステージへの移行が始まっている現在、その動向に常に注意を向けておく必要があります。
その上で、自社のシステムや情報を守るために常に最新のセキュリティ環境を保ち、次世代のセキュリティ技術を導入する準備を整えておくべきでしょう。「警戒を怠らないこと」が、今のところできる最も重要な対策だといえます。
AIを悪用したサイバー攻撃は今後、確実に増えていくと考えられます。その際、まず狙われるのは警戒の甘いシステムです。端境期にあたる今、企業は自社のセキュリティ強化への取り組みを今一度見直しておく必要があるのではないでしょうか。