AIによる攻撃と防御の両面を踏まえ運用を更新する
7つ 会社を守る実践 | 2つ 停止影響と最終点検の問い | 3点 記録・停止・復旧の確認 |
note原文公開:2026-11-16 / 転載・編集:2026-11-19
note原文を読む
- AIによる攻撃と防御の両面を踏まえ運用を更新する
- 継続的な点検と人の判断、復旧準備をつなぐ
- 七つの実践を経営と人材育成の仕事に落とし込む
〖記事概要〗
「世界を人質に取るAIは来るのか?」。少し刺激的な問いですが、私が考えたいのは、遠い未来の物語ではなく、今日の会社や暮らしをどう守るかという問題です。AIがシステムの弱点を探し、AIが防御を支え、攻撃する側もAIを使う。そうした環境では、「昨日まで大丈夫だった」という経験だけで明日の安全を判断できません。銀行、電気、水道、物流など、私たちはつながった仕組みの上で生活しています。一つの停止が、別の仕事や生活にも影響します。必要なのは、担当者の頑張りに頼り続けることではなく、継続的に点検し、異常に気づき、判断し、復旧できる運用を整えることです。生成AIを使う便利さと、使い続ける責任を一緒に考えながら、経営者と人材育成担当者が見直したい七つの実践を整理します。
〖本文〗
こんにちは、IT・DX教育サービスの株式会社サートプロ、近森満です。
今日は、AIとサイバーセキュリティについて、少し視座を上げて考えてみたいと思います。新しいAIが登場するたびに、文章が上手になった、コードを書くのが速くなった、といった話題に目が向きますよね。私も、実際に触ってみたくなります。しかし、同じ能力の向上が、システムの弱点を見つける側にも働くとしたらどうでしょうか。
便利になったと喜ぶ一方で、その便利さを支える仕組みを守る方法も変える必要があります。これはIT部門だけに任せて終わる話ではありません。経営、人材育成、業務の継続までつながっている話です。
AIが守り、AIが攻める。その前提で考える
サイバーセキュリティでは、システムやソフトウェアの弱点を「脆弱性」と呼びます。弱点を見つける能力は、守る側にとってはありがたいものです。問題を早く見つけられれば、被害が出る前に直せる可能性が高まります。
ただし、その能力が常に防御のためだけに使われるとは限りません。攻撃する側が弱点を探すことにも使われ得る。ここに難しさがあります。AIが高性能になれば、それだけで社会が安全になるという単純な話にはならないわけです。
Claude Mythosのようなサイバーセキュリティ能力をめぐる話題に接すると、私はこの両面を意識します。個別のモデルの提供条件や性能評価は変化するため、導入時には公式情報を確かめる必要があります。モデル名や数字だけで、自社の安全性を判断するのは避けたいところです。
大切なのは、AIの進化に合わせて、こちらの点検や運用の仕組みも更新しているかという問いです。新しい道具の名前を覚えるだけでは、現場の備えは変わりません。何を任せられるのか、どこに限界があるのか、結果を誰が確認するのかまで考えて、ようやく仕事の中で使えるものになります。
守る人の根性では、時間の差を埋められない
サッカーでも野球でも、攻める場面は目を引きます。新しい技を使い、相手の隙を探し、局面を変えていく。ビジネスでも、新しいことに挑戦する企業は注目されます。その一方で、守る仕事は、何も起きないこと自体が成果になるため、価値が見えにくいところがあります。
もちろん、スポーツと不正なサイバー攻撃は別の話です。ここで考えたいのは、攻める側と守る側では、時間の使い方や要求される対応が違うということです。攻撃の試行が自動化されれば、人が休んでいる時間にも弱点を探される可能性があります。
人間は、一日中ずっと同じ集中力で働けません。三日三晩、寝ずに監視しようというのは無理がありますよね。担当者の責任感が強いほど、ついその頑張りに頼ってしまいがちですが、それでは長く続きません。
だから私は、監視や情報の整理など、機械が支えられるところを使っていく必要があると考えています。夜間や休日にも異常を捉え、必要なときには人へつなぐ。人を休ませながら守れる仕組みを設計することが、経営の仕事になってきます。
ただ、通知が大量に届くだけでは、担当者はかえって疲れてしまいます。緊急度を分ける、対応先を決める、不要な通知を減らす。自動化の価値は、動かした回数ではなく、人が判断すべきところに集中できるかで見たいと思います。
「一度安全だった」は、明日の保証にならない
経営者の感覚として、「一度きちんと作ったのだから、そのままで大丈夫だろう」と思うことはあると思います。建物でも設備でも、完成したという区切りがありますからね。しかし、システムは周りの環境や接続先、使い方が変わり続けます。新しい弱点が見つかることもあります。
家にたとえるなら、玄関の鍵を強くしたからといって、裏口や窓まで確認したことにはなりません。侵入経路が変われば、必要な備えも変わります。さらに、水が入ってくる場合と、人が入ってくる場合では、確認する場所も違います。
企業のウェブサイトや業務アプリも同じです。公開時に問題が見つからなかったことと、その後も継続して安全を確認していることは、分けて考えたいところです。新しい機能を追加した、外部サービスにつないだ、管理担当者が変わった。そうした変化のたびに見直す点があります。
「うちは小さいから見つからないだろう」「今まで被害がないから大丈夫」。こうした気持ちは理解できますが、それだけでは点検を省く理由になりません。過去に問題が見えなかったとしても、今の状態を把握できているとは限らないからです。
安全を一度の判定で終わらせず、日々確かめる仕事として位置づける。そのマインドシフトが必要です。点検、修正、確認を続ける費用と時間も、システムを使うための費用に含めて考えることが大事だと思います。
AIで作る時代には、作った後の責任も増える
AIを使えば、これまで専門的な開発を依頼しなければ難しかった仕組みも、自分で試しやすくなります。小さな業務アプリや、情報をまとめる画面を作る。私にとっても、この変化はとても面白いものです。
一方で、「動いたから使おう」で終わってしまうと、その後の運用が抜け落ちます。誰がアクセスできるのか、どんなデータを保存するのか、外部へ何を送るのか、動かなくなったらどうするのか。使う範囲が広がるほど、確認することも増えます。
コードを書く工程にAIを使うのであれば、レビューや弱点の点検、修正案の整理にもAIを使う。その発想は自然だと思います。ただし、AIが「問題ありません」と答えたことだけで、安全を証明したことにはできません。見落としも、もっともらしい誤りもあり得ます。
生成AIのハルシネーションは、文章の間違いとしてだけでなく、診断や説明の誤りとしても意識しておきたいものです。検出した問題が本当に存在するのか。提案された修正で別の機能が壊れないか。こうした点を確かめる工程を省かないことが必要です。
エンジニアの役割も、単に作業がなくなるという見方では捉えきれません。業務上の重要性を判断する、設計を見直す、検証方法を決める、運用する人に説明する。AIが作業を支えるほど、その周囲の判断を担う人材の価値は大きくなると私は考えています。
守る対象は、データから暮らしの継続へ広がる
「世界を人質に取る」という表現で私が問いかけたいのは、生活の土台を外部の仕組みに大きく依存しているということです。AIが世界全体を支配したと断定したいわけではありません。銀行や物流、電気、水道などが利用できなくなったとき、自分の生活や会社に何が起こるかを考えたいのです。
例えば、銀行のサービスが止まれば、支払いや資金の移動に支障が出るかもしれません。物流が止まれば、商品や部品が届かなくなる可能性があります。電気や水道の停止は、仕事だけでなく日常生活にも直結します。
自社のパソコンが動いていても、取引先のシステムが止まれば仕事が進まないことがあります。逆に、自社の停止が顧客や取引先の仕事を止める場合もある。つながることで便利になった分だけ、そのつながりを通じて影響も広がるわけです。
ですから、対策を「ウイルス対策ソフトを入れたか」だけで終わらせるのは狭いと思います。どの仕事を優先して続けるか、止まったときにどう連絡するか、何を使って復旧するか。事業継続の視点まで広げたいところです。
これは不安を大きくするための話ではありません。依存先を具体的に挙げてみると、自分たちでできる備えも見えてきます。怖いという感想を、何を確認するかという行動に変えていくことが大切です。
経営と人材育成で始めたい、七つの実践
ここからは、こうした考えを自社の仕事へ持ち帰るための実践例です。特定の製品を入れることを先に決めるより、守る対象と運用を整理するところから始めたいと思います。
第一に、何が止まると困るのかを書き出す
自社のサイト、顧客管理、受発注、支払い、社内の連絡手段などを並べてみます。その上で、止まると誰にどんな影響が出るのかを確認します。システム名の一覧だけでなく、仕事との関係がわかるようにするのがポイントです。
技術担当者だけで決めず、実際に使う人にも聞いてみてください。小さな共有表が、ある部署にとっては業務の要になっているかもしれません。経営上の重要度と、現場での使われ方を合わせて見ることが、点検の優先順位につながります。
第二に、点検と更新の担当を決める
「気づいた人がやる」では、忙しいときほど後回しになります。誰が情報を確認し、誰が修正を判断し、誰が結果を見るのかを明確にします。外部に委託しているなら、何をどこまで任せているのかも確かめたいところです。
すべてを毎日手作業で調べる必要はありません。対象の重要度や変更の頻度に応じて確認方法を決め、自動化できる部分は取り入れる。その運用自体を、担当者が変わっても続けられる形にしておきます。
第三に、AIに渡す情報と権限を絞る
AIに診断を頼む前に、入力してよい情報を確かめます。業務のデータやコードには、外部へ出せない情報が含まれることもあります。便利だからと、何でもそのまま渡してよいわけではありません。
また、診断結果を読むことと、本番環境を変更することは別の権限です。最初から広い権限を渡さず、必要な範囲を決めて使います。自社の管理対象だけを、許可された方法で点検するという基本も守ります。
第四に、AIの提案を検証する工程を残す
AIの出力は、判断の材料として扱います。修正の必要性、影響範囲、確認方法を整理し、必要に応じて専門家に相談する。変更を加えるなら、戻せる準備とテストも一緒に考えます。
これはAIを信用しないという態度ではなく、仕事として使うための段取りです。人が作ったものでも確認するのと同じように、AIを使った結果も確認する。その手順があるほうが、現場は安心して試せるようになります。
第五に、夜間や休日の対応を決める
異常が見つかったとき、誰へ知らせるのか。いつまでに判断するのか。すぐに止める必要があるとき、誰が決められるのか。こうした連絡と判断の流れを、平常時に確認しておきます。
担当者一人を常に呼び出す仕組みでは、いずれ続かなくなります。自動監視、社内の分担、外部の支援などを組み合わせ、必要な対応が途切れないようにすることが大切です。
第六に、止まった場合の仕事を試しておく
システムが使えないと仮定して、顧客への連絡や受注の確認をどう続けるか考えます。バックアップがあるなら、復元できるかを確かめるところまで含めます。「保存してあるはず」と「戻せることを確認した」には差があります。
すべてを元どおりにするまで待つのではなく、優先する業務から再開する。その順番を現場と経営で共有できれば、混乱した状況での判断を支えられます。
第七に、学びを日常の判断へつなげる
研修を受けた回数だけで、人が育ったとは言い切れません。不審な連絡に気づく、迷ったら相談する、新しいツールを使う前に確認する。こうした行動が現場でできるかを見たいと思います。
人材育成担当者には、技術を学ぶ機会と、実際の業務で判断する練習をつないでほしいと思います。エンジニアには事業への影響を、経営者には技術の限界と運用上の課題を伝える。双方の言葉が通じる人を育てることも、リスキリングの大切なテーマです。
怖いから触らない、で止まらないために
AIが急速に変わると、怖いからこれ以上触らないでおこう、という気持ちにもなります。しかし、こちらが手を止めても、周りの環境は変わり続けます。理解しないまま放置することにもリスクがあります。
私は、身近な範囲で試し、確かめながら使う姿勢を大切にしたいと思っています。例えば、自社の管理下にある小さな仕組みについて、どんな確認が必要かをAIと整理してみる。それを専門家や担当者と検討する。いきなり全部を任せるのではなく、学びながら任せる範囲を決めていく方法です。
ここには、技術だけでなくマインドセットの更新も必要です。「作ったから完了」「担当者が見ているから安心」という考え方から、変化を前提に確かめ続ける考え方へ移る。私が大切にしているマインド・トランスフォーメーションも、こうした日々の判断に関係しています。
人や組織の変化を考える際の参考として、私の著書『マインド・トランスフォーメーション AI時代の思考革命: AI時代に必要な人間OSのアップデート』も、必要に応じて手に取っていただければと思います。
さいごに:強くなるAIに合わせて、私たちも変わる
私が一番気になるのは、AIの能力が上がっているのに、組織の考え方や運用が変わらないことです。人間だけで全部を見張る前提にも、AIに任せれば全部安心という前提にも、無理があります。
AIを使いながら、人が判断する場所を明確にする。日々の点検と、止まったときの備えをつなぐ。技術の問題を、仕事と暮らしを続けるための問題として考える。私は、そこからデジタル社会の生存設計が始まると思っています。
読者の皆さんの組織では、何が止まると一番困るでしょうか。そして、その仕組みを最後に点検したのはいつでしょうか。まずは、この二つを確かめてみませんか。
DX推進や生成AIの活用、人材育成の進め方でお悩みでしたら、初回無料の「DX推進人材教育プログラム」コンサルティングもご活用ください。便利な技術を、安心して使い続けられる仕事へつなげていきましょう。
〖重要なキーワード解説〗
脆弱性
ソフトウェアやシステムにある、安全上の弱点を指します。プログラムの不具合だけでなく、設定や運用の問題が関係する場合もあります。弱点を発見したことと、実際に被害が出たことは同じではありません。影響を確かめ、優先順位をつけて対応することが必要です。一度確認して終わりにせず、機能の追加や利用環境の変化、新たな情報に合わせて見直していくことが大切です。AIの診断結果も、その判断材料の一つとして扱います。
AIエージェント
与えられた目的に向けて、情報を集め、手順を組み立て、ツールを使うなどの処理を進めるAIの仕組みです。監視や情報整理を支援できる一方、渡す権限が広いほど、誤りが及ぼす範囲も大きくなる可能性があります。どこまで自動で進め、どこで人に確認するかを決める必要があります。導入時には、機能の多さだけでなく、記録を確認できるか、止められるか、失敗から戻せるかも合わせて考えたいところです。
事業継続とマインド・トランスフォーメーション
事業継続は、障害や被害が起きても重要な業務を続け、必要なサービスを復旧していくための考え方です。その準備には、技術とともに組織の判断の仕方も関わります。「今まで大丈夫だった」から「変化を確かめ、備えを更新する」へ。こうしたマインド・トランスフォーメーションを、担当者だけでなく経営者や現場と共有することが重要です。人材育成も、知識の習得と、業務で使う判断力を一緒に育てる取り組みとして考えます。
〖著者紹介〗
■株式会社サートプロ 代表取締役CEO
近森 満(ちかもり みつる)
■所属・役職
・IoT検定制度委員会 事務局長(IoT検定、+DX認定、超知性ASI検定)
・一般社団法人 IT職業能力支援機構 理事長(Android資格)
・電気・電子系技術者育成協議会 副理事長(E検定)
・組込みソフトウェア管理者技術者育成研究会 メンバー(組込み)
・ET教育フォーラム合同会社 代表(コンテンツ制作)
・経済産業省 地方版IoT推進ラボ ビジネス創出事業メンター(IoT支援)
・経済産業省 地域DX推進ラボ ビジネス創出事業メンター(DX支援)
・デジタル庁 デジタル推進委員(デジタル化支援)
・DX事業共同組合 設立理事(DX推進)
・一般社団法人日本サステナブルビジネス機構 幹事(SDGs認証)
・“一億総活躍社会を実現する”共生日本協議会 理事(DEI支援)
・アジャイル開発技術者検定試験コンソーシアム 事務局長(Agile検定)
・一般社団法人国際サイバーセキュリティ協会 事務局長(IACS認定)
〖音声配信〗
DX企画書のネタ帳:AX時代のマインド・トランスフォーメーション(MX)では、DX推進、生成AI、AIエージェント、人材育成、リスキリング、経営について毎朝お届けしています。
#AIセキュリティ #サイバーセキュリティ #生成AI #AIエージェント #脆弱性対策 #事業継続 #DX推進 #人材育成 #リスキリング #マインドトランスフォーメーション
よくあるご質問
AIの診断は判断材料の一つです。問題の実在や修正の影響を、人の検証とテストで確かめます。
自社の管理対象を、許可された方法と必要な権限の範囲で点検します。
自動監視、社内分担、外部支援を組み合わせ、必要な連絡と判断が途切れない仕組みを考えます。
保存の有無に加え、実際に復元できることと、優先業務から再開する順番を確認します。
何が止まると困るか、最後にいつ点検したかを、経営と現場で確かめます。
自社の課題に合わせたDX・AI活用、人材育成についてご相談ください。
お問い合わせ
