真夏の怪談というと、普通は背筋が冷える話を想像します。けれども、いま私が本当に怖いと思っているのは、生成AIやインターネットが日常になったことで、サイバー犯罪があまりにも身近になっていることです。専門家だけが扱っていたような攻撃の入り口が、パソコンとスマートフォンとAIによって、普通の生活のすぐそばまで来ています。

これは企業の情報システム部門だけの話ではありません。家庭にも、学校にも、地域の団体にも、中小企業にも、大企業にも関係します。DX推進やデジタル・トランスフォーメーションを進めるほど、私たちはリアルな世界だけでなく、バーチャルな世界にも活動の重心を置くようになります。その割合が増えるほど、守るべき場所も増えていくのです。

今回の話で大事なのは、怖がって終わることではありません。生成AIを使うな、インターネットから離れろという話でもありません。むしろ逆です。AIやデジタルを使うことが当たり前になるからこそ、セキュリティ教育、リスク感度、相談できる体制をセットで持たなければならない、ということです。

今回取り上げた大きな論点の一つは、中高生によるサイバー犯罪です。説明欄で紹介したオルタナの記事でも、生成AIの悪用を含め、企業リスクが一段と高まっていることが扱われています。バンダイチャンネル関連の不正アクセスや、インターネットカフェ運営会社への不正アクセスなど、若い世代が関与したとされる事件が報じられています。

もちろん、若いから悪いという単純な話ではありません。むしろ、そこが難しいところです。子どもや若者の中には、プログラミングやネットワークに強い興味を持ち、独学でどんどん学ぶ人がいます。昔でいえば、アマチュア無線や電子工作にのめり込むような感覚に近いかもしれません。興味があること自体は、本来すばらしいことです。

ただ、その興味の向き先を間違えると、本人も、家族も、企業も、社会も大きなダメージを受けます。悪意だけでなく、興味本位、腕試し、集団心理、軽いノリで一線を越えてしまうことがある。そこに生成AIが加わると、コードの作成、手口の調査、文章の生成、偽装の精度が上がってしまう可能性があります。

ここで厳しいのは、攻撃した側だけでなく、攻撃された側にも問いが向くことです。もちろん、悪いことをした人が悪い。それは当然です。しかし、個人情報を扱うサイトや会員サービスに、中高生でも入れてしまうような弱さがあったとしたら、運営者としては「セキュリティが甘かった」と見られてしまいます。

DX推進は、業務を便利にすることだけではありません。データを集め、クラウドを使い、顧客接点をオンライン化するほど、責任も増えます。デジタル人材に必要なスキルセットには、AI活用、データ活用、業務設計だけでなく、セキュリティ、個人情報保護、リスク判断、インシデント対応が入ってきます。

「うちは小さい会社だから狙われない」という考え方も、もう通用しにくくなっています。攻撃者が一社一社を丁寧に選んでいるとは限りません。大量に送る、大量に試す、偶然引っかかったところを狙う。そういう攻撃がある以上、規模に関係なく最低限の守りは必要です。

もう一つ、身近な怖さとしてフィッシングメールがあります。アメリカン・エキスプレスを名乗るポイント失効メール、三井住友カードを装うメール、LINEへの連絡統一を装うメール、DNS設定の変更を促すメール。こうしたものは、昔よりかなり巧妙になっています。HTMLメールとして見た目が整っていて、ぱっと見ただけでは本物に見えてしまうものもあります。

実際、メールアドレスを見ればおかしいと分かるケースも多いです。けれども、人はいつも冷静にメールアドレスを確認しているわけではありません。忙しい朝、移動中、締切前、経理処理の途中、名前だけ見て反応してしまうことがあります。しかも、社長や理事長など、身近な権威者の名前を使われると、心理的に動かされやすくなります。

説明欄にあるSS1ラボの記事でも、生成AIによる悪用リスクと対策が整理されています。生成AIが文章を自然にし、ターゲットに合わせた文面を作れるようになると、フィッシングはさらに見分けにくくなります。だからこそ、見た目ではなく、送信元、URL、依頼内容、普段の業務フローとの整合性を見る必要があります。

今回の話では、IPA、情報処理推進機構が出しているサイバーセキュリティの脅威情報にも触れました。毎年、組織や個人が注意すべき脅威が整理され、順位として示されています。その中で、AI利用をめぐるサイバーリスクが上位に入ってきていることは、かなり重要なサインです。

生成AIは、善意の人にとって便利な道具です。同時に、悪意のある人にとっても便利な道具になり得ます。フィッシング文面を自然にする、攻撃コードのたたき台を作る、脆弱性情報を調べる、なりすましの文章を整える。もちろんAIだけで何でもできるわけではありませんが、入口のハードルを下げることはあります。

ここで必要なのは、AIを禁止する発想ではなく、AIを使う前提で守りを作る発想です。社員がAIを使う。学生がAIを使う。取引先もAIを使う。攻撃者もAIを使う。その前提で、組織のルール、教育、監視、相談先、復旧手順を整えていく必要があります。

子どもに対して「警察に捕まるよ」と伝える話も出ました。小さい子には、分かりやすい言葉で危険を伝える必要がある場面もあります。ただし、脅せばよいという話ではありません。大事なのは、何をすると違法になるのか、なぜ人に迷惑をかけるのか、どんな結果が自分や家族に返ってくるのかを、現実として教えることです。

会社でも同じです。セキュリティ研修を、年に一回の形式的なeラーニングで終わらせてはいけません。実際に届く怪しいメール、実際に使っているSaaS、実際に社員が触る生成AI、実際に共有しているファイル。現場に即した題材で、判断する練習をする必要があります。

人や組織の変化で詰まったときの参考図書として、私の著書『マインド・トランスフォーメーション AI時代の思考革命: AI時代に必要な人間OSのアップデート』も、必要に応じて手に取っていただければと思います。AI時代に必要なのは、ツールを覚えることだけではなく、危険を見抜き、自分の判断を疑い、学び直すマインドだからです。

DX人材育成にセキュリティを組み込む

技術人事や人材育成を担う方にとって、今回のテーマは避けて通れません。生成AI研修、リスキリング、デジタル人材育成、キャリアパス設計を進めるなら、そこにセキュリティとリスク判断を組み込む必要があります。AIを使える人を増やすだけでは足りません。安全に使える人、危ない出力を見抜ける人、怪しい依頼を止められる人を増やす必要があります。

たとえば、AIエージェントを使って業務を自動化する場合、出力が正しいか、個人情報を含んでいないか、外部に出してよい情報か、ハルシネーションがないかを確認する手順が必要です。Agentic AIの活用が進むほど、権限管理や承認フローも重要になります。便利さと統制は、セットで設計しなければなりません。

デジタル３兄弟とマインド３姉妹という視点で見ると、セキュリティは技術だけでは完結しません。マインドセット、マインドシフト、マインドチェンジがなければ、どれだけ高価なツールを入れても、人の油断から事故は起きます。マインド・トランスフォーメーションは、DX推進の土台でもあり、サイバーリスク対策の土台でもあります。

被害にあった後のリスクヘッジも知っておく

もしクレジットカード情報を入力してしまったら、すぐカード会社に連絡する。身に覚えのない引き落としがあれば、相談して手続きをする。パスワードを入力してしまったら、すぐ変更し、同じパスワードを使っているサービスも確認する。二要素認証を設定し、必要なら管理者や専門家に相談する。こうした「事後の動き」を知っておくことも、リスクヘッジです。

被害にあったときに一番よくないのは、恥ずかしいから隠すことです。企業では特に、早く報告すれば被害を小さくできる可能性があります。逆に、報告が遅れると、アカウント乗っ取り、情報漏えい、取引先への被害拡大につながります。だから、叱る文化より、早く言える文化のほうが強いのです。

パスワードの使い回しも、改めて見直したいところです。Chromeなどのブラウザが「使い回しがあります」と教えてくれることもありますが、百件単位で出てくると、正直なところ面倒です。それでも、重要なサービスから順番に変えていく。二要素認証を入れる。不要なアカウントを整理する。地味ですが、ここが現実的な防御になります。

まとめ：AIを使う力と、AI時代に守る力はセットです

生成AI時代の真夏の怪談は、遠くの怖い話ではありません。中高生がAIを使ってサイバー攻撃に関わる。経営者や理事長の名前を使った詐欺メールが届く。本物そっくりのHTMLメールがすり抜けてくる。AI利用をめぐるサイバーリスクが主要な脅威として扱われる。これらは、いまの社会で起きている現実です。

だからこそ、AIを使う力と、AI時代に守る力をセットで育てる必要があります。DX推進、人材育成・教育支援、研修講座・eラーニング、リスキリング、キャリアパス設計の中に、セキュリティとマインド・トランスフォーメーションを入れる。これが、これからのデジタル人材育成では欠かせません。

「社員のDXマインドをどう高めるか？」、「実践的なITスキル教育が進まない」など、DX推進担当者の育成やIT教育研修でお悩みでしたら、ぜひ一度お聞かせください。初回無料のDX推進人材教育プログラムコンサルティングにご応募いただければ、あなたの組織の課題解決にお役に立てると思います。

本日の内容が、あなたの「シンギュラリティ時代への準備」に向けた、わずかながらでも気づきや次の一歩のヒントになれたなら幸いです。AGI（Artificial General Intelligence）やASI（Artificial Super Intelligence）が当たり前になる未来に向けて、便利さだけでなく、守る力も一緒にアップデートしていきましょう。

近森満（ちかもり みつる） 株式会社サートプロ 代表取締役CEO ／ DXコンサルタント／IT人材育成／検定事業化 IT技術者の教育支援と人材育成を専門とする事業化コンサルタントとして、2006年に株式会社サートプロを創業し、IoT検定・＋DX認定・アジャイル検定などの資格制度を創出。独自の技術者向け教育研修の開発に定評があり、実践的なスキル向上を支援。経済産業省DX推進ラボおよびIoT推進ラボのメンターとして自治体や中小企業のDX推進を支援。近年は超知性ASIスキル可視化にも取り組み、次世代技術の普及に注力している。

■所属・役職
・IoT検定制度委員会 事務局長（IoT検定、＋DX認定、超知性ASI検定）
・一般社団法人 IT職業能力支援機構 理事長（Android資格）
・電気・電子系技術者育成協議会 副理事長（E検定）
・組込みソフトウェア管理者技術者育成研究会 メンバー（組込み）
・ET教育フォーラム合同会社 代表（コンテンツ制作）
・経済産業省 地方版IoT推進ラボ ビジネス創出事業メンター（IoT支援）
・経済産業省 地域DX推進ラボ ビジネス創出事業メンター（DX支援）
・デジタル庁 デジタル推進委員（デジタル化支援）
・DX事業共同組合 設立理事（DX推進）
・一般社団法人日本サステナブルビジネス機構 幹事（SDGs認証）
・”一億総活躍社会を実現する”共生日本協議会 理事（DEI支援）
・アジャイル開発技術者検定試験コンソーシアム 事務局長（Agile検定）
・一般社団法人国際サイバーセキュリティ協会 事務局長（IACS認定）

X (Twitter)

Facebook

YouTube

note