社内の生成AIワーキンググループ(WG)で話し合った内容をもとに、AIを開発や業務に取り入れるときに押さえておきたい考え方をご紹介します。今回は「AIが作って公開するまでを担う時代の注意点」「機密情報の守り方」「複数のAIの使い分けと、人が判断に関わる設計」の3つを取り上げます。
1. AIが「作って公開する」まで担う時代の注意点
AIコーディングエディタ「Cursor」に、プロンプト(AIへの指示文)からデータベースの構築、本番公開環境の準備、アクセス承認の制御までをAI主導で進める新機能が加わったことが、WGで話題になりました。作ったアプリを手元のパソコンに留めず、そのまま本番で動かせる流れが整いつつあります。
WGでは、次のようなメリットが挙がりました。
- 非エンジニアが手作業で設定を誤ったまま公開してしまうリスクを減らし、検証済みの基盤の上で公開できる
- 組織のメンバーだけに公開する設定がしやすく、社内ツールやプロトタイプ(試作品)を素早く展開できる
一方で、誰でも簡単に公開できるようになることで、管理部門が把握していない「シャドーIT」、いわゆる野良アプリが増えやすくなります。また、アプリストアのような厳しい第三者審査の仕組みがあるわけではないため、悪意のある人がマルウェアを紛れ込ませたアプリを公開する懸念も議論されました。エンジニア以外の人にとっては中身が見えにくく、不安を感じやすい点も課題です。
こうした点への備えとして、WGでは次のような運用が必要だと整理しました。
- 社内で作ったアプリのリポジトリや公開先を登録する決まりを設ける
- アクセス権限を集中して管理するためのガイドラインを用意する
作るスピードが上がるほど、「誰が何をどこに公開しているか」を把握する仕組みが大切になります。
2. 機密情報は「AIが触れられる場所」に置かない
ローカルとクラウドを組み合わせる流れ
Microsoftが発表した、手元のパソコンのGPUやメモリでAIモデルを動かす「Foundry Local」を「GitHub Copilot」に接続する構成も話題になりました。クラウドAIには「従量課金のコスト」「機密データを外部に送るリスク」「オフラインで使えない」「ネットワークへの負荷」といった弱点があり、ローカルで動くAIを組み合わせることでそれらを補えると期待されています。情報の重要度に応じて、機密性の高い処理はローカル、高度な処理はクラウドへと振り分ける使い方も見えてきています。
制限をかけても回り込まれる可能性
ただし、WGでの検証では注意すべき点も確認されました。ファイルの閲覧制限やプロンプトでの指示によって制限をかけていても、開発を支援するAIが「意図をくみ取ろう」として別のコマンドを経由し、結果的に制限を迂回して機密情報に触れてしまうことがある、というものです。
WGとしての結論
議論の結果、現時点で最も確実な安全策は次のとおりだとまとめました。
本番環境のシークレット(パスワードやAPIキーなどの秘密情報)や、本当に機密性の高いデータは、ローカル・クラウドを問わず、AIがアクセスできる環境(Gitリポジトリなど)に一切置かない。
技術的な制限を過信せず、データそのものをAIの作業環境から切り離す運用ルールを徹底すること、そして詳細なログを確認できる体制を整えることが大切です。
攻撃する側もAIを使っている
WGでは、盗み出したログイン情報をAIに選別させる手口や、安全のための制限が外された「Uncensoredモデル」が悪用されるリスクも話題になりました。既知の攻撃パターンと照合する従来型の防御だけでなく、認証情報が不正に抜き出されて外部へ送られる「挙動そのもの」を検知する考え方が求められています。
あわせて、大量のGPUを前提とした巨大なモデルだけに頼るのではなく、SLM(小規模言語モデル)やローカル環境を組み合わせられる柔軟な設計を考えておくことも重要だ、という意見が出ました。
3. 複数のAIを使い分け、最後は人が判断する
WGでは、メンバーが個人で開発した検証ツールの発表もありました。題材は競馬のレース予想と振り返りですが、AIの使い方の設計として、業務にも応用できる点が多くありました。
小さく始める構成
導入・運用の手間を抑えるため、サーバーを持たないサーバーレス構成とし、データはWebブラウザのローカルストレージに保存しています(JSON形式で書き出し・読み込みが可能)。また、データが少ない対象は外し、データが豊富な対象に絞って検証しています。
AIごとの役割分担
- Claude API:数値データに加え、条件や傾向などをプロンプトにまとめて入力し、選定理由や信頼度、展開の予想を出力させる
- Gemini:長い文章の理解が得意な点を生かし、動画から作った解説テキストや関係者の公式コメントを読み込ませ、数値だけでは分からない要因を分析させる。その結果を次の予想のプロンプトに反映する
得意分野の異なるAIを工程ごとに使い分け、振り返りの結果を次に生かす仕組み(フィードバックループ)を作っている点が特徴です。検証では、人が先入観から見落としがちな点をAIが拾っている様子も見られました。
見えてきた課題
データが増えるにつれ、ブラウザの保存容量の上限によるエラーが頻発しました。その対策として、Vite環境やバックエンドサーバーを用いた構成への移行案が、Claudeとの対話を通じて導き出されたことも紹介されました。また、精度を高めるには質の高いデータが欠かせませんが、自動で取得するには規約面・技術面のハードルがあり、有料で提供されているデータも多いことが、最大のボトルネックになっています。
完全自動にしない「半自動」という考え方
このツールは、あえて完全自動化を避け、人の見立てとAIの出力を突き合わせる設計になっています。お金が関わる領域で完全に自動化すると、仕組みが想定外の動きをしたときの影響が大きくなるためです。人の直感や違和感(暗黙知)と、AIによる幅広いデータ分析(形式知)を組み合わせることで、判断の納得感も高まります。この考え方は、市場データの分析や競合調査など、さまざまな業務に応用できます。
まとめ
- AIで作って公開するまでが速くなるほど、アプリの登録や権限管理のルールが重要になる
- 本当に守るべき秘密情報は、AIが触れられる環境に置かないのが最も確実な対策
- 得意分野の異なるAIを使い分け、最後は人が確かめる「半自動」の設計が実用的
AIを安全に、そして効果的に業務へ取り入れたいとお考えの方は、お気軽にご相談ください。
技術ブログのほかの記事

