MONTHLY_AI / SYS_OK / 2026.09
月刊AI
ANALYSIS / 分析 — VOL.06

届け方の
分水嶺は「信頼」

顧客接点にAIを入れた瞬間、企業は開示の判断を迫られる。何を告げ、何を告げなくてよいのか——公的ガイドラインとリスク枠組みから、中小企業が使える線引きを引き出す

樫山 隆一 / RYUICHI KASHIYAMA 2026年9月号 ガイドライン分析 ANALYSIS / DEEP DIVE
ガイドライン文書と手書きの検討メモ
開示と責任の線引きを検討する(2026年7月)
TRUST MATRIX — AI INVOLVEMENT × DISCLOSURE AI INVOLVEMENT / AIの関与度 → DISCLOSURE TO CUSTOMER / 顧客への開示度 → ZONE A — 開示不要域 社内の下書き・要約・整理 ・議事録の要約、社内向け資料の下書き ・人が全面的に書き直して送る文面 ・過去案件の分類・検索 最終成果物に人間の判断が全面的に介在 ZONE B — 過剰開示域 言う必要のないことを言う ・全メールに「AI使用」と機械的に付記 ・関与の薄い工程まで逐一告知 ・免責文の乱発 かえって責任の所在を曖昧にする ZONE C — 危険域 / DANGER 人が答えているように装う ・自動応答に人格・担当者名を与える ・AI生成の金額・納期をそのまま送る ・確認していない仕様を断言する 露見時に失う信頼 > 得た効率 ZONE D — 設計域 / TARGET 名乗った上で、速く返す ・自動応答であることを最初に明示 ・人に切り替わる条件と経路を示す ・金額・納期は人が確定して送る 速度と信頼が両立する唯一の象限 ZONE A から ZONE D へ移行する。ZONE C を経由しない。
図3 — 顧客接点における「AI関与度 × 開示度」マトリクス(月刊AI 編集部作成 / AI事業者ガイドライン第1.1版およびNIST AI RMF 1.0の考え方に基づく)
今号との接続 巻頭特集は「届け方を作り替えれば売上が動く」と論じ、現場ルポはそれを90日で実行した会社を追った。だが顧客接点にAIを入れることには、社内業務にはない固有のリスクがある。相手が顧客だからだ。本稿はその線引きを扱う。

社内の効率化でAIが失敗しても、被害は社内で完結する。顧客接点では違う。誤った納期を送れば取引を失い、自動応答を人間だと偽れば、露見した瞬間に長年の信用が消える。届け方の再設計は、速度の話であると同時に、開示と責任の設計の話である。

01公的ガイドラインが求めているのは「人間の介在」

総務省・経済産業省は2025年3月28日、「AI事業者ガイドライン(第1.1版)」を公表した。第1.0版(2024年7月)からの改訂では、生成AIに関する記載が拡充され、「バイアス」「多様性・包摂性」「透明性」といったAIガバナンス上の重要語の定義や表現が見直されている。

実務者にとって重要なのは、同ガイドラインが繰り返し求める姿勢だ。AIの出力結果が公平性を欠くことがないよう、AIに単独で判断させるだけでなく、適切なタイミングで人間の判断を介在させる利用を検討した上で、潜在的なバイアス等に留意すること。そして、透明性の支援と法的枠組みの遵守を合理的な範囲で適切に実施すること。

ここで注意すべきは、「適切なタイミング」という言葉だ。ガイドラインは全工程に人間を挟めとは言っていない。どの工程が判断で、どの工程が作業かを事業者自身が切り分け、判断の工程に人間を置け、と言っている。この切り分けこそが、中小企業が自分で決めなければならない設計事項である。

02NIST AI RMFの「文脈」という補助線

米国国立標準技術研究所(NIST)が2023年に公開した「AI Risk Management Framework(AI RMF 1.0)」は、AIリスクを技術特性だけでなく利用文脈(context of use)から評価することを基本に据えている。同じモデル、同じ精度でも、使われる場面が変われば許容できるリスクは変わる、という考え方だ。

この補助線は顧客接点の設計に直接使える。たとえば「AIが生成した文章をそのまま送る」という同一の行為でも、送る内容によってリスクは全く異なる。営業時間の案内なら誤りが起きても訂正が効く。工事金額なら訂正は信用を削る。納期の断言なら、契約上の争いになりうる。行為ではなく、内容の可逆性でリスクを分類する——これがNIST的な整理である。

可逆/低リスク 営業時間、所在地、対応エリア、一般的な工程説明。誤っても訂正で回復できる。
半可逆/中リスク 概算感、過去事例の傾向、推奨案。断定を避ける表現の設計が要る。
不可逆/高リスク 金額、納期、可否の断言、契約条件。人間が確定するまで送らない。

034象限が示す、通ってはいけない道

図3のマトリクスは、AIの関与度を縦軸に、顧客への開示度を横軸に取ったものだ。多くの中小企業は左下のZONE A——社内の下書きや要約にAIを使い、最終的な文面は人が書き直す——から出発する。ここは開示の必要がほとんどない安全域である。

問題は、そこから右上のZONE D(自動応答であることを明示した上で、速く返す)へ向かうときの経路だ。関与度だけを上げて開示度を上げないと、左上のZONE Cに入る。自動応答に担当者名を与える、AIが生成した金額をそのまま送る、確認していない仕様を断言する——効率は最も高く、そして最も脆い象限である。

一方、右下のZONE Bは一見安全に見えるが、別の問題を抱える。すべてのメールに機械的に「AI使用」と付記し、免責文を乱発する運用は、誠実さの表明のようでいて、実際には責任の所在を曖昧にする。読み手は誰の判断で送られた文書なのか分からなくなる。開示は多ければよいものではなく、何について誰が責任を持つかを明確にするための手段だ。

開示の目的は、免責ではない。「この一文は誰が保証しているか」を読み手に伝えることである。

04顧客データをどこまで渡すか、という別軸

もう一つ、開示とは別に判断が要る論点がある。顧客の情報をどこまで外部のAIサービスに渡すか、である。過去のやり取りを文脈として渡すことは届け方の再設計の核心にあるが、そこには個人情報が含まれる。

実務上、中小企業が取れる現実的な方針は三段階に整理できる。第一に、識別情報を外す——氏名・住所・電話番号・口座情報を伏せ字や記号に置き換えてから渡す。第二に、入力データが学習に使われない契約形態を選ぶ——事業者向けプランの利用規約でこれを確認する。第三に、渡してよい範囲を文書化する——担当者ごとの判断に委ねず、社内ルールとして一枚にまとめる。

この三段階は特別なことではないが、実行している中小企業は多くない。理由は明快で、誰も決めていないからだ。AI事業者ガイドラインが求めるガバナンスとは、大企業のような専門組織を作ることではなく、この種の判断を経営者が明示的に下し、記録に残すことを指している。

05「信頼の速度差」という競争優位

最後に、防御の話ではなく攻めの話をしておきたい。マッキンゼーの2026年調査は、AIによる売上増が最も多く報告される機能がマーケティングと販売であることを示す一方、全社の営業利益への貢献を報告した企業は37%で前年から横ばいだったことも示している。導入の広がりが成果に直結していない。

この差を生むのは、同調査が繰り返し指摘するワークフローの根本的な再設計だ。成果を出している上位層(回答者の約6%)のうち約4分の3が業務プロセスを作り替えたと答えたのに対し、その他は約4分の1にとどまる。顧客接点における「再設計」とは、速く返すための仕組みと、何を人が保証するかのルールを、同時に作ることを意味する。

そして中小企業には、この点で構造的な有利がある。判断の線引きを決める人間と、実際に顧客に返信する人間の距離が短い。大企業では法務・情報システム・営業・広報の合意形成に数か月かかることが、30人の会社では社長が一枚の紙に書けば終わる。信頼の設計を速く回せること——それ自体が、届け方の競争における中小企業の武器である。

SOURCES / 出典
  1. 総務省・経済産業省「AI事業者ガイドライン(第1.1版)」2025年3月28日。https://www.soumu.go.jp/main_content/001002576.pdf
  2. 経済産業省「AI事業者ガイドライン(第1.1版)概要」2025年3月28日。https://www.meti.go.jp/shingikai/mono_info_service/ai_shakai_jisso/pdf/20250328_2.pdf
  3. NIST "Artificial Intelligence Risk Management Framework (AI RMF 1.0)" National Institute of Standards and Technology, 2023. https://www.nist.gov/system/files/documents/2023/01/26/NIST.AI.100-1.pdf
  4. McKinsey & Company "The state of AI in 2026: On the road to ROI" 2026年8月25日。https://www.mckinsey.com/capabilities/quantumblack/our-insights/the-state-of-ai
  5. 総務省「令和7年版 情報通信白書」2025年7月。https://www.soumu.go.jp/johotsusintokei/whitepaper/ja/r07/html/nd112220.html
— END OF ANALYSIS —