デザイン・WEB・
システム/アプリ開発
日本伝統文化事業

利用中のAIのモデルが提供元の都合で更新されたとき、業務のどこをいつ点検し、何を記録に残すのか

AI

ChatGPTやMicrosoft 365 Copilotのような外部のAIサービスや、委託先がつくった業務AIを日常の業務で使っていると、モデルの入れ替えや旧モデルの提供終了が、自社の都合とは関係なく、提供元の側で決まることがあります。画面も使う人も同じなのに、出力の言い回しや長さ、形式が前と違ってくる、ということが起こりえます。このとき困るのは、変わったことそのものよりも、「自社の業務のどれが、どのAIに乗っているのか」「更新の知らせを誰が見るのか」「見たあとに誰が何を確かめ、何を残すのか」が決まっていないことです。

この記事は、IPA(独立行政法人情報処理推進機構)の産業サイバーセキュリティセンターの中核人材育成プログラム9期生がまとめた『生成AIおよびAIエージェントを安全に活用するための手引書』(2026年7月、第1版。以下「手引書」)の運用の節と契約の節を中心とした記述と、Microsoft Learnの記述を原文で読み、提供元がモデルを更新したときの臨時点検、受ける担当、記録の項目を、業務ごとの表にします。ここに書く進め方は一般的な進め方の提案であり、特定の会社で試した結果ではありません。実績や効果の数字も示しません。

モデルの優劣、特定のモデルの廃止日、移行先の一覧は書きません。これらは変わりやすく、この記事では取得して確認していないためです。更新や終了の最新の内容は、利用している提供元の公式の案内で確認してください。個人データを含む入力の扱い、利用料の上限、契約条項の当否、法的な判断もこの記事の範囲外で、契約や法律に関わる点は専門家に確認してください。

先に、手引書の位置づけを書きます。手引書の免責事項には、情報提供を目的としたもので法的な助言を構成しないこと、内容が独立行政法人情報処理推進機構および産業サイバーセキュリティセンターの意見を代表するものではなく著者の見解に基づくこと、有効期限が発行日から2年間であることが書かれています。そのため、この記事は手引書を、法令や公的な基準のように「守らなければならないもの」としては読みません。運用の考え方を整理した資料の一つとして読み、自社に当てはめるかどうかは自社で決める、という立場で書きます。

導入時の受入試験の作り方はAIの受入試験は、何を・誰が採点すれば「合格」と言えるのかに、運用の記録と持ち主はAI化した業務を、担当者が替わっても回し続けるためにに、人の確認が形だけになっていないかの点検はAIの出力を人が確認している業務で、その確認が形骸化していないかは、どう点検するのかにあります。この記事は、それらが扱っていない「導入したあとで、提供元がAIを変えた」場面だけに絞ります。

更新で変わりうるもの、変わらないと書かれているもの

更新について、二つの原文は次のように書いています。表の右の列は、書かれていないことと、読み違えやすい点です。

資料書かれていること書かれていないこと、読み違えやすい点
手引書3.5(運用)AIシステムは、正常に動いていても出力内容が不適切になる場合があり、利用者の使い方またはモデル更新によってリスクが変わるため、出力内容、利用実態、コストの変動を含めて継続して監視する必要がある、とする業務ごとにどこまで見るか、どのくらいの間隔で見るかは、この一文には書かれていない。同じ3.5の次の段落に「年1回程度の定期点検」、3.5.2の括弧書きに「重要システムでは毎日」とあり、次の表で紹介する
手引書3.5.3(変更管理の記録)モデル、プロンプト、設定、外部連携先の変更によって、出力内容、情報の取扱い、外部システムへの動作、利用者への影響が変化する場合がある、とする変更を行うのが自社か提供元かは、この段落の文言では区別されていない。「変化する場合がある」で、必ず変わるとは書かれていない
Microsoft Learn「Microsoft Copilot のデータ、プライバシー、セキュリティ」の「基礎モデルの変更が発生するとどうなりますか?」Copilotを強化するAIモデルは定期的に更新され、強化される。更新でパフォーマンスの向上、推論の強化、機能の拡張が実現されるが、セキュリティ、プライバシー、コンプライアンスの設定は変更されない変わらないと書かれているのは「設定」で、出力が同じとは書かれていない。同じページには、生成AIの応答が100%事実であるという保証はなく、ユーザーは出力を他のユーザーに送信する前に各自で判断して確認する必要がある、とも書かれている。更新の内容の詳細はMicrosoft 365ブログへの案内があるが、そのブログは取得していない

二つを並べて読むと、提供元が約束している範囲と、自社が確かめる範囲の境目が見えます。Microsoftの記述は、このページの範囲では、設定の扱いについてのものです。業務の出力の中身が更新の前後で同じかどうかは、このページからは読み取れません。そのため、出力を確かめる作業は自社の側に残ります。なお、これは一つの提供元の一つのページの記述です。他の提供元が同じ約束をしているかどうかは、確認していません。

手引書は、モデル更新を「臨時点検」のきっかけに挙げている

手引書で、モデル更新や提供元の仕様変更に触れている部分を、原文の要点と、小さな会社の業務に置き換えたときの読み方に分けて並べます。運用の節(3.5)と契約の節(3.2.3)を中心に、AI活用実態の把握(2.4.1)、管理体制(3.3.3)、要件と評価観点(3.1.3、3.2.1、3.2.2)の隣り合う記述も加えています。節の番号は取得したPDFの表記です。

節原文の要点自社の業務に置き換えると
3.5年1回程度の定期点検だけでなく、重要な変更、事故、脆弱性公表、モデル更新、利用範囲拡大等を契機とした臨時点検を行い、リリース条件または利用条件についても必要に応じて見直す定期の見直しとは別に、提供元からの「更新の知らせ」を、点検を始める合図として扱う。「年1回程度」は手引書の記述の紹介で、この記事の点検の間隔の目安としては使わない
3.5.2導入時点で有効だった対策も、利用状況またはモデル更新により効果が低下することがある。設定が存在するかだけでなく、リスク低減に実際に寄与しているかを確認する。観点の例は、監視・検知、設定・権限、運用実績。このうち監視・検知の項目(ログ監視、異常検知、不適切出力の検知など)の括弧書きに、重要システムでは毎日、人が確認することが望ましいとある「確認した」という印の有無ではなく、確認が効いているかを見る。括弧書きは監視・検知の項目の、重要システムについての記述なので、この記事では点検の間隔の目安としては使わない
3.5.3変更内容に応じて、リスク評価、対策の有効性、運用手順への影響を確認し、必要な検証を実施する。変更内容、影響確認結果、承認履歴、検証結果、リリース結果を記録する。モデル差替えや外部APIの追加を伴う高リスクな変更は、影響範囲と残存リスクを確認したうえで、承認者、承認日、リリース条件、リリース後の確認結果を記録する。変更前後の設定、検証結果、リリース判断の根拠、切戻し手順を確認できる状態にしておく記録の項目の土台。この記事の記録の表は、記録する5項目(変更内容、影響確認結果、承認履歴、検証結果、リリース結果)に、変更前後の設定と切戻し手順の欄を足した6欄にする
3.5.4導入後も関連情報を継続的に集める。サービス仕様の変更、モデル更新、提供条件の変更等でリスクが増える可能性がある。収集の対象には、サービス終了情報、仕様変更、ベンダー更新情報等を含める。重要な仕様変更や提供条件の変更が確認された場合は、通常の定期評価を待たず臨時の再評価を行う。利用継続が許容できないと判断される場合は、担当部門が責任者に報告のうえ、機能制限、一時停止、代替手段への切替等を検討する更新の知らせを集める担当と、続けるか止めるかを決める人を、先に決めておく
3.5.5AI提供者について、提供条件の変更等を、定期的または重要な変更時に再評価する。状況の深刻度に応じて、追加監査、契約見直し、代替先の検討、移行計画の作成、利用範囲の制限等を検討する更新が重なる提供元は、自社の側から見て使い続けてよいかも、点検の対象に入れる
3.2.3契約に明記する観点の例に、「モデル更新または仕様変更時の通知」がある。説明資料や口頭の説明だけでは、仕様変更時などに必要な義務の履行を確保できない恐れがある。契約で担保できない事項は、運用対策で補完できるかを判断し、補完できない場合はリスクの受容または採用の見送り等を判断する更新の通知が約束されているのか、いないのかを、契約や規約で確かめる。約束がなければ、自社で情報を取りに行く運用で補う
2.4.1AI活用の実態把握は、最低でも年1回を目安に定期的に繰り返す。主要なAIモデル・サービスの大型アップデート、重大インシデント、ガイドライン改定のタイミングでも追加実施することが望ましい。把握する項目の例に、製品名、AI提供事業者、契約形態がある棚卸しの一覧を作る根拠にあたる。提供元の大きな更新も、一覧を見直す合図にできる。どの更新が「大型」にあたるかは、この節の記述には書かれていない
3.1.3、3.2.1、3.2.23.1.3はセキュリティ要件の例のAI設定管理に「モデル更新時の再評価」を、3.2.1はAI提供者の評価観点の例のAIモデルに「モデル更新方針」を挙げる。3.2.2は、AI提供者が第三者のAI開発者に依存している場合の、依存先の変更・停止・利用条件変更の影響と、AI開発者のモデル更新方針の確認を書く導入前なら、提供元のモデル更新方針を確かめる項目になる。すでに使っているなら、棚卸しの一覧の「モデルの決まり方」の欄で、確かめる点として置く
3.3.3AI開発者またはAI提供者の障害、仕様変更、提供停止によりサービスが影響を受ける可能性があるため、外部依存を考慮した継続計画が必要とする。システム停止時の代替運用手段、切替・復旧手順の整備は整理することが望ましいとし、外部顧客向けサービスまたは業務上重要なシステムでは、同じ段落の上記の事項の整理を必ず実施すべきとする「戻せない場合の備え」の根拠にあたる。どの業務が「業務上重要」にあたるかは、自社で決める

原文には、「臨時点検を行い」「記録する」のように言い切る書き方と、「検討する」「望ましい」のように幅を持たせた書き方が混在しています。この記事では、どちらも手引書の考え方として紹介し、自社に義務があるという意味では書きません。

もう一点、手引書は、運用の段階で変更管理の記録を担う役として「AI管理者」を置いています。AI管理者は、導入したAIシステムを管理し、適切に運用する企業の担当者と定義されています。手引書の想定読者は、AI導入者、AI管理者、セキュリティ担当者です。情報システムの担当者が不在か兼務の会社では、この役を誰が持つかを、会社として決める必要があります。

更新の知らせを受ける人がいないと、点検は始まらない

提供元の知らせの形は、サービスによって違うことがあります。たとえば、登録しているアドレスへのメール、管理画面のお知らせ、公式のリリースノート、委託先からの連絡などです。受ける人が決まっていないと、誰にも届かないまま更新の日が過ぎます。そのうえで、知らせの内容が自社のどの業務に当たるのかが分からなければ、点検は始められません。

そこで、使っているAIを業務の側から一覧にします。次の表は、架空の会社S社の記入例です。実在の会社や設定ではありません。

業務使っているAIと契約の形モデルの決まり方指示文、設定、参照する文書更新の知らせを受ける人契約や規約に更新の通知の定めがあるか
取引先への返信文の下書き外部の対話型AI(会社の契約、管理者あり)提供元が決めている(確かめる)共通の指示文を一つ。総務のAさんが管理総務のA確かめていない
会議の議事録の要約会議ツールに組み込まれたAI機能分からない設定なし。使う人が指示を入力未定確かめていない
問い合わせメールの分類委託先がつくった業務AI委託先が決めている(確かめる)分類のラベル表。委託先と共有窓口の責任者のB契約書を確認する
営業担当の個人アカウントでの利用個人契約の外部AI分からない各自会社は知らせを受けられない対象外(会社の契約ではない)

「分からない」や「未定」が多いのは、最初の一覧では普通のことです。この欄が、最初に確かめる点検の項目になります。個人のアカウントで使われているものは、会社が更新の知らせを受けられません。使ってよい範囲を決めたうえで、会社の契約に寄せるか、使わないことにするかを決める必要があります。委託先がつくった業務AIで、更新の連絡をする約束があるかどうかは、契約で決まります。個別の条項が妥当かどうかは、専門家に確認してください。

手引書の2.4.1は、AI活用の実態把握で見る項目の例に、製品名、AI提供事業者、契約形態を挙げています。この表の「使っているAIと契約の形」の列は、これと重なります。

手引書の3.5.4は、導入後も関連情報を継続的に集めること、3.2.3で合意したAI提供者からの脆弱性対応状況の定期報告を活用し、自社の情報収集と組み合わせることが効率的であることを書いています。この記事では、これを、提供元からの連絡を待つ運用と、公式の更新の案内を自社で見に行く運用を併用する考え方として読みます。

知らせが届いた日の流れ

知らせを受けた人が、次の順に進める例を示します。業務ごとの重さで省く部分があってもかまいません。

  1. 知らせの文面を、棚卸しの一覧と突き合わせる。当たる業務に印を付け、当たらないと判断した業務には、その理由を一言残す。
  2. 提供元が書いている変更の内容と、書いていないことを分ける。たとえば「設定の扱いは変わらない」と書かれていても、「出力が同じ」とは書かれていないことがある。書かれていない部分が、自社で確かめる範囲になる。
  3. 当たる業務ごとに、代表的な事例で出力を見直す。導入時の受入試験で使った事例と合格の判断基準を取り置いていれば、同じものを使う。更新の前後を同じ物差しで比べられるからである。取り置いていなければ、現場から集め直す。
  4. 人の確認の置き方を見直す。いまの確認の項目が、更新で変わりうること(言い回し、形式、長さ、拾い漏れの出方)を見つけられる項目になっているかを、確認者に聞く。
  5. 続ける、指示文や設定を直す、前の手順に戻す、使うのを止める、のどれにするかを決める。決める人と決めた日を残す。
  6. 記録を残し、更新の知らせを受けた人に結果を戻す。

手引書は、再評価の結果、利用の継続が許容できないと判断される場合に、担当部門が責任者に報告のうえ、機能制限、一時停止、代替手段への切替等を検討する、と書いています。小さな会社では、ここでいう責任者は、経営者や業務の責任者にあたることが多いでしょう。5番の判断は、その人が持つのか、持たないのかを、点検の前に決めておきます。

業務ごとの再確認の表(S社の例)

S社の四つの業務を例に、更新のたびに見る点を並べます。更新の中身によって、実際に見る点は変わります。すべて架空の設定です。

業務更新で気にする変化再確認に使う事例確認する人戻せるか、戻せないときの備え
取引先への返信文の下書き言い回し、長さ、敬語の高さ、断定の強さ過去の返信から、通常のもの、怒っている取引先へのものを含めて取り置いた事例返信を送る担当者と、その上長前のモデルを選べるかは、提供元の説明で確かめる。選べない場合は、指示文を直す、下書きを使わず従来の書き方に戻す
会議の議事録の要約決定事項や期限の拾い漏れ、人名や数字の取り違え議事メモと、拾うべき決定事項の一覧会議の主催者戻せない場合は、要約を人が書く運用に一時的に戻し、AIの要約は参考にとどめる
問い合わせメールの分類ラベルの付き方、例外の扱い、連携先に渡す項目の形導入時の受入試験で使った事例窓口の責任者のB委託先に、更新の前後で変わったことと、前の状態に戻せるかを確かめる(契約の定めによる)
営業担当の個人アカウントでの利用会社として把握できないなしなし会社の業務に使うかどうかを先に決める

戻せるかどうかは、自社の判断だけでは決まりません。手引書の3.5.3は、変更前後の設定と切戻しの手順を確認できる状態にしておくことを、3.3.3は、システム停止時の代替運用手段と切替・復旧手順の整備、および提供元の仕様変更や提供停止を考慮した継続計画を書いています。一方、提供元がモデルを入れ替える形のサービスで、自社が前のモデルに戻せるかどうかは、サービスと契約の形で変わります。この記事では特定のサービスの機能を確認していないので、戻せるかどうかは、各提供元の公式の説明や契約で確かめる項目として置いています。戻せない場合に備えられるのは、自社の側の戻し先、つまり、前の手順、人が書く手順、確認の追加です。

点検の重さを業務で変える案

すべての業務に同じ重さの点検をすると、続きません。手引書は、自動化された応答・判断・実行、外部システム連携、顧客向け表示、機密情報の取扱い、モデル差替えや外部APIの追加を伴う変更を、高リスクな変更の例として挙げ、承認者や承認日などを記録するとしています。一方で手引書の3.5.3は、変更内容に応じて必要な検証を実施するとするだけで、低リスクの業務の検証を軽くしてよいとは書いていません。次の分け方は、高リスクの例を手がかりにした、この記事(作成者)の提案で、手引書の記述ではありません。

  • 先に承認者と記録を決めておく業務:AIの出力が、人の確認を通らず外に出る業務。AIの出力が他のシステムの値や動作に反映される業務。顧客に見える形で表示される業務。
  • 見直しの手間を減らす案を考えられる業務:人が必ず読み、直してから使う下書き。更新の知らせを見て、代表的な事例だけを見直す運用も考えられる。ただし、人の確認が形だけになっていないかは別の点検で確かめる。

どちらに当たるかは、棚卸しの一覧に一列足して書いておきます。件数や間隔の数字は、業務の種類と誤りの影響、確認に使える人手で変わるため、この記事では示しません(手引書の「年1回程度」「重要システムでは毎日」は、上の表で紹介した手引書の記述です)。

記録は、手引書の項目に合わせて更新ごとに1行にまとめる

更新のたびに長い報告書を書くのは続きません。手引書の3.5.3が記録するとしている5項目(変更内容、影響確認結果、承認履歴、検証結果、リリース結果)に、変更前後の設定と切戻し手順を確認できる状態にするための「前の状態」の欄を足した6欄で、更新ごとに1行足す形にしておくと、あとから「あのとき何を見て、誰が決めたか」を追えます。

記録の欄手引書の項目との対応書くこと架空の記入例(S社)
変更内容変更内容知らせの日付、出典の場所、書かれている変更の要点。要約だけでなく、原文の文面か画面を保存した場所も書く提供元のお知らせ。保存先は共有フォルダの更新記録
影響確認影響確認結果棚卸しの一覧で当たった業務と、当たらないと判断した業務、その理由返信文の下書きと議事録の要約が該当。分類は委託先に確認中
再確認検証結果使った事例、合格の判断基準に照らした結果、直した指示文の版返信文の事例のうち、断定が強くなった例があり、指示文に一文を足して再確認
決定承認履歴続ける、直す、戻す、止めるの別と、決めた人、決めた日指示文を直して続ける。決めた人は総務のA
更新後の確認リリース結果使い続けたあとの確認の結果、人の確認で見つかった差し戻しの有無担当者に、直した出力に違和感がないかを聞いた。問題の報告なし
前の状態変更前後の設定、切戻し手順直す前の指示文や設定の置き場所、戻せるか、戻せないときの代替前の指示文は版を付けて保存。提供元のモデルは戻せるか未確認

運用の記録全般の置き方と持ち主は、AI化した業務の運用の記録の記事にあります。ここでは、更新ごとに足す1行にとどめます。記録の保存期間や、更新の知らせを見に行く間隔の数字は、この記事では示しません。

契約や規約で確かめる点

手引書の3.2.3は、契約に明記する観点の例として「モデル更新または仕様変更時の通知」を挙げています。この記事では、これを、自社の契約や規約で確かめる点として読みます。

  • 委託先がつくった業務AI:更新や仕様変更のとき、委託先から連絡があるのか、いつ、誰宛てに、どの形で来るのか。更新の前後の確認を、どちらがするのか。これらは契約で決まります。個別の条項の当否は、専門家に確認してください。
  • 既製の外部サービス:標準の規約や管理画面に、更新の通知や更新履歴の案内があるか。あれば、その場所を棚卸しの一覧に書き、見る人を決めます。規約に通知の定めがあるかどうかは、この記事では特定のサービスの規約を取得して確認していません。
  • 契約で担保できない点がある場合:手引書は、運用で補完できるかを判断し、補完できなければリスクの受容か採用の見送り等を判断するとしています。更新の知らせを自社で見に行く運用が、その補完の一つになります。

確認した範囲と、確認していないこと

2026年11月13日に、手引書(IPAのサイトに掲載されたPDF、99ページ)を取得し、macOSのPDFKitで全ページのテキストを抽出して、「モデル更新」「臨時点検」「変更管理」「切戻し」の語の出現箇所をすべて確認しました。そのうえで、1.4の想定読者、1.6の免責事項、2.4.1、3.1.3、3.2.1から3.2.3、3.3.2、3.3.3、3.5の本文を読みました。同日、Microsoft Learnの日本語版のページを取得し、「基礎モデルの変更が発生するとどうなりますか?」と、応答の事実性についての記述を読みました。

確認していないことは、次のとおりです。

  • 手引書の第5章と第6章(リスク評価の方法と個別の対策)の本文のほか、上で読んだと書いた節以外の本文(2.4.1以外の第2章、3.1.1、3.1.2、3.4、3.6、第4章など)。上の語の出現箇所の確認にとどまり、精読していません。
  • 手引書の旧版や、同じ機構の別の資料。
  • Microsoft Learnのページが案内しているMicrosoft 365ブログの本文。
  • OpenAI、Google、Anthropicなど、各提供元の公式の更新や終了の案内、規約、更新の通知の仕組み。特定のサービスで前のモデルに戻せるかどうか。
  • 英語圏の、LLMの変更管理や回帰テストの解説。

2026年11月13日に、モデルの更新や終了への対応、社内の生成AI利用のルールづくりを扱う解説3ページの本文を取得して読みました。確認した範囲では、この記事と近い記述が複数ありました。あるモデルのChatGPTでの終了への対応として、ChatGPT経由かAPI経由かを切り分ける説明、誰がどの経路でそのモデルを使っているかを棚卸しする手順、移行先で主要な業務の出力を試して口調、正確さ、形式を確かめるチェックリスト、社内への周知、特定のモデル名に固定しない運用、終了の予定を定期的に確認する仕組み。同じ終了への対応の解説には、自動で移っても出力のトーンや細かい挙動は変わるという説明や、自動移行を過信して品質低下に気づかない失敗例、ズレがあれば指示を微調整し、定型作業の指示文を更新してチームで共有するという説明もあります。ChatGPTの表示がプランや管理者の設定で変わるという説明。社内の利用ルールとして、利用申請、棚卸し、退職時の対応、ルールを四半期または半期ごとに見直すという説明(サービス仕様、利用規約、API仕様などが変化することを理由に挙げています)、出力の確認の承認フローの明文化、利用ログや管理者権限を挙げる表です。この記事の棚卸しや再確認は、それらと重なる内容を含みます。

一方、確認した3ページの範囲では、提供元の更新を契機にした臨時点検を、更新の知らせを受ける担当、承認、記録の項目、前の状態に戻せるかの確認とあわせて、業務ごとの表にした説明は、確認できませんでした。1ページには、プロンプト例の中に「社内のAIツール運用を管理する担当者」という役割の語がありますが、更新の知らせを受ける担当を決める旨の記述は確認できませんでした。ほかの1ページは特定のモデルの解説で、再点検の手順や記録の記述は確認できませんでした。残る1ページは利用ルールの見直しにとどまり、モデル更新を契機にした業務の再点検の記述は確認できませんでした。これは確認した3ページの範囲の話で、ほかの解説や資料に同様の記述がないとは言いません。

当社の業務AXとの関係

当社の公開ページには、業務のAI化を、要件整理、設計、PoC、受入試験、運用改善の工程で進め、AIが担う部分と人が判断する部分を分けて設計することを基本にしている、と書いています。責任分界(AIの出力を誰が確認するか)と例外処理(想定外のときの動き)を設計の最初に置く理由、PoCの段階で稼働後の運用(誰が見て、どう直すか)を決めておくことも書いています。この記事の「知らせを受ける人」「承認する人」「更新ごとの1行の記録」は、その考え方に沿った整理の例です。

当社の公開ページの提供範囲には、提供元のモデル更新や提供終了の監視、更新の影響の確認の代行、契約や規約の条項の確認、保守の提供を、記載していません。個別の法務などの専門的な最終判断は、公開ページで、慎重にすべき業務として挙げています。この記事で読んだ手引書の記述の当てはめや、契約の確認は、自社の責任者と、必要に応じて専門家が行ってください。AI業務設計の全体像はAI業務設計・業務AXにまとめています。

個別相談のご案内

AI化した業務で、提供元がAIを更新したときの確認の担当と、記録の持ち方を、現状の業務の流れから整理したい方は、個別相談の予約へお進みください。(個別相談会(30分)の予約ページへ移動します)

CONTACT

お問い合わせ・資料請求