AIを載せたロボットの安全は、導入前に何を決めるか：リスクアセスメントの担当・前提条件・見直しのタイミング

AIを載せたロボットを、人が働く現場に入れたい。そう考え始めたとき、機種やAIの性能を比べる前に決めておきたいのが、「安全を、誰が、どの前提で評価し、いつ見直すのか」です。ここが空白のまま導入が進むと、評価は供給側がやるものと受け取られたり、AIの更新のたびに誰も判断しなかったりします。この記事は、工場長・生産技術・安全衛生の担当者が、導入を依頼する前に決めておく3点（担当・前提条件・見直しのタイミング）を整理したものです。

個別の機種や構成が、法令や規格に適合しているかどうかの判断は扱いません。そうした判断は、事業場の安全管理者、専門家、所管の行政機関に確認してください。

「安全の持ち主」とは何か

この記事でいう「安全の持ち主」とは、ロボットの安全について、誰が評価し、何を前提に置き、いつ見直すのかを、導入前に決めて引き受ける役割のことです。メーカー、システムを構築する会社、AIの提供者、使う事業者のどこにも「持ち主がいない」状態を避けるための言い方です。

先に押さえる：条文や通達で、事業者が主語になっている部分

AIを載せる前の段階として、産業用ロボットの安全に関する条文と通達を確認します。ここでは趣旨の要約にとどめます。原文と、自社への当てはめは、専門家や所管に確認してください。

出典	書かれていること（要約）	発注側で決めること
労働安全衛生法 第28条の2	事業者が、設備や作業行動などによる危険性又は有害性等を調査し、その結果に基づいて必要な措置を講ずる、という条文。「講ずるように努めなければならない」という書きぶりで、化学物質に関する調査以外は、製造業など省令で定める業種の事業者が対象とされている	自社が調査の主体であることの確認。誰が実施し、誰が結果を承認するか
労働安全衛生規則 第150条の4	事業者は、産業用ロボットを運転する場合に、接触により労働者に危険が生ずるおそれのあるときは、さく又は囲いを設ける等の措置を講じなければならない（教示等の運転などは別に定めがある）	人がロボットに接触するおそれがあるのか、あるのならどう防ぐのか
2013年12月24日の通達（第150条の4の施行通達の一部改正）	事業者が、第28条の2のリスクアセスメントに基づく措置を実施し、接触による危険が生ずるおそれが無くなったと評価できるときは、第150条の4の「危険が生ずるおそれのあるとき」に該当しないものとする。評価結果は、指針に基づき記録し、保管する	評価の結果を、誰が、どこに、どの形で残すか
同じ通達（設置者の記載）	通達は、国際規格（ISO 10218-1/-2）に基づいて設計・製造・設置され、技術ファイルと適合宣言書が作成されたロボットを、使用条件に基づいて適切に使う場合も、「さく又は囲いを設ける等」の「等」に含まれるとしている。その場合の「設置者」は、事業者、設置業者、製造者などのうち、設置の安全条件に責任を持つ者、とされている	設置の安全条件に責任を持つのは誰か、を契約や分担表で特定する
労働安全衛生規則 第150条の3、第150条の5	教示等の作業や、検査・調整・掃除などの作業について、運転の停止、操作の手順、作業中の速度、合図、異常時や再起動時の措置などの定めが置かれている	人がロボットの近くに入る作業（教える、直す、掃除する）の手順と責任者

通達の文言は、リスクアセスメントの結果を前提にしています。ロボットの種類だけで柵の要否を決める書き方にはなっていません。評価をして、そのうえで危険が生ずるおそれが無くなったと評価できるか、が出発点です。評価の見積りでは、ロボットの力と運動エネルギー、周辺の構造物に拘束される可能性、形状や作業の状況に特に留意するよう記載されています。

AIを載せたロボットが、これらの条文でいう「産業用ロボット」に当たるか、どの条が掛かるかは、機種と使い方によって変わり得ます。ここで個別に判断することはしません。

AIを載せると、論点がどこに移るか

ここからは、条文の要約ではなく、導入前に整理しておくとよい論点の整理です。規格や法令の要求を述べるものではなく、一般的な進め方の提案です。

論点1：動きが事前に決まりきらないとき、評価の前提をどこに置くか

あらかじめ教えた経路を繰り返すロボットは、評価の対象になる動きを事前に並べやすくなります。AIが、センサーの入力などから状況に応じて動作を作る場合は、動作そのものを事前に網羅しにくくなることがあります。

このとき、考え方の一つは、評価の前提を「AIが何をするか」ではなく「動作の外側の枠」に置けるかを確認することです。動ける範囲、出せる速度と力、人が入れる条件、止める手段です。これらを、AIの判断とは別に設定し、確認できる設計になっているかを、供給側に聞いておきます。

リスクアセスメントの考え方を示す規格（ISO 12100）は、最初に機械の使用上・空間上・時間上などの制限を決め、そのうえで危険源を特定していく流れで解説されています。AIを載せる場合も、この「最初に制限を決める」段階を、発注側が主体的に埋めることが出発点になり得ます。

論点2：学習や更新で変わるとき、どの変更が見直しの契機になるか

AIのモデルが更新される、追加のデータで学び直す、といったことが運用中に起こり得ます。これが、危険性等の調査を行う時期（後述）のうち、設備等の変更（第2号）、作業方法・手順の変更（第3号）、危険性等の変化が生ずるおそれ（第4号）のどれに当たるのかを、更新のたびに誰が判断するのかを、決めておく必要があります。どの号に当たるかの当てはめは、専門家に確認してください。「更新は供給側が自動で行うので、こちらは関知しない」という運用は、持ち主が空白になりやすい形です。

論点3：供給側の保証範囲と、使う側の変更

日刊工業新聞2026年6月11日付（ニュースイッチへの掲載は6月21日）の連載記事では、現状はシステムを構築した会社が契約上の保証範囲内で責任を負い、条件を外れた使い方で不具合が起きても保証の対象外になる、と記者が説明しています。そのうえで、フィジカルAIはデータが蓄積するほど、できる作業が増えることが特徴であり、保証範囲を限定したまま、できることが増えると、トラブルが起きてから責任の問題が表面化しうる、と述べています。AIロボットの安全性評価については、公的な研究機関の研究者が、AIセーフティ・インスティテュートで検討を進めていると紹介されています。

この記事は日刊工業新聞の編集委員による連載の一回で、研究者のコメントを含みます。制度や契約の標準を示すものではありません。ただ、発注する側にとっては、「できることが増えたとき、保証の範囲と評価の前提をどう更新するか」を、契約や運用の取り決めに入れておく理由にはなります。

決める項目の表：発注側と供給側の分担

決める項目	発注側（使う事業者）が決めること	供給側に確認すること	決まらないと起きやすいこと
評価の担当	誰が評価を行い、誰が承認し、結果を保管するか	評価に必要な資料（構成、動作の範囲、安全機能の仕様）を、誰が出すか	評価が行われたのかが、誰にもわからない
前提条件	使う場所、人の立入り、扱う対象物、作業内容、運転の方法	その前提で動作する想定か。前提を外れたとき、どうなるか	導入後に前提が変わり、評価が無効になる
動作の外側の枠	可動範囲、速度、力、立入りの検知、停止の手段	AIの判断とは別に設定・確認できるか	AIの出力に安全が依存する
教える・直す・掃除する作業	誰が、どの条件でロボットの近くに入るか	運転を止める方法、再起動の手順	保守のときに事故が起きやすくなる
更新・再学習の扱い	更新を受ける前に、再評価の要否を誰が判断するか	更新の内容と時期の事前通知、更新前の状態へ戻せるか	気づかないうちに前提が変わる
異常やヒヤリの記録	記録する人、見直しに回す人	記録を取り出せるログの有無	同じ事象が繰り返され、見直しにつながらない
保証の範囲	保証される条件と、外れたときの扱いの理解	範囲の書面化、拡大するときの手続き	トラブルのときに責任の所在が争いになる

見直しのタイミングを、先に決めておく

労働安全衛生規則 第24条の11は、危険性又は有害性等の調査を行う時期として、建設物を設置・移転・変更・解体するとき、設備や原材料等を新規に採用・変更するとき、作業方法や手順を新規に採用・変更するとき、そして危険性又は有害性等について変化が生じ、又は生ずるおそれがあるときなどを挙げています。AIを載せたロボットで考えられる例は、次のとおりです。当てはめは、専門家に確認してください。

見直しの契機（条文の区分）	AIを載せたロボットでの例	先に決めておくこと
建設物の設置・移転・変更	設置場所の移動（どの区分に当たるかは専門家に確認）	変更を計画する段階で、安全の担当に連絡が入るか
設備等の新規採用・変更	ロボット本体、ハンド、カメラやセンサーの追加・交換	部品や構成の変更を誰が止められるか
作業方法・手順の新規採用・変更	扱う対象物の追加、担当する作業の拡大、人との分担の変更	「できるようになったから、やらせる」前に、評価を行う手順
危険性等の変化が生ずるおそれ	モデルの更新・再学習、ヒヤリハットの発生、現場の運用の変化、レイアウトの変更（どの区分に当たるかは専門家に確認）	変化に気づく人と、再評価の要否を判断する人

この表のポイントは、条文の時期に当てはめる作業を、事故やトラブルのあとではなく、導入前に決めておくことです。

判断条件：導入の検討に進める状態、まだ早い状態

向いている状態：

• 安全の評価を誰が行い、誰が承認するかを、言葉で説明できる
• 使う場所、人の立入り、対象物、作業内容を、文章にできる
• AIの更新や再学習のときに、再評価の要否を誰が判断するかが決まっている
• 止める手段や動ける範囲の枠を、AIの判断とは別に確認できる見通しがある

まだ早い状態：

• ロボットに何をさせたいのかが定まらず、前提条件を書けない
• 評価は供給側が行うものと考えていて、自社の担当が空白になっている
• AIの更新が運用開始後に入る前提だが、再評価の扱いが決まっていない

進め方（手順）

1. 人が行っている作業を分解し、人とロボットが接する場面を書き出す（分解の進め方は工場自動化の記事にあります）
2. 安全の評価を行う人、承認する人、記録を保管する人を決める
3. 前提条件（場所、人の立入り、対象物、作業内容、運転の方法）を文章にする
4. 動作の外側の枠（可動範囲、速度、力、立入りの検知、停止の手段）を整理する
5. 更新・再学習・構成変更の扱いと、見直しの契機を決める
6. 供給側への依頼書や提案依頼に、1〜5を前提条件として書く（PoCの依頼前に決める条件はPoC支援の記事にまとめています）
7. 個別の適否や必要な措置は、安全管理者、専門家、所管の行政機関に確認する

提案・見積で確認すること

確認する点	十分な答えの例	注意したい答え
評価の担当	評価に使う資料と、評価を行う人・承認する人が示される	「安全は問題ありません」とだけ書かれている
前提条件	評価の前提が文書になっていて、外れたときの動作の説明がある	前提が書かれていない、または現場確認が行われない
動作の外側の枠	AIとは別に設定・確認できる枠と、止める手段が説明される	「AIが判断するので問題ない」
更新・再学習	更新の内容を事前に知らせ、再評価の要否を相談する手順がある	更新が自動で入り、通知がない
保証範囲	保証される条件と、拡大するときの手続きが書面にある	範囲があいまい、または拡大の手続きがない

失敗しやすいパターン

• 評価は供給側が行うものと考え、自社の担当を決めないまま導入を進める
• 導入時に評価した前提が、作業の追加やレイアウトの変更で変わっても、見直しにつながらない
• AIの更新を供給側に任せきりにし、更新後の動作を誰も確認していない
• 動作の枠や停止の手段が、AIの出力に依存している
• ヒヤリハットが記録されず、再評価の材料が残らない
• 保証の範囲を確認しないまま、できることだけを増やしていく

WITHPROJECTSの考え方

WITHPROJECTSは、AIを載せただけのフィジカルAI化を目的にしていません。できる仕事が増えなければ意味がない、という立場です。

設計は、顧客が払う理由から始め、必要な物理タスク、身体、AI、データ、研究を経て、PoC、量産、継続収益へ進む順で行います。

この記事は、個別の機種や構成の安全性・適合性を判断または保証するものではありません。フィジカルAIの事業化の考え方の全体は、フィジカルAI事業化・FDE支援のページにまとめています。

次の一歩

AIを載せたロボットの導入を、事業化の設計から整理したい方は、個別相談の予約へお進みください。（個別相談会（30分）の予約ページへ移動します）