TECHNOLOGY EXPLAINER
不確かさと適用範囲
― 予測値だけでなく、「どれくらい当てになるか」と「そもそも当てはまる範囲か」を見る
機械学習の予測は、値が1つ出てきます。けれども、素材技術者が知りたいのは、その値を信じて次の実験を決めてよいかです。そのために、予測には2つの付録が要ります。1つは不確かさ(その予測がどれくらいぶれうるか)、もう1つは適用範囲(その材料が、そもそもモデルの学習した範囲の内か外か)です。 この記事は、不確かさの種類と見積り方(アンサンブル、ガウス過程など)、適用範囲の考え方、外挿の危険を、本稿の小さな計算で確かめながら、図で説明します。
- 3行でわかる/読む前に/シリーズの中での位置
- 不確かさの2つの種類 ― 減らせるものと、減らせないもの
- 不確かさの見積り方 ― アンサンブル、ガウス過程、コンフォーマル予測
- 範囲の内と外で、不確かさの区間は当たるか
- 不確かさの「質」を測る ― 校正と鋭さ
- 適用範囲 ― 予測してよい場所を決める
- 学習データからの距離と、誤差
- 使い方の流れ ― 次の実験をどう決めるか
- 限界と、確認できなかったこと/まとめ
- 評価・標準の読み方
- 用語集
- 参考資料(一次情報)
- 主張と出典の対応表(監査)
事実=公表資料に記載のある内容(出典リンクあり)
本稿の計算=明示した前提をもとに本記事が算出した値
未確定/将来=草案・改訂中など、まだ確定していない事項
このほか、材料研究への読み取りは「解説」として区別しています。推測は太字で示します。
第4・6・7章の数値は、本稿が作った合成データ(乱数の種を固定)の計算です。実在の材料データや、特定の手法の優劣を示すものではなく、仕組みと落とし穴を数値で見せるための例です。「ガウス過程が良い」「アンサンブルは悪い」という結論ではありません(同じ手法でも、設定やデータで結果は変わります)。論文の数値は、それぞれの論文の条件での結果です。OECD の原則は、Sahigara らの論文による紹介を使い、OECD の原文は自動アクセスの制限で開けませんでした。ISO/IEC・ISO の規格は、番号・題名・発行年月の確認にとどめ、本文は確認していません。
1. 3行でわかる/読む前に/シリーズの中での位置
- 予測には「確かさ」が付くべき:不確かさには、測定のばらつきのように減らせないものと、データがない範囲での知識の不足のように、測れば減らせるものがあります。実験を決めるときに知りたいのは、主に後者です
- 不確かさの見積りも、外れることがある:同じ15点のデータでも、方法によって、データのない範囲で、不確かさの帯が広がるものと、狭いままのものがあります。本稿の例では、「95%の区間」が実際に当たった割合が、範囲の外で、24%(3近傍のアンサンブル)から92%(3次多項式のアンサンブル)まで違いました
- 適用範囲を先に確かめる:学習データから遠い材料の予測は、外挿です。本稿の例では、学習点から遠い領域の誤差は、近い領域の100倍以上(0.015 → 1.92)で、「平均を返す」予測より悪くなりました
機械学習は「過去のデータから傾向を学ぶ近似器」で、データの範囲の外(外挿)は苦手です。標準偏差は、値の散らばりの大きさを表す数で、予測の「帯」の幅によく使われます。区間は、「この範囲に、値が入るでしょう」という幅を持たせた予測で、たとえば「95%の区間」は、「95%の確率で、この中に入る」という意味です(約束どおりに当たるかは、第4・5章で確かめます)。過学習や交差検証は、本シリーズ「機械学習とニューラルネットワークの基礎」編と「小データ機械学習」編で説明しています。
これは、本シリーズの5番目の記事で、MIの基礎5編の最後です。前の編で、データの質、公開データベース、少ないデータでの学習を扱いました。この編では、予測がどれくらい信頼できるかを扱います。この考え方は、次に測る候補をモデルに選ばせる「ベイズ最適化と能動学習」、「自律実験室」、「MIの結果の評価と再現性の読み方」の土台になります。
2. 不確かさの2つの種類 ― 減らせるものと、減らせないもの
たとえ:材料探索を「広大な地図から宝のありかを探す」ことにたとえると、予測は「ここに宝がありそうだ」という推測です。その推測には、「どれくらい確かか」を一緒に書いておかないと、掘るかどうか決められません。この「どれくらい確か」が、不確かさです。不確かさは、大きく2種類に分けて考えます。
元のSVG・数値・出典を確認する
元SVGの説明:概念図(ベクター作図)。不確かさの2種類。左は、データをいくら増やしても残る偶然の誤差。右は、データのない範囲で、モデルが何通りもの答えを出しうる知識の不足で、測れば減ります。英語では前者を aleatoric、後者を epistemic と呼びます。
- 偶然の誤差(aleatoric:観測そのものの雑音):同じ条件で測っても、毎回ばらつく分です。データを増やしても、なくなりません。たとえば、OQMD の論文は、同じ化合物の生成エネルギーを測った実験どうしの平均絶対誤差が0.082 eV/原子と、「驚くほど大きい」ことを報告しています事実[参考資料3]。実験値と比べる場合、モデルの誤差が、このばらつきを大きく下回ることは期待しにくい、という目安になります(本記事による解説)
- 知識の不足(epistemic:モデルの不確かさ):データがない範囲で、モデルが何通りもの答えを出しうる分です。データを足せば減ります。Kendall と Gal は、前者を「観測に内在する雑音」、後者を「モデルの不確かさで、十分なデータがあれば説明して消せるもの」と区別しています事実[参考資料1]。この区別を機械学習の観点から詳しく紹介する文献として、Hüllermeier と Waegeman の解説があります[参考資料2]
素材技術者にとって、実験を決めるのに重要なのは、主に後者(知識の不足)です。「予測の不確かさが大きいところ」は、測れば最も情報が増える場所だからです(第8章)。
計測の分野では、測定の不確かさが、国際的に整理されています。JCGM 100:2008(GUM)は、測定の不確かさを、「測定結果に結びつく、測定量に合理的に帰せられる値の散らばりを特徴づけるパラメータ」と定義しています事実[参考資料4]。これは、実験の測定値についての概念です。一方、この記事で扱う「予測の不確かさ」は、モデルの予測値についてのものです。両者は関係しますが(測定のばらつきが、予測の下限を決める)、同じものではありません(本記事による解説)。測定のばらつきの扱いは、ISO 5725-1:2023(測定方法と結果の正確さ〔真度と精度〕、第1部:一般原則と定義)にも整理されています[参考資料5]事実(本文は未確認)。
Ramprasad らの総説は、MI の予測は、通常は内挿的だが、新しい材料の領域へ外挿することもでき、そのときは、予測の不確かさを適切に考慮する必要がある、と述べています事実[参考資料6]。
3. 不確かさの見積り方 ― アンサンブル、ガウス過程、コンフォーマル予測
通常の機械学習モデルは、予測値を1つ返すだけで、不確かさは返しません。不確かさを得る代表的な方法を、3つ紹介します。それぞれ、考え方と得意・不得意が違います。
| 方法 | 考え方(やさしい説明) | 一次情報で確認できたこと | 注意(解説) |
|---|---|---|---|
| アンサンブル | 少しずつ違う複数のモデルを作り、予測のばらつきを不確かさとみなす。「専門家に何人かで答えてもらい、意見が割れたら自信がない」とみなす | Lakshminarayanan らは、深層アンサンブルを、実装が簡単で並列化でき、よく校正された不確かさを得られる方法として提案[参考資料7]。Wager らは、バギング(ブートストラップで作った複数のモデルの平均)とランダムフォレストの予測の標準誤差の見積り方を示した[参考資料8]事実 | メンバーが、似たモデルだと、データのない範囲でも全員が同じ答えになり、ばらつきが小さく見える(第4章の例)。メンバーの作り方で結果が変わる |
| ガウス過程 | 予測値と一緒に、確率的な予測(平均と幅)を返す方法。データから遠いほど、幅が広がる | scikit-learn のユーザーガイドは、ガウス過程の予測は確率的なので、経験的な信頼区間を計算でき、それをもとに、ある領域で予測を再学習すべきか決められる、と説明。欠点として、記述子の数が数十を超える高次元では、効率が落ちる[参考資料9]事実。標準的な教科書は Rasmussen と Williams[参考資料10] | データが少ない材料問題に向く。ただし、帯の広がり方は、カーネル(似ている度合いの定義)や設定の選び方に依存する |
| コンフォーマル予測 | 過去の予測の外れ具合を使って、「この確率で、実際の値が入る」と保証付きの区間(や集合)をつくる枠組み | Angelopoulos と Bates の入門は、任意の学習済みモデルに使え、分布に関する仮定を置かなくても、ユーザーが指定した確率(例:90%)で真の値を含む区間・集合を作れる、と説明。分布のずれ(distribution shift)などへの拡張も扱う[参考資料11]事実 | 保証が成り立つための前提(たとえば、新しいデータが訓練データと同じ性質の分布から来ること)は、原論文で確認が必要で、本稿では未確認。学習範囲の外(外挿)でも保証が成り立つとは限らない |
表の「考え方」と「注意」は本記事による解説です。ベイズ的な方法やドロップアウトを使う方法など、他の手法は扱っていません。
材料の分野では、不確かさを実験の計画に使う例が報告されています。Ling らは、組成とプロセスの最適化で、データから学んだモデルに不確かさの見積りを持たせ、不確かさの大きい候補を探る(探索)ことと、性能の高い領域を活かす(活用)ことを組み合わせて、次の実験を提案する枠組みを示しました。4つの材料科学の試験事例で、最適な候補が、無作為に選ぶ場合の平均3分の1の測定回数で見つかった、と報告しています事実[参考資料12]。詳しくは、本シリーズ「ベイズ最適化と能動学習」編で扱います。
4. 範囲の内と外で、不確かさの区間は当たるか
不確かさの見積りが、実際に役に立つかを、小さな実験で確かめます(本稿の計算)。真の関係を y = sin(2x) + 0.3x とし、x = 0〜5 の範囲から15点(雑音0.1)を測って学習します。同じデータから、ガウス過程と、3近傍法のアンサンブル(ブートストラップで作った50個のモデル)で、予測の帯(予測 ± 2 標準偏差)を作ります。
図3の左は、ガウス過程です。データのある範囲(背景の青)では、帯が細く、予測が真の関係(灰の点線)によく重なります。データのない範囲では、帯が大きく広がり、「ここは分からない」と正直に示しています。右は、3近傍法のアンサンブルです。データのない範囲でも、帯は狭いままで、予測は端の値のまま一定です。真の関係(灰の点線)が大きく動いているのに、モデルは「確かだ」と言っています。
この違いを、数で見ます。約束どおり、「95%の区間」の中に、実際の値がどれだけ入ったかを、範囲の内と外で数えました。
- ガウス過程:範囲の内で95%(ほぼ約束どおり)、範囲の外で81%
- 3近傍法のアンサンブル:範囲の内で86%、範囲の外で24%。外では、4回に3回以上、区間から外れた
- 3次多項式のアンサンブル:範囲の内で91%、外で92%(外で区間が非常に広いため当たるが、実用的な幅かは別)
本稿の計算。合成データ。区間は、予測 ± 1.96 ×(不確かさと雑音を合わせた標準偏差)。範囲の内は x = 0〜5、外は x = −2〜0 と 5〜9。200回のデータの引き直しの平均。ガウス過程のカーネルは固定(RBF、長さ1、分散1、雑音0.1)。実在の材料の結果ではなく、手法の優劣を示すものでもありません。
正確とは限りません。アンサンブルのメンバーが、同じ学習データから、似たやり方で作られていると、データのない範囲でも、全員が同じ(間違った)答えを出し、ばらつきが小さく見えます。上の3近傍法のアンサンブルがそうです。ばらつきの小ささは、確かさの証拠ではなく、メンバーが似ている証拠かもしれません。不確かさの見積りが、範囲の外でも当たるかは、実際に範囲の外で確かめる必要があります。Kailkhura らも、材料の分野で、モデル自身の確信度(confidence score)は信頼できない、と報告しています事実[参考資料16]。
5. 不確かさの「質」を測る ― 校正と鋭さ
不確かさの見積りには、質があります。Tran らは、材料の特性予測の不確かさを評価するための、機械学習の分野の図と指標を紹介し、精度(accuracy)、校正(calibration)、鋭さ(sharpness)を定量的に調べると述べています事実[参考資料13]。やさしく言うと、次のとおりです。
- 精度:予測値が、真の値にどれだけ近いか
- 校正:「95%」と言ったら、実際に95%当たるか。第4章の表は、この校正を、範囲の内と外で調べたものです
- 鋭さ:区間が、どれだけ狭いか。無限に広い区間は、必ず当たりますが、役に立ちません。当たったうえで、狭いのが良い
関連する報告を3つ紹介します。Guo らは、現代のニューラルネットワークは、昔のものと違って校正が悪く、深さ、幅、重み減衰、バッチ正規化が校正に影響する、一方で、温度スケーリング(1つのパラメータで確信度を調整する後処理)が驚くほど有効なことが多い、と報告しています事実[参考資料14]。Hirschfeld らは、分子の特性予測の5つの回帰データで、不確かさの見積り方法を比べ、すべてのデータで、他より優れた方法はなく、誤差の順位づけが信頼できる方法もない、と報告しています事実[参考資料15]。Kailkhura らは、偏りのあるデータでは、モデルの品質を測る標準的な方法が崩れ、誤解を招く結論になること、モデル自身の確信度は信頼できないこと、を指摘しています事実[参考資料16]。
不確かさの見積り方法は、手法によっても、データによっても、外れ方が違います(Hirschfeld らの結果)。ですから、自社のデータで、検査してください。たとえば、手元の試料の一部を、わざと学習から外し(できれば、組成やロットのまとまりごと)、「95%の区間」に、実際に何%が入るかを数えます。大きく外れるなら、その見積りは、その目的には使えません(本記事による解説)。範囲の外の試料があれば、それを使うのがいちばん確かです。
6. 適用範囲 ― 予測してよい場所を決める
不確かさとは別に、そもそもその材料が、モデルの学習した範囲の内か外かを決める考え方が、適用範囲(applicability domain:AD)です。化学物質の構造活性相関(QSAR)の分野では、モデルの検証の原則の1つとして、適用範囲を明確にすることが挙げられています。Sahigara らの論文は、OECD の(Q)SAR モデルの検証の5つの原則を、(1) 明確な評価対象、(2) 曖昧さのないアルゴリズム、(3) 明確な適用範囲、(4) 適合度・頑健性・予測力の適切な指標、(5) 可能なら機構の解釈、と紹介しています。そのうえで、信頼できる予測は、一般に、モデルの構築に使った化合物に構造が似た問い合わせ化合物に限られる、と説明しています事実[参考資料17]。
適用範囲の決め方には、いくつかの型があります。Sahigara らは、学習データの記述子の空間で、内挿の空間をどう特徴づけるかで、範囲に基づく方法(各記述子の最小〜最大の「箱」など)、幾何学的な方法(学習点を囲む「凸包」など)、距離に基づく方法(マハラノビス距離など)、確率密度に基づく方法に分けています[参考資料17]。
図5は、相関のある2つの記述子(相関0.9)で、学習点60個から、3つの描き方を重ねたものです(本稿の計算)。
- 箱(橙の破線):各記述子の最小〜最大を囲むだけなので、学習点のない隅まで含みます。問い合わせAは箱の中ですが、学習点からは遠く、実際は外挿です。箱の中に一様に撒いた点のうち、凸包に入るのは約29%でした
- 凸包(緑):学習点を囲む最小の凸の領域です。箱より狭く、実際の分布に近い形です。ただし、記述子の数が増えると、計算が難しくなり、学習点の間の穴は表せません。Sahigara らも、凸包と確率密度に基づく方法は、評価用の化合物の範囲の外と判定する数が最も多く、モデルの使える範囲が限られる、と報告しています[参考資料17]
- 距離(青の点線):学習点の中心からのマハラノビス距離(記述子の相関を考慮した距離)が、学習点の95%点以内なら範囲の内、とした楕円です。この例では、箱の中の約35%が内に入ります。Sahigara らは、距離に基づく方法は、範囲の外の化合物の数が妥当だが、距離の種類によってモデルの統計量が下がることもある、と報告しています[参考資料17]
本稿の計算。合成データ。箱の中の一様乱数20,000点で、各方法の範囲に入る割合を数えた。実在の材料の結果ではありません。Sahigara らの結論は、化学物質の生物濃縮係数のモデルでの比較で、材料の特性にそのまま当てはまるとは限りません。
どの描き方を選ぶかで、「範囲の内」と判定される材料が変わります。Sahigara らも、適用範囲の特徴づけは、方法によって違い、データによっても結果が変わる、と報告しています[参考資料17]。ですから、1つの方法で「範囲の内」と言われたことを、予測が当たる保証とは考えないでください。目的に応じて、複数の方法を重ね、さらに、実際に範囲の内外で予測の誤差を測って、判定の基準を確かめます(第7章)。
もう1つの視点を紹介します。Sutton らは、材料の機械学習で、モデルを、全体の平均誤差だけで評価すると、平均誤差が同じに見えるモデルが、実際には材料によって性能が大きく違うことや、全体では不十分に見えるモデルが、特定の部分領域では良く当たることを、見逃すと指摘しました。そこで、部分群の発見(subgroup discovery)という方法で、モデルが良く当たる適用範囲(domain of applicability)を、データから見つける方法を提案し、透明導電性酸化物の生成エネルギーの予測で、3つの最先端モデルが、平均誤差は区別できないのに、適用範囲には特徴の違いがあることを示しました事実[参考資料18]。
7. 学習データからの距離と、誤差
適用範囲の考え方が、実際に役に立つかを、小さな実験で確かめます(本稿の計算)。2つの記述子(範囲0〜2)で、60点を測って、ガウス過程で学習します。評価は、範囲0〜5の2,000点で行い、各点の、最も近い学習点までの距離と、予測の誤差を調べます。
結果は、図6のとおりです。最も近い学習点までの距離が0.1未満のとき、平均の絶対誤差は0.015です。距離が0.4〜0.8で0.19、0.8〜1.6で0.55、1.6以上で1.92と、距離とともに誤差が大きく増えました。1.6以上の領域では、「全データの平均を返す」予測の平均絶対誤差(1.27)よりも、悪くなっています。
本稿の計算。合成データ(真の関係 y = sin(1.5x₁) + 0.5cos(2x₂) + 0.3x₁x₂、雑音0.05)。学習点60個(範囲0〜2)、評価点2,000個(範囲0〜5)。ガウス過程(RBF、固定設定)。実在の材料の結果ではありません。
新しい候補を予測するたびに、学習データの中で最も近い試料までの距離を一緒に計算しておくと、予測の信頼度の目安になります。距離は、記述子(名刺)の空間で測ります。ただし、距離の測り方(どの記述子を使うか、桁をそろえたか)で、結果が変わります(本シリーズ「材料データと記述子」編)。しきい値(これ以上離れたら外挿として扱う)は、手元のデータで、範囲の内外の誤差を測って決めてください。外挿の評価の方法として、Meredig らは、従来の機械学習の指標が材料探索の性能を過大評価すると述べ事実[参考資料19]、Xiong らは、k 分割・m ステップの前方交差検証で、探索的な予測の力が実際には非常に低いことを示しています事実[参考資料20]。
8. 使い方の流れ ― 次の実験をどう決めるか
不確かさと適用範囲は、予測のたびに、一緒に求めて、判断に使います。流れを、図7にまとめました(本記事による整理)。
- 予測する:新しい候補の値を、モデルで予測します
- 2つを求める:予測の不確かさと、学習データまでの距離(適用範囲の目安)を求めます
- 適用範囲の内か:距離、箱、凸包などで、判定します。複数の方法を重ねると、見落としが減ります
- 内なら、信頼度つきで使う:不確かさが小さく、性能が良さそうな候補を優先します。ただし、不確かさは0ではありません
- 外なら、外挿として扱う:使わないか、測って確かめます。外の候補は、データが薄い領域なので、測れば情報が多く増えます
- 実験で確かめる:予測は候補で、確認は実験で行います
- 結果をデータに加える:モデルと適用範囲を更新します
Li らは、複数の大きな材料データセットで、データの最大95%を学習から除いても、分布内の予測性能がほとんど変わらないが、分布外での悪化は防げないことを示し、不確かさにもとづく能動学習で、はるかに小さいのに同等に情報のあるデータセットが作れると報告しています事実[参考資料21]。データの量より、どこを測るかが大切だ、という示唆です(本記事による解説)。
当たる可能性が高いだけで、保証ではありません。理由は3つあります。①不確かさの見積りが外れることがある(第4・5章)。②適用範囲の判定は、記述子の空間での近さで、名刺に書かれていない違い(たとえば、不純物、粒径、熱履歴)は見えない。③学習データ自体に、測定のばらつきや偏りがある(本シリーズ「材料データと記述子」編)。範囲の内でも、予測は候補であり、実験での確認を省かないでください。
次に測る試料を決めるときは、性能が高そうな候補だけでなく、不確かさが大きい候補も入れてください。前者は、成果に直結し、後者は、モデルの知識の不足を減らして、次の予測を良くします(Ling らの、探索と活用の組合せの考え方[参考資料12])。また、予測が外れたときは、その試料は「モデルの弱点」を教えてくれる貴重なデータです。失敗した条件も、記録して、データに加えてください(本記事による解説。本シリーズ「材料データと記述子」編の失敗データの価値)。
9. 限界と、確認できなかったこと/まとめ
(1) 確認できなかったこと
- 数値実験:第4・6・7章の計算は、合成データです。実在の材料での、不確かさの見積りの当たり方、適用範囲の判定の効果は、示していません。特定の手法の優劣を示すものでもありません
- OECD の原則の原文:OECD のサイトは自動アクセスの制限で開けず、Sahigara らの論文(オープンアクセス)による紹介を使いました。採択の日付や詳細は、本稿では確認していません
- コンフォーマル予測の保証の前提:原論文の要旨(分布に関する仮定なしで保証)を紹介しましたが、保証が成り立つ条件の細部は、確認していません。外挿での保証は確認していません
- 他の不確かさの手法:ベイズ的なニューラルネットワーク、ドロップアウトを使う方法、評価の確率分布を出す方法などは、扱っていません
- 適用範囲の方法の優劣:Sahigara らの比較は、化学物質のモデルでの結果です。材料の特性の予測で、どの方法が良いかは、確認していません
- 不確かさに関する国際標準:測定の不確かさ(JCGM 100、ISO 5725-1)は確認できましたが、機械学習の予測の不確かさや適用範囲に特化した国際標準は、確認できませんでした(第10章)
- 不確かさには2種類あります。減らせない偶然の誤差(実験どうしの生成エネルギーで0.082 eV/原子の例)と、測れば減らせる知識の不足です事実
- 不確かさの見積りも外れます。同じ15点でも、ガウス過程は範囲の外で帯が広がり、3近傍のアンサンブルは狭いままで、「95%の区間」が範囲の外で実際に当たった割合は、81%と24%でした本稿の計算
- 質は、校正と鋭さで測ります。手法の優劣は断定できません(Hirschfeld らの結果)。自社のデータで検査します事実
- 適用範囲は、方法で変わります。箱は学習点のない隅まで含み、箱の中で凸包に入るのは約29%の例でした本稿の計算
- 学習点から遠いほど、誤差は増えます。0.015から1.92へ、「平均を返す」予測(1.27)より悪くなりました本稿の計算。予測は候補で、実験で確かめます
10. 評価・標準の読み方
不確かさと適用範囲の良し悪しは、どんな「ものさし」で測るかで決まります。主なものさしは、不確かさの校正(「95%」が実際に95%当たるか)、鋭さ(区間の狭さ)、範囲の内外での誤差の違い、外挿の性能(前方交差検証など)、測定の不確かさ(実験側のばらつき)です。それぞれ、測っていることと、測っていないことが違います。たとえば、校正が良くても、区間が広すぎれば役に立ちません。確認できた範囲を、表にします(確認日 2026年10月22日)。機械学習の予測の不確かさと適用範囲に特化した国際標準は、確認できませんでした。
| 評価項目 | 代表的なベンチマーク・評価手法(名称・出典) | 標準・指針(ISO/IEC・NIST・国際的な原則など) | 読み方の注意 |
|---|---|---|---|
| 予測の不確かさの質(精度・校正・鋭さ) | Tran ら(2020):精度・校正・鋭さを調べる図と指標[参考資料13]。Guo ら(2017):校正と温度スケーリング[参考資料14]。Hirschfeld ら(2020):不確かさの見積り方法の比較[参考資料15]事実 | 確認できなかった(機械学習の予測の不確かさに特化した国際標準は確認できず) | 方法の優劣は、データと指標で変わる(Hirschfeld らは、すべてで優れる方法はないと報告)。範囲の外での校正は、別に確かめる |
| 適用範囲 | Sutton ら(2020):部分群の発見で適用範囲をデータから見つける[参考資料18]。Sahigara ら(2012):適用範囲の方法の比較[参考資料17]事実 | OECD の(Q)SAR モデルの検証の原則の第3原則「明確な適用範囲」(Sahigara らの論文による紹介。OECD の原文は未確認)[参考資料17]事実 | OECD の原則は、化学物質の(Q)SAR の分野のもので、材料のMIの標準ではない。法的な位置づけは確認していない。方法で範囲が変わる |
| 外挿の性能 | Xiong ら(2020):k分割m段階の前方交差検証[参考資料20]。Meredig ら(2018):従来の指標は材料探索の性能を過大評価[参考資料19]事実 | 確認できなかった | ランダム分割の数字は、新しい材料への当たりを過大に見せる。範囲の外の評価が別に要る |
| 測定の不確かさ(実験側) | OQMD の例:実験どうしの平均絶対誤差 0.082 eV/原子[参考資料3]事実 | JCGM 100:2008(GUM:測定の不確かさの表現の指針、2008年9月)[参考資料4]、ISO 5725-1:2023(測定方法と結果の正確さ、2023年7月)[参考資料5]事実 | 測定の不確かさは、実験値についての概念で、予測モデルの不確かさとは別。規格本文(ISO 5725-1)は未確認 |
| AI システムの信頼性 | — | NIST AI RMF 1.0(NIST AI 100-1、2023年1月):信頼できる AI の特性の1つ「有効で信頼できる」。不正確、信頼できない、または学習範囲を超えたデータや状況への一般化が悪い AI の配備は、負のリスクを生み、信頼性を下げる、と記述[参考資料22]事実 | 自主的な利用を前提とした枠組み。材料の予測の不確かさの具体的な方法は定めていない |
| 機械学習システムの枠組み | — | ISO/IEC 23053:2022(機械学習を使うAIシステムの枠組み、2022年6月)[参考資料23]事実 | 枠組みの規格で、不確かさの見積り方法を定めるものではない。本文は未確認 |
表の整理は本稿の計算(整理)。ISO/IEC・ISO の番号・題名・発行年月は ISO の公式ページで確認(確認日 2026年10月22日)。NIST AI RMF の記述は、同文書の本文で確認。規格本文は有料のため、題名と発行年月の確認にとどめ、要求事項は書いていません。
読み方の注意(素材技術者向け)
- 「不確かさつき」の報告は、校正を確かめます:「95%の区間」と書かれていても、実際に95%当たるかは別です。範囲の外での確認があるかを見てください
- 適用範囲は、方法を明記したものを信頼します:どの記述子で、どの距離(または箱、凸包)で、しきい値はいくつか、が書かれているかを確認します
- 測定の不確かさと、予測の不確かさを混ぜません:モデルの誤差が、測定のばらつきより小さい、という主張は、疑って読みます
- 原則・指針は、多くが推奨です:NIST AI RMF は自主的な利用が前提です。OECD の原則は化学物質の分野のものです。ISO/IEC の規格は、法令や契約で引用されて初めて拘束力を持つのが一般的です(本記事による解説)。「準拠」と書かれていたら、どの文書のどの要求事項かを確認してください
11. 用語集
- 不確かさ
- 予測がどれくらいぶれうるか。偶然の誤差と、知識の不足に分けて考える。
- 偶然の誤差(aleatoric)
- 観測そのものの雑音。データを増やしても減らない。
- 知識の不足(epistemic)
- データのない範囲での、モデルの不確かさ。測れば減る。
- 標準偏差
- 値の散らばりの大きさを表す数。帯の幅によく使う。
- 区間(信頼区間・予測区間)
- 「この範囲に値が入るでしょう」と幅を持たせた予測。
- 校正(calibration)
- 「95%」と言ったら、実際に95%当たること。
- 鋭さ(sharpness)
- 区間の狭さ。校正が良いうえで、狭いほど役に立つ。
- アンサンブル
- 少しずつ違う複数のモデルを作り、予測のばらつきを不確かさにする方法。
- バギング/ブートストラップ
- データを重複を許して選び直し、複数のモデルを作る方法。
- ガウス過程
- 予測の平均と幅を確率的に返す方法。データから遠いほど幅が広がる。
- カーネル
- 2つの材料がどれくらい似ているかを表す関数。ガウス過程の挙動を決める。
- コンフォーマル予測
- 過去の外れ具合から、指定した確率で値を含む区間をつくる枠組み。
- 適用範囲(AD)
- モデルが信頼できる予測を出せると見なす、材料(記述子)の範囲。
- 凸包
- 学習点をすべて囲む、最小の凸の領域。
- マハラノビス距離
- 記述子の相関を考慮した、点の中心からの距離。
- 外挿
- 学習データの範囲の外での予測。当たりにくい。
- 前方交差検証
- 値の順に並べ、未来側の範囲を評価に使う交差検証。外挿の評価に使う。
- 温度スケーリング
- 1つのパラメータで、モデルの確信度を調整する後処理。
- 能動学習
- 次に測る試料を、モデルが選びながら学ぶ方法。不確かさを使う。
- 測定の不確かさ
- 測定結果に合理的に帰せられる値の散らばりを表す量(GUMの定義)。
12. 参考資料(一次情報)
- Kendall A., Gal Y. "What Uncertainties Do We Need in Bayesian Deep Learning for Computer Vision?", arXiv:1703.04977(NeurIPS 2017) — arxiv.org/abs/1703.04977
- Hüllermeier E., Waegeman W. "Aleatoric and epistemic uncertainty in machine learning: an introduction to concepts and methods", Mach. Learn. 110, 457–506 (2021), DOI 10.1007/s10994-021-05946-3 — doi.org/10.1007/s10994-021-05946-3
- Kirklin S. ほか "The Open Quantum Materials Database (OQMD): assessing the accuracy of DFT formation energies", npj Comput. Mater. 1, 15010 (2015), DOI 10.1038/npjcompumats.2015.10(オープンアクセス) — doi.org/10.1038/npjcompumats.2015.10
- JCGM "JCGM 100:2008 Evaluation of measurement data — Guide to the expression of uncertainty in measurement (GUM)"(BIPM 公開の PDF) — bipm.org/documents/…/JCGM_100_2008_E.pdf
- ISO "ISO 5725-1:2023 Accuracy (trueness and precision) of measurement methods and results — Part 1: General principles and definitions"(ISO のページ) — iso.org/standard/69418.html
- Ramprasad R. ほか "Machine learning in materials informatics: recent applications and prospects", npj Comput. Mater. 3, 54 (2017), DOI 10.1038/s41524-017-0056-5 — doi.org/10.1038/s41524-017-0056-5
- Lakshminarayanan B., Pritzel A., Blundell C. "Simple and Scalable Predictive Uncertainty Estimation using Deep Ensembles", arXiv:1612.01474(NeurIPS 2017) — arxiv.org/abs/1612.01474
- Wager S., Hastie T., Efron B. "Confidence Intervals for Random Forests: The Jackknife and the Infinitesimal Jackknife", J. Mach. Learn. Res. 15, 1625–1651 (2014) — jmlr.org/papers/v15/wager14a.html
- scikit-learn User Guide "Gaussian Processes" — scikit-learn.org/stable/modules/gaussian_process.html
- Rasmussen C. E., Williams C. K. I. "Gaussian Processes for Machine Learning", MIT Press (2006)(書籍のウェブページ) — gaussianprocess.org/gpml/
- Angelopoulos A. N., Bates S. "A Gentle Introduction to Conformal Prediction and Distribution-Free Uncertainty Quantification", arXiv:2107.07511 — arxiv.org/abs/2107.07511
- Ling J. ほか "High-Dimensional Materials and Process Optimization Using Data-Driven Experimental Design with Well-Calibrated Uncertainty Estimates", Integr. Mater. Manuf. Innov. 6, 207–217 (2017), DOI 10.1007/s40192-017-0098-z — doi.org/10.1007/s40192-017-0098-z
- Tran K. ほか "Methods for comparing uncertainty quantifications for material property predictions", Mach. Learn.: Sci. Technol. 1, 025006 (2020), DOI 10.1088/2632-2153/ab7e1a — doi.org/10.1088/2632-2153/ab7e1a
- Guo C. ほか "On Calibration of Modern Neural Networks", arXiv:1706.04599(ICML 2017) — arxiv.org/abs/1706.04599
- Hirschfeld L. ほか "Uncertainty Quantification Using Neural Networks for Molecular Property Prediction", J. Chem. Inf. Model. 60, 3770–3780 (2020), DOI 10.1021/acs.jcim.0c00502 — doi.org/10.1021/acs.jcim.0c00502
- Kailkhura B. ほか "Reliable and explainable machine-learning methods for accelerated material discovery", npj Comput. Mater. 5, 108 (2019), DOI 10.1038/s41524-019-0248-2(オープンアクセス) — doi.org/10.1038/s41524-019-0248-2
- Sahigara F. ほか "Comparison of Different Approaches to Define the Applicability Domain of QSAR Models", Molecules 17, 4791–4810 (2012), DOI 10.3390/molecules17054791(オープンアクセス) — pmc.ncbi.nlm.nih.gov/articles/PMC6268288/
- Sutton C. ほか "Identifying domains of applicability of machine learning models for materials science", Nat. Commun. 11, 4428 (2020), DOI 10.1038/s41467-020-17112-9(オープンアクセス) — doi.org/10.1038/s41467-020-17112-9
- Meredig B. ほか "Can machine learning identify the next high-temperature superconductor? Examining extrapolation performance for materials discovery", Mol. Syst. Des. Eng. 3, 819–825 (2018), DOI 10.1039/C8ME00012C — doi.org/10.1039/C8ME00012C
- Xiong Z. ほか "Evaluating explorative prediction power of machine learning algorithms for materials discovery using k-fold forward cross-validation", Comput. Mater. Sci. 171, 109203 (2020), DOI 10.1016/j.commatsci.2019.109203 — doi.org/10.1016/j.commatsci.2019.109203
- Li K. ほか "Exploiting redundancy in large materials datasets for efficient machine learning with less data", Nat. Commun. 14, 7283 (2023), DOI 10.1038/s41467-023-42992-y(オープンアクセス) — doi.org/10.1038/s41467-023-42992-y
- NIST "Artificial Intelligence Risk Management Framework (AI RMF 1.0)", NIST AI 100-1, 2023年1月, DOI 10.6028/NIST.AI.100-1 — doi.org/10.6028/NIST.AI.100-1
- ISO/IEC "ISO/IEC 23053:2022 Framework for Artificial Intelligence (AI) Systems Using Machine Learning (ML)"(ISO のページ) — iso.org/standard/74438.html
13. 主張と出典の対応表(監査)
| 本文の主張 | 根拠 | 区分 |
|---|---|---|
| 偶然の不確かさ(観測に内在する雑音)と、知識の不確かさ(モデルの不確かさ。十分なデータで説明して消せる)の区別 | Kendall と Gal の要旨 出典1 https://arxiv.org/abs/1703.04977 | 事実 |
| 機械学習の偶然の不確かさと知識の不確かさを、概念と方法から紹介する解説論文であること(題名) | Hüllermeier と Waegeman(2021)の題名・書誌 出典2 https://doi.org/10.1007/s10994-021-05946-3 | 事実 |
| 実験どうしの生成エネルギーの平均絶対誤差 0.082 eV/原子(驚くほど大きい) | Kirklin ら(2015)の要旨 出典3 https://doi.org/10.1038/npjcompumats.2015.10 | 事実 |
| JCGM 100:2008(GUM、2008年9月)の題名と、測定の不確かさの定義 | BIPM 公開の PDF(確認日 2026年10月22日) 出典4 https://www.bipm.org/documents/20126/2071204/JCGM_100_2008_E.pdf/cb0ef43f-baa5-11cf-3f85-4dcd86f77bd6?version=1.24&t=1775224054694&download=true | 事実 |
| ISO 5725-1:2023(2023年7月)の番号・題名・発行年月 | ISO のページ(確認日 2026年10月22日) 出典5 https://www.iso.org/standard/69418.html | 事実 |
| MIの予測が通常は内挿的で、外挿には予測の不確かさの考慮が必要なこと | Ramprasad ら(2017)の要旨 出典6 https://doi.org/10.1038/s41524-017-0056-5 | 事実 |
| 深層アンサンブルが、実装が簡単で並列化でき、よく校正された不確かさを得られる方法として提案されたこと | Lakshminarayanan らの要旨 出典7 https://arxiv.org/abs/1612.01474 | 事実 |
| バギングとランダムフォレストの予測の標準誤差の見積り方を示したこと | Wager ら(2014)の要旨 出典8 https://jmlr.org/papers/v15/wager14a.html | 事実 |
| ガウス過程の予測が確率的で経験的な信頼区間を計算できること。記述子の数が数十を超える高次元で効率が落ちること。標準的な教科書の存在 | scikit-learn のユーザーガイドと、書籍のウェブページ 出典9 https://scikit-learn.org/stable/modules/gaussian_process.html 出典10 https://gaussianprocess.org/gpml/ | 事実 |
| コンフォーマル予測が、任意のモデルに使え、分布に関する仮定なしに、指定した確率で真の値を含む区間・集合を作れること。分布のずれなどへの拡張 | Angelopoulos と Bates の要旨 出典11 https://arxiv.org/abs/2107.07511 | 事実 |
| 不確かさの見積りを持つモデルで、探索と活用を組み合わせて次の実験を提案し、4つの材料科学の試験事例で、無作為の平均3分の1の測定回数で最適な候補が見つかったこと | Ling ら(2017)の要旨 出典12 https://doi.org/10.1007/s40192-017-0098-z | 事実 |
| 不確かさの見積りの質を、精度・校正・鋭さで調べる図と指標を紹介したこと | Tran ら(2020)の要旨 出典13 https://doi.org/10.1088/2632-2153/ab7e1a | 事実 |
| 現代のニューラルネットワークは校正が悪いこと。温度スケーリングが驚くほど有効なことが多いこと | Guo らの要旨 出典14 https://arxiv.org/abs/1706.04599 | 事実 |
| 5つの回帰データで、試した不確かさの見積り方法のうち、すべてで優れるものはなく、誤差の順位づけが信頼できるものもなかったこと | Hirschfeld ら(2020)の要旨 出典15 https://doi.org/10.1021/acs.jcim.0c00502 | 事実 |
| 偏りのあるデータでは標準的な評価が崩れること。モデル自身の確信度は信頼できないこと | Kailkhura ら(2019)の要旨 出典16 https://doi.org/10.1038/s41524-019-0248-2 | 事実 |
| OECD の(Q)SAR 検証の5つの原則(第3が明確な適用範囲)の紹介。信頼できる予測が、学習化合物に構造が似た問い合わせに限られること。適用範囲の4つの分類(範囲、幾何、距離、確率密度)。凸包と確率密度の方法が範囲外と判定する数が最も多く、距離に基づく方法は妥当な数であること。方法で特徴づけが変わること | Sahigara ら(2012)の本文 出典17 https://pmc.ncbi.nlm.nih.gov/articles/PMC6268288/ | 事実 |
| 平均誤差が同じモデルでも適用範囲が違うこと。部分群の発見で適用範囲を見つける方法。透明導電性酸化物の生成エネルギーの予測での3つのモデルの比較 | Sutton ら(2020)の要旨 出典18 https://doi.org/10.1038/s41467-020-17112-9 | 事実 |
| 従来の機械学習の指標が材料探索の性能を過大評価すること | Meredig ら(2018)の要旨の冒頭の文(OpenAlex で確認) 出典19 https://doi.org/10.1039/C8ME00012C | 事実 |
| k分割m段階の前方交差検証の提案。通常の交差検証では良くても探索的な予測の力は非常に低いこと | Xiong ら(2020)の要旨 出典20 https://doi.org/10.1016/j.commatsci.2019.109203 | 事実 |
| データの最大95%を除いても分布内の性能がほとんど変わらず、分布外の悪化は防げないこと。不確かさにもとづく能動学習が、はるかに小さいのに同等に情報のあるデータセットを作れること | Li ら(2023)の要旨 出典21 https://doi.org/10.1038/s41467-023-42992-y | 事実 |
| NIST AI RMF 1.0(NIST AI 100-1、2023年1月)の番号・題名。「有効で信頼できる」の記述(不正確、信頼できない、学習範囲を超えた一般化が悪い AI の配備が負のリスクを生む)。自主的な利用を前提とすること | NIST AI 100-1 の本文 出典22 https://doi.org/10.6028/NIST.AI.100-1 | 事実 |
| ISO/IEC 23053:2022(2022年6月)の番号・題名・発行年月 | ISO のページ(確認日 2026年10月22日) 出典23 https://www.iso.org/standard/74438.html | 事実 |
| 範囲の内外での95%区間の当たる割合(ガウス過程 95%/81%、3近傍アンサンブル 86%/24%、3次多項式アンサンブル 91%/92%)、箱・凸包・距離の比較(29%、35%)、距離帯ごとの誤差(0.015〜1.92、平均を返す予測 1.27) | 本稿の計算(Python・NumPy。合成データ、乱数の種を固定、200回の平均など)。実在の材料のデータの結果ではない。手法の優劣を示すものではない | 本稿の計算 |
| OECD の原則の原文、コンフォーマル予測の保証の細部、他の不確かさの手法、材料での適用範囲の方法の優劣、機械学習の予測の不確かさに特化した国際標準、ISO 規格の本文 | 本稿の調査範囲でアクセスできた一次情報では確認できなかったため記載していない(OECD のサイトは自動アクセスの制限で開けなかった) | 解説 |
| 「地図の推測」のたとえ、各「素材技術者の視点」、使い方の流れ、評価の読み方の注意 | 公表内容にもとづく本記事の整理・解説。各機関が表明した見解ではない | 解説 |
| 図が実データの観察ではなく、説明のための作図であること。ヒーロー画像と図8がImageGen生成の概念画像であること | 本記事による注記 | 解説 |
最終更新:2026年10月22日/出典は一次情報(査読論文、arXiv の論文、scikit-learn・NIST・ISO・BIPM の公式ページ)に限定しています。ISO/IEC 規格の本文は有料のため確認できていません。OECD の原則は、オープンアクセスの論文による紹介を使っています。 第4・6・7章の数値実験は本稿が作った合成データの計算で、実在の材料の結果ではなく、手法の優劣を示すものでもありません。 OECD の原則の原文、コンフォーマル予測の保証の細部、材料での適用範囲の方法の優劣、機械学習の予測の不確かさに特化した国際標準については、確認できなかったため記載していません。 図はすべて説明用の概念図または本稿の計算を含む作図で、ヒーロー画像と図8はImageGen生成の概念画像です。


