CIEは、人間の視覚応答を光の380nmから780nmの範囲と定義し、ユーザーが波長における機器の測定値にその波長における対応する人間の視覚応答の重みを乗算し、すべての測定波長についてこのデータを合計することによって、スペクトル曲線から色を決定できるように重み付けテーブルを提供しています。これらの表は、1nm、5nm、10nmの間隔で提供されます。クリティカルでない測定では、20nmから133nmのような大きなインターバルが採用され、アブライド加重テーブルが使用されます。分解能とは、計算に使用したデータポイントの数を意味する。2つの赤いペンキを測定し、その色を計算するとします。1nmの加重を使うのは研究機関か国家計量研究所だけなので、この議論では使わないことにしよう。使用する測定器にもよりますが、重要な色の決定には80または40のスペクトル結果を合計することになり、重要でない測定には20または3つの結果を合計するだけになるかもしれません。
スペクトル分解能はさらに、スペクトル結果内にいくつの測定点があるかを定義することができる。固定アレイ検出器を使用する場合、測定されたスペクトルの中にいくつのアレイ要素(ピクセル)があるかということです。400nmの範囲(380nm-780nm)を想定した場合、例えば256または128ピクセルとなり、1.56nm/ピクセルまたは3.125nm/ピクセルとなります。
解像度とは何か?
データ分解能には、空間分解能、スペクトル分解能、ラジオメトリック分解能、時間分解能の4種類がある。多くの観測機器は、1つまたは2つの解像度を同時に取得することができるが、4つすべての解像度を実現できる機器はまれである。この現象は解像度のトレードオフとして知られている。ほとんどの装置は、最も一般的に使用されるタイプの分解能、すなわち空間分解能と分光分解能を測定する。空間解像度と分光解像度を組み合わせることで、科学者は色、空間、ディテールなどの要素を定量的に測定することができる。