语言
没有数据
通知
无通知
(1)測定・測量などにおける方法や計器の精密さ・正確さの程度。 普通, 測定される量の大きさに対する誤差の比で表す。
(3FF16進) = 1023 指数部バイアスは、エクセスNとも言う。詳しくは符号付数値表現を参照されたい。真の指数値は、指数部の値から指数部バイアスを引いた値となる。 00016進 と 7FF16進 は予約された指数値である。 00016進 は 0(仮数部も0)と非正規化数(仮数部が0でない)を表現するのに使われる。
※一※ (名)
して補正することは校正において必須とされる。 偏りと精度の合成された影響。 科学や工学では、正確度や精度を有効数字で暗に示すことが多い。つまり、明示的に示されなかった場合、誤差の範囲は最小有効桁の半分と見なされる。例えば、843.6m、843.0m、800.0m といった記録がある場合、誤差の範囲は
下2桁というように扱うので、絶対精度に相当する。浮動小数点数の算術では、仮数部の長さにもとづき丸められる。金融計算では小数点位置を基準として丸められる(例えば、国際通貨の為替レートは一般に小数点以下2桁で丸められる)。 最初に、「正確さ」の意味で「精度」という語が使われている場合もあると述べたように
四倍精度浮動小数点形式(よんばいせいどふどうしょうすうてん、英語: quadruple-precision floating-point format)は、浮動小数点数の形式の1つで、よく使われている通常の倍精度形式と比して、仮数部の長さが約2倍である。 Nicholas J. Higham『Accuracy
IEEE 754でも拡張倍精度について扱っているが、具体的な形式について定義はしていない。 半精度浮動小数点数 (16bit) 単精度浮動小数点数 (32bit) 倍精度浮動小数点数 (64bit) 拡張倍精度浮動小数点数 (80bit) 四倍精度浮動小数点数 (128bit) AIFF
高精細度ビデオ(こうせいさいどビデオ、high definition video, HD)とは、かつて広く普及していたアナログテレビ放送と比較して、高い解像度の映像である。海外においてはHDTV、HDと表記されることが多いが、日本においてはハイビジョンと呼ばれる。主な規格には以下のものがある。 720p