语言
没有数据
通知
无通知
(3FF16進) = 1023 指数部バイアスは、エクセスNとも言う。詳しくは符号付数値表現を参照されたい。真の指数値は、指数部の値から指数部バイアスを引いた値となる。 00016進 と 7FF16進 は予約された指数値である。 00016進 は 0(仮数部も0)と非正規化数(仮数部が0でない)を表現するのに使われる。
四倍精度浮動小数点形式(よんばいせいどふどうしょうすうてん、英語: quadruple-precision floating-point format)は、浮動小数点数の形式の1つで、よく使われている通常の倍精度形式と比して、仮数部の長さが約2倍である。 Nicholas J. Higham『Accuracy
48000016 ここで仮数部に暗黙の整数ビットを加える。 仮数: 1100 1000 0000 0000 0000 00002 = C8000016 指数部の値から127を引いて実際の指数値を得る。 指数部の値: 8316 = 131 本来の指数: 131 − 127 = 4 24ビットの仮数は最上位ビットが1に対応し、次の桁が0
半精度浮動小数点数(はんせいどふどうしょうすうてんすう、英: half-precision floating point number)は浮動小数点方式で表現された数(浮動小数点数)の一種で、16ビット(2オクテット)の形式によりコンピュータ上で表現可能な浮動小数点数である。 IEEE
(−1)符号部 × 2指数部 − 15 ×(1 + 仮数部) 単精度の場合: (−1)符号部 × 2指数部 − 127 ×(1 + 仮数部) 倍精度の場合: (−1)符号部 × 2指数部 − 1023 ×(1 + 仮数部) 四倍精度の場合: (−1)符号部 × 2指数部 − 16383 ×(1 + 仮数部)
a の倍数かつ b の倍数であるものを a と b の公倍数という(3個以上の場合でも同様)。ab は a と b の公倍数である。公倍数のうち最小の正の数を最小公倍数という。 a と b の公倍数は a と b の最小公倍数の倍数である。 a の倍数の倍数は a の倍数である。 P, Q
8 を「三二・八」と表記する。 日本語では小数点を「コンマ」と言い表すことがあり、例えば、0.3秒を「コンマ3秒」と言う。また「コンマ以下(人の価値、度量、人物が人並み以下であること)」という言い回しがある。これらは、明治期に小数点としてコンマを用いるフランスの方式が入ったことによる(#日本におけるフランス式)。
汎整数拡張(はんせいすうかくちょう、英: integral promotion)とは、C言語およびC++において整数の扱いをする上で、ある条件のもとにその整数の型を格上げ、あるいは格下げする変換のことをいう。JIS X 3010:2003(C99相当)では「整数拡張」(integer promotion)