るりまサーチ

最速Rubyリファレンスマニュアル検索!
11件ヒット [1-11件を表示] (0.014秒)
トップページ > クエリ:real[x] > 種類:ライブラリ[x]

別のキーワード

  1. _builtin readable_real?
  2. _builtin writable_real?
  3. _builtin executable_real?
  4. matrix real
  5. matrix real?

検索結果

bigdecimal (19.0)

bigdecimal は浮動小数点数演算ライブラリです。 任意の精度で 10 進表現された浮動小数点数を扱えます。

...l が暗黙的に Integer に変換された結果です。

===[a:internal_structure] 内部構造

BigDecimal内部で浮動小数点は構造体(Real)で表現されます。
そのうち仮数部は unsigned long の配列 (以下の構造体要素 frac) で管理されます。
概念的には...
...000 のときは、以下の仮数部の配列 (frac) の各要素には最大で 4 桁の数字が格納されます。

浮動小数点構造体 (Real) は以下のようになっています。

typedef struct {
unsigned long MaxPrec; // 最大精度(frac[]の配列サイズ)
unsigned...
...フラッグ
int exponent; // 指数部の値(仮数部*BASE**exponent)
unsigned long frac[1]; // 仮数部の配列(可変)
} Real;

例えば BASE=10000 のとき 1234.56784321 という数字は、

0.1234 5678 4321*(10000)**1

ですから frac[0] = 1234、frac[1] = 5678...