るりまサーチ

最速Rubyリファレンスマニュアル検索!
66件ヒット [1-66件を表示] (0.013秒)

別のキーワード

  1. bigdecimal frac
  2. frac bigdecimal

ライブラリ

クラス

キーワード

検索結果

BigDecimal#frac -> BigDecimal (18101.0)

self の小数部分を新しい BigDecimal オブジェクトにして返します。

self の小数部分を新しい BigDecimal オブジェクトにして返します。

DateTime#sec_fraction -> Rational (6100.0)

秒の小数点以下の部分を表す分数を返します。

秒の小数点以下の部分を表す分数を返します。

DateTime#second_fraction -> Rational (6100.0)

秒の小数点以下の部分を表す分数を返します。

秒の小数点以下の部分を表す分数を返します。

Time#iso8601(fractional_seconds = 0) -> String (100.0)

XML Schema で定義されている dateTime として 表現される形式の文字列を返します。

...として
表現される形式の文字列をパースするためのクラスメソッド
Time.iso8601, Time.xmlschema もあります。

@param fractional_seconds 小数点以下の秒の桁数を整数で指定します。
省略した場合は0 となります。

@r...

Time#xmlschema(fractional_seconds = 0) -> String (100.0)

XML Schema で定義されている dateTime として 表現される形式の文字列を返します。

...として
表現される形式の文字列をパースするためのクラスメソッド
Time.iso8601, Time.xmlschema もあります。

@param fractional_seconds 小数点以下の秒の桁数を整数で指定します。
省略した場合は0 となります。

@r...

絞り込み条件を変える

bigdecimal (72.0)

bigdecimal は浮動小数点数演算ライブラリです。 任意の精度で 10 進表現された浮動小数点数を扱えます。

...Decimal内部で浮動小数点は構造体(Real)で表現されます。
そのうち仮数部は unsigned long の配列 (以下の構造体要素 frac) で管理されます。
概念的には、以下のようになります。

<浮動小数点数> = 0.xxxxxxxxx * BASE ** n

ここで、x は...
...配列 (frac) の各要素には最大で 4 桁の数字が格納されます。

浮動小数点構造体 (Real) は以下のようになっています。

typedef struct {
unsigned long MaxPrec; // 最大精度(frac[]の配列サイズ)
unsigned long Prec; // 精度(frac[]の使用...
...値(仮数部*BASE**exponent)
unsigned long frac[1]; // 仮数部の配列(可変)
} Real;

例えば BASE=10000 のとき 1234.56784321 という数字は、

0.1234 5678 4321*(10000)**1

ですから frac[0] = 1234、frac[1] = 5678、frac[2] = 4321、
Prec = 3、sign = 2、exponent = 1...