るりまサーチ

最速Rubyリファレンスマニュアル検索!
84件ヒット [1-84件を表示] (0.087秒)

別のキーワード

  1. bigdecimal/util to_d
  2. bigdecimal round
  3. bigdecimal div
  4. bigdecimal to_s
  5. bigdecimal ceil

ライブラリ

クラス

キーワード

検索結果

BigDecimal#nan? -> bool (23118.0)

self が NaN のときに true を返します。それ以外のときに false を返します。

...self が NaN のときに true を返します。それ以外のときに false を返します。...

BigDecimal#sign -> -3 | -2 | -1 | 0 | 1 | 2 | 3 (17139.0)

自身の符号等の性質に応じて、Integer を返します。

...れば負の整数を返し、NaN であれば 0 を返します。

NaN
であれば、 0。 BigDecimal::SIGN_NaN と同じです。
+0 であれば、 1。 BigDecimal::SIGN_POSITIVE_ZERO と同じです。
-0 であれば、-1。 BigDecimal::SIGN_NEGATIVE_ZERO と同...
...ば、 2。 BigDecimal::SIGN_POSITIVE_FINITE と同じです。
有限の負の値 であれば、-2。 BigDecimal::SIGN_NEGATIVE_FINITE と同じです。
+Infinity であれば、 3。 BigDecimal::SIGN_POSITIVE_INFINITE と同じです。
-Infinity であれば、-3。 BigDecimal::SIGN_NEG...
...です。

BigDecimal
は、 0 であっても、+ か - の符号を持つことに注意して下さい。
(「lib:bigdecimal#internal_structure」を参照)

//emlist[][ruby]{
require "bigdecimal"

p BigDecimal("NaN").sign # => 0
p BigDecimal("0").sign # => 1
p BigDecimal("100").s...

BigDecimal#split -> [Integer, String, Integer, Integer] (17051.0)

BigDecimal 値を 0.xxxxxxx*10**n と表現したときに、 符号 (NaNのときは 0、それ以外は+1か-1になります)、 仮数部分の文字列("xxxxxxx")と、基数(10)、更に指数 n を配列で返します。

...
BigDecimal
値を 0.xxxxxxx*10**n と表現したときに、
符号 (NaNのときは 0、それ以外は+1か-1になります)、
仮数部分の文字列("xxxxxxx")と、基数(10)、更に指数 n を配列で返します。

//emlist[][ruby]{
require "bigdecimal"
a = BigDecimal("3.14159265")
f...
..., x, y, z = a.split
//}

とすると、f = 1、x = "314159265"、y = 10、z = 1 になります。
従って、以下のようにする事で Float に変換することができます。

//emlist[][ruby]{
s = "0."+x
b = f*(s.to_f)*(y**z)
//}

@see BigDecimal#to_f...

BigDecimal#finite? -> bool (17017.0)

self が ∞または NaN でないときに true を返します。それ以外のときに false を返します。

...self が ∞または NaN でないときに true を返します。それ以外のときに
false を返します。...

BigDecimal#to_i -> Integer (17007.0)

self の小数点以下を切り捨てて整数に変換します。

...self の小数点以下を切り捨てて整数に変換します。

@raise FloatDomainError self が無限大や NaN であった場合に発生します。...

絞り込み条件を変える

BigDecimal#to_int -> Integer (17007.0)

self の小数点以下を切り捨てて整数に変換します。

...self の小数点以下を切り捨てて整数に変換します。

@raise FloatDomainError self が無限大や NaN であった場合に発生します。...

Matrix#determinant -> Numeric (3107.0)

行列式 (determinant) の値を返します。

...行列式 (determinant) の値を返します。

Float を使用すると、精度が不足するため、誤った結果が生じる可能性があることに注意してください。
代わりに、Rational や BigDecimal などの正確なオブジェクトを使用することを検討し...