452件ヒット
[1-100件を表示]
（0.080秒）
:![[x]](/images/drop-condition-icon.png "条件を削除"){kind=icon}
別のキーワード
ライブラリ
- bigdecimal (166)
-
bigdecimal
/ jacobian (11) -
bigdecimal
/ ludcmp (11) -
bigdecimal
/ math (33) -
bigdecimal
/ newton (11) -
bigdecimal
/ util (72) -
json
/ add / bigdecimal (11) - matrix (33)
キーワード
-
1
. 6 . 8から1 . 8 . 0への変更点(まとめ) (11) - BigDecimal (22)
- INFINITY (11)
- NAN (11)
-
NEWS for Ruby 2
. 5 . 0 (7) -
NEWS for Ruby 2
. 6 . 0 (6) -
NEWS for Ruby 3
. 1 . 0 (3) - Ruby用語集 (11)
-
_ load (11) - atan (11)
-
bigdecimal
/ jacobian (11) -
bigdecimal
/ math (11) -
bigdecimal
/ newton (11) -
bigdecimal
/ util (11) - coerce (11)
- cos (11)
- det (11)
- determinant (11)
- exp (11)
- fix (11)
- frac (11)
- inspect (11)
- jacobian (11)
-
json
/ add / bigdecimal (11) -
json
_ create (11) - limit (11)
- log (11)
- ludecomp (11)
- new (12)
- nlsolve (11)
- rank (11)
- sin (11)
-
to
_ d (72) -
to
_ f (11) -
to
_ r (11)
検索結果
先頭5件
-
bigdecimal (38640.0)
-
bigdecimal は浮動小数点数演算ライブラリです。 任意の精度で 10 進表現された浮動小数点数を扱えます。
...bigdecimal は浮動小数点数演算ライブラリです。
任意の精度で 10 進表現された浮動小数点数を扱えます。
//emlist[][ruby]{
require 'bigdecimal'
a = BigDecimal("0.123456789123456789")
b = BigDecimal("123456.78912345678", 40)
print a + b # => 0.123456912580245903456......に対し、BigDecimal では正確な値を得る事ができます。
//emlist[例1: 0.0001 を 10000 回足す場合。][ruby]{
sum = 0
for i in (1..10000)
sum = sum + 0.0001
end
print sum # => 0.9999999999999062
//}
//emlist[例2: 0.0001 を 10000 回足す場合。(BigDecimal)][ruby]{
requi......大
BigDecimal による演算の際には無限大を表す値を返す場合があります。
//emlist[][ruby]{
require "bigdecimal"
BigDecimal("1.0") / BigDecimal("0.0") #=> Infinity
BigDecimal("-1.0") / BigDecimal("0.0") #=> -Infinity
//}
無限大を表す BigDecimal オブジェクトを... -
BigDecimal
. _ load(str) -> BigDecimal (17139.0) -
引数で指定された文字列を元に BigDecimal オブジェクトを復元します。 Marshal.#load から呼び出されます。
...文字列を元に BigDecimal オブジェクトを復元します。
Marshal.#load から呼び出されます。
@param str 復元する値を表す文字列を指定します。
@raise TypeError 引数に不正な文字が含まれる場合に発生します。
@see BigDecimal#_dump, Marshal.#... -
BigDecimal
. new(s) -> BigDecimal (17136.0) -
このメソッドは Ruby 2.5 から deprecated です。Kernel.#BigDecimal を使用してください。
...このメソッドは Ruby 2.5 から deprecated です。Kernel.#BigDecimal を使用してください。
新しい BigDecimal オブジェクトを生成します。
詳しくは Kernel.#BigDecimal を参照してください。... -
BigDecimal
. new(s , exception: true) -> BigDecimal | nil (17136.0) -
このメソッドは Ruby 2.5 から deprecated です。Kernel.#BigDecimal を使用してください。
...このメソッドは Ruby 2.5 から deprecated です。Kernel.#BigDecimal を使用してください。
新しい BigDecimal オブジェクトを生成します。
詳しくは Kernel.#BigDecimal を参照してください。... -
BigDecimal
. new(s , n) -> BigDecimal (17136.0) -
このメソッドは Ruby 2.5 から deprecated です。Kernel.#BigDecimal を使用してください。
...このメソッドは Ruby 2.5 から deprecated です。Kernel.#BigDecimal を使用してください。
新しい BigDecimal オブジェクトを生成します。
詳しくは Kernel.#BigDecimal を参照してください。... -
BigDecimal
. new(s , n , exception: true) -> BigDecimal | nil (17136.0) -
このメソッドは Ruby 2.5 から deprecated です。Kernel.#BigDecimal を使用してください。
...このメソッドは Ruby 2.5 から deprecated です。Kernel.#BigDecimal を使用してください。
新しい BigDecimal オブジェクトを生成します。
詳しくは Kernel.#BigDecimal を参照してください。... -
BigDecimal
# fix -> BigDecimal (17133.0) -
self の整数部分を新しい BigDecimal オブジェクトにして返します。
...self の整数部分を新しい BigDecimal オブジェクトにして返します。... -
BigDecimal
# frac -> BigDecimal (17133.0) -
self の小数部分を新しい BigDecimal オブジェクトにして返します。
...self の小数部分を新しい BigDecimal オブジェクトにして返します。... -
BigDecimal
:: INFINITY -> BigDecimal (17133.0) -
正の無限大を表す BigDecimal オブジェクトを返します。
...正の無限大を表す BigDecimal オブジェクトを返します。... -
BigDecimal
:: NAN -> BigDecimal (17133.0) -
NaN を表す BigDecimal オブジェクトを返します。
...NaN を表す BigDecimal オブジェクトを返します。... -
BigDecimal
. limit(n = nil) -> Integer (17098.0) -
生成されるBigDecimalオブジェクトの最大桁数をn桁に制限します。 n を指定しない、または n が nil の場合は、現状の最大桁数が返ります。
...生成されるBigDecimalオブジェクトの最大桁数をn桁に制限します。
n を指定しない、または n が nil の場合は、現状の最大桁数が返ります。
戻り値は設定する前の値です。設定値のデフォルト値は0で、桁数無制限を表してい......ます。この場合 BigDecimal.mode で指定された丸め処理が
実行されます。ただし、インスタンスメソッド (BigDecimal#truncate /
BigDecimal#round / BigDecimal#ceil / BigDecimal#floor /
BigDecimal#add/ BigDecimal#sub / BigDecimal#mult /
BigDecimal#div) の桁数制限は......limit より優先されます。
//emlist[][ruby]{
require 'bigdecimal'
n = 0 # デフォルト値
mf = BigDecimal::limit(n)
//}
@param n 新しい最大桁数を正の整数で指定します。
@raise ArgumentError n に負の数を指定した場合に発生します。... -
BigDecimal
# coerce(other) -> Array (17066.0) -
self と other が同じクラスになるよう、self か other を変換し [other, self] という配列にして返します。
...オブジェクト
BigDecimal#coerce は Ruby における強制型変換のための機能です。
BigDecimal オブジェクトとその他のオブジェクト間の各種の計算は
BigDecimal#coerce の結果を元に行われます。
//emlist[][ruby]{
require "bigdecimal"
a = BigDecimal("......1.0")
b = a / 2.0 # => 0.5e0
//}
other に Rational オブジェクトを指定した場合は self の有効桁数を
用いて変換を行います。
数値を表す文字列から BigDecimal オブジェクトに変換する機能はデフォ
ルトでは無効になっています。必要な...