検索結果

bigdecimal (38610.0)

• 2.1.0
• 2.2.0
• 2.3.0
• 2.4.0
• 2.5.0
• 2.6.0
• 2.7.0
• 3.0
• 3.1
• 3.2
• 3.3
• 3.4

• ライブラリ

bigdecimal は浮動小数点数演算ライブラリです。 任意の精度で 10 進表現された浮動小数点数を扱えます。

...bigdecimal は浮動小数点数演算ライブラリです。
任意の精度で 10 進表現された浮動小数点数を扱えます。

//emlist[][ruby]{
require 'bigdecimal'
a = BigDecimal("0.123456789123456789")
b = BigDecimal("123456.78912345678", 40)
print a + b # => 0.123456912580245903456...

...に対し、BigDecimal では正確な値を得る事ができます。

//emlist[例1: 0.0001 を 10000 回足す場合。][ruby]{
sum = 0
for i in (1..10000)
sum = sum + 0.0001
end
print sum # => 0.9999999999999062
//}

//emlist[例2: 0.0001 を 10000 回足す場合。(BigDecimal)][ruby]{
requi...

...ruby]{
require "bigdecimal/math"
//}

とすることで、sin や cos といった関数が使用できるようになります。
使用方法など、詳細は bigdecimal/math を参照して下さい。 その他、Float との相互変換などの
メソッドが bigdecimal/util でサポート...

• BigDecimal
• BigMath
• bigdecimal/jacobian
• bigdecimal/ludcmp
• bigdecimal/math
• bigdecimal/newton
• bigdecimal/util

bigdecimal/util (12046.0)

• 2.1.0
• 2.2.0
• 2.3.0
• 2.4.0
• 2.5.0
• 2.6.0
• 2.7.0
• 3.0
• 3.1
• 3.2
• 3.3
• 3.4

• ライブラリ

String、Integer、Float、Rational オブジェクトを BigDecimal オブジェクトに変換する機能を提供します。

...を
BigDecimal オブジェクトに変換する機能を提供します。

* String#to_d
* Integer#to_d
* Float#to_d
* Rational#to_d


これらのメソッドを使うには 'bigdecimal/util' を require する必要があります。

なお、Ruby 2.6.0 以降では、'bigdecimal/util' を...

...require すると、
'bigdecimal' 本体も require されます。...

...at、Rational, NilClass オブジェクトを
BigDecimal オブジェクトに変換する機能を提供します。

* String#to_d
* Integer#to_d
* Float#to_d
* Rational#to_d
* NilClass#to_d


これらのメソッドを使うには 'bigdecimal/util' を require する必要があります。...

...なお、Ruby 2.6.0 以降では、'bigdecimal/util' を require すると、
'bigdecimal' 本体も require されます。...

• to_d
• to_digits

Float#to_d -> BigDecimal (142.0)

• 2.1.0
• 2.2.0
• 2.3.0
• 2.4.0
• 2.5.0
• 2.6.0
• 2.7.0
• 3.0
• 3.1
• 3.2
• 3.3
• 3.4

• インスタンスメソッド

自身を BigDecimal に変換します。

...自身を BigDecimal に変換します。

@param prec 計算結果の精度。省略した場合は Float::DIG + 1 です。

@return BigDecimal に変換したオブジェクト

//emlist[][ruby]{
require 'bigdecimal'
require 'bigdecimal/util'

p 1.0.to_d # => 0.1e1
p (1.0 / 0).to_d # => I...

• BigDecimal
• Float

Float#to_d(prec) -> BigDecimal (142.0)

• 2.1.0
• 2.2.0
• 2.3.0
• 2.4.0
• 2.5.0
• 2.6.0
• 2.7.0
• 3.0
• 3.1
• 3.2
• 3.3
• 3.4

• インスタンスメソッド

自身を BigDecimal に変換します。

...自身を BigDecimal に変換します。

@param prec 計算結果の精度。省略した場合は Float::DIG + 1 です。

@return BigDecimal に変換したオブジェクト

//emlist[][ruby]{
require 'bigdecimal'
require 'bigdecimal/util'

p 1.0.to_d # => 0.1e1
p (1.0 / 0).to_d # => I...

• BigDecimal
• Float

Rational#to_d(nFig) -> BigDecimal (141.0)

• 2.1.0
• 2.2.0
• 2.3.0
• 2.4.0
• 2.5.0
• 2.6.0
• 2.7.0
• 3.0
• 3.1
• 3.2
• 3.3
• 3.4

• インスタンスメソッド

自身を BigDecimal に変換します。

...自身を BigDecimal に変換します。

nFig 桁まで計算を行います。

@param nFig 計算を行う桁数

@return BigDecimal に変換したオブジェクト

@raise ArgumentError nFig に 0 以下を指定した場合に発生します。

//emlist[][ruby]{
require "bigdecimal"
requir...

...e "bigdecimal/util"
p Rational(1, 3).to_d(3) # => 0.333e0
p Rational(1, 3).to_d(10) # => 0.3333333333e0
//}...

• BigDecimal
• Rational

絞り込み条件を変える

LUSolve.#lusolve(a, b, ps, zero = 0.0) -> [BigDecimal] (137.0)

• 2.1.0
• 2.2.0
• 2.3.0
• 2.4.0
• 2.5.0
• 2.6.0
• 2.7.0
• 3.0
• 3.1
• 3.2
• 3.3
• 3.4

• モジュール関数

LU 分解を用いて、連立1次方程式 Ax = b の解 x を求めて返します。

...返します。

@param a 行列を BigDecimal の配列で指定します。
各要素を Row-major order で並べて 1 次元の配列にし、
LUSolve.#ludecomp で変換したものを指定します。

@param b ベクトルを BigDecimal の配列で指定します。

@para...

...ludecomp の返り値を指定します。

@param zero 0.0 を表す値を指定します。

//emlist[][ruby]{
require 'bigdecimal'
require 'bigdecimal/util'
require 'bigdecimal/ludcmp'

include LUSolve

a = [['1.0', '2.0'], ['3.0', '1.0']].flatten.map(&:to_d)
# x = ['1.0', -1.0']
b = ['-1.0', '2....

• BigDecimal
• LUSolve

NilClass#to_d -> BigDecimal (135.0)

• 2.6.0
• 2.7.0
• 3.0
• 3.1
• 3.2
• 3.3
• 3.4

• インスタンスメソッド

BigDecimal オブジェクトの 0.0 を返します。

...
BigDecimal オブジェクトの 0.0 を返します。

Ruby 2.6 で追加されたメソッドです。

//emlist[][ruby]{
require "bigdecimal"
require "bigdecimal/util"

p nil.to_d # => 0.0
//}...

• BigDecimal
• NilClass