79件ヒット
[1-79件を表示]
(0.028秒)
種類
- インスタンスメソッド (43)
- ライブラリ (24)
- モジュール関数 (12)
ライブラリ
-
bigdecimal
/ ludcmp (12) -
bigdecimal
/ util (43)
モジュール
- LUSolve (12)
キーワード
- bigdecimal (12)
- lusolve (12)
-
to
_ d (43)
検索結果
先頭5件
-
bigdecimal
/ util (38018.0) -
String、Integer、Float、Rational, NilClass オブジェクトを BigDecimal オブジェクトに変換する機能を提供します。
...す。
* String#to_d
* Integer#to_d
* Float#to_d
* Rational#to_d
これらのメソッドを使うには 'bigdecimal/util' を require する必要があります。
なお、Ruby 2.6.0 以降では、'bigdecimal/util' を require すると、
'bigdecimal' 本体も require されます。......g#to_d
* Integer#to_d
* Float#to_d
* Rational#to_d
* NilClass#to_d
これらのメソッドを使うには 'bigdecimal/util' を require する必要があります。
なお、Ruby 2.6.0 以降では、'bigdecimal/util' を require すると、
'bigdecimal' 本体も require されます。... -
NilClass
# to _ d -> BigDecimal (8018.0) -
BigDecimal オブジェクトの 0.0 を返します。
...BigDecimal オブジェクトの 0.0 を返します。
Ruby 2.6 で追加されたメソッドです。
//emlist[][ruby]{
require "bigdecimal"
require "bigdecimal/util"
p nil.to_d # => 0.0
//}... -
Float
# to _ d -> BigDecimal (8012.0) -
自身を BigDecimal に変換します。
...精度。省略した場合は Float::DIG + 1 です。
@return BigDecimal に変換したオブジェクト
//emlist[][ruby]{
require 'bigdecimal'
require 'bigdecimal/util'
p 1.0.to_d # => 0.1e1
p (1.0 / 0).to_d # => Infinity
p (1.0 / 3).to_d / (2.0 / 3).to_d # => 0.5e0
p ((1.0 / 3) / (2... -
Float
# to _ d(prec) -> BigDecimal (8012.0) -
自身を BigDecimal に変換します。
...精度。省略した場合は Float::DIG + 1 です。
@return BigDecimal に変換したオブジェクト
//emlist[][ruby]{
require 'bigdecimal'
require 'bigdecimal/util'
p 1.0.to_d # => 0.1e1
p (1.0 / 0).to_d # => Infinity
p (1.0 / 3).to_d / (2.0 / 3).to_d # => 0.5e0
p ((1.0 / 3) / (2... -
Rational
# to _ d(nFig) -> BigDecimal (8012.0) -
自身を BigDecimal に変換します。
...桁数
@return BigDecimal に変換したオブジェクト
@raise ArgumentError nFig に 0 以下を指定した場合に発生します。
//emlist[][ruby]{
require "bigdecimal"
require "bigdecimal/util"
p Rational(1, 3).to_d(3) # => 0.333e0
p Rational(1, 3).to_d(10) # => 0.3333333333e0
//}... -
bigdecimal (168.0)
-
bigdecimal は浮動小数点数演算ライブラリです。 任意の精度で 10 進表現された浮動小数点数を扱えます。
...ecimal は浮動小数点数演算ライブラリです。
任意の精度で 10 進表現された浮動小数点数を扱えます。
//emlist[][ruby]{
require 'bigdecimal'
a = BigDecimal("0.123456789123456789")
b = BigDecimal("123456.78912345678", 40)
print a + b # => 0.123456912580245903456789e......きます。
//emlist[例1: 0.0001 を 10000 回足す場合。][ruby]{
sum = 0
for i in (1..10000)
sum = sum + 0.0001
end
print sum # => 0.9999999999999062
//}
//emlist[例2: 0.0001 を 10000 回足す場合。(BigDecimal)][ruby]{
require 'bigdecimal'
sum = BigDecimal("0")
for i in (1..10000)......mlist[][ruby]{
require "bigdecimal/math"
//}
とすることで、sin や cos といった関数が使用できるようになります。
使用方法など、詳細は bigdecimal/math を参照して下さい。 その他、Float との相互変換などの
メソッドが bigdecimal/util でサ... -
LUSolve
. # lusolve(a , b , ps , zero = 0 . 0) -> [BigDecimal] (12.0) -
LU 分解を用いて、連立1次方程式 Ax = b の解 x を求めて返します。
...param ps LUSolve.#ludecomp の返り値を指定します。
@param zero 0.0 を表す値を指定します。
//emlist[][ruby]{
require 'bigdecimal'
require 'bigdecimal/util'
require 'bigdecimal/ludcmp'
include LUSolve
a = [['1.0', '2.0'], ['3.0', '1.0']].flatten.map(&:to_d)
# x = ['1.0', -1.0'...