8件ヒット
[1-8件を表示]
（0.031秒）
:![[x]](/images/drop-condition-icon.png "条件を削除"){kind=icon}
:
:to_d種類
- インスタンスメソッド (7)
- モジュール関数 (1)
クラス
- BigDecimal (2)
- Float (2)
- Integer (1)
- Rational (1)
- String (1)
モジュール
- LUSolve (1)
検索結果
先頭5件
-
Float
# to _ d -> BigDecimal (54400.0) -
自身を BigDecimal に変換します。
...自身を BigDecimal に変換します。
@param prec 計算結果の精度。省略した場合は Float::DIG + 1 です。
@return BigDecimal に変換したオブジェクト
//emlist[][ruby]{
require 'bigdecimal'
require 'bigdecimal/util'
p 1.0.to_d # => 0.1e1
p (1.0 / 0).to_d # => I... -
Float
# to _ d(prec) -> BigDecimal (54400.0) -
自身を BigDecimal に変換します。
...自身を BigDecimal に変換します。
@param prec 計算結果の精度。省略した場合は Float::DIG + 1 です。
@return BigDecimal に変換したオブジェクト
//emlist[][ruby]{
require 'bigdecimal'
require 'bigdecimal/util'
p 1.0.to_d # => 0.1e1
p (1.0 / 0).to_d # => I... -
Rational
# to _ d(nFig) -> BigDecimal (54343.0) -
自身を BigDecimal に変換します。
...自身を BigDecimal に変換します。
nFig 桁まで計算を行います。
@param nFig 計算を行う桁数
@return BigDecimal に変換したオブジェクト
@raise ArgumentError nFig に 0 以下を指定した場合に発生します。
//emlist[][ruby]{
require "bigdecimal"
requir... -
BigDecimal
# to _ d -> BigDecimal (54307.0) -
自身を返します。
...自身を返します。
@return BigDecimal オブジェクト... -
Integer
# to _ d -> BigDecimal (54307.0) -
自身を BigDecimal に変換します。BigDecimal(self) と同じです。
...自身を BigDecimal に変換します。BigDecimal(self) と同じです。
@return BigDecimal に変換したオブジェクト... -
String
# to _ d -> BigDecimal (54307.0) -
自身を BigDecimal に変換します。BigDecimal(self) と同じです。
...自身を BigDecimal に変換します。BigDecimal(self) と同じです。
@return BigDecimal に変換したオブジェクト... -
BigDecimal
# to _ digits -> String (18304.0) -
自身を "1234.567" のような十進数の形式にフォーマットした文字列に変換し ます。
...自身を "1234.567" のような十進数の形式にフォーマットした文字列に変換し
ます。
@return 十進数の形式にフォーマットした文字列
注意:
このメソッドは非推奨です。BigDecimal#to_s("F") を使用してください。... -
LUSolve
. # lusolve(a , b , ps , zero = 0 . 0) -> [BigDecimal] (76.0) -
LU 分解を用いて、連立1次方程式 Ax = b の解 x を求めて返します。
...返します。
@param a 行列を BigDecimal の配列で指定します。
各要素を Row-major order で並べて 1 次元の配列にし、
LUSolve.#ludecomp で変換したものを指定します。
@param b ベクトルを BigDecimal の配列で指定します。
@para......ludecomp の返り値を指定します。
@param zero 0.0 を表す値を指定します。
//emlist[][ruby]{
require 'bigdecimal'
require 'bigdecimal/util'
require 'bigdecimal/ludcmp'
include LUSolve
a = [['1.0', '2.0'], ['3.0', '1.0']].flatten.map(&:to_d)
# x = ['1.0', -1.0']
b = ['-1.0', '2....