15件ヒット
[1-15件を表示]
（0.005秒）
:![[x]](/images/drop-condition-icon.png "条件を削除"){kind=icon}
:ライブラリキーワード
- bigdecimal (11)
- mathn (4)
検索結果
先頭2件
-
bigdecimal (37.0)
-
bigdecimal は浮動小数点数演算ライブラリです。 任意の精度で 10 進表現された浮動小数点数を扱えます。
...インスタンスメソッドを使用します。
: add, sub, mult, div
これらのメソッドは先頭 (最左) の数字からの桁数を指定できます。
//emlist[][ruby]{
require "bigdecimal"
p BigDecimal("2").div(3, 12).to_s(10) # 2.0 / 3.0
# => 0.6666666666 67e0
//}
: truncate,......}
==== 自分で精度をコントロールしたい場合
自分で精度(有効桁数)をコントロールしたい場合は add、sub、mult、div 等のメソッドが使用できます。
以下の円周率を計算するプログラム例のように、求める桁数は自分で指定す......exp)
t = t * m25
u = t.div(k,sig)
pi = pi + u
k = k + two
end
u = BigDecimal("1")
k = BigDecimal("1")
w = BigDecimal("1")
t = BigDecimal("956")
while (u.nonzero? && u.exponent >= exp )
t = t.div(m57121,sig)
u = t.div(k,sig)
pi = pi + u
k =... -
mathn (13.0)
-
Rational と Complex をよりシームレスに利用できるようにするライブラリです。数値ライブラリの挙動をグローバルに変更します。
...、整数/整数の結果、
割り切れない時は Rational が返るようになります。後者は、整数のメソッド「/」が整商(.div)でなく、商(.quo)を返すようになる、ということを意味します。
例:
1/2 #=> 0
2 * Rational(1,2) #=> Ration......可能性を留意して書いて下されば親切だと思います。
整数同士で整除を意図するならば / メソッド ではなく div メソッド を用いると良いでしょう。
* 1174
=== Prime
クラス Prime はRuby 1.8までは mathn で定義されていました。...