クエリ:to_f > クエリ:truncate > 種類:ライブラリ

すべて(11)
2.1.0(1)
2.2.0(1)
2.3.0(1)
2.4.0(1)
2.5.0(1)
2.6.0(1)
2.7.0(1)
3.0(1)
3.1(1)
3.2(1)
3.3(1)

11件ヒット [1-11件を表示] （0.214秒）

トップページ >

:to_f

:truncate

:ライブラリ

別のキーワード

_builtin new
_builtin inspect
_builtin []
_builtin to_s
_builtin each

検索結果

bigdecimal (13.0)

2.1.0
2.2.0
2.3.0
2.4.0
2.5.0
2.6.0
2.7.0
3.0
3.1
3.2
3.3

ライブラリ

bigdecimal は浮動小数点数演算ライブラリです。任意の精度で 10 進表現された浮動小数点数を扱えます。

...s = s + BigDecimal(line)
end
puts s # => 0.3e0
end

File::open("digits.txt", "r") do |file|
s = 0
while line = file.gets
s = s + line.to_f
end
puts s # => 0.30000000000000004
end
//}

2 進数で計算すると誤差が入る可能性があります。
例えば 0.1 を2進で表...

...を指定できます。

//emlist[][ruby]{
require "bigdecimal"
p BigDecimal("2").div(3, 12).to_s(10) # 2.0 / 3.0
# => 0.6666666666 67e0
//}

: truncate, round, ceil, floor

これらのメソッドは小数点からの相対位置を指定して桁数を決定します。

//emlist[][ruby]{
requ...

別のキーワード

検索結果

先頭1件

bigdecimal (13.0)