検索結果

String#to_f -> Float (63823.0)

• 2.1.0

• インスタンスメソッド

文字列を 10 進数表現と解釈して、浮動小数点数 Float に変換します。

文字列を 10 進数表現と解釈して、浮動小数点数 Float に変換します。

浮動小数点数とみなせなくなるところまでを変換対象とします。
途中に変換できないような文字列がある場合、それより先の文字列は無視されます。

//emlist[][ruby]{
p "-10".to_f # => -10.0
p "10e2".to_f # => 1000.0
p "1e-2".to_f # => 0.01
p ".1".to_f # => 0.1

p "1_0_0".to_f # => 100.0 # 数値リテラルと同じように区切りに _ を使える
p " \n10".to_f ...

• Float
• String

Matrix#elements_to_f -> Matrix (45925.0)

• 2.1.0

• インスタンスメソッド

各要素を浮動小数点数 Float に変換した行列を返します。

各要素を浮動小数点数 Float に変換した行列を返します。

このメソッドは deprecated です。 map(&:to_f) を使ってください。

• Float
• Matrix

BigDecimal#truncate(n) -> BigDecimal (27640.0)

• 2.1.0

• インスタンスメソッド

小数点以下の数を切り捨てて整数にします。

小数点以下の数を切り捨てて整数にします。

@param n 小数点以下の桁数を整数で指定します。

以下のように引数を与えて、小数点以下 n+1 位の数字を操作することもできます。
n が正の時は、小数点以下 n+1 位の数字を切り捨てます
(小数点以下を、最大 n 桁にします)。
n が負のときは小数点以上 n 桁目を操作します
(小数点位置から左に少なくとも n 個の 0 が並びます)。

//emlist[][ruby]{
require "bigdecimal"
BigDecimal("1.23456").truncate(4).to_f # => 1.2345
BigDec...

• BigDecimal

BigDecimal#truncate -> Integer (27340.0)

• 2.1.0

• インスタンスメソッド

小数点以下の数を切り捨てて整数にします。

小数点以下の数を切り捨てて整数にします。

@param n 小数点以下の桁数を整数で指定します。

以下のように引数を与えて、小数点以下 n+1 位の数字を操作することもできます。
n が正の時は、小数点以下 n+1 位の数字を切り捨てます
(小数点以下を、最大 n 桁にします)。
n が負のときは小数点以上 n 桁目を操作します
(小数点位置から左に少なくとも n 個の 0 が並びます)。

//emlist[][ruby]{
require "bigdecimal"
BigDecimal("1.23456").truncate(4).to_f # => 1.2345
BigDec...

• BigDecimal

BigDecimal#split -> [Integer, String, Integer, Integer] (18640.0)

• 2.1.0

• インスタンスメソッド

BigDecimal 値を 0.xxxxxxx*10**n と表現したときに、 符号 (NaNのときは 0、それ以外は+1か-1になります)、 仮数部分の文字列("xxxxxxx")と、基数(10)、更に指数 n を配列で返します。

BigDecimal 値を 0.xxxxxxx*10**n と表現したときに、
符号 (NaNのときは 0、それ以外は+1か-1になります)、
仮数部分の文字列("xxxxxxx")と、基数(10)、更に指数 n を配列で返します。

//emlist[][ruby]{
require "bigdecimal"
a = BigDecimal("3.14159265")
f, x, y, z = a.split
//}

とすると、f = 1、x = "314159265"、y = 10、z = 1 になります。
従って、以下のようにする事で Float に変換することができます。

//em...

• BigDecimal
• Float

絞り込み条件を変える

Rational#truncate(precision = 0) -> Rational | Integer (18622.0)

• 2.1.0

• インスタンスメソッド

小数点以下を切り捨てて値を整数に変換します。

小数点以下を切り捨てて値を整数に変換します。

@param precision 計算結果の精度

@raise TypeError precision に整数以外のものを指定すると発生します。

//emlist[例][ruby]{
Rational(2, 3).to_i # => 0
Rational(3).to_i # => 3
Rational(300.6).to_i # => 300
Rational(98, 71).to_i # => 1
Rational(-31, 2).to_i # => -15
//}

precision を指定した場合は指定した桁数で切り...

• Rational