63件ヒット
[1-63件を表示]
(0.129秒)
種類
- インスタンスメソッド (30)
- ライブラリ (11)
- 文書 (11)
- モジュール関数 (11)
ライブラリ
- ビルトイン (30)
- bigdecimal (11)
モジュール
- BigMath (11)
キーワード
- bigdecimal (11)
- pack (19)
- pack テンプレート文字列 (11)
- unpack (11)
検索結果
先頭5件
-
BigMath
. # exp(x , prec) -> BigDecimal (21219.0) -
x の指数関数を prec で指定した精度で計算します。
...。NaN を指定した場合には NaNを返します。
@param x 計算対象の数値を Integer、BigDecimal、
Float、Rationalオブジェクトのいずれかで指定します。
@param prec 計算結果の精度を指定します。
@raise ArgumentError x に Integer、BigDecimal......Float、Rational以外のオブジェクトを指
定した場合に発生します。
@raise ArgumentError prec に 0 以下の数値が指定された場合に発生します。
//emlist[][ruby]{
require "bigdecimal/math"
puts BigMath::exp(BigDecimal('1'), 10) #=> 0... -
bigdecimal (6108.0)
-
bigdecimal は浮動小数点数演算ライブラリです。 任意の精度で 10 進表現された浮動小数点数を扱えます。
...bigdecimal は浮動小数点数演算ライブラリです。
任意の精度で 10 進表現された浮動小数点数を扱えます。
//emlist[][ruby]{
require 'bigdecimal'
a = BigDecimal("0.123456789123456789")
b = BigDecimal("123456.78912345678", 40)
print a + b # => 0.123456912580245903456......cimal("+Infinity") # => Infinity
BigDecimal("-Infinity") # => -Infinity
//}
==== 非数(Not a Number)
0 / 0 のような未定義の計算を行った場合、非数(Not a Number)を表す値を返
します。
//emlist[][ruby]{
require "bigdecimal"
BigDecimal("0.0") / BigDecimal("0.0") # => NaN......: 負の値
// 3 : +Infinity
// -3 : -Infinity
unsigned short flag; // 各種の制御フラッグ
int exponent; // 指数部の値(仮数部*BASE**exponent)
unsigned long frac[1]; // 仮数部の配列(可変)... -
String
# unpack(template) -> Array (3234.0) -
Array#pack で生成された文字列を テンプレート文字列 template にしたがってアンパックし、 それらの要素を含む配列を返します。
...@param template pack テンプレート文字列
@return オブジェクトの配列
以下にあげるものは、Array#pack、String#unpack
のテンプレート文字の一覧です。テンプレート文字は後に「長さ」を表す数字
を続けることができます......m") # => "//8=\n"
["\xFF\xFF\xFF"].pack("m") # => "////\n"
["abcdefghijklmnopqrstuvwxyzABCDEFGHIJKLMNOPQRSTUVWXYZ"].pack("m")
# => "YWJjZGVmZ2hpamtsbW5vcHFyc3R1dnd4eXpBQkNERUZHSElKS0xNTk9QUVJT\nVFVWV1hZWg==\n"
["abcdefghijklmnopqrstuvwxyz"].pack("m3")
# => "YWJj\nZGVm\nZ2hp\namts\nbW5v\ncHFy\nc......x86_64 (IEEE754 単精度 リトルエンディアン):
//emlist[][ruby]{
[1.0].pack("f") # => "\x00\x00\x80?"
[0.0/0.0].pack("f") # => "\x00\x00\xC0\xFF" # NaN
[1.0/0.0].pack("f") # => "\x00\x00\x80\x7F" # +Infinity
[-1.0/0.0].pack("f") # => "\x00\x00\x80\xFF" # -Infinity
//}......m template pack テンプレート文字列
@return オブジェクトの配列
以下にあげるものは、Array#pack、String#unpack、String#unpack1
のテンプレート文字の一覧です。テンプレート文字は後に「長さ」を表す数字
を続けることがで......x86_64 (IEEE754 単精度 リトルエンディアン):
//emlist[][ruby]{
[1.0].pack("f") # => "\x00\x00\x80?"
[0.0/0.0].pack("f") # => "\x00\x00\xC0\x7F" # NaN
[1.0/0.0].pack("f") # => "\x00\x00\x80\x7F" # +Infinity
[-1.0/0.0].pack("f") # => "\x00\x00\x80\xFF" # -Infinity
//}... -
Array
# pack(template , buffer: String . new) -> String (434.0) -
配列の内容を template で指定された文字列にしたがって、 バイナリとしてパックした文字列を返します。
...生しないことを保証するものでは
ないことに注意してください。
buffer のサイズ(capacity)が足りなければ、packはメモリを確保します。
//emlist[例][ruby]{
['!'].pack('@1a', buffer: 'abc') # => "a!"
['!'].pack('@5a', buffer: 'abc') # => "abc\u0000\u000......m") # => "//8=\n"
["\xFF\xFF\xFF"].pack("m") # => "////\n"
["abcdefghijklmnopqrstuvwxyzABCDEFGHIJKLMNOPQRSTUVWXYZ"].pack("m")
# => "YWJjZGVmZ2hpamtsbW5vcHFyc3R1dnd4eXpBQkNERUZHSElKS0xNTk9QUVJT\nVFVWV1hZWg==\n"
["abcdefghijklmnopqrstuvwxyz"].pack("m3")
# => "YWJj\nZGVm\nZ2hp\namts\nbW5v\ncHFy\nc......x86_64 (IEEE754 単精度 リトルエンディアン):
//emlist[][ruby]{
[1.0].pack("f") # => "\x00\x00\x80?"
[0.0/0.0].pack("f") # => "\x00\x00\xC0\xFF" # NaN
[1.0/0.0].pack("f") # => "\x00\x00\x80\x7F" # +Infinity
[-1.0/0.0].pack("f") # => "\x00\x00\x80\xFF" # -Infinity
//}......x86_64 (IEEE754 単精度 リトルエンディアン):
//emlist[][ruby]{
[1.0].pack("f") # => "\x00\x00\x80?"
[0.0/0.0].pack("f") # => "\x00\x00\xC0\x7F" # NaN
[1.0/0.0].pack("f") # => "\x00\x00\x80\x7F" # +Infinity
[-1.0/0.0].pack("f") # => "\x00\x00\x80\xFF" # -Infinity
//}... -
Array
# pack(template) -> String (334.0) -
配列の内容を template で指定された文字列にしたがって、 バイナリとしてパックした文字列を返します。
...のバイナリとしてパックするためのテンプレートを文字列で指定します。
以下にあげるものは、Array#pack、String#unpack
のテンプレート文字の一覧です。テンプレート文字は後に「長さ」を表す数字
を続けることができます......m") # => "//8=\n"
["\xFF\xFF\xFF"].pack("m") # => "////\n"
["abcdefghijklmnopqrstuvwxyzABCDEFGHIJKLMNOPQRSTUVWXYZ"].pack("m")
# => "YWJjZGVmZ2hpamtsbW5vcHFyc3R1dnd4eXpBQkNERUZHSElKS0xNTk9QUVJT\nVFVWV1hZWg==\n"
["abcdefghijklmnopqrstuvwxyz"].pack("m3")
# => "YWJj\nZGVm\nZ2hp\namts\nbW5v\ncHFy\nc......x86_64 (IEEE754 単精度 リトルエンディアン):
//emlist[][ruby]{
[1.0].pack("f") # => "\x00\x00\x80?"
[0.0/0.0].pack("f") # => "\x00\x00\xC0\xFF" # NaN
[1.0/0.0].pack("f") # => "\x00\x00\x80\x7F" # +Infinity
[-1.0/0.0].pack("f") # => "\x00\x00\x80\xFF" # -Infinity
//}......生しないことを保証するものでは
ないことに注意してください。
buffer のサイズ(capacity)が足りなければ、packはメモリを確保します。
//emlist[例][ruby]{
['!'].pack('@1a', buffer: 'abc') # => "a!"
['!'].pack('@5a', buffer: 'abc') # => "abc\u0000\u000......x86_64 (IEEE754 単精度 リトルエンディアン):
//emlist[][ruby]{
[1.0].pack("f") # => "\x00\x00\x80?"
[0.0/0.0].pack("f") # => "\x00\x00\xC0\x7F" # NaN
[1.0/0.0].pack("f") # => "\x00\x00\x80\x7F" # +Infinity
[-1.0/0.0].pack("f") # => "\x00\x00\x80\xFF" # -Infinity
//}... -
pack テンプレート文字列 (234.0)
-
pack テンプレート文字列
...pack テンプレート文字列
以下にあげるものは、Array#pack、String#unpack
のテンプレート文字の一覧です。テンプレート文字は後に「長さ」を表す数字
を続けることができます。「長さ」の代わりに`*'とすることで「残り全て」......m") # => "//8=\n"
["\xFF\xFF\xFF"].pack("m") # => "////\n"
["abcdefghijklmnopqrstuvwxyzABCDEFGHIJKLMNOPQRSTUVWXYZ"].pack("m")
# => "YWJjZGVmZ2hpamtsbW5vcHFyc3R1dnd4eXpBQkNERUZHSElKS0xNTk9QUVJT\nVFVWV1hZWg==\n"
["abcdefghijklmnopqrstuvwxyz"].pack("m3")
# => "YWJj\nZGVm\nZ2hp\namts\nbW5v\ncHFy\nc......x86_64 (IEEE754 単精度 リトルエンディアン):
//emlist[][ruby]{
[1.0].pack("f") # => "\x00\x00\x80?"
[0.0/0.0].pack("f") # => "\x00\x00\xC0\xFF" # NaN
[1.0/0.0].pack("f") # => "\x00\x00\x80\x7F" # +Infinity
[-1.0/0.0].pack("f") # => "\x00\x00\x80\xFF" # -Infinity
//}......pack テンプレート文字列
以下にあげるものは、Array#pack、String#unpack、String#unpack1
のテンプレート文字の一覧です。テンプレート文字は後に「長さ」を表す数字
を続けることができます。「長さ」の代わりに`*'とすることで......x86_64 (IEEE754 単精度 リトルエンディアン):
//emlist[][ruby]{
[1.0].pack("f") # => "\x00\x00\x80?"
[0.0/0.0].pack("f") # => "\x00\x00\xC0\x7F" # NaN
[1.0/0.0].pack("f") # => "\x00\x00\x80\x7F" # +Infinity
[-1.0/0.0].pack("f") # => "\x00\x00\x80\xFF" # -Infinity
//}...