トップ「Floating-point」の質問

浮動小数点数は実数の近似値であり、整数よりも広い範囲を表すことができますが、同じ量のメモリを使用しますが、精度は低くなります。

文字列をfloatまたはintに解析するにはどうすればよいですか?

Pythonで、 "545.2222"ような数値文字列を対応するfloat値545.2222に解析するにはどうすればよいですか? または、文字列"31"を整数31解析しますか?float strをfloatに解析する方法と、(個別に) int strをintに解析する方法を知りたいだけです。

python parsing floating-point type-conversion integer

フロートを小数点以下2桁に制限する

aを13.95に丸めたい。>>> a 13.949999999999999 >>> round(a, 2) 13.949999999999999 […] 続きを読む…

python floating-point rounding precision

文字列が数字(浮動小数点)であるかどうかを確認するにはどうすればよいですか?

文字列をPythonで数値として表すことができるかどうかを確認するための最良の方法は何ですか?私が現在持っている機能は次のとおりです。def is_number(s): try: float(s) return True […] 続きを読む…

python casting floating-point type-conversion

常に小数点以下2桁を表示するように数値をフォーマットします

数値を常に小数点以下2桁で表示するようにフォーマットし、該当する場合は四捨五入したいと思います。例:number display ------ ------- 1 1.00 1.341 1.34 1.345 1.35 私はこれを使用しています:parseFloat(num).toFixed(2); しかし、それは表示されています1と1のではなく、 1.00 。

javascript floating-point number-formatting

printfのdoubleの正しいフォーマット指定子

printfのdoubleの正しいフォーマット指定子は何ですか? それは%f %lfですか、それとも%fだと思いますが、よくわかりません。コードサンプル#include <stdio.h> […] 続きを読む…

c floating-point printf double format-specifiers

floatとdoubleの違いは何ですか?

倍精度と単精度の違いについて読みました。 ただし、ほとんどの場合、 floatとdoubleは互換性があるように見えます。つまり、どちらを使用しても結果に影響はないようです。 これは本当に本当ですか? フロートとダブルはいつ交換可能ですか? それらの違いは何ですか?

c++ c floating-point precision

.NETのdecimal、float、doubleの違いは?

.NETのdecimal 、 float 、 doubleの違いは何ですか?誰かがこれらのいずれかをいつ使用しますか?

.net floating-point double decimal

Pythonで数値をどのように切り上げますか?

この問題は私を殺している。 Pythonで数値を切り上げるにはどうすればよいですか?round(number)を試しましたが、数値が切り捨てられます。 例:round(2.3) = 2.0 and not 3, what I would like […] 続きを読む…

python floating-point integer rounding python-2.x

ValueError:文字列をfloatに変換できませんでした:id

私は次のPythonスクリプトを実行しています:#!/usr/bin/python import os,sys from scipy import […] 続きを読む…

python string floating-point

10進数のrange()ステップ値を使用するにはどうすればよいですか?

0と1の間を0.1ずつステップする方法はありますか?次のようにできると思いましたが、失敗しました。for i in range(0, 1, 0.1): print i 代わりに、ステップ引数をゼロにすることはできないと書かれていますが、これは私が予期していなかったことです。

python floating-point range