floating-point-precision

32गर्मी

4उत्तर

बिगडिसीमल

की विशिष्ट सटीकता सेट करें मेरे पास XSD है जिसके लिए मुझे लैट/लॉन के लिए बिगडिसीमल का उपयोग करने की आवश्यकता है। मेरे पास वर्तमान में लेट/लॉन युगल के रूप में है, और उन्हें बिगडिसीमल में परिवर्तित कर द

java bigdecimal floating-point-precision 2012-02-28

---

8गर्मी

1उत्तर

/एफपी के बीच अंतर: सख्त और/एफपी: सटीक?

आप एफपी का उपयोग कब करते हैं: एफपी के विपरीत सख्त: सटीक? यदि मैं "अधिक सटीक" गणना चाहता हूं और गोल करने वाली त्रुटियों से बचने के लिए पूर्व का उपयोग करना बेहतर है? या तो उपयोग करने के पीछे ह्युरिस्टिक

c++ visual-c++ floating-point floating-point-precision visual-studio-2010 2012-09-20

---

7गर्मी

1उत्तर

सी # के लिए "विस्तारित" के बराबर कोई समकक्ष?

मैं अपने Mandelbrot screensaver के एक नए संस्करण पर काम कर रहा हूं और मैं फ्लोटिंग पॉइंट सटीकता से बाहर चला रहा हूं - सरल double मूल्यों में मेरी ज़रूरतों के लिए पर्याप्त महत्वपूर्ण आंकड़े नहीं हैं। अ

c# performance double floating-point-precision 2012-09-23

---

5गर्मी

1उत्तर

पर्ल प्रिंट फ्लोटिंग-पॉइंट नंबरों के लिए सटीकता क्या है?

my $num = log(1_000_000)/log(10); print "num: $num\n"; print "int(num): " . int($num) . "\n"; print "sprintf(num): " . sprintf("%0.16f", $num) . "\n"; पैदा करता है: num: 6 int(num): 5 sprintf(n

perl floating-point-precision 2012-12-31

---

7गर्मी

6उत्तर

फ़्लोटिंग वैल्यू को पूर्ण सटीक सटीक सटीकता से 123.3443 से 1233443 तक कैसे परिवर्तित करें?

नमूना कोड: int main() { float f = 123.542; int i = (int)f; printf("%d\n",i); }

c floating-point type-conversion floating-point-precision 2012-03-10

---

7गर्मी

3उत्तर

जावा - एक डबल अतिरिक्त/घटाव में सटीकता का अधिकतम नुकसान

क्या यह संभव है कि यह भी संभव है कि जावा में दो double मानों (जोड़/घटाव) के साथ व्यवहार करते समय अधिकतम सटीक हानि क्या होगी? शायद सबसे खराब स्थिति परिदृश्य तब होता है जब दो संख्याओं का बिल्कुल प्रतिनि

java double floating-point-precision double-precision 2012-11-20

---

16गर्मी

3उत्तर

int से CGFloat को सुरक्षित रूप से फ़्लोर या छत कैसे करें?

मुझे एरे इंडेक्स की गणना के लिए CGFloatint पर फर्श या छत की आवश्यकता होती है। समस्या जो मैं स्थायी रूप से floorf(theCGFloat) या ceilf(theCGFloat) के साथ देखता हूं वह यह है कि फ़्लोटिंग पॉइंट त्रुटियों

ios math floating-point floating-accuracy floating-point-precision 2012-08-16

---

5गर्मी

5उत्तर

निरंतर असाइनमेंट की फ़्लोटिंग-पॉइंट तुलना

समानता के लिए युगल की तुलना करते समय, हमें सहनशीलता स्तर देना होगा, क्योंकि फ़्लोटिंग-पॉइंट गणना त्रुटियों को पेश कर सकती है। उदाहरण के लिए: double x; double y; x = f(); y = g(); if (fabs(x-y)<ep

c++ floating-point floating-point-precision 2012-03-23

---

5गर्मी

2उत्तर

दिए गए परिशुद्धता के साथ एक फ्लोट चुनें

मैं अपने मानों को फ्लोट्स के रूप में स्टोर करना चाहता हूं, लेकिन उन्हें पुनर्प्राप्त करते समय उपयोगकर्ता निर्दिष्ट (और रनटाइम पर बदल सकता है) दशमलव बिंदु के बाद वह कितने अंक देखना चाहता है। क्या मैं इ

mysql floating-point-precision 2012-11-29

---

5गर्मी

3उत्तर

फ्लोट बनाम डबल (जावा में)

क्या कोई ऐसा मामला है जहां ये दो विधियां एक ही इनपुट दिए गए विभिन्न मान वापस कर देगी? int compare1(float a, float b) { return Double.compare(a, b); } int compare2(float a, float b) { re

java floating-point-precision 2013-01-21

---