floating-point

7गर्मी

4उत्तर

एक स्ट्रिंग का प्रारूपण वैज्ञानिक संकेतन निकालने के लिए जावा

मैं है निम्नलिखित कोड जो संख्या की एक स्ट्रिंग (एक अंतरिक्ष से विभाजित) विभाजन और उसके बाद तैरता की एक सरणी बनाता है स्ट्रिंग में मान वैज्ञानिक नोटेशन के साथ स्वरूपित होते हैं - उदाहरण के लिए वे -3.04

java string floating-point bigdecimal 2012-05-09

---

7गर्मी

1उत्तर

JSON.parse पार्स/बड़े नंबरों को गलत तरीके से परिवर्तित करता है

मेरी समस्या वास्तव में सरल है लेकिन मुझे यकीन नहीं है कि JSON.parse का उपयोग कर "मूल" समाधान है या नहीं। { "key" : -922271061845347500 } : { "key" : -922271061845347495 } जब मैं इस स्ट्रिंग पर JSO

javascript json floating-point numbers 2012-05-17

---

5गर्मी

4उत्तर

फ्लोट को बिट्स में कनवर्ट करें

मैं double या float के एकल बिट्स (या एक संपूर्ण चर) कैसे प्राप्त कर सकता हूं? उदाहरण के लिए यदि मेरे पास फ्लोट ए = 0.5 है; "00111111000000000000000000000000" या हेक्स में: "F000000"

java floating-point double 2012-05-17

---

8गर्मी

1उत्तर

आईईईई -754 फ्लोटिंग पॉइंट कंप्यूटेशंस, समानता और संकुचित

निम्नलिखित कोड में, foo1, foo2 और foo3 फ़ंक्शन समकक्ष होने का इरादा रखते हैं। हालांकि जब foo3 को लूप से समाप्त नहीं किया जाता है, तो क्या ऐसा कोई कारण है? template <typename T> T foo1() { T x =

c++ floating-point undefined-behavior ieee-754 2012-05-23

---

20गर्मी

1उत्तर

निकटतम पूर्णांक के लिए गोल

क्या हैस्केल में round फ़ंक्शन के लिए कोई आधिकारिक विनिर्देशन है? GHCi संस्करण 7.0.3 में मैं निम्नलिखित व्यवहार देखें: ghci> round (0.5 :: Double) 0 ghci> round (1.5 :: Double) 2 दोनों 0.5 और 1.5

haskell floating-point 2012-05-24

---

5गर्मी

3उत्तर

रूबी फ्लोटिंग प्वाइंट मठ - योग कैल्क

गुड मॉर्निंग सभी में प्रेसिजन साथ जारी करना, मैं चल बिन्दु गणित के साथ कुछ समस्याएं आ रही हैं, और मिल गया पूरी तरह से ".to_f" में खो दिया है की, "* 100" और ".0" है! मुझे उम्मीद थी कि कोई मेरी विशिष्ट

ruby-on-rails ruby validation math floating-point 2012-05-28

---

10गर्मी

3उत्तर

आईईईई स्टडी 754 फ़्लोटिंग-प्वाइंट: चलो टी: = ए - बी, क्या मानक गारंटी है कि एक == बी + टी?

मान लें कि t, a, b सभी डबल (IEEE Std 754) चर रहे हैं, और a के दोनों मूल्यों, bNaN नहीं हैं (लेकिन Inf हो सकता है)। t = a - b के बाद, क्या मेरे पास a == b + t आवश्यक है?

c++ c floating-point ieee-754 2012-05-29

---

19गर्मी

8उत्तर

प्रिंटिंग फ्लोट, सटीक संरक्षण

मैं एक प्रोग्राम लिख रहा हूं जो किसी अन्य प्रोग्राम के अंदर फ़्लोटिंग पॉइंट अक्षर का उपयोग करता है। मूल फ्लोट की परिशुद्धता को संरक्षित करने के लिए मुझे कितने अंक प्रिंट करने की आवश्यकता है? चूंकि एक

c++ c string floating-point floating-accuracy 2012-06-05

---

10गर्मी

5उत्तर

क्या सी डबल्स .NET युगल से अलग हैं?

कुछ सी-कोड और एफ # की तुलना में मैं इसे बदलने की कोशिश कर रहा हूं, मैंने देखा कि अंतिम परिणाम में कुछ अंतर थे। कोड का बैक अप लेना, मैंने पाया कि यहां तक ​​कि अंतर भी थे - हालांकि छोटे थे। कोड फ़ाइल से

.net c floating-point 2012-06-05

---

27गर्मी

10उत्तर

बाइनरी, फ्लोट्स और आधुनिक कंप्यूटर

मैं फ्लोट्स और कंप्यूटर-प्रोसेस किए गए फ़्लोटिंग-पॉइंट ऑपरेशंस के बारे में बहुत कुछ पढ़ रहा हूं। उनके बारे में पढ़ते समय सबसे बड़ा सवाल यह है कि वे इतने गलत क्यों हैं? मैं समझता हूं क्योंकि यह बाइनरी

c binary floating-point hardware computer-science 2012-06-06

---