precision

8गर्मी

4उत्तर

मैं एक MATLAB शुरुआत कर रहा हूँ। यहां समस्या है: >> a = floor(7/2.5) a = 2.00 >> b = rem(7,2.5) b = 2.00 >> c = floor(b/2) c = 0 सी 1 होना चाहिए, है ना? यह 0 क्यों है

9गर्मी

3उत्तर

एसक्यूएल सर्वर: संख्यात्मक अक्षरों के साथ गणना

मैंने परिशुद्धता हानि को कम करने के लिए फ़्लोटिंग पॉइंट गणनाओं के साथ कुछ परीक्षण किया। मैं एक ऐसी घटना में ठोकर खाई जिसे मैं यहां दिखाना चाहता हूं और उम्मीद करता हूं कि एक स्पष्टीकरण प्राप्त करें। जब

7गर्मी

7उत्तर

जावास्क्रिप्ट 64 बिट संख्यात्मक परिशुद्धता

क्या जावास्क्रिप्ट में 53-बिट से अधिक सटीकता वाले किसी संख्या का प्रतिनिधित्व करने का कोई तरीका है? दूसरे शब्दों में, 64-बिट परिशुद्धता संख्या का प्रतिनिधित्व करने का कोई तरीका है? मैं कुछ तर्क लागू क

6गर्मी

8उत्तर

अप्रत्याशित नुकसान जब युगल

मैं एक समारोह getSlope जो 4 युगल मानकों और रिटर्न के रूप में लगता है विभाजित एक और डबल निम्नलिखित तरीके से इस दिए गए मापदंडों का उपयोग कर की गणना: double QSweep::getSlope(double a, double b, double c,

7गर्मी

7उत्तर

क्यों आदेश जब सी #

निम्नलिखित सी # कोड पर विचार करें में कई युगल जोड़ने राउंडिंग प्रभावित करता है? बात यह है, यह नहीं है। परिणाम 1 3.3 है और परिणाम 2 3.3000000000000003 है। केवल अंतर ही स्थिरांक का क्रम है। मुझे पता है

7गर्मी

3उत्तर

क्या Python में किसी अंश का दोहराव दशमलव भाग प्राप्त करने का कोई तरीका है?

मैं पाइथन के दशमलव मॉड्यूल का उपयोग करके भिन्नताओं के साथ काम कर रहा हूं और मैं केवल एक निश्चित अंश का दोहराना हिस्सा प्राप्त करना चाहता हूं। उदाहरण के लिए: अगर मेरे पास 1/3 था तो मैं 3 प्राप्त करना च

5गर्मी

3उत्तर

फ्लोटिंग प्वाइंट सीमाएं

मेरे कोड: a = '2.3' मैं a एक चल बिन्दु मान के रूप में प्रदर्शित करने के लिए करना चाहता था। a के बाद से एक स्ट्रिंग है, मैंने कोशिश की: float(a) परिणाम मुझे मिल गया था: 2.2999999999999998 मैं इस

719गर्मी

7उत्तर

दशमलव बनाम डबल! - मुझे किस का उपयोग करना चाहिए और कब?

मैं लोगों को सी # में युगल का उपयोग करके देख रहा हूं। मुझे पता है कि मैंने कहीं पढ़ा है कि युगल कभी-कभी सटीकता खो देते हैं। मेरा प्रश्न यह है कि जब डबल का उपयोग करना चाहिए और मुझे दशमलव प्रकार का उपयो

15गर्मी

7उत्तर

सी ++ युगल सुनिश्चित करना 64 बिट्स

मेरे सी ++ प्रोग्राम में, मुझे बाहरी बाइट अनुक्रम से 64 बिट फ्लोट खींचने की आवश्यकता है। क्या संकलन-समय पर यह सुनिश्चित करने का कोई तरीका है कि युगल 64 बिट्स हैं? क्या डेटा के स्टोर के लिए मुझे कुछ अन

17गर्मी

5उत्तर

युगल में पूर्णांक का प्रतिनिधित्व

क्या डबल (एक उचित मंटिसा/एक्सपोनेंट बैलेंस के साथ बाइट्स की एक निर्दिष्ट संख्या में) हमेशा बाइट्स की संख्या के आधे हस्ताक्षर किए गए पूर्णांक की सीमा को पूरी तरह ठीक से पकड़ सकता है? उदा। एक आठ बाइट डब