floating-point

47गर्मी

2उत्तर

संभव डुप्लिकेट: Is JavaScript's Math broken? मैं जावास्क्रिप्ट और ... का उपयोग कर कई नाव मानों का योग की गणना कर रहा हूँ मैं एक अजीब बात यह है कि ध्यान दिया है देखा कभी नहीं पहले। इस कोड को निष्पादित:

8गर्मी

1उत्तर

/एफपी के बीच अंतर: सख्त और/एफपी: सटीक?

आप एफपी का उपयोग कब करते हैं: एफपी के विपरीत सख्त: सटीक? यदि मैं "अधिक सटीक" गणना चाहता हूं और गोल करने वाली त्रुटियों से बचने के लिए पूर्व का उपयोग करना बेहतर है? या तो उपयोग करने के पीछे ह्युरिस्टिक

5गर्मी

2उत्तर

अपरिभाषित विधि `- '" 100 "के लिए: स्ट्रिंग

यह रूबी कोड: ./to_f.rb:6: undefined method `-' for "100":String (NoMethodError) करता रूबी नहीं तार नंबरों के लिए स्वत: परिवर्तित जब पर गणित ऑपरेशनों को: income = "100" bills = "52" puts income -

9गर्मी

7उत्तर

जावा

में parseFloat के लिए सही रास्ता मैं जावा नाव परिशुद्धता Float.parseFloat("0.0065") - 0.001 // 0.0055000000134110451 new Float("0.027") - 0.001 // 0.02600000000700354575 Float.valueOf("

9गर्मी

4उत्तर

एक फ़्लोटिंग पॉइंट प्रकार

के लिए महत्वपूर्ण अंकों की संख्या सी में float के लिए विवरण का उल्लेख है कि महत्वपूर्ण अंकों की संख्या 6 है। हालांकि, float f = 12345.6; और फिर printf() का उपयोग कर 12345.6 प्रिंट नहीं करता उसे प्रि

5गर्मी

4उत्तर

सी ++

में int को 16 बिट फ्लोट (आधा परिशुद्धता फ़्लोटिंग पॉइंट) में कनवर्ट करें मैं integer को half precision float (जिसे एक सरणी unsigned char[2] में संग्रहीत किया जाना है) में कैसे परिवर्तित कर सकता हूं। इ

10गर्मी

2उत्तर

रिलेशनल ऑपरेटर किस तरह से तुलना करने का पालन नहीं करते हैं फ्लोटिंग पॉइंट मानों के साथ अनुबंध के लिए?

प्रभावी जावा से उद्धरित - यहोशू बलोच द्वारा द्वितीय संस्करण फ्लोटिंग प्वाइंट क्षेत्रों के लिए, संबंधपरक ऑपरेटर, जो के लिए सामान्य अनुबंध का पालन नहीं करते के स्थान पर Double.compare या Float.compare क

11गर्मी

3उत्तर

क्या सी/सी ++ के लिए एक मनमाने ढंग से सटीक फ़्लोटिंग पॉइंट लाइब्रेरी है जो मनमाने ढंग से सटीक एक्सपोनेंट की अनुमति देती है?

मैं सी/सी ++ के लिए एक मनमाने ढंग से सटीक फ्लोटिंग पॉइंट लाइब्रेरी की तलाश में हूं (सादा सी को प्राथमिकता दी जाती है)। मुझे मनमाने ढंग से सटीक एक्सपोनेंट चाहिए। जीएमपी और एमपीएफआर निश्चित आकार के एक्स

5गर्मी

3उत्तर

फ़्लोटिंग पॉइंट रूपांतरण और प्रदर्शन

मुझे फ्लोटिंग पॉइंट नंबर और पूर्णांक के बीच रूपांतरण करते समय होने वाली त्रुटियों से अवगत है, लेकिन प्रदर्शन के बारे में क्या है (कृपया सटीकता के मुद्दों को नजरअंदाज करें)? चल बिन्दु भिन्न प्रकार (जैस

5गर्मी

2उत्तर

58.85 58.84999999999

के रूप में प्रदर्शित करता है मैं बसपा के साथ एक कैलकुलेटर बना रहा हूं। जैसा कि मैंने इसे विभिन्न संख्याओं के साथ परीक्षण किया, मैं एक समस्या में भाग गया कि दशमलव संख्या सही तरीके से प्रदर्शित नहीं होत