precision

27गर्मी

2उत्तर

हास्केल: सेना निम्नलिखित कोड का टुकड़ा का उपयोग करते हुए दो दशमलव

के लिए तैरता: (fromIntegral 100)/10.00 हास्केल '98 मानक प्रस्तावना का उपयोग करना, कैसे मैं दो दशमलव के साथ परिणाम का प्रतिनिधित्व करते हैं? धन्यवाद।

8गर्मी

7उत्तर

जीसीसी परिशुद्धता बग?

मैं केवल यह मान सकता हूं कि यह एक बग है। पहला दावा विफल रहता है जबकि दूसरा विफल रहता है: double sum_1 = 4.0 + 6.3; assert(sum_1 == 4.0 + 6.3); double t1 = 4.0, t2 = 6.3; double sum_2 = t1 + t2;

5गर्मी

6उत्तर

सी # में 15 अंकों की डबल टाइप परिशुद्धता नहीं थी?

मैं से Brainteasers: double d1 = 1.000001; double d2 = 0.000001; Console.WriteLine((d1 - d2) == 1.0); इस कोड का परीक्षण किया गया था और परिणाम "गलत" है। जब मैं डेटा प्रकार बदलता हूं:

15गर्मी

6उत्तर

पैसे के प्रतिनिधित्व के लिए किस वर्ग का उपयोग करना है?

अधिकांश गोल त्रुटियों से बचने के लिए धन का प्रतिनिधित्व करने के लिए मुझे किस वर्ग का उपयोग करना चाहिए? क्या मुझे Decimal, या एक साधारण अंतर्निहित number का उपयोग करना चाहिए? क्या कोई मौजूदा Money क्ला

18गर्मी

4उत्तर

दशकों के साथ PHP और यूनिट परीक्षण दावे

मेरे पास एक तरीका है जो 1.234567890 की तरह एक फ्लोट देता है। मैं परीक्षण करना चाहता हूं कि यह वास्तव में ऐसा करता है। हालांकि, ऐसा लगता है कि इस लौटे हुए फ्लोट के पास विभिन्न प्लेटफॉर्म पर अलग-अलग सटी

9गर्मी

3उत्तर

सी printf% f डिफ़ॉल्ट परिशुद्धता क्या है?

मैं उत्सुक हूं: यदि आप printf("%f", number); करते हैं तो कथन की सटीकता क्या है? अर्थात। कितने दशमलव स्थान दिखाए जाएंगे? क्या यह कंपाइलर निर्भर है?

7गर्मी

4उत्तर

जीपीयू

पर उच्च परिशुद्धता गणित मैं एचएलएसएल का उपयोग कर जीपीयू पर एक एल्गोरिदम लागू करने में रूचि रखता हूं, लेकिन मेरी मुख्य चिंताओं में से एक यह है कि मुझे सटीक स्तर की सटीकता चाहिए। 64 बिट परिशुद्धता और उच

5गर्मी

7उत्तर

जावा

के साथ ई का बेहतर अनुमान I किसी भी वांछित परिशुद्धता के लिए ई के मान का अनुमान लगाना चाहता हूं। इसे करने का बेहतरीन तरीका क्या है? सबसे अधिक मैं प्राप्त करने में सक्षम हूं ई = 2.7182818284590455 है। न

6गर्मी

1उत्तर

क्यों डबल से int का असाइनमेंट जीसीसी चेतावनियों को ट्रिगर नहीं करता है?

int i = 3.1/2 कोई चेतावनी नहीं देता है, यहां तक कि -वॉल विकल्प भी। कभी-कभी, मैं जानना चाहता हूं कि सटीकता कहां खो जाती है। जीसीसी इस चेतावनी का समर्थन क्यों नहीं करती है, जबकि एमएसवीसी इस का समर्थ

10गर्मी

6उत्तर

.NET में टाइमर की अधिकतम सटीकता क्या है?

मैं सोच रहा हूं कि टाइमर क्लास की परिशुद्धता System.Timers में क्या है, क्योंकि यह एक डबल है (जो यह इंगित करता है कि आप मिलीसेकंड के अंश हो सकते हैं)। यह क्या है?