precision

6गर्मी

3उत्तर

सी ++ बनाम अजगर परिशुद्धता

बाहर एक संख्या^संख्या के पहले कश्मीर अंक पाने की एक समस्या की कोशिश कर रहा सी में एक ही कार्यक्रम में लिखा था ++ और अजगर सी ++ long double intpart,num,f_digit,k; cin>>num>>k; f_digit= pow(10.0,modf(

c++ python floating-point precision floating-accuracy 2010-10-02

---

6गर्मी

1उत्तर

फ्लोट प्रेसिजन डिस्प्ले (एंड्रॉइड)

मैं ऐसा प्रोग्राम बनाने की कोशिश कर रहा हूं जो कुछ उपयोगकर्ता इनपुट लेता है, कुछ गणना चलाता है और जवाब को आउटपुट करता है। मेरी समस्या यह है कि यह उत्तर कभी-कभी कई दशमलव स्थान लंबे होते हैं जो कुछ सौंद

android floating-point precision 2011-01-23

---

5गर्मी

4उत्तर

उच्च समय परिशुद्धता

के साथ gnuplot विकल्प वर्तमान में मैं एक समय रेखा के खिलाफ डेटा प्लॉट करने के लिए gnuplot का उपयोग कर रहा हूँ। हालांकि समय रेखा की परिशुद्धता मिलीसेकंड में है लेकिन gnuplot केवल सेकंड को संभालने में स

python precision gnuplot 2011-01-25

---

7गर्मी

3उत्तर

सी # डबल परिशुद्धता समस्या

कल्पना कीजिए कि ए - बी < सी (ए, बी, सी सी # डबल्स हैं)। क्या यह गारंटी है कि एक < बी + सी? धन्यवाद! संपादित मान लें कि अंकगणितीय अतिप्रवाह निम्न उदाहरण के विपरीत नहीं होती हैं: double a = 1L << 53; d

c# double precision 2010-09-03

---

6गर्मी

2उत्तर

एएस 3 एक्स और वाई संपत्ति परिशुद्धता

एक्शनस्क्रिप्ट 3 (और आईआईआरसी 2) में, डिस्प्ले ऑब्जेक्ट पर एक्स और वाई गुण हमेशा 0.05 के गुणक के रूप में संग्रहीत होते हैं। तो obj.x = 66.6666 की तरह कुछ obj.x = 66.65 अधिकांश समय के रूप में ही है, यह

flash actionscript-3 rendering coordinates precision 2010-10-30

---

15गर्मी

3उत्तर

क्या दशमलव के "महत्वपूर्ण आंकड़े" प्राप्त करने का कोई तरीका है?

अद्यतन ठीक है, कुछ जांच के बाद, और जॉन और हंस द्वारा प्रदान किए गए सहायक उत्तरों के लिए बड़े हिस्से में धन्यवाद, यही वह है जिसे मैं एक साथ रखने में सक्षम था। अब तक मुझे लगता है कि यह अच्छी तरह से काम

.net decimal precision significant-digits 2010-09-10

---

5गर्मी

3उत्तर

मैटलैब

में युगल के साथ अंकगणितीय परिशुद्धता मुझे समझ में कुछ परेशानी हो रही है कि इन युगलों की सटीकता Matlab में अंकगणितीय परिचालन के परिणाम को कैसे प्रभावित करती है। मैंने सोचा कि चूंकि & बी दोनों युगल हैं

matlab floating-point double precision 2010-09-13

---

6गर्मी

4उत्तर

गणित

में फ़ाइलों को लिखते समय स्वरूपण संख्या यह संख्या स्वरूपण के संबंध में this प्रश्न जारी है, और मेरे पहले question से संबंधित टेक्स्ट फ़ाइलों में बहुत विशिष्ट गणित आउटपुट प्राप्त करने के बारे में है। म

wolfram-mathematica precision 2011-02-10

---

12गर्मी

4उत्तर

मिडी अनुक्रमक

के लिए माइक्रोसॉन्ड रिज़ॉल्यूशन पर फायरिंग घटनाएं कुछ माइक्रोसॉंड के संकल्प पर सी # में घटनाओं को आग लगाने का कोई तरीका है? मैं एक मिडी अनुक्रमक का निर्माण कर रहा हूं, और इसके लिए प्रत्येक मिडी टिक को

c# timer precision midi 2010-08-04

---

6गर्मी

3उत्तर

.NET में दो युगल की समानता की जांच के साथ समस्याएं - इस विधि के साथ क्या गलत है?

तो मैं इस मुद्दे में जा रहा हूं ... मेरे पास बहुत अधिक इस्तेमाल किया जाने वाला वेब एप्लिकेशन है, जो कि 2 वर्षों में पहली बार समानता समारोह का उपयोग करते हुए दो युगल पर समानता जांच करने में असफल रहा, ए

asp.net vb.net floating-point decimal precision 2010-08-05

---