precision

6गर्मी

8उत्तर

माइक्रो सेकेंड परिशुद्धता

में ऑपरेशन के समय की गणना कैसे करें मैं विंडोज प्लेटफ़ॉर्म पर माइक्रो सेकेंड परिशुद्धता में फ़ंक्शन के प्रदर्शन की गणना करना चाहता हूं। अब विंडोज़ में मिलीसेकंड ग्रैनियलिटी है, तो मैं इसे कैसे प्राप्त

c++ c windows performance precision 2010-05-13

---

8गर्मी

7उत्तर

इनपुट संख्या

की दशमलव परिशुद्धता का निर्धारण करें हमारे पास एक दिलचस्प समस्या है जिसे हमें उपयोगकर्ता इनपुट (टेक्स्टबॉक्स) की दशमलव परिशुद्धता निर्धारित करने की आवश्यकता है। अनिवार्य रूप से हम में प्रवेश किया दशमल

c# decimal precision decimal-point 2010-07-19

---

87गर्मी

6उत्तर

0.0 और 1.0 के बीच कितने डबल नंबर हैं?

यह कुछ ऐसा है जो मेरे दिमाग में वर्षों से रहा है, लेकिन मैंने पहले कभी पूछने का समय नहीं लिया। कई (छद्म) यादृच्छिक संख्या जेनरेटर 0.0 और 1.0 के बीच यादृच्छिक संख्या उत्पन्न करते हैं। गणितीय रूप से इस

random floating-point double precision 2010-06-05

---

6गर्मी

2उत्तर

SQLite में डबल मान संग्रहीत करना: परिशुद्धता सुनिश्चित करने के लिए कैसे?

मुझे डबल मानों के साथ समस्या है जो मुझे एंड्रॉइड होमक्ड स्क्लाइट डेटाबेस में स्टोर करने की आवश्यकता है। चूंकि ये डबल मान जीपीएस मानों का प्रतिनिधित्व करते हैं (लैट & एलएनजी), मैं वास्तव में NEED अल्पव

android database sqlite double precision 2010-06-21

---

8गर्मी

3उत्तर

32-बिट बनाम 64-बिट फ्लोटिंग-पॉइंट प्रदर्शन

मैं एक उत्सुक समस्या में भाग गया हूं। एक एल्गोरिथ्म मैं पर काम कर रहा हूँ इस q = x(0)*y(0)*z(0) + x(1)*y(1)*z(1) + ... जहां योग की लंबाई 4 और 7 के बीच मूल संगणना सभी 64-बिट परिशुद्धता का उपयोग किया

performance floating-point precision 2010-06-29

---

192गर्मी

5उत्तर

जावास्क्रिप्ट 2 दशमलव स्थानों पर एक फ्लोट प्रदर्शित करता है

मैं एक संख्या को 2 दशमलव स्थानों पर प्रदर्शित करना चाहता था। मैं मैं जावास्क्रिप्ट में toPrecision(2) इस्तेमाल कर सकते हैं सोचा। हालांकि, अगर संख्या 0.05 है, मैं 0.0500 मिलता है। मैं बल्कि यह वही रहना

javascript floating-point precision 2010-07-02

---

83गर्मी

7उत्तर

फिक्स्ड() और प्रेसिजन() के बीच अंतर?

मैं जावास्क्रिप्ट के लिए नया हूं और राउंड नंबरों पर toFixed() और toPrecision() खोजा है। हालांकि, मैं यह नहीं समझ सकता कि दोनों के बीच क्या अंतर है। number.toFixed() और number.toPrecision() के बीच क्या

javascript rounding precision 2010-07-26

---

6गर्मी

3उत्तर

matlab परिशुद्धता निर्धारक समस्या

मैं निम्नलिखित कार्यक्रम format compact; format short g; clear; clc; L = 140; J = 77; Jm = 10540; G = 0.8*10^8; d = L/3; for i=1:500000 omegan=1.+0.0001*i; a(1,1) = ((omegan^2)*(Jm/(G*J))*d^2)-2;

matlab matrix fortran precision determinants 2010-05-07

---

9गर्मी

4उत्तर

फ़्लोटिंग प्वाइंट अंकगणित - डबल टाइप

पर मॉड्यूलो ऑपरेटर तो मैं यह पता लगाने की कोशिश कर रहा हूं कि मॉड्यूलो ऑपरेटर इतना बड़ा असामान्य मूल्य क्यों लौट रहा है। अगर मैं कोड है: double result = 1.0d % 0.1d; यह 0.09999999999999995 का एक परिणा

c# floating-point precision 2010-05-27

---

5गर्मी

6उत्तर

एमएस एसक्यूएल डेटाटाइम सटीक समस्या

मेरे पास ऐसी स्थिति है जहां दो व्यक्ति दो अलग-अलग कंप्यूटरों से उसी क्रम (एमएस एसक्यूएल डेटाबेस में संग्रहीत) पर काम कर सकते हैं। इस मामले में डेटा हानि को रोकने के लिए, जहां कोई व्यक्ति अपनी ऑर्डर की

sql sql-server datetime precision 2010-04-12

---