floating-point

5गर्मी

1उत्तर

क्या यह फ्लोट से बिगडिसिल तक वापस खतरनाक है?

मैं एक ऐसा प्रोग्राम बनाने की प्रक्रिया में हूं जो एक वीएचडीएल टेस्टबेंच में उपयोग किए जाने वाले परीक्षण वैक्टर उत्पन्न करता है। Testbench अनिवार्य रूप से हार्डवेयर के एक टुकड़े का परीक्षण करता है जो

java floating-point bigdecimal ieee-754 2012-03-31

---

14गर्मी

3उत्तर

printf

के साथ फ्लोट की प्रेसिजन सभी जानते हैं कि float के मान को आउटपुट करने के लिए आप printf का उपयोग करते समय सीमित परिशुद्धता रखते हैं। हालांकि, वहाँ उत्पादन में शुद्धता को बढ़ाने के लिए एक चाल है, के रूप

c floating-point printf precision 2012-04-01

---

6गर्मी

3उत्तर

अनपैक हेक्स एन्कोड तैरता

मैं सी में ++ निम्नलिखित पायथन कोड का अनुवाद करने में कोशिश कर रहा हूँ: import struct import binascii inputstring = ("0000003F" "0000803F" "AD10753F" "00000080") num_vals = 4 for i in range(num

c++ floating-point hex 2012-04-07

---

7गर्मी

2उत्तर

पायथन: गैर-अभिन्न संख्या

का फैक्टरियल की गणना करें, मुझे आश्चर्य है कि क्या गैर-अभिन्न संख्या (उदा। 3.4) के फैक्टोरियल की गणना करने के लिए एक तेज, पायथनिक तरीका है? बेशक, factorial()Math मॉड्यूल में बल्ट-इन में उपलब्ध है, लेक

python floating-point factorial 2012-04-07

---

20गर्मी

2उत्तर

जावा में डबल से फ्लोट में कनवर्ट करना

यदि मैं double के साथ काम कर रहा हूं, और मैं इसे float में बदलता हूं, तो यह वास्तव में कैसे काम करता है? क्या मूल्य कम हो जाता है, तो यह एक फ्लोट में फिट बैठता है? या क्या मूल्य अलग-अलग हो जाता है? क्

java floating-point double type-conversion 2012-04-09

---

8गर्मी

4उत्तर

Double.POSITIVE_INFINITY == Float.POSITIVE_INFINITY

मैं System.out.println(Double.isInfinite(Float.POSITIVE_INFINITY)) System.out.println(Double.isInfinite(Float.NEGATIVE_INFINITY)); की कोशिश की और उत्पादन true true तो इस का अर्थ है "इन्फिनिटी" द

java floating-point 2012-04-10

---

29गर्मी

5उत्तर

सी में फ्लोटिंग पॉइंट डेटाटाइप की रेंज?

मैं, एक सी किताब पढ़ रहा हूँ चल बिन्दु की सीमाओं के बारे में बात, लेखक तालिका दिया: मैं नहीं जानता, जहां कॉलम सबसे छोटा सकारात्मक और सबसे बड़ा मान से आते हैं में संख्या।

c floating-point 2012-04-11

---

18गर्मी

2उत्तर

Math.round() NaN तर्कों के लिए 0 क्यों लौटाता है?

मैंने सोचा था कि एक NaN पर किसी भी गणितीय आपरेशन के परिणाम है कि मुझे एक NaN वापस देना चाहिए, लेकिन Math.round(Float.NaN) == 0 Math.round() के इस तरह के व्यवहार के लिए तर्क क्या है? मजे की बात है, सी

java floating-point nan 2012-04-12

---

5गर्मी

1उत्तर

-अनंत-गणित द्वारा केवल अनुकूलन की सुविधा क्या है?

सभी जानकारी जो मैं दस्तावेज और वेब-अनंत-गणित के लिए वेब में पा सकता हूं, केवल "फ्लोटिंग-पॉइंट अंकगणित के लिए अनुकूलन की अनुमति दें जो मानते हैं कि तर्क और परिणाम NaNs या + -Infs नहीं हैं।" यह मेरे लिए

optimization gcc compiler-construction floating-point 2012-04-13

---

6गर्मी

1उत्तर

विस्तारित प्रेसिजन फ्लोटिंग प्वाइंट लाइब्रेरी C/C++

मैं एक विस्तारित परिशुद्धता चल निम्न सुविधाओं के साथ बिंदु पुस्तकालय रहा हूँ: तय डेटा प्रकार आकार (यानी विस्तारित परिशुद्धता नाव स्मृति की एक निश्चित राशि लेता है) कोई प्रारंभ चर के लिए आवश्यक दोनों अ

c++ c numbers floating-point numeric 2012-04-14

---