#floating

2021-6-11 17:23
每一个现在,我最终不得不向怀疑的人解释为什么他们的节目如何对待他们摄取的数字。通过IEEE 754和双打,人们似乎认为可以毫不可热地添加一堆数字和平均值,并获得可靠的准确结果。 事实上,现在的事情比曾经20年前的事情更好。但是,给予足够的数字和足够的操作,仍然可以陷入有趣的不准确性。这是生活中的一个事实,而不是地球......
2021-2-21 7:42
我们使用cookie来确保我们在您的网站上给您最好的体验。 看来您的浏览器不支持它们,这会影响网站的功能。
2021-1-28 21:53
当您订阅时,我们将使用您提供的信息向您发送这些新闻通讯。有时,它们会包含有关我们提供的其他相关新闻通讯或服务的建议。我们的隐私声明详细说明了我们如何使用您的数据以及您的权利。您可以随时取消订阅。 不合规电邮 根据离岸可再生能源(ORE)Catapult的离岸浮动风能卓越中心(FOW CoE)完成的一项研究,到2......
2020-12-22 1:55
只要我一直在编程,我几乎就理所当然地认为浮点数和连续实数之间的任何差异都几乎可以忽略。 尝试在移动GPU上使用半精度浮点会告诉我,并非总是像我们希望的那样精确。 这款笔记本没有解决真正出现问题的浮点运算,但是它代表了自己为自己确切确定浮点数在数字行上的位置的尝试。 大约有
2020-11-1 11:19
浮点数就行了。它们设计得体,标准化程度高,在性能和精度之间提供了很好的折衷。他们大部分时间都工作得很好。直到有一天,他们突然不再这么做,没有人知道为什么。 对我来说,那一天到来了,我在Taubin估计器中遇到了一个错误。陶宾平滑需要一个三角形网格,一对称为λ和μ的幻数,花一点时间思考,它会使输入网格平滑。它还可以确保......
2020-10-30 13:22
我打赌您从来没有想过这样一件事,而且理由很充分:浮点数是如何呈现为文本字符串的?这是一个令人惊讶的棘手问题,但自1990年左右以来,人们一直认为它基本上得到了解决。 在Steele和White的“如何准确打印浮点数”之前,printf和类似的呈现函数的实现都尽了最大努力来呈现浮点数,但是它们的表现差别很大。例如,可以......
2020-9-30 18:42
众所周知,现代计算机中使用的IEEE标准浮点数表示法有其缺陷,例如不能准确表示1/3或0.1这样的数字。维基百科关于浮点数的页面描述了一些相关的准确性问题,包括测试等价性的困难。在日常使用中,除了明智地使用“WINDOWS”进行等价性测试之外,我怀疑我们中的大多数人都忽略了浮点运算的潜在困难,即使我们不应该这样做。你......
Hardware Floating Point(blog.stephenmarz.com)
2020-6-23 7:31
本文是更大的教程“OS历险记:使用Rust制作RISC-V操作系统”中的一篇文章。 到目前为止,我们只使用整数指令。但是,既然我们希望支持用户进程,就必须能够支持硬件浮点单元(FPU)。在RISC-V中,这相当简单,但如果我们不小心,可能会导致一些麻烦。 首先,必须通过mstatus寄存器(更具体地说是FS位(位14......