#浮点数

2021-6-11 17:23
每一个现在,我最终不得不向怀疑的人解释为什么他们的节目如何对待他们摄取的数字。通过IEEE 754和双打,人们似乎认为可以毫不可热地添加一堆数字和平均值,并获得可靠的准确结果。 事实上,现在的事情比曾经20年前的事情更好。但是,给予足够的数字和足够的操作,仍然可以陷入有趣的不准确性。这是生活中的一个事实,而不是地球......
2020-12-22 1:55
只要我一直在编程,我几乎就理所当然地认为浮点数和连续实数之间的任何差异都几乎可以忽略。 尝试在移动GPU上使用半精度浮点会告诉我,并非总是像我们希望的那样精确。 这款笔记本没有解决真正出现问题的浮点运算,但是它代表了自己为自己确切确定浮点数在数字行上的位置的尝试。 大约有
2020-11-27 18:5
0和无穷大之间的中点是多少?嗯,答案是不同的,具体取决于您要询问的是数学家,哲学家还是Ruby开发人员。我不是数学家也不是哲学家,但是我是Ruby开发人员,所以我可以告诉你1.5是0到无穷大之间的中点。 Range#bsearch在一个范围内执行二进制搜索。例如,让我们用它来查找大于42(即43)的第一个整数......
2020-11-1 11:19
浮点数就行了。它们设计得体,标准化程度高,在性能和精度之间提供了很好的折衷。他们大部分时间都工作得很好。直到有一天,他们突然不再这么做,没有人知道为什么。 对我来说,那一天到来了,我在Taubin估计器中遇到了一个错误。陶宾平滑需要一个三角形网格,一对称为λ和μ的幻数,花一点时间思考,它会使输入网格平滑。它还可以确保......