我有很多麻烦理解为什么在数据库类型中以这种方式调用精度和比例。
我看到精度和尺度不同。
在我的观点中精确
对我来说,精确度将是……
如果你考虑数字在科学记数法中的表现,也许会更容易。
X * 10^Y
其中X在小数点前有一位数。
现在,这个数字有多大(它的“规模”)从根本上决定了 Y 。我们是在数着?百万?千分之一?这是规模。
Y
无论数字的绝对比例如何,数字都在 X 确定我们的确切程度。我能区分1.1和1.2吗?我可以区分1.1百万和1.2百万吗?我可以区分1.1千分之一和千分之一千分之一吗?所有都是等价的 - 两位数(包括小数点前的一位)的精度。
X
如果我可以将1.01百万与1.00百万分开,那比仅能区分0.1百万就更精确了;这是精度的3位数。
但1.01 * 10 ^ -3是 不 比1.01 * 10 ^ 10更精确;它只是在较小的规模上运作。
除此之外,我不知道你想要什么。好的,你告诉我们你想要的意思是什么;但这不是他们的意思。这就是他们的意思。
UPDATE - 我应该提到的另一件事。似乎规模和精度在某种程度上是混为一谈的,因为如果我们采取一个物理的例子,肯定“距离靶心1毫米”比“距离靶心1米”更精确,对吧?
但请记住,精度和比例描述了一个 变量的数据类型 ,而不是具体的衡量标准。如果以米为单位测量,我们不能 表达 “距离靶心1毫米”,精度低于4位数(“0.001米”);但是我们可以用1位数的精度描述“距离靶心1米”。所以这实际上与我们称之为“距离靶心1毫米”的愿望一致更为精确。