cJSON精度丢失问题

最新推荐文章于 2024-07-12 13:16:15 发布

weixin_34067049

最新推荐文章于 2024-07-12 13:16:15 发布

阅读量210

点赞数

CC 4.0 BY-SA版权

原文链接：https://yq.aliyun.com/articles/497268

本文分析了使用cJSON库处理浮点数时遇到的精度丢失问题。通过复现步骤展示了当字符串转换为cJSON对象并打印时，双精度浮点数的精度从8位减少到了6位。问题根源在于cJSON的print_number函数中sprintf调用未指定精度，默认只保留6位有效数字。

问题复现步骤：
1) 输入字符串：
{
"V":0.12345678
}

2) 字符串转成cJSON对象

3) 调用cJSON_Print将cJSON对象再转成字符串
4) 再将字符串转成cJSON对象
5) 保留8位精度方式调用printf打印值，输出变成：0.123456

问题的原因出在cJSON的print_number函数：
static char *print_number(cJSON *item)
{
char *str;
double d = item->valuedouble;
if (fabs(((double) item->valueint) - d) && d >= INT_MIN)
{
str = (char*) cJSON_malloc(21); /* 2^64+1 can be represented in 21 chars. */
if (str)
sprintf(str, "%d", item->valueint);
}
else
{
str = (char*) cJSON_malloc(64); /* This is a nice tradeoff. */
if (str)
{
if (fabs(floor(d) - d) sprintf(str, "%.0f", d);
else if (fabs(d) 1.0e9)
sprintf(str, "%e", d);
else
sprintf(str, "%f", d);
}
}
return str;
}

最后一个sprintf调用没有指定保留的精度，默认为6位，这就是问题的原因。
注：float的精度为6~7位有效数字，double的精度为15~16位。