查看: 2400|回复: 1

[其他] 怎么提高float计算的精度

[复制链接]

该用户从未签到

1

主题

1

帖子

0

新手上路

Rank: 1

积分
13
最后登录
2015-8-24
发表于 2015-8-19 13:28:47 | 显示全部楼层 |阅读模式
各位大神,新手请大家指点迷津了。MC56F844,计算:d = a * b / c,这四个变量都是unsigned long型,且a和b都是大数,相乘会溢出,尝试过强制转化为long long计算,发现修改设置后会增加很多代码量,强制转换为float计算,发现有精度丢失的现象,怎么解?
我知道答案 目前已有1人回答

评分

参与人数 1NXP金币 +3 收起 理由
小七 + 3

查看全部评分

回复

使用道具 举报

  • TA的每日心情
    奋斗
    2023-9-17 19:57
  • 签到天数: 2310 天

    连续签到: 1 天

    [LV.Master]伴坛终老

    107

    主题

    4270

    帖子

    1

    金牌会员

    Rank: 6Rank: 6

    积分
    10481
    最后登录
    2023-9-17
    发表于 2015-8-19 16:29:11 | 显示全部楼层
    精度高会占用更多空间,这是正常的,但是也不会增加非常多吧。
    使用long long应该会比用浮点数的代码略小一些。

    评分

    参与人数 1NXP金币 +10 收起 理由
    小七 + 10

    查看全部评分

    回复 支持 反对

    使用道具 举报

    您需要登录后才可以回帖 注册/登录

    本版积分规则

    关闭

    站长推荐上一条 /3 下一条

    Archiver|手机版|小黑屋|恩智浦技术社区

    GMT+8, 2025-7-20 20:48 , Processed in 0.089378 second(s), 23 queries , MemCache On.

    Powered by Discuz! X3.4

    Copyright © 2001-2024, Tencent Cloud.

    快速回复 返回顶部 返回列表