游戏天空论坛

 找回密码
 立即注册
搜索
热搜: 活动 交友 discuz
查看: 30|回复: 0

浮点数精度

[复制链接]

827

主题

827

帖子

2531

积分

金牌会员

Rank: 6Rank: 6

积分
2531
发表于 2023-10-11 10:46:37 | 显示全部楼层 |阅读模式
  • 半精度浮点数是一种计算机使用的二进制浮点数数据类型。半精度浮点数使用2字节(16位)存储。
  • 单精度浮点数格式是一种计算机数据格式,在计算机存储器中占用4个字节(32 bits),利用“浮点”(浮动小数点)的方法,可以表示一个范围很大的数值。
  • 双精度浮点数(Double)是计算机使用的一种数据类型。比起单精度浮点数,双精度浮点数使用 64 位(8字节)来存储一个浮点数。
了解更多资料 请联系: 飞机 @Cdncloud_ping

回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

QQ|Archiver|手机版|小黑屋|游戏天空论坛 ( 陕ICP备13009885号 )

GMT+8, 2024-10-8 19:42 , Processed in 0.125000 second(s), 18 queries .

Powered by Discuz! X3.4

© 2001-2017 Comsenz Inc.

快速回复 返回顶部 返回列表