浮点数存储及误差
前提知识十进制小数表示二进制小数表示以此类推。。。浮点数float在计算机的存储IEEE 754 单精度浮点数32 位的结构符号位1 位表示正负。指数位8 位范围为 \(-126 \sim 127\)偏置值 127。尾数位23 位隐含最高位的 1实际表示 24 位有效数字\(2^{24}\) 种组合。示例例 4.25 这个浮点数先将其转换为二进制即 100.01然后再用二进制科学计算法表示,转换过程为100.01 - 1.0001 ^ 2 - 1.0001 ^ 10最终十进制4.25的二进制为 1.0001^10。那么其中的 1.0001 是尾数存放在尾数位10 二进制为 指数存放在指数位符号为0代表正数。存放在符号位整数位表示所以用这种表示方法计算机能从0开始连续精确表示的最大整数值就是1.111...111 小数部分23个1 ≈ 2 * 2^23 ≈ 2 * 2^23 2^24近似等于 将小数点向前移动了23位2^24 - 1 16777215,能精确表示的最大正整数 16777215此时小数位已经发挥到极限了要表示更大的数只能去增加指数位那么此时指数最大能够使小数点向前移动多少位呢哇这空间绰绰有余这时根据木桶原理比较之下发现尾数位的有效数字位数才是制约我们的条件让我们不能随意向后拓展。我能只能精确表示之间的整数。那么如果我们想表示16777217内存中该如何存储呢理论上应该让尾数变为int main() { float a 16777217; return 0; }此时实际的有效数字会默认在末尾多出一个零在我们增加有效数字的同时其实并不是在最末未位置增加的而是在倒数第二位增加的所以计算机存储是连续两个值都用的相同的存储方式。16777218 1.00000...000001 0 * 2^24int main() { float a 16777218; return 0; }int main() { float a 16777219; return 0; }16777220 1.00000...000010 0 * 2^24int main() { float a 16777220; return 0; }所以如果用float保存整数会有误差而且误差会根据具体要表示的整数值发生变化比如当 -16777216 val 16777216时是能精确表示的误差为0当val 16777216时误差为1当继续增加指数位到极限值时127这就是float能表示的最大值了2^(128-1)小数位表示二进制的十分位1表示0.5百分位1表示0.25千分位1表示0.125以此类推。所以说float也不一定能精确表示一个小数类似于搭积木我有很多小积木0.50.250.125...一共有23个尾数位数这23个积木的组合是无法表示无穷无尽的小数的只能有限接近。具体怎么搭这个积木这里不过多介绍只是给出个大致思路首先要明确两点1、同一个积木不能重复利用两次2、所有的积木相加的和约等于1我们拼凑完后的数字S与实际值的差应该小于最小积木的值。所以说用float表示小数也会存在误差不过这个误差需要根据具体值进行计算但始终小于最小积木的值。这也是用号比较浮点数变量和字面量会false的原因

相关新闻

DeepSeek大模型本地部署与优化实战指南

DeepSeek大模型本地部署与优化实战指南

1. 本地部署DeepSeek全流程解析最近在技术社区看到不少同行讨论DeepSeek这个大模型的应用效果,作为长期关注AI落地的开发者,我花了三天时间完整走通了本地部署的全流程。相比云端API调用,本地部署不仅能避免网络延迟,更重要的是可…

2026/7/23 19:11:49 阅读更多 →
AI日报编制3.0:多模态数据整合与智能分析实践

AI日报编制3.0:多模态数据整合与智能分析实践

1. 项目概述"AI日报 - 2026年04月08日"这个标题看似简单,实际上蕴含着一个专业科技媒体或研究机构的核心工作流程。作为长期跟踪AI领域发展的从业者,我深知这类日报的编制远不止是信息汇总那么简单。它需要建立在对行业动态的持续监测、技术趋…

2026/7/23 19:10:49 阅读更多 →
科技型中小企业如何申请政府补贴?申报指南

科技型中小企业如何申请政府补贴?申报指南

一、为什么要看这份榜单 科技型中小企业在发展过程中,政府补贴是重要的资金来源,但申请流程复杂、政策更新快、材料准备繁琐,许多企业因缺乏专业指导而错失良机。本榜单旨在帮助科技型中小企业选择合适的科技咨询服务机构,提高政府…

2026/7/23 19:10:49 阅读更多 →

最新新闻

**轧辊测量精度突破0.003mm的3大关键技术**

**轧辊测量精度突破0.003mm的3大关键技术**

轧辊轮廓测量的技术突破与工程实践钢铁冷轧产线上,轧辊辊型精度直接影响带钢板形质量。传统机械式测量存在三个技术瓶颈:千分尺人工读数易引入0.005mm以上人为误差;V型块基准面磨损导致系统误差累积;车间震动与油污环境使接触式测…

2026/7/23 19:25:53 阅读更多 →
企业级数据中台建设方法论:从消除孤岛到资产复用的完整落地路径

企业级数据中台建设方法论:从消除孤岛到资产复用的完整落地路径

✨博客主页: https://blog.csdn.net/m0_63815035?typeblog 💗《博客内容》:大数据、AI开发、Java、测试开发、Python、Android、Go、Node、Android前端小程序等相关领域知识 📢博客专栏: https://blog.csdn.net/m0_6…

2026/7/23 19:25:53 阅读更多 →
YOLO26的SPASPP模块:提升红外小目标检测精度

YOLO26的SPASPP模块:提升红外小目标检测精度

1. 项目概述:YOLO26的SPASPP模块创新在目标检测领域,YOLO系列算法因其出色的实时性能而广受欢迎。最近提出的YOLO26模型在保持高效推理速度的同时,进一步提升了检测精度。然而,在处理红外小目标检测这类特殊任务时,传统…

2026/7/23 19:25:53 阅读更多 →
0 基础入门React Native鸿蒙跨平台开发:体重单位转换器功能实战

0 基础入门React Native鸿蒙跨平台开发:体重单位转换器功能实战

本文是基于HarmonyOS API 24的进行的ReactNative 鸿蒙跨平台开发依托适配鸿蒙的 RN 运行层,使用 React 与 JS 编写一套业务代码,无需大量 ArkTS 原生开发,通用业务实现代码复用,支持按需扩展原生桥调用鸿蒙特有能力,有…

2026/7/23 19:25:53 阅读更多 →
Python毕设项目:基于 Python 的智能期货模拟交易分析系统 虚拟资金期货交易演练管理平台 (源码+文档,讲解、调试运行,定制等)

Python毕设项目:基于 Python 的智能期货模拟交易分析系统 虚拟资金期货交易演练管理平台 (源码+文档,讲解、调试运行,定制等)

博主介绍:✌️码农一枚 ,专注于大学生项目实战开发、讲解和毕业🚢文撰写修改等。全栈领域优质创作者,博客之星、掘金/华为云/阿里云/InfoQ等平台优质作者、专注于Java、小程序技术领域和毕业项目实战 ✌️技术范围:&am…

2026/7/23 19:25:53 阅读更多 →
Llama2架构解析与工程实践优化指南

Llama2架构解析与工程实践优化指南

## 1. Llama2架构全景解析作为Meta开源的下一代大语言模型,Llama2在模型结构上延续了Transformer解码器的经典设计,但在细节层面进行了多项关键优化。与第一代Llama相比,Llama2系列包含70亿、130亿和700亿三种参数规格,其中Llama2…

2026/7/23 19:24:52 阅读更多 →

日新闻

从单点好评到指数级传播:AI副业主理人必须掌握的4层口碑渗透模型(含ROI测算表)

从单点好评到指数级传播:AI副业主理人必须掌握的4层口碑渗透模型(含ROI测算表)

更多请点击: https://intelliparadigm.com 第一章:从单点好评到指数级传播:AI副业主理人必须掌握的4层口碑渗透模型(含ROI测算表) 当AI副业主理人不再仅满足于单次服务交付,而是主动构建可复用、可裂变、可…

2026/7/23 0:00:25 阅读更多 →
AI写作开头钩子设计:为什么你的AI文案完读率不足18%?——基于2,346篇A/B测试报告的归因分析

AI写作开头钩子设计:为什么你的AI文案完读率不足18%?——基于2,346篇A/B测试报告的归因分析

更多请点击: https://codechina.net 第一章:AI写作开头钩子设计:为什么你的AI文案完读率不足18%?——基于2,346篇A/B测试报告的归因分析 在对2,346篇跨行业AI生成文案的A/B测试数据进行聚类分析后,我们发现&#xff1…

2026/7/23 0:01:26 阅读更多 →
Chitchatter完整指南:免费开源的终极点对点安全聊天工具

Chitchatter完整指南:免费开源的终极点对点安全聊天工具

Chitchatter完整指南:免费开源的终极点对点安全聊天工具 【免费下载链接】chitchatter Secure peer-to-peer chat that is serverless, decentralized, and ephemeral 项目地址: https://gitcode.com/gh_mirrors/ch/chitchatter Chitchatter是一款革命性的安…

2026/7/23 0:01:26 阅读更多 →

周新闻

Go语言静态资源打包方案对比与实践指南

Go语言静态资源打包方案对比与实践指南

1. 项目背景与核心需求在Go语言开发中,我们经常需要处理静态资源文件的打包问题。无论是Web应用的模板文件、前端资源,还是配置文件、证书等,都需要随程序一起分发。传统做法是将这些文件与编译后的二进制文件放在同一目录下,但这…

2026/7/22 8:58:19 阅读更多 →
Go语言实现高性能LDAP认证服务的架构与实践

Go语言实现高性能LDAP认证服务的架构与实践

1. 项目背景与核心价值LDAP(轻量级目录访问协议)作为企业级身份认证的黄金标准,已经服务了超过80%的财富500强公司。我在金融科技领域实施统一认证体系时,发现传统Java方案存在启动慢、内存占用高等痛点。而Go语言凭借其协程并发模…

2026/7/22 19:43:43 阅读更多 →
【AI面试官实战指南】:用ChatGPT模拟10类高频技术岗面试,3天提升应答精准度92%

【AI面试官实战指南】:用ChatGPT模拟10类高频技术岗面试,3天提升应答精准度92%

更多请点击: https://intelliparadigm.com 第一章:AI面试官实战指南的核心价值与适用场景 AI面试官并非替代人类HR的“黑箱工具”,而是以可解释、可审计、可迭代的方式,赋能招聘全链路的关键基础设施。其核心价值在于将主观经验沉…

2026/7/23 17:49:47 阅读更多 →

月新闻