网站导航免费论文 原创论文 论文搜索 原创论文 网学软件 学术大家 资料中心 会员中心 问题解答 原创论文 论文素材 设计下载 最新论文 下载排行 论文上传 在线投稿 联系我们
返回网学首页
网学联系
最新论文 推荐专题 热门论文 素材专题
当前位置: 网学 > 编程文档 > DELPHI > 正文
避免浮点操作的四舍五入错误
来源:Http://myeducs.cn 联系QQ:点击这里给我发消息 作者: 用户投稿 来源: 网络 发布时间: 12/10/12
下载{$ArticleTitle}原创论文样式

Single, Double和Extended型的浮点变量存在着四舍五入问题。举个例子,假设我们用电脑使用4位数字,那么:
  1 / 3 = 0.3333

我们知道3 * 1/3 = 1,但如果我们这样:
  X := 1 / 3;
  X := X * 3;
  if X = 1 then //结果将会不正确

为什么?因为X = 0.9999而不是1。

电脑不会有无限的小数位。从Single到Double到Extended ,浮点类型可以给你更好的精确度,但是上述的四舍五入错误依然存在。

不要再作相等比较了,我们需要确定要多精确才够。

用下面的例程实现:

var
  ESBTolerance: Extended = 0.00000001; //设定所要的精确度

function SameFloat (const X1, X2: Extended): Boolean;
begin
  Result := abs (X1 - X2) < ESBTolerance
end;

function FloatIsZero (const X: Extended): Boolean;
begin
Result := abs (X) < ESBTolerance
end;

function FloatIsPositive (const X: Extended): Boolean;
begin
Result := (X >= ESBTolerance);
end;

function FloatIsNegative (const X: Extended): Boolean;
begin
  Result := (X <= -ESBTolerance);
end;

  • 上一篇资讯: Delphi实现NetBIOS广播收发
  • 网学推荐

    免费论文

    原创论文

    浏览:
    设为首页 | 加入收藏 | 论文首页 | 论文专题 | 设计下载 | 网学软件 | 论文模板 | 论文资源 | 程序设计 | 关于网学 | 站内搜索 | 网学留言 | 友情链接 | 资料中心
    版权所有 QQ:3710167 邮箱:3710167@qq.com 网学网 [Myeducs.cn] 您电脑的分辨率是 像素
    Copyright 2008-2015 myeducs.Cn www.myeducs.Cn All Rights Reserved
    湘ICP备09003080号