最新要闻

广告

手机

iphone11大小尺寸是多少？苹果iPhone11和iPhone13的区别是什么？

iphone11大小尺寸是多少？苹果iPhone11和iPhone13的区别是什么？

 警方通报辅警执法直播中被撞飞：犯罪嫌疑人已投案

警方通报辅警执法直播中被撞飞：犯罪嫌疑人已投案

家电

  1. 首页
  2. 移动通信
  3. 内容

接单日记（一）：理解浮点数运算的误差

来源：博客园


(资料图片)

目录
  • 接单日记（一）：理解浮点数运算的误差
    • 一、 实验目的
    • 二、 实验内容
    • 三、 程序及结果

接单日记（一）：理解浮点数运算的误差

此为一个实验报告，故遵守实验报告的格式。

一、 实验目的

  1. 理解python中的浮点数计算存在的一个误差问题
  2. 理解这种误差对程序带来的危害
  3. 理解如何解决程序产生的误差

二、 实验内容

用Python程序判断0.3 – 0.2的值是否为0.1，如果不是0.1，那么，如何让这个值是0.1呢？

三、 程序及结果

from decimal import Decimal# 进行误差的判断value = 0.3 - 0.2print(value == 0.1)  # 输出：False# 消除误差的方法：使用 Decimal 库进行精确运算value_new = float(Decimal("0.3") - Decimal("0.2"))print(value_new == 0.1)  # 输出：True

关键词：