数值计算

标签介绍:编程所涉及的计算有数值计算,比如要精确计算某个数值,和非数值计算,比如只是用整数进行循环控制和计数。数值计算一般都涉及浮点数(或小数),由于计算机本质上不能精确表示浮点数,因此在进行这类计算的时候,有一些特别注意事项。

文章列表

用或不用pow函数?

2020年9月5日

很长一段时间,我都没有直接使用pow函数,用**符号可以替代它。不过,pow函数也有其可以使用的情况。 阅读全文->

python的复数运算

2020年5月30日

python内置对复数运算的支持,不过不是用i来表示虚数部分,而是用j。 阅读全文->

用python计算复利和年化收益率

2019年12月31日

投资股市多年,常常用python来计算复利和年化收益率,给自己打气,也看看自己过往的成绩如何。本文介绍如何进行这样的计算。 阅读全文->

十六进制字符串hexstr的计算

2020年5月14日

在面向比较底层的编程时,界面和接口常常需要显示十六进制字符串(hexstr)。hexstr只包含0-9a-f的字符,本文汇总一些能够得到hexstr的计算方法。 阅读全文->

用减法模拟计算机除法

2019年11月17日

计算机做除法,到底要不要做位移,似乎答案是都可以。做位移,按照人类做竖式除法一样计算,可以得到答案,不做位移,就用纯粹的减法,也可以计算除法。本文用一小段python代码,使用纯除法的方式,模拟计算除法。 阅读全文->

用移位和加法模拟计算机乘法

2019年11月16日

写了一小段python程序,用移位和加法这两种运算,模拟计算机做二进制乘法的过程!ALU单元做乘法,就是移位和加法。其实加法几乎是ALU单元唯一进行的运算,自己与自己相加,就是左移一位。 阅读全文->

用移位来进行乘除2的运算

2019年11月13日

使用python的移位的方式来进行乘除2的运算,计算速度快,而且代码更酷,能写出这样的代码,本身就说明计算机的功底还比较扎实! 阅读全文->

用python的位运算来判断数值的奇偶性

2019年11月5日

在python中,我们除了可以使用模2运算,还可以使用位运算来对数值的奇偶性进行判断。 阅读全文->

python的位运算

2019年11月4日

python虽然是很高级的脚本语言,也还是对位运算有足够的支持。当我们需要的代码功能比较底层的时候,就需要使用到这些位运算。本文介绍python支持的6种位运算! 阅读全文->

python中反码和补码的计算

2019年11月2日

python虽然是在某种程度上脱离了底层硬件的高级语言,它还是可以对数值的二进制机器码表示进行各种运算和操作。本文介绍如何计算反码和补码。 阅读全文->

int与bytes的转换

2020年5月16日

python中做int和bytes的转换与C不一样,C编程看到的全是内存和地址,python编程更抽象,也更简单,不让我们去看底层的内存和地址,仅仅是对各种对象的操作。 阅读全文->

python浮点数舍入(ROUND)方式总结

2020年7月13日

本文总结python中存在8种对浮点数的round方式,有些是python直接支持,有些需要用到decimal模块。 阅读全文->

python模运算%详解

2020年7月13日

本文介绍使用python的%符号进行模运算的细节,主要是对有负号的情况下模运算与求余数运算的比较和概念澄清。 阅读全文->

python除法,以及对结果的各种ROUND操作

2019年10月23日

本文介绍python的除法运行(/),对除法的结果进行去掉小数的ROUND FLOOR操作(//),用int函数直接获取除法的商,以及用round函数对除法的结果进行HALF EVEN舍入。 阅读全文->

Python实现小数四舍五入的方法

2019年10月23日

对小数在Python中实现四舍五入的方法,不能使用round函数,round函数的执行的是HALF EVEN,不是四舍五入(HALF UP)。要使用dicimal模块的接口。 阅读全文->


©Copyright 麦新杰 Since 2019 Python笔记

go to top