本文目录一览：
- 1、可以让你快速用Python进行数据分析的10个小技巧
- 2、「干货」让Python性能起飞的15个技巧，你知道几个呢？
- 3、Python元组常用操作小技巧
- 4、Python编程常用技巧
- 5、Python中的7个实用小技巧！
- 6、满满干货！20个Python使用的小技巧
可以让你快速用Python进行数据分析的10个小技巧
一些小提示和小技巧可能是非常有用的，特别是在编程领域。有时候使用一点点黑客技术，既可以节省时间，还可能挽救“生命”。
一个小小的快捷方式或附加组件有时真是天赐之物，并且可以成为真正的生产力助推器。所以，这里有一些小提示和小技巧，有些可能是新的，但我相信在下一个数据分析项目中会让你非常方便。
Pandas中数据框数据的Profiling过程
Profiling（分析器）是一个帮助我们理解数据的过程，而Pandas Profiling是一个Python包，它可以简单快速地对Pandas 的数据框数据进行 探索 性数据分析。
Pandas中df.describe()和df.info()函数可以实现EDA过程第一步。但是，它们只提供了对数据非常基本的概述，对于大型数据集没有太大帮助。 而Pandas中的Profiling功能简单通过一行代码就能显示大量信息，且在交互式HTML报告中也是如此。
对于给定的数据集，Pandas中的profiling包计算了以下统计信息：
由Pandas Profiling包计算出的统计信息包括直方图、众数、相关系数、分位数、描述统计量、其他信息——类型、单一变量值、缺失值等。
安装
用pip安装或者用conda安装
pip install pandas-profiling
conda install -c anaconda pandas-profiling
用法
下面代码是用很久以前的泰坦尼克数据集来演示多功能Python分析器的结果。
#importing the necessary packages
import pandas as pd
import pandas_profiling
df = pd.read_csv('titanic/train.csv')
pandas_profiling.ProfileReport(df)
一行代码就能实现在Jupyter Notebook中显示完整的数据分析报告，该报告非常详细，且包含了必要的图表信息。
还可以使用以下代码将报告导出到交互式HTML文件中。
profile = pandas_profiling.ProfileReport(df)
profile.to_file(outputfile="Titanic data profiling.html")
Pandas实现交互式作图
Pandas有一个内置的.plot（）函数作为DataFrame类的一部分。但是，使用此功能呈现的可视化不是交互式的，这使得它没那么吸引人。同样，使用pandas.DataFrame.plot（）函数绘制图表也不能实现交互。 如果我们需要在不对代码进行重大修改的情况下用Pandas绘制交互式图表怎么办呢？这个时候就可以用Cufflinks库来实现。
Cufflinks库可以将有强大功能的plotly和拥有灵活性的pandas结合在一起，非常便于绘图。下面就来看在pandas中如何安装和使用Cufflinks库。
安装
pip install plotly
# Plotly is a pre-requisite before installing cufflinks
pip install cufflinks
用法
#importing Pandas
import pandas as pd
#importing plotly and cufflinks in offline mode
import cufflinks as cf
import plotly.offline
cf.go_offline()
cf.set_config_file(offline=False, world_readable=True)
是时候展示泰坦尼克号数据集的魔力了。
df.iplot()
df.iplot() vs df.plot()
右侧的可视化显示了静态图表，而左侧图表是交互式的，更详细，并且所有这些在语法上都没有任何重大更改。
Magic命令
Magic命令是Jupyter notebook中的一组便捷功能，旨在解决标准数据分析中的一些常见问题。使用命令％lsmagic可以看到所有的可用命令。
所有可用的Magic命令列表
Magic命令有两种：行magic命令（line magics），以单个％字符为前缀，在单行输入操作；单元magic命令（cell magics），以双%%字符为前缀，可以在多行输入操作。如果设置为1，则不用键入%即可调用Magic函数。
接下来看一些在常见数据分析任务中可能用到的命令：
% pastebin
％pastebin将代码上传到Pastebin并返回url。Pastebin是一个在线内容托管服务，可以存储纯文本，如源代码片段，然后通过url可以与其他人共享。事实上，Github gist也类似于pastebin，只是有版本控制。
在file.py文件中写一个包含以下内容的python脚本，并试着运行看看结果。
#file.py
def foo(x):
return x
在Jupyter Notebook中使用％pastebin生成一个pastebin url。
%matplotlib notebook
函数用于在Jupyter notebook中呈现静态matplotlib图。用notebook替换inline，可以轻松获得可缩放和可调整大小的绘图。但记得这个函数要在导入matplotlib库之前调用。
%run
用％run函数在notebook中运行一个python脚本试试。
%run file.py
%%writefile
%% writefile是将单元格内容写入文件中。以下代码将脚本写入名为foo.py的文件并保存在当前目录中。
%%latex
%%latex函数将单元格内容以LaTeX形式呈现。此函数对于在单元格中编写数学公式和方程很有用。
查找并解决错误
交互式调试器也是一个神奇的功能，我把它单独定义了一类。如果在运行代码单元时出现异常，请在新行中键入％debug并运行它。 这将打开一个交互式调试环境，它能直接定位到发生异常的位置。还可以检查程序中分配的变量值，并在此处执行操作。退出调试器单击q即可。
Printing也有小技巧
如果您想生成美观的数据结构，pprint是首选。它在打印字典数据或JSON数据时特别有用。接下来看一个使用print和pprint来显示输出的示例。
让你的笔记脱颖而出
我们可以在您的Jupyter notebook中使用警示框/注释框来突出显示重要内容或其他需要突出的内容。注释的颜色取决于指定的警报类型。只需在需要突出显示的单元格中添加以下任一代码或所有代码即可。
蓝色警示框：信息提示
p class="alert alert-block alert-info"
bTip:/b Use blue boxes (alert-info) for tips and notes.
If it’s a note, you don’t have to include the word “Note”.
/p
黄色警示框：警告
p class="alert alert-block alert-warning"
bExample:/b Yellow Boxes are generally used to include additional examples or mathematical formulas.
/p
绿色警示框：成功
p class="alert alert-block alert-success"
Use green box only when necessary like to display links to related content.
/p
红色警示框：高危
p class="alert alert-block alert-danger"
It is good to avoid red boxes but can be used to alert users to not delete some important part of code etc.
/p
打印单元格所有代码的输出结果
假如有一个Jupyter Notebook的单元格，其中包含以下代码行：
In [1]: 10+5
11+6
Out [1]: 17
单元格的正常属性是只打印最后一个输出，而对于其他输出，我们需要添加print()函数。然而通过在notebook顶部添加以下代码段可以一次打印所有输出。
添加代码后所有的输出结果就会一个接一个地打印出来。
In [1]: 10+5
11+6
12+7
Out [1]: 15
Out [1]: 17
Out [1]: 19
恢复原始设置：
InteractiveShell.ast_node_interactivity = "last_expr"
使用'i'选项运行python脚本
从命令行运行python脚本的典型方法是：python hello.py。但是，如果在运行相同的脚本时添加-i，例如python -i hello.py，就能提供更多优势。接下来看看结果如何。
首先，即使程序结束，python也不会退出解释器。因此，我们可以检查变量的值和程序中定义的函数的正确性。
其次，我们可以轻松地调用python调试器，因为我们仍然在解释器中：
import pdb
pdb.pm()
这能定位异常发生的位置，然后我们可以处理异常代码。
自动评论代码
Ctrl / Cmd + /自动注释单元格中的选定行，再次命中组合将取消注释相同的代码行。
删除容易恢复难
你有没有意外删除过Jupyter notebook中的单元格？如果答案是肯定的，那么可以掌握这个撤消删除操作的快捷方式。
如果您删除了单元格的内容，可以通过按CTRL / CMD + Z轻松恢复它。
如果需要恢复整个已删除的单元格，请按ESC + Z或EDIT撤消删除单元格。
结论
在本文中，我列出了使用Python和Jupyter notebook时收集的一些小提示。我相信它们会对你有用，能让你有所收获，从而实现轻松编码！
「干货」让Python性能起飞的15个技巧，你知道几个呢？
前言
Python 一直以来被大家所诟病的一点就是执行速度慢，但不可否认的是 Python 依然是我们学习和工作中的一大利器。本文总结了15个tips有助于提升 Python 执行速度、优化性能。
关于 Python 如何精确地测量程序的执行时间，这个问题看起来简单其实很复杂，因为程序的执行时间受到很多因素的影响，例如操作系统、Python 版本以及相关硬件（CPU 性能、内存读写速度）等。在同一台电脑上运行相同版本的语言时，上述因素就是确定的了，但是程序的睡眠时间依然是变化的，且电脑上正在运行的其他程序也会对实验有干扰，因此严格来说这就是实验不可重复。
我了解到的关于计时比较有代表性的两个库就是 time 和 timeit 。
其中， time 库中有 time() 、 perf_counter() 以及 process_time() 三个函数可用来计时（以秒为单位），加后缀 _ns 表示以纳秒计时（自 Python3.7 始）。在此之前还有 clock() 函数，但是在 Python3.3 之后被移除了。上述三者的区别如下：
与 time 库相比， timeit 有两个优点：
timeit.timeit(stmt='pass', setup='pass', timer= , number=1000000, globals=None) 参数说明：
本文所有的计时均采用 timeit 方法，且采用默认的执行次数一百万次。
为什么要执行一百万次呢？因为我们的测试程序很短，如果不执行这么多次的话，根本看不出差距。
Exp1：将字符串数组中的小写字母转为大写字母。
测试数组为 oldlist = ['life', 'is', 'short', 'i', 'choose', 'python']。
方法一
方法二
方法一耗时 0.5267724000000005s ，方法二耗时 0.41462569999999843s ，性能提升 21.29%
Exp2：求两个 list 的交集。
测试数组：a = [1,2,3,4,5]，b = [2,4,6,8,10]。
方法一
方法二
方法一耗时 0.9507264000000006s ，方法二耗时 0.6148200999999993s ，性能提升 35.33%
关于 set() 的语法： | 、 、 - 分别表示求并集、交集、差集。
我们可以通过多种方式对序列进行排序，但其实自己编写排序算法的方法有些得不偿失。因为内置的 sort() 或 sorted() 方法已经足够优秀了，且利用参数 key 可以实现不同的功能，非常灵活。二者的区别是 sort() 方法仅被定义在 list 中，而 sorted() 是全局方法对所有的可迭代序列都有效。
Exp3：分别使用快排和 sort() 方法对同一列表排序。
测试数组：lists = [2,1,4,3,0]。
方法一
方法二
方法一耗时 2.4796975000000003s ，方法二耗时 0.05551999999999424s ，性能提升 97.76%
顺带一提， sorted() 方法耗时 0.1339823999987857s 。
可以看出， sort() 作为 list 专属的排序方法还是很强的， sorted() 虽然比前者慢一点，但是胜在它“不挑食”，它对所有的可迭代序列都有效。
扩展 ：如何定义 sort() 或 sorted() 方法的 key
1.通过 lambda 定义
2.通过 operator 定义
operator 的 itemgetter() 适用于普通数组排序， attrgetter() 适用于对象数组排序
3.通过 cmp_to_key() 定义，最为灵活
Exp4：统计字符串中每个字符出现的次数。
测试数组：sentence='life is short, i choose python'。
方法一
方法二
方法一耗时 2.8105250000000055s ，方法二耗时 1.6317423000000062s ，性能提升 41.94%
列表推导（list comprehension）短小精悍。在小代码片段中，可能没有太大的区别。但是在大型开发中，它可以节省一些时间。
Exp5：对列表中的奇数求平方，偶数不变。
测试数组：oldlist = range(10)。
方法一
方法二
方法一耗时 1.5342976000000021s ，方法二耗时 1.4181957999999923s ，性能提升 7.57%
大多数人都习惯使用 + 来连接字符串。但其实，这种方法非常低效。因为， + 操作在每一步中都会创建一个新字符串并复制旧字符串。更好的方法是用 join() 来连接字符串。关于字符串的其他操作，也尽量使用内置函数，如 isalpha() 、 isdigit() 、 startswith() 、 endswith() 等。
Exp6：将字符串列表中的元素连接起来。
测试数组：oldlist = ['life', 'is', 'short', 'i', 'choose', 'python']。
方法一
方法二
方法一耗时 0.27489080000000854s ，方法二耗时 0.08166570000000206s ，性能提升 70.29%
join 还有一个非常舒服的点，就是它可以指定连接的分隔符，举个例子
life//is//short//i//choose//python
Exp6：交换x，y的值。
测试数据：x, y = 100, 200。
方法一
方法二
方法一耗时 0.027853900000010867s ，方法二耗时 0.02398730000000171s ，性能提升 13.88%
在不知道确切的循环次数时，常规方法是使用 while True 进行无限循环，在代码块中判断是否满足循环终止条件。虽然这样做没有任何问题，但 while 1 的执行速度比 while True 更快。因为它是一种数值转换，可以更快地生成输出。
Exp8：分别用 while 1 和 while True 循环 100 次。
方法一
方法二
方法一耗时 3.679268300000004s ，方法二耗时 3.607847499999991s ，性能提升 1.94%
将文件存储在高速缓存中有助于快速恢复功能。Python 支持装饰器缓存，该缓存在内存中维护特定类型的缓存，以实现最佳软件驱动速度。我们使用 lru_cache 装饰器来为斐波那契函数提供缓存功能，在使用 fibonacci 递归函数时，存在大量的重复计算，例如 fibonacci(1) 、 fibonacci(2) 就运行了很多次。而在使用了 lru_cache 后，所有的重复计算只会执行一次，从而大大提高程序的执行效率。
Exp9：求斐波那契数列。
测试数据：fibonacci(7)。
方法一
方法二
方法一耗时 3.955014900000009s ，方法二耗时 0.05077979999998661s ，性能提升 98.72%
注意事项：
我被执行了（执行了两次 demo(1, 2) ，却只输出一次）
functools.lru_cache(maxsize=128, typed=False) 的两个可选参数：
点运算符( . )用来访问对象的属性或方法，这会引起程序使用 __getattribute__() 和 __getattr__() 进行字典查找，从而带来不必要的开销。尤其注意，在循环当中，更要减少点运算符的使用，应该将它移到循环外处理。
这启发我们应该尽量使用 from ... import ... 这种方式来导包，而不是在需要使用某方法时通过点运算符来获取。其实不光是点运算符，其他很多不必要的运算我们都尽量移到循环外处理。
Exp10：将字符串数组中的小写字母转为大写字母。
测试数组为 oldlist = ['life', 'is', 'short', 'i', 'choose', 'python']。
方法一
方法二
方法一耗时 0.7235491999999795s ，方法二耗时 0.5475435999999831s ，性能提升 24.33%
当我们知道具体要循环多少次时，使用 for 循环比使用 while 循环更好。
Exp12：使用 for 和 while 分别循环 100 次。
方法一
方法二
方法一耗时 3.894683299999997s ，方法二耗时 1.0198077999999953s ，性能提升 73.82%
Numba 可以将 Python 函数编译码为机器码执行，大大提高代码执行速度，甚至可以接近 C 或 FORTRAN 的速度。它能和 Numpy 配合使用，在 for 循环中或存在大量计算时能显著地提高执行效率。
Exp12：求从 1 加到 100 的和。
方法一
方法二
方法一耗时 3.7199997000000167s ，方法二耗时 0.23769430000001535s ，性能提升 93.61%
矢量化是 NumPy 中的一种强大功能，可以将操作表达为在整个数组上而不是在各个元素上发生。这种用数组表达式替换显式循环的做法通常称为矢量化。
在 Python 中循环数组或任何数据结构时，会涉及很多开销。NumPy 中的向量化操作将内部循环委托给高度优化的 C 和 Fortran 函数，从而使 Python 代码更加快速。
Exp13：两个长度相同的序列逐元素相乘。
测试数组：a = [1,2,3,4,5], b = [2,4,6,8,10]
方法一
方法二
方法一耗时 0.6706845000000214s ，方法二耗时 0.3070132000000001s ，性能提升 54.22%
若要检查列表中是否包含某成员，通常使用 in 关键字更快。
Exp14：检查列表中是否包含某成员。
测试数组：lists = ['life', 'is', 'short', 'i', 'choose', 'python']
方法一
方法二
方法一耗时 0.16038449999999216s ，方法二耗时 0.04139250000000061s ，性能提升 74.19%
itertools 是用来操作迭代器的一个模块，其函数主要可以分为三类：无限迭代器、有限迭代器、组合迭代器。
Exp15：返回列表的全排列。
测试数组：["Alice", "Bob", "Carol"]
方法一
方法二
方法一耗时 3.867292899999484s ，方法二耗时 0.3875405000007959s ，性能提升 89.98%
根据上面的测试数据，我绘制了下面这张实验结果图，可以更加直观的看出不同方法带来的性能差异。
从图中可以看出，大部分的技巧所带来的性能增幅还是比较可观的，但也有少部分技巧的增幅较小（例如编号5、7、8，其中，第 8 条的两种方法几乎没有差异）。
总结下来，我觉得其实就是下面这两条原则：
内置库函数由专业的开发人员编写并经过了多次测试，很多库函数的底层是用 C 语言开发的。因此，这些函数总体来说是非常高效的（比如 sort() 、 join() 等），自己编写的方法很难超越它们，还不如省省功夫，不要重复造轮子了，何况你造的轮子可能更差。所以，如果函数库中已经存在该函数，就直接拿来用。
有很多优秀的第三方库，它们的底层可能是用 C 和 Fortran 来实现的，像这样的库用起来绝对不会吃亏，比如前文提到的 Numpy 和 Numba，它们带来的提升都是非常惊人的。类似这样的库还有很多，比如Cython、PyPy等，这里我只是抛砖引玉。
原文链接：
Python元组常用操作小技巧
所以这篇文章，我们先来回顾和总结Python数据结构里常用操作。Python中常见的数据结构可以统称为容器（container）。序列（如列表和元组）、映射（如字典）以及集合（set）是三类主要的容器。而扁平序列如str、bytes、bytearray、memoryview 和 array.array等不在这篇文章的讨论范围内。
在此，我们先从元组开始说起。
元组区别于列表的显著特征之一就是它不能被修改，但其另外一个作用就是 用于没有字段名的记录 [1] 。因为后者经常被忽略，我们先来看看元组作为记录的作用。
使用括号就可以定义一个元组。元组中的每个元素都存放了记录中一个字段的数据，外加这个字段的位置。正是这个位置信息给数据赋予了意义。下面的例子中，元组就被当作记录加以利用：
输出为：
上述for循环中的操作提取了元组中的元素，也叫作拆包（unpacking）。平行赋值是对元组拆包很好的应用，示例如下：
还有一个经典而优雅的应用是交换变量的值：
用 * 运算符把一个可迭代对象拆开作为函数的参数，例如Python的内置函数pmod接收两个数字类型的参数，返回商和余数。以下范例将使用 * 将元组传入函数。
输出为：
有些函数有多个返回值，将其赋给一个变量时，变量类型即是元组：
输出为：
zip是Python的内置函数，能够接收两个或多个序列，并组成一个元组列表，在Python3中会返回一个迭代器，如下所示：
输出为：
元组当然也支持一些常规操作，如对于元组 a = (1, 'y', 5, 5, 'x') ：
上述内容不仅涵盖了元组的基本操作，同时也结合了实际工作中常搭配使用的其他函数、运算符等。在回顾这些知识时主要参考了两本经典的Python编程书籍：《流畅的Python》和《像计算机科学家一样思考Python》，有兴趣的朋友可以深入阅读！
希望这篇文章对你有帮助，下回将总结Python列表的使用技巧。
[1]《流畅的Python》:
Python编程常用技巧
清理用户输入
对输入的的值进行清理处理，是常见的程序要求。比如要做大小写转化、要验证输入字符的注入，通常可以通过写正则用Regex来做专项任务。但是对于复杂的情况，可以用一些技巧，比如下面：
user_input = "This\nstring has\tsome whitespaces...\r\n"
character_map = {
ord('\n') : ' ',
ord('\t') : ' ',
ord('\r') : None
}
在此示例中，可以看到空格字符"\n"和"\t"都被替换为空格，而 "\r"被删除。
这是一个简单的示例，我们还可以使用unicodedata包和combinin()函数来生成大的映射表,以生成映射来替换字符串。
提示用户输入
命令行工具或脚本需要输入用户名和密码才能操作。要用这个功能，一个很有用的技巧是使用getpass模块：
import getpass
user = getpass.getuser()
password = getpass.getpass()
这三行代码就可以让我们优雅的交互提醒用户输入输入密码并捕获当前的系统用户和输入的密码，而且输入密码时候会自动屏蔽显示，以防止被人窃取。
查找字符串频率
如果需要使用查找类似于某些输入字符串的单词，可以使用difflib来实现：
import difflib
difflib.get_close_matches('appel', ['ape', 'apple', 'peach', 'puppy'], n=2)
# 返回['apple', 'ape']
difflib.get_close_matches会查找相似度最匹配的字串。本例中，第一个参数与第二个参数匹配。提供可选参数n，该参数指定要返回的最大匹配数，以及参数cutoff(默认值为0.6)设置为thr确定匹配字符串的分数。
关于Python编程常用技巧，青藤小编就和您分享到这里了。如果您对python编程有浓厚的兴趣，希望这篇文章可以为您提供帮助。如果您还想了解更多关于python编程的技巧及素材等内容，可以点击本站的其他文章进行学习。
Python中的7个实用小技巧！
「相对来说，Python的技巧是比较少见的，但是非常实用。」
Talk is cheap show me the code、
1、交换两个值
2.、列表中所有元素合成一个字符串
3. 列表中所有元素合成一个字符串
4. 检查两个字符串是否所用的字母及其个数都一样
5. 反转字符串
6. 反转列表
7. 二维数组转换
若有不明白的地方，请移步Python视频教程继续学习！！
满满干货！20个Python使用的小技巧
本节对一些 Python 易混淆的操作进行对比。
1.1 有放回随机采样和无放回随机采样
1.2 lambda 函数的参数
1.3 copy 和 deepcopy
复制和变量别名结合在一起时，容易混淆：
对别名的修改会影响原变量，（浅）复制中的元素是原列表中元素的别名，而深层复制是递归地进行复制，对深层复制的修改不影响原变量。
1.4 == 和 is
1.5 判断类型
1.6 字符串搜索
1.7 List 后向索引
这个只是习惯问题，前向索引时下标从0开始，如果反向索引也想从0开始可以使用~。
2.1 读写 CSV 文件
注意，当 CSV 文件过大时会报错：_csv.Error: field larger than field limit (131072)，通过修改上限解决
csv 还可以读以 分割的数据
2.2 迭代器工具
itertools 重新定义了很多迭代器工具，例如子序列工具：
序列排序：
多个序列合并：
2.3 计数器
计数器可以统计一个可迭代对象中每个元素出现的次数。
2.4 带默认值的 Dict
当访问不存在的 Key 时，defaultdict 会将其设置为某个默认值。
2.5 有序 Dict
3.1 输出错误和警告信息
向标准错误输出信息
输出警告信息
控制警告消息的输出
3.2 代码中测试
有时为了调试，我们想在代码中加一些代码，通常是一些 print 语句，可以写为：
一旦调试结束，通过在命令行执行 -O 选项，会忽略这部分代码：
3.3 代码风格检查
使用 pylint 可以进行不少的代码风格和语法检查，能在运行之前发现一些错误
3.4 代码耗时
耗时测试
测试某代码块耗时
代码耗时优化的一些原则
4.1 argmin 和 argmax
argmax同理。
4.2 转置二维列表
4.3 一维列表展开为二维列表
