本文目录一览:
- Python伪造数据集时怎么根据之前的特征伪造
- 用python生成随机数的几种方法
- [想用Python抓包(keep APP),进而修改数据,得到伪造的结果,有什么具体方案吗?](#想用Python抓包(keep APP),进而修改数据,得到伪造的结果,有什么具体方案吗?)
- 如何用python的蒙特卡洛模拟生成新的数据
- 可以让你快速用Python进行数据分析的10个小技巧
Python伪造数据集时怎么根据之前的特征伪造
Python有一个包叫Faker,它会自动提取之前一些数据。使用它可以轻易地伪造姓名、地址、手机号等等信息。安装完成后,使用时需要先创建一个Faker对象,创建方法有两种,一种是直接通过构造函数来创建,另一种是通过工厂函数来创建。
用python生成随机数的几种方法
1. 从给定参数的正态分布中生成随机数
当考虑从正态分布中生成随机数时,应当首先知道正态分布的均值和方差(标准差),有了这些,就可以调用Python中现有的模块和函数来生成随机数了。这里调用了Numpy模块中的random.normal
函数,由于逻辑非参简单,所有直接贴上代码如下:
import numpy as np
# 定义从正态分布中获取随机数的函数
def get_normal_random_number(loc, scale):
"""
:param loc: 正态分布的均值
:param scale: 正态分布的标准差
:return:从正态分布中产生的随机数
"""
# 正态分布中的随机数生成
number = np.random.normal(loc=loc, scale=scale)
# 返回值
return number
# 主模块
if __name__ == "__main__":
# 函数调用
n = get_normal_random_number(loc=2, scale=2)
# 打印结果
print(n)
# 结果:3.275192443463058
2. 从给定参数的均匀分布中获取随机数的函数
考虑从均匀分布中获取随机数的时候,要事先知道均匀分布的下界和上界,然后调用Numpy模块的random.uniform
函数生成随机数。
import numpy as np
# 定义从均匀分布中获取随机数的函数
def get_uniform_random_number(low, high):
"""
:param low: 均匀分布的下界
:param high: 均匀分布的上界
:return: 从均匀分布中产生的随机数
"""
# 均匀分布的随机数生成
number = np.random.uniform(low, high)
# 返回值
return number
# 主模块
if __name__ == "__main__":
# 函数调用
n = get_uniform_random_number(low=2, high=4)
# 打印结果
print(n)
# 结果:2.4462417140153114
3. 按照指定概率生成随机数
有时候我们需要按照指定的概率生成随机数,比如已知盒子中每种颜色的球的比例,猜测下一次取出的球的颜色。在这里介绍的问题和上面的例子相似,要求给定一个概率列表,从列表对应的数字列表或区间列表中生成随机数,分两部分讨论。
3.1 按照指定概率从数字列表中随机抽取数字
假设给定一个数字列表和一个与之对应的概率列表,两个列表对应位置的元素组成的元组即表示该数字在数字列表中以多大的概率出现,那么如何根据这些已知条件从数字列表中按概率抽取随机数呢?在这里我们考虑用均匀分布来模拟概率,代码如下:
import numpy as np
import random
# 定义从均匀分布中获取随机数的函数
def get_uniform_random_number(low, high):
"""
:param low: 均匀分布的下界
:param high: 均匀分布的上界
:return: 从均匀分布中产生的随机数
"""
# 均匀分布的随机数生成
number = np.random.uniform(low, high)
# 返回值
return number
# 定义从一个数字列表中以一定的概率取出对应区间中数字的函数
def get_number_by_pro(number_list, pro_list):
"""
:param number_list:数字列表
:param pro_list:数字对应的概率列表
:return:按概率从数字列表中抽取的数字
"""
# 用均匀分布中的样本值来模拟概率
x = random.uniform(0, 1)
# 累积概率
cum_pro = 0.0
# 将可迭代对象打包成元组列表
for number, number_pro in zip(number_list, pro_list):
cum_pro += number_pro
if x < cum_pro:
# 返回值
return number
# 主模块
if __name__ == "__main__":
# 数字列表
num_list = [1, 2, 3, 4, 5]
# 对应的概率列表
pr_list = [0.1, 0.3, 0.1, 0.4, 0.1]
# 函数调用
n = get_number_by_pro(number_list=num_list, pro_list=pr_list)
# 打印结果
print(n)
# 结果:1
3.2 按照指定概率从区间列表中的某个区间内生成随机数
给定一个区间列表和一个与之对应的概率列表,两个列表相应位置的元素组成的元组即表示某数字出现在某区间内的概率是多少,已知这些,我们如何生成随机数呢?这里我们通过两次使用均匀分布达到目的,代码如下:
import numpy as np
import random
# 定义从均匀分布中获取随机数的函数
def get_uniform_random_number(low, high):
"""
:param low: 均匀分布的下界
:param high: 均匀分布的上界
:return: 从均匀分布中产生的随机数
"""
# 均匀分布的随机数生成
number = np.random.uniform(low, high)
# 返回值
return number
# 定义从一个数字列表中以一定的概率取出对应区间中数字的函数
def get_number_by_pro(number_list, pro_list):
"""
:param number_list:数字列表
:param pro_list:数字对应的概率列表
:return:按概率从数字列表中抽取的数字
"""
# 用均匀分布中的样本值来模拟概率
x = random.uniform(0, 1)
# 累积概率
cum_pro = 0.0
# 将可迭代对象打包成元组列表
for number, number_pro in zip(number_list, pro_list):
cum_pro += number_pro
if x < cum_pro:
# 从区间[number, number - 1]上随机抽取一个值
num = get_uniform_random_number(number, number - 1)
# 返回值
return num
# 主模块
if __name__ == "__main__":
# 数字列表
num_list = [1, 2, 3, 4, 5]
# 对应的概率列表
pr_list = [0.1, 0.3, 0.1, 0.4, 0.1]
# 函数调用
n = get_number_by_pro(number_list=num_list, pro_list=pr_list)
# 打印结果
print(n)
# 结果:3.49683787011193
想用Python抓包(keep APP),进而修改数据,得到伪造的结果,有什么具体方案吗?
用Fiddler抓包,获取POST的地址,然后伪造表单,用requests.post()
把表单内容发过去试试。
如何用python的蒙特卡洛模拟生成新的数据
生成1~10的随机数1000个:
import random
fp = open("test", 'w')
for i in range(1, 1000):
a = random.randint(1,10)
fp.write(str(a)+"\n")
fp.close()
注意:写入文件的不会在最后写入,而是重新写文件。
可以让你快速用Python进行数据分析的10个小技巧
一些小提示和小技巧可能是非常有用的,特别是在编程领域。有时候使用一点点黑客技术,既可以节省时间,还可能挽救“生命”。
Pandas中数据框数据的Profiling过程
Profiling(分析器)是一个帮助我们理解数据的过程,而Pandas Profiling是一个Python包,它可以简单快速地对Pandas 的数据框数据进行探索性数据分析。
Pandas中df.describe()
和df.info()
函数可以实现EDA过程第一步。但是,它们只提供了对数据非常基本的概述,对于大型数据集没有太大帮助。而Pandas中的Profiling功能简单通过一行代码就能显示大量信息,且在交互式HTML报告中也是如此。
对于给定的数据集,Pandas中的profiling包计算了以下统计信息:
由Pandas Profiling包计算出的统计信息包括直方图、众数、相关系数、分位数、描述统计量、其他信息——类型、单一变量值、缺失值等。
安装
用pip安装或者用conda安装:
pip install pandas-profiling
conda install -c anaconda pandas-profiling
用法
下面代码是用很久以前的泰坦尼克数据集来演示多功能Python分析器的结果。
# importing the necessary packages
import pandas as pd
import pandas_profiling
df = pd.read_csv('titanic/train.csv')
pandas_profiling.ProfileReport(df)
一行代码就能实现在Jupyter Notebook中显示完整的数据分析报告,该报告非常详细,且包含了必要的图表信息。 还可以使用以下代码将报告导出到交互式HTML文件中。
profile = pandas_profiling.ProfileReport(df)
profile.to_file(outputfile="Titanic data profiling.html")
Pandas实现交互式作图
Pandas有一个内置的.plot()
函数作为DataFrame类的一部分。但是,使用此功能呈现的可视化不是交互式的,这使得它没那么吸引人。同样,使用pandas.DataFrame.plot()
函数绘制图表也不能实现交互。如果我们需要在不对代码进行重大修改的情况下用Pandas绘制交互式图表怎么办呢?这个时候就可以用Cufflinks库来实现。
Cufflinks库可以将有强大功能的Plotly和拥有灵活性的Pandas结合在一起,非常便于绘图。下面就来看在Pandas中如何安装和使用Cufflinks库。
安装
pip install plotly
# Plotly is a pre-requisite before installing cufflinks
pip install cufflinks
用法
# importing Pandas
import pandas as pd
# importing plotly and cufflinks in offline mode
import cufflinks as cf
import plotly.offline
cf.go_offline()
cf.set_config_file(offline=False, world_readable=True)
# 是时候展示泰坦尼克号数据集的魔力了。
df.iplot()
df.iplot()
vs df.plot()
右侧的可视化显示了静态图表,而左侧图表是交互式的,更详细,并且所有这些在语法上都没有任何重大更改。
Magic命令
Magic命令是Jupyter notebook中的一组便捷功能,旨在解决标准数据分析中的一些常见问题。使用命令%lsmagic
可以看到所有的可用命令。
所有可用的Magic命令列表:
Magic命令有两种:行magic命令(line magics),以单个%
字符为前缀,在单行输入操作;单元magic命令(cell magics),以双%%
字符为前缀,可以在多行输入操作。如果设置为1,则不用键入%
即可调用Magic函数。
接下来看一些在常见数据分析任务中可能用到的命令:
%pastebin
%pastebin
将代码上传到Pastebin并返回url。Pastebin是一个在线内容托管服务,可以存储纯文本,如源代码片段,然后通过url可以与其他人共享。事实上,Github gist也类似于pastebin,只是有版本控制。
在file.py
文件中写一个包含以下内容的Python脚本,并试着运行看看结果。
# file.py
def foo(x):
return x
在Jupyter Notebook中使用%pastebin
生成一个pastebin url。
%matplotlib notebook
函数用于在Jupyter notebook中呈现静态matplotlib图。用notebook替换inline,可以轻松获得可缩放和可调整大小的绘图。但记得这个函数要在导入matplotlib库之前调用。
%run
用%run
函数在notebook中运行一个Python脚本试试。
%run file.py
%%writefile
%%writefile
是将单元格内容写入文件中。以下代码将脚本写入名为foo.py
的文件并保存在当前目录中。
%%latex
%%latex
函数将单元格内容以LaTeX形式呈现。此函数对于在单元格中编写数学公式和方程很有用。
查找并解决错误
交互式调试器也是一个神奇的功能,我把它单独定义了一类。如果在运行代码单元时出现异常,请在新行中键入%debug
并运行它。这将打开一个交互式调试环境,它能直接定位到发生异常的位置。还可以检查程序中分配的变量值,并在此处执行操作。退出调试器单击q
即可。
Printing也有小技巧
如果您想生成美观的数据结构,pprint是首选。它在打印字典数据或JSON数据时特别有用。接下来看一个使用print和pprint来显示输出的示例。
让你的笔记脱颖而出
我们可以在您的Jupyter notebook中使用警示框/注释框来突出显示重要内容或其他需要突出的内容。注释的颜色取决于指定的警报类型。只需在需要突出显示的单元格中添加以下任一代码或所有代码即可。
蓝色警示框:信息提示
<p class="alert alert-block alert-info">
<b>Tip:</b> Use blue boxes (alert-info) for tips and notes.
If it’s a note, you don’t have to include the word “Note”.
</p>
黄色警示框:警告
<p class="alert alert-block alert-warning">
<b>Example:</b> Yellow Boxes are generally used to include additional examples or mathematical formulas.
</p>
绿色警示框:成功
<p class="alert alert-block alert-success">
Use green box only when necessary like to display links to related content.
</p>
红色警示框:高危
<p class="alert alert-block alert-danger">
It is good to avoid red boxes but can be used to alert users to not delete some important part of code etc.
</p>
打印单元格所有代码的输出结果
假如有一个Jupyter Notebook的单元格,其中包含以下代码行:
In [1]: 10+5
11+6
Out [1]: 17
单元格的正常属性是只打印最后一个输出,而对于其他输出,我们需要添加print()
函数。然而通过在notebook顶部添加以下代码段可以一次打印所有输出。
添加代码后所有的输出结果就会一个接一个地打印出来。
In [1]: 10+5
11+6
12+7
Out [1]: 15
Out [1]: 17
Out [1]: 19
恢复原始设置:
InteractiveShell.ast_node_interactivity = "last_expr"
使用i
选项运行Python脚本
从命令行运行Python脚本的典型方法是:python hello.py
。但是,如果在运行相同的脚本时添加-i
,例如python -i hello.py
,就能提供更多优势。接下来看看结果如何。
首先,即使程序结束,Python也不会退出解释器。因此,我们可以检查变量的值和程序中定义的函数的正确性。
其次,我们可以轻松地调用Python调试器,因为我们仍然在解释器中:
import pdb
pdb.pm()
这能定位异常发生的位置,然后我们可以处理异常代码。
自动评论代码
Ctrl / Cmd + /
自动注释单元格中的选定行,再次命中组合将取消注释相同的代码行。
删除容易恢复难
你有没有意外删除过Jupyter notebook中的单元格?如果答案是肯定的,那么可以掌握这个撤消删除操作的快捷方式。
如果你删除了单元格的内容,可以通过按Ctrl / Cmd + Z
轻松恢复它。
如果需要恢复整个已删除的单元格,请按ESC + Z
或EDIT
撤消删除单元格。
结论
在本文中,我列出了使用Python和Jupyter notebook时收集的一些小提示。我相信它们会对你有用,能让你有所收获,从而实现轻松编码!