最新要闻

广告

手机

iphone11大小尺寸是多少?苹果iPhone11和iPhone13的区别是什么?

iphone11大小尺寸是多少?苹果iPhone11和iPhone13的区别是什么?

警方通报辅警执法直播中被撞飞:犯罪嫌疑人已投案

警方通报辅警执法直播中被撞飞:犯罪嫌疑人已投案

家电

【世界播资讯】【技术积累】Python中的Pandas库【三】

来源:博客园

什么是Series

Series是一种带有标签的一维数组,可以容纳各种类型的数据(例如整数,浮点数和字符串)。每个Series对象都有一个索引,它可以用来引用每个元素。Series对象的主要特征是可以进行矢量化操作(即一次对整个序列进行操作),因此非常适合处理数值数据。


(资料图)

什么是DataFrame?

DataFrame是一个带有标签的二维数据结构,可以容纳各种类型的数据(例如整数,浮点数和字符串)。每个DataFrame对象都由行和列组成,行表示一个实例,列表示属性。您可以将DataFrame视为电子表格或SQL表。DataFrame的主要特征是可以进行矢量化操作,因此非常适合处理具有多种属性的数据。此外,DataFrame还具有一些其他功能,例如灵活的数据对齐,分组和聚合,数据排序和合并等。

Pandas库中的Index对象是什么?

Pandas库中的Index对象是一种存储轴标签的不可变数据结构。它可以看做是Series和DataFrame的标识符,它们用来标识单个条目或多个相同类型的数据。Index可以是整数、字符串或自定义类型的对象,它们的主要功能包括:查找、切片、分组、聚合等。

Index对象的特点有以下几个方面:

  1. 不可变性:一旦创建,Index对象的元素不能被修改。
  2. 唯一性:Index对象中的元素必须是唯一的,否则会引发异常。
  3. 有序性:Index对象的元素可以按照定义的顺序排列,搜索和切片更高效。

Index对象可以通过多种方式创建,例如从一个列表、数组、元组、字典、DataFrame等对象中创建,也可以手动创建。在DataFrame中,行和列都有自己的Index对象,而在Series中,只有一维的数据和一个Index对象。利用Index对象,可以很方便地对数据进行索引、排序和子集切片等操作,提高了数据处理的效率。

如何创建Series?

1.通过列表或数组创建:可以通过pd.Series()方法将列表或数组转换成Series对象,例如:

import pandas as pddata = [1, 2, 3, 4, 5]s = pd.Series(data)print(s)# 输出结果为:# 0    1# 1    2# 2    3# 3    4# 4    5# dtype: int64

2.通过字典创建:可以通过pd.Series()方法将字典转换成Series对象,例如:

import pandas as pddata = {"a": 1, "b": 2, "c": 3, "d": 4, "e": 5}s = pd.Series(data)print(s)# 输出结果为:# a    1# b    2# c    3# d    4# e    5# dtype: int64

如何创建DataFrame

1.通过列表或数组创建:可以通过pd.DataFrame()方法将列表或数组转换成DataFrame对象,例如:

import pandas as pddata = {"name": ["Tom", "John", "Mary", "Lisa", "Bob"], "age": [28, 25, 23, 24, 27], "score": [89, 78, 88, 95, 85]}df = pd.DataFrame(data)print(df)# 输出结果为:#    name  age  score# 0   Tom   28     89# 1  John   25     78# 2  Mary   23     88# 3  Lisa   24     95# 4   Bob   27     85

2.通过字典创建:可以通过pd.DataFrame()方法将字典转换成DataFrame对象,例如:

import pandas as pddata = {"name": ["Tom", "John", "Mary", "Lisa", "Bob"], "age": [28, 25, 23, 24, 27], "score": [89, 78, 88, 95, 85]}df = pd.DataFrame(data, index=["one", "two", "three", "four", "five"])print(df)# 输出结果为:#        name  age  score# one     Tom   28     89# two    John   25     78# three  Mary   23     88# four   Lisa   24     95# five    Bob   27     85

3.通过从文件中读取数据创建:可以通过pd.read_方法()将本地存储的文件导入DataFrame对象,例如:

import pandas as pddf = pd.read_csv("data.csv")print(df)# 输出结果为:#     name  age  score# 0    Tom   28     89# 1   John   25     78# 2   Mary   23     88# 3   Lisa   24     95# 4    Bob   27     85

如何对DataFrame进行分组?

Pandas库中的DataFrame可以按照一个或多个列的值对数据集进行分组。分组后的数据集可以进行多种操作,如计算平均值、总和等。

下面是对DataFrame进行分组的基本步骤:

  1. 导入Pandas库
  2. 创建DataFrame, 例如,创建一个简单的DataFrame,包含姓名、性别和年龄:
  3. 对DataFrame进行分组,可以按照一个或多个列的值对DataFrame进行分组
  4. 对分组后的数据集进行操作,可以对分组后的数据集进行各种计算,如计算平均值和总和。
import pandas as pd# 创建DataFramedata = {"Name": ["Alice", "Bob", "Charlie", "David", "Ella", "Frank"],        "Gender": ["F", "M", "M", "M", "F", "M"],        "Age": [25, 34, 42, 19, 31, 28]}df = pd.DataFrame(data)# 对DataFrame进行分组grouped = df.groupby(["Gender", "Age"])# 计算每个性别和年龄段的总和print(grouped.sum())

如何对DataFrame进行聚合操作?

对于DataFrame进行聚合,可以使用groupby()方法将数据按照指定的列进行分组,然后再对分组后的数据进行统计、计算等操作。

具体步骤如下:

  1. 使用groupby()方法对数据进行分组,可以按照单列或多列进行分组

  2. 对分组后的数据进行统计、计算等操作,可以使用常见的聚合函数,比如sum()、mean()、max()、min()、count()等

  3. 对聚合后的数据进行重命名、排序等处理,最后得到需要的聚合结果

import pandas as pd# 创建示例数据data = {"category": ["A", "A", "B", "B", "B", "C", "C"],        "value": [1, 2, 3, 4, 5, 6, 7]}df = pd.DataFrame(data)# 按照category列进行分组,计算value列的和、平均值和数量result = df.groupby("category").agg({"value": ["sum", "mean", "count"]})# 对聚合结果进行重命名和排序result.columns = ["total_value", "mean_value", "count"]result.sort_values("total_value", ascending=False, inplace=True)print(result)

如何对DataFrame进行合并操作?

对DataFrame进行合并操作,可以使用merge()方法,将两个DataFrame按照指定的列进行连接,类似于SQL中的Join操作。如果两个DataFrame的列名相同,则可以使用on参数指定连接的列,如果列名不同,则需要使用left_on和right_on参数指定连接的列。

具体步骤如下:

  1. 使用merge()方法将两个DataFrame按照指定列进行连接

  2. 可以选择不同的连接方式,包括inner、outer、left、right等

  3. 对连接后的数据进行排序、去重、重命名等处理,最终得到需要的结果

import pandas as pd# 创建示例数据1data1 = {"id": [1, 2, 3, 4, 5],        "name": ["Tom", "Jerry", "Lucy", "Lily", "Jim"],        "age": [20, 22, 25, 23, 26]}df1 = pd.DataFrame(data1)# 创建示例数据2data2 = {"id": [1, 2, 3, 6, 7],        "salary": [2000, 2200, 2500, 2300, 2600],        "gender": ["M", "F", "F", "F", "M"]}df2 = pd.DataFrame(data2)# 按照id列进行左连接result = pd.merge(df1, df2, on="id", how="left")# 对连接后的数据进行去重、排序、重命名result.drop_duplicates("id", inplace=True)result.sort_values("id", inplace=True)result.rename(columns={"name": "user_name", "salary": "user_salary"}, inplace=True)print(result)

如何对DataFrame进行重塑操作?

对DataFrame进行重塑操作,包括转置、堆叠和反堆叠等。转置是将DataFrame的行与列互换,堆叠是将多个列进行合并为一列,反堆叠则是将一列拆分为多个列。

具体步骤如下:

  1. 对DataFrame进行转置,可以使用T属性或transpose()方法实现。

  2. 对DataFrame进行堆叠操作,可以使用stack()方法实现,堆叠时需要指定堆叠的列或行。

  3. 对DataFrame进行反堆叠操作,可以使用unstack()方法实现,反堆叠时需要指定反堆叠的列或行。

import pandas as pd# 创建示例数据data = {"name": ["Tom", "Jerry", "Lucy"],        "math": [90, 80, 70],        "english": [85, 78, 95],        "science": [88, 92, 85]}df = pd.DataFrame(data)# 转置DataFrameresult1 = df.T# 堆叠DataFrameresult2 = df.set_index("name").stack().reset_index()# 反堆叠DataFrameresult3 = df.set_index("name").unstack().reset_index()print(result1)print(result2)print(result3)

如何对DataFrame进行透视表操作?

对DataFrame进行透视表操作,可以使用pivot_table()方法进行,透视表可以根据行、列和值进行数据汇总和计算,并展示出汇总计算后的结果。

具体步骤如下:

  1. 使用pivot_table()方法对DataFrame进行透视操作,需要指定行、列和值参数,并选择需要的聚合函数进行计算。

  2. 可以对透视表进行去重、排序和重命名等处理后,得到需要的结果。

import pandas as pd# 创建示例数据data = {"name": ["Tom", "Jerry", "Lucy", "Lily", "Jim", "Bob", "Alice"],        "gender": ["M", "F", "F", "F", "M", "M", "F"],        "age": [20, 22, 25, 23, 26, 21, 30],        "category": ["A", "A", "B", "B", "B", "C", "C"],        "salary": [2000, 2200, 2500, 2300, 2600, 2800, 2900]}df = pd.DataFrame(data)# 对数据进行透视表操作,分别统计每种category、gender和age_range下salary的平均值和数量result = pd.pivot_table(df, index=["category", "gender"], columns=pd.cut(df["age"], [20, 25, 30]), values=["salary"],                        aggfunc={"salary": ["mean", "count"]}, fill_value=0)# 对透视表进行去重、排序、重命名等处理result = result.stack(level=[0, 1])result.columns = ["_".join(col).strip() for col in result.columns.values]result.reset_index(inplace=True)result.sort_values(["category", "gender", "age"], inplace=True)print(result)

如何处理重复值?

Pandas库中提供了一些方法来处理重复值,包括检测和删除重复值。

检测重复值:

Pandas库中提供了duplicated()方法用来检测重复值,返回一个布尔类型的Series,表示每一行是否为重复行。

drop_duplicates()方法则是用来删除重复行,返回一个新的DataFrame,移除重复行之后的版本。

import pandas as pd# 创建一个包含重复行的DataFramedf = pd.DataFrame({"col1": [1, 2, 3, 4, 4, 5],"col2": ["A", "B", "C", "D", "D", "E"]})print(df)# 检测重复行print(df.duplicated())# 删除重复行df_clean = df.drop_duplicates()print(df_clean)

如何处理异常值?

import pandas as pdimport numpy as np# 创建一个包含异常值的Seriess = pd.Series([1, 2, 3, 4, 5, 100])print(s)# 使用Z-score方法检测异常值zscore_threshold = 3 # 设置阈值为3mean = s.mean()std = s.std()zscore = (s - mean) / stdprint(zscore.abs() > zscore_threshold)# 使用IQR方法检测异常值q1 = s.quantile(0.25)q3 = s.quantile(0.75)iqr = q3 - q1iqr_threshold = 1.5 # 设置阈值为1.5print((s < q1 - iqr_threshold * iqr) | (s > q3 + iqr_threshold * iqr))# 使用fillna()方法替换异常值s_clean = s.copy()s_clean[s_clean > 10] = np.nan # 设置异常值,将大于10的值设置为缺失值s_clean = s_clean.fillna(s_clean.median()) # 使用中位数来填充缺失值print(s_clean)# 使用replace()方法替换异常值s_clean = s.replace(100, s.median()) # 将100替换为中位数print(s_clean)

如何处理离群值?

Pandas库中提供了一些方法来处理离群值(Outlier),包括检测和替换离群值。

检测离群值: Pandas库中提供了一些方法来检测离群值,比如基于数据的分布和规模,使用Z-score或IQR两种方法进行离群值的检测,并返回一个布尔类型的Series,表示每一行是否为离群值。

  • Z-score方法将每个值转换成其到平均值的标准偏差的距离,超过给定阈值的值被视为离群值。
  • IQR方法则是基于四分位数,将数据划分成四个部分,其中50%的数据落在中间,将中间部分的极端数据看做离群值。

替换离群值: 处理离群值时,我们可以使用fillna()方法或replace()方法来替换离群值。

  • fillna()方法可以使用mean、median、mode等方法替换缺失值,也可以使用给定的常数或者使用前一个或后一个非缺失值填充。
  • replace()方法可以使用常数或者使用给定的字典或函数替换特定的值。
import pandas as pdimport numpy as np# 创建一个包含离群值的Seriess = pd.Series([1, 2, 3, 4, 5, 100])print(s)# 使用Z-score方法检测离群值zscore_threshold = 3 # 设置阈值为3mean = s.mean()std = s.std()zscore = (s - mean) / stdprint(zscore.abs() > zscore_threshold)# 使用IQR方法检测离群值q1 = s.quantile(0.25)q3 = s.quantile(0.75)iqr = q3 - q1iqr_threshold = 1.5 # 设置阈值为1.5print((s < q1 - iqr_threshold * iqr) | (s > q3 + iqr_threshold * iqr))# 使用fillna()方法替换离群值s_clean = s.copy()s_clean[s_clean > 10] = np.nan # 将大于10的值设置为缺失值s_clean = s_clean.fillna(s_clean.median()) # 使用中位数来填充缺失值print(s_clean)# 使用replace()方法替换离群值s_clean = s.clip(0, 10) # 将大于10的值和小于0的值都设置为10和0print(s_clean)

如何进行数据类型转换?

在Pandas库中,我们需要对文件读入的数据进行处理和转换后,才能在之后的分析中有效地使用。数据类型转换是数据预处理中最基本的操作之一,数据类型的转换能够将原有数据的类型转变为用户需要的类型,包括将字符串转换为数字、将数字转换为日期、将数值转换为类别类型等,Pandas库中提供了astype()方法来进行数据类型转换。

astype()方法: Pandas库中的astype()方法可以将一个或多个列的数据类型转换为另一种类型。使用astype()方法,需要在括号中指定要转换数据类型的列名和数据类型。转换数据类型后将返回一个新的DataFrame,原数据不发生改变。

import pandas as pd# 创建一个包含数字和字符串的DataFramedf = pd.DataFrame({"col1": [1, 2, 3],"col2": ["4", "5", "6"]})print(df.dtypes)# 转换数据类型df["col2"] = df["col2"].astype(int)print(df.dtypes)

关键词: