异常值（极值）检测

本文主要是介绍异常值（极值）检测，希望对大家解决编程问题提供一定的参考价值，需要的开发者们随着小编来一起学习吧！

最近，上级部门总是安排我们核实修改数据的“极值”，但没有明确极值的范围（或许它们也不懂吧！），非常烦人，所以决定写一篇博客把这个问题讲清楚，顺便写几个方法来方便调用。

方法一

四分位法：

四分位法是一种基于数据分布的异常值检测方法，它主要依赖于数据的四分位数和四分位距（Interquartile Range, IQR）。以下是四分位法检测异常值的详细步骤和原理：

实现代码

import pandas as pd  # 假设我们有一个DataFrame  
data = {  'A': [1, 2, 3, 4, 5, 6, 7, 8, 9, 100],  'B': [10, 20, 30, 40, 50, 60, 70, 80, 90, 1000],  'C': [100, 1011, 102, 103, 104, 105, 106, 107, 108, 109]  
}  
df = pd.DataFrame(data)
df 

筛选有异常值的行

# 定义一个函数来检测并标记异常值  
# 这个函数使用四分位距（IQR）方法来识别数据中的异常值  
def detect_outliers_iqr(series, threshold=1.5):    # 计算第一四分位数（Q1），即数据中25%的位置的值  Q1 = series.quantile(0.25)    # 计算第三四分位数（Q3），即数据中75%的位置的值  Q3 = series.quantile(0.75)    # 计算四分位距（IQR），即Q3与Q1之间的差值  IQR = Q3 - Q1    # 根据IQR和给定的阈值计算异常值的下界  lower_bound = Q1 - threshold * IQR    # 根据IQR和给定的阈值计算异常值的上界  upper_bound = Q3 + threshold * IQR    # 直接返回一个布尔序列，标记序列中哪些值是异常值  # 如果序列中的值小于下界或大于上界，则被认为是异常值  return (series < lower_bound) | (series > upper_bound)    # 使用apply函数对DataFrame的每一列应用detect_outliers_iqr函数  
# axis=0表示函数将沿着列的方向应用，即对每一列分别执行函数  
outliers_bool = df.apply(detect_outliers_iqr, axis=0)    # outliers_bool是一个布尔DataFrame，表示每个位置的值是否为异常值  
# 使用any(axis=1)方法检查每一行中是否至少有一个True值（即异常值）  
# 筛选出至少包含一个异常值的行  
df_with_outliers = df[outliers_bool.any(axis=1)]    # 显示包含至少一个异常值的DataFrame  
df_with_outliers

只想针对一列数据检测异常值

# 应用detect_outliers_iqr函数到' C'列  
outliers_in_C = detect_outliers_iqr(df['C'])  # 筛选出'C'列中的异常值  
df_outliers_C = df[outliers_in_C]  
df_outliers_C

方法二

欧几里得范数：

实现代码

import pandas as pd  
import numpy as np  # 创建一个示例DataFrame  
data = {'A': [1, 2, 3, 4, 5],  'B': [6, 7, 8, 9, 10],  'C': [11, 12, 13, 14, 150]}  
df = pd.DataFrame(data)  
df 

筛选异常值的行：

# 将DataFrame转换为一个二维numpy数组  
data_array = df.values  # 计算整体数据的均值和标准差  
mean = np.mean(data_array)  
std = np.std(data_array)  # 计算每个数据点与整体均值之间的欧几里得距离  
distances = np.linalg.norm(data_array - mean, axis=1)  # 设置阈值，超过该阈值的数据点被认为是异常值  
threshold = 3 * std  # 找到异常值的索引  
outlier_indices = np.where(distances > threshold)[0]  # 打印异常值  
df.iloc[outlier_indices]

筛选出具体异常数值：

# 遍历异常值的行，并打印出具体的异常数值  
for index in outlier_indices:  row = df.iloc[index]  for column in row.index:  # 使用z-score来判断某个数值是否是异常值，这通常比直接使用欧几里得距离更合适  # 但为了与之前的代码保持一致，这里我们还是使用绝对距离与阈值比较  value = row[column]  if abs(value - mean) > threshold:  # 这里使用绝对距离而不是欧几里得距离  print(f"在行 {index+1} 的列 '{column}' 中，数值 {value} 是异常值")

方法三

Z-Score检验：

Z-Score检验，也称为标准化值检验，是一种基于统计学的方法，用于检测数据集中的异常值。这种方法基于数据的均值（mean）和标准差（standard deviation），通过计算每个数据点与均值的偏差程度来识别异常值。

实现代码

import pandas as pd  
import numpy as np  # 创建一个包含一些数值的DataFrame  
data = {'A': [1, 2, 3, 4, 5, 6, 7, 8, 9, 100],  'B': [11, 12, 13, 14, 15, 16, 17, 18, 19, 20]}  
df = pd.DataFrame(data) 
df

筛选出有异常值的行：

# 计算每列的Z-Score  
def calculate_z_scores(df):  z_scores = pd.DataFrame(index=df.index, columns=df.columns)  for column in df.columns:  mean = df[column].mean()  std = df[column].std()  z_scores[column] = (df[column] - mean) / std  return z_scores  z_scores_df = calculate_z_scores(df)  # 设置阈值，比如2个标准差  
threshold = 2  # 找出Z-Score超过阈值的行和列  
outliers = z_scores_df[(np.abs(z_scores_df) > threshold).any(axis=1)]  
df.loc[outliers.index]

打印出异常值：

# 打印出具体的异常值  
print("异常值标准差:")  
print(outliers)    
# 打印出原始DataFrame中对应的异常值  
print("\n原始DataFrame中的异常值:")  
print(df.loc[outliers.index])

这篇关于异常值（极值）检测的文章就介绍到这儿，希望我们推荐的文章对编程师们有所帮助！

---