NumPy实现logistic回归

2024-09-01 15:44
文章标签 实现 logistic 回归 numpy

本文主要是介绍NumPy实现logistic回归,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

1.sklearn实现

import numpy as np
import matplotlib.pyplot as plt
import pandas as pd
import os
import sys
from sklearn.model_selection import train_test_split
from sklearn.preprocessing import StandardScaler
from sklearn.linear_model import LogisticRegression
from sklearn.metrics import  r2_score,confusion_matrixcurrent_dir=os.getcwd()
path = current_dir +"\\" +"BreastCancer.csv";cancer = pd.read_csv(path)cancer = cancer.drop(["id","Unnamed: 32"], axis=1)  # axis = 1, drop a column, axis = 0, drop a row
cancer['diagnosis'] = [ 1 if i == "M" else 0 for i in cancer['diagnosis'] ]y = cancer['diagnosis']                       # (569,)
x = cancer.drop(["diagnosis"], axis=1) # (569, 30)# (455, 30) (114, 30) (455,) (114,)
x_train, x_test, y_train, y_test = train_test_split(x, y, test_size=0.2, random_state=0)# 标准化处理,每一列求mean和std,然后X_scaled = (x-mean)/std
# 让每一列的数据,均值为0,方差为1. 否则会内存溢出
scaler = StandardScaler()
x_train_scaled = scaler.fit_transform(x_train)
x_test_scaled = scaler.transform(x_test)logreg = LogisticRegression(max_iter = 1000)
logreg.fit(x_train_scaled, y_train)train_accuracy = logreg.score(x_train_scaled, y_train)  # 0.989010989010989
test_accuracy = logreg.score(x_test_scaled, y_test)     # 0.9649122807017544
print("Training Accuracy:", train_accuracy)
print("Test Accuracy:", test_accuracy)y_pred = logreg.predict(x_test_scaled)
r2 = r2_score(y_test,y_pred)         # Test R2: 0.8551921244839632
print("Test R2:", r2)print ( confusion_matrix(y_test,y_pred) )
"""
[[65  2][ 2 45]]
"""

2. NumPy实现

import numpy as np
import matplotlib.pyplot as plt
import pandas as pd
import os
import sys
from sklearn.model_selection import train_test_split
from sklearn.preprocessing import StandardScaler
from sklearn.metrics import mean_squared_error, r2_score
from sklearn.metrics import confusion_matrixclass Logistic:def __init__(self,learning_rate = 0.01, epochs = 1000, verbose= False):self.lr = learning_rateself.epochs = epochsself.verbose = verboseself.weight = Noneself.bias = Nonedef sigmoid(self,x):z = 1 / (1 + np.exp(-x))return zdef initialise_weights(self,n):self.weight = np.zeros(n)self.bias = 0def predict_prob(self,X):linear_result = X @ self.weight + self.biasy_pred = self.sigmoid(linear_result)return y_preddef fit(self,X,y):m , n = X.shapeself.initialise_weights(n)for epoch in range(self.epochs):y_pred = self.predict_prob(X)error = (y_pred - y)dcost_dw = (1/m) * ( X.T @ error )dcost_db = (1/m) * np.sum( error )self.weight -= self.lr * dcost_dwself.bias -= self.lr * dcost_dbif self.verbose and epoch % 100 == 99:loss = (-1 / m) *np.sum(y*np.log(y_pred) + (1-y) * np.log(1-y_pred))print(f"epoch:{epoch} loss:{loss}")def predict(self,X):y_pred = self.predict_prob(X)y_pred = np.where(y_pred>=0.5,1,0)return y_predcurrent_dir=os.getcwd()
path = current_dir +"\\" +"BreastCancer.csv";cancer = pd.read_csv(path)cancer = cancer.drop(["id","Unnamed: 32"], axis=1)  # axis = 1, drop a column, axis = 0, drop a row
cancer['diagnosis'] = [ 1 if i == "M" else 0 for i in cancer['diagnosis'] ]print(cancer.shape) # (569, 31)y = cancer['diagnosis']                       # (569,)
x = cancer.drop(["diagnosis"], axis=1) # (569, 30)# (455, 30) (114, 30) (455,) (114,),类型是DataFrame
x_train, x_test, y_train, y_test = train_test_split(x, y, test_size=0.2, random_state=0)
x_train,x_test,y_train,y_test = np.array(x_train),np.array(x_test),np.array(y_train),np.array(y_test) # 转为ndarray矩阵格式scaler = StandardScaler()
x_train_scaled = scaler.fit_transform(x_train)
x_test_scaled = scaler.transform(x_test)logistic = Logistic(learning_rate = 0.01, epochs = 1000, verbose = True)
logistic.fit(x_train_scaled,y_train)y_pred = logistic.predict(x_test_scaled)r2 = r2_score(y_test,y_pred)
print(r2)print ( confusion_matrix(y_test,y_pred) )
"""
[[65  2][ 2 45]]
"""

这篇关于NumPy实现logistic回归的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/1127366

相关文章

Spring Retry 实现乐观锁重试实践记录

《SpringRetry实现乐观锁重试实践记录》本文介绍了在秒杀商品SKU表中使用乐观锁和MybatisPlus配置乐观锁的方法,并分析了测试环境和生产环境的隔离级别对乐观锁的影响,通过简单验证,... 目录一、场景分析 二、简单验证 2.1、可重复读 2.2、读已提交 三、最佳实践 3.1、配置重试模板

Vue项目的甘特图组件之dhtmlx-gantt使用教程和实现效果展示(推荐)

《Vue项目的甘特图组件之dhtmlx-gantt使用教程和实现效果展示(推荐)》文章介绍了如何使用dhtmlx-gantt组件来实现公司的甘特图需求,并提供了一个简单的Vue组件示例,文章还分享了一... 目录一、首先 npm 安装插件二、创建一个vue组件三、业务页面内 引用自定义组件:四、dhtmlx

Vue ElementUI中Upload组件批量上传的实现代码

《VueElementUI中Upload组件批量上传的实现代码》ElementUI中Upload组件批量上传通过获取upload组件的DOM、文件、上传地址和数据,封装uploadFiles方法,使... ElementUI中Upload组件如何批量上传首先就是upload组件 <el-upl

Docker部署Jenkins持续集成(CI)工具的实现

《Docker部署Jenkins持续集成(CI)工具的实现》Jenkins是一个流行的开源自动化工具,广泛应用于持续集成(CI)和持续交付(CD)的环境中,本文介绍了使用Docker部署Jenkins... 目录前言一、准备工作二、设置变量和目录结构三、配置 docker 权限和网络四、启动 Jenkins

Python3脚本实现Excel与TXT的智能转换

《Python3脚本实现Excel与TXT的智能转换》在数据处理的日常工作中,我们经常需要将Excel中的结构化数据转换为其他格式,本文将使用Python3实现Excel与TXT的智能转换,需要的可以... 目录场景应用:为什么需要这种转换技术解析:代码实现详解核心代码展示改进点说明实战演练:从Excel到

如何使用CSS3实现波浪式图片墙

《如何使用CSS3实现波浪式图片墙》:本文主要介绍了如何使用CSS3的transform属性和动画技巧实现波浪式图片墙,通过设置图片的垂直偏移量,并使用动画使其周期性地改变位置,可以创建出动态且具有波浪效果的图片墙,同时,还强调了响应式设计的重要性,以确保图片墙在不同设备上都能良好显示,详细内容请阅读本文,希望能对你有所帮助...

C# string转unicode字符的实现

《C#string转unicode字符的实现》本文主要介绍了C#string转unicode字符的实现,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友们下面随... 目录1. 获取字符串中每个字符的 Unicode 值示例代码:输出:2. 将 Unicode 值格式化

python安装whl包并解决依赖关系的实现

《python安装whl包并解决依赖关系的实现》本文主要介绍了python安装whl包并解决依赖关系的实现,文中通过图文示例介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友们下面... 目录一、什么是whl文件?二、我们为什么需要使用whl文件来安装python库?三、我们应该去哪儿下

Python脚本实现图片文件批量命名

《Python脚本实现图片文件批量命名》这篇文章主要为大家详细介绍了一个用python第三方库pillow写的批量处理图片命名的脚本,文中的示例代码讲解详细,感兴趣的小伙伴可以了解下... 目录前言源码批量处理图片尺寸脚本源码GUI界面源码打包成.exe可执行文件前言本文介绍一个用python第三方库pi

Java中将异步调用转为同步的五种实现方法

《Java中将异步调用转为同步的五种实现方法》本文介绍了将异步调用转为同步阻塞模式的五种方法:wait/notify、ReentrantLock+Condition、Future、CountDownL... 目录异步与同步的核心区别方法一:使用wait/notify + synchronized代码示例关键