吴恩达机器学习课后作业-06支持向量机（SVM）

2024-08-26 07:28
文章标签 学习 机器 支持 作业 向量 svm 06 课后 吴恩达

本文主要是介绍吴恩达机器学习课后作业-06支持向量机（SVM），希望对大家解决编程问题提供一定的参考价值，需要的开发者们随着小编来一起学习吧！

SVM

  • 线性可分SVM
    • 题目
    • 绘制决策边界
    • 改变C,观察决策边界
    • 代码
  • 线性不可分SVM
    • 核函数
    • 代码
  • 寻找最优C、gamma
  • 垃圾邮件过滤

线性可分SVM

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

题目

在这里插入图片描述
数据分布
在这里插入图片描述

绘制决策边界

import numpy as np
import matplotlib.pyplot as plt
import scipy.io as sio
from scipy.optimize import minimize
import pandas as pd
from sklearn.svm import SVCdef plot_data():plt.scatter(x[:,0],x[:,1],c = y.flatten(), cmap ='jet')plt.xlabel('x1')plt.ylabel('y1')"""
绘制决策边界
"""def plot_boundary(model):x_min,x_max =-0.5,4.5y_min,y_max =1.3,5xx,yy = np.meshgrid(np.linspace(x_min,x_max,500),np.linspace(y_min,y_max,500))z = model.predict(np.c_[xx.flatten(),yy.flatten()])zz = z.reshape(xx.shape)plt.contour(xx,yy,zz)data=sio.loadmat("E:/学习/研究生阶段/python-learning/吴恩达机器学习课后作业/code/ex6-SVM/data/ex6data1.mat")x,y=data['X'],data['y']
#
plot_data()
# plt.show()svc1 = SVC(C=1,kernel='linear')
svc1.fit(x,y.flatten())
svc1.predict(x)
print(svc1.score(x,y.flatten()))
plot_boundary(svc1)
plt.show()

在这里插入图片描述

改变C,观察决策边界


svc100 = SVC(C=100,kernel='linear')
svc100.fit(x,y.flatten())
svc100.predict(x)
print(svc100.score(x,y.flatten()))plot_boundary(svc100)
plt.show()

在这里插入图片描述

代码

import numpy as np
import matplotlib.pyplot as plt
import scipy.io as sio
from scipy.optimize import minimize
import pandas as pd
from sklearn.svm import SVCdef plot_data():plt.scatter(x[:,0],x[:,1],c = y.flatten(), cmap ='jet')plt.xlabel('x1')plt.ylabel('y1')"""
绘制决策边界
"""def plot_boundary(model):x_min,x_max =-0.5,4.5y_min,y_max =1.3,5xx,yy = np.meshgrid(np.linspace(x_min,x_max,500),np.linspace(y_min,y_max,500))z = model.predict(np.c_[xx.flatten(),yy.flatten()])zz = z.reshape(xx.shape)plt.contour(xx,yy,zz)data=sio.loadmat("E:/学习/研究生阶段/python-learning/吴恩达机器学习课后作业/code/ex6-SVM/data/ex6data1.mat")x,y=data['X'],data['y']
#
plot_data()
# plt.show()svc1 = SVC(C=1,kernel='linear')
svc1.fit(x,y.flatten())
svc1.predict(x)
print(svc1.score(x,y.flatten()))
plot_boundary(svc1)
# plt.show()svc100 = SVC(C=100,kernel='linear')
svc100.fit(x,y.flatten())
svc100.predict(x)
print(svc100.score(x,y.flatten()))plot_boundary(svc100)
plt.show()

线性不可分SVM

核函数

在这里插入图片描述
在这里插入图片描述
数据集
在这里插入图片描述


svc1 = SVC(C=1,kernel='rbf',gamma=1)
svc1.fit(x,y.flatten())
svc1.score(x,y.flatten())plot_boundary(svc1)
plot_data()
plt.show()

Gamma越小，模型复杂度越低,Gamma越大，模型复杂度越高
gamma=1
在这里插入图片描述
gamma=50
在这里插入图片描述
gamma=1000
在这里插入图片描述

代码

import numpy as np
import matplotlib.pyplot as plt
import scipy.io as sio
from scipy.optimize import minimize
import pandas as pd
from sklearn.svm import SVCdef plot_data():plt.scatter(x[:,0],x[:,1],c = y.flatten(), cmap ='jet')plt.xlabel('x1')plt.ylabel('y1')def plot_boundary(model):x_min,x_max =0,1y_min,y_max =0.4,1xx,yy = np.meshgrid(np.linspace(x_min,x_max,500),np.linspace(y_min,y_max,500))z = model.predict(np.c_[xx.flatten(),yy.flatten()])zz = z.reshape(xx.shape)plt.contour(xx,yy,zz)data=sio.loadmat("E:/学习/研究生阶段/python-learning/吴恩达机器学习课后作业/code/ex6-SVM/data/ex6data2.mat")x,y=data['X'],data['y']svc1 = SVC(C=1,kernel='rbf',gamma=1000)
svc1.fit(x,y.flatten())
svc1.score(x,y.flatten())plot_boundary(svc1)
plot_data()
plt.show()

寻找最优C、gamma

数据集
在这里插入图片描述

Cvalues =[0.01,0.03,0.1,0.3,1 ,3,10,30,100]
gammas =[0.01,0.03,0.1, 0.3,1 ,3, 10,30,100]
best_score=0
best_params=(0,0)
best_score = 0
best_params = (0,0)
for c in Cvalues:for gamma in gammas:svc = SVC(C=c,kernel='rbf',gamma=gamma)svc.fit(x,y.flatten())score = svc.score(xval,yval.flatten())if score > best_score:best_score = scorebest_params = (c,gamma)
print(best_score,best_params)
结果
0.965 (0.3, 100)

绘制决策边界

svc1 = SVC(C=best_params[0],kernel='rbf',gamma=best_params[1])
svc1.fit(x,y.flatten())
plot_boundary(svc1)
plot_data()
plt.show()

全部代码

import numpy as np
import matplotlib.pyplot as plt
import scipy.io as sio
from scipy.optimize import minimize
import pandas as pd
from sklearn.svm import SVCdef plot_boundary(model):x_min,x_max =-0.6,0.4y_min,y_max =-0.7,0.6xx,yy = np.meshgrid(np.linspace(x_min,x_max,500),np.linspace(y_min,y_max,500))z = model.predict(np.c_[xx.flatten(),yy.flatten()])zz = z.reshape(xx.shape)plt.contour(xx,yy,zz)def plot_data():plt.scatter(x[:,0],x[:,1],c = y.flatten(), cmap ='jet')plt.xlabel('x1')plt.ylabel( 'y1')mat=sio.loadmat("E:/学习/研究生阶段/python-learning/吴恩达机器学习课后作业/code/ex6-SVM/data/ex6data3.mat")x,y=mat['X'], mat['y']
xval, yval =mat['Xval'], mat['yval']
plot_data()
# plt.show()
Cvalues =[0.01,0.03,0.1,0.3,1 ,3,10,30,100]
gammas =[0.01,0.03,0.1, 0.3,1 ,3, 10,30,100]
best_score=0
best_params=(0,0)
best_score = 0
best_params = (0,0)
for c in Cvalues:for gamma in gammas:svc = SVC(C=c,kernel='rbf',gamma=gamma)svc.fit(x,y.flatten())score = svc.score(xval,yval.flatten())if score > best_score:best_score = scorebest_params = (c,gamma)
print(best_score,best_params)
svc1 = SVC(C=best_params[0],kernel='rbf',gamma=best_params[1])
svc1.fit(x,y.flatten())
plot_boundary(svc1)
plot_data()
plt.show()

在这里插入图片描述

垃圾邮件过滤


import numpy as np
import matplotlib.pyplot as plt
import scipy.io as sio
from scipy.optimize import minimize
import pandas as pd
from sklearn.svm import SVCdata1=sio.loadmat("E:/学习/研究生阶段/python-learning/吴恩达机器学习课后作业/code/ex6-SVM/data/spamTrain.mat")x,y=data1['X'], data1['y']
data2=sio.loadmat("E:/学习/研究生阶段/python-learning/吴恩达机器学习课后作业/code/ex6-SVM/data/spamTest.mat")xtest, ytest =data2['Xtest'], data2['ytest']Cvalues = [3,10,30,100,0.01, 0.03,0.1,0.3,1]
best_score = 0
best_param = 0
for c in Cvalues:svc= SVC(C=c,kernel='linear')svc.fit(x,y.flatten())score= svc.score(xtest,ytest.flatten())if score > best_score:best_score = scorebest_param =c
# print(best_score,best_param)svc2 = SVC(C=best_param,kernel='linear')
svc2.fit(x,y.flatten())
score_train= svc2.score(x,y.flatten())
score_test= svc2.score(xtest,ytest.flatten())
print(score_train,score_test)

这篇关于吴恩达机器学习课后作业-06支持向量机（SVM）的文章就介绍到这儿，希望我们推荐的文章对编程师们有所帮助！


http://www.chinasem.cn/article/1107923。

相关文章

k8s上运行的mysql、mariadb数据库的备份记录(支持x86和arm两种架构)

k8s上运行的mysql、mariadb数据库的备份记录(支持x86和arm两种架构)

《k8s上运行的mysql、mariadb数据库的备份记录(支持x86和arm两种架构)》本文记录在K8s上运行的MySQL/MariaDB备份方案,通过工具容器执行mysqldump,结合定时任务实... 目录前言一、获取需要备份的数据库的信息二、备份步骤1.准备工作（X86）1.准备工作（arm）2.手
阅读更多...
华为鸿蒙HarmonyOS 5.1官宣7月开启升级! 首批支持名单公布

华为鸿蒙HarmonyOS 5.1官宣7月开启升级! 首批支持名单公布

《华为鸿蒙HarmonyOS5.1官宣7月开启升级!首批支持名单公布》在刚刚结束的华为Pura80系列及全场景新品发布会上，除了众多新品的发布，还有一个消息也点燃了所有鸿蒙用户的期待，那就是Ha... 在今日的华为 Pura 80 系列及全场景新品发布会上，华为宣布鸿蒙 HarmonyOS 5.1 将于 7
阅读更多...
Go学习记录之runtime包深入解析

Go学习记录之runtime包深入解析

《Go学习记录之runtime包深入解析》Go语言runtime包管理运行时环境,涵盖goroutine调度、内存分配、垃圾回收、类型信息等核心功能,：本文主要介绍Go学习记录之runtime包的... 目录前言：一、runtime包内容学习1、作用：① Goroutine和并发控制：② 垃圾回收：③ 栈和
阅读更多...
Android学习总结之Java和kotlin区别超详细分析

Android学习总结之Java和kotlin区别超详细分析

《Android学习总结之Java和kotlin区别超详细分析》Java和Kotlin都是用于Android开发的编程语言,它们各自具有独特的特点和优势,：本文主要介绍Android学习总结之Ja... 目录一、空安全机制真题 1：Kotlin 如何解决 Java 的 NullPointerExceptio
阅读更多...
重新对Java的类加载器的学习方式

重新对Java的类加载器的学习方式

《重新对Java的类加载器的学习方式》：本文主要介绍重新对Java的类加载器的学习方式,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教... 目录1、介绍1.1、简介1.2、符号引用和直接引用1、符号引用2、直接引用3、符号转直接的过程2、加载流程3、类加载的分类3.1、显示
阅读更多...
Java学习手册之Filter和Listener使用方法

Java学习手册之Filter和Listener使用方法

《Java学习手册之Filter和Listener使用方法》：本文主要介绍Java学习手册之Filter和Listener使用方法的相关资料,Filter是一种拦截器,可以在请求到达Servl... 目录一、Filter（过滤器）1. Filter 的工作原理2. Filter 的配置与使用二、Listen
阅读更多...
SpringKafka消息发布之KafkaTemplate与事务支持功能

SpringKafka消息发布之KafkaTemplate与事务支持功能

《SpringKafka消息发布之KafkaTemplate与事务支持功能》通过本文介绍的基本用法、序列化选项、事务支持、错误处理和性能优化技术,开发者可以构建高效可靠的Kafka消息发布系统,事务支... 目录引言一、KafkaTemplate基础二、消息序列化三、事务支持机制四、错误处理与重试五、性能优
阅读更多...
Java进阶学习之如何开启远程调式

Java进阶学习之如何开启远程调式

《Java进阶学习之如何开启远程调式》Java开发中的远程调试是一项至关重要的技能,特别是在处理生产环境的问题或者协作开发时,：本文主要介绍Java进阶学习之如何开启远程调式的相关资料,需要的朋友... 目录概述Java远程调试的开启与底层原理开启Java远程调试底层原理JVM参数总结&nbsMbKKXJx
阅读更多...
一文教你解决Python不支持中文路径的问题

一文教你解决Python不支持中文路径的问题

《一文教你解决Python不支持中文路径的问题》Python是一种广泛使用的高级编程语言,然而在处理包含中文字符的文件路径时,Python有时会表现出一些不友好的行为,下面小编就来为大家介绍一下具体的... 目录问题背景解决方案1. 设置正确的文件编码2. 使用pathlib模块3. 转换路径为Unicod
阅读更多...
定价129元!支持双频 Wi-Fi 5的华为AX1路由器发布

定价129元!支持双频 Wi-Fi 5的华为AX1路由器发布

《定价129元!支持双频Wi-Fi5的华为AX1路由器发布》华为上周推出了其最新的入门级Wi-Fi5路由器——华为路由AX1，建议零售价129元，这款路由器配置如何？详细请看下文介... 华为 Wi-Fi 5 路由 AX1 已正式开售，新品支持双频 1200 兆、配有四个千兆网口、提供可视化智能诊断功能，建
阅读更多...

Copyright China编程 23002807@qq.com

沪ICP备2023033072号-2