公众号：数据挖掘与机器学习笔记 1.TF-IDF算法步骤 1.1 计算词频 考虑到文章有长短之分，为了便于不同文章的比较，进行"词频"标准化。 1.2 计算逆文档频率 需要一个语料库（corpus），用来模拟语言的使用环境。 如果一个词越常见，那么分母就越大，逆文档频率就越小越接近0。分母之所以要加1，是为了避免分母为0（即所有文档都不包含该词）。log表示对得到的值取对数

通过这个示例，可以了解逻辑回归模型的基本原理和训练过程，同时可以通过修改和优化代码来进一步探索机器学习模型的训练和调优方法。 步骤： 生成了一个模拟的二分类数据集：通过随机生成包含两个特征的数据data_x，并基于一定规则生成对应的二分类标签数据data_y。创建了一个手动实现的逻辑回归模型LogisticRegressionManually，其中包括： 初始化函数__init__：初始化

1 class LogisticRegression (object): 2 def __int__(self,...):3 4 #定义一些与逻辑回归相关的各种函数5 6 def method1(...):7 8 9 def method2(...):10 11 def load_data(dataset):12 # 如何从硬盘中将数据导入到内存

titanic， prediction using sklearn after EDA， we can now preprocess the training data and learn a model to predict using scikit-learn (sklearn) ml library 做完上面的分析，可以选定几个特征进行使用，然后选择模型。 我们使用scikit-lea

什么是线性回归和逻辑回归？ 线性回归是一种用于解决回归问题的统计模型。它通过建立自变量（或特征）与因变量之间的线性关系来预测连续数值的输出。线性回归的目标是找到一条直线（或超平面），使得预测值与观察值之间的残差（误差）最小化。这条直线或超平面可以用来表示输入变量与输出变量之间的关系。线性回归假设输入特征与输出之间存在线性关系，并且残差服从正态分布。线性回归适用于预测和推断，常见应用包括房价预测、

1、随机梯度下降 首先介绍一下随机梯度下降算法： 1.1、代码一： package mllibimport org.apache.log4j.{Level, Logger}import org.apache.spark.{SparkContext, SparkConf}import scala.collection.mutable.HashMap/** * 随机梯度下降算法

写在前言         PS：下面基本都是个人理解，肯定有不正确或者不严谨的地方，参考指正。         为了方便理解，不想加什么公式，就直接用白话文和举例说明。          机器学习的基本框架是：模型、目标和算法。不管做什么 都绕不开这个框架。         首先我们在拿到一份数据做预测的时候(暂且就做二分类预测)，我们发现因变量(Y)是一个二分类(只有0和1)，在我们不知

背景：使用Logistic回归来预测患有疝气病的马的存活问题，这里的数据包括368个样本和28个特征，疝气病是描述马胃肠痛的术语，然而，这种病并不一定源自马的胃肠问题，其他问题也可能引发疝气病，该数据集中包含了医院检测马疝气病的一些指标，有的指标比较主观，有的指标难以测量，例如马的疼痛级别。另外，除了部分指标主观和难以测量之外，该数据还存在一个问题，数据集中有30%的值是缺失的。 1、准备数据：