RUL论文阅读—— A Novel Evaluation Framework for Unsupervised Domain Adaption on Remaining Useful Lifetime

RUL论文阅读

——A Novel Evaluation Framework for Unsupervised Domain Adaption on Remaining Useful Lifetime
link : article code

一、 Introduction

由PMD（Predictive Maintenance） 提出 RUL

DNN（require large amount data 但是RUL问题失败数据少 data imbalence）传统有监督学习方法不行

提出无监督DA，介绍DA。对于RUL就是P（Xs）不等于P（Xt）也就是边缘分布不同，所以训练这个模型主要是bridge the difference of margibal feature distributions

扩充： 迁移学习的几种分类方式

对于DA，是满足两个条件 ：一、有标签的数据只能用在source domain 二、不同域（边缘分布不同）相同task（条件分布相同）
在RUL中正好合适，
对于第一点，由于RUL需要失败的数据，数据不平衡，也没有标签。但是有一个相关的有标签的数据集可以来利用，然后用这个数据集训练好的模型，给自己需要的target dataset
对于第二点，不同工况不同机器不同可以看成是边缘分布不同，但是target是相同的都是进行预测RUL。

DA apply on RUL 利用DNNs 和 unsupervised DA，针对Remaining useful lifetime prediction via deep domain adaptation文章进行分析 两个主要问题：一、系统数量有限 二、可收集的无标签的系统数量（接近失效的无标签系统）

解决这两个问题，提出新的评估框架，按照一些之前的文章标准，进行比较

剩下章节的介绍

二、Relation Work

RUL Estimation with DNNs

由DNN引出CNN/LSTM 由于数据是time series 介绍各类文章CNN/LSTM applied on RUL

Unsupervised Domain Adaption

DA method 基于参数 基于特征 基于数据 大多数用基于特征，TCA（Pan）/ GFK（Long）一个是基于MMD显式距离度量，一个是基于几何特征（对应迁移导论书中第六章和第七章）

DNN 的能力就是特征提取，所以利用DNN应用到Unsupervised DA 里面有两个方法，分别是moment matching and adversarial training

moment matching 是 利用metric 减少marginal distribution metric including MMD JAN joint JAN
adversarial training 是 有一个域判别器进行对抗训练

DA for RUL Estimation

这方面工作少，主要针对 unsupervised DA 故障诊断和 supervsied DA for RUL
最近Da Costa 证明了对抗方法在 LSTM on CMAPSS上的可行性

Evaluation Framework for RUL

pair source and target to form tasks
metric 和其他的一样

三、Methods

Evaluation framework

两个影响DA表现的方面
一个是target domian的数据数量 20% 40 60 80 100
第二个是target domian 数据库下降程度 在数据failure 开始 保留20% 40 60 80 100
提出三个问题 首先多少system和多少下降程度最好相对于无DA 第二个是负迁移
有25个scenario 从最简单100 100 到 20 20%（few systems and no degradation）

DA Approach

选择JAN和DANN
JAN loss CE+JMMD
DANN loss CE+BCE
几点改变：一、JAN变成 RMSE+JMMD
二、JAN backbone change AlexNet to CNN（Li）1d-CNN+two FC
三、not pre-train for backbone net

四、Experimental Setup

Data Preparation

介绍CMAPSS

12个task选8个

选14个sensors 、min-max scaling、 sliding window with one step to obtain frames of unified length in time demension with size 30、 pad zero if necessary 、piece-wise linear degradation model with maximum 125

Training Procedure

weight bias initialization、activation functions、loss RMSE、optimization ADam、epoch
试验次数 实验环境

Evaluation Metric

RMSE and RUL-score

Hyperparameter Tuning

选择一个实验取得lamada DANN and JAN

五、Experimental Results

Influence of data Scenarios

对两种factor进行分析
metric 值 图解释含义

Evaluation of Methods

哪个方法好？分析图

Discussion and Caveats

超参数确定
scale 方法
可能因为CMAPSS是模拟数据集（low varience among differnet systems），对于真实的数据集可能DA更好
可以降低到20%以下

六、Conclusion

总结全文
提出一种Unsurpervised DA for RUL。之前的scenario不必要，所有过高的评价
我们框架考虑了两个因素：数量和下降程度，
相比之前DA Costa的我们的优点 同时 unsupervised DA更适用于实际情况
我们描述了unsupervised DA和我们的框架b比较方法

Reference：
1.https://www.jianshu.com/p/e4a293bb3614
2.S. J. Pan and Q. Yang, “A Survey on Transfer Learning,” in IEEE Transactions on Knowledge and Data Engineering, vol. 22, no. 10, pp. 1345-1359, Oct. 2010, doi: 10.1109/TKDE.2009.191.