tea算法 python解密 smote算法python代码

💖作者简介：大家好，我是车神哥，府学路18号的车神🥇

---

Borderline-SMOTE算法

• 🎉Borderline-SMOTE算法介绍
• 🤗源代码

最近写毕业课题论文，用到了Borderline-SMOTE算法，做故障诊断，其实实际工况中包含了很多的数据，而且监测周期极其不均匀，有的检测时间是按照月来采样，有的则是按照年，还有日度，实时等等。在很多地方是不平衡的数据，由此我们需要产生更多相似的数据。一般的虚拟样本生成技术有很多：蒙特卡洛法、整体趋势扩散技术、SMOTE、DNN、Bootstrap等等很多很多。由于最近用Borderline-SMOTE比较多，下面介绍一下！~

文末Python源代码自取！！！

🎉Borderline-SMOTE算法介绍

Borderline SMOTE是在SMOTE基础上改进的过采样算法，该算法仅使用边界上的少数类样本来合成新样本，从而改善样本的类别分布。

Smote 算法仍属于是建立在相距较近的少类样本之间样本的假设基础之上，还没有充分考虑邻近样本 的分布特点，会造成类间发生重复性的可能性较大，而 采用识别少类种子样本的 Borderline-Somte 算法可以 避免这种重复性的发生。基于边界上样本的合成样本原理如下图所示。

Borderline SMOTE采样过程是将少数类样本分为3类，分别为Safe、Danger和Noise。最后，仅对表为Danger的少数类样本过采样。

Borderline-SMOTE又可分为Borderline-SMOTE1和Borderline-SMOTE2，Borderline-SMOTE1在对Danger点生成新样本时，在K近邻随机选择少数类样本（与SMOTE相同），Borderline-SMOTE2则是在k近邻中的任意一个样本(不关注样本类别)

假设 $S$为样本集，$S_{min}$ 为少类样本集，$S_{maxj}$的多数样本集，m 为邻近样本个数，$x_i$ 属性，$x_{ij}$为邻近样本全部属性，$x_n$ 为近邻样本， $R_{ij}$

• Step1：假设每一个$x_i \in S_{min}$，确定与其最邻近的样本集，其数据集为$S_{NN}$，且$S_{NN} \in S$.
• Step：对每一个样本$x_i$，判断最近邻属于多数样本集的个数，即$| S_{NN} \cap S_{maxj}| < m$；合成少数类的样本。即$x_i$与近邻得出$x_n$对应属性$j$中的差值记为$d_{ij}=x_{i}-x_{ij}$。得出合成新的少数类样本$h_{ij}=x_i+d_{ij} \times rand(0, R_{ij})$。

与 SMOTE 方法相比，Borderline-SMOTE 方法只针对边界样本进行近邻线性插值，使得合成后的少数 类样本分布更为合理．

哇，好久没有在Markdown手敲公式了，都有点手生了，哈哈哈。

🤗源代码

Python代码：

#!/usr/bin/env python
# -*- coding: utf-8 -*-
# @Time    : 2021/12/28 10:49
# @Author  : 府学路18号车神
# @Email   ：[e-mail]
# @File    : Borderline-SMOTE_imblearn.py

from collections import Counter

import numpy as np
import pandas as pd
from icecream import ic
from sklearn.datasets import make_classification
from imblearn.over_sampling import BorderlineSMOTE
import random
from sklearn.neighbors import NearestNeighbors

# 读取数据
def loaddata(filename):

    df = pd.read_excel(io=filename)
    # ic(df)

    return np.array(df)

# 均匀的100个数据
def gene_data(Lb, Ub):

    # 生成LB
    # 循环取值获得Lb和Ub的值
    m = Lb.shape[0]
    gene_box = []
    for i in range(m):

        gene_sample = np.linspace(Lb[i], Ub[i], 100)
        # ic(gene_sample)
        gene_box.append(gene_sample)

    return gene_box

class Smote:

    def __init__(self,samples,N=10,k=5):
        self.n_samples,self.n_attrs=samples.shape
        self.N=N
        self.k=k
        self.samples=samples
        self.newindex=0
       # self.synthetic=np.zeros((self.n_samples*N,self.n_attrs))

    def over_sampling(self):
        N=int(self.N/100)
        self.synthetic = np.zeros((self.n_samples * N, self.n_attrs))
        neighbors=NearestNeighbors(n_neighbors=self.k).fit(self.samples)
        print('neighbors',neighbors)
        for i in range(len(self.samples)):
            nnarray=neighbors.kneighbors(self.samples[i].reshape(1,-1),return_distance=False)[0]
            #print nnarray
            self._populate(N,i,nnarray)
        return self.synthetic


    # for each minority class samples,choose N of the k nearest neighbors and generate N synthetic samples.
    def _populate(self,N,i,nnarray):
        for j in range(N):
            nn=random.randint(0,self.k-1)
            dif=self.samples[nnarray[nn]]-self.samples[i]
            gap=random.random()
            self.synthetic[self.newindex]=self.samples[i]+gap*dif
            self.newindex+=1



if __name__ == '__main__':

    # 读取数据
    datafile = "LbUbCL边界.xlsx"
    df = loaddata(datafile)
    df_LB = df[:, 2]
    df_UB = df[:, 3]
    # ic(df_LB, df_UB)
    # ic(df_LB.shape, df_UB.shape)

    # 在LB和UB区间内生成均匀的100个数据，然后再用borderline-SMOTE进行虚拟样本生成
    Initial_dt = np.array(gene_data(df_LB, df_UB))
    X = Initial_dt.T
    ic((Initial_dt.T).shape)     # success
    # 相应的标签y
    y = np.array([1]*100)

    # y = np.ones((16, 100))
    # ic(y)

    # print('Original dataset shape %s' % Counter(y))
    # 对生成的100个样本使用borderline-SMOTE生成虚拟样本
    # sm = BorderlineSMOTE(random_state=42, kind="borderline-1")
    # X_res, y_res = sm.fit_resample(X, y)
    # print('Resampled dataset shape %s' % Counter(y_res))
    # ic(X_res, y_res)

    ss = Smote(X, N=100)

    res = ss.over_sampling()

    pd.DataFrame(res).to_excel("Borderline-SMOTE_result.xlsx")

    print(res)

    """-----------------------------------------------------------"""

    # print('Original dataset shape %s' % Counter(y))

    # sm = BorderlineSMOTE(random_state=42, kind="borderline-1")
    # X_res, y_res = sm.fit_resample(X, y)

    # print('Resampled dataset shape %s' % Counter(y_res))

    # icecream.ic(X_res, y_res.shape)
    # X1, y1 = make_classification(n_classes=2, class_sep=2,
    #                                                        weights=[0.1, 0.9], n_informative=2, n_redundant=0, flip_y=0,
    #                                                        n_features=2, n_clusters_per_class=1, n_samples=100, random_state=9)

    # ic(X1, y1)

注意，由于我们的数据集是我的论文数据集，所以不能分析给大家啦！~

下面还有一个画图的代码也一起附上吧，仅供参考：

#!/usr/bin/env python
# -*- coding: utf-8 -*-
# @Time    : 2021/12/28 21:35
# @Author  : 府学路18号车神
# @Email   ：[e-mail]
# @File    : plot.py

import matplotlib.pyplot as plt
import numpy as np
import pandas as pd
from pylab import mpl, text
from matplotlib.font_manager import FontProperties

roman = FontProperties(fname=r'C:\Windows\Fonts\Times New Roman.ttf', size=10) # Times new roman
mpl.rcParams['font.sans-serif'] = ['SimSun']
fontcn = {'family': 'SimSun','size': 10} # 1pt = 4/3px
fonten = {'family':'Times New Roman','size': 10}


df = pd.read_excel("SMAPE_final.xlsx", sheet_name="Sheet2")
df2 = pd.read_excel("SMAPE_final.xlsx", sheet_name="Sheet4")
print(df)

t1 = list(df2.iloc[0, 1:])
t2 = list(df2.iloc[1, 1:])
t3 = list(df2.iloc[2, 1:])
# X2 = ["MTD(%)", "MT-MTD(%)", "MD-MTDB(%)"]
X2 = ['10', '15', '20', '25', '&']

plt.plot(X2, t1, linestyle="-.", marker="o", linewidth=2, label="MTD", markersize='8')
plt.plot(X2, t2, "-D", linewidth=2, label="MT-MTD", markersize='8')
plt.plot(X2, t3, "--v",linewidth=2, label="MD-MTDB", markersize='8')
plt.xlabel("Size of Sample", fontsize=15)
plt.ylabel("AveSMAPE(%)", fontsize=15)
plt.rcParams.update({'font.size':14})
plt.legend()
plt.show()


y1 = list(df.iloc[0, 1:])
y2 = list(df.iloc[1, 1:])
y3 = list(df.iloc[2, 1:])
X = ['10', '15', '20', '25', '30']

plt.plot(X, y1, '--o', linewidth=2, label='SMAPE no vitual samples', markersize='8')
plt.plot(X, y2, '-^', linewidth=2, label='SMAPE include vitual samples', markersize='8')
plt.xlabel("Size of Sample", fontsize=15)
plt.ylabel("AveSMAPE(%)", fontsize=15)
plt.rcParams.update({'font.size':14})
plt.legend()
plt.show()


# plt.subplot(211)

plt.bar(X, y3, width=0.8)
plt.xlabel("Size of Sample",  fontsize=15)
plt.ylabel("AvePCR(%)", fontsize=15)
plt.show()

加油吧！~准备卷毕业课题第三章了，o(╥﹏╥)o

---