双曲正切函数是双曲函数的一种。双曲正切函数在数学语言上一般写作 tanh ⁡ \tanh tanh。它解决了Sigmoid函数的不以0为中心输出问题,然而,梯度消失的问题和幂运算的问题仍然存在。

tanh ⁡ ( x ) = e x − e − x e x + e − x \tanh(x)=\frac{e^x-e^{-x}}{e^x+e^{-x}} tanh(x)=ex+e−xex−e−x​

tanh ⁡ \tanh tanh函数的图像:

机器学习中的数学——激活函数(二):双曲正切函数(Tanh函数)_深度学习