Activation Functions

• Linear
• Sigmoid
• Softmax
• ReLU
• LeakyReLU
• Maxout
• Hyperbolic Tangent
• Softplus
• Hard tanh