Le neurone artificiel est la brique de base des réseaux de neurones. Il s'inspire du fonctionnement d'un neurone biologique, qui reçoit des signaux (dendrites), les traite (soma) et les transmet (axone).
Mathématiquement, un neurone artificiel reçoit des entrées (inputs), qu'il multiplie par des poids (weights). Il ajoute ensuite un biais (bias) et passe le résultat dans une fonction d'activation pour produire sa sortie.
Sans fonction d'activation, le réseau ne serait qu'une simple régression linéaire. La fonction d'activation ajoute de la non-linéarité, ce qui permet au réseau d'apprendre des modèles complexes.
Exemples de fonctions d'activation courantes :