Types de couches courantes de Keras
Keras est une API de haut niveau pour les réseaux de neurones qui propose une grande variété de types de couches pour construire des modèles d'apprentissage profond.
Une couche est la brique de base de Keras. Chaque couche reçoit des données d'entrée, effectue une transformation spécifique et produit le résultat.
Cet article présentera en détail les types de couches les plus couramment utilisés dans Keras et leur utilisation.
Types de couches de base
Couche Dense entièrement connectée
La couche entièrement connectée est la couche de réseau de neurones la plus élémentaire, où chaque nœud d'entrée est connecté à chaque nœud de sortie.
Exemple
# Créer une couche entièrement connectée avec 64 neurones en utilisant la fonction d'activation ReLU
dense_layer = Dense(units=64, activation='relu')
Description du paramètre:
units: entier positif, dimension de l'espace de sortieactivation: fonction d'activation, telle que 'relu', 'sigmoid', 'tanh', 'softmax', etc.use_bias: booléen, indique s'il faut utiliser un vecteur de biais (True par défaut)kernel_initializer: méthode d'initialisation pour la matrice de poids
Scénarios d'application:
- Utilisé dans les perceptrons multicouches (MLP)
- Comme couche finale d'un classifieur
- Transformation de caractéristiques et mappage non linéaire
Conv2D : couche de convolution 2D
Principalement utilisé pour les opérations de convolution dans le traitement d'images, capable d'extraire des caractéristiques locales.
Exemple
# Créer une couche convolutive avec 32 noyaux de convolution 3x3
conv_layer = Conv2D(filters=32, kernel_size=(3, 3), activation='relu')
Description du paramètre:
filters: entier, dimension de l'espace de sortie (nombre de noyaux de convolution)kernel_size: entier ou tuple, largeur et hauteur de la fenêtre de convolutionstrides: pas de convolution, la valeur par défaut est (1, 1)padding: 'valid' (pas de remplissage) ou 'same' (remplissage afin que la sortie ait la même taille que l'entrée)
Scénarios d'application:
- Classification d'images
- Détection d'objets
- Segmentation d'images
Couche LSTM (Long Short-Term Memory)
Une couche de réseau de neurones récurrent utilisée pour le traitement de données séquentielles, capable d'apprendre des dépendances à long terme.
Exemple
# Créer une couche LSTM avec 128 unités
lstm_layer = LSTM(units=128, return_sequences=True)
Description du paramètre:
units: entier positif, dimension de l'espace de sortiereturn_sequences: booléen, indique s'il faut renvoyer la séquence complète (False par défaut)dropout: nombre à virgule flottante entre 0 et 1, taux de dropout pour la transformation linéaire d'entréerecurrent_dropout: nombre à virgule flottante entre 0 et 1, taux de dropout pour l'état récurrent
Scénarios d'application:
- Traitement du langage naturel
- Prédiction de séries temporelles
- Reconnaissance de la parole
Couche Dropout de désactivation aléatoire
Pendant l'entraînement, met aléatoirement à 0 la sortie de certains neurones pour éviter le surapprentissage.
Exemple
# Créer une couche Dropout avec un taux de dropout de 0.5
dropout_layer = Dropout(rate=0.5)
Description du paramètre:
rate: nombre à virgule flottante entre 0 et 1, taux d'abandonnoise_shape: tenseur d'entiers, représentant la forme du masque de dropout binaire qui sera multiplié avec l'entréeseed: graine de nombre aléatoire
Scénarios d'application:
- Prévenir le surapprentissage du réseau de neurones
- Améliorer la capacité de généralisation du modèle
- Généralement utilisé après les couches entièrement connectées
Autres types de couches importants
BatchNormalization Couche de normalisation par lots
Effectue une normalisation par lots sur la sortie de la couche précédente, accélérant l'entraînement et améliorant la stabilité du modèle.
Exemple
# Créer une couche de normalisation par lots
bn_layer = BatchNormalization()
MaxPooling2D Couche de pooling max 2D
Sous-échantillonne la carte de caractéristiques en prenant la valeur maximale dans la fenêtre.
Exemple
# Créer une couche de max pooling 2x2
pool_layer = MaxPooling2D(pool_size=(2, 2))
Couche Flatten
Aplatit une entrée multidimensionnelle en une seule dimension, couramment utilisée pour passer des couches convolutives aux couches entièrement connectées.
Exemple
# Créer une couche Flatten
flatten_layer = Flatten()
Couche Embedding
Convertit des entiers positifs (indices) en vecteurs denses de taille fixe.
Exemple
# Créer une couche d'embedding avec une taille de vocabulaire de 1000 et une dimension de sortie de 64
embedding_layer = Embedding(input_dim=1000, output_dim=64)
Exemple de combinaison de couches
Exemple
from keras.layers import Dense, Dropout, Conv2D, MaxPooling2D, Flatten
# Créer un modèle CNN simple
model = Sequential([
Conv2D(32, (3, 3), activation='relu', input_shape=(28, 28, 1)),
MaxPooling2D((2, 2)),
Conv2D(64, (3, 3), activation='relu'),
MaxPooling2D((2, 2)),
Flatten(),
Dense(64, activation='relu'),
Dropout(0.5),
Dense(10, activation='softmax')
])
Directives pour le choix des couches
Type de données d'entrée:
- Données d'image : Conv2D + couches de pooling
- Données séquentielles : LSTM/GRU
- Données structurées : couches Dense
Profondeur du modèle:
- Les réseaux profonds doivent être combinés avec BatchNormalization et Dropout
Type de tâche:
- Tâche de classification : utilisez l'activation softmax dans la couche finale
- Tâche de régression : n'utilisez aucune fonction d'activation ou une activation linéaire dans la couche finale
Ressources de calcul:
- Pour les entrées de grande taille, envisagez d'utiliser des couches de pooling pour réduire les paramètres
- Lorsque les ressources sont limitées, réduisez le nombre de couches et d'unités