Types de couches courantes de Keras

Keras est une API de haut niveau pour les réseaux de neurones qui propose une grande variété de types de couches pour construire des modèles d'apprentissage profond.

Une couche est la brique de base de Keras. Chaque couche reçoit des données d'entrée, effectue une transformation spécifique et produit le résultat.

Cet article présentera en détail les types de couches les plus couramment utilisés dans Keras et leur utilisation.


Types de couches de base

Couche Dense entièrement connectée

La couche entièrement connectée est la couche de réseau de neurones la plus élémentaire, où chaque nœud d'entrée est connecté à chaque nœud de sortie.

Exemple

from keras.layers import Dense

# Créer une couche entièrement connectée avec 64 neurones en utilisant la fonction d'activation ReLU
dense_layer = Dense(units=64, activation='relu')

Description du paramètre:

  • units: entier positif, dimension de l'espace de sortie
  • activation: fonction d'activation, telle que 'relu', 'sigmoid', 'tanh', 'softmax', etc.
  • use_bias: booléen, indique s'il faut utiliser un vecteur de biais (True par défaut)
  • kernel_initializer: méthode d'initialisation pour la matrice de poids

Scénarios d'application:

  • Utilisé dans les perceptrons multicouches (MLP)
  • Comme couche finale d'un classifieur
  • Transformation de caractéristiques et mappage non linéaire

Conv2D : couche de convolution 2D

Principalement utilisé pour les opérations de convolution dans le traitement d'images, capable d'extraire des caractéristiques locales.

Exemple

from keras.layers import Conv2D

# Créer une couche convolutive avec 32 noyaux de convolution 3x3
conv_layer = Conv2D(filters=32, kernel_size=(3, 3), activation='relu')

Description du paramètre:

  • filters: entier, dimension de l'espace de sortie (nombre de noyaux de convolution)
  • kernel_size: entier ou tuple, largeur et hauteur de la fenêtre de convolution
  • strides: pas de convolution, la valeur par défaut est (1, 1)
  • padding: 'valid' (pas de remplissage) ou 'same' (remplissage afin que la sortie ait la même taille que l'entrée)

Scénarios d'application:

  • Classification d'images
  • Détection d'objets
  • Segmentation d'images

Couche LSTM (Long Short-Term Memory)

Une couche de réseau de neurones récurrent utilisée pour le traitement de données séquentielles, capable d'apprendre des dépendances à long terme.

Exemple

from keras.layers import LSTM

# Créer une couche LSTM avec 128 unités
lstm_layer = LSTM(units=128, return_sequences=True)

Description du paramètre:

  • units: entier positif, dimension de l'espace de sortie
  • return_sequences: booléen, indique s'il faut renvoyer la séquence complète (False par défaut)
  • dropout: nombre à virgule flottante entre 0 et 1, taux de dropout pour la transformation linéaire d'entrée
  • recurrent_dropout: nombre à virgule flottante entre 0 et 1, taux de dropout pour l'état récurrent

Scénarios d'application:

  • Traitement du langage naturel
  • Prédiction de séries temporelles
  • Reconnaissance de la parole

Couche Dropout de désactivation aléatoire

Pendant l'entraînement, met aléatoirement à 0 la sortie de certains neurones pour éviter le surapprentissage.

Exemple

from keras.layers import Dropout

# Créer une couche Dropout avec un taux de dropout de 0.5
dropout_layer = Dropout(rate=0.5)

Description du paramètre:

  • rate: nombre à virgule flottante entre 0 et 1, taux d'abandon
  • noise_shape: tenseur d'entiers, représentant la forme du masque de dropout binaire qui sera multiplié avec l'entrée
  • seed: graine de nombre aléatoire

Scénarios d'application:

  • Prévenir le surapprentissage du réseau de neurones
  • Améliorer la capacité de généralisation du modèle
  • Généralement utilisé après les couches entièrement connectées

Autres types de couches importants

BatchNormalization Couche de normalisation par lots

Effectue une normalisation par lots sur la sortie de la couche précédente, accélérant l'entraînement et améliorant la stabilité du modèle.

Exemple

from keras.layers import BatchNormalization

# Créer une couche de normalisation par lots
bn_layer = BatchNormalization()

MaxPooling2D Couche de pooling max 2D

Sous-échantillonne la carte de caractéristiques en prenant la valeur maximale dans la fenêtre.

Exemple

from keras.layers import MaxPooling2D

# Créer une couche de max pooling 2x2
pool_layer = MaxPooling2D(pool_size=(2, 2))

Couche Flatten

Aplatit une entrée multidimensionnelle en une seule dimension, couramment utilisée pour passer des couches convolutives aux couches entièrement connectées.

Exemple

from keras.layers import Flatten

# Créer une couche Flatten
flatten_layer = Flatten()

Couche Embedding

Convertit des entiers positifs (indices) en vecteurs denses de taille fixe.

Exemple

from keras.layers import Embedding

# Créer une couche d'embedding avec une taille de vocabulaire de 1000 et une dimension de sortie de 64
embedding_layer = Embedding(input_dim=1000, output_dim=64)

Exemple de combinaison de couches

Exemple

from keras.models import Sequential
from keras.layers import Dense, Dropout, Conv2D, MaxPooling2D, Flatten

# Créer un modèle CNN simple
model = Sequential([
    Conv2D(32, (3, 3), activation='relu', input_shape=(28, 28, 1)),
    MaxPooling2D((2, 2)),
    Conv2D(64, (3, 3), activation='relu'),
    MaxPooling2D((2, 2)),
    Flatten(),
    Dense(64, activation='relu'),
    Dropout(0.5),
    Dense(10, activation='softmax')
])

Directives pour le choix des couches

  1. Type de données d'entrée:

    • Données d'image : Conv2D + couches de pooling
    • Données séquentielles : LSTM/GRU
    • Données structurées : couches Dense
  2. Profondeur du modèle:

    • Les réseaux profonds doivent être combinés avec BatchNormalization et Dropout
  3. Type de tâche:

    • Tâche de classification : utilisez l'activation softmax dans la couche finale
    • Tâche de régression : n'utilisez aucune fonction d'activation ou une activation linéaire dans la couche finale
  4. Ressources de calcul:

    • Pour les entrées de grande taille, envisagez d'utiliser des couches de pooling pour réduire les paramètres
    • Lorsque les ressources sont limitées, réduisez le nombre de couches et d'unités
Autres extensions