La diferencia entre cnn y rnn

La diferencia entre dnn y cnn

En el campo del reconocimiento de imágenes, el aprendizaje profundo se usa con mayor frecuencia y el aprendizaje profundo se divide en diferentes modelos, como la red neuronal feedforward, DNN. ), Redes neuronales convolucionales (CNN), Redes neuronales recurrentes (RNN), etc.

DNN: Hay un problema: no puede modelar cambios en series de tiempo. Sin embargo, el orden temporal en el que aparecen las muestras es muy importante para aplicaciones como el procesamiento del lenguaje natural, el reconocimiento de voz y el reconocimiento de escritura a mano. Para satisfacer esta demanda, ha surgido otra estructura de red neuronal: la red neuronal recurrente RNN.

En un sentido amplio, se puede considerar que NN (o el más hermoso DNN) incluye variantes específicas como CNN y RNN. En aplicaciones prácticas, la llamada red neuronal profunda DNN a menudo incorpora una variedad de estructuras conocidas, incluidas capas convolucionales o unidades LSTM.

Ante una gran cantidad de datos, el efecto de dnn (relu) no es peor que el de la estructura de aprendizaje profundo previamente entrenada. Al final, DBN también se considera un "modelo generativo". CNN tampoco tiene un proceso de entrenamiento previo y el algoritmo de entrenamiento también utiliza BP. Porque agregar convolución puede procesar mejor datos 2D, como imágenes y voz.

DNN se divide según la posición de las diferentes capas. Las capas de la red neuronal dentro de DNN se pueden dividir en tres categorías: capa de entrada, capa oculta y capa de salida. Como se muestra en el siguiente ejemplo, en términos generales. la primera capa es la capa de salida, la última capa es la capa de salida y las capas intermedias son capas ocultas.

El coeficiente en el centro del núcleo de convolución de nitidez es mayor que 1, y el valor absoluto de la suma de los ocho coeficientes circundantes es 1 menor que el coeficiente medio. Esto ampliará la diferencia entre los colores. de un píxel y los píxeles circundantes, y el resultado final es La imagen es más clara que la original. ¿Cuál es la diferencia entre una red neuronal convolucional (CNN) y una red neuronal recurrente (RNN)?

DNN: hay un problema: no puede modelar cambios en series de tiempo. Sin embargo, el orden temporal en el que aparecen las muestras es muy importante para aplicaciones como el procesamiento del lenguaje natural, el reconocimiento de voz y el reconocimiento de escritura a mano. Para satisfacer esta demanda, ha surgido otra estructura de red neuronal: la red neuronal recurrente RNN.

CNN tiene un rendimiento excelente en el procesamiento de imágenes a gran escala y se ha utilizado ampliamente en clasificación y posicionamiento de imágenes y otros campos. En comparación con otras estructuras de redes neuronales, las redes neuronales convolucionales requieren relativamente pocos parámetros, lo que las hace ampliamente aplicables.

En un sentido amplio, se puede considerar que NN (o el más hermoso DNN) incluye variantes específicas como CNN y RNN. En aplicaciones prácticas, la llamada red neuronal profunda DNN a menudo incorpora una variedad de estructuras conocidas, incluidas capas convolucionales o unidades LSTM. ¿Cuáles son las diferencias entre las estructuras de red interna de CNN, RNN y DNN?

1. En términos generales, se puede considerar que NN (o el más hermoso DNN) incluye variantes específicas de CNN y RNN. En aplicaciones prácticas, la llamada red neuronal profunda DNN a menudo incorpora una variedad de estructuras conocidas, incluidas capas convolucionales o unidades LSTM.

2. RNN (Recurrent Neural Network), un tipo de red neuronal utilizada para procesar datos de secuencia. La mayor diferencia de RNN son las conexiones ponderadas que se establecen entre neuronas entre capas. En términos generales, se considera que DNN incluye variantes específicas de CNN y RNN.

3. La diferencia radica en la capa de bucle. Las redes neuronales convolucionales no tienen concepto de temporización y la entrada está directamente vinculada a la salida; las redes neuronales recurrentes tienen temporización y la decisión actual está relacionada con la decisión anterior. Resumen de las diferencias entre CNN y RNN en el proceso de clasificación de texto

1 La diferencia radica en la capa de bucle. Las redes neuronales convolucionales no tienen concepto de temporización y la entrada está directamente vinculada a la salida; las redes neuronales recurrentes tienen temporización y la decisión actual está relacionada con la decisión anterior.

2. CNN: La señal de cada capa de neuronas solo se puede propagar a la capa superior, y el procesamiento de muestras es independiente en cada momento, por lo que también se le llama red neuronal directa.

3. En un sentido amplio, se puede considerar que NN (o el más hermoso DNN) incluye variantes específicas como CNN y RNN.

En aplicaciones prácticas, la llamada red neuronal profunda DNN a menudo incorpora una variedad de estructuras conocidas, incluidas capas convolucionales o unidades LSTM.

4. La característica del reconocimiento de voz de CNN suele ser un espectrograma, que es similar al método de procesamiento del reconocimiento de imágenes. Filtersize también se puede utilizar para determinar el contenido actual en función de información pasada y futura. Sin embargo, debido al tamaño fijo, la dependencia prolongada no es tan buena como LSTM.