La Red de Conocimientos Pedagógicos - Currículum vitae - ensamblaje de algoritmo común de Fortran

ensamblaje de algoritmo común de Fortran

Cualquier idioma sólo puede expresar un número en coma flotante utilizando valores aproximados.

Tienes que saber que existen infinitos números reales entre 0 y 0,01. Los recursos de la computadora, como la memoria y el disco duro de la CPU, siempre son limitados.

La única forma de expresar datos infinitos con posibilidades limitadas es la aproximación.

Existen muchas reglas de números de punto flotante. La más utilizada es el número de punto flotante IEEE.

Utiliza (-1)*S * 2^N * (1 1/2 1/4 1/8 1/16 .....1/(2^M))?De esta manera algoritmo para aproximar.

Donde S representa positivo y negativo, N representa exponente binario y M representa precisión.

Para obtener más contenido de punto flotante, puede buscar "Punto flotante IEEE" en Baidu para obtener más información.

Volviendo a tu problema, puedes solucionarlo de varias formas:

Utiliza doble precisión. La precisión doble tiene una M más grande, que permite una expresión más precisa, y una N más grande, que le permite registrar un rango más amplio de números de punto flotante. Este método sólo aumenta la precisión y reduce los errores, pero no se puede evitar.

Usar salida formateada. Al formatear la salida, solo se redondea a un cierto número de dígitos durante la salida. sin afectar los datos reales en la memoria. ¡Este enfoque es sólo visual! ! ! ¡En tu caso! ! Los errores se pueden evitar.

Ignore dichos errores. De hecho, cualquier ordenador tendrá errores de redondeo, esto es muy normal.