FAQs Técnicas

Realizar una pregunta

Precisión de los FLOAT con Vijeo Designer 4.7

Todos los FLOAT de Vijeo Designer son de 32bits, asçi que tal como indica la normativa IEE 754, y tal como aparece en la ayuda de Vijeo Designer "Cap.6.2.1 Tipos de Variables" la precisión de un FLOAT de 32bits, se limita a 7 dígitos, independientemente de la ubicación de la coma. Mas info: (http://en.wikipedia.org/wiki/IEEE_754-1985) Como ejemplo el valor decimal 1,9 convertido a FLOAT de 32bits, obtenemos el valor 0x3FF33333 en hexadecimal. Si dicho valor lo convertimos de nuevo a decimal obtenemos:1.8999999761....Por lo tanto debemos limitar todos los FLOAT a 7digitos, de esta manera veremos el valor de 1,900000 Mas info: (http://www.binaryconvert.com/convert_float.html)
¿Ha sido útil?
¿Qué podemos hacer para mejorar la información?