Gracias por la respuesta!
Es verdad, en alguna ocasión recibí el valor NaN ¡
El tema es que los cálculos los realiza la librería, y ponerme a analizar cual es la cuestión es muy complicado. La librería es ODE (Open Dynamics Engine).
A mi me gustaría saber en que casos, con que operaciones y en que circunstancias ocurre ese problema, asi reviso que estoy haciendo mal yo ya que probablemente el error se produzca por la forma en que estoy usando la librería. Si alguien conoce al respecto, por favor coménteme, graciass!!!