Л - не логика, а lua

[amarao]

> nan
nil
> a=0/0
> a
-nan
> a==nill
false
> a==nan
false
> a==-nan
stdin:1: attempt to perform arithmetic on a nil value (global 'nan')
stack traceback:
    stdin:1: in main chunk
    [C]: in ?

После присматривания к результатам... в целом, претензия только к выводу nan как nil.

Comments

[juan_gandhi]

Она формализована? Ассоциативность операций сложения и умножения, например, имеется хотя бы? Если нет, то какой смысл что-то вычислять из, например, аэродинамики?

[yurikhan]

В плавучей арифметике сложение и умножение в общем случае не ассоциативно и без всяких NaN’ов, чисто за счёт ограниченной битности мантиссы. Примерно в духе (2^N + 1) + 1 = 2^N + 1 = 2^N, но 2^N + (1 + 1) = 2^N + 2.

[juan_gandhi]

Да, есть такая проблема; для борьбы с этим есть всякие трюки в вычислительной математики.

Короче да, это не математика, а ближе к химии.

[amarao]

Предложи что-то лучше.

[juan_gandhi]

Я в вычислительной математике не силён.

[amarao]

математики очень любят машину Тьюринга потому что у неё бесконечная лента.

(смотрю в сторону java-отдела, которому в очередной раз подняли лимиты до 300Гб по памяти)