Вопросы по теме 'precision'

Для реализации триггерных функций с помощью BigDecimal требуется дополнительная точность.
Вступление Я заинтересован в написании математических функций для BigDecimal (на самом деле, также для моего собственного типа BigDecimal , написанного на Delphi , но это здесь не имеет значения - в этом вопросе я использую BigDecimal из...
212 просмотров
schedule 28.09.2023

Тензорная арифметика TF дает менее точные ответы, чем использование констант с плавающей запятой.
По сути, это то, что я делаю: print (P, Q, R) >>> tf.Tensor(4.0, shape=(), dtype=float32) 1024.0 tf.Tensor(315.0, shape=(), dtype=float32) P*R/Q >>> <tf.Tensor: shape=(), dtype=float32, numpy=1.2304688> 4.0*315.0/1024.0...
18 просмотров
schedule 19.12.2023