Вопросы по теме 'precision'
Для реализации триггерных функций с помощью BigDecimal требуется дополнительная точность.
Вступление
Я заинтересован в написании математических функций для BigDecimal (на самом деле, также для моего собственного типа BigDecimal , написанного на Delphi , но это здесь не имеет значения - в этом вопросе я использую BigDecimal из...
212 просмотров
schedule
28.09.2023
Тензорная арифметика TF дает менее точные ответы, чем использование констант с плавающей запятой.
По сути, это то, что я делаю:
print (P, Q, R)
>>> tf.Tensor(4.0, shape=(), dtype=float32) 1024.0 tf.Tensor(315.0, shape=(), dtype=float32)
P*R/Q
>>> <tf.Tensor: shape=(), dtype=float32, numpy=1.2304688>
4.0*315.0/1024.0...
18 просмотров
schedule
19.12.2023