Образцы метрологических вычислений

Образцы метрологического (чисвального) исчисления
различных функций
Первая строка – базисное бинарное вычисление (двоично-десятичная запись чисвалов, бинарные мантисса
и степень записываются в десятичной системе, для компактности)
Вторая строка – перевод в десятичное представление
Третья строка – исчисление вещественных чисел (калькулятор Майкрософт из ОС WINDOWS 7)
Сложение
1000B-5'+10000B-6'=3000B-4'
31,25±0.02 + 156,250±0,008 =187,50±0,03
31,25 + 156,250 = 187,5
0B0’ + 0B0’= 0B1’
0±0.5 + 0±0.5 = 0±1
Вычитание
1000B-5' - 10000B-6'=-2000B-4'
31,25±0.02 - 156,250±0,008 =-125,00±0,03
31,25 - 156,250 = -125
Умножение
1000B-5' * 10000B-6'=1221B2'
31,25±0.02 * 156,250±0,008 = 4884±2
31,25 * 156,250 = 4884,8125
Деление
1000B-5'/10000B-6'=819B-12'
31,25±0.02 / 156,250±0,008 =0,2000±0,0001
31,25 / 156,25 = 0,2
1B0'/0B0'=$B2'
1±0.5 / 0±0.5 = (>|1|)
Натуральный логарифм
ln(25B-4')=7B-4'
ln(1.56±0.03)=0.44±0.03
ln 1,56=0,44468582126144567824721401203547
Синус (угол в радианах)
sin(25B-4')=1073741824B-30'
sin(1.56±0.03) = 1,0000000000±0,0000000005
sin(1,56)= 0,99994172022996629574517002341348
sin#’ = 0B1’
Cинус произвольного числа #’ лежит в интервале 0B1’ = (-1, 1)
Корень квадратный
sqr(25B-4')=80B-6'
sqr(1.56±0.03)= 1.250±0,008
sqr1.56=1,248999599679679641169378624188
Корень кубический
qqr(25B-4')=148B-7'
qqr(1.56±0.03)= 1,156±0,004
qqr 1.56= 1,1597779995297994947845386930321
Алгоритмы - Юровицкий В.М.
Программирование - Руссков А.А.