Показать сообщение отдельно
Старый 11.12.2014, 17:19   #1
Paul Kellerman
Gold Member
 
Регистрация: 25.06.2005
Адрес: F000:FFF0
Сообщений: 1,804
По умолчанию Аппроксимация 80-битного float рациональным числом

Озаботился тут написанием своей процедуры преобразования веществен-
ного числа (80-битного extended) рациональным числом в виде P / Q, где
P и Q - сверхбольшие целые числа, арифметику кот. я реализовал ранее.

Написал, много разных замороченных багов отловил и исправил, вроде все.
Но надо как следует потестировать. Если несложно погоняйте программу,
в которой в верхнем поле вводите любое число 1E-4932 <= |X| <= 1E4932,
во второй строке получаете аппроксимацию дробью. Для очень больших и
очень маленьких вещественных дробь может оказаться очень большой и в
маленькое текстовое окно целиком не влезть, тогда выделите его и скопи-
руйте куда-нибудь в блокнот, и там уже целиком ее можно будет увидеть.
В третьей строке отображается контрольная проверка (результат деления
числителя дроби на знаменатель), и выводится результат в виде extended.

Точность: 1E-18. То есть, максимум 18 цифр, дальше уже все округляется.
Вложения
Тип файла: zip E2Rtest.zip (382.6 Кб, 7 просмотров)
Paul Kellerman вне форума   Ответить с цитированием
Реклама