febb: (Default)
febb ([personal profile] febb) wrote2020-02-15 11:34 pm

Математека для 5-го класса.... :)

Скажем нужно представить какое-то число, например 819.9737548828125,
целой дробью с числителем меньше какого-то, например 2^16=65536.
Я уже забыл, как это делается, ну например такие вычисления:

65536 / 819.9737548828125 = 79.92450930257658

Тогда знаменатель возьмем 80.

819.9737548828125 * 80 = 65597.900390625

Тогда числитель возьмем 65598, тогда

65598 / 80 = 819.975

Точность 0.0016%. Уже неплохо? На этом успокоиться? А вдруг есть что-то лучше?
Как узнать без перебора? :)

P.S.
Написал даже программку и результат перебора другой! :)

А нужно это для программки часов на микроконтроллере с кристаллом на 3.58252 MHz :)
Таймер переполняется 819.9737548828125 раз в минуту. :)