Feb. 15th, 2020

febb: (Default)
Скажем нужно представить какое-то число, например 819.9737548828125,
целой дробью с числителем меньше какого-то, например 2^16=65536.
Я уже забыл, как это делается, ну например такие вычисления:

65536 / 819.9737548828125 = 79.92450930257658

Тогда знаменатель возьмем 80.

819.9737548828125 * 80 = 65597.900390625

Тогда числитель возьмем 65598, тогда

65598 / 80 = 819.975

Точность 0.0016%. Уже неплохо? На этом успокоиться? А вдруг есть что-то лучше?
Как узнать без перебора? :)

P.S.
Написал даже программку и результат перебора другой! :)

А нужно это для программки часов на микроконтроллере с кристаллом на 3.58252 MHz :)
Таймер переполняется 819.9737548828125 раз в минуту. :)

Profile

febb: (Default)
febb

March 2022

S M T W T F S
  1 2 345
6 7 89 101112
13141516171819
20212223242526
2728293031  

Most Popular Tags

Style Credit

Expand Cut Tags

No cut tags
Page generated Mar. 10th, 2026 03:30 am
Powered by Dreamwidth Studios