Быстрый обратный квадратный корень: различия между версиями

Константа Уолша 0x5F3759DF ↔{{efn|Здесь стрелка ↔ означает объяснённую выше биекцию двоичного представления целого числа и двоичного представления числа с плавающей запятой в формате [[IEEE 754]].}} 1,4324301·2⁶³ оказалась очень хорошей. Крис Ломонт и Мэттью Робертсон незначительно уменьшили<ref name="lomont">{{Cite web |url=http://www.lomont.org/Math/Papers/2003/InvSqrt.pdf |title=Архивированная копия |access-date=2019-08-25 |archive-date=2009-02-06 |archive-url=https://web.archive.org/web/20090206040806/http://lomont.org/Math/Papers/2003/InvSqrt.pdf |deadlink=no }}</ref><ref name="robertson" /> предельную относительную погрешность, отыскав перебором константу{{efn|name=aa|1=Если в поле порядка поставить 127, получится 0x3FB75A86. Библиотека GRISU2, полностью целочисленная и не зависящая от тонкостей сопроцессора, говорит, что 0x3FB75A86 ↔ 1,43245 — это кратчайшее десятичное число, преобразующееся в данный ''float''. Однако всё-таки единица младшего разряда равняется 1,19·10⁻⁷, и 0x3FB75A86 = 1,432450056 ≈ 1,4324501. Следующее дробное 0x3FB75A87 ↔ 1,4324502 без всяких тонкостей. Отсюда неинтуитивное округление 1,43245008432450056 до 1,4324500.}} 0x5F375A86 ↔ 1,4324500·2⁶³, а для ''double'' — 0x5FE6EB50C7B537A9. Правда, для double алгоритм бессмысленный (не даёт выигрыша в точности по сравнению с float)<ref name="robertson" />. Константу Ломонта удалось получить и аналитически ({{nobr|1={{math|''c''}} = 1,432450084790142642179}}){{efn|name=aa}}, но расчёты довольно сложны<ref name="robertson" /><ref name="moroz">{{Cite web |url=http://irbis-nbuv.gov.ua/cgi-bin/irbis_nbuv/cgiirbis_64.exe?C21COM=2&I21DBN=UJRN&P21DBN=UJRN&IMAGE_FILE_DOWNLOAD=1&Image_file_name=PDF%2FKtd_2014_32_6.pdf |title=Швидке обчислення оберненого квадратного кореня з використанням магічної константи — аналітичний підхід |access-date=2022-06-12 |archive-date=2022-04-17 |archive-url=https://web.archive.org/web/20220417200348/http://irbis-nbuv.gov.ua/cgi-bin/irbis_nbuv/cgiirbis_64.exe?C21COM=2&I21DBN=UJRN&P21DBN=UJRN&IMAGE_FILE_DOWNLOAD=1&Image_file_name=PDF%2FKtd_2014_32_6.pdf |deadlink=no }}</ref>. Крайний случай — константа Блинна 1,5 — даёт без перебалансировок и улучшений около −0,6 %<ref name="blinn" />.