Проблеми точності комп’ютерних обрахунків
Ключові слова:
числа з плаваючою комою, стандарт IEEE-754, точність комп’ютерних обрахунківАнотація
Проблема точності комп’ютерних обчислень є однією з фундаментальних проблем Computer Science, оскільки неврахування межі достовірність комп’ютерних обрахунків може призвести до непередбачуваних результатів. Фізичні обмеження на обсяг пам’яті, що виділяється комп’ютерною технікою для обробки числа, накладає принципові обмеження на можливості та логіку організації комп’ютерних обрахунків, що також потребує залучення специфічних математичних методів дослідження.
Посилання
Handbook of Floating-Point Arithmetic. Birkhäuser Basel / J.-M. Muller, N. Brisebarre, F. de Dinechin, C.-P. Jeannerod etc. 2018. 627 p.
IEEE Standard for Floating-Point Arithmetic, (Revision of IEEE 754-2008). IEEE Std 754-2019. 2019. P. 1–84. DOI: 10.1109/IEEESTD.2019.8766229.
Vietrov O., Bilous R. Special methods of increasing the accuracy of computer calculations. 2022 IEEE 3rd KhPI Week on Advanced Technology (KhPIWeek). 2022. P. 1–5. DOI: 10.1109/KhPIWeek57572.2022.9916383.
Vietrov O., Bilous R. Study of the Convergence of Muller’s Sequence Computer Calculations. 2021 IEEE 3rd Ukraine Conference on Electrical and Computer Engineering (UKRCON). 2021. P. 547–551. DOI: 10.1109/ UKRCON53503.2021.9575546.
