Проблеми точності комп’ютерних обрахунків

Авторы

  • О. Ю. Мудренко

Ключевые слова:

числа з плаваючою комою, стандарт IEEE-754, точність комп’ютерних обрахунків

Аннотация

Проблема точності комп’ютерних обчислень є однією з фундаментальних проблем Computer Science, оскільки неврахування межі достовірність комп’ютерних обрахунків може призвести до непередбачуваних результатів. Фізичні обмеження на обсяг пам’яті, що виділяється комп’ютерною технікою для обробки числа, накладає принципові обмеження на можливості та логіку організації комп’ютерних обрахунків, що також потребує залучення специфічних математичних методів дослідження.

Библиографические ссылки

Handbook of Floating-Point Arithmetic. Birkhäuser Basel / J.-M. Muller, N. Brisebarre, F. de Dinechin, C.-P. Jeannerod etc. 2018. 627 p.

IEEE Standard for Floating-Point Arithmetic, (Revision of IEEE 754-2008). IEEE Std 754-2019. 2019. P. 1–84. DOI: 10.1109/IEEESTD.2019.8766229.

Vietrov O., Bilous R. Special methods of increasing the accuracy of computer calculations. 2022 IEEE 3rd KhPI Week on Advanced Technology (KhPIWeek). 2022. P. 1–5. DOI: 10.1109/KhPIWeek57572.2022.9916383.

Vietrov O., Bilous R. Study of the Convergence of Muller’s Sequence Computer Calculations. 2021 IEEE 3rd Ukraine Conference on Electrical and Computer Engineering (UKRCON). 2021. P. 547–551. DOI: 10.1109/ UKRCON53503.2021.9575546.

Опубликован

2024-05-24

Выпуск

Раздел

Природничі та технічні науки