Отправлено balda 21 августа 2004 г. 00:40

в результате арифм операций получаю к примеру
число 1978 в DEC = 07BA в HEX
в моем случае, что бы отвязаться от запятой - это значение уже умножено на 10!! естественно лежит оно в хексе
реальное значение должно быть 197,8 и мне надо его округлить то бишь
получить значение =198
можно конечно хекс перевести в dec потом по последнему знаку посмотреть больше 5 или нет.. потом обратно перевести в hex
мне кажется это геморный путь...
может даст кто совет как почетче сделать?
мк=avr

• Ничего не понятно: Формат хранения числа: с фикс точкой/ с плав точкой/просто short которое виртуально надо бы делить на 10, чтобы получить достоверное значение? — _гоша   (21.08.2004 08:32, пустое)
  • Если fixed point математика 0xXXX.X-> действ int_var=((abs(var) & 0x000f) > 0x0007)? var >>1 +1 : var >> 1; — _гоша   (21.08.2004 08:36, пустое)
    • глючу. +/-1 в зав от знака числа... — _гоша   (21.08.2004 08:37, пустое)
• А вот так (+) — SM   (21.08.2004 07:44, 114 байт)
  • Прибавлять не нужно — F8   (21.08.2004 09:31, пустое)
    • Еще как нужно. Иначе будет не округление, а усечение. — SM   (21.08.2004 12:32, пустое)
      • Ясно — F8   (21.08.2004 12:39, пустое)
• Ответ: — grumbler   (21.08.2004 01:36, 46 байт)
• А логическое И с 0x07 и посмотреть что останется? — Pashka2k   (21.08.2004 01:23, пустое)
• Разделить на десять, если остаток от деления больше или равно 5 прибавить к результату 1 — ddd   (21.08.2004 01:10, пустое)
  • ВО!!! ИМЕЕНО ТАК Я И СДЕЛАЛ РАЗДЕЛИЛ НА 10 А ОСТАТОК ПРОАНАЛИЗИРОВАЛ — balda   (21.08.2004 10:58, пустое)
    • Все гораздо проще! Если, конечно, операция деления Вас не смущает. — Bill   (21.08.2004 12:31, 53 байт)
      • если Var отрицательное то 5 вроде надо бы вычесть — 0men   (21.08.2004 15:04, пустое)
        • Само собой. Забыл об этом сказать. :( — Bill   (21.08.2004 20:49, пустое)