Отправлено -=ВН=- 31 октября 2006 г. 20:38 В ответ на: Ну, про точность я готов продолжить. Приведите, если Вам не трудно, пример наихудшего для floating-point вычислений вектора, где бы начались проблемы с точностью, но при этом 32-битный fixed-point подобных проблем бы не имел. отправлено <font color=gray>homekvn</font> 31 октября 2006 г. 20:29

• Ну-у! Так и я могу. А теперь Вы сложите серию чисел вроде 8.21e+48 или (e-48), которые также соответствуют приведенному Вами стандарту. И потом Вы мне исходные числа приведите, которые надо в квадрат возвести, а потом просуммировать. А потом сами на блекфине сделайте то же самое. — homekvn   (31.10.2006 21:08 212.185.161.237, пустое)
  • Вы подменили вопрос. 8.21e+48 не входят в ДИАПАЗОН 32-х разрядных чисел целых. Не входят. А приведенные мной числа в ДИАПАЗОН флоата одинарной точности входят. Я ведь не просил Вас складывать в одинарном флоате числа порядка 8.21e+16799. Нехорошо, нехорошо, Вы пытаетесь меня обмануть :-((( — -=ВН=-   (31.10.2006 21:18 193.125.71.140, пустое)
    • Да признаюсь, перебрал. Докладываю результат 3,9999997 И что? Кстати (+) — homekvn   (31.10.2006 21:41 212.185.161.237, 635 байт)
      • Да где Вы видели, что кто-то Ваш Шарк принижал? :-) Это ж разные процессоры, заточены под разные вещи... (+) — ASergej_R19   (31.10.2006 22:05 80.250.160.170, 339 байт)
      • Вы знаете, я как-то догадывался, что Шарик и с целыми числами умеет, я даже с шариком работал, правда это было давно, шарик старый был, 21065, подох наверное уже. И мне в общем по барабану, кто кого сделает, шарик блэкфина или наоборот. Вы задаете вопрос или приводите пример, я Вам в ответ на это и только на это и демонстрирую всякие ноу и даже хау. — -=ВН=-   (31.10.2006 21:48 193.125.71.140, пустое)
        • Да про целые числа - это я так... на всякий случай (+) — homekvn   (31.10.2006 21:52 212.185.161.237, 310 байт)
          • А Вы что, считаете, что я все читал в этой ветке, что ли? Чтобы знать, что речь шла о точности RMS? Вы спросили про наихудший вектор - я привел пример. Хотя назвать его — -=ВН=-   (31.10.2006 22:01 193.125.71.140, 133 байт)
        • Да, по результату, впрочем Вы и сами догадываетесь, что он немного неточен. Увы. — -=ВН=-   (31.10.2006 21:49 193.125.71.140, пустое)
          • Еще раз замечу, что если мне понадобится сложить два 32битных числа, я это сделаю просто в int. А что касается точности RMS, то пока подходящий пример не был приведен. — homekvn   (31.10.2006 21:54 212.185.161.237, пустое)
            • Кстати на BF, если надо будет сложить два 32-битных числа я это тоже сделаю просто строчкой R0 = R1 + R2... :-) (-) — ASergej_R19   (31.10.2006 22:09 80.250.160.170, пустое)
            • Да ради бога, складывайте, но у Вас был вопрос о наихудшем вектрое для флоат. — -=ВН=-   (31.10.2006 22:04 193.125.71.140, пустое)
• Отлично! :-) (+) — ASergej_R19   (31.10.2006 20:42 80.250.160.170, 289 байт)
  • Очень хорошо! Вот и давайте Ваш пример рассмотрим (Пример ВН оставлю на закуску) (+) — homekvn   (31.10.2006 20:56 212.185.161.237, 530 байт)
    • Ответ... (+) — ASergej_R19   (31.10.2006 21:08 80.250.160.170, 322 байт)
      • Хорошо. Показываю (+) — homekvn   (31.10.2006 21:32 212.185.161.237, 928 байт)
        • Нет... Вы упрощаете мантиссу беря частный вариант и тем совершаете ошибку... (+) — ASergej_R19   (31.10.2006 21:39 80.250.160.170, 251 байт)
          • Скажу даже больше... (+) — ASergej_R19   (31.10.2006 21:47 80.250.160.170, 89 байт)
            • Так Вы RMS отыщите, RMS... — homekvn   (31.10.2006 21:48 212.185.161.237, пустое)
              • Хорошо... Вот Вам вводные... (+) — ASergej_R19   (31.10.2006 22:00 80.250.160.170, 234 байт)
          • Тогда давайте совсем по-честному. Я попрошу Вас найти среднеквадратичное от чисел квадраты коих Вы привели выше. Сообщите результат. То же сделаю и я. (+) — homekvn   (31.10.2006 21:46 212.185.161.237, 464 байт)
      • Как только разница между числами станет меньше разрядности мантиссы - флоат начнет давать ошибку... (+) — ASergej_R19   (31.10.2006 21:22 80.250.160.170, 136 байт)
        • Либо разница между числами больше разрядности мантиссы - тоже флоат будет с ошибкой... Вобщем - разрешающая способность у флоата хуже - о чем я и писал... (-) — ASergej_R19   (31.10.2006 21:27 80.250.160.170, пустое)