[an error occurred while processing this directive]
Проблема именно в диапазоне,а не в точности.
(«Телесистемы»: Конференция «Программируемые логические схемы и их применение»)

миниатюрный аудио-видеорекордер mAVR

Отправлено Grigory 04 декабря 2002 г. 19:51
В ответ на: видщимо вы на практике не работали с геофизикой - потому как то что вы говорите это теория - кроме того балистики работают с двойной точностью только изза разрядности нНО никак не изза плавающей арифметике - более того как раз в целых числах решают все задачи для того чтобы не потерять точность- ваше мнение мне понятно - и я с ним не согласен ;-)))) отправлено net 04 декабря 2002 г. 19:25

На сейсмику работал > 15 лет ,включая советские чудеса - спецпроцессоры с плавучкой на 531 серии 20+4(шкаф однако 2КВт).Проблема Int в невозможнности умножения без масштабирование из-за переполнения(2**31 x 2**31 >> 2**32),а геофизика сидит на БПФ.

Составить ответ  |||  Конференция  |||  Архив

Ответы


Отправка ответа

Имя (обязательно): 
Пароль: 
E-mail: 

Тема (обязательно):
Сообщение:

Ссылка на URL: 
Название ссылки: 

URL изображения: 


Перейти к списку ответов  |||  Конференция  |||  Архив  |||  Главная страница  |||  Содержание  |||  Без кадра

E-mail: info@telesys.ru