-1
голосов
2ответы
53 просмотра

Преобразование float в int в Python приводит к неправильному ответу [дубликат]

У меня есть алгоритм, который вычисляет: result = int (14949283383840498/5262 * 27115) Правильный результат должен быть 77033412951888085, но Python3.8 дает мне 77033412951888080 Я также пробовал ...
0
голосов
0ответы
25 просмотров

Сделайте Python круглым, как карманный калькулятор

Мой карманный калькулятор и настольный калькулятор дают разумные результаты с учетом множества вычислений различной и непредсказуемой точности. Тогда как Python часто дает незаметные результаты. Как я ...
0
голосов
1отвечать
30 просмотров

Что означает f в этом предложении? [дубликат]

Я изучаю Python с самого начала и не понимаю, в какой части написано {2: .2f}. Я знаю, что это связано со строковым форматом, но не более того. a = int (input ('введите число:')) b = int (input ('...
3
голосов
1отвечать
36 просмотров

Преобразование строкового массива в числа с плавающей запятой с помощью Python

Я знаю, что есть тысяча других людей, которые уже задавали этот вопрос, но я пробовал большинство решений, и ничего не работает. Я использую spyder и python 3.8.8. У меня есть csv с некоторыми данными, которые я хочу ...
0
голосов
1отвечать
31 просмотр

Как использовать feof для чтения неопределенного количества значений с плавающей запятой из двоичного файла?

Я записываю некоторые значения с плавающей запятой в двоичный файл, а после этого хочу прочитать их с помощью другой программы .c. Вот как я их пишу: #include <stdio.h> int main () {/ * Создайте файл * / ...
1
голосование
1отвечать
42 просмотра

Странное преобразование uint8_t с OpenCV

Я столкнулся со странным поведением класса Matrix в OpenCV относительно преобразования float в uint8_t. Кажется, что OpenCV с классом Matrix преобразует float в uint8_t, выполняя ceil ...
0
голосов
1отвечать
51 просмотр

Как преобразовать значение с плавающей запятой в байтовое в c # [дубликат]

Я хочу преобразовать значение 794,328247 в байт. Я использовал Convert.ToByte (794.328247), но он показывает следующую ошибку: Ошибка: - Значение было слишком большим или слишком маленьким для байта без знака. Так что любой может помочь ...
1
голосование
1отвечать
27 просмотров

Байтовый массив с 32-битной плавающей запятой в Julia

У меня есть байтовый массив в Julia: a = [0x41,0x40,0x00,0x00], который представляет собой 32-битное представление байтов с плавающей запятой десятичного числа 12.0. 32-битное представление IEEE 754 12.0 - '0x41400000'. У меня есть ...
1
голосование
1отвечать
50 просмотров

Как прочитать несколько чисел с плавающей запятой в одной строке, а затем добавить их в массив?

Я пытаюсь прочитать строку значений с плавающей запятой, например 1.1 -100.0 2.3, и мне нужно сохранить их в массиве. Я использую метод fgets () для преобразования ввода в строку. В любом случае я ...
0
голосов
1отвечать
47 просмотров

Есть ли разница между (i) и (int (i)

Может ли кто-нибудь объяснить мне этот код и почему он печатает то, что печатает def the_decimal (i): if i - int (i)! = 0: return i - int (i) else: return 'INTEGER' print (the_decimal (99.1) ) ...
-3
голосов
0ответы
29 просмотров

Как я могу представить деление больших чисел с помощью двойного?

Я новичок в cpp и математическом программировании в целом, и сейчас я работаю над программой для решения приблизительных чисел. Я думал, что нашел правильное решение, но заметил, что код сломался ...
1
голосование
0ответы
38 просмотров

Выбор шкалы для значений с плавающей запятой в массиве, имеет ли значение точность арифметики

У меня есть большой массив значений с плавающей запятой, которые сильно различаются по величине. Помогает ли это масштабировать те, которые находятся в [0,1] для повышения точности (например, если я хочу выполнять арифметические операции с массивом)? ...
2
голосов
2ответы
68 просмотров

Разделение на языке C [дубликат]

Привет, ребята, надеюсь, у вас все хорошо, я вроде как новичок в языке C, мне просто нужно задать базовый вопрос: когда я делю числа в C следующим образом: #include <stdio.h> main () {float a .. .
-2
голосов
1отвечать
Просмотров: 32

Как компьютеры хранят числа с плавающей запятой?

Для положительных чисел двоичное число найти легко. Для отрицательного числа это дополнение до 2 положительного числа. Я сомневаюсь, как компьютер хранит или понимает числа с плавающей запятой ...
1
голосование
1отвечать
30 просмотров

Почему сложение теряет точность, если прямое присвоение работает с типом данных Javascript number? [дубликат]

Рассмотрим простой фрагмент кода: let a = 0.1; пусть b = 0,2; пусть c = 0,3; пусть d = a + b; console.log (c.toString ()); //0.3 console.log (d.toString ()); //0.30000000000000004 Объяснение, которое я смог найти ...