|
1С и вещественные числа |
☑ |
0
s-n-a-y
17.04.17
✎
11:58
|
Во внешней обработке создал форму, в ней реквизит "НовоеЗнач" с типом число 10, 8, неотриц. Создал команду, в коде пишу
НовоеЗнач = 9999999999.99999999;
А а отладчике показывает, НовоеЗнач равно 99.99999999.
В справке написано "Максимально допустимая разрядность числа 38 знаков".
Если делаю тип число 10,10 и присваиваю "1" , в отладчике показывает 0.9999999999 . Это чё за приколы такие? Кто сталкивался? Как побороть?
|
|
1
Вафель
17.04.17
✎
11:59
|
10.8 - на целую цасть остается всего 2 знака
|
|
2
mehfk
17.04.17
✎
12:00
|
А ты понимаешь что означает длина 10 точность 8 ?
|
|
3
s-n-a-y
17.04.17
✎
12:01
|
(1) то есть если я напишу 20,8 , то останется 12 знаков?
|
|
4
Dmitrii
гуру
17.04.17
✎
12:02
|
(3) На целую часть - да - 12.
|
|
5
s-n-a-y
17.04.17
✎
12:02
|
(2) так значит 10 это длина. Ё моё! ок, спасибо
|
|
Компьютеры — прекрасное средство для решения проблем, которых до их появления не было.