Skip site navigation (1) Skip section navigation (2)

Re: чёртово округление

From: Maxim Boguk <mboguk(at)masterhost(dot)ru>
To: engineer <anton200(at)gmail(dot)com>
Cc: pgsql-ru-general(at)postgresql(dot)org
Subject: Re: чёртово округление
Date: 2008-12-03 06:39:45
Message-ID: 493629B1.1030307@masterhost.ru (view raw or flat)
Thread:
Lists: pgsql-ru-general
А какой тип имеет p_abon_play ? Если любой из float то это совершенно нормальное поведение.
Так как точно десятичные дроби в float в точном виде не представляются.
(у вас на самом деле происходит следующее присваивание скорее всего:
p_abon_pay := round(p_abon_pay::numeric(10,2), 2)::double;
и именно на ::double происходит превращение в некрасивый вид)

Надо объявить новую переменную типа numeric(10,2) и присваивать результат округления ей
(логика округления вопрос отдельный... может надо round... может достаточно привести  к типу numeric(10,2) )

И тд... вообще есть две школы подсчета таких вещей...
первая говорит что все входные данные надо привести в нужную фиксированную точность и далее с ней работать...
вторая говорит что надо все посчитать на максимальной точности а результат округлить до нужной вам точности.

-- 
SY, Maxim Boguk

engineer wrote:
> Хай.
> 
> Тривиальная задача, округлить сумму до копеек.
> Вот фрагмент:
> 		IF K_debug >= 2 THEN RAISE LOG '	FLOORing p_abon_pay[%] ->
> p_abon_pay[%]', p_abon_pay, floor(p_abon_pay * 100.0) / 100.0; END IF;
> p_abon_pay := floor(p_abon_pay * 100.0) / 100.0;
> 		IF K_debug >= 2 THEN RAISE LOG '	ROUNDing p_abon_pay[%] ->
> p_abon_pay[%]', p_abon_pay, round(p_abon_pay::numeric(10,2), 2); END
> IF;
> p_abon_pay := round(p_abon_pay::numeric(10,2), 2);
> 		IF K_debug >= 2 THEN RAISE LOG '	p_balance[%] - p_abon_pay[%] ->
> p_balance[%]', p_balance, p_abon_pay, p_balance - p_abon_pay; END IF;
> 
> А в логе вижу такое:
> 
> FLOORing p_abon_pay[24.193548387096776] -> p_abon_pay[24.190000000000001]
> ROUNDing p_abon_pay[24.190000000000001] -> p_abon_pay[24.19]
> p_balance[-29164.045435905457] - p_abon_pay[24.190000000000001] ->
> p_balance[-29188.235435905455]
> 
>         ^^^^^^^^^^^^^^^^^
> То есть в лог сначала выдаётся округлённый результат, а после
> присвоения его опять же переменной - снова становится "некрасивым". Чо
> делать-то?

In response to

pgsql-ru-general by date

Next:From: Andrey N. OktyabrskiDate: 2008-12-09 11:40:15
Subject: Странное поведение ts_headline
Previous:From: engineerDate: 2008-12-03 06:24:55
Subject: чёртово округление

Privacy Policy | About PostgreSQL
Copyright © 1996-2014 The PostgreSQL Global Development Group