sql >> Databáze >  >> RDS >> Sqlserver

ztráta měřítka při provádění výpočtu

Pravidla pro decimal na decimal převod pro násobení a dělení jsou popsány v BOL .

ale ponechává nespecifikované, jak přesně se takové zkrácení provádí. Toto je zdokumentováno zde . Někdy je však jednodušší použít metodu pokus-omyl!

Následující meziobsazení vám poskytne požadovaný výsledek. Dokážete s nimi žít?

DECLARE @var NUMERIC(19,8)
DECLARE @a NUMERIC(19,8)
DECLARE @b NUMERIC(19,8)

SET @var = -413.72063274
SET @a   = 651.00000000
SET @b   = 1000.00000000

DECLARE @v SQL_VARIANT 
SET @v =  CAST(@a/@b AS NUMERIC(24,10))* CAST(@var AS NUMERIC(23,8))

SELECT    CAST(SQL_VARIANT_PROPERTY(@v, 'BaseType') AS VARCHAR(30)) AS BaseType,    
          CAST(SQL_VARIANT_PROPERTY(@v, 'Precision') AS INT) AS PRECISION,    
          CAST(SQL_VARIANT_PROPERTY(@v, 'Scale') AS INT) AS Scale


  1. Manipulace s potvrzením e-mailu během registrace v baňce

  2. Ukládání hexadecimálních hodnot jako binárních v MySQL

  3. Existuje způsob, jak vynutit, aby OracleCommand.BindByName byl ve výchozím nastavení pro ODP.NET pravdivý?

  4. Jak funguje SQLite Quote()