sql >> Databáze >  >> RDS >> Sqlserver

Výpočet datového typu SQL Server Float vs desítkový

Float je přesný na 15 platných číslic pouze (na serveru SQL).

To dokazuje 1.52415693411713 E+17 kde 1.52415693411713 (15 číslic) je tak přesný, jak jen můžete. Poslední 020... za 152415693411713 s STR je vymyšlený je rozlišení plovoucí desetinné čárky

Pro zachování přesnosti nepoužívejte plovák. Je to tak jednoduché. CAST na desetinné číslo, pokud chcete pro výpočet, ale pokud CAST zpět na plovoucí hodnotu, jste omezeno na 15 číslic

Viz Co by měl každý počítačový vědec vědět o aritmetice s plovoucí desetinnou čárkou " ."



  1. Modelování databáze pro evidenci tržeb. Část 1

  2. MariaDB:Mohu načíst duplicitní názvy sloupců bez použití „AS“

  3. Převeďte minuty do formátu HH24:MI

  4. Jaká je při provádění uložené procedury výhoda použití CommandType.StoredProcedure oproti použití CommandType.Text?