Porovnání 64bitového čísla se znaménkem pomocí 32bitových bitových operací v Lua

Přišel jsem na metodu, která vypadá, že funguje. Je to ale trochu ošklivé.

Prvním krokem je porovnat nejlepších 32 bitů, protože znaménkový bit MSB 2 komplimentu # zůstane, takže čísla udrží správné vztahy

-1  —> -1
0 —> 0
9223372036854775807 = 0x7fff ffff ffff ffff -> 0x7ffff ffff = 2147483647

Takže vrácení výsledku z MSB funguje, pokud nejsou stejné, pak je potřeba LSB zkontrolovat.

Mám několik případů k vytvoření některých vzorů:

-1 = 0xffff ffff ffff ffff
-2 = 0xffff ffff ffff fffe
32 bit is:
-1 -> 0xffff ffff = -1
-2 -> 0xffff fffe = -2
-1 > -2 would be like -1 > -2 : GOOD

A

8589934591 = 0x0000 0001 ffff ffff
8589934590 = 0x0000 0001 ffff fffe
32 bit is:
8589934591 -> ffff ffff = -1
8589934590 -> ffff fffe = -2
8589934591 > 8589934590 would be -1 > -2 : GOOD

Na znaménkovém bitu na MSB nezáleží, b/c záporná čísla mají mezi sebou stejný vztah jako kladná čísla. např. bez ohledu na bit znaménka, hodnoty lsb 0xff> 0xfe , vždy.

Co když se MSB na nižších 32 bitech liší?

0xff7f ffff 7fff ffff = -36,028,799,166,447,617
0xff7f ffff ffff ffff = -36,028,797,018,963,969
32 bit is:
-..799.. -> 0x7fff ffff = 2147483647
-..797.. -> 0xffff ffff = -1
-..799.. < -..797.. would be 2147483647 < -1 : BAD!

Musíme tedy ignorovat znaménkový bit na spodních 32 bitech. A protože vztahy jsou pro LSB stejné bez ohledu na znaménko, ve všech případech funguje pouze použití nejnižších 32 bitů bez znaménka.

To znamená, že chci být podepsaný pro MSB a unsigned pro LSB - takže měním I4 na i4 pro LSB. Také zoficiálnění big endianu a použití '>' na volání struct.unpack:

-- ...
local comp_int64s = function (as0, au1, bs0, bu1)
    if as0 > bs0 then
        return 1
    elseif as0 < bs0 then
        return -1
    else
        -- msb's equal comparing lsbs - these are unsigned
        if au1 > bu1 then
            return 1
        elseif au1 < bu1 then
            return -1
        else
            return 0
        end
    end
end
local l, as0, au1, bs0, bu1
as0, l = bit.tobit(struct.unpack(">i4", ARGV[1]))
au1, l = bit.tobit(struct.unpack(">I4", ARGV[1], 5))
bs0, l = bit.tobit(struct.unpack(">i4", blob))
bu1, l = bit.tobit(struct.unpack(">I4", blob, 5))
print("Cmp result", comp_int64s(as0, au1, bs0, bu1))