Fix bogus casting in BlockIdGetBlockNumber().
authorTom Lane <tgl@sss.pgh.pa.us>
Fri, 4 Mar 2022 00:03:17 +0000 (19:03 -0500)
committerTom Lane <tgl@sss.pgh.pa.us>
Fri, 4 Mar 2022 00:03:42 +0000 (19:03 -0500)
commit97031f440485a01627cb1cc442c0fb10d27b97bd
tree9a2736c6d8f6548e64adba3ab3b607b64e8d6fa0
parent1a027e6b7bdf06dc3bfe1e63a2493f13629cf44a
Fix bogus casting in BlockIdGetBlockNumber().

This macro cast the result to BlockNumber after shifting, not before,
which is the wrong thing.  Per the C spec, the uint16 fields would
promote to int not unsigned int, so that (for 32-bit int) the shift
potentially shifts a nonzero bit into the sign position.  I doubt
there are any production systems where this would actually end with
the wrong answer, but it is undefined behavior per the C spec, and
clang's -fsanitize=undefined option reputedly warns about it on some
platforms.  (I can't reproduce that right now, but the code is
undeniably wrong per spec.)  It's easy to fix by casting to
BlockNumber (uint32) in the proper places.

It's been wrong for ages, so back-patch to all supported branches.

Report and patch by Zhihong Yu (cosmetic tweaking by me)

Discussion: https://postgr.es/m/CALNJ-vT9r0DSsAOw9OXVJFxLENoVS_68kJ5x0p44atoYH+H4dg@mail.gmail.com
src/include/storage/block.h