Defend against stack overrun in a few more places.
authorTom Lane <tgl@sss.pgh.pa.us>
Wed, 24 Aug 2022 17:01:40 +0000 (13:01 -0400)
committerTom Lane <tgl@sss.pgh.pa.us>
Wed, 24 Aug 2022 17:02:19 +0000 (13:02 -0400)
commitf25bed3801e1e500850a9f3b29a003c644d4bd6d
tree57901ce20c082109be95173e61fffb0dff4e2b0a
parenta73d6c87f2eb19681fe52d6d8bb7db38a7a7da2a
Defend against stack overrun in a few more places.

SplitToVariants() in the ispell code, lseg_inside_poly() in geo_ops.c,
and regex_selectivity_sub() in selectivity estimation could recurse
until stack overflow; fix by adding check_stack_depth() calls.
So could next() in the regex compiler, but that case is better fixed by
converting its tail recursion to a loop.  (We probably get better code
that way too, since next() can now be inlined into its sole caller.)

There remains a reachable stack overrun in the Turkish stemmer, but
we'll need some advice from the Snowball people about how to fix that.

Per report from Egor Chindyaskin and Alexander Lakhin.  These mistakes
are old, so back-patch to all supported branches.

Richard Guo and Tom Lane

Discussion: https://postgr.es/m/1661334672.728714027@f473.i.mail.ru
src/backend/regex/regc_lex.c
src/backend/tsearch/spell.c
src/backend/utils/adt/geo_ops.c
src/backend/utils/adt/like_support.c