Add execute permission to extended-query-test/extra_scripts.

Change config type of relcache_query_target from string to enum.

This parameter is implemented as enum, so change samples and docs
accordingly.

Make shutdownall to wait for completion of shutdown of Pgpool-II.

It was observed that regression test occasionally failed because
previous does not completely finished before next test started. To fix
the problem, make shutdownall script generated by pgpool_setup to wait
for completion of shutdown of Pgpool-II.

Doc: enhance performance docs.

Doc: add more explanation for quorum failover of watchdog.

Also add newer descriptions to Japanese doc added by English doc.

Change check_temp_table's type to enum.

It was actually implemented as 'enum' rather than 'string'. So change
all docs and sample configuration files.

Also allow to specify on/off for backward compatibility.

Doc: mention that in raw mode or load_balance_mode = off case for relation cache.

In this case queries for relation cache will not be sent.

Down grade LOG to DEBUG5 in sent message module.

The log was added in commit 56a6b6a72, but in some cases it is
disturbing users.

Discussion: [pgpool-general: 6620] Fwd: A lot of "checking zapping sent message" in log

Add test case for 'trace' to 026.temp_table's test.sh.

Commit 7a0471bb for test.sh forgot to test 'trace' case.

Dow grade some LOG messages to DEBUG1 in the temp table trace module.

Doc: fix typo.

feature: Disable load balance after a SELECT having functions specified in black/white function list.

In Pgpool-II 4.0 or earlier, if we set "disable_load_balance_on_write = transaction",
when a write query is issued inside an explicit truncation,
subsequent queries should be sent to primary only until the
end of this transactionin in order to avoid the replication
delay.

However, the SELECTs having write functions specified in black_function_list
are not regarded as a write query and the subsequent read queries are still load balanced.

This commit will disable load balance after a SELECT having functions
specified in black/white function list.

Doc: change check_temp_table Japanese docs.

This is due to recent change to English doc of the part.

Also enhance docs to add literal tag to string parameters.

Add new method to check temporary table.

Checking temporary tables are slow because it needs to lookup system
catalogs. To eliminate the lookup, new method to trace CREATE TEMP
TABLE/DROP TABLE is added. For this purpose a linked list is added to
session context. In the list, information of creating/dropping temp
tables (not yet committed) and created/dropped temp tables (committed
or aborted) is kept. By looking up the list, it is possible to decide
whether given table is a temporary or not.

However it is impossible to trace the table creation in functions and
triggers. thus the new method does not completely replace existing
method and choice of method are given by changing check_temp_table
type from boolean to string.

"catalog": existing method (catalog lookup, same as check_temp_table = on)
"trace":   the proposed new way
"none":    no temp table checking (same as check_temp_table = off)

Reduce internal queries against system catalogs.

Currently the relcache module issues 7+ queries to obtain various info
from PostgreSQL system catalogs. Some of them are necessary for
Pgpool-II to work with multiple version of PostgreSQL.

Idea is, if we already know the version of PostgreSQL, we can
eliminate some of queries. For example, we need to know if
pg_namespace exists and for this purpose we send a query against
pg_class. But if we know that pg_namespace was introduced in
PostgreSQL 7.3, we do not need to inquire pg_class.

To implement this, new function:
PGVersion *
Pgversion(POOL_CONNECTION_POOL * backend)

is added and "SELECT version()" is used to get PostgreSQL's major and
minor version number (the minor version is not used for now). The
query itself is cached using relcache infrastructure. Plus Pgversion()
has its own cache using static memory. Thus obtaining PostgreSQL
version is quite fast for the second or later call to the function.

In my testing with "select * from t1" issues 7 queries. After the
patch, it reduces to 3. The remaining queries are:

- to know if it's a temporary table or not.
- to know if it's a unlogged table or not.
- to know if it's a system catalog table or not.

Discussion: [pgpool-hackers: 3344] Reducing query issued by relcache

Fix regression test 023 ssl_connection

If TLS1.3 was used by openssl, this test failed.
This mistake is due to #51bc494aaa7fd191e14038204d18effe2efb0ec8 .

Fix mistake introduced in the previous commit.

Fix segfault when "samenet" is specified in pool_hba.conf.

When "samenet" is specified, SockAddr_cidr_mask(struct
sockaddr_storage *mask, char *numbits, int family) gets called with
numbits == NULL. However the function was not prepared for
it. Originally the function was imported from PostgreSQL. When the bug
was fixed in PostgreSQL, unfortunately the fix was not applied to
Pgpool-II. This commit applies the same fix as PostgreSQL.

Discussion: [pgpool-general: 6601] Pgpool-II + hba + samenet = segfault in libc-2.24.so

Allow to route relcache queries to load balance node.

Queries to build relcache entries were always sent to master (primary)
node. This is usually good because we could eliminate the bad effect
of replication delay. However if users want to lower the load of
master node, it would be nice if we could route the queries to other
than master node. This patch introduces new parameter
"relache_query_target". If it is set to 'load_balance_node', relcache
queries will be routed to load balance node.  If it is set to
'master', the queries are routed to master node, which is same as
before (this is the default).

doc: Fix documentation typos.

doc: Fix documentation typo.

doc: Fix documentation errors in follow_sh script.

Doc: fix typo in performance section.

Support ECDH key exchange with SSL

Pgpool-II is supported ECDH key exchange with SSL connections.
Add new parameter 'ssl_ecdh_curve' and 'ssl_dh_params_file' to use
ECDH key exchange. The user can use more secure communication with
SSL as with PostgreSQL.

Fix health check process is not shutting down in certain cases.

When watchdog detects fatal events, including not reaching to
trusted_servers, watchdog suicides with POOL_EXIT_FATAL exit status
code. In this case the parent of watchdog, the pgpool main process's
SIGCHILD handler reaper() exits and on_exit call back calls
system_will_go_down(), which in turn calls terminate_all_children().
Problem is, terminate_all_children() forgot to kill health check
process. This commit fixes that.

Also there are some not well behaving codings are enhanced.

Back patched to 3.7, when the bug was introduced.

Fix to deal with backslashes according to the config of standard_conforming_strings
in native replication mode.

per bug467.

Allow to use MD5 hashed password in health_check_password and sr_check_password.

If they are left blank (empty string), then pool_passwd is consulted.

Doc: add more description to pcp_node_info manual.

To some of items be correctly displayed, sr_check_user needs more privilege.

Doc: add description to pg_md5 man page how to show pool_passwd ready string.

Sometimes it is necessary to just show md5 hash string suitable for
pool_passwd, without adding an entry to pool_passwd.

Fix segfault of worker process if sr_check_user does not have enough privilege.

If sr_check_user does not have enough privilege, selecting on
pg_stat_replication returns some columns to be NULL, which caused a
segfault.

Documentation updates to reflect the changed behaviour of quarantined nodes.

Mentioning about the resignation of watchdog-master when primary backend gets in
quarantine on it, and the continuous health checking of quarantined nodes.

Second part for [pgpool-hackers: 3295] duplicate failover request ...fix

As per the discussion on the thread [pgpool-hackers: 3295] we came to the
conclusion, that the master watchdog node should resign from master
responsibilities if the primary backend node gets into quarantine state on that.

The commit implements the said behaviour by making the master/coordinator watchdog
node resign from its status if it fails to get the consensus for the quarantined
primary node failover, with in FAILOVER_COMMAND_FINISH_TIMEOUT(15) seconds.

When the watchdog master resigns, because of quarantined primary node its
wd_priority is decreased to (-1), so that it should get the least preference
in the next election for the master/coordinator node selection. And once the
election is concluded the wd_priority for the node gets restored to the
original configured value.

In case of failed consensus for standby node failover no action is taken.

Enhancing the debugging/testing aid for health check.

To cater the continuous health check on quarantine nodes the commit extends
the check_backend_down_request() function to check for nodes that are marked
as "already_down" in the backend_down_request file. This should fix
013.watchdog_failover_require_consensus test case, that started failing
after 3dd1cd3f15287ee6bb8b09f0642f99db98e9776a commit.

Fix compile error on freebsd.

Add missing include file "netinet/in.h".

per bug519 and bug512.

Fix memory leak in pgproto pointed out by Coverity.

Fix to not access pg_stat_replication view if PostgreSQL version is not appropriate.

PostgreSQL 9.0 does not have it.

Make failover in progress check more aggressively.

In pool_virtual_master_db_node_id() the case when session context is
not available was not covered by the failover in progress checking
because I thought it'd be too aggressive. However a report from field
showed that that could happen while authenticating a client (and it
causes a segfault). So I decided to move the check to beginning of the
function to cover the case.

Add backend_application_name to "pgpool show backend" group.

Fix backend_application_name not being set while reloading config file.

Fix memory leak in outfuncs.c pointed out by Coverity.

Fix NULL pointer dereference pointed out by Coverity.

Fix memory leak pointed out by coverity.

Fix coverity complain.

Doc: fix mistake in the previous commit.

Follow master command's %P is "old primary node id" and should have
not been changed.

Doc: fix mistakenly described %P of failback command and follow master command.

These should have been "current primary node id", rather than "old
primary node id".

Deal pgpool_adm extension with PostgreSQL 12.

Now that oid is gone, the signature of CreateTemplateTupleDesc() has
been changed.

Add general description about failover.

Fix for [pgpool-hackers: 3295] duplicate failover request ...

Pgpool should keep the backend health check running on quarantined nodes so
that when the connectivity resumes, they should automatically get removed
from the quarantine. Otherwise the temporary network glitch could send the node
into permanent quarantine state.

doc: Add release nots 3.4.24-4.0.5.

Fix the wrong error message "ERROR: connection cache is full", when all backend nodes are down.

When all backend nodes are down, Pgpool-II throws an uncorrect
error message "ERROR: connection cache is full". Change the error
message to "all backend nodes are down, pgpool requires at least one valid node".

per bug487.
https://www.pgpool.net/mantisbt/view.php?id=487

Doc: update chapters that 'Server Configuration' of 'Server Administration'.

Reviewed by Tatsu Ishii and Bo Peng.

Doc: fix typo.

Doc: add performance Japanese doc.

Also fix typos in English performance doc.

Doc: add useful link how to create pcp.conf in the pcp reference page.

Also fix some typos.

Speed up failover when all of backends are down.

Pgpool-II tries to find primary node till search_primary_node_timeout
expires even if all of the backend are in down status. This is not
only a waste of time but makes Pgpool-II looked like hanged because
while searching primary node failover process is suspended and all of
the Pgpool-II child process are in defunct state, thus there's no
process which accepts connection requests from clients. Since the
default value of searching primary is 300 seconds, typically this
keeps on for 300 seconds. This is not comfortable for users.

So immediately give up finding primary node regardless
search_primary_node_timeout and promptly finish the failover process
if all of the backend are in down status.

Discussion: https://www.pgpool.net/pipermail/pgpool-hackers/2019-May/003321.html

Deal with PostgreSQL 12.

recovery.conf cannot be used anymore. Standby's recovery configuration
is now in postgresql.conf. Also "standby.signal" file is needed in
PostgreSQL database cluster directory to start postmaster as a standby
server.

Deal with PostgreSQL 12.

HeapTupleGetOid() is not available any more in PostgreSQL 12. Use
GETSTRUCT() and refer to oid column of Form_pg_proc.

Doc: first release of performance section.

Set backend_application_nameN in pgpool.conf.

Add backend_application_nameN.

Doc: fix typo.

Remove .sgml file to not used.

basic-config-example.sgml written by English exists doc.ja directory only,
and don't used document.

Add explanation about newly added columns.

Those should have been added when English doc was updated.

Add "replication_state" and "replication_sync_state" columns to "show pool_nodes" and friends.

This allows to show important information from pg_stat_replication,
which is available from PostgreSQL 9.1 (also without
replication_state_sync. it's available since 9.2).

For this purpose new "backend_application_name" parameter is added.
pg_stat_replication is called from pool_worker_process at the same
timing of replication delay checking.

Also modify following commands to add those new columns:

- pcp_node_info
- pgpool_adm's pcp_node_info function

Discussion: https://www.pgpool.net/pipermail/pgpool-hackers/2019-April/003315.html

Avoid exit/fork storm of pool_worker_child process.

pool_worker_child issues query to get WAL position using do_query(),
which could throws FATAL error. In this case pool_worker_child process
exits and Pgpool-II parent immediately forks new process. This cycle
indefinitely repeats and gives high load to the system.

This could easily happen. For example if ALWAYS_MASTER flag is
mistakenly set to standby node, it will cause an error:

ERROR:  recovery is in progress
HINT:  WAL control functions cannot be executed during recovery.
STATEMENT:  SELECT pg_current_wal_lsn()

To avoid the exit/fork storm, sleep sr_check_period.

Fix black_function_list's broken default value.

I accidentally broke the entry of pgpool.conf.sample when
database_redirect_preference_list and
app_name_redirect_preference_list were introduced.

Also fix mistake of the entry of pgpool.conf.sample-replication as
well.

Issue reported by Sebastiaan Alexander Mannem.

Fix "not enough space in buffer" error.

The error occurred while processing error message returned from
backend and the cause is that the query string in question is too
big. Problem is, the buffer is in fixed size (8192 bytes). From the
programming point of view there's absolutely no need to use fixed size
buffer. So eliminate the fixed size buffer and use palloced buffer
instead. This also saves some memory copy work.

Per bug 499.

Set application_name in recovery_conf.

This allows to show each cluster name as application_name. Currently
each application_name is set to: server0, server1, server2 and so on,
where the numeric part is the cluster number. This is especially
useful to use pg_stat_replication because it does not provide any useful
information regarding UNIX socket path or port number.

Fix DROP DATABASE failure.

When DROP DATABASE gets executed, SIGUSR1 is sent to the Pgpool-II
child process being issuing the command. In its SIGUSR1 handler,
MASTER macro is called while closing all idle connections. The MACRO
checks whether we are in failover process surely we are. As a result,
the process exits and DROP DATABASE command never been issued.

Per bug 486. However the reason of segfault in the report is not
clear.  After commit:
https://git.postgresql.org/gitweb/?p=pgpool2.git;a=commit;h=66b5aacfcc045ec1485921a5884b637fcfb6fd73

Things could be different. Let the user test the latest version in the
git repo and see if the problem is solved...

Doc: add load balancing description.

More will come...

Doc: fix typo.

Fix typoes.

Fix to compare wrong variable, when old pgpool_status file read.

Pgpool-II 3.4 or later, pgpool_status format changed, and format both old and new is supported.
Pgpool might read status in file incorrectly, when old format is reading by Pgpool.

This is rare case, and noproblem if it is happend.

Fix typo.

Add more section to peformance chapter.

Doc: add description about multi-statement queries to restrictions section.

Add test/watchdog_setup to EXTRA_DIST.
See bug470: https://www.pgpool.net/mantisbt/view.php?id=470

Doc: mention that multi-statement queries are sent to primary node only.

Even if the multi-statement query includes SET command, they should be
sent to primary node only. This is not explicitly mentioned nowhere
in the doc.

Per bug 492.

Fix md5 auth broken in raw mode.

In raw mode, pool_passwd is not necessary to authenticate PostgreSQL
using md5 auth.  However if there's more than 1 backend,
authenticating with md5 fails.

Fix is, checking whether we are operating in raw mode while do md5
authentication. This was broken in 4.0, so back-patched to only 4.0.

Per bug 491.

Fix occasional regression test error of 008.dbredirect.

The test runs pgbench to create test data. Under slow environment
replication delay could become too much, and this would prevent load
balancing because the default value for delay_threshold is set to
10000000 in the default pgpool.conf-stream and the tests would fail.

The fix is, disabling delay_threshold. Also add "show_pool nodes" to
confirm that replication delay actually happens.

Fix occasional regression test failure of 014.watchdog_test_quorum_bypass.

The test script does not retry psql while failover happens and
failed. So replace psql with wait_for_pgpool_startup.

Abort session if failover/failback is ongoing.

If failover/failback is ongoing, there would be a risk that MASTER
node macro cannot be used. If used, it could raise a segfault because
connection to the master node is NULL or bogus.

There are several reports suspected to be caused by this (see bug 481,
482 for example).

Now the guts of the MASTER* macro (pool_virtual_master_db_node_id())
is modified to check Req_info->switching which is true while
failover/failback is ongoing. If true, emit warning message and exit
the process. There's still a small window I know, but this should
greatly reduce the chance to access bogus MASTER connection without
using any locking.

New feature "statement_level_load_balancing".

This feature enables selecting load balancing node per statement.

The current feature for load balancing, the load balancing node is decided
at the session start time and will not be changed until the session ends.

When set to statement_level_load_balancing = on, the load balancing node
is decided for each read query.

For example, in applications that use connection pooling remain connections
open to the backend server, because the session may be held for a long time,
the load balancing node does not change until the session ends.
In such applications, when statement_level_load_balance is enabled,
it is possible to decide load balancing node per query, not per session.

Generate Makefile.in by automake 1.13.4.

Suppress "ar: `u' modifier ignored since `D' is the default (see `U')".

This is actually a bug with libtools. To deal with this, add ARFLAGS
to parser's Makefile.am.

Suppress useless truncation warnings from gcc 8+.

For this purpose update c-compiler.m4 (borrowed from PostgreSQL's
config/c-compiler.m4) and add PGAC_PROG_CC_VAR_OPT(NOT_THE_CFLAGS,
[-Wformat-truncation]) to configure.ac to generate -Wformat-truncation
compiler option.

Suppress compiler warnings.

Suppress compiler warnings regarding write(2) returns values being
ignored.  Since they are used in signal handlers, it's impossible to
print info about errors. To shut up the warnings, create a static
variable and assign the return values from write().

Fix compiler warnings.

To deal with compiler warnings regarding that the return value of
write(2) is ignored, replace it with write_it() which calls write()
and uses the return value from it to print error string when write()
returns error.

Fix wrong usage of volatile declaration.

From a PostgreSQL commit message:
     Variables used after a longjmp() need to be declared volatile.  In
     case of a pointer, it's the pointer itself that needs to be declared
     volatile, not the pointed-to value.

Same thing can be said to:
     volatile StartupPacket *sp;

This should have been:
     StartupPacket *volatile sp;

This also suppresses a compiler warning.

Change pgpool.spec.

Update pgpool_socket_dir.patch file.

Doc: Add release-notes 4.0.4-3.4.23.

Fix memory leak in "batch" mode in extended query.

In "batch" mode, not for every execute message, a sync message is
followed.  Unfortunately Pgpool-II only discard memory of query
context for the last execute message while processing the ready for
query message. For example if 3 execute messages are sent before the
sync message, 2 of query context memory will not be freed and this
leads to serious memory leak.

To fix the problem, now the query context memory is possibly discarded
when a command complete message is returned from backend if the query
context is not referenced either by sent messages or pending messages.
If it is not referenced at all, we can discard the query context.

Also even if it is referenced, it is ok to discard the query context
if it is either an unnamed statement or an unnamed portal because it
will be discarded anyway when next unnamed statement or portal is
created.

Per bug 468.

Doc: add ssl_prefer_server_ciphers paramter to Japanese doc.

Add new configuration option ssl_prefer_server_ciphers

Add the new setting "ssl_prefer_server_ciphers" to let users configure if they
want client's or server's cipher order to take preference.

Specify default value of ssl_ciphers

Allow to set a client cipher list.

For this purpose new parameter "ssl_ciphers" is added. This is already
implemented in PostgreSQL and useful to enhance security when SSL is
enabled.

Doc: update chapters that 'Watchdog' of 'Tutorial' and some sections of 'Server Administration'

reviewed by Tatsu Ishii and Bo Peng.

Doc: enhance watchdog/Pgpool-II example so that it mentions about pg_monitor role.

Per bug 469.

Fix unnecessary fsync to pgpool_status file.

Whenever new connections are created to PostgreSQL backend, fsync()
was issued to pgpool_status file, which could generate excessive I/O
in certain conditions, for example num_init_children is large and
connections to backend have certain life time limit.

So reduce the chance of issuing fsync() so that it is issued only when
backend status is changed from CON_CONNECT_WAIT or others to CON_UP.
If the status is already CON_UP, we don't need to write to
pgpool_status.

Discussion: [pgpool-general: 6436] High I/O Usage on PGPool nodes