Allow to specify absolute path in "pool_passwd".

Patch is provided by Danylo Hlynskyi.

Doc: add release note entry for enable_consensus_with_half_votes.

Also add description of enable_consensus_with_half_votes to Japanese
watchdog doc.

Doc: mention that VIP will not be brougt up if quorum does not exist.

Fix 028.watchdog_enable_consensus_with_half_of_the_votes test failed.

Path to pcp_watchdog_info used in the test script was not set.
Also set the path to pcp.conf.

Add regression test for enable_consensus_with_half_votes.

This is a test for 2, 3, 4 watchdog nodes, with
enable_consensus_with_half_votes is on/off cases.  In each test, half
of watchdog nodes are shut down and check to see if quorum exists (or
on the edge for even number nodes).

Fix pgpool_setup to reflect the -p (baseport) to ORIGBASEPORT variable.

Otherwise, shutdown generated script by pgpool_setup does not use
proper port number for netstat command.

 Add parameter enable_consensus_with_half_votes to configure majority rule calculations

 Pgpool-II takes the decision of quorum existence and failover consensus after
 receiving the exact 50% of votes when the watchdog cluster is configured with
 an even number of nodes. With enable_consensus_with_half_votes parameter,
 users can tell Pgpool-II, whether the distributed consensus in an even number
 of nodes cluster requires (n/2) or ((n/2) +1) votes to decide the majority.

 The patch is drafted by "Tatsuo Ishii <ishii@sraoss.co.jp>" and I have made
 few modifications on top of that.

Fix pgpool_setup to deal with PostgreSQL 9.1.

"---data-checksums" was unconditionally added to initdb's arg but
PostgreSQL 9.1's initdb does not have the option. To solve the issue,
internal variable $PGVERSION now represents "major version" * 100:
e.g. 120 for PostgreSQL 12.x (including 12beta), 91 for PostgreSQL
9.1.x, so that pgpool_setup can check if the option can be added to
initdb options.

Doc: fix indentation in scripts.

Auto indentation by commit 2cb0bd3f8f236aeacfba37cd4d604893561bad52
broke indentation of scripts in <programlisting> tag.

Doc: fix typo in "What is Pgpool-II?" section.

Author: Alejandro Roman
Discussion: https://www.pgpool.net/pipermail/pgpool-hackers/2019-August/003392.html

Doc: Add Pgpool-II 4.1 japanese release note.

Fix for password authentication does not work in certain cases

Pgpool-II was only trying to get the password from the pool_passwd file when
backends were configured to use password authentication.  And when the password
is not present in the pool_passwd file it was failing without trying to get the
password from the user even when clear text authentication was allowed on
frontend connections.

The fix is to use clear text password authentication with frontend to get the
user password (If it is allowed by the configuration) when the password for the
connecting user is not found in the pool_passwd file.

The issue was reported by "Tatsuo Ishii<ishii@sraoss.co.jp>"

Doc: mention about relcache_query_target in the performance chapter.

Update copyright year.

Fix watchdog_setup to not accept number of Pgpool-II being lower than 1.

Pgpool-II won't start up if other watchdog is not present.

Add "-I" option to "arping_cmd" command default setting.

Doc: add 4.0.6-3.4.25 release-note.

Fix temp table trace modules.

CLOBBER_FREED_MEMORY revealed bug with usage of list package.

Doc: fix tag mistake in sr_check_user note.

Fix memory leak.

Pointed out by Coverity.

Fix test failure of extended-query-test/disable-load-balance-while-function.data.

The test failed because CREATE function propagation to standby took a while.
To fix this, add "SELECT pg_sleep(5)" to wait for standby synced with primary.
Also expected file is updated to reflect this.
2) CREATE function propagation to standby took a while

Fix extra test failure of extended-query-test/disable-load-balance-off.

There were two reasons why the test fails.

1) when disable_load_balance_on_write = off, parse_before_bind should
   have not be called at all. So fix this.

2) the test data tests/disable-load-balance-off.data did not set
disable_load_balance_on_write = off.

Fix extra test failure of extended-query-test/disable-load-balance-default.

It expected the first BIND/EXECUTE was sent to load balance node. This
is not correct since previous parse message was sent to primary node
because of parse_before_bind treatment. Fix is, just adjust the test
script. Also fix comment in tests/disable-load-balance-default.data.

Fix test failure of extended-query-test/disable-load-balance-always.

It expected the first SELECT to be sent to load balance node but a
preceding write query (DROP/CREATE TABLE) prevented it because it set
the writing_transaction flag. Fix is, instead of issuing DROP/CREATE
TABLE before the SELECT, issue harmless SET command after the SELECT
in extended query mode.

Fix extra test scripts to not fail.

Now SELECT version() is always issued, this makes the script confused
because they extra lines in question by using "grep SELECT".  To avoid
the confusion, add "grep -v version" into the command pipe line.

Fix "unable to bind. cannot get parse message" error.

This was caused by too-eager memory free in parse_before_bind. It
called
pool_remove_sent_message/pool_create_sent_message/pool_add_sent_message
combo to replace the query context in the sent message. Unfortunately
pool_remove_sent_message free memory such as statement name, which was
being passed by caller. As a result, the new sent message created by
pool_create_sent_message pointed to freed statement name, which may
make a search by statement name fail because now the statement name in
the sent message points to freed memory area, which might be
overwritten by later memory allocation. Fix is, instead of calling
pool_remove_sent_message etc., just replace the query context in the
sent message.

Per bug 531.

Create PostgreSQL version cache as early as possible.

Since once error query is issued, the query to create version cache
(SELECT version()) is ignored and it leads to failure in creating
version cache. Fix is, to create version cache after query context is
created and before user query is sent in SimpleQuery() and Parse().

Doc: update 4.1 release note.

For these commits:  2019-05-27 [33df0d33], 2019-08-08 [3922c12c].

Fix for 0000483: online-recovery is blocked after a child process exits ...

The problem is if some child process exits abnormally during the second stage
of online recovery, then the connection counter that keeps the track of exiting
processes does not get decremented and Pgpool-II keeps waiting for the exit of
the already exited process. Eventually, the recovery fails after
client_idle_limit_in_recovery expires.

The fix for this issue is to set the connection counter to zero when
client_idle_limit_in_recovery is enabled and it has less value than
recovery_timeout, Since all clients must have been kicked out by the time
when client_idle_limit_in_recovery expires.

A similar fix is already committed as part of bug 431 by Tatsuo Ishii, So this
commit basically imports the same logic in the watchdog function that processes
the remote online recovery requests.

Apart from the above-mentioned change,  Hoshiai San identified that the watchdog
IPC command timeout for the online recovery start functions executed through
watchdog is set exactly to the same as recovery_timeout which needs to be
increased to make the solution work correctly.

Doc: run auto indent using emacs.

Here is the emacs script F.Y.I.

;; must be run by emacs
(load "/home/t-ishii/.emacs.d/init.el")
(find-file (nth 0 command-line-args-left));
(indent-region (point-min) (point-max));
(save-buffer)

Doc: Update "Pgpool-II + Watchdog Setup Example" configuration example.

Fix for no primary on standby pgpool when primary is quarantined on master

Master watchdog Pgpool sends primary_node_id = -1 in the backend status sync
message if the primary node is quarantined on it. So standby watchdog Pgpool
must not update its primary_node_id if the primary backend node id in sync
message is invalid_node_id (-1) while the same sync message reports the
backend status of the current primary node as "NOT DOWN".

The issue was reported by  "Tatsuo Ishii <ishii@sraoss.co.jp>" and fixed by me

Doc; mention quorum faiover introduced in 3.7

Also fix indentation.

Doc: fix indentation.

Also remove unnecessary xref label of sect2.

Make waiting for TIME_WAIT in pgpool_setup optional.

Since commit 3b32bc4e583da700cc8df7c5777e90341655ad3b the shutdownall
script generated by pgpool_setup waits for Pgpool-II socket in
TIME_WAIT state disappeared. However in most cases this takes long
time and it makes uncomfortable for developer's testing works.

This commit makes the wait to be optional: unless environment variable
"CHECK_TIME_WAIT" is set to other than "false", it never waits for the
TIME_WAIT state.

Import some of memory manager debug facilities from PostgreSQL.

Now we can use CLOBBER_FREED_MEMORY, which is useful to detect
accesses to already pfreed memory.

Enhance extended query test driver.

- Change diff format using context diff.
- Suppress diffs related to message line number changes.
- Fix indentation.

Remove some code that was forgotten to be deleted in a previous commit.

Add new arguments in pgpool_recovery function and failover_command/failback_command/follow_master_command.

Now able to use "recovery node port number" in pgpool_recovery function.
Also the following options is added in failover_command/failback_command/follow_master_command.

- %N = old primary node hostname
- %S = old primary node port number

Revert "Add new arguments in pgpool_recovery function and failover_command/failback_command/follow_master_command."

This reverts commit 25a4237c9bc8db33f6710df8e43b285f36751038.

Add new arguments in pgpool_recovery function and failover_command/failback_command/follow_master_command.

Now able to use "recovery node port number" in pgpool_recovery function.
Also the following options is added in failover_command/failback_command/follow_master_command.

- %N = old primary node hostname
- %S = old primary node port number

Doc: move watchdog chapter from "Tutorial" to "Server Administration".

The chapter was not best suited for tutorials.

Fix extended test driver to not ignore given arguments.

src/test/extended-query-tests/test.sh did not consider given arguments
while executing 3 node tests because "$1" is lost because of other
processing.  To fix the issue "$1" is saved and used in subsequent
processing.

Fix global static variable to local static variable.

The variable of auto_failback_interval is called only by establish_persistent_connection().
So changed global static variable to local static variable.

Overhaul health check debug facility.

check_backend_down_request() in health_check.c is intended to simulate
the situation where communication failure between health check and
PostgreSQL backend node by creating a file containing lines:

1 down

where the first numeric is the node id starting from 0, tab, and
"down". When health check process finds the file, let health check
fails on node 1.

After health check brings the node into down status,
check_backend_down_request() change "down" to "already_down" to
prevent repeating node failure.

However, questions is, this is necessary at all. I think
check_backend_down_request() should keep on reporting the down status
and it should be called inside establish_persistent_connection() to
prevent repeating node failure because it could be better simulated
the failing situation in this way. For example, currently the health
check retry is not simulated but the new way can do it.

Moreover, in current watchdog implementation, to bring a node into
quarantine state requires *two" times of node communication error
detection. Since check_backend_down_request() only allows to raise
node down even *once" (after the down state is changed to already_down
state), it's impossible to test the watchdog quarantine using
check_backend_down_request(). I changed check_backend_down_request()
so that it continues to raise "down" event as long as the down request
file exists.

This commit enhances check_backend_down_request() as described above.

1) caller of check_backend_down_request() is
   establish_persistent_connection(), rather than
   do_health_check_child().

2) check_backend_down_request() does not change "down" to
   "already_down" anymore. This means that the second argument of
   check_backend_down_request() is not useful anymore. Probably I
   should remove the argument later on.

Fix segfaut in streaming replication check process.

In case of failure of pg_stat_replication() call, the streaming
replication check process unconditionally tried to free the allocated
memory.  This should only be done when the call succeeds.

Doc: mention the separate parser patch.

Multiple performance enhancements especially for of the large
INSERT and UPDATE statements

Pgpool-II only needs very little information, especially for the INSERT and
UPDATE statements to decide where it needs to send the query.
For example: In master-slave mode, for the INSERT statements Pgpool-II only
requires the relation name referenced in the statement while it doesn't care
much about the column values and other parameters. But since the parser we use
in Pgpool-II is taken from PostgreSQL source which parses the complete query
including the value lists which seems harmless for smaller statements but in
case of INSERT and UPDATE with lots of column values and large data in value
items, consumes significant time.

So the idea here is to short circuit the INSERT and UPDATE statement parsing as
soon as we have the required information. For that purpose, the commit adds the
second minimal parser that gets invoked in master-slave mode and tries to
extract the performance for large INSERT and UPDATE statements.

Apart from the second parser addition, following changes aiming towards the
performance enhancements are also part of the commit.

1-Some of the if statements in pool_where_to_send() function are re-arranged to
make sure the more expensive functions calls, pattern_compare()
and pool_has_function_call() should only be made when they are
absolutely necessary.

2- Eliminates the raw_parser() calls in case of un-recognized queries. Instead
of invoking the parser on "dummy read" and "dummy write" statements, the commit
adds the functions to return the pre-built parse_trees for these dummy queries.

3-- strlen() call is removed from scanner_init() function and is passed to it
as an argument. The reason being we already have the query length in most cases
before invoking the parser so why waste CPU cycles on it. Again this becomes
significant in case of large query strings.

4- Removes some of the unnecessary calls of pool_is_likely_select() function.

Update 4.1 release note.

Add Pgpool-II 4.1 release note.

Fix check_replication_lag to not break auto_failback.

Commit bbfe3adb broke auto_failback because it doesn't collect info
from pg_stat_replication for down node. This commit fix the breakage
and eliminate thinko:

- Do not count the number of active nodes since it is useful to show
  streaming replication status in "show pool_nodes" for all nodes which
  are actually active and running even if Pgpool-II thinks they are
  down regardless auto_failback is on or off.

- Call pg_stat_replication once, rather than call for each node.

Fix watchdog_setup command option

The mode option is incorrectly. when pgpool_setup command  is called by
watchdog_setup command, mode option forget to set.

Fix typo and copyright.

Fix pgpool_setup to produce correct follow master command.

The produced script incorrectly checked whether PostgreSQL is running
or not, which resulted in that it mistakenly thought PostgreSQL is
always running.

Adjust WHERE clause of pg_stat_replication to not issue against down node.

Previously the query to get replication status was unconditionally
issued to down node, which produced annoying "no row returned" log.

Doc: add index to "quorum".

Doc: update chapter of 'Examples'

Update 'Examples' chapter, and fix typo in other chapters.
Reviewed by Tatsuo Ishii and Bo Peng.

Doc: mention that quorum state can be shown by using pcp_watchdog_info.

Feature: Import PostgreSQL 12 beta2 new parser.

The attached patch imports PostgreSQL12 beta2 parser to Pgpool-II 4.1.

Major chanegs of PostgreSQL 12 parser include:

- Add new VACUUM options:
  -- SKIP_LOCKED
  -- INDEX_CLEANUP
  -- TRUNCATE
- Add COMMIT AND CHAIN and ROLLBACK AND CHAIN commands
- Add a WHERE clause to COPY FROM
- Allow to use CREATE OR REPLACE AGGREGATE command
- Allow to use mcv (most-common-value) in CREATE STATISTICS
- ADD REINDEX option CONCURRENTLY
- Add EXPLAIN option SETTINGS
- etc.

Add regression test for auto_failback

Feature: auto failback

In Pgpool-II 4.1 or later, you can reattach backend nodethat is status DOWN automatically if auto_failback set on, this future is enabled.

The Feature of auto_failback require that backend node of PostgreSQL are 9.1 or later with streaming-replication mode, and sr_check process and health_check is enabled.

It do health check for standby node, when status of standby Node is down but status of streaming replication between primary and standby is 'stream'. If health check is success, execute process of fail_back automatically. This featurel is usefull for health check is failed bacause of tempolary network error is happened for example.

Remove useless lines.

Since "contents" is never NULL, those lines are never executed.
Per Coverity.

Fix the failover() so that it does not access out of array.

Per Coverity.

Enhance shutdown script of pgpool_setup.

I observe occasional regression test failure caused by bind error to
the TCP/IP port.  This fix tries to confirm usage of the TCP/IP port
while executing shutdown script using netstat command.

Doc: enhance client authentication docs.

Fix Pgpool-II rewriting query error when the queries include "GROUPS" and "EXCLUDE" in frame clauses.
This occurs only in native replication mode.

Thanks to Yugo Nagata for the bug reporting.

Use foreach macro in pool_temp_tables module.

It used to use plain for(), but there's no reason to not use the
convenient macro.

Fix logically dead code pointed out by Coverity.

Whether pwd is NULL or not was already checked, and there's no point
to check it again.

Doc: enhance watchdog documents regarding quorum failover.

Fix memory leak pointed out by Coverity.

When failed to create a connection to backend, new_connection() failed
to free memory.

Fix possible out of array index access.

It was pointed out by Coverity that node_id could be -1.

Fix query cache module so that it checks oid array's bound.

Fix to check the return value of strchr() in Pgversion().

Pointed out by Coverity.

Fix off-by-one error in query cache module.

When debug print is enabled, it might had tried to access out of bound
of oid array.

Fix buffer overrun in Pgversion().

Also enhance comments.

Allow health check process to reload pgpool.conf.

When separate health check process was introduced, we forgot to send
signal to the health check process when pgpool.conf reload is
requested.

Generate Makefile.in by automake 1.13.4.

Bug525: Fix sefault when query cache is enabled.

When query cache is enabled,
session_context->query_context->skip_cache_commit flag was set or
reset while processing execute message. Problem was, it was done
before session_context->query_context was set. So fix is just
set/reset
query_context->skip_cache_commit. session_context->query_context is
set later on anyway.

Per bug 525.

Add execute permission to extended-query-test/extra_scripts.

Change config type of relcache_query_target from string to enum.

This parameter is implemented as enum, so change samples and docs
accordingly.

Make shutdownall to wait for completion of shutdown of Pgpool-II.

It was observed that regression test occasionally failed because
previous does not completely finished before next test started. To fix
the problem, make shutdownall script generated by pgpool_setup to wait
for completion of shutdown of Pgpool-II.

Doc: enhance performance docs.

Doc: add more explanation for quorum failover of watchdog.

Also add newer descriptions to Japanese doc added by English doc.

Change check_temp_table's type to enum.

It was actually implemented as 'enum' rather than 'string'. So change
all docs and sample configuration files.

Also allow to specify on/off for backward compatibility.

Doc: mention that in raw mode or load_balance_mode = off case for relation cache.

In this case queries for relation cache will not be sent.

Down grade LOG to DEBUG5 in sent message module.

The log was added in commit 56a6b6a72, but in some cases it is
disturbing users.

Discussion: [pgpool-general: 6620] Fwd: A lot of "checking zapping sent message" in log

Add test case for 'trace' to 026.temp_table's test.sh.

Commit 7a0471bb for test.sh forgot to test 'trace' case.

Dow grade some LOG messages to DEBUG1 in the temp table trace module.

Doc: fix typo.

feature: Disable load balance after a SELECT having functions specified in black/white function list.

In Pgpool-II 4.0 or earlier, if we set "disable_load_balance_on_write = transaction",
when a write query is issued inside an explicit truncation,
subsequent queries should be sent to primary only until the
end of this transactionin in order to avoid the replication
delay.

However, the SELECTs having write functions specified in black_function_list
are not regarded as a write query and the subsequent read queries are still load balanced.

This commit will disable load balance after a SELECT having functions
specified in black/white function list.

Doc: change check_temp_table Japanese docs.

This is due to recent change to English doc of the part.

Also enhance docs to add literal tag to string parameters.

Add new method to check temporary table.

Checking temporary tables are slow because it needs to lookup system
catalogs. To eliminate the lookup, new method to trace CREATE TEMP
TABLE/DROP TABLE is added. For this purpose a linked list is added to
session context. In the list, information of creating/dropping temp
tables (not yet committed) and created/dropped temp tables (committed
or aborted) is kept. By looking up the list, it is possible to decide
whether given table is a temporary or not.

However it is impossible to trace the table creation in functions and
triggers. thus the new method does not completely replace existing
method and choice of method are given by changing check_temp_table
type from boolean to string.

"catalog": existing method (catalog lookup, same as check_temp_table = on)
"trace":   the proposed new way
"none":    no temp table checking (same as check_temp_table = off)

Reduce internal queries against system catalogs.

Currently the relcache module issues 7+ queries to obtain various info
from PostgreSQL system catalogs. Some of them are necessary for
Pgpool-II to work with multiple version of PostgreSQL.

Idea is, if we already know the version of PostgreSQL, we can
eliminate some of queries. For example, we need to know if
pg_namespace exists and for this purpose we send a query against
pg_class. But if we know that pg_namespace was introduced in
PostgreSQL 7.3, we do not need to inquire pg_class.

To implement this, new function:
PGVersion *
Pgversion(POOL_CONNECTION_POOL * backend)

is added and "SELECT version()" is used to get PostgreSQL's major and
minor version number (the minor version is not used for now). The
query itself is cached using relcache infrastructure. Plus Pgversion()
has its own cache using static memory. Thus obtaining PostgreSQL
version is quite fast for the second or later call to the function.

In my testing with "select * from t1" issues 7 queries. After the
patch, it reduces to 3. The remaining queries are:

- to know if it's a temporary table or not.
- to know if it's a unlogged table or not.
- to know if it's a system catalog table or not.

Discussion: [pgpool-hackers: 3344] Reducing query issued by relcache

Fix regression test 023 ssl_connection

If TLS1.3 was used by openssl, this test failed.
This mistake is due to #51bc494aaa7fd191e14038204d18effe2efb0ec8 .

Fix mistake introduced in the previous commit.

Fix segfault when "samenet" is specified in pool_hba.conf.

When "samenet" is specified, SockAddr_cidr_mask(struct
sockaddr_storage *mask, char *numbits, int family) gets called with
numbits == NULL. However the function was not prepared for
it. Originally the function was imported from PostgreSQL. When the bug
was fixed in PostgreSQL, unfortunately the fix was not applied to
Pgpool-II. This commit applies the same fix as PostgreSQL.

Discussion: [pgpool-general: 6601] Pgpool-II + hba + samenet = segfault in libc-2.24.so

Allow to route relcache queries to load balance node.

Queries to build relcache entries were always sent to master (primary)
node. This is usually good because we could eliminate the bad effect
of replication delay. However if users want to lower the load of
master node, it would be nice if we could route the queries to other
than master node. This patch introduces new parameter
"relache_query_target". If it is set to 'load_balance_node', relcache
queries will be routed to load balance node.  If it is set to
'master', the queries are routed to master node, which is same as
before (this is the default).

doc: Fix documentation typos.

doc: Fix documentation typo.

doc: Fix documentation errors in follow_sh script.