bdr: BGWorker exit with BGW_NO_RESTART is now respected, so simplify error handling

bdr: Fix init_replica bug introduced by per-db workers in shmem

Two arrays that previously always had the same offsets for any given
connection no longer do after per-db workers were introduced. This
exposed a previous bug in init_replica where mapping between the two
arrays was not properly done.

fixup! bdr: Add db oid param to fetch_sysid_via_node_id, add bdr_ prefix

Failed to include a final correction in the fix. So fixup for the fixup.

(Working at 2am? Not clever).

fixup! bdr: Add db oid param to fetch_sysid_via_node_id, add bdr_ prefix

The original commit didn't handle the case for the local node.

Revert "bdr: queue object drops more comprehensively"

This partly reverts commit 13c2d6d48fc3cbe06483fe13208fad8c5ec54b8c.

bdr: Add db oid param to fetch_sysid_via_node_id, add bdr_ prefix

Rename fetch_sysid_via_node_id to bdr_fetch_sysid_via_node_id and add a new
output parameter to return the database oid for the database that's local
to that RepNodeId.

This allows bdr_fetch_sysid_via_node_id to return the full identifying
key for a node now that we support intra-node replication.

bdr: Fixup for Mkvcbuild.pm typo

bdr: fix: include header file for prototypes

AdvanceCachedReplicationIdentifier() and AdvanceReplicationIdentifier()
are defined in replication/replication_identifier.h

bdr: Put files to be built into a consistent order. again.

Doing so makes resolving merge conflicts far easier.

bdr: move fetch_sysid_via_node_id into bdr_catalogs.c

This allows fetch_sysid_via_node_id to be used by the output
plugin for resolving a local RepNodeId into a (sysid,tlid) tuple.

bdr: Add timeline ID to bdr.bdr_nodes, change sysid type to text

The unique identifier for a given bdr node is (sysid, timelineid, dbname), so
make sure that's the correct key in bdr.bdr_nodes.

bdr: tests for DDL replication

bdr: fixing check target

bdr: use get_database_name() not direct syscache lookup

Per review from Andres.

bdr: fix drops stuff for internal objects

Things such as TOAST tables were causing errors when tables having them
were dropped.

bdr: queue object drops more comprehensively

We were skipping listing objects in the queued item that are only
reached by internal dependency links, but this doesn't work in some
cases, e.g. a table that depends on a view through column dependencies.

We're probably going to need to tweak this again in a later stage, for
example if we want local-only objects (such as unlogged matviews) to
depend on replicated objects; if we were to try that scenario today, the
drop would fail because the matview wouldn't be found on the remote node
when we tried to replicate the drop.  But this implementation doesn't
seem to be the way forward for that, anyway.

bdr: replicate all DDL commands

bdr: Don't use send/recv protocol for array/composite types.

bdr: Use GetSysCacheOidError2 to cut some code in conflict logging

bdr: move GetSysCacheOidError2 into bdr_catalogs.c and bdr.h

Should be shareable between bdr apply and bdr output.

bdr: Better error message on slot creation for db where bdr not active

We want to block slot creation on a database where there's no active
bdr connection configured for that db. Test to see whether there's a
bdr schema and refuse to create a slot in this case.

Doesn't protect against bdr being enabled then disabled, but nothing
exciting will happen in that case anyway.

bdr: minor header cleanup

bdr: don't perform ddl command filtering in non bdr databases.

bdr: disable commandfilter when running in single user mode

bdr: test cases for cluster-internal drop replication and common conflicts

common_conflicts.spec: Generate the common conflicts
cluster-internal-drop.spec: Test case failing for a DROP bug in
cluster-internal replication

bdr: enabling cluster-internal replication

bdr: implementing bdr.<name>_local_dbname

bdr: refactor BdrConnectionConfig to use char * instead of NameData

bdr: Prevent slot creation until BDR is up and ready

Checks bdr.bdr_nodes status field for the local node in the local DB during bdr
output plugin startup and ERRORs if status isn't set to ready yet. This ensures
that we cannot begin sending changes to other nodes while we're still applying
a dump or performing catchup.

The BDR per-db worker now creates an entry in the local bdr.bdr_nodes if
init_replica isn't configured on any connection and no such entry exists. That
makes sure BDR without init_replica keeps working properly.

An error like:

    ERROR:  bdr.bdr_nodes entry for local node (sysid=6013159507840554182, dbname=postgres): row missing, bdr not active on this database or is initializing.

is emitted if the DB isn't ready for BDR yet. This can be tested easily with
pg_recvlogical by deleting the bdr.bdr_nodes entry for the local node or
creating an init_replica script that pauses indefinitely.

bdr: At high debug levels log replication protocol commands

This makes getting a view of the parameters sent when starting logical
replication easier.

bdr: Prevent null pointer dereference for blank output plugin params

bdr_output would crash with a segfault due to a null pointer dereference
if a parameter was specified but no corresponding value was supplied, e.g.

pg_recvlogical -P bdr_output -S test -d postgres --create
pg_recvlogical -P bdr_output -S test -d postgres --start -f - -o pg_version

This now fails with an ERROR instead of crashing and forcing postmaster
re-init, e.g.

    ERROR:  uint32 parameter "pg_version" had no value

bdr: Don't register duplicate apply workers on perdb worker restart

Previously we handled postmaster restarts, but not the case where a per-db
worker restarted without a postmaster restart being triggered (such as on an
ERROR in a per-db worker).

This solution is imperfect. The flag to detect postmaster restart is set after
shmem is populated with the apply worker info but before they're actually
registered. If a crash forces a postmaster restart before all apply workers are
registered by all each per-db worker we'll fail to launch any that weren't
launched before the restart, because we've lost the shmem launch state flags
and have to assume they were all launched.

A proper solution probably requires a way to query the list of registered
bgworkers to determine whether a particular worker is registered.

bdr: fix: always send 0 as timeframe for UPDATE vs DELETE

bdr: integration of conflict handlers for UPDATE vs DELETE

bdr: fix: use same datatype as bdr_max_workers to avoid compiler warning

bdr: adding errcodes to a lot of ereports

bdr: refactoring: remove duplicate enum for conflict handlers/logging

bdr: fix: bdr_queued_commands has been changed, use new structure

bdr: Move apply worker global state out of shmem

bdr: implement per-db worker in shmem

bdr: Be a bit more considerate when creating the necessary extensions.

bdr: Be more careful about recursively entered ddl replication commands

bdr: Try to be more consistent in bdr--0.5.sql

* indent with 4 spaces
* always revoke permissions from tables
* always have the revoke close to the table's definition
* creating object in a halfway meaningful order

bdr: queue command_tag rather than objtype/identity

These are used for error messages anyway, so they aren't very important;
and it's hard to see what would be identity be for commands that act on
multiple objects such as GRANT.

bdr: Log conflicts to a bdr.bdr_conflict_history table

Creates a bdr.bdr_conflict_history table and logs conflicts to it when they're
detected, with details on both sides of the error.

Currently only logs insert/insert conflicts. The infrastructure for reporting
ERROR conflicts is present but not yet used.

bdr: move heap and index access routines into bdr_executor.c

bdr: move bdr_process_remote_command into bdr_apply.c

bdr: fix: include timeframe in conflict handlers view

bdr: fix: partly reverting ff6fc55 due to mussjudgements

bdr: we now use ereport() and elog(DEBUG1) in various cases

bdr: fix: get schema name from oid and don't use hard coded public

bdr: fix: do not use vars named errmsg, generate proper log message

bdr: fix: use correct datatypes in various loops

This avoids compiler warnings for signed vs unsigned comparison.

bdr: command filter enhancements and fixes

Forbidding renaming of ALTER AGGREGATE … RENAME TO …, ALTER COLLATION …
RENAME TO …, ALTER CONVERSION … RENAME TO …, ALTER OPERATOR CLASS …
RENAME TO …, ALTER OPERATOR FAMILY … RENAME TO …. Forbidding ALTER
TABLESPACE … MOVE …, too.

bdr: conflict handlers: refactored handler invocation

In the previous code we forgot in one case to call conflict
handlers. This lead to calling them in each if branch. Thus we decided
to refactor the code to call the handlers above the code.

bdr: fix: use CreateCommandTag() for various commands

Due to inernals completionCommand is not always available. Use
CreateCommandTag() in this cases.

bdr: fix: really disallow SECURITY LABEL for now

bdr: Don't use hack to avoid copying whole tuples when putting them in slots.

The current hack isn't sufficient, instead more widespread changes to the slot
mechanism are required.

This caused errors like:

ERROR: could not access status of transaction 4294967295
DETAIL: Could not open file "pg_clog/0FFF": No such file or directory.

when getting a Datum for a tuple with ExecFetchSlotTupleDatum .

Author: Andres Freund

bdr: Send remote transaction ID in begin messages

Adds 4 bytes to each BEGIN, but allows better debugging information
by logging the remote transaction ID when conflicts are detected
or apply errors occur.

bdr: Remove unused field has_timetravel from ReorderBufferTXN

This field is never used and doesn't appear in the copy of ReorderBufferTXN in
master. It looks like a merge oversight.

bdr: fix: use createCommandTag()

Use createCommandTag() for T_DefineStmt/T_CreateTableAsStmt class
queries because completionTag isn't available in this case (due to
internals).

bdr: conflict handlers: always forbid conflict handlers on system tables

bdr: isolationtester: some basic tests for generating conflicts

bdr: allow VALIDATE CONSTRAINT

bdr: fix: build bdr_relcache.c and bdr_conflict_handlers.c on Windows, too

bdr: introducing conflict handlers

Conflict handlers are user definable functions which get called when a
conflict appears. Currently there is only UPDATE vs UPDATE implemented

bdr: introducing a relcache

The relcache caches relation dependent data to avoid gathering them again
for every action

bdr: fix: don't access relation after it's been closed

bdr: fix command filter to check on the transformed ALTER TABLE statements

bdr: Fix a couple of minor typos

bdr: Significantly improve the commandfilter.

Several previously allowed command are now forbidden and vice versa.

bdr: Place assertion forbidding expression unique indexes more precisely.

bdr: Use a more narrow START/END critical section in sequences code.

bdr: also replicate CREATE FUNCTION

bdr: don't replicate objects in extensions

bdr: also replicate ALTER SEQUENCE

bdr: Also accept ProcessedConstraints in the commandfilter.

That makes CREATE TABLE ..( ... REFERENCES ...) work.

bdr: WIP: add more info to ddl queues

bdr: in get_worker_option removal, it helps to increment the counter

Failure to increment the loop counter led to >2 node configurations failing.

bdr: Supply a 'short_desc' for bdr.default_apply_delay.

Otherwise SHOW ALL crashes.

bdr: Fix typo in the get_worker_option() removal patch.

bdr: Remove get_worker_option in favour of direct GUC access

Store GUCs for each bdr.[connname] as members of a postmaster palloc'd struct
accessed via a global array. Pass BDR workers indexes into this array in shmem
so they know how to access their GUC values.

Fixes Andres's concerns with get_worker_option. This also makes it easier to
support EXEC_BACKEND later.

bdr: Don't include frontend libpq in generic bdr header.

Otherwise we need to link to libpq on windows to get the right include
dir added.

bdr: Remove further pre C99 incompatibility.

bdr/deparse: don't use TG_TAG

It's not useful in case of nested commands (maybe in other cases too);
rely on pg_event_trigger_get_creation_commands().command_tag instead.

bdr: Don't use c99-only const array initializers

bdr: Windows? Not yet. #ifdef out bdr_exec_init_replica

In future we should CreateProcessEx for Windows. This really wants a new
function for port/ that uses fork()/exec() on *nix, and CreateProcessEx on
Windows.

That's not within the scope of BDR as specified, and time's a-'ticking, so for
now let's just make this feature unsupported on Windows so the buildfarm stops
whining.

bdr: Allow ALTER TABLE DROP COLUMN/SET NULL/DROP NULL

bdr: fix compiler warning about unused variable

bdr: Always use the correct relation name in truncation triggers.

bdr: Adapt to postgresql upstream changes

bdr: deparse: Support USING in CREATE SEQUENCE

bdr: fix: include header files instead of forward declare data structures

bdr: Include errno.h not sys/errno.h

bdr: some cleanups for the init replica functionality.

bdr: Build bdr_init_replica.c on Windows too

bdr: clean up include file mess

bdr: document types of conflicts and their resolution (internals)

bdr: Don't create TRUNCATE triggers for DDL replication during pg_restore

bdr: Use logical dump/reload and catchup mode during DB startup

Install BDR extension in remote, track progress in bdr.bdr_nodes,
support pg_dump --snapshot and pg_restore for dump+reload apply,
use catchup mode.