pgq.Consumer: support .consumer_filter with lazy_fetch

londiste: support table renaming

- add .dest_table field to londiste.table_info
- use it for mapping merged tables on leaf
- make handlers use it for sql generaion
- fkey-related functions keep using real table name

londiste.handlers: turn off REAL_TABLE by default

does not work on merged tables.

handlers.dispatch: Fix quoting in temp table naming

Merge remote-tracking branch 'intgit/master'

setup_skytools: rename scripts in build dir, not install dir

This avoids install overwriting compat scripts.

Stop supporting --script-suffix switch, too annoying.
Custom suffix is still possible via config.mak.

tests/londiste: sanitize a bit

turn off log grep to make output human-viewable

testlib: use code blocks

londiste.handlers.dispatch: 'analyze' argument for handlers

Make ANALYZE on temp tables configurable and off by default

londiste.handlers.dispatch: cache dist fields

Fix skytools3-walmgr dependencies (support 9.1)

Merge pull request #3 from lalinsky/splitkeys

skytools.parse_sqltriga_sql: Split key and value fields in parse_logtriga_sql

Merge pull request #2 from lalinsky/master

Fix compilation of logtriga on PostgreSQL 9.0

Add an option to split the key and value fields

Fix compilation of logtriga on PostgreSQL 9

This patch copies the is_keyword function from sql/pgq/triggers/stringutil.c
and uses it instead of calling ScanKeywordLookup directly. It also avoid
quoting some strings that are not reserved keywords.

reset synchronous_standby_names on walmgr "stop".

Merge branch 'master' of internal-git:/git/dba/skytools-3

add "pg_archivecleanup" to recovery.conf.

add "primary_conninfo" option to --init-slave

added init.d script guessing.

skytools.scripting: make non-skylog logging attach to root

use_skylog logging was already doing it.  Now that simple
logging does it do, using self.log is not mandatory anymore,
code can use 'logging' module directly.

Also make console and logfile output configurable.

Fix invalid reference to os.path.mkdir

misc/bumpver: show current version for all schemas

londiste.version(): 3.0.0.9

pgq_node.version(): 3.0.0.9

doc/Makefile: remove more refs to old docs

ticker/makefile: stop using so many PG_* vars

sql/Makefile started to pass PG_CPPFLAGS on cmdline,
this breaks custom vars here.

Merge remote-tracking branch 'intgit/master'

Fix breakage from doc removal

tests/londiste: test pgq_autocommit

londiste copy: fix broken lock table

pgq.Consumer: pgq_autocommit config params

for setting source side db into autocommit mode

skytools.DBscript: set_database_defaults method

Mainly for simple way to set db mode across all get_database() calls.

CascadedConsumer: consistent access to provider db

handlers.dispatch: skip pk-only table update earlier

handlers.bulk: avoid updates on pk-only table

pgq_node.drop_node: non-existing queue should not be error

londiste: local_only - give sane filter if no local tables

handlers.dispatch: skip update on pk-only table

Import debian/ fixes from Dimitri Fontaine

Due to some miscommunication the branches got out-ot-sync
and needed squashing now.

changelog:
- Fix known bugs in packaging (Replaces, update-alternatives, prerm scripts)
- Forgot to delete the postrm script in the merge.
- Get rid of example *) cases in postinst scripts.
- Remove debhelper automatic code from the scripts.
- The PostgreSQL extensions should provide the virtual package skytools-modules.
- By producing a clean orig archive, it's possible to avoid the *.o in debian/source/include-binaries
- Another round of review with Christoph Berg
- Remove debian/README.source
- Add some more specific copyright notices, per debian FTP Master
- Reproduce the whole copyright of lib/test/attregex/testregex.c
- The doc/ needs to get realclean'ed, distclean is shy of a brick here.
- Add a build-depend on automake, which provides /usr/bin/aclocal
- Changelog entry for bug #632574, and some cleanup
- Add the pgq upgrade script to the packaging
- Allow for cleanup up the debian tree when the upgrade script never was build before.
- Add a useful debian/README.source
- Better debian/rules orig target (exclude vcs, automatic grabbing of the package version)
- Fix debian/rules for building when postgresql-server-dev-9.1 is installed too.
- Update packaging for postgresql-9.1, make 8.3 8.4 and 9.0 compat optional
- Typo fix in postgresql-9.1-pgq3 depends

londiste copy: support startup isolation level

when switching back from serializable level, use old level.

This will help support autocommit on source side.

londiste copy: dont set empty string as ddl

Rename fake_local to vtable, move to separate file

londiste x.ini show-handlers: info about handlers

londiste.local_add_table: merge-leaf: add table to combined-root too

It will be added with same trigger_args & table_attrs as leaf table.
If this is unwanted, add table to combined-root first.

Fix a bug introduced by a bugfix b08445.

sql/*/Makefile: stop depending on config.mak

Only vars taken from there were PG_CONFIG and PGXS.
Instead let sql/Makefile give PG_CONFIG as param.

This makes easier to test across multiple Postgres versions.

londiste regtest: dont assign to IN param (8.3)

qadmin: better ident unquoting

old one did fail on '.' inside "".

Fix bad var in plpy_applyrow

londiste copy: reorganize DDL restoration logic

Fix transactionality around merge-node ddl handling.

Move restoration to playback, happens when 'catching-up' has ddl.
This allows DDL restoration in separate tx (merge node) to fail.

Also lock table before ddl reading, this avoid concurrent ddl droppers.

londiste.get_table_list: make sure all state combinations work

Although we may not support all combinations from UI side,
it does not guarantee that some combination cannot happen,
so try to give reasonable roles in any case.

New logic:

- if table has ddl, it's lead
- in case of no dll and at least one complete copy, let the copy be follower:
  that means it will do copy into table without touching ddl.

sql/pgq_coop: sync tests

londiste.handlers.dispatch: USE_REAL_TABLE is not under self.

gq_node.get_worker_state: avoid convlicting var name

sql/londiste: sync regtests with changes

contains:

- avoid 'default' function arg
- override CONTRIB_TESTDB for 9.1
- unidiff for regression.diffs
- quiet plpgsql install
- 'merge_all' when adding table

londiste.upgrade_schema: move table_info check upgrade here

parallel copy process limit

added max-parallel-copy londiste argument to specify max number of parallel copy processes

londiste truncate handler: drop unnecessary sql reset

refresh libusual

pgq.version(): 3.0.0.8

londiste.upgrade_schema(): magic schema upgrade

ATM does nothing.

pgq_node.upgrade_schema(): magic schema upgrade

also sync regtest output

pgq.upgrade_schema(): magic schema upgrade

scripts/scriptmgr.py: ignoring stale pid files when starting scripts

setup_skytools: add vars to turn of script/sql installation

CascadedConsumer: allow --reset without consumer info

Can happen for worker on root node.

setup_skytools: no rename by default on win32

Don't build C module on windows, minor fixes

More build work

- separate build dir for setup_skytools, to avoid conflict with pkgloader
- pass configure switches to setup.py

doc: remove obsolete documentation

handlers/dispatch.py: temporarily use real table

Move install logic from Makefile to setup_skytools.py

.itignore: remove .sql files

pgq_coop: use 'install.sql' file

pgq_node: use 'install.sql' file

sql/londiste: use 'install.sql' file

pgq_ext: use single 'install.sql' file

pgq_lowlevel.sql: stop building it

pgq_triggers.sql: stop building the file

due to new extensions work, the file is now fixed

londiste.handlers.bulk: fix real table creation

londiste.handlers.bulk: hack - try to use real table

Merge remote-tracking branch 'martino/master'

scripting.py: added some aliases in BaseScript

stat_add -> stat_put
stat_inc -> stat_increase

londiste.table_copy/merge: don't restart failed DDL restore

it will start truncate/copy again, which will be unnoticeable
to other partitions.

Proper fix would be to restart DDL-only, but currently
there is no way to detect the situation.

tests/noqueue: minor improvements

- avoid hardcoded sleeps
- avoid hardcoded part count

skytools.BaseScript: fix attribute typo (cf_override)

config.py: added items() and has_section() methods to simplify certain usecases

minor typos fixed

cascaded unregister-location

Instead of running drop_node function on every node in cascade,
unregister-location event added to queue by master

changed invalid utf8 log level to info

fix: expect_sync to londiste.local_add_table i_trg_args

multimaster handler

no-merge argument

when using it table is not merged from source queues

sql/conflicthandler: experimental conflict handler.

skytools.plpy_applyrow: low-level helper module

conflicthandler/merge_on_time.sql: sample time-based conflict handler

handlers.dispatch: utf8 fix - show values only in debug level

CoopConsumer: another fix for --unregister

for out param table_name intermediate variable used var_table_name

safe_utf8_decode: stop using builtin 'replace', its broken

Default 'replace' can eat several symbols, which means
it can corrupt even regular ascii.

CascadeAdmin: node-info command

Shows detailed info about local node.

Currently the info needs to be gathered from different places,
which is annoying.