Forums PostgreSQL.fr

Sébastien,
Normalement patroni devrai se mettre en read-only car il n y a qu'un noeud de démarrer ? le corrum n'est plus bon vu que c'est normalement n+1 et la je n'ai que 1 serveur sur 3 de démarrer.

Cela ne viendrai pas d'un pb entre etcd et Patroni qui concidere quand meme les 3 membres present bien que 2 sont arreté?

rjuju:
Ma conf:
-----------------------------
patroni.yml
------------------------------------
scope: clusterp03
namespace: /service/ # valeur par défaut
name: membre2-p03
restapi:
  listen: IP_PATRONI:8008
  connect_address: IP_PATRONI:8008
log:
  level: INFO
  dir: /var/log/patroni/
etcd:
  hosts:
  - IP_ETCD1:2379
  - IP_ETCD2:2379
  - IP_ETCD3:2379
  username: root
  password: Supp0rt
  protocol: http
bootstrap:
  dcs:
    ttl: 30
    loop_wait: 10
    retry_timeout: 10
    maximum_lag_on_failover: 1048576
    postgresql:
      use_pg_rewind: true
      use_slots: true
      parameters:
        archive_command: 'cp %p /bases/pgsql/14/var/journaux/%f'
        archive_mode: true
        archive_timeout: 1800
        effective_cache_size: 1536MB
        hot_standby: true
        logging_collector: true
        log_directory: /bases/pgsql/14/var/log/
        log_file_mode: 0640
        log_filename: 'postgresql-%d.log'
        log_truncate_on_rotation: true
        log_rotation_age: 1440
        log_rotation_size: 0
        log_checkpoints: true
        log_connections: true
        log_disconnections: true
        log_error_verbosity: verbose
        log_hostname: true
        log_line_prefix: '%t [%p]: [%l-1] '
        log_lock_waits: true
        log_temp_files: 0
        log_timezone: 'Europe/Paris'
        max_connections: 100
        restore_command: 'cp /bases/pgsql/14/var/journaux/%f %p'
        shared_buffers: 512MB
        wal_level: replica
        work_mem: 2MB
        dynamic_shared_memory_type: posix
        max_worker_processes: 1
        max_parallel_workers: 1
        hot_standby: true
        max_wal_senders: 10
        max_replication_slots: 5
  initdb:
  - encoding: UTF8
  - data-checksums
  pg_hba:
  - host all all all scram-sha-256
  - host replication replication all scram-sha-256
  - local all postgres trust
  users:
    dba:
      password: dba_password
      options:
      - createrole
      - createdb
    admin:
      password: admin
      options:
      - createrole
      - createdb
    commvault:
      password: hotbackup
postgresql:
  listen: "*:5434"
  connect_address: IP_PATRONI:5434
  data_dir: /bases/pgsql/14/data/clusterp03
  bin_dir: /usr/pgsql-14/bin
  authentication:
    replication:
      username: replication
      password: PWD_REPLICATION
    superuser:
      username: postgres
      password: PWD_POSTGRES
    rewind:
      username: rewinder
      password: PWD_REWINDER
  parameters:
    unix_socket_directories: '/var/run/postgresql'
  basebackup:
    max-rate: "100M"
    checkpoint: "fast"
  watchdog:
    mode: automatic
    device: /dev/watchdog
    safety_margin: 5
  tags:
    nofailover: false
    noloadbalance: false
    clonefrom: false
    nosync: false
----------------------------------
etcd.conf:
-----------------------------
ETCD_DATA_DIR="/logi/etcd/"
ETCD_NAME="etcd-1"
ETCD_LISTEN_PEER_URLS="http://IP-ETCD1:2380"
ETCD_LISTEN_CLIENT_URLS="http://IP_ETCD1:2379"
ETCD_INITIAL_ADVERTISE_PEER_URLS="http://IP_ETCD1:2380"
ETCD_ADVERTISE_CLIENT_URLS="http://IP_ETCD1:2379,http://IP_ETCD2:2379,http://IP_ETCD3:2379"
ETCD_INITIAL_CLUSTER="etcd-1=http://IP_ETCD1:2380,etcd-2=http://IP_ETCD2:2380,etcd-3=http://IP_ETCD3:2380"
ETCD_INITIAL_CLUSTER_TOKEN="ETCD-PreProd"
ETCD_INITIAL_CLUSTER_STATE="new"
--------------------------------------------------------------------------

ce que je fais:

je démarre les 3 membres patroni depuis les service (systemctl start patroni.service) par une connexion putty sur chaque serveur.
je me connecte à l'utilisateur postgresql depuis le membre1
je lance la commande :
psql postgresql://postgres@serveur1:Port,serveur2:port,serveur3:port/postgres?target_session_attrs=read-write
je fais des insert

j'arrete 2 des membres du cluster à partir d'autre fenetre putty.
sur ma session lancé precedemment je continue à faire des insert.
Cela passe ....

-----------------------------
voila voila tout le detail ....

Cordialement
KAtia

Bonjour Sébastien,
Merci de ta réponse .
Si je mets standby ou prefer-standby je peux pas faire d'insert car je dois etre sur le primaire pour cela ... meme si j'ai mon cluster complètement démarrer .
Si je mets any c'est comme read-write ou primary vu que ma connexion va d office sur le primaire .. si j'arrete les 2 standby ( simulation de perte de 2 sites) je peux toujours ecrire à travers ma session active ....
Donc il faut peu etre que je met autre chose que target_session_attrs dans ma ligne de commande mais quoi .... je seche .....

Cordialement
Katia

Le moe applicatif fait des tests car son application fait des update en continue ... donc il veut voir jusqu ou il peut inséré ....

Il passe d'une configuration postgresql/ safekit à postgresql/Patroni.

Cordialement
Katia

Bonjour,
Ma connexion persiste car je ne fais qu'un changement de leader  ou un arret du leader en cours et non pas un arret complet du cluster.
Vu que les 2 autres membres sont en standby lors de l 'arrêt du leader , un des 2 autres membres passe leader.

Cordialement
Katia

bonjour,
nous avons trouvez le problème ...cela vient du package poppler en version 20.11 qui n'est pas sur notre repository rhel8.6 ....
Une fois mis en place postgis s’installe sans soucis ....

bonne journée.

Katia

re bonjour ...

Bonjour,
Mon problème avance et se résout petit à petit.
Déjà j’avais un problème de firewall ; Je l’ai complètement désactivé ….
Ensuite le problème du fs … en effet pour répliquer patroni supprime le répertoire récepteur de la base puis le recrée en même temps que la base… étant que c’est un fs la suppression est impossible d’où le message dans la log de patroni

OSError: [Errno 16] Device or resource busy: '/bases/pgsql/14/data' -> '/bases/pgsql/14/data_2023-02-28-14-45-13'

Enfin mon 3 eme problème concerne l’entrée pg_hba dans patroni.yml….
Quand on exécute la commande patronictl avec edit-config la section hba_conf n’apparait pas ….

Nous avons modifié le fichier patroni.yml mais cela n a pas été pris en compte … il a fallu passé par edit-config pour que cela le soit….

Petite question pourquoi la section pg_hba.conf dans le boostrap n’est pas prise en compte ?

en tout cas merci de vos aides .... car la je comprennais plus ( et mes collègues non plus) ...

super il est passé leader
bon par contre j arrive pas a connecté le 2ème dessus maintenant ....

root@div2sv002597:/bases/pgsql/14/data# patronictl -c /etc/patroni/patroni.yml list
+ Cluster: clusterig9 (7191794644507281311) ---+---------+----+-----------+
| Member       | Host                | Role    | State   | TL | Lag in MB |
+--------------+---------------------+---------+---------+----+-----------+
| ig9-cluster1 | 172.18.239.151:5434 | Leader  | running |  2 |           |
| ig9-cluster2 | 172.18.239.153:5434 | Replica | stopped |    |   unknown |
+--------------+---------------------+---------+---------+----+-----------+
root@div2sv002597:/bases/pgsql/14/data# ll
total 0

sur le secondaire , j'ai lancer la commande suivante:
patronictl -c /etc/patroni/patroni.yml reinit clusterig9 ig9-cluster2

et dans la log patroni.log j'ai le message suivant:

OSError: [Errno 16] Device or resource busy: '/bases/pgsql/14/data/'

/bases/pgsql/14/data/ est un fs ... cela peu venir de la ????

merci de votre aide
Katia

en complement coté etcd:
-----------------------------
root@div2sv002487:/root# etcdctl --endpoints=$ENDPOINTS ls /service/clusterig9
/service/clusterig9/initialize
/service/clusterig9/members
/service/clusterig9/clusterig9
root@div2sv002487:/root# etcdctl --endpoints=$ENDPOINTS get /service/clusterig9
/service/clusterig9: is a directory
root@div2sv002487:/root# etcdctl --endpoints=$ENDPOINTS get /service/clusterig9/members
/service/clusterig9/members: is a directory
root@div2sv002487:/root# etcdctl --endpoints=$ENDPOINTS ls /service/clusterig9/members
root@div2sv002487:/root# etcdctl --endpoints=$ENDPOINTS ls /service/clusterig9/clusterig9
/service/clusterig9/clusterig9/members
/service/clusterig9/clusterig9/initialize
root@div2sv002487:/root# etcdctl --endpoints=$ENDPOINTS ls /service/clusterig9/clusterig9/members
/service/clusterig9/clusterig9/members/ig9-cluster1
/service/clusterig9/clusterig9/members/ig9-cluster2
root@div2sv002487:/root# etcdctl --endpoints=$ENDPOINTS get /service/clusterig9/clusterig9/members/ig9-cluster1
{"conn_url":"postgres://172.18.239.151:5434/postgres","api_url":"http://172.18.239.151:8008/patroni","state":"running","role":"replica","version":"2.1.7"}
root@div2sv002487:/root# etcdctl --endpoints=$ENDPOINTS get /service/clusterig9/clusterig9/members/ig9-cluster2
{"conn_url":"postgres://172.18.239.153:5432/postgres","api_url":"http://172.18.239.153:8008/patroni","state":"stopped","role":"uninitialized","version":"2.1.7"}
root@div2sv002487:/root# etcdctl --endpoints=$ENDPOINTS get /service/clusterig9/clusterig9/initialize
7191794644507281311
root@div2sv002487:/root
-------------------------------------

sur mon autre cluster qui lui fonctionne :
root@div2sv002487:/root# etcdctl --endpoints=$ENDPOINTS ls /service/cluster-patroni-test
root@div2sv002487:/root# etcdctl --endpoints=$ENDPOINTS ls /service/cluster-patroni-test
/service/cluster-patroni-test/config
/service/cluster-patroni-test/history
/service/cluster-patroni-test/initialize
/service/cluster-patroni-test/leader
/service/cluster-patroni-test/members
/service/cluster-patroni-test/status
root@div2sv002487:/root#

merci rjuju,
Suppression de l instance sur la 2eme VM ( postgresql ne tourne pas car patroni ne se lance pas) suppression de pgdata , et redemarrer patroni j'ai deja fait. Le resultat de ça: patroni demarre bien mais ne rattache pas de postgresql et le pgdata reste vide.....

alors je te met comment ce passe l'installation....
    je crée mon serveur via ansible ou sont descendu les package postgresql14-libs, postgresql14 et postgresql14-server.
    apres cela j install les packages python3-certifi,  patroni-etcd  et jq...
    je crée le fichier patroni.service et le fichier patroni.yml .
Dans le fichier patroni.yml je met bien la bonne adresse ip correspondant à mon serveur  en face de connect_address
et mon name est bien différent sur chacune des vm : ig9-cluster1 sur la  1ere VM, ig9-cluster2 sur la 2eme ....

Je demarre la 1ere vm:

root@div2sv002596:/root# systemctl status patroni
● patroni.service - Patroni  high-availability PostgreSQL
   Loaded: loaded (/etc/systemd/system/patroni.service; enabled; vendor preset: disabled)
   Active: active (running) since Wed 2023-02-22 17:38:09 CET; 20h ago
Main PID: 52614 (patroni)
    Tasks: 11 (limit: 11200)
   Memory: 80.1M
   CGroup: /system.slice/patroni.service
           ├─52614 /usr/bin/python3 /usr/bin/patroni /etc/patroni/patroni.yml
           ├─52635 /usr/pgsql-14/bin/postgres -D /bases/pgsql/14/data --config-file=/bases/pgsql/14/data/postgresql.conf --listen_addresses=* --port=5434 --cluster_name=clusterig9 --wal_l>
           ├─52637 postgres: clusterig9: logger
           ├─52642 postgres: clusterig9: startup recovering 000000010000000000000003
           ├─52649 postgres: clusterig9: checkpointer
           ├─52650 postgres: clusterig9: background writer
           └─52651 postgres: clusterig9: stats collector

je demarre la 2eme vm:

root@div2sv002597:/root# systemctl start patroni
root@div2sv002597:/root# systemctl status patroni
● patroni.service - Patroni  high-availability PostgreSQL
   Loaded: loaded (/etc/systemd/system/patroni.service; enabled; vendor preset: disabled)
   Active: failed (Result: exit-code) since Thu 2023-02-23 14:11:44 CET; 4s ago
  Process: 59533 ExecStart=/usr/bin/patroni /etc/patroni/patroni.yml (code=exited, status=1/FAILURE)
Main PID: 59533 (code=exited, status=1/FAILURE)

Feb 23 14:11:43 div2sv002597 systemd[1]: Started Patroni  high-availability PostgreSQL.
Feb 23 14:11:44 div2sv002597 systemd[1]: patroni.service: Main process exited, code=exited, status=1/FAILURE
Feb 23 14:11:44 div2sv002597 systemd[1]: patroni.service: Failed with result 'exit-code'.

le message d'erreur vu dans patroni.log:
2023-02-23 14:11:43,547 INFO: Selected new etcd server http://XXX.XX.XXX.XXX:2379
2023-02-23 14:11:43,553 INFO: No PostgreSQL configuration items changed, nothing to reload.
2023-02-23 14:11:43,575 CRITICAL: system ID mismatch, node ig9-cluster2 belongs to a different cluster: 7191794644507281311 != 7191807465559984021

ci-dessous mon fichier patroni.service et patroni.yml

exemple patroni.service

----------------------------------------------------------------------
[Unit]
        Description=Patroni  high-availability PostgreSQL
        After=syslog.target network.target
        [Service]
        Type=simple
        User=postgres
        Group=postgres
        ExecStart=/usr/bin/patroni /etc/patroni/patroni.yml
        ExecReload=/usr/bin/kill -s HUP $MAINPID
        KillMode=process
        TimeoutSec=30
        Restart=no
        [Install]
        WantedBy=multi-user.target
--------------------------------------------------------------------------------
exemple fichier patroni

------------------------------------------------------------------------------
scope: clusterig9
namespace: /service/clusterig9/ # valeur par défaut
name: ig9-cluster1
restapi:
  listen: IP_SERVEUR:8008
  connect_address: IP_SERVEUR:8008
log:
  level: INFO
  dir: /var/log/patroni/
etcd:
  hosts:
  - IP_ETCD1:2379
  - IP_ETCD2:2379
  - IP_ETCD3:2379
  username: root
  password: Supp0rt
  protocol: http
bootstrap:
  dcs:
    ttl: 30
    loop_wait: 10
    retry_timeout: 10
    maximum_lag_on_failover: 1048576
    postgresql:
      use_pg_rewind: true
      use_slots: true
      parameters:
        wal_level: replica
        hot_standby: on
        max_wal_senders: 10
        max_replication_slots: 5
  initdb:
  - encoding: UTF8
  - data-checksums
  pg_hba:
  - host all all all scram-sha-256
  - host replication replicator all scram-sha-256
  users:
    dba:
      password: dba_password
      options:
      - createrole
      - createdb
    admin:
      password: admin
      options:
      - createrole
      - createdb
postgresql:
  listen: "*:5434"
  connect_address: IP_SERVEUR:5434
  data_dir: /bases/pgsql/14/data
  bin_dir: /usr/pgsql-14/bin
  authentication:
    replication:
      username: replication
      password: replicator
    superuser:
      username: postgres
      password: postgres
    rewind:
      username: rewinder
      password: rewinder
  parameters:
    unix_socket_directories: '.'
  basebackup:
    max-rate: "100M"
    checkpoint: "fast"
  watchdog:
    mode: automatic
    device: /dev/watchdog
    safety_margin: 5
  tags:
    nofailover: false
    noloadbalance: false
    clonefrom: false
    nosync: false
--------------------------------------------------------------------------------------