Tag: Postgresql Replication Slot

PostgreSQL’de Logical Replikasyon

Logical replikasyon, veri objelrini ve değişikliklerini replikasyon kimliklerine(replication identity) (genellikle primary key olur) dayalı olarak replikasyon yöntemidir. Bir önceki yazımda detaylı şekilde anlattığım gibi stream replikasyon,  primary sunucudaki her değişiklik WAL üzerinden stream edilip, standby sunucuya uygulanır. Bununla birlikte, stream replikasyon kullanırken bazı şeyler mümkün değildir;

  • Stream replikasyon cluster seviyesindedir, cluster da sadece istediğimiz veritabanları veya veritabanlarındaki istediğimiz objeleri replikasyon yapamayız. Stream replikasyonla sadece komple cluster seviyesinde replikasyon yapabiliriz, tahmin edeleceği gibi bu kısıtın nedeni de cluster seviyesinde sadece bir tane WAL mekanizması olması.
  • Stream replikasyonla iki majör versiyon arasında replikasyon yapılamaz.
  • Standby sunucu read-write olarak kullanılmaz.
  • Farklı platformlar arasında replikasyon yapılamaz.(Linux,Windows vb.)
  • Birden fazla veritabanını aynı yere replikasyon yapılamaz.

PostgreSQL 10 ile stream replikasyonun yukarıdaki sınırlamalarını ele alan ve replikasyonda yeni kullanım alanları yaratan logical replikasyon hayatımıza girdi. Transactional replikasyon olarak da bilinir.

Logical replikasyon, publish ve subscribe modelini takip eder. Publisher(kaynak) sunucu, bir tablodan veya bir grup tablodan yapılan değişikliklerden oluşan bir publication(yayın) oluşturulur. Subscriber sunucu, bir veya daha fazla publication(yayına) abone olabilen bir abonelik oluşturulur. Publication, triggerların belirli olay türleri tarafından nasıl çalıştırıldığına benzer şekilde, ürettikleri değişiklikleri herhangi INSERT, UPDATE, DELETE ve TRUNCATE kombinasyonuyla sınırlamayı seçebilirler. Varsayılan olarak, tüm işlem türleri çoğaltılır.

postgresql logical replication

Update veya delete görecek satırların abone tarafında tanımlanabilmesi için, yayınlanan bir tablonun GÜNCELLEME ve SİLME işlemlerini replike edebilmek için yapılandırılmış bir replica identity olması gerekir. Varsayılan olarak bu primary key’dir, tabi istenirse unique bir sütunda replica identity olarak seçilebilir. Tablonun primary key veya uniqe alanı yoksa bu defada replica identity olarak full seçebiliriz yani tüm satırı replica identity olarak kullanabiliriz, ancak bu  çok verimsizdir. Publisher tarafında “full” dışında bir replica identity ayarlanmışsa, subscriber tarafında aynı veya daha az sütunu içeren bir replica identity de ayarlanmalıdır.Bu arada her publication’ın birden fazla subscriber’ı olabilir. Kaynak ve hedefteki tablolar farklı sütun sayısına veya sırasına sahip olabilir ancak sütun veri tipleri ve sütun adları aynı olmalıdır.

Her subscription, değişiklikleri bir replication slot aracılığıyla alacaktır. Subscription silindiğinde ve yeniden oluşturulduğunda, senkronizasyon bilgileri kaybolur. Bu, verilerin daha sonra yeniden senkronize edilmesi gerektiği anlamına gelir. Şema tanımları kopyalanmaz ve yayınlanan tablolar abone üzerinde bulunmalıdır. Yalnızca normal tablolar çoğaltmanın hedefi olabilir. Yani aşağıdaki objeleri logical replikasyona dahil edemeyiz;

  • Veritabanı şemaları ve DDL komutları replike edilemez, şema pg_dump –schema-only kullanılarak elle kopyalanabilir. Sonraki şema değişikliklerinin manuel olarak senkronize edilmesi gerekir. Bununla birlikte, şemaların her iki tarafta da kesinlikle aynı olmasına gerek olmadığını unutmayın taki bizim subscriber sunucuya gelen tablolarımızla ilgili değişiklik yapmadığımız sürece.
  • Sequence replikasyonu yapılamaz, subscriber read only bir veritabanı olarak kullanılıyorsa, bu genellikle bir sorun teşkil etmemelidir. Bununla birlikte, subscriber veritabanına bir tür geçiş veya yük devretme amaçlanıyorsa, publisher’dan mevcut verileri kopyalayarak (pg_dump kullanarak) veya yeterince yüksek bir değer belirleyerek sequenclerin en son değerlere güncellenmesi gerekecektir.
  • Large nesneler replike edilemez
  • View ve Materialized view replike edilemez
  • Foreing table replike edilemez
  • Partition tablolardaki root bölümler replike edilemez

Şimdi Örnek üzerinden bir logical replikasyon yapılandıralım; (continue reading…)

Loading


PostgreSQL’de Replikasyon

Günümüz dünyasında veri kritik bir emtiadır ve bu nedenle verileri tek bir yerde saklamak risklidir, bu nedenle bir arızadan mümkün olan en kısa sürede kurtulmanızı sağlamak için bir stratejiniz ve bir planınız olması gerekir.

Replikasyon, yüksek kullanılabilirlik (HA- High Availability) ve etkili felaket kurtarma (DR – Disaster Recovery) stratejisi sağlamayı amaçlayan herhangi bir veritabanı sisteminin kritik bir parçasıdır. HA ve DR’ın yanında replikasyon performans, yedeklilik, veri aktarımı ve test sistemlerinin kurulumu içinde kullanılabilir.

Replikasyon terimi, bir veya daha fazla yazılım veya donanım sistemi arasında bilgi paylaşımı sürecini tanımlamak için kullanılır; güvenilirlik, kullanılabilirlik ve hata toleransı sağlamak için. Bu sistemler aynı veri merkezinde olabileceği gibi, tek bir makinede olabilir veya farklı veri merkezinde olup  ağ üzerinden bağlanabilir. Replikasyon, genel olarak Donanım ve Yazılım kategorilerine ayrılabilir, bu kategorileri kısaca inceleyeceğiz, ancak ana odak noktası veritabanı replikasyonudur. Önce kısaca veritabanı replikasyonu tanımını yapmak istiyorum; Veritabanı replikasyonu, verilerin veritabanı instance’ından bir veya daha fazla veritabanı instance’ına kopyalanması sürecini açıklar.

Donanım Tabanlı Replikasyon

Donanım tabanlı replikasyon, birden çok bağlı sistemi senkronize tutar. Bu veri senkronizasyonu, sistemde bir I/O gerçekleştirilir gerçekleştirilmez depolama düzeyinde yapılır, yapılandırılmış depolama modüllerine/cihazlarına/sistemlerine yayılır. Bu tür bir replikasyon, depolama alanının tamamı veya seçilen partition için yapılabilir. Bu tür bir çözümün en büyük avantajı, (genellikle) kurulumunun kolay olması ve yazılımdan bağımsız olmasıdır. Bu, çok daha iyi performans göstermesini sağlar, ancak replikasyon üzerindeki esnekliği ve kontrolü azaltır. Bu tür çoğaltmanın  artıları;

  • Gerçek zamanlı : Tüm değişiklikler sonraki sistemlere hemen uygulanır.
  • Kurulumu Kolay : Hiçbir komut dosyası veya yazılım yapılandırması gerekmez.
  • Uygulamadan Bağımsız : Replikasyon, depolama katmanında gerçekleşir ve işletim sistemi/yazılım uygulamasından bağımsızdır.
  • Veri Bütünlüğü ve Tutarlılığı : Mirror işlemi, depolama diskinin tam bir kopyasını depolama katmanında gerçekleştiğinden, veri bütünlüğü ve tutarlılığı otomatik olarak sağlanır.

Donanım tabanlı replikasyonun bazı avantajları olmasına rağmen, yine de kendi sınırlamaları ile birlikte gelir. Genellikle donanım üreticisi firma bağımlılığına dayanır, yani aynı tip donanım kullanılmalıdır ve buda çoğu zaman çok uygun maliyetli olamıyor.

Yazılım Tabanlı Replikasyon

Bu replikasyon tipi genel çözümlerden ürüne özgü çözümlere kadar değişebilir. Genel çözümler, verileri yazılım düzeyinde farklı sistemler arasında kopyalayarak donanım çoğaltmasını taklit etme eğilimindedir. Replikasyonun gerçekleştirilmesinden sorumlu olan yazılım, yazılan her biti kaynak depolamaya kopyalar ve hedef sistemlere yayar. Oysa ürüne özgü çözümler, ürün gereksinimlerine daha duyarlıdır ve genellikle belirli bir ürün içindir. Yazılım tabanlı çoğaltmanın artıları ve eksileri vardır. Bir yandan, replikasyonun nasıl yapıldığına ilişkin esneklik ve kontrol sağlar ve genellikle donanım tabanlı repliksayona göre düşük maliyetlidir ve çok daha iyi bir dizi özellik sağlar. Ancak öte yandan, çok fazla konfigürasyon gerektirir ve sürekli izleme ve bakım gerektirir.

Veritabanı Replikasyonu

Şimdi asıl konumuz olan veritabanına replikasyonuna girmeden önce veritabanı dünyasındaki bir replikasyon sisteminin farklı bileşenlerini tanımlamak için kullanılan terminolojilerden bahsedelim; Primary-Standby, Master-Slave, Publisher-Subscriber, Master-Master/Multimaster replikasyon kurulumuna katılan veritabanı sunucularını tanımlamak için en sık kullanılan terimlerdir. Primary, Master ve Publisher terimleri kendisi tarafından alınan değişiklikleri diğer düğümlere yaymaya çalışan aktif düğümü tanımlamak için kullanılır. Standby, Slave ve Subscriber terimleri aktif düğümlerden yayılan değişiklikleri alacak pasif düğümleri tanımlamak için kullanılır. Ben aktif düğümü tanımlamak için Primary ve pasif düğüm için Standby terimlerini kullanacağım.

Veritabanı Replikasyonun nasıl çalıştığı hakkında anlamamız gereken bazı temel noktalar vardır;

  • Postgres, primary sunucu arızalandığında otomatik olarak yük devretme işlevi sağlamaz. Yük devretmeyi yönetmek için 3. parti araç kullanmadığınız sürece bu manuel bir işlemdir.
  • Standby ile yük denegeleme(load balancing) otomatik değildir. Yük dengeleme, uygulamanız için bir gereksinimse, read-write işlemleri için primary sunucuyu ve read only işlemler için standby sunucuyu kullanan bir yük dengeleme çözümü sağlamalısınız.

Primary-Standby (Single Master) ve Multi Master Replikasyon

Veritabanı replikasyonu Primary-Standby  ve Multi-Master olmak üzere 2 model ile kurgulanabilir.

Primary-Standby  Replikasyon : Belirlenen primary veritabanındaki değişiklikler bir veya daha fazla standby sunucusuna çoğaltılır. Standby veritabanının read write kullanımına izin verilmez. (Bir şekilde standby veritabanında read write yapılsa bile bu değişiklikler primary veritabanına kopyalanmaz) Bu kullanımda, uygulamaların trafiği primary veritabanına yönlendirmesi gerektir. Tek primary’dan dolayı çatışma(conflict) ihtimali yoktur. Yapılandırma ve yönetme daha az karmaşık olduğu için çoğu zaman tek primary yeterlidir.

Multi-Master Replikasyon : Master görevi gören birden fazla sunucu olduğu anlamına gelir. Veriler, sunucular arasında çoğaltılır ve read write işlemleri bir grup master sunucu üzerinde mümkün olabilir. Bu durumda, verilerin birden çok kopyası vardır. Sistem aynı zamanda eşzamanlı değişiklikler arasında meydana gelen herhangi bir çatışmanın(conflict) çözümünden de sorumludur.

NOT : Yukarıdada yazdığım gibi, primary-standby replikasyon çoğu durumda yeterlidir, ancak yine de, multi-master replikasyon gereksiniminin olduğu bazı durumlar vardır. PostgreSQL internal olarak multi-master replikasyon modeline sahip değildir. Bazı Multimaster replikasyon çözümleri (BDR, xDB, PostgreSQL-XL, PostgreSQL-XC2, Rubyrep, Bucardo) mevcuttur, bunlardan bazıları uygulama olarak geliştirilmiş ve bazıları PostgreSQL fork larıdır. Bu forkların kendi toplulukları vardır ve çoğunlukla tek bir şirket tarafından yönetilir, ancak bunlar ana PostgreSQL community tarafından yönetilmez.

Senkron ve Asenkron Replikasyon

Veritabanı replikasyonu Senkron ve Asenkron olmak üzere iki strateji ile kurgulanabilir;

Senkron Replikasyon : Maksimum veri koruması için bir koruma yöntemidir, standby veritabanı bu modda kullanıcıya sıfır veri kaybı  özelliği sağlar. Bu stratejide kullanıcı başlattığı bir transaction için commit koyduğu anda başlatılan transaction Standby’a uygulanmadan kullanıcıya commit edildiği bilgisi dönmez. Senkron replikasyon, anlık yük devretme gereksinimleri olan üst düzey ortamlarda kullanılır diyebiliriz.

Asenkron Replikasyon : Bu stratejide kullanıcı commit yaptığı anda standby veritabanları beklenmeden(sadece primary veritabanınında wal kaytlarının diske yazılması beklenir)  commit edildiği bilgisi kullanıcıya döner, yani transaction commit edildiğinde sadece primary veritabnına verinin yazılacağının garantisi vardır. Primary veritabanının çöküp standby veritabanlarından devam etme durumunda veri kaybı meydana gelebilir, ancak bu strateji primary veritabanına çok az ek yük sağlar ve bu nedenle çoğu durumda kabul edilebilir.

Postgresql Cluster Replication

NOT : Bazı sistemler ayrıca karar vermek için quorum  kullanır. Quorum kullanılırsa, veritabanlarının yarısından fazlasının cluster içindeki bir eylem üzerinde anlaşması gerekir.  Örneğin 3 PostgreSQL sunucusundan (master, slave-1, slave-2) oluşan bir clusterı düşünürsek, synchronous_standby_names’i ANY 1 (slave-1,slave-2) ayarlayarak quorum replication ayarlayabiliriz. Bu şekilde üç node’dan ikisi daima en yeni verilere sahip olacaktır.

Amacınıza uygun olanı seçebilmeniz için her iki tür replikasyon modunun nasıl çalıştığını anlamak önemlidir. Herhangi bir seçimde performans dikkate alınmalıdır. İşlevsellik ve performans arasında genellikle bir denge vardır. Örneğin, yavaş bir ağ üzerinden tamamen senkron bir çözüm, performansı yarıdan fazla düşürebilirken, asenkron bir çözümün performansı minimum düzeyde etkileyebilir. (continue reading…)

Loading


  • Sertifikasyon



  • Etiketler

  • Topluluklar

                     
                     
  • Copyright © 1996-2010 Mustafa Bektaş Tepe. All rights reserved.
    Türkçeleştirme Blogizma | AltyapıWordPress