Remote Backends and Locking
ไอเดียในหนึ่งประโยค
หัวข้อที่มีชื่อว่า “ไอเดียในหนึ่งประโยค”remote backend เก็บ state ไว้ในที่ที่ shared กันได้อย่าง Cloud Storage แทนที่จะอยู่บน laptop ของคนใดคนหนึ่ง และ locking ป้องกันไม่ให้สองคนเขียนทับ shared state พร้อมกัน
ทำไม local state ถึงใช้กับทีมไม่ได้
หัวข้อที่มีชื่อว่า “ทำไม local state ถึงใช้กับทีมไม่ได้”โดย default terraform.tfstate อยู่บนเครื่องที่รัน apply นั่นโอเคสำหรับการทดลองคนเดียว แต่พังทันทีที่มีคนที่สองเข้ามา
- เพื่อนร่วมทีม A รัน
applyแล้วสร้าง VPC network state file บน laptop ของเขารู้เรื่องนี้แล้ว - เพื่อนร่วมทีม B บน laptop คนละเครื่อง ไม่เคยเห็น state file นั้นมาก่อน พอรัน
planกับ state เก่าหรือ state ว่างบนเครื่องตัวเอง ก็จะพยายามสร้าง VPC network ซ้ำ หรือได้ plan ที่ไม่สมเหตุสมผลเทียบกับของจริงที่มีอยู่ - CI/CD pipeline เจอปัญหาเดียวกันแต่หนักกว่า เพราะ pipeline runner คือ environment ใหม่ที่ใช้แล้วทิ้ง ไม่มี local state file อยู่เลย จึงต้องการ state ฉบับ canonical ที่อ่านและเขียนได้ทุกครั้งที่รัน ไม่ใช่ copy ที่บังเอิญไปอยู่บน laptop ใครสักคน
ทางแก้คือย้าย state ออกจากเครื่องใดเครื่องหนึ่ง ไปไว้บน shared backend ที่ทั้งทีมและทุก CI run ชี้ไปที่เดียวกัน
Config GCS backend
หัวข้อที่มีชื่อว่า “Config GCS backend”วิธีมาตรฐานในการเก็บ Terraform state บน Google Cloud คือ config Cloud Storage bucket ให้เป็น backend
terraform { backend "gcs" { bucket = "my-company-terraform-state" prefix = "networking/state" }}bucket ต้องมีอยู่แล้วก่อนที่จะชี้ backend ไปหา Terraform ไม่สร้าง bucket ให้ bucket คือชื่อ Cloud Storage bucket และ prefix คือ path ภายใน bucket นั้นที่ state object ของ configuration นี้จะถูกเก็บ ดังนั้น configuration ต่างกัน (หรือ Terragrunt unit ต่างกัน) มักใช้ prefix ต่างกันใน bucket เดียวกัน
สังเกตว่าไม่มี argument สำหรับ locking ให้ตั้งเลย ตาม documentation ของ GCS backend เอง “this backend supports state locking” — จบแค่นั้น ต่างจากหน้า S3 backend (ที่ระบุ use_lockfile และ object <key>.tflock) หรือหน้า azurerm (ที่ระบุกลไก blob lease) หน้า GCS backend ไม่ได้อธิบายกลไกเบื้องหลังไว้เลย ควรบอกตรง ๆ แบบนี้ดีกว่าเดา implementation detail ที่ไม่มีหน้า HashiCorp ไหนยืนยัน สิ่งที่ยืนยันได้แน่ ๆ ไม่มี lock table แยกต่างหากให้สร้าง ไม่มี argument เพิ่มให้เปิด และไม่มี GCP resource เพิ่มให้ต้องจ่ายเงินและคอย sync กับ state bucket — locking เป็นคุณสมบัติของ backend กับ bucket เดียวกันนั่นเอง ไม่มีอะไรต้อง provision เพิ่ม นี่เรียบง่ายกว่าเรื่อง locking บน cloud อื่นบางเจ้าจริง ๆ ที่ในอดีตต้อง provision locking resource แยกต่างหากคู่กับ state bucket
การเปิด Object Versioning บน state bucket เองก็ยังคุ้มค่าที่จะทำ Versioning ไม่ใช่สิ่งที่ทำให้เกิด locking — locking ทำงานอยู่แล้วไม่ว่าจะเปิด versioning หรือไม่ — แต่ให้ทางกู้คืนถ้า apply ที่พลาดไปเขียนทับ state ด้วยอะไรที่คุณไม่ต้องการ
Migrate backend init -migrate-state กับ init -reconfigure ต่างกันยังไง
หัวข้อที่มีชื่อว่า “Migrate backend init -migrate-state กับ init -reconfigure ต่างกันยังไง”การเปลี่ยน backend block — ย้ายไป bucket อื่น เปลี่ยน prefix หรือย้ายจาก local ไป gcs ครั้งแรก — ต้องรัน terraform init ใหม่ และ Terraform มี flag สองตัวให้เลือกต่างกันตามว่าอยากให้ state เก่าตามมาด้วยหรือไม่ คอร์สนี้ไม่มี cloud credential เลย พิสูจน์ข้างล่างจึงเปลี่ยน path ของ local backend แทนการ migrate ไป GCS จริง — prompt และกลไกเดียวกันเป๊ะ ๆ ใช้ได้กับการย้าย local→GCS จริง ต่างกันแค่ชนิด backend
terraform init -migrate-state จะถามว่าจะ copy state เดิมไปที่ backend ใหม่ไหม output จริง ตอนเปลี่ยน path = "state/old.tfstate" เป็น path = "state/new.tfstate" ใน backend "local" block
$ terraform init -migrate-stateInitializing the backend...Backend configuration changed!
Terraform has detected that the configuration specified for the backendhas changed. Terraform will now check for existing state in the backends.Do you want to copy existing state to the new backend? Pre-existing state was found while migrating the previous "local" backend to the newly configured "local" backend. No existing state was found in the newly configured "local" backend. Do you want to copy this state to the new "local" backend? Enter "yes" to copy and "no" to start with an empty state.
Enter a value: yes
Successfully configured the backend "local"! Terraform will automaticallyuse this backend unless the backend configuration changes.ตอบ yes แล้ว resource ถูก copy ไปที่ location ใหม่จริง ๆ — state/new.tfstate มี resource local_file ตัวเดียวกับที่ path เก่ามี terraform init -reconfigure ข้าม prompt นั้นไปเลยและ ไม่ copy state มาด้วย — พิสูจน์ เปลี่ยน path อีกครั้งแล้วรัน -reconfigure แทน
$ terraform init -reconfigureInitializing the backend...
Successfully configured the backend "local"! Terraform will automaticallyuse this backend unless the backend configuration changes.ไม่มีคำถาม migration เลย plan ครั้งถัดไปพิสูจน์ความต่าง — Terraform เชื่อว่า resource ไม่มีอยู่แล้ว เพราะ backend location ใหม่ไม่เคยถูกเติมข้อมูล
$ terraform plan # local_file.config will be created + resource "local_file" "config" { + content = "listen=8080\n" + filename = "./generated/app.conf" }
Plan: 1 to add, 0 to change, 0 to destroy.-reconfigure เหมาะกับ “เริ่มสะอาดที่ location ใหม่นี้ ไม่เอา state เก่า” (หรือ backend เก่าหายไป/เข้าไม่ถึงแล้ว) ส่วน -migrate-state เหมาะกับ “นี่คือ infrastructure เดิม แค่ย้ายที่เก็บ state record” เลือกผิดตัวกับ GCS bucket จริง จะทำให้ state เก่าถูกทิ้งไว้ไม่ได้ migrate หรือแย่กว่านั้น ทำให้ Terraform คิดว่า VPC network ที่รันอยู่ต้องสร้างใหม่ตั้งแต่ต้น
Partial backend configuration ด้วย -backend-config
หัวข้อที่มีชื่อว่า “Partial backend configuration ด้วย -backend-config”backend block ไม่จำเป็นต้อง hardcode ทุก argument — ปล่อยว่างไว้แล้วใส่ค่าตอน init (จากไฟล์ หรือ -backend-config="key=value" ทีละตัว) ทำให้ค่าเฉพาะ environment ไม่ต้องอยู่ในไฟล์ .tf ที่ commit
terraform { backend "gcs" {}}# backend.hcl (not committed, or generated by CI per environment)bucket = "my-company-terraform-state"prefix = "networking/state"terraform init -backend-config=backend.hcloutput จริงกับ local backend พิสูจน์ว่า flag ถูกยอมรับและ merge เข้าไป (path ถูกส่งแบบเดียวกับที่ bucket/prefix จะถูกส่งให้ GCS)
$ terraform init -backend-config=backend.hclInitializing the backend...
Successfully configured the backend "local"! Terraform will automaticallyuse this backend unless the backend configuration changes.นี่คือกลไกเดียวกับที่ CI pipeline ใช้ชี้ configuration เดียวกันไปที่ GCS bucket หรือ prefix คนละอันต่อ environment (dev.hcl, prod.hcl) โดยไม่ต้อง duplicate ไฟล์ .tf
terraform force-unlock ทางออกแบบ manual
หัวข้อที่มีชื่อว่า “terraform force-unlock ทางออกแบบ manual”ถ้า apply ถูก kill กลางคัน (laptop sleep, CI job ถูก cancel) lock ที่มันถือไว้อาจค้างอยู่โดยไม่มีอะไรมาปล่อยมันแล้ว terraform force-unlock <LOCK_ID> ลบ lock นั้นด้วยมือ output จริงจาก -help ของ Terraform 1.16.4
$ terraform force-unlock -helpUsage: terraform [global options] force-unlock LOCK_ID
Manually unlock the state for the defined configuration.
This will not modify your infrastructure. This command removes the lock on the state for the current workspace. The behavior of this lock is dependent on the backend being used. Local state files cannot be unlocked by another process.
Options:
-force Don't ask for input for unlock confirmation.LOCK_ID ไม่ใช่อะไรที่คุณคิดขึ้นเอง — ตอน lock ถูกถืออยู่แล้ว run ถัดไป ที่ acquire ไม่ได้จะ print lock ID นั้น (พร้อมว่าใครถืออยู่ และตอนไหน) ใน error message ของตัวเอง แล้ว ID นั้นแหละที่เอาไปวางใน force-unlock lock ที่ค้างจริง ๆ ไม่สามารถจำลองแบบ offline ได้ในคอร์สนี้ — local backend ที่ harness ใช้ไม่มี lock ให้ค้างแบบที่ GCS-backed lock ทำได้ (-help text ข้างบนบอกตรง ๆ ว่า “Local state files cannot be unlocked by another process”) ปฏิบัติกับ force-unlock เป็นทางเลือกสุดท้ายสำหรับ lock ที่คุณ verify แล้วว่าค้างจริง (process ที่ถือมันหายไปจริง ๆ — เช็คก่อน เช่นว่า CI run นั้นถูก cancel จริงไหม) ไม่ใช่ reflex สำหรับ “apply ของฉันช้าไปหน่อย”
Terragrunt remote_state generate backend.tf ที่ไม่ต้องเขียนมือ — และพิสูจน์ว่า project/location ไม่ได้อยู่ในนั้น
หัวข้อที่มีชื่อว่า “Terragrunt remote_state generate backend.tf ที่ไม่ต้องเขียนมือ — และพิสูจน์ว่า project/location ไม่ได้อยู่ในนั้น”remote_state block ของ Terragrunt ใน root.hcl generate backend block แบบข้างบนให้ทุก unit ที่ include มัน โดย resolve prefix ต่อ unit ด้วย path_relative_to_include() GCS backend คือตัวที่สำคัญที่สุดที่ต้องพิสูจน์ว่า config key ไหนไปอยู่ในไฟล์ที่ generate จริง เพราะ remote_state ยังรับ project กับ location เพื่อ auto-create bucket ถ้ายังไม่มีด้วย
remote_state { backend = "gcs" generate = { path = "backend.tf" if_exists = "overwrite" } config = { project = "my-gcp-project-id" location = "us-central1" bucket = "my-company-terraform-state" prefix = "${path_relative_to_include()}" }}include "root" { path = find_in_parent_folders("root.hcl")}
terraform { source = "."}รัน terragrunt run -- init -backend=false ใน unit network generate backend.tf จริง — และมันพิสูจน์ประเด็นนี้ตรง ๆ project กับ location ไม่ ปรากฏในนั้นเลย มีแค่ bucket กับ prefix ที่ resolve แล้ว
# Generated by Terragrunt. Sig: nIlQXj57tbuaRZEaterraform { backend "gcs" { bucket = "my-company-terraform-state" prefix = "network" }}project กับ location ถูก Terragrunt เองใช้ในขั้นตอนเช็คว่า bucket มีอยู่ไหมและสร้างถ้ายังไม่มี (disable_init = false ค่า default) — มันไม่มี field เทียบเท่าใน schema ของ gcs backend block เอง ดังนั้นถ้า generate ไปด้วยจะได้ backend configuration ที่ invalid นี่ตรงข้ามกับกรณี AWS/azurerm (เวอร์ชัน AWS ของ state-management/remote-backends-and-locking.mdx) ที่ทุก key ใน config เป็น backend argument จริงและไปอยู่ในไฟล์ตรง ๆ — remote_state block ของ GCP ทำงานสองอย่างพร้อมกัน (bootstrap bucket บวก generate backend) ด้วย key set สองชุดที่ต่างกัน และมีแค่ชุดเดียวที่เป็น backend syntax
Locking ป้องกันอะไรจริง ๆ
หัวข้อที่มีชื่อว่า “Locking ป้องกันอะไรจริง ๆ”ลองนึกภาพว่าไม่มี locking สองคน หรือคนหนึ่งกับ CI run รัน terraform apply กับ state เดียวกันที่ backend เป็น GCS ในเวลาไล่เลี่ยกัน ทั้งคู่อ่าน state ปัจจุบัน ทั้งคู่คำนวณ plan และทั้งคู่เริ่มเขียนผลลัพธ์กลับไปที่ state object ตัวเดียวกัน ขึ้นอยู่กับ timing การเขียนครั้งที่สองอาจเขียนทับครั้งแรก ทำให้ change ที่ run แรกบันทึกไว้หายไปเงียบ ๆ ทั้ง ๆ ที่ infrastructure ของ run แรกถูกเปลี่ยนไปแล้วจริง หรือ state file อาจ corrupt กลางคันได้เลย
lock เปลี่ยน race แบบนี้ให้กลายเป็นคิว apply ตัวแรกที่เริ่มจะได้ lock ไป ส่วน apply ตัวที่สองจะรอให้ lock ถูกปล่อย หรือ fail ทันทีด้วย error “state is locked” ที่ชัดเจน ขึ้นอยู่กับ flag ที่ใช้ ไม่ว่าทางไหน run ที่สองก็ไม่มีสิทธิ์เขียนทับ state ของ run แรกในระหว่างที่ run แรกยังทำงานอยู่
# A run that finds the state already locked fails fast with a clear message,# rather than corrupting the state fileterraform apply# Error: Error acquiring the state lockflowchart LR eng1["Engineer A: terraform apply"] -->|acquires lock| gcs["GCS state object"] eng2["CI run: terraform apply"] -->|blocked, waits or fails| gcs gcs -->|lock released after apply| eng2
Mental Model
หัวข้อที่มีชื่อว่า “Mental Model”ทุกกลไกในบทนี้มีไว้ตอบคำถามเดียวอย่างตรงไปตรงมา “ใครชนะตอนเขียน และผู้แพ้รู้ตัวไหม” remote backend ตอบว่า “อะไรคือฉบับจริงหนึ่งเดียว” ไม่ให้ laptop ใครเป็นฉบับนั้น locking ตอบว่า “เกิดอะไรขึ้นตอนสองการเขียนชนกัน” โดยเปลี่ยน race ให้เป็นคิวแทนที่จะเป็นการสุ่ม — พิสูจน์ข้างบน หน้า backend ของ GCS เองยืนยันว่า locking รองรับโดยไม่ over-claim กลไกที่ไม่มีหน้าไหน document จริง -migrate-state กับ -reconfigure ตอบว่า “record เก่าตามมาด้วยไหม” ตอน backend location เปลี่ยน force-unlock มีอยู่เพราะกลไกคิวเองก็ติดขัดได้ (lock holder ที่จะไม่มีวันปล่อยแล้ว) — มันคือการ override คิวด้วยมือ ไม่ใช่ตัวแทนของคิว และ remote_state block ของ GCP ทำงานสองอย่างที่ต่างกันจริง ๆ พร้อมกัน (bootstrap bucket, generate backend config) — สับสน key set สองชุดนี้คือ mistake แบบที่ output จริงของ terragrunt render จับได้ทันที
ข้อแลกเปลี่ยน
หัวข้อที่มีชื่อว่า “ข้อแลกเปลี่ยน”| ทางเลือก | ได้อะไร | เสียอะไร |
|---|---|---|
| locking built-in ของ GCS backend | ไม่ต้อง provision lock table หรือ argument เพิ่ม (พิสูจน์ข้างบนผ่าน docs ของ backend เอง) | กลไกที่แน่ชัดไม่ถูก document ในหน้าเอง — บอกเป็นช่องว่างจริงดีกว่าเดาเอง |
-migrate-state แทน -reconfigure ตอน backend location เปลี่ยน | state เก่าตามมาด้วย — พิสูจน์ข้างบน resource ยังถูก track อยู่หลังจากนั้น | ต้องตอบ prompt แบบ interactive (หรือ -input=false บวกความระมัดระวัง) — พลาดกดตอบ “no” แล้วเสียการเชื่อมกับ infrastructure ที่มีอยู่ได้ง่าย |
remote_state ที่ project/location auto-create bucket | block เดียว bootstrap infrastructure และ generate backend config พร้อมกัน | สอง key นี้หายไปจากไฟล์ที่ generate เงียบ ๆ (พิสูจน์ข้างบน) — เผลอคิดผิดว่าเป็น backend argument จริงได้ง่าย |
Partial backend config (-backend-config) | ค่าเฉพาะ environment ไม่ต้องอยู่ในไฟล์ .tf ที่ commit | backend block เพียว ๆ อ่านแยกไม่บอกอีกต่อไปว่า state จริงอยู่ bucket/prefix ไหน — ต้องไปหาไฟล์ -backend-config หรือ CI step ด้วย |
ความเข้าใจผิดที่พบบ่อย
หัวข้อที่มีชื่อว่า “ความเข้าใจผิดที่พบบ่อย”- “
terraform init -reconfigureเป็นแค่ชื่อที่ปลอดภัยกว่าของ-migrate-state” พิสูจน์ข้างบน-reconfigureไม่ถามและไม่ copy state เลยplanครั้งถัดไปแสดง resource ที่ track ไว้เป็น “to create” อีกครั้ง เพราะ backend location ใหม่ไม่เคยถูกเติมข้อมูล - “lock ค้างเป็นเรื่องปกติ และ
force-unlockเป็นคำสั่งประจำวัน” พิสูจน์ข้างบนจาก-helptext จริง มันคือทางออกฉุกเฉินสำหรับ lock ที่ verify แล้วว่า holder หายไปจริง ไม่ใช่ default response สำหรับ apply ที่ช้าหรือกำลังทำงานอยู่ - “GCS locking ทำงานผ่าน object generation number กับ versioning แบบเดียวกับที่ object versioning ทำงาน” ไม่มีหน้า HashiCorp ไหนที่ fetch มายืนยันกลไกนี้เลย คำตอบที่ตรงไปตรงมา พิสูจน์ข้างบน คือ docs ยืนยันแค่ว่า locking รองรับโดยไม่บอกว่าทำงานยังไง การยืนยันกลไกแบบมั่นใจคือ unverifiable claim แบบที่คอร์สนี้หลีกเลี่ยง
- “
projectกับlocationของremote_stateไปอยู่ในbackend.tfที่ generate ด้วย เพราะอยู่ในconfigmap เดียวกับbucket/prefix” พิสูจน์ข้างบนด้วย output จริงที่ generate มีแค่bucketกับprefixเท่านั้นproject/locationถูก Terragrunt ใช้เต็ม ๆ ในขั้น bootstrap bucket และไม่มี field เทียบเท่าใน schema ของgcsbackend block เลย
อ่านโค้ดที่ AI เขียน
หัวข้อที่มีชื่อว่า “อ่านโค้ดที่ AI เขียน”ตอน review backend configuration หรือ migration script ที่ generate มา เช็คสิ่งเหล่านี้
- อ้างเป็นข้อเท็จจริงอย่างมั่นใจว่า GCS implement backend locking ภายในยังไง (object generation number, precondition mechanism เฉพาะ) — พิสูจน์ข้างบน ไม่มีหน้า HashiCorp ไหนที่ fetch มา document กลไกนี้เลย บอกช่องว่างนั้นตรง ๆ ดีกว่าเดา internal ที่ฟังดูสมเหตุสมผล
terraform init -reconfigureถูกใช้ใน runbook step ที่ตั้งใจจะรักษา state เดิมไว้ — พิสูจน์ข้างบน-reconfigureไม่ migrate state เลย flag ที่ถูกต้องสำหรับ intent นั้นคือ-migrate-state- CI script ที่ pipe
yesเข้าterraform initทุกครั้งแบบไม่มีเงื่อนไขเพื่อเลี่ยง interactive prompt รวมถึง prompt “copy existing state?” ของ-migrate-state— คำตอบนั้นต้องเป็นyesที่ตั้งใจ ไม่งั้น script เสี่ยง copy state ไปผิดที่แบบเงียบ ๆ force-unlockถูกเรียกด้วย lock ID ที่คิดขึ้นเองหรือ copy มาจาก tutorial แทนที่จะเป็น ID ที่ print ออกมาจาก error “state is locked” จริงของ run นั้น- Terragrunt
remote_stateblock ที่สมมติว่าbackend.tfที่ generate มีproject/locationอยู่ด้วย (เพราะอยู่ในconfigmap เดียวกัน) — พิสูจน์ข้างบน มันหายไปเงียบ ๆ tool ปลายทางไหนที่พยายามอ่านสอง key นี้จากไฟล์ที่ generate จะไม่เจออะไรเลย
🐛 หา bug ในโค้ดนี้
# CI "cleanup" step run before every apply, to avoid ever seeing a locked-state errorterraform force-unlock -force $(cat last-known-lock-id.txt)terraform apply -auto-approveเฉลย
บรรทัดนี้รัน force-unlock แบบไม่มีเงื่อนไขก่อน apply ทุกครั้ง โดยใช้ lock ID ที่ cache มาจาก run ก่อนหน้า ไม่ใช่ ID ของ lock ที่มีอยู่จริงตอนนี้ พิสูจน์ข้างบน force-unlock “will not modify your infrastructure” ด้วยตัวมันเอง แต่การปล่อย lock ที่กำลังถูกถืออยู่จริง — โดย teammate ที่ apply อยู่ หรือ CI run ที่รันพร้อมกัน — แบบไม่ดูอะไร คือการเอาการป้องกันเดียวที่ state locking ให้ไว้ออกไป บรรทัดถัดมา apply จะแข่งตรง ๆ กับสิ่งที่ถือ lock นั้นอยู่ ซึ่งคือ scenario การเขียนพังที่ locking มีไว้ป้องกันเป๊ะ ๆ การใช้ force-unlock ที่ถูกต้องคือ reactive และทำด้วยมือ อ่าน error “state is locked” จริงที่ระบุ ID มา verify แยกว่า holder หายไปจริง แล้วค่อย unlock ID นั้นตัวเดียว — ไม่ใช่ step ล่วงหน้าใน script ที่รันไม่ว่าจะมีอะไร lock อยู่จริงหรือไม่