ابر و زیرساخت

توزیع بار و مدیریت نشست: راهنمای عملی

اگر کاربران بعد از هر رفرش لاگ‌اوت می‌شوند یا نشست‌ها روی یک سرور گیر می‌کنند، مشکل از توزیع بار و مدیریت نشست است. راه‌حل‌های واقعی و تنظیمات دقیق.

ابر و زیرساخت

کاربر لاگین می‌کند، صفحه را رفرش می‌کند و دوباره صفحهٔ ورود را می‌بیند. یا بدتر: سبد خریدش خالی می‌شود. اگر پشت لود بالانسر بیش از یک سرور دارید، این علامت کلاسیک مسئلهٔ نشست است، نه باگ اپلیکیشن. تا وقتی درخواست‌های یک کاربر بین سرورهای مختلف بچرخند و هر سرور نشست را فقط در حافظهٔ محلی خودش نگه دارد، همین اتفاق می‌افتد. توزیع بار بدون فکر کردن به نشست، فقط ترافیک را پخش می‌کند و مشکل را جابه‌جا می‌کند.

الگوریتم توزیع بار را بر اساس واقعیت ترافیک انتخاب کنید

پیش‌فرض اکثر لود بالانسرها round-robin است و برای اکثر کارها هم کافی است. اما اگر سرورهای شما ظرفیت یکسانی ندارند یا درخواست‌ها سنگین و نامتقارن‌اند، round-robin به سرور ضعیف‌تر فشار می‌آورد و آن را زودتر از بقیه می‌کشد.

  • round-robin: نوبتی. ساده، بدون حالت، مناسب وقتی سرورها هم‌ظرفیت‌اند و درخواست‌ها سبک‌اند.
  • least connections: به سروری می‌رود که کمترین اتصال فعال را دارد. برای درخواست‌های طولانی و ناهمگن (API، دانلود، استریم) انتخاب بهتری است.
  • IP hash: بر اساس IP کاربر تصمیم می‌گیرد. یک راه ساده برای چسبندگی، ولی پشت NAT یا پروکسی همهٔ کاربران یک IP می‌گیرند و بار روی یک سرور می‌افتد.
  • weighted: وزن دستی می‌دهید. وقتی سرور جدید اضافه می‌کنید و می‌خواهید آرام گرم شود، کارساز است.

در Nginx انتخاب الگوریتم یک خط است:

upstream app_backend {
    least_conn;
    server 10.0.0.11:8080 weight=3 max_fails=3 fail_timeout=15s;
    server 10.0.0.12:8080;
    server 10.0.0.13:8080 backup;
}

آن backup را دست‌کم نگیرید. سروری که فقط وقتی بقیه از health check رد می‌شوند وارد مدار می‌شود، در حادثهٔ واقعی نجات‌دهنده است.

health check درست، تفاوت بین قطعی کوتاه و قطعی طولانی است

health check فقط «سرور بالاست؟» نیست. اگر فقط پورت TCP را چک کنید، اپلیکیشنی که دیتابیسش قطع شده ولی پروسه‌اش هنوز گوش می‌دهد، سالم گزارش می‌شود و ترافیک می‌گیرد. باید یک endpoint واقعی بسازید که وابستگی‌های حیاتی را هم بسنجد.

location /healthz {
    access_log off;
    proxy_pass http://127.0.0.1:8080/healthz;
    proxy_connect_timeout 2s;
    proxy_read_timeout 3s;
}

سه نکته که در عمل مهم‌اند:

  1. interval و timeout را کوتاه نگه دارید. بازهٔ ۵ ثانیه با timeout دو ثانیه، سرور مرده را در کمتر از ۱۰ ثانیه از مدار خارج می‌کند. بازهٔ ۳۰ ثانیه یعنی نیم دقیقه کاربر خطا می‌بیند.
  2. آستانهٔ شکست را تنظیم کنید. با max_fails=3 یک لرزش لحظه‌ای باعث خارج شدن سرور نمی‌شود.
  3. health check را از مسیر لاگ و rate limit مستثنا کنید. وگرنه خودش به یک منبع نویز و حتی مسدود شدن تبدیل می‌شود.

اینجا اشتباه می‌کنند: health check را طوری می‌نویسند که همیشه ۲۰۰ برگرداند، فقط برای اینکه در داشبورد سبز بماند. نتیجه‌اش این است که در حادثه، لود بالانسر ترافیک را به سروری می‌فرستد که دیتابیسش رفته و همهٔ درخواست‌ها با خطای ۵۰۰ برمی‌گردند. علامتش هم این است: نمودار خطای کل بالا می‌رود ولی هیچ سروری در لود بالانسر down علامت نمی‌خورد.

سه راه‌حل مسئلهٔ نشست چسبنده

وقتی چند سرور دارید، نشست کاربر باید جایی زندگی کند که همهٔ سرورها ببینند. سه راه واقعی وجود دارد و هرکدام هزینهٔ خودش را دارد.

۱. sticky session در لود بالانسر

لود بالانسر با کوکی یا IP، کاربر را به همان سرور اول می‌چسباند. سریع‌ترین راه است و هیچ تغییری در کد نمی‌خواهد. ولی هزینه‌اش را باید بدانید: توزیع بار دیگر متوازن نیست، یک سرور می‌تواند پر شود در حالی که بقیه بیکارند. بدتر، وقتی آن سرور ری‌استارت شود، همهٔ نشست‌های روی آن از دست می‌روند. برای اپلیکیشن‌های کوچک و ترافیک کم قابل قبول است؛ برای سیستم جدی، بدهی فنی است.

۲. نشست در Redis یا یک سرویس مشترک

نشست را از حافظهٔ محلی سرور بیرون می‌کشید و در یک ذخیره‌گاه مشترک می‌گذارید. حالا هر سروری می‌تواند هر درخواستی را جواب دهد و لود بالانسر آزاد است هر الگوریتمی را اجرا کند. این انتخاب من است، به شرطی که Redis را جدی بگیرید: replica داشته باشد، persistence فعال باشد و در دسترس شبکهٔ همهٔ سرورها باشد. اگر Redis تنها و بدون replica باشد، خودش تبدیل به نقطهٔ شکست واحد می‌شود و کل سایت را می‌خواباند.

session.save_handler = redis
session.save_path = "tcp://10.0.0.20:6379?auth=STRONG_PASSWORD"

یک عدد واقعی از تجربه: با نشست در Redis، حجم هر نشست معمولاً بین ۱ تا ۵ کیلوبایت است. برای ۵۰ هزار کاربر همزمان یعنی حدود ۲۵۰ مگابایت حافظه. این را در ظرفیت Redis حساب کنید، نه اینکه بعد از پر شدن حافظه دنبال علت بگردید.

۳. نشست بدون حالت با توکن امضاشده

اگر از JWT یا توکن امضاشده استفاده می‌کنید، سرور هیچ نشستی نگه نمی‌دارد و مسئله از ریشه حل می‌شود. اما یک تله دارد: باطل کردن توکن قبل از انقضا سخت است. اگر نیاز به logout فوری یا لغو دسترسی دارید، باید یک لیست سیاه یا نسخه‌بندی توکن هم داشته باشید، و آن‌وقت دوباره به یک ذخیره‌گاه مشترک برگشته‌اید.

روشهزینهکجا انتخاب می‌کنم
sticky sessionتوزیع نامتوازن، از دست رفتن نشست هنگام ری‌استارتاپ کوچک، ترافیک کم، بدون زمان برای تغییر کد
Redis مشترکیک سرویس اضافه برای نگهداری و پایشاکثر اپلیکیشن‌های وب با نشست سمت سرور
توکن بدون حالتسختی لغو توکنAPI، موبایل، سرویس‌های بین‌سروری

وقتی خود لود بالانسر گلوگاه می‌شود

یک لود بالانسر نرم‌افزاری روی یک ماشین، تا چند هزار اتصال همزمان را راحت می‌برد. اما وقتی SSL termination هم روی همان ماشین باشد، مصرف CPU رمزنگاری به مصرف پروکسی اضافه می‌شود و اولین جایی که کم می‌آورد CPU است، نه پهنای باند. علامتش این است که latency بالا می‌رود ولی سرورهای پشتیبان بیکارند. راه‌حل، جدا کردن termination یا استفاده از چند لود بالانسر با یک IP شناور است.

اگر ترافیک شما به جایی رسیده که مدیریت این لایه‌ها وقت تیم را می‌خورد، زیرساخت ابری (IaaS) امکان می‌دهد لود بالانسر و سرورهای پشتیبان را در همان شبکهٔ خصوصی بالا بیاورید و کنترل کامل روی تنظیمات داشته باشید.

برای دیدن اینکه واقعاً چه اتفاقی می‌افتد، از سمت کاربر تست کنید، نه از داخل شبکه:

curl -s -o /dev/null -w "%{http_code} %{time_total}\n" \
  -H "Cookie: PHPSESSID=abc123" https://example.com/cart

همین درخواست را ده بار پشت سر هم بزنید. اگر کد وضعیت بین ۲۰۰ و ۳۰۲ نوسان کرد، یعنی نشست شما بین سرورها گم می‌شود. این تست ساده بیشتر از هر داشبوردی حقیقت را نشان می‌دهد.

قبل از هر تغییری در معماری، وضعیت فعلی را اندازه بگیرید. راهنمای مانیتورینگ سرور و هشداردهی هوشمند نقطهٔ شروع خوبی است تا بفهمید مشکل از توزیع بار است یا از جای دیگر. اگر تازه وارد این حوزه شده‌اید، راهنمای کامل توزیع بار و الگوریتم‌ها مفاهیم پایه را پوشش می‌دهد.

پرسش‌های پرتکرار

چرا کاربران بعد از هر رفرش از حساب خارج می‌شوند؟

چون نشست در حافظهٔ محلی یک سرور ذخیره شده و درخواست بعدی به سرور دیگری می‌رود که آن نشست را ندارد. راه‌حل، انتقال نشست به یک ذخیره‌گاه مشترک مثل Redis یا فعال کردن sticky session در لود بالانسر است.

sticky session بهتر است یا ذخیرهٔ نشست در Redis؟

برای سیستم جدی، Redis. sticky session فقط مسئله را پنهان می‌کند و توزیع بار را نامتوازن می‌کند. فقط در اپلیکیشن‌های کوچک با ترافیک کم و زمانی که نمی‌توانید کد را تغییر دهید، sticky انتخاب معقولی است.

health check باید چه چیزی را بررسی کند؟

باید یک endpoint واقعی باشد که اتصال دیتابیس و وابستگی‌های حیاتی را هم بسنجد، نه فقط بالا بودن پروسه. بازهٔ ۵ ثانیه با timeout دو ثانیه و آستانهٔ سه شکست، تعادل خوبی بین سرعت تشخیص و پایداری است.

آیا JWT مسئلهٔ نشست را کامل حل می‌کند؟

در سمت توزیع بار بله، چون سرور حالتی نگه نمی‌دارد. اما لغو توکن قبل از انقضا سخت می‌شود و اگر به logout فوری نیاز دارید، باید لیست سیاه یا نسخه‌بندی توکن اضافه کنید که خودش یک ذخیره‌گاه مشترک می‌خواهد.

قدم بعدی این است: همین حالا با یک درخواست curl که کوکی نشست را همراه دارد، ده بار پشت سر هم به سایت بزنید و کد وضعیت‌ها را ببینید. اگر نوسان داشتند، قبل از هر کار دیگری نشست را از حافظهٔ محلی سرورها بیرون بکشید.

پشتیبانی سرورنت

تیم فنی و تحریریه‌ی سرورنت — تخصص در زیرساخت، شبکه و میزبانی وب.

زیرساخت ابری (IaaS)
اشتراک‌گذاری:

دیدگاه‌ها ۰

هنوز دیدگاهی ثبت نشده؛ اولین نفر باشید!

دیدگاه خود را بنویسید

سرویس مرتبط

زیرساخت ابری (IaaS)

سرور، شبکه خصوصی، فایروال و استوریج — همه با API و پرداخت ساعتی. زیرساختی که با کد ساخته می‌شود و با رشد شما مقیاس می‌گیرد.