یک مشکل عملکرد حیاتی باعث شد تا آزمایش بارگذاری EchoAPI را کشف کنم

Summarize this content to 400 words in Persian Lang
در چشم انداز توسعه نرم افزار امروزی، عملکرد و قابلیت اطمینان API ها بسیار مهم است. اخیراً، به‌عنوان یک توسعه‌دهنده باطن، یک نقطه پایانی API جدید با هدف ارائه خدمات جستجوی داده پویا ایجاد کردم. هدف این بود که اطمینان حاصل شود که API در عرض 100 میلی ثانیه پاسخ می دهد و می تواند همزمانی بالا را مدیریت کند و تا 1000 کاربر همزمان را پشتیبانی کند. علیرغم آزمایش اولیه، کاربران مشکلات عملکرد قابل توجهی را در زمان اوج مصرف گزارش کردند. این شرح مفصلی از چگونگی است EchoAPI به شناسایی و رفع این تنگناهای عملکرد کمک کرد.

نیازهای اولیه و فاز توسعه

نقطه پایانی API برای ارائه خدمات جستجوی داده پویا با الزامات سختگیرانه در زمان پاسخگویی و همزمانی طراحی شده است:

زمان پاسخگویی: زیر 100 میلی ثانیه

کاربران همزمان: تا 1000 کاربر

در طول تست عملکردی اولیه، به نظر می رسید که همه چیز خوب کار می کند. با این حال، استفاده در دنیای واقعی به سرعت مشکلات را برجسته کرد:

بازخورد اوج عصر: کاربران عملکرد ضعیف و وقفه های مکرر در عصر را گزارش کردند، احتمالاً زمانی که استفاده در اوج خود بود.

کشف گلوگاه عملکرد

بازخورد کاربر و عیب یابی اولیه

کاربران تأخیر قابل توجه و وقفه های گاه به گاه را در دوره های پر بار، به ویژه در عصر تجربه کردند. برای تشخیص مشکل، ابتدا یک اسکریپت تست همزمان سفارشی تهیه کردم. متأسفانه، این تست‌ها فاقد پیچیدگی و مقیاس ترافیک واقعی بودند و نتوانستند مسائل مربوط به عملکرد دنیای واقعی را ثبت کنند.

روی آوردن به EchoAPI برای تجزیه و تحلیل جامع

با شناخت محدودیت‌های رویکرد آزمایش اولیه‌ام، برای راه‌حل قوی‌تر به EchoAPI روی آوردم. این روند به شرح زیر است:

مرحله 1: راه اندازی و پیکربندی

من پیکربندی کردم EchoAPI برای شبیه سازی رفتار کاربر در دنیای واقعی:

کاربران همزمان: 1000

مدت زمان آزمون: 200

مرحله 2: آزمایش های بارگذاری اولیه

آزمایشات اولیه مشکلات شگفت انگیزی را نشان داد:

پرس و جو در ثانیه (QPS): 206
میانگین زمان پاسخ (ART): 800 میلی ثانیه
حداکثر زمان پاسخگویی: 3017 میلی ثانیه
میزان خطا: 5.26%
استفاده از CPU: افزایش به 90٪
میزان استفاده از حافظه: حداکثر در 85٪

این نتایج همراه با داده های نظارت ماشین به وضوح چندین گلوگاه عملکرد را نشان می دهد:

زمان پاسخگویی بالا: میانگین زمان پاسخ بسیار بالاتر از هدف 100 میلی ثانیه بود.

تأخیرهای درخواست پایگاه داده: تأخیر قابل توجهی در پردازش پرس و جو پایگاه داده مشاهده شد.

استفاده از منابع: استفاده از CPU و حافظه بالا نشان دهنده ناکارآمدی کد API است.

استراتژی بهینه سازی و پیاده سازی

بهینه سازی 1: نمایه سازی پایگاه داده و بهینه سازی پرس و جو

تجزیه و تحلیل اولیه نشان داد که پرس و جوهای پایگاه داده گلوگاه اصلی هستند. این چیزی است که من انجام دادم:

قبل از بهینه سازی:

پرس و جو اولیه به دلیل عدم نمایه سازی مناسب منجر به اسکن کامل جدول شد:

SELECT * FROM Users WHERE last_login < ‘2024-01-01’;

وارد حالت تمام صفحه شوید

از حالت تمام صفحه خارج شوید

این پرس و جو منجر به عملکرد کند شد، به خصوص با رشد مجموعه داده.

پس از بهینه سازی:

افزودن ایندکس به ستون last_login به طور قابل توجهی عملکرد پرس و جو را بهبود بخشید:

— Adding an index
CREATE INDEX idx_last_login ON Users(last_login);

— Optimized query
SELECT id, name, email FROM Users WHERE last_login < ‘2024-01-01’;

وارد حالت تمام صفحه شوید

از حالت تمام صفحه خارج شوید

بهینه سازی 2: اصلاح کد و ادغام اتصال

برای بهینه سازی بیشتر، کد API را اصلاح کردم و ادغام اتصال را پیاده سازی کردم:

قبل از بهینه سازی:

پیاده سازی اولیه شامل ایجاد یک اتصال پایگاه داده جدید برای هر درخواست و مدیریت ناکارآمد پاسخ ها بود:

# Initial API Code
@app.route(‘/api/v1/users’, methods=[‘GET’])
def get_users():
connection = create_db_connection()
query = “SELECT * FROM Users WHERE last_login > ‘2024-01-01′”
users = connection.execute(query).fetchall()
user_list = [dict(user) for user in users] # Converting to dictionary
return jsonify(user_list), 200

وارد حالت تمام صفحه شوید

از حالت تمام صفحه خارج شوید

مسائل شناسایی شده:

سربار اتصال پایگاه داده: ایجاد یک اتصال جدید برای هر درخواست منجر به سربار بیش از حد شد.

مدیریت ناکارآمد داده ها: تبدیل نتایج پرس و جو به فرهنگ لغت کند بود.

پس از بهینه سازی:

برای رسیدگی به این مشکلات، من ادغام اتصال و مدیریت داده ها را بهبود دادم:

# Database connection setup with connection pooling
from psycopg2 import pool

db_pool = pool.SimpleConnectionPool(
1, 20, # Min and Max connections
user=”dbuser”,
password=’dbpass’,
host=”localhost”,
port=”5432″,
database=”exampledb”
)

@app.route(‘/api/v1/users’, methods=[‘GET’])
def get_users():
connection = db_pool.getconn()
try:
query = “SELECT id, name, email FROM Users WHERE last_login > %s”
users = connection.execute(query, (‘2024-01-01’,)).fetchall()
user_list = [dict(user) for user in users] finally:
db_pool.putconn(connection) # Return the connection to the pool
return jsonify(user_list), 200

وارد حالت تمام صفحه شوید

از حالت تمام صفحه خارج شوید

بهبودها:

ادغام اتصال: هزینه سربار را با استفاده مجدد از اتصالات کاهش داد.

اجرای کارآمد پرس و جو: از پرس و جوهای پارامتری استفاده کرد و انتخاب ستون را فقط به موارد مورد نیاز محدود کرد.

این تغییرات زمان پاسخ API را تا 50% کاهش داد و استفاده از CPU را در حدود 60% تثبیت کرد.

بهینه سازی 3: استراتژی ذخیره سازی

بهینه‌سازی بیشتر شامل پیاده‌سازی مکانیزم ذخیره‌سازی برای کاهش بار روی پایگاه داده برای داده‌های اغلب قابل دسترسی است:

مثال پیاده سازی:

from flask_caching import Cache

# Configure Flask-Caching
cache = Cache(config={‘CACHE_TYPE’: ‘simple’})

@app.route(‘/api/v1/users’, methods=[‘GET’])
@cache.cached(timeout=300, query_string=True)
def get_users():
connection = db_pool.getconn()
try:
query = “SELECT id, name, email FROM Users WHERE last_login > %s”
users = connection.execute(query, (‘2024-01-01’,)).fetchall()
user_list = [dict(user) for user in users] finally:
db_pool.putconn(connection)
return jsonify(user_list), 200

وارد حالت تمام صفحه شوید

از حالت تمام صفحه خارج شوید

مزایا:

کاهش بار پایگاه داده: با ذخیره کردن نتایج، درخواست‌های مکرر برای همان داده‌ها منجر به کاهش قابل توجه بار پایگاه داده می‌شود.

بهبود زمان پاسخگویی: پاسخ های ذخیره شده در حافظه پنهان در میلی ثانیه ارائه شد.

بهینه سازی 4: تعادل بار

برای مدیریت افزایش ترافیک، تعادل بار را در چندین نمونه سرور پیاده‌سازی کردم:

پیکربندی Nginx:

# Nginx configuration for load balancing
http {
upstream api_backend {
server backend1.example.com;
server backend2.example.com;
}

server {
listen 80;

location / {
proxy_pass http://api_backend;
proxy_set_header Host $host;
proxy_set_header X-Real-IP $remote_addr;
proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;
proxy_set_header X-Forwarded-Proto $scheme;
}
}
}

وارد حالت تمام صفحه شوید

از حالت تمام صفحه خارج شوید

مزایا:

بار توزیع شده: درخواست ها به طور مساوی در بین چندین سرور باطن توزیع شدند.

مقیاس پذیری: اضافه کردن سرورهای بیشتری به استخر برای مدیریت افزایش ترافیک آسان است.

تست مجدد و اعتبارسنجی

پس از اجرای این بهینه‌سازی‌ها، دور دیگری از آزمایش‌های بارگذاری را با استفاده از EchoAPI انجام دادم. نتایج بسیار بهبود یافته است:

کاربران همزمان: 1000
پرس و جو در ثانیه (QPS): 823.55
میانگین زمان پاسخ (ART): 99 میلی ثانیه
حداکثر زمان پاسخگویی: 302 میلی ثانیه
میزان خطا:

SELECT * FROM Users WHERE last_login < '2024-01-01';

-- Adding an index
CREATE INDEX idx_last_login ON Users(last_login);

-- Optimized query
SELECT id, name, email FROM Users WHERE last_login < '2024-01-01';

# Initial API Code
@app.route('/api/v1/users', methods=['GET'])
def get_users():
    connection = create_db_connection()
    query = "SELECT * FROM Users WHERE last_login > '2024-01-01'"
    users = connection.execute(query).fetchall()
    user_list = [dict(user) for user in users]  # Converting to dictionary
    return jsonify(user_list), 200

# Database connection setup with connection pooling
from psycopg2 import pool

db_pool = pool.SimpleConnectionPool(
    1, 20,  # Min and Max connections
    user="dbuser", 
    password='dbpass', 
    host="localhost", 
    port="5432", 
    database="exampledb"
)

@app.route('/api/v1/users', methods=['GET'])
def get_users():
    connection = db_pool.getconn()
    try:
        query = "SELECT id, name, email FROM Users WHERE last_login > %s"
        users = connection.execute(query, ('2024-01-01',)).fetchall()
        user_list = [dict(user) for user in users]
    finally:
        db_pool.putconn(connection)  # Return the connection to the pool
    return jsonify(user_list), 200

from flask_caching import Cache

# Configure Flask-Caching
cache = Cache(config={'CACHE_TYPE': 'simple'})

@app.route('/api/v1/users', methods=['GET'])
@cache.cached(timeout=300, query_string=True)
def get_users():
    connection = db_pool.getconn()
    try:
        query = "SELECT id, name, email FROM Users WHERE last_login > %s"
        users = connection.execute(query, ('2024-01-01',)).fetchall()
        user_list = [dict(user) for user in users]
    finally:
        db_pool.putconn(connection)
    return jsonify(user_list), 200

# Nginx configuration for load balancing
http {
    upstream api_backend {
        server backend1.example.com;
        server backend2.example.com;
    }

    server {
        listen 80;

        location / {
            proxy_pass http://api_backend;
            proxy_set_header Host $host;
            proxy_set_header X-Real-IP $remote_addr;
            proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;
            proxy_set_header X-Forwarded-Proto $scheme;
        }
    }
}