DeepSpeedProfiler ব্যবহার করে Performance বিশ্লেষণ

DeepSpeed Profiler একটি শক্তিশালী টুল যা DeepSpeed ব্যবহার করে মডেল প্রশিক্ষণের সময় কর্মক্ষমতা বিশ্লেষণের জন্য ডিজাইন করা হয়েছে। এটি প্রশিক্ষণ প্রক্রিয়ার বিভিন্ন অংশের গতি এবং দক্ষতা সম্পর্কে অন্তর্দৃষ্টি প্রদান করে। এর মাধ্যমে আপনি বুঝতে পারবেন কোন অংশে bottlenecks রয়েছে এবং সেখান থেকে মডেল প্রশিক্ষণের দক্ষতা উন্নত করতে পারেন।

DeepSpeed Profiler ব্যবহার করার ধাপ

ধাপ ১: প্রয়োজনীয় লাইব্রেরি ইনস্টল করা

প্রথমে আপনাকে নিশ্চিত করতে হবে যে আপনার সিস্টেমে DeepSpeed ইনস্টল করা আছে। আপনি যদি এখনও ইনস্টল না করে থাকেন তবে নিচের কমান্ডটি ব্যবহার করতে পারেন:

pip install deepspeed

ধাপ ২: প্রোগ্রামে Profiler সক্রিয় করা

আপনার DeepSpeed training কোডে Profiler সক্রিয় করতে হবে। সাধারণত, Profiler এর ফ্ল্যাগগুলি deepspeed.initialize ফাংশনে পাস করা হয়।

import deepspeed

# DeepSpeed কনফিগারেশন ফাইলের উদাহরণ
deepspeed_config = {
    "train_batch_size": 32,
    "fp16": {
        "enabled": True
    },
    "zero_optimization": {
        "stage": 2
    },
    "profiler": {
        "enabled": True,  # Profiler সক্রিয় করা
        "profiler_steps": 10,  # কতবার প্রফাইলিং করা হবে
        "output_dir": "./profiler_output"  # আউটপুট ডিরেক্টরি
    },
    "optimizer": {
        "type": "AdamW",
        "params": {
            "lr": 5e-5
        }
    }
}

# মডেল ইনিশিয়ালাইজেশন
model_engine, optimizer, _, _ = deepspeed.initialize(
    config=deepspeed_config,
    model=model,
    model_parameters=model.parameters()
)

ধাপ ৩: মডেল ট্রেনিং করা

মডেল প্রশিক্ষণের সময় Profiler চলতে থাকবে এবং ট্রেনিং প্রক্রিয়ার বিভিন্ন পারফরম্যান্স ডেটা সংগ্রহ করবে।

# Training Loop
for epoch in range(num_epochs):
    model_engine.train()
    running_loss = 0.0

    for inputs, labels in train_loader:
        optimizer.zero_grad()
        
        outputs = model_engine(inputs)
        loss = criterion(outputs, labels)
        
        model_engine.backward(loss)
        model_engine.step()
        
        running_loss += loss.item()

    print(f'Epoch [{epoch+1}/{num_epochs}], Loss: {running_loss / len(train_loader):.4f}')

ধাপ ৪: Profiler আউটপুট বিশ্লেষণ

মডেল প্রশিক্ষণ শেষ হওয়ার পরে, আপনার প্রাপ্ত Profiler আউটপুট ফাইল বিশ্লেষণ করতে হবে। Profiler আউটপুট সাধারণত একটি JSON ফরম্যাটে থাকে এবং এতে মডেলের বিভিন্ন অংশের কর্মক্ষমতা তথ্য থাকে।

import json

# Profiler আউটপুট ফাইল লোড করা
with open('./profiler_output/profiler_output.json', 'r') as f:
    profile_data = json.load(f)

# পারফরম্যান্স বিশ্লেষণ করা
print(json.dumps(profile_data, indent=4))

ধাপ ৫: কর্মক্ষমতা বিশ্লেষণ করা

প্রাপ্ত আউটপুট থেকে বিভিন্ন তথ্য বিশ্লেষণ করুন যেমন:

• Time Spent: মডেলের বিভিন্ন অংশে সময় ব্যয় কত ছিল তা বিশ্লেষণ করা।
• Bottlenecks: কোন অংশে সবচেয়ে বেশি সময় ব্যয় হয়েছে তা চিহ্নিত করা, যাতে আপনি তা অপ্টিমাইজ করতে পারেন।
• Throughput: প্রতি সেকেন্ডে কতগুলো ইনপুট ডেটা প্রসেস করা হয়েছে তা মূল্যায়ন করা।

উদাহরণ: একটি সম্পূর্ণ কোড ব্লক

import torch
import deepspeed
from torch import nn
from torch.utils.data import DataLoader, TensorDataset

# মডেল তৈরি করা
class SimpleNN(nn.Module):
    def __init__(self):
        super(SimpleNN, self).__init__()
        self.fc1 = nn.Linear(10, 64)
        self.fc2 = nn.Linear(64, 1)

    def forward(self, x):
        return torch.relu(self.fc1(x))

# ডেটা তৈরি করা
X = torch.randn(1000, 10)
y = torch.randn(1000, 1)
dataset = TensorDataset(X, y)
train_loader = DataLoader(dataset, batch_size=32, shuffle=True)

# DeepSpeed কনফিগারেশন
deepspeed_config = {
    "train_batch_size": 32,
    "fp16": {
        "enabled": True
    },
    "zero_optimization": {
        "stage": 2
    },
    "profiler": {
        "enabled": True,
        "profiler_steps": 10,
        "output_dir": "./profiler_output"
    },
    "optimizer": {
        "type": "AdamW",
        "params": {
            "lr": 0.001
        }
    }
}

# মডেল ইনিশিয়ালাইজেশন
model = SimpleNN()
model_engine, optimizer, _, _ = deepspeed.initialize(
    config=deepspeed_config,
    model=model,
    model_parameters=model.parameters()
)

# Training Loop
num_epochs = 5
for epoch in range(num_epochs):
    model_engine.train()
    running_loss = 0.0

    for inputs, labels in train_loader:
        optimizer.zero_grad()
        
        outputs = model_engine(inputs)
        loss = nn.MSELoss()(outputs, labels)
        
        model_engine.backward(loss)
        model_engine.step()
        
        running_loss += loss.item()

    print(f'Epoch [{epoch+1}/{num_epochs}], Loss: {running_loss / len(train_loader):.4f}')

# Profiler আউটপুট বিশ্লেষণ
import json

with open('./profiler_output/profiler_output.json', 'r') as f:
    profile_data = json.load(f)

print(json.dumps(profile_data, indent=4))

উপসংহার

DeepSpeed Profiler ব্যবহার করে আপনি মডেল প্রশিক্ষণের কর্মক্ষমতা বিশ্লেষণ করতে পারেন। এটি bottlenecks চিহ্নিত করতে এবং training efficiency বৃদ্ধি করতে সাহায্য করে। DeepSpeed এর মাধ্যমে, আপনি performance tuning এর জন্য গুরুত্বপূর্ণ তথ্য পাবেন, যা আপনার মডেলের কার্যকারিতা এবং প্রশিক্ষণ সময়ের উন্নতি ঘটাবে।