ONNX (Open Neural Network Exchange) একটি ওপেন সোর্স ফরম্যাট যা বিভিন্ন ডিপ লার্নিং ফ্রেমওয়ার্কগুলির মধ্যে মডেলগুলি এক্সপোর্ট, শেয়ার এবং রান করার জন্য ব্যবহৃত হয়। এটি PyTorch, Caffe2, TensorFlow, Keras ইত্যাদি ফ্রেমওয়ার্কের মধ্যে সহজে মডেল ট্রান্সফার করার জন্য একটি স্ট্যান্ডার্ড ফরম্যাট প্রদান করে।
Caffe2 এবং PyTorch সহ বিভিন্ন ফ্রেমওয়ার্কে মডেল এক্সপোর্ট করতে ONNX ব্যবহার করা সম্ভব। নিচে ONNX ফরম্যাট ব্যবহার করে মডেল এক্সপোর্ট করার পুরো প্রক্রিয়া বর্ণনা করা হলো।
1. PyTorch থেকে ONNX মডেল এক্সপোর্ট করা
PyTorch তে মডেল তৈরি এবং ট্রেনিং করার পর আপনি সহজেই মডেলটি ONNX ফরম্যাটে এক্সপোর্ট করতে পারেন। এর জন্য torch.onnx.export() ফাংশন ব্যবহার করা হয়।
1.1. PyTorch মডেল এক্সপোর্ট করার প্রক্রিয়া:
- PyTorch মডেল প্রস্তুত করা: প্রথমে আপনাকে একটি মডেল তৈরি করতে হবে এবং সেটি ট্রেনিং করতে হবে। উদাহরণস্বরূপ, এখানে একটি সিম্পল CNN মডেল ব্যবহার করা হলো:
import torch
import torch.nn as nn
class SimpleCNN(nn.Module):
def __init__(self):
super(SimpleCNN, self).__init__()
self.conv1 = nn.Conv2d(3, 32, kernel_size=3, stride=1, padding=1)
self.conv2 = nn.Conv2d(32, 64, kernel_size=3, stride=1, padding=1)
self.fc1 = nn.Linear(64 * 32 * 32, 128)
self.fc2 = nn.Linear(128, 10)
def forward(self, x):
x = torch.relu(self.conv1(x))
x = torch.relu(self.conv2(x))
x = x.view(x.size(0), -1) # Flatten
x = torch.relu(self.fc1(x))
x = self.fc2(x)
return x
# মডেল তৈরি
model = SimpleCNN()
# ইনপুট টেনসর তৈরি (বছরের আকার 1x3x32x32, 3 চ্যানেল)
dummy_input = torch.randn(1, 3, 32, 32)
- ONNX ফরম্যাটে মডেল এক্সপোর্ট করা:
torch.onnx.export()ফাংশন ব্যবহার করে PyTorch মডেলটি ONNX ফরম্যাটে এক্সপোর্ট করা যেতে পারে। এই ফাংশনটি মডেল, ইনপুট, এবং ফাইল পাথ নেয়।
import torch.onnx
# মডেল এক্সপোর্ট করা
onnx_file_path = "simple_cnn.onnx"
torch.onnx.export(model, dummy_input, onnx_file_path,
export_params=True, # ট্রেনিং করা প্যারামিটার সেভ করবে
opset_version=11, # ONNX অপসেট ভার্সন
do_constant_folding=True, # কনস্ট্যান্ট ভ্যালু ফোল্ডিং
input_names=['input'], # ইনপুট নাম
output_names=['output'], # আউটপুট নাম
dynamic_axes={'input': {0: 'batch_size'}, 'output': {0: 'batch_size'}}) # ব্যাচ সাইজ পরিবর্তনযোগ্য
- ONNX মডেল লোড এবং পরীক্ষা: একবার মডেল ONNX ফরম্যাটে এক্সপোর্ট হলে, আপনি এটি অন্য ফ্রেমওয়ার্কে লোড এবং পরীক্ষা করতে পারেন। ONNX মডেলটি onnx লাইব্রেরি ব্যবহার করে লোড করা যেতে পারে।
import onnx
# ONNX মডেল লোড করা
onnx_model = onnx.load(onnx_file_path)
# মডেল সঠিক কিনা চেক করা
onnx.checker.check_model(onnx_model)
2. Caffe2 তে ONNX মডেল লোড এবং চালানো
Caffe2 ONNX মডেল ইমপোর্ট করার জন্য onnx-caffe2 প্লাগইন ব্যবহার করা হয়। Caffe2 তে ONNX মডেল লোড এবং রান করার জন্য নিচের ধাপ অনুসরণ করা হয়।
2.1. ONNX মডেল Caffe2 তে লোড করা:
Caffe2 তে ONNX মডেল লোড করতে onnx-caffe2 ইন্টারফেস ব্যবহার করা হয়। এটি আপনাকে PyTorch অথবা অন্য যেকোনো ফ্রেমওয়ার্ক থেকে এক্সপোর্ট করা ONNX মডেল লোড এবং চালাতে সাহায্য করবে।
from caffe2.python import core, workspace
import onnx
from caffe2.python.onnx import backend
# ONNX মডেল লোড করা
onnx_model = onnx.load("simple_cnn.onnx")
# Caffe2 ব্যাকএন্ডে মডেল লোড করা
prepared_model = backend.prepare(onnx_model)
# ইনপুট ডেটা তৈরি (যেমন 1x3x32x32)
import numpy as np
input_data = np.random.randn(1, 3, 32, 32).astype(np.float32)
# Caffe2 তে মডেল রান করা
outputs = prepared_model.run([input_data])
print(outputs)
3. ONNX এর সুবিধা:
- Cross-platform: ONNX মডেল বিভিন্ন ফ্রেমওয়ার্কে ব্যবহার করা যায় (যেমন, PyTorch, TensorFlow, Caffe2, MXNet, ইত্যাদি)।
- Model Interoperability: বিভিন্ন ফ্রেমওয়ার্কের মধ্যে মডেল শেয়ার করা সহজ হয়।
- Optimization: ONNX Runtime ব্যবহার করে মডেল অপ্টিমাইজ করা সম্ভব, যার ফলে ইনফারেন্স গতি বৃদ্ধি পায়।
4. সারাংশ:
ONNX (Open Neural Network Exchange) ফরম্যাট ব্যবহার করে মডেল এক্সপোর্ট করা মডেল ইন্টারঅপারেবিলিটি বৃদ্ধি করে। PyTorch থেকে ONNX ফরম্যাটে মডেল এক্সপোর্ট করার জন্য torch.onnx.export() ফাংশন ব্যবহার করা হয়, এবং Caffe2 তে সেই মডেলটি লোড ও রান করার জন্য onnx-caffe2 লাইব্রেরি ব্যবহার করা হয়। ONNX ফরম্যাটে এক্সপোর্ট করার মাধ্যমে মডেলটি বিভিন্ন প্ল্যাটফর্মে ব্যবহার করা সহজ হয় এবং বিভিন্ন ফ্রেমওয়ার্কের মধ্যে এক্সপোর্ট ও ইমপোর্ট করা সম্ভব হয়।
Read more
