پانوراما AWS مجموعه‌ای از دستگاه‌های یادگیری ماشین (ML) و کیت توسعه نرم‌افزار (SDK) است که دید کامپیوتر را به دوربین‌های پروتکل اینترنتی (IP) داخل محل می‌آورد. گزینه های دستگاه AWS Panorama شامل AWS Panorama Appliance و Lenovo ThinkEdge SE70 است که توسط AWS Panorama پشتیبانی می شود. این گزینه های دستگاه بسته به مورد استفاده منحصر به فرد شما، انتخاب هایی را در قیمت و عملکرد به شما ارائه می دهند. هر دو دستگاه پانوراما AWS بر روی سیستم NVIDIA Jetson™ روی ماژول ها (SOM) ساخته شده اند و از NVIDIA JetPack SDK استفاده می کنند.
AWS یک به روز رسانی نرم افزاری جدید برای AWS Panorama منتشر کرده است که از NVIDIA Jetpack SDK نسخه 4.6.2 پشتیبانی می کند. می‌توانید این به‌روزرسانی نرم‌افزار را دانلود کرده و از طریق فرآیند ارتقاء هوا (OTA) روی دستگاه پانوراما AWS اعمال کنید. برای جزئیات بیشتر، نگاه کنید مدیریت یک دستگاه پانوراما AWS.
این نسخه با نسخه های قبلی نرم افزار برای AWS Panorama سازگار نیست. شما باید برنامه های خود را دوباره بسازید و مجدداً مستقر کنید. این پست یک راهنمای گام به گام برای به روز رسانی کتابخانه های نرم افزار کاربردی شما به آخرین نسخه های پشتیبانی شده ارائه می دهد.
نمای کلی به روز رسانی
La NVIDIA Jetpack SDK نسخه 4.6.2 شامل پشتیبانی از نسخه های جدیدتر CUDA 10.2، cuDNN 8.2.1 و TensorRT 8.2.1 است. دیگر کتابخانه های قابل توجهی که اکنون پشتیبانی می شوند عبارتند از DeepStream 6.0 و Triton Inference Server 21.07. علاوه بر این، TensorRT 8.2.1 شامل لیست گسترده ای از پشتیبانی اپراتور DNN، پشتیبانی Sigmoid/Tanh INT8 برای DLA، و ادغام بهتر با TensorFlow و PyTorch است. اکنون تبدیل Torch به TensorRT و همچنین TensorFlow به TensorRT بدون نیاز به تبدیل به ONNX به عنوان یک مرحله میانی پشتیبانی می شود. برای جزئیات بیشتر مراجعه کنید انویدیا TensorRT 8.2 و ادغام با PyTorch و TensorFlow را معرفی کرد.
با دنبال کردن مراحل زیر می توانید برنامه های خود را مجدداً مستقر کنید.
پیش نیازها
به عنوان یک پیش نیاز، به یک حساب AWS و یک نیاز دارید دستگاه پانوراما AWS.
دستگاه پانورامای AWS خود را ارتقا دهید
ابتدا دستگاه AWS Panorama خود را به آخرین نسخه ارتقا می دهید.
- در کنسول AWS Panorama، را انتخاب کنید دستگاه ها در صفحه ناوبری
- یک لوازم خانگی را انتخاب کنید.
- را انتخاب کنید تنظیمات.
- تحت سیستم نرم افزار، انتخاب کنید مشاهده به روز رسانی نرم افزار.
- را انتخاب کنید نرم افزار سیستم نسخه 5.0 یا بالاتر و سپس اقدام به نصب این نرم افزار کنید.
برنامه خود را مجدداً مستقر کنید
اگر از ویژگی Open GPU دسترسی به عنوان بخشی از برنامه خود استفاده نمی کنید، از ویژگی Replace در کنسول AWS Panorama استفاده می کنید. تابع Replace مدل شما را برای آخرین نرم افزار بازسازی می کند.
- در کنسول AWS Panorama، را انتخاب کنید برنامه های کاربردی مستقر شده در صفحه ناوبری
- یک برنامه کاربردی را انتخاب کنید.
- را انتخاب کنید جایگزین کردن.
برای برنامه‌هایی که از ویژگی دسترسی به GPU باز استفاده می‌کنند، ارتقا معمولاً شامل اجازه دادن به کانتینر شما به سخت‌افزار اصلی GPU و استقرار و مدیریت مدل‌ها و زمان اجرا است. توصیه می کنیم از NVIDIA TensorRT در برنامه خود استفاده کنید، اما شما به این محدود نیستید.
همچنین باید کتابخانه های Dockerfile خود را به روز کنید. کتابخانه های معمولی برای به روز رسانی عبارتند از CUDA 10.2، cuDNN 8.2.1، TensorRT 8.2.1، DeepStream 6.0، OpenCV 4.1.1 و VPI 1.1. به عنوان یک یادداشت، تمام تغییرات مربوط به CUDA/NVIDIA در پشته نرم افزار را می توانید در اینجا پیدا کنید JetPack SDK 4.6.2.
اکنون مدل های TensorRT 8.2.1 را بازسازی کرده و خود را به روز می کنید pack.json فایل با دارایی های به روز شده اکنون می توانید ساختن ظرف خود را با وابستگی‌ها و مدل‌های به‌روزرسانی شده و با استفاده از کنسول AWS Panorama یا کانتینر برنامه را در Appliance خود مستقر کنید. رابط های برنامه کاربردی.
در این مرحله برنامه های پانورامای AWS شما باید بتوانند از Jetpack SDK نسخه 4.6.2 استفاده کنند. نمونه برنامه های AWS Panorama که با این نسخه سازگار هستند در قرار دارند GitHub.
نتیجه
با به‌روزرسانی جدید AWS Panorama، باید برنامه‌های خود را دوباره بسازید و مجدداً مستقر کنید. این پست شما را در مراحل به‌روزرسانی کتابخانه‌های نرم‌افزار کاربردی AWS Panorama به آخرین نسخه‌های پشتیبانی‌شده راهنمایی کرد.
لطفاً در صورت هرگونه سؤال با AWS Panorama تماس بگیرید AWS re: Post.
درباره نویسنده
وینود رامان مدیر محصول اصلی در AWS است.
استیون وایت یک معمار ارشد Computer Vision/EdgeML Solutions در AWS است.
