هوش داده افلاطون
جستجوی عمودی و هوش مصنوعی

رویکرد ایمن برای هوش مصنوعی مولد با AWS | خدمات وب آمازون

تاریخ:

هوش مصنوعی مولد (AI) در حال تغییر تجربه مشتری در صنایع در سراسر جهان است. مشتریان با استفاده از مدل‌های زبان بزرگ (LLM) و سایر مدل‌های پایه (FM) برنامه‌های هوش مصنوعی تولیدی می‌سازند، که تجارب مشتری را بهبود می‌بخشد، عملیات را تغییر می‌دهد، بهره‌وری کارکنان را بهبود می‌بخشد و کانال‌های درآمد جدیدی ایجاد می‌کند.

FM ها و برنامه های کاربردی ساخته شده پیرامون آنها سرمایه گذاری بسیار ارزشمندی را برای مشتریان ما نشان می دهد. آنها اغلب با داده های تجاری بسیار حساس، مانند داده های شخصی، داده های انطباق، داده های عملیاتی و اطلاعات مالی برای بهینه سازی خروجی مدل استفاده می شوند. بزرگترین نگرانی که از مشتریان می شنویم در حین بررسی مزایای هوش مصنوعی مولد این است که چگونه از داده ها و سرمایه گذاری های بسیار حساس خود محافظت کنند. از آنجایی که داده‌ها و وزن مدل آن‌ها فوق‌العاده ارزشمند است، مشتریان از آن‌ها می‌خواهند که محافظت، ایمن و خصوصی بمانند، خواه از حساب‌های سرپرست خودشان، مشتریانشان، آسیب‌پذیری‌های نرم‌افزاری که در محیط‌های خودشان اجرا می‌شود یا حتی ارائه‌دهنده خدمات ابری‌شان از داشتن آن‌ها. دسترسی داشته باشید.

در AWS، اولویت اصلی ما حفظ امنیت و محرمانه بودن حجم کاری مشتریانمان است. ما به امنیت در سه لایه پشته هوش مصنوعی خود فکر می کنیم:

  • لایه زیرین - ابزارهای ساخت و آموزش LLM و سایر FM ها را فراهم می کند
  • لایه میانی - امکان دسترسی به تمام مدل‌ها به همراه ابزارهای مورد نیاز برای ساخت و مقیاس‌سازی برنامه‌های هوش مصنوعی مولد را فراهم می‌کند.
  • لایه بالا – شامل برنامه‌هایی است که از LLM و سایر FM‌ها برای ایجاد استرس در کار با نوشتن و اشکال‌زدایی کد، تولید محتوا، استخراج بینش و اقدام استفاده می‌کنند.

هر لایه برای فراگیر و متحول کردن هوش مصنوعی مولد مهم است.

با سیستم نیترو AWS، ما اولین نوآوری در نوع خود را از طرف مشتریان خود ارائه کردیم. سیستم Nitro یک ستون فقرات محاسباتی بی‌نظیر برای AWS است که امنیت و عملکرد را در هسته خود دارد. سخت‌افزار تخصصی و سفت‌افزار مرتبط آن به‌گونه‌ای طراحی شده‌اند که محدودیت‌هایی را اعمال کنند تا هیچ‌کس، از جمله هیچ‌کس در AWS، نتواند به حجم‌های کاری یا داده‌های در حال اجرا در دستگاه شما دسترسی داشته باشد. ابر محاسبه الاستیک آمازون نمونه های (Amazon EC2). مشتریان از این محرمانه بودن و جداسازی اپراتورهای AWS در تمام نمونه‌های EC2 مبتنی بر نیترو از سال 2017 بهره برده‌اند.

از نظر طراحی، هیچ مکانیزمی برای هیچ کارمند آمازون برای دسترسی به نمونه Nitro EC2 که مشتریان برای اجرای بارهای کاری خود استفاده می‌کنند، یا دسترسی به داده‌هایی که مشتریان به شتاب‌دهنده یادگیری ماشین (ML) یا GPU ارسال می‌کنند، وجود ندارد. این حفاظت برای همه نمونه‌های مبتنی بر نیترو، از جمله نمونه‌هایی با شتاب‌دهنده‌های ML مانند استنتاج AWS و AWS Trainiumو نمونه هایی با GPU مانند P4، P5، G5 و G6.

سیستم نیترو را فعال می کند آداپتور پارچه ای الاستیک (EFA)، که از پروتکل ارتباطی AWS Scalable Reliable Reliable Datagram (SRD) ساخته شده توسط AWS برای آموزش های توزیع شده الاستیک و مقیاس بزرگ در مقیاس ابری استفاده می کند و تنها شبکه قابلیت دسترسی به حافظه مستقیم از راه دور (RDMA) همیشه رمزگذاری شده را فعال می کند. تمام ارتباطات از طریق EFA رمزگذاری شده است رمزگذاری VPC بدون اعمال جریمه

طراحی سیستم نیترو بوده است تایید شده توسط NCC Group، یک شرکت مستقل امنیت سایبری. AWS سطح بالایی از حفاظت را برای بارهای کاری مشتری ارائه می دهد، و ما معتقدیم این سطح امنیت و محرمانگی است که مشتریان باید از ارائه دهنده ابر خود انتظار داشته باشند. این سطح حفاظت آنقدر حیاتی است که ما آن را در خود اضافه کرده ایم شرایط خدمات AWS برای ارائه یک تضمین اضافی به همه مشتریان خود.

نوآوری بارهای کاری AI مولد ایمن با استفاده از قابلیت های امنیتی پیشرو در صنعت AWS

از روز اول، زیرساخت‌ها و سرویس‌های هوش مصنوعی AWS دارای ویژگی‌های امنیتی و حریم خصوصی داخلی هستند تا به شما امکان کنترل داده‌هایتان را بدهند. از آنجایی که مشتریان به سرعت برای پیاده سازی هوش مصنوعی مولد در سازمان خود حرکت می کنند، باید بدانید که داده های شما در طول چرخه عمر هوش مصنوعی، از جمله آماده سازی، آموزش و استنتاج داده ها، به صورت ایمن مدیریت می شوند. امنیت وزن مدل - پارامترهایی که یک مدل در طول آموزش یاد می گیرد و برای توانایی آن در پیش بینی بسیار مهم است - برای محافظت از داده های شما و حفظ یکپارچگی مدل بسیار مهم است.

به همین دلیل است که برای AWS حیاتی است که به نوآوری از طرف مشتریان خود ادامه دهد تا سطح امنیت را در هر لایه از پشته هوش مصنوعی افزایش دهد. برای انجام این کار، ما معتقدیم که شما باید امنیت و محرمانه بودن را در هر لایه از پشته هوش مصنوعی مولد ایجاد کنید. شما باید بتوانید زیرساخت را برای آموزش LLM و سایر FMها ایمن کنید، با ابزارهایی برای اجرای LLM و سایر FMها بسازید، و برنامه هایی را اجرا کنید که از FM با امنیت داخلی و حریم خصوصی که می توانید به آنها اعتماد کنید، استفاده کنید.

در AWS، ایمن سازی زیرساخت هوش مصنوعی به دسترسی صفر به داده های هوش مصنوعی حساس، مانند وزن مدل هوش مصنوعی و داده های پردازش شده با آن مدل ها، توسط هر شخص غیرمجاز، چه در اپراتور زیرساخت یا در مشتری، اشاره دارد. از سه اصل کلیدی تشکیل شده است:

  1. جداسازی کامل داده های هوش مصنوعی از اپراتور زیرساخت - اپراتور زیرساخت نباید توانایی دسترسی به محتوای مشتری و داده های هوش مصنوعی، مانند وزن مدل هوش مصنوعی و داده های پردازش شده با مدل ها را نداشته باشد.
  2. توانایی مشتریان برای جداسازی داده های هوش مصنوعی از خود - زیرساخت باید مکانیزمی را فراهم کند که وزن و داده‌های مدل را در سخت‌افزار بارگذاری کند، در حالی که از کاربران و نرم‌افزار خود مشتریان جدا و غیرقابل دسترس باقی بماند.
  3. ارتباطات زیرساخت محافظت شده – ارتباط بین دستگاه ها در زیرساخت شتاب دهنده ML باید محافظت شود. همه پیوندهای قابل دسترسی خارجی بین دستگاه ها باید رمزگذاری شوند.

سیستم نیترو اولین اصل زیرساخت هوش مصنوعی ایمن را با جداسازی داده های هوش مصنوعی شما از اپراتورهای AWS انجام می دهد. اصل دوم راهی برای حذف دسترسی مدیریت کاربران و نرم افزار خود به داده های هوش مصنوعی در اختیار شما قرار می دهد. AWS نه تنها راهی برای دستیابی به آن به شما ارائه می دهد، بلکه با سرمایه گذاری در ساخت یک راه حل یکپارچه بین آنها، آن را ساده و کاربردی کردیم. AWS Nitro Enclaves و سرویس مدیریت کلید AWS (AWS KMS). با Nitro Enclaves و AWS KMS، می‌توانید داده‌های هوش مصنوعی حساس خود را با استفاده از کلیدهایی که در اختیار دارید و کنترل می‌کنید رمزگذاری کنید، آن داده‌ها را در مکانی دلخواه ذخیره کنید، و داده‌های رمزگذاری‌شده را به‌طور ایمن به یک محیط محاسباتی جدا شده برای استنتاج انتقال دهید. در طول کل این فرآیند، داده‌های هوش مصنوعی حساس رمزگذاری شده و از کاربران و نرم‌افزار شما در نمونه EC2 شما جدا می‌شوند و اپراتورهای AWS نمی‌توانند به این داده‌ها دسترسی داشته باشند. موارد استفاده ای که از این جریان بهره مند شده اند شامل اجرا می شود استنتاج LLM در یک محاصره تا به امروز، Nitro Enclaves فقط در CPU کار می‌کند و پتانسیل مدل‌های هوش مصنوعی تولیدی بزرگ‌تر و پردازش‌های پیچیده‌تر را محدود می‌کند.

ما برنامه‌های خود را برای گسترش این جریان رمزگذاری‌شده سرتاسر نیترو به‌منظور ادغام درجه یک با شتاب‌دهنده‌های ML و پردازنده‌های گرافیکی، با رعایت اصل سوم، اعلام کردیم. شما می‌توانید داده‌های هوش مصنوعی حساس را برای پردازش رمزگشایی و بارگذاری کنید و در عین حال از اپراتورهای خود جدا شوید و صحت برنامه مورد استفاده برای پردازش داده‌های هوش مصنوعی را تأیید کنید. از طریق سیستم Nitro، می‌توانید برنامه‌های خود را به صورت رمزنگاری در AWS KMS اعتبارسنجی کنید و تنها زمانی که بررسی‌های لازم انجام شود، داده‌ها را رمزگشایی کنید. این بهبود به AWS اجازه می دهد تا رمزگذاری سرتاسری را برای داده های شما ارائه دهد، زیرا از طریق بارهای کاری مولد AI جریان می یابد.

ما قصد داریم این جریان رمزگذاری شده سرتاسر را در AWS طراحی شده آینده ارائه دهیم Trainium2 و همچنین نمونه‌های GPU مبتنی بر معماری بلک‌ول آینده NVIDIA، که هر دو ارتباطات امن بین دستگاه‌ها را ارائه می‌دهند، اصل سوم زیرساخت هوش مصنوعی امن. AWS و NVIDIA در حال همکاری نزدیک برای ارائه یک راه حل مشترک به بازار هستند، از جمله پلت فرم جدید NVIDIA Blackwell GPU NVIDIA، که راه حل GB200 NVL72 NVIDIA را با سیستم Nitro و فن آوری های EFA ترکیب می کند تا راه حلی پیشرو در صنعت برای ساخت و استقرار ایمن نسل بعدی ارائه دهد. برنامه های کاربردی هوش مصنوعی مولد

پیشرفت آینده امنیت هوش مصنوعی مولد

امروزه، ده‌ها هزار مشتری از AWS برای آزمایش و انتقال برنامه‌های مولد هوش مصنوعی به تولید استفاده می‌کنند. بارهای کاری هوش مصنوعی مولد حاوی داده های بسیار ارزشمند و حساسی است که نیاز به سطح حفاظت از اپراتورهای خود و ارائه دهنده خدمات ابری دارد. مشتریانی که از نمونه‌های EC2 مبتنی بر AWS Nitro استفاده می‌کنند، از سال 2017، زمانی که سیستم نوآورانه Nitro خود را راه‌اندازی کردیم، این سطح از حفاظت و ایزوله را از اپراتورهای AWS دریافت کردند.

در AWS، ما همچنان به این نوآوری ادامه می‌دهیم زیرا روی ایجاد قابلیت‌های کاربردی و در دسترس سرمایه‌گذاری می‌کنیم تا برای مشتریانمان عملی کنیم تا بار کاری هوش مصنوعی تولیدی خود را در سه لایه پشته هوش مصنوعی مولد ایمن کنیم تا بتوانید روی کاری که انجام می‌دهید تمرکز کنید. بهترین: ایجاد و گسترش استفاده از هوش مصنوعی مولد به مناطق بیشتری. بیشتر بدانید اینجا کلیک نمایید.


درباره نویسندگان

Anthony Liguori معاون AWS و مهندس ممتاز برای EC2 است

Colm MacCárthaigh معاون AWS و مهندس ممتاز برای EC2 است

نقطه_img

جدیدترین اطلاعات

نقطه_img

چت با ما

سلام! چگونه می توانم به شما کمک کنم؟