Генеративний штучний інтелект (ШІ) змінює досвід клієнтів у галузях по всьому світу. Клієнти створюють генеративні програми штучного інтелекту, використовуючи великі мовні моделі (LLM) та інші базові моделі (FM), які покращують взаємодію з клієнтами, трансформують операції, підвищують продуктивність співробітників і створюють нові канали доходу.

FM і створені навколо них додатки є надзвичайно цінними інвестиціями для наших клієнтів. Вони часто використовуються з дуже конфіденційними бізнес-даними, наприклад особистими даними, даними про відповідність, операційними даними та фінансовою інформацією, щоб оптимізувати результат моделі. Найбільше занепокоєння, яке ми чуємо від клієнтів, коли вони досліджують переваги генеративного штучного інтелекту, полягає в тому, як захистити свої дуже конфіденційні дані та інвестиції. Оскільки їхні дані та ваги моделей неймовірно цінні, клієнти вимагають, щоб вони залишалися захищеними, безпечними та конфіденційними, незалежно від того, чи йдеться про облікові записи їхніх власних адміністраторів, їхніх клієнтів, уразливості програмного забезпечення, що працює в їхніх власних середовищах, або навіть від того, що їх постачальник хмарних послуг має доступу.

В AWS нашим головним пріоритетом є забезпечення безпеки та конфіденційності робочих навантажень наших клієнтів. Ми думаємо про безпеку на трьох рівнях нашого генеративного стеку ШІ:

• Нижній шар – Надає інструменти для створення та навчання LLM та інших FM
• Середній шар – Надає доступ до всіх моделей разом із інструментами, необхідними для створення та масштабування генеративних програм ШІ
• Верхній шар – Включає додатки, які використовують LLM та інші FM, щоб полегшити роботу шляхом написання та налагодження коду, генерації вмісту, отримання інформації та виконання дій.

Кожен рівень важливий для того, щоб генеративний ШІ став всеосяжним і перетворюючим.

З Система AWS Nitro, ми представили першу у своєму роді інновацію від імені наших клієнтів. Система Nitro — це безпрецедентна обчислювальна основа для AWS, в основі якої лежить безпека та продуктивність. Його спеціалізоване апаратне забезпечення та пов’язане з ним мікропрограмне забезпечення розроблено для забезпечення дотримання обмежень, щоб ніхто, включаючи будь-кого в AWS, не міг отримати доступ до ваших робочих навантажень або даних, що працюють на вашому Обчислювальна хмара Amazon Elastic (Amazon EC2). З 2 року клієнти скористалися перевагами цієї конфіденційності та ізоляції від операторів AWS на всіх примірниках EC2017 на базі Nitro.

Відповідно до дизайну, не існує механізму, за допомогою якого будь-який співробітник Amazon міг би отримати доступ до примірника Nitro EC2, який клієнти використовують для виконання своїх робочих навантажень, або отримати доступ до даних, які клієнти надсилають до прискорювача машинного навчання (ML) або GPU. Цей захист поширюється на всі екземпляри на основі Nitro, включаючи екземпляри з такими прискорювачами машинного навчання AWS Inferentia та AWS Trainiumі екземпляри з графічними процесорами, наприклад P4, P5, G5 і G6.

Система Nitro дозволяє Еластичний тканинний адаптер (EFA), який використовує розроблений AWS протокол зв’язку AWS Scalable Reliable Datagram (SRD) для еластичного та широкомасштабного розподіленого навчання в масштабі хмари, створюючи єдину постійно зашифровану мережу з підтримкою віддаленого прямого доступу до пам’яті (RDMA). Уся комунікація через EFA зашифрована за допомогою Шифрування VPC без покарання за виконання.

Дизайн Nitro System був розроблений затверджено NCC Group, незалежна фірма з кібербезпеки. AWS забезпечує високий рівень захисту робочих навантажень клієнтів, і ми вважаємо, що це той рівень безпеки та конфіденційності, якого клієнти повинні очікувати від свого хмарного постачальника. Цей рівень захисту настільки важливий, що ми додали його в наш Умови обслуговування AWS щоб забезпечити додаткову гарантію всім нашим клієнтам.

Інноваційні безпечні генеративні робочі навантаження ШІ з використанням провідних у галузі можливостей безпеки AWS

З першого дня інфраструктура та служби AWS AI мали вбудовані функції безпеки та конфіденційності, які дають вам можливість контролювати свої дані. Оскільки клієнти швидко переходять до впровадження генеративного штучного інтелекту у своїх організаціях, вам потрібно знати, що ваші дані безпечно обробляються протягом усього життєвого циклу штучного інтелекту, включаючи підготовку даних, навчання та висновки. Безпека вагових коефіцієнтів моделі — параметрів, які модель вивчає під час навчання і є критичними для її здатності робити прогнози — має першочергове значення для захисту ваших даних і підтримки цілісності моделі.

Ось чому для AWS надзвичайно важливо продовжувати впроваджувати інновації від імені наших клієнтів, щоб підняти планку безпеки на кожному рівні генеративного стеку AI. Для цього ми вважаємо, що у вас повинні бути вбудовані засоби безпеки та конфіденційності на кожному рівні генеративного стеку AI. Ви повинні бути в змозі захистити інфраструктуру для навчання LLM та інших FM, створювати безпечні інструменти для запуску LLM та інших FM, а також запускати програми, які використовують FM із вбудованою безпекою та конфіденційністю, якій ви можете довіряти.

В AWS безпека інфраструктури штучного інтелекту означає нульовий доступ до конфіденційних даних штучного інтелекту, таких як ваги моделі штучного інтелекту та даних, оброблених за допомогою цих моделей, будь-якою неавторизованою особою як у оператора інфраструктури, так і у клієнта. Він складається з трьох ключових принципів:

1. Повна ізоляція даних ШІ від оператора інфраструктури – Оператор інфраструктури не повинен мати доступу до контенту клієнта та даних штучного інтелекту, таких як ваги моделі штучного інтелекту та дані, оброблені за допомогою моделей.
2. Можливість для клієнтів ізолювати дані ШІ від себе – Інфраструктура повинна забезпечувати механізм, який дозволяє завантажувати вагові коефіцієнти моделей і дані в апаратне забезпечення, залишаючись ізольованою та недоступною для власних користувачів і програмного забезпечення клієнтів.
3. Захищені інфраструктурні комунікації – Зв’язок між пристроями в інфраструктурі прискорювача ML має бути захищений. Усі зовнішні доступні посилання між пристроями мають бути зашифровані.

Система Nitro відповідає першому принципу безпечної інфраструктури ШІ, ізолюючи ваші дані ШІ від операторів AWS. Другий принцип дає вам спосіб скасувати адміністративний доступ ваших власних користувачів і програмного забезпечення до ваших даних ШІ. AWS не тільки пропонує вам спосіб досягти цього, але ми також зробили його простим і практичним, інвестувавши в створення інтегрованого рішення між Анклави AWS Nitro та Служба управління ключами AWS (AWS KMS). За допомогою Nitro Enclave та AWS KMS ви можете шифрувати свої конфіденційні дані ШІ за допомогою ключів, якими володієте та керуєте, зберігати ці дані у вибраному вами місці та безпечно передавати зашифровані дані в ізольоване обчислювальне середовище для висновків. Протягом усього цього процесу конфіденційні дані AI шифруються та ізольовані від ваших власних користувачів і програмного забезпечення на вашому екземплярі EC2, і оператори AWS не можуть отримати доступ до цих даних. Варіанти використання, які виграли від цього потоку, включають запуск LLM логічний висновок в анклаві. До сьогоднішнього дня Nitro Enclave працюють лише в центральному процесорі, обмежуючи потенціал для більших генеративних моделей штучного інтелекту та більш складної обробки.

Ми оголосили про наші плани розширити цей наскрізний зашифрований потік Nitro, включивши першокласну інтеграцію з прискорювачами ML і графічним процесором, дотримуючись третього принципу. Ви зможете розшифровувати та завантажувати конфіденційні дані штучного інтелекту в прискорювач ML для обробки, забезпечуючи ізоляцію від власних операторів і перевіряючи автентичність програми, яка використовується для обробки даних штучного інтелекту. За допомогою системи Nitro ви можете криптографічно перевіряти свої програми на AWS KMS і розшифровувати дані лише після проходження необхідних перевірок. Це вдосконалення дозволяє AWS пропонувати наскрізне шифрування ваших даних, коли вони проходять через генеративне робоче навантаження ШІ.

Ми плануємо запропонувати цей наскрізний зашифрований потік у майбутній розробці AWS Трайніум2 а також екземпляри графічного процесора на основі майбутньої архітектури Blackwell від NVIDIA, які забезпечують безпечний зв’язок між пристроями, третій принцип безпечної інфраструктури штучного інтелекту. AWS і NVIDIA тісно співпрацюють, щоб вивести на ринок спільне рішення, включаючи нову платформу NVIDIA Blackwell GPU, яка поєднує рішення NVIDIA GB200 NVL72 з технологіями Nitro System і EFA, щоб забезпечити провідне в галузі рішення для безпечного створення та розгортання наступного покоління. генеративні програми ШІ.

Просування майбутнього генеративної безпеки ШІ

Сьогодні десятки тисяч клієнтів використовують AWS для експериментів і впровадження трансформаційних генеративних програм штучного інтелекту у виробництво. Робочі навантаження Generative AI містять дуже цінні та конфіденційні дані, які потребують рівня захисту від ваших власних операторів і постачальника хмарних послуг. Клієнти, які використовують екземпляри EC2 на основі AWS Nitro, отримали такий рівень захисту та ізоляції від операторів AWS з 2017 року, коли ми запустили нашу інноваційну систему Nitro.

У AWS ми продовжуємо ці інновації, інвестуючи в створення продуктивних і доступних можливостей, щоб зробити нашим клієнтам практичним захист своїх генеративних робочих навантажень AI на трьох рівнях генеративного стеку AI, щоб ви могли зосередитися на тому, що ви робите. найкраще: створення та розширення використання генеративного штучного інтелекту на більшу кількість сфер. Вивчайте більше тут.

---

Про авторів

Ентоні Лігуорі — віце-президент AWS і видатний інженер EC2

Colm MacCárthaigh — віце-президент AWS і заслужений інженер для EC2

• Розповсюдження контенту та PR на основі SEO. Отримайте посилення сьогодні.
• PlatoData.Network Vertical Generative Ai. Додайте собі сили. Доступ тут.
• PlatoAiStream. Web3 Intelligence. Розширення знань. Доступ тут.
• ПлатонЕСГ. вуглець, CleanTech, Енергія, Навколишнє середовище, Сонячна, Поводження з відходами. Доступ тут.
• PlatoHealth. Розвідка про біотехнології та клінічні випробування. Доступ тут.
• джерело: https://aws.amazon.com/blogs/machine-learning/a-secure-approach-to-generative-ai-with-aws/