Зображення, створені генеративними моделями OpenAI, включатимуть метадані, що розкривають їх походження, які, у свою чергу, можуть використовуватися програмами, щоб попередити людей про машинний характер цього вмісту.
Зокрема, суперлабораторія, яку підтримує Microsoft, як і очікувалося, приймає специфікацію облікових даних вмісту, розроблену Коаліцією походження та автентичності вмісту (C2PA), галузева організація, яку підтримують Adobe, Arm, Microsoft, Intel тощо.
Облікові дані вмісту є досить просто і вказано тут повністю: він використовує стандартні формати даних зберігати в медіафайлах відомості про те, хто і як створив матеріал. Ці метадані не є безпосередньо видимими для користувача та криптографічно захищені, щоб будь-які несанкціоновані зміни були очевидними.
Програми, які підтримують ці метадані, коли вони виявляють їх у вмісті файлу, мають відображати невеликий логотип «cr» над вмістом, щоб вказати, що в цьому файлі є інформація про облікові дані вмісту. Якщо натиснути на цей логотип, має відкритися спливаюче вікно з цією інформацією, включно з будь-якими відомостями про те, що це було зроблено ШІ.
Як логотип C2PA «cr» може відображатися на зображенні, згенерованому OpenAI у допоміжній програмі. Джерело: OpenAI
Ідея полягає в тому, що людям, які переглядають або редагують матеріали у допоміжних програмах – від редакторів зображень до веб-браузерів, в ідеалі – має бути одразу очевидно, незалежно від того, створено вміст на екрані штучним інтелектом чи ні.
Допомога людям у розрізненні справжніх зображень від підроблених, безсумнівно, ставатиме все більш важливою, оскільки створений штучним інтелектом контент покращуватиметься до такої міри, що, очевидно, не буде результатом роботи машини. Експерти побоюються, що такі синтетичні медіа введуть в оману користувачів мережі та будуть використані для поширення дезінформації або підтримки кампаній дезінформації. Технологічні компанії посилюють зусилля, щоб мінімізувати ризики, оскільки, з одного боку, наближаються президентські вибори в США 2024 року.
Проте стратегія облікових даних вмісту не є надійною, як ми Раніше повідомлялося. Метадані можна легко видалити або експортувати без них, або «cr» обрізати зі знімків екрана, тому логотип «cr» не з’являтиметься на матеріалі в майбутньому в жодній програмі. Він також покладається на додатки та служби для підтримки специфікації, незалежно від того, створюють вони чи відображають медіа.
Щоб працювати в масштабі та отримати впровадження, йому також потрібна якась хмарна система, яку можна використовувати для відновлення видалених метаданих, що, як виявилося, просуває Adobe, а також маркетингова кампанія для поширення впізнаваності бренду. Збільште його бренд, якщо хочете.
Цього тижня OpenAI визнав це, оголосивши про те, що ChatGPT і DALL-E 3 API включатимуть облікові дані вмісту C2PA у свої результати.
«Метадані, такі як C2PA, не є ідеальним засобом для вирішення проблем походження», OpenAI зізнався. «Його легко можна видалити випадково або навмисно. Наприклад, сьогодні більшість платформ соціальних мереж видаляють метадані із завантажених зображень, і такі дії, як створення знімка екрана, також можуть видалити їх. Таким чином, зображення без цих метаданих може бути або не бути згенерованим за допомогою ChatGPT або нашого API».
З точки зору впливу розміру файлу, OpenAI наполягав на тому, що файл PNG розміром 3.1 МБ, створений його DALL-E API, збільшується приблизно на три відсотки (або приблизно 90 КБ) при включенні метаданих. Тим часом файл WebP розміром 287 КБ збільшиться приблизно на 32 відсотки з корисним навантаженням у 90 КБ.
C2PA набирає популярності: оскільки все більше додатків і служб обіцяють підтримувати його, більше програмного забезпечення може використовувати його, більше людей мають бачити його, і тому він росте. Мета оголошений цього тижня він створював інструменти для підтримки специфікації промислової групи.
«Ми вважаємо, що застосування цих методів для визначення походження та заохочення користувачів розпізнавати ці сигнали є ключовими для підвищення достовірності цифрової інформації», — заявив OpenAI.
Нам повідомили, що ChatGPT через Інтернет і модель DALL-E 3 через свій API тепер включатимуть метадані C2PA, і мобільні користувачі отримають їх до 12 лютого. ®
- Розповсюдження контенту та PR на основі SEO. Отримайте посилення сьогодні.
- PlatoData.Network Vertical Generative Ai. Додайте собі сили. Доступ тут.
- PlatoAiStream. Web3 Intelligence. Розширення знань. Доступ тут.
- ПлатонЕСГ. вуглець, CleanTech, Енергія, Навколишнє середовище, Сонячна, Поводження з відходами. Доступ тут.
- PlatoHealth. Розвідка про біотехнології та клінічні випробування. Доступ тут.
- джерело: https://go.theregister.com/feed/www.theregister.com/2024/02/08/openai_is_adding_a_watermark/
