OpenAI پنج حساب را بسته است که ادعا می کند توسط عوامل دولتی برای تولید ایمیل های فیشینگ و اسکریپت های نرم افزارهای مخرب و همچنین روش های تحقیق برای فرار از شناسایی بدافزار استفاده می شد.

به طور خاص، چین، ایران، روسیه و کره شمالی ظاهراً با استفاده از مدل‌های آزمایشگاه فوق‌العاده در حال جستجوی اطلاعات منبع باز، ترجمه، یافتن خطاهای کدنویسی و اجرای وظایف اصلی کدگذاری بودند. ما کرکس‌ها فکر می‌کردیم که هدف کلی پیشنهاد OpenAI همین است، اما به نظر می‌رسد این کشورها با استفاده از این سیستم‌ها با نیت مضر یا مستقیماً شخصیت غیر ارادی از مرزها عبور کردند.

بیز پایان خدمت را در یک چهارشنبه پخش کرد خبر، اظهار داشت که با پشتیبان بزرگ خود مایکروسافت برای شناسایی و رفع اکانت ها کار کرده است.

ما پنج عامل مخرب وابسته به دولت را مختل کردیم: دو عامل تهدید وابسته به چین که به نام‌های طوفان ذغال و طوفان سالمون شناخته می‌شوند. بازیگر تهدید وابسته به ایران معروف به طوفان شن زرشکی. بازیگر وابسته به کره شمالی که با نام Emerald Sleet شناخته می شود. و بازیگر وابسته به روسیه که به نام Forest Blizzard شناخته می شود.» تیم OpenAI نوشت.

مدل‌های زبان بزرگ مکالمه مانند GPT-4 OpenAI را می‌توان برای مواردی مانند استخراج و خلاصه کردن اطلاعات، ایجاد پیام‌ها و نوشتن کد استفاده کرد. OpenAI سعی می کند با فیلتر کردن درخواست های اطلاعات مضر و کدهای مخرب از سوء استفاده از نرم افزار خود جلوگیری کند.

این آزمایشگاه همچنین تاکید کرد که GPT-4 به هر حال در انجام کارهای بد سایبری چندان خوب نیست و در اعلامیه خود اشاره کرد که شبکه عصبی که از طریق API یا ChatGPT Plus در دسترس است، «تنها قابلیت‌های محدود و افزایشی برای امنیت سایبری مخرب ارائه می‌کند. وظایفی فراتر از آنچه در حال حاضر با ابزارهای در دسترس عموم و غیر مجهز به هوش مصنوعی قابل دستیابی است."

تیم اطلاعات تهدید مایکروسافت به اشتراک گذاشته شده تجزیه و تحلیل خود از فعالیت های مخرب. این سند حاکی از آن است که طوفان ذغال سنگ چین و طوفان سالمون، که هر دو شرکت‌های مهاجم در آسیا و ایالات متحده دارند، از GPT-4 برای تحقیق در مورد اطلاعات شرکت‌ها و آژانس‌های اطلاعاتی خاص استفاده کرده‌اند. این تیم ها همچنین مقالات فنی را ترجمه کردند تا درباره ابزارهای امنیت سایبری بیشتر بیاموزند - شغلی که انصافاً با سایر خدمات به راحتی انجام می شود.

مایکروسافت همچنین اظهار داشت که Crimson Sandstorm، واحدی که توسط نیروهای مسلح ایران کنترل می‌شود، از طریق مدل‌های OpenAI به دنبال روش‌هایی برای اجرای وظایف اسکریپت‌شده و فرار از شناسایی بدافزار بوده و سعی در توسعه حملات فیشینگ بسیار هدفمند دارد. Emerald Sleet، به نمایندگی از دولت کره شمالی، از آزمایشگاه هوش مصنوعی پرس و جو کرد تا اطلاعات مربوط به مسائل دفاعی مربوط به منطقه آسیا و اقیانوسیه و آسیب پذیری های عمومی را علاوه بر ایجاد کمپین های فیشینگ جستجو کند.

سرانجام، Forest Blizzard، یک خدمه اطلاعاتی ارتش روسیه که به نام بدنام نیز شناخته می شود خرس فانتزی تیم، فناوری منبع باز ماهواره ای و تصویربرداری راداری را مورد تحقیق قرار داد و به دنبال راه هایی برای خودکارسازی وظایف اسکریپت بود.

OpenAI قبلا فرومایه توانایی مدل‌های آن برای کمک به مهاجمان، نشان می‌دهد که شبکه‌های عصبی آن در ایجاد اکسپلویت برای آسیب‌پذیری‌های شناخته شده «ضعیف» عمل می‌کنند. ®

• محتوای مبتنی بر SEO و توزیع روابط عمومی. امروز تقویت شوید.
• PlatoData.Network Vertical Generative Ai. به خودت قدرت بده دسترسی به اینجا.
• PlatoAiStream. هوش وب 3 دانش تقویت شده دسترسی به اینجا.
• PlatoESG. کربن ، CleanTech، انرژی، محیط، خورشیدی، مدیریت پسماند دسترسی به اینجا.
• PlatoHealth. هوش بیوتکنولوژی و آزمایشات بالینی. دسترسی به اینجا.
• منبع: https://go.theregister.com/feed/www.theregister.com/2024/02/15/openai_microsoft_spying/