هوش مصنوعی (AI) یک زمینه به سرعت در حال توسعه با پتانسیل برای بهبود و تغییر بسیاری از جنبه های جامعه است. در سال 2023، سرعت پذیرش فناوری‌های هوش مصنوعی با توسعه مدل‌های پایه قدرتمند (FM) و در نتیجه پیشرفت در قابلیت‌های هوش مصنوعی مولد، شتاب بیشتری گرفته است.
در آمازون، ما چندین سرویس هوش مصنوعی مولد را راه اندازی کرده ایم، مانند بستر آمازون و آمازون کد Whisperer، و طیف وسیعی از مدل های مولد بسیار توانمند را در دسترس قرار داده اند Amazon SageMaker JumpStart. این خدمات برای حمایت از مشتریان ما در بازگشایی قابلیت‌های نوظهور هوش مصنوعی، از جمله خلاقیت افزایش یافته، ایجاد محتوای شخصی و پویا، و طراحی نوآورانه طراحی شده‌اند. آنها همچنین می‌توانند به پزشکان هوش مصنوعی این امکان را بدهند که جهان را بی‌سابقه درک کنند - به موانع زبانی، تغییرات آب و هوایی، تسریع اکتشافات علمی و موارد دیگر.
با این حال، برای درک پتانسیل کامل هوش مصنوعی مولد، مهم است که به دقت در مورد خطرات احتمالی فکر کنید. اول از همه، این امر با ترویج توسعه و استقرار مسئولانه و ایمن، و با تشویق اتخاذ اقدامات پیشگیرانه برای پرداختن به تأثیرات احتمالی، به نفع ذینفعان سیستم هوش مصنوعی است. در نتیجه، ایجاد مکانیسم‌هایی برای ارزیابی و مدیریت ریسک، فرآیند مهمی است که متخصصان هوش مصنوعی باید در نظر بگیرند و به یکی از اجزای اصلی بسیاری از استانداردهای صنعت هوش مصنوعی در حال ظهور تبدیل شده است (به عنوان مثال، ISO 42001, ISO 23894و NIST RMF) و قانون گذاری (مانند قانون هوش مصنوعی اتحادیه اروپا).
در این پست، نحوه ارزیابی خطر احتمالی سیستم هوش مصنوعی خود را مورد بحث قرار می دهیم.
سطوح مختلف ریسک چیست؟
در حالی که ممکن است شروع به بررسی یک مدل یادگیری ماشینی فردی (ML) و خطرات مربوط به آن به صورت مجزا آسان‌تر باشد، مهم است که جزئیات کاربرد خاص چنین مدلی و مورد استفاده مربوطه را به عنوان بخشی از یک سیستم هوش مصنوعی کامل در نظر بگیریم. . در واقع، یک سیستم AI معمولی احتمالاً مبتنی بر چندین مدل مختلف ML است که با هم کار می کنند، و یک سازمان ممکن است به دنبال ساخت چندین سیستم هوش مصنوعی متفاوت باشد. در نتیجه، ریسک ها را می توان برای هر مورد استفاده و در سطوح مختلف، یعنی ریسک مدل، ریسک سیستم هوش مصنوعی و ریسک سازمانی ارزیابی کرد.
ریسک سازمانی شامل طیف وسیعی از ریسک‌هایی است که ممکن است یک سازمان با آن مواجه شود، از جمله ریسک‌های مالی، عملیاتی و استراتژیک. ریسک سیستم هوش مصنوعی بر تاثیر مرتبط با پیاده سازی و بهره برداری از سیستم های هوش مصنوعی تمرکز دارد، در حالی که ریسک مدل ML به طور خاص به آسیب پذیری ها و عدم قطعیت های ذاتی در مدل های ML مربوط می شود.
در این پست، در درجه اول بر ریسک سیستم هوش مصنوعی تمرکز می کنیم. با این حال، توجه به این نکته مهم است که تمام سطوح مختلف مدیریت ریسک در یک سازمان باید در نظر گرفته شده و همسو شوند.
ریسک سیستم هوش مصنوعی چگونه تعریف می شود؟
مدیریت ریسک در زمینه یک سیستم هوش مصنوعی می‌تواند راهی برای به حداقل رساندن تأثیر عدم قطعیت یا تأثیرات منفی بالقوه باشد، در حالی که فرصت‌هایی را برای به حداکثر رساندن تأثیرات مثبت فراهم می‌کند. ریسک به خودی خود یک آسیب بالقوه نیست، بلکه اثر عدم قطعیت بر اهداف است. بر اساس چارچوب مدیریت ریسک NIST (NIST RMF)، ریسک را می توان به عنوان یک اندازه گیری ضربی از احتمال وقوع یک رویداد با زمان بندی بزرگی پیامدهای رویداد مربوطه تخمین زد.
ریسک دو جنبه دارد: ریسک ذاتی و ریسک باقیمانده. ریسک ذاتی نشان دهنده میزان خطری است که سیستم هوش مصنوعی در غیاب کاهش یا کنترل از خود نشان می دهد. ریسک باقیمانده پس از فاکتورگیری در استراتژی‌های کاهش، ریسک‌های باقیمانده را در بر می‌گیرد.
همیشه به خاطر داشته باشید که ارزیابی ریسک یک فعالیت انسان محور است که نیازمند تلاش های گسترده سازمان است. این تلاش‌ها از حصول اطمینان از اینکه همه ذینفعان مربوطه در فرآیند ارزیابی گنجانده شده‌اند (مانند تیم‌های محصول، مهندسی، علم، فروش و امنیتی) تا ارزیابی اینکه چگونه دیدگاه‌ها و هنجارهای اجتماعی بر احتمال و پیامدهای رویدادهای خاص تأثیر می‌گذارند را شامل می‌شود.
چرا سازمان شما باید به ارزیابی ریسک اهمیت دهد؟
ایجاد چارچوب‌های مدیریت ریسک برای سیستم‌های هوش مصنوعی می‌تواند با ارتقای طراحی، توسعه و عملکرد ایمن و مسئولانه سیستم‌های هوش مصنوعی به نفع جامعه باشد. چارچوب‌های مدیریت ریسک همچنین می‌توانند از طریق موارد زیر به نفع سازمان‌ها باشند:
- بهبود تصمیم گیری - با درک خطرات مرتبط با سیستم‌های هوش مصنوعی، سازمان‌ها می‌توانند تصمیمات بهتری در مورد نحوه کاهش این خطرات بگیرند و از سیستم‌های هوش مصنوعی به شیوه‌ای ایمن و مسئولانه استفاده کنند.
- افزایش برنامه ریزی انطباق - چارچوب ارزیابی ریسک می تواند به سازمان ها کمک کند تا برای الزامات ارزیابی ریسک در قوانین و مقررات مربوط آماده شوند
- اعتماد سازی - سازمان ها با نشان دادن اینکه در حال برداشتن گام هایی برای کاهش خطرات سیستم های هوش مصنوعی هستند، می توانند به مشتریان و ذینفعان خود نشان دهند که متعهد به استفاده از هوش مصنوعی به شیوه ای ایمن و مسئولانه هستند.
چگونه ریسک را ارزیابی کنیم؟
به عنوان اولین گام، یک سازمان باید مورد استفاده از هوش مصنوعی را که نیاز به ارزیابی دارد، توصیف کند و همه ذینفعان مربوطه را شناسایی کند. مورد استفاده یک سناریو یا موقعیت خاص است که نحوه تعامل کاربران با یک سیستم هوش مصنوعی برای رسیدن به یک هدف خاص را توصیف می کند. هنگام ایجاد توصیف مورد استفاده، مشخص کردن مشکل تجاری در حال حل، فهرست کردن ذینفعان درگیر، مشخص کردن گردش کار و ارائه جزئیات در مورد ورودی ها و خروجی های کلیدی سیستم می تواند مفید باشد.
وقتی صحبت از سهامداران به میان می آید، نادیده گرفتن برخی از آنها آسان است. شکل زیر نقطه شروع خوبی برای ترسیم نقش ذینفعان هوش مصنوعی است.
منبع: “فناوری اطلاعات – هوش مصنوعی – مفاهیم و اصطلاحات هوش مصنوعی”.
مرحله مهم بعدی ارزیابی ریسک سیستم هوش مصنوعی، شناسایی رویدادهای بالقوه مضر مرتبط با مورد استفاده است. در در نظر گرفتن این رویدادها، بررسی ابعاد مختلف هوش مصنوعی مسئول، مانند عدالت و استحکام، برای مثال، می تواند مفید باشد. ذینفعان مختلف ممکن است به درجات مختلف در ابعاد مختلف تحت تأثیر قرار گیرند. به عنوان مثال، یک ریسک استحکام پایین برای یک کاربر نهایی می‌تواند نتیجه سیستم هوش مصنوعی باشد که اختلالات جزئی از خود نشان می‌دهد، در حالی که خطر انصاف پایین می‌تواند ناشی از یک سیستم هوش مصنوعی باشد که خروجی‌های بسیار متفاوتی را برای گروه‌های جمعیتی مختلف تولید می‌کند.
برای تخمین ریسک یک رویداد، می توانید از مقیاس احتمال در ترکیب با مقیاس شدت برای اندازه گیری احتمال وقوع و همچنین میزان پیامدها استفاده کنید. یک نقطه شروع مفید در هنگام توسعه این مقیاس‌ها ممکن است NIST RMF باشد، که استفاده از دسته‌های غیر عددی کیفی را پیشنهاد می‌کند که از اصول ارزیابی‌های بسیار کم تا بسیار بالا یا ارزیابی‌های نیمه کمی، مانند مقیاس‌ها (مانند 1-10)، سطل‌ها یا موارد دیگر استفاده شود. شماره های نماینده پس از اینکه مقیاس‌های احتمال و شدت را برای همه ابعاد مرتبط تعریف کردید، می‌توانید از یک طرح ماتریس ریسک برای تعیین کمیت ریسک کلی به ازای هر ذینفع در هر بعد مرتبط استفاده کنید. شکل زیر نمونه ای از ماتریس ریسک را نشان می دهد.
با استفاده از این ماتریس ریسک، می توانیم رویدادی با شدت کم و احتمال وقوع نادر را به عنوان خطر بسیار کم در نظر بگیریم. به خاطر داشته باشید که ارزیابی اولیه تخمینی از ریسک ذاتی خواهد بود و استراتژی های کاهش ریسک می تواند به کاهش بیشتر سطوح ریسک کمک کند. سپس می‌توان این فرآیند را تکرار کرد تا یک رتبه‌بندی برای هر ریسک باقیمانده در هر رویداد ایجاد شود. اگر چندین رویداد در یک بعد شناسایی شده باشد، انتخاب بالاترین سطح ریسک از بین همه برای ایجاد یک خلاصه ارزیابی نهایی می تواند مفید باشد.
با استفاده از خلاصه ارزیابی نهایی، سازمان ها باید تعریف کنند که چه سطوح ریسک برای سیستم های هوش مصنوعی آنها قابل قبول است و همچنین مقررات و سیاست های مربوطه را در نظر بگیرند.
تعهد AWS
از طریق تعامل با کاخ سفید و UNاز جمله، ما متعهد به اشتراک گذاری دانش و تخصص خود برای پیشبرد استفاده مسئولانه و ایمن از هوش مصنوعی هستیم. در همین راستا، آدام سلیپسکی از آمازون اخیراً AWS را در نمایشگاه نمایندگی کرد اجلاس ایمنی هوش مصنوعی با حضور سران دولت و رهبران صنعت، نشان دادن تعهد ما به همکاری در پیشرفت مسئولانه هوش مصنوعی.
نتیجه
همانطور که هوش مصنوعی به پیشرفت خود ادامه می دهد، ارزیابی ریسک برای سازمان هایی که به دنبال ایجاد و استقرار هوش مصنوعی مسئولانه هستند، به طور فزاینده ای مهم و مفید می شود. با ایجاد چارچوب ارزیابی ریسک و طرح کاهش ریسک، سازمان‌ها می‌توانند خطر حوادث احتمالی مرتبط با هوش مصنوعی را کاهش دهند و اعتماد مشتریان خود را به دست آورند و همچنین از مزایایی مانند قابلیت اطمینان بهبود یافته، بهبود عدالت برای جمعیت‌های مختلف و موارد دیگر بهره ببرند.
ادامه دهید و سفر خود را برای ایجاد چارچوب ارزیابی ریسک در سازمان خود آغاز کنید و افکار خود را در نظرات به اشتراک بگذارید.
همچنین مروری بر خطرات هوش مصنوعی مولد منتشر شده در Amazon Science را بررسی کنید: هوش مصنوعی مسئول در دوران تولید، و طیف وسیعی از خدمات AWS را که می توانند در ارزیابی خطر و سفر کاهش ریسک از شما پشتیبانی کنند، کاوش کنید: Amazon SageMaker Clarify, مانیتور مدل آمازون SageMaker, AWS CloudTrail، و همچنین به عنوان چارچوب حاکمیت مدل.
درباره نویسنده
میا سی مایر دانشمند کاربردی و مدرس ML در دانشگاه یادگیری ماشین AWS است. جایی که او در مورد ایمنی، توضیح پذیری و عدالت سیستم های یادگیری ماشین و هوش مصنوعی تحقیق و آموزش می دهد. میا در طول زندگی حرفه‌ای‌اش چندین برنامه ارتقای دانشگاهی را تأسیس کرد، به عنوان یک سخنران مهمان و سخنران اصلی عمل کرد و در کنفرانس‌های آموزشی بزرگ متعددی ارائه کرد. او همچنین به تیم های داخلی و مشتریان AWS کمک می کند تا سفر مسئول هوش مصنوعی خود را آغاز کنند.
دنیس وی. باتالوف دنیس یک کهنه سرباز ۱۷ ساله آمازون و دکترای یادگیری ماشین است، روی پروژه های هیجان انگیزی مانند Search Inside the Book، اپلیکیشن های آمازون موبایل و Kindle Direct Publishing کار کرده است. از سال 17، او به مشتریان AWS کمک کرده است تا فناوری AI/ML را به عنوان معمار راه حل اتخاذ کنند. در حال حاضر، دنیس یک رهبر فناوری در سراسر جهان برای AI/ML است که مسئول عملکرد معماران راه حل تخصصی AWS ML در سطح جهانی است. دنیس یک سخنران عمومی مکرر است، می توانید او را در توییتر @dbatalov دنبال کنید.
دکتر سارا لیو یک مدیر ارشد برنامه فنی با تیم هوش مصنوعی AWS است. او با تیمی از دانشمندان، رهبران مجموعه داده‌ها، مهندسان ML، محققان، و همچنین سایر تیم‌های متقابل کار می‌کند تا نوار هوش مصنوعی مسئول را در خدمات AWS AI افزایش دهد. پروژه های فعلی او شامل توسعه کارت های خدمات هوش مصنوعی، انجام ارزیابی ریسک برای هوش مصنوعی مسئول، ایجاد مجموعه داده های ارزیابی با کیفیت بالا و اجرای برنامه های با کیفیت است. او همچنین به تیم های داخلی و مشتریان کمک می کند تا استانداردهای در حال تحول صنعت هوش مصنوعی را برآورده کنند.
- محتوای مبتنی بر SEO و توزیع روابط عمومی. امروز تقویت شوید.
- PlatoData.Network Vertical Generative Ai. به خودت قدرت بده دسترسی به اینجا.
- PlatoAiStream. هوش وب 3 دانش تقویت شده دسترسی به اینجا.
- PlatoESG. کربن ، CleanTech، انرژی، محیط، خورشیدی، مدیریت پسماند دسترسی به اینجا.
- PlatoHealth. هوش بیوتکنولوژی و آزمایشات بالینی. دسترسی به اینجا.
- منبع: https://aws.amazon.com/blogs/machine-learning/learn-how-to-assess-risk-of-ai-systems/
