इस महीने की शुरुआत में अमेरिकी वायु सेना के मुख्य वैज्ञानिक के अंतर-एजेंसी कार्य समूह ने एक भेजा था अनपेक्षित आर्टिफिशियल इंटेलिजेंस (एआई) पूर्वाग्रह पर सूचना के लिए अनुरोध (आरएफआई)।. समूह डेटासेट पर प्राथमिक जोर देने के साथ एआई और मशीन लर्निंग (एमएल) एल्गोरिदम के भीतर पूर्वाग्रह के महत्वपूर्ण मुद्दे पर विचार कर रहा है। वे उद्योग, संघीय सरकार और अन्य शैक्षणिक संस्थानों के साथ-साथ अल्पसंख्यक सेवा संस्थानों (एमएसआई) और ऐतिहासिक रूप से काले कॉलेजों और विश्वविद्यालयों (एचबीसीयू) जैसे शैक्षणिक संस्थानों से इन पूर्वाग्रहों के बारे में सीखना चाह रहे हैं।

पूर्वाग्रह की पहचान करने और उसे संबोधित करने के उद्देश्य से कई उपकरणों के विकास के बावजूद, जैसे कि रक्षा विभाग (डीओडी) जिम्मेदार एआई टूलकिट, एआई और एमएल सिस्टम के भीतर पूर्वाग्रह से निपटने में महत्वपूर्ण चुनौतियां बनी हुई हैं।

समूह मानता है कि जैसे-जैसे एआई तकनीक नए डोमेन में विस्तारित होती है, अनूठी चुनौतियाँ सामने आती हैं, प्रत्येक के अपने अनुप्रयोग-विशिष्ट पूर्वाग्रह होते हैं जो अनजाने में हानिकारक परिणामों का कारण बन सकते हैं। इसलिए, एआई और एमएल विकास के हर चरण में पूर्वाग्रह का पता लगाने और उसे कम करने के लिए प्रभावी रणनीति विकसित करने के लिए विभिन्न विषयों में निरंतर अनुसंधान और सहयोग की तत्काल आवश्यकता है।

डेटासेट में एआई पूर्वाग्रह को बेहतर ढंग से समझने के तरीके के बारे में जानकारी साझा करने में रुचि रखने वाले व्यक्तियों और समूहों को 15 मई तक अपने पोर्टल के माध्यम से प्रतिक्रिया प्रस्तुत करनी चाहिए।

प्रतिक्रियाओं में शामिल होना चाहिए:

• एक क्षमता विवरण
• अनपेक्षित एआई पूर्वाग्रह से निपटने के लिए संस्थान द्वारा किए गए चल रहे और भविष्य के शोध का विवरण
• एआई पूर्वाग्रह पर शोध करने और उसे कम करने के उद्देश्य से सभी मौजूदा साझेदारियों का विवरण
• अनपेक्षित एआई पूर्वाग्रह के प्रकारों का विवरण जो देखे जा रहे हैं (एकत्रित किए जा रहे डेटा सहित), वे किस डोमेन में हैं और संस्थान पर उनका क्या प्रभाव पड़ रहा है
• एक वक्तव्य जिसमें प्रस्तावित किया गया है कि यह कार्य छात्रों और शोधकर्ताओं की शिक्षा और प्रशिक्षण को कैसे आगे बढ़ाएगा

अधिक जानकारी प्राप्त करने और प्रतिक्रिया सबमिट करने के लिए संपूर्ण आरएफआई देखें यहाँ उत्पन्न करें.

क्या आप उद्योग के दृष्टिकोण से इन चुनौतियों पर समूह को सूचित करने में रुचि रखते हैं? उन्होंने एक भी जारी किया है RFI, जहां वे वाणिज्यिक और गैर-लाभकारी संगठनों से सुनने की उम्मीद करते हैं जो एआई क्षमताओं को विकसित करने के लिए डेटा का उपयोग करते हैं।