A kanadai kormány egy olyan keretrendszer kidolgozásán dolgozik, amely leküzdheti a diszkriminációt a kormányhivatalokon belüli felvételi folyamatokban, különös tekintettel a magánélet védelmére és az átláthatóságra.
Ennek oka az, hogy több részleg elkezdte beépíteni a mesterséges intelligenciát a munkaerő-felvételi folyamatába, bár sok panasz érkezett az AI-eszközök diszkriminatív jellege miatt.
A magánélet tiszteletben tartása
Anita Anand, a Treasury Board elnöke egy sokféle kérdést felölelő interjúban elismerte az AI átalakító képességeit. Beismerte a végrehajtással kapcsolatos aggodalmakat is, sürgette a Kanadai a kormánynak, hogy dolgozzon ki egy iránymutatást a diszkrimináció korlátozására.
„Nem kérdéses, hogy az egyének magánéletét mindenkor tiszteletben kell tartani az adatvédelmi törvényekkel összhangban, és hogy munkaerő-felvételi gyakorlatunknak megkülönböztetéstől mentesnek kell lennie, és bele kell épülnie az egyenlőség érzésébe” – mondta Anand. – mondta a CBC-nek.
„Mint rasszizált nő, ezt természetesen nagyon mélyen érzem. Biztosítanunk kell, hogy a mesterséges intelligencia bármilyen munkahelyi felhasználásának meg kell felelnie a hatályos jogszabályoknak, és ki kell állnia a megkülönböztetésmentesség erkölcsi próbáját.”
Lásd még: A Microsoft AI félrevezető válaszokat adott a választási kérdésekre
AI használata készségek felmérésére
Matthew Green NDP-képviselő kérdéseire válaszolva a Nemzetvédelmi Minisztérium jelezte, hogy egy mesterséges intelligencia által vezérelt készségfelmérő eszközt használt. Knockri.
Az eszközt több száz előre felvett állásinterjún használták, „a toborzási folyamatban az elfogultság csökkentésére és a méltányosság előmozdítására” irányuló erőfeszítések részeként.
"A Knockri gépi tanulást használ a jelölt válaszok beszéd-szöveg tartalmának elemzésére, és összehasonlítja azokat meghatározott teljesítménymutatókkal" - írta a részleg.
Knockri egy torontói székhelyű cég, amely mesterséges intelligencia-alapú videotoborzó eszközt fejlesztett ki az elfogultság korlátozása és a felvételi folyamat javítása érdekében.
A kormány kémkedik az alkalmazottak után?
A CBC News-nak adott Anand-interjú alig egy hónappal a vizsgálatokat követően készült Radio Kanada, amely a személyes adatok védelmének megsértését tárta fel.
Kiderült, hogy a kormányhivatalok olyan technológiát szereztek be, amely felhasználható adatok kinyerésére mobil eszközökről, például mobiltelefonokról, valamint az alkalmazottaknak adott számítógépekről.
Anand tagadta azokat a vádakat, amelyek szerint a kormány kémprogramokat használt volna alkalmazottai ellen.
"Ez csak azokban az esetekben van így, amikor vizsgálat folyik, vagy úgy vélik, hogy valami nincs rendben" - mondta, hozzátéve, hogy "nem használják rutinszerűen".
A diszkrimináció kezelése
AI diszkrimináció régóta fennálló probléma, nemcsak Kanadában, hanem globális kihívás is. Szeptemberben Anand irányelveket vezetett be a generatív mesterséges intelligencia eszközöket, például a ChatGPT-t használni kívánó közalkalmazottak számára, mondván, hogy a kormány figyelni fog minden olyan lehetséges kihívásra, mint pl. diszkrimináció és elfogultság.
A CBC szerint azonban ez nem akadályozta meg a Global Affairs-t abban, hogy bocsánatot kérjen, miután mesterséges intelligencia által generált tartalmat tettek közzé a közösségi médiában, hogy egy inuit nőt képviseljenek.
A Global Affairsnek a Treasury Board által készített eszközöket kellett volna használnia az alkalmazottak és a részlegek irányítására, „mint például az AI-irányelvek vagy az Algoritmikus hatásvizsgálati (AIA) folyamat”.
„Ez egy tökéletes helyzet, amikor az általam említett algoritmikus hatásvizsgálati eszközt használhatjuk” – mondta.
„Az AIA eszköz egy sor kérdés, és ezeket a kérdéseket fel kell tenni, amikor a mesterséges intelligenciát a munkahelyen használják. Jogi, politikai és etikai szempontokat tükröznek” – tette hozzá Anand.
Kifejezte azon óhaját is, hogy pótolja országa mesterséges intelligencia szabályozási keretének hiányosságait.
„Nem kétséges, hogy az AI egy átalakuló technológia. A másik dolog, amit igazán hosszú távra tekintek, mert ehhez meg kell kérdeznünk, hogyan gondolkodunk a szabályozásról és tágabb értelemben.”
"Például az autonóm gépek, például az autonóm járművek megjelenésével fel kell tennünk magunknak a kérdést, hogy az általunk érvényben lévő szabályozás releváns-e és alkalmazható-e hosszú távon" - mondta Anand.
Az emberek továbbra is relevánsak
Míg a kormány a mesterséges intelligencia által vezérelt eszközöket kutatja osztályán, Anand szerint a kanadaiaknak mindig lehetőséget kell biztosítani arra, hogy valódi emberrel beszéljenek. Mint ilyen, a technológia átvétele ellenére a közalkalmazottakat sem szabad negatívan befolyásolnia az AI-technológia osztályokon történő átvétele.
Ez abból adódik, hogy voltak aggodalmak és félelmek, hogy az AI-technológia munkahelyeket vesz el, és távozik Több millió munka nélkül.
A jelenleg a bizottság előtt álló C-27. számú törvényjavaslaton keresztül a Kanadai A kormány keretrendszert kíván elfogadni az AI használatára vonatkozóan a szövetségileg szabályozott vállalatoknál. Anand azonban nem határozta meg, hogy a jogszabályt mikor kell alkalmazni a kormányhivatalokban.
2024-ben azonban Anand megbízatást kapott az elöregedő technológia megújítására, amelyet a kormány olyan juttatások biztosítására használ, mint az Öregségi Biztonság (OAS), amely az ország nyugdíj- és foglalkoztatásbiztosítása.
Ezzel összhangban a kormány júniusban hajtotta végre az első 600,000 XNUMX külföldi OAS-címzett átutalását az új platformra. A gyakorlat második szakasza a következő évben kezdődik.
„A kutatások azt mutatják, hogy közvetlen összefüggés van a polgárok kormányunkba vetett bizalma és az általuk kapott szolgáltatások között. Tehát arra számítunk, hogy kézzelfogható előrelépést érünk el a több mint 45 éves rendszerek cseréje terén” – mondta Anand.
- SEO által támogatott tartalom és PR terjesztés. Erősödjön még ma.
- PlatoData.Network Vertical Generative Ai. Erősítse meg magát. Hozzáférés itt.
- PlatoAiStream. Web3 Intelligence. Felerősített tudás. Hozzáférés itt.
- PlatoESG. Carbon, CleanTech, Energia, Környezet, Nap, Hulladékgazdálkodás. Hozzáférés itt.
- PlatoHealth. Biotechnológiai és klinikai vizsgálatok intelligencia. Hozzáférés itt.
- Forrás: https://metanews.com/canada-setting-guidelines-to-tackle-ai-tools-bias-when-hiring/
