Το Υπουργείο Εσωτερικής Ασφάλειας των ΗΠΑ (DHS) έχει έναν οδικό χάρτη τεχνητής νοημοσύνης και μια τριάδα δοκιμαστικών έργων για την ανάπτυξη της τεχνολογίας, ένα από τα οποία στοχεύει στην εκπαίδευση αξιωματικών μετανάστευσης χρησιμοποιώντας γενετική τεχνητή νοημοσύνη. Τι θα μπορούσε ενδεχομένως να πάει στραβά;
Κανένας προμηθευτής τεχνητής νοημοσύνης δεν κατονομάστηκε στην έκθεση, η οποία ισχυρίστηκε ότι η χρήση της τεχνολογίας είχε σκοπό να βοηθήσει τους εκπαιδευόμενους να κατανοήσουν καλύτερα και να διατηρήσουν τις «κρίσιμες πληροφορίες», καθώς και να «αυξήσουν την ακρίβεια της διαδικασίας λήψης αποφάσεων».
Είναι είπε ότι Οι OpenAI, Anthropic και Meta, καθώς και οι γίγαντες cloud, Microsoft, Google και Amazon, έχουν παράσχει στην Homeland Security τεχνολογία AI και διαδικτυακές υπηρεσίες για πειραματισμό, όσον αφορά την εκπαίδευση και τη λήψη αποφάσεων.
«Οι Υπηρεσίες Ιθαγένειας και Μετανάστευσης των ΗΠΑ (USCIS) θα πιλοτάρουν τη χρήση LLM για να βοηθήσουν στην εκπαίδευση των Υπαλλήλων Προσφύγων, Ασύλου και Διεθνών Επιχειρήσεων σχετικά με τον τρόπο διεξαγωγής συνεντεύξεων με αιτούντες νόμιμη μετανάστευση», δήλωσε ο Uncle Sam οδικός χάρτης [PDF], που κυκλοφόρησε χθες το βράδυ, εξηγεί.
Παρά πρόσφατη δουλειά σχετικά με τον μετριασμό των ανακρίβειων στα μοντέλα τεχνητής νοημοσύνης, τα LLMs είναι γνωστό ότι παράγουν ανακριβείς πληροφορίες με το είδος της εμπιστοσύνης που μπορεί να ενοχλήσει έναν νεαρό εκπαιδευόμενο.
Οι διαταραχές – που αναφέρονται ως «παραισθήσεις» – καθιστούν δύσκολο να εμπιστευτείς την παραγωγή της τεχνητής νοημοσύνης chatbots, δημιουργία εικόνας και ακόμη και εργασία νομικού βοηθού, με περισσότερα από ένας δικηγόρος να μπει σε μπελάδες για την αναφορά ψεύτικων υποθέσεων που δημιουργήθηκαν από τον αέρα από το ChatGPT.
Είναι επίσης γνωστό ότι τα LLM παρουσιάζουν φυλετική και έμφυλη προκατάληψη όταν αναπτύσσονται πρόσληψη εργαλείων, φυλετική και φυλετική προκατάληψη όταν χρησιμοποιείται σε αναγνώριση προσώπου συστήματα, και μπορεί ακόμη παρουσιάζουν ρατσιστικές προκαταλήψεις κατά την επεξεργασία λέξεων, όπως φαίνεται στο α πρόσφατο έγγραφο όπου διάφοροι LLM λαμβάνουν μια απόφαση για ένα άτομο με βάση μια σειρά προτροπών κειμένου. Οι ερευνητές ανέφεραν στην εργασία τους τον Μάρτιο ότι οι αποφάσεις LLM σχετικά με άτομα που χρησιμοποιούν αφροαμερικανική διάλεκτο αντανακλούν ρατσιστικά στερεότυπα.
Ωστόσο, το DHS ισχυρίζεται ότι έχει δεσμευτεί να διασφαλίσει ότι η χρήση του AI «είναι υπεύθυνη και αξιόπιστη. προστατεύει το απόρρητο, τα πολιτικά δικαιώματα και τις πολιτικές ελευθερίες· αποφεύγει τις ακατάλληλες προκαταλήψεις. και είναι διαφανές και εξηγήσιμο στους εργαζόμενους και στα άτομα που υποβάλλονται σε επεξεργασία. Ωστόσο, δεν αναφέρει ποιες διασφαλίσεις υπάρχουν.
Ο οργανισμός ισχυρίζεται ότι η χρήση γενετικής τεχνητής νοημοσύνης θα επιτρέψει στο DHS να «ενισχύει» το έργο των υπαλλήλων μετανάστευσης, με μια διαδραστική εφαρμογή που χρησιμοποιεί γενετική τεχνητή νοημοσύνη υπό ανάπτυξη για να βοηθήσει στην εκπαίδευση αξιωματικών. Ο στόχος περιλαμβάνει τον περιορισμό της ανάγκης για επανεκπαίδευση με την πάροδο του χρόνου.
Η μεγαλύτερη έκθεση του DHS περιγράφει τα σχέδια του Υπουργείου για την τεχνολογία γενικότερα και, σύμφωνα με τον Alejandro N Mayorkas, Υπουργό Εσωτερικής Ασφάλειας των ΗΠΑ, «είναι το πιο λεπτομερές σχέδιο τεχνητής νοημοσύνης που έχει υποβάλει μια ομοσπονδιακή υπηρεσία μέχρι σήμερα».
Άλλα δύο πιλοτικά έργα θα περιλαμβάνουν τη χρήση συστημάτων βασισμένων σε LLM σε έρευνες και την εφαρμογή γενετικής τεχνητής νοημοσύνης στη διαδικασία μετριασμού των κινδύνων για τις τοπικές κυβερνήσεις.
Η ιστορία επαναλαμβάνεται
Το DHS έχει χρησιμοποιήσει AI για περισσότερο από μια δεκαετία, συμπεριλαμβανομένης της τεχνολογίας μηχανικής εκμάθησης (ML) για επαλήθευση ταυτότητας. Η προσέγγισή του μπορεί καλύτερα να περιγραφεί ως αμφιλεγόμενη, με την υπηρεσία να βρίσκεται στο άκρο νομικές επιστολές πάνω από τη χρήση τεχνολογίας αναγνώρισης προσώπου. Ωστόσο, οι ΗΠΑ έχουν προχωρήσει παρά ανησυχία από κάποιες πλευρές.
Πράγματι, το DHS αναφέρει την τεχνητή νοημοσύνη ως κάτι που χρησιμοποιεί για να κάνει τα ταξίδια «ασφαλέστερα και ευκολότερα» – ποιος θα μπορούσε ενδεχομένως να αντιταχθεί στη λήψη μιας φωτογραφίας για να βοηθήσει στην πλοήγηση στο θέατρο ασφαλείας που είναι πολύ διαδεδομένο στα αεροδρόμια; Εξάλλου, εξακολουθεί να είναι προαιρετικό.
Άλλα παραδείγματα χρήσης τεχνητής νοημοσύνης που δίνονται από το DHS περιλαμβάνουν τη διέλευση παλαιότερων εικόνων για τον εντοπισμό προηγούμενων άγνωστων θυμάτων εκμετάλλευσης, την εκτίμηση της ζημιάς μετά από μια καταστροφή και την παραλαβή λαθρέμπορων με τον εντοπισμό ύποπτης συμπεριφοράς.
Στον οδικό του χάρτη, το DHS σημείωσε τις προκλήσεις που υπάρχουν παράλληλα με τις ευκαιρίες. Τα εργαλεία τεχνητής νοημοσύνης είναι εξίσου προσβάσιμα από τους παράγοντες απειλών καθώς και από τις αρχές, και το DHS ανησυχεί ότι οι επιθέσεις μεγαλύτερης κλίμακας είναι προσβάσιμες σε κυβερνοεγκληματίες, καθώς και επιθέσεις σε υποδομές ζωτικής σημασίας. Και μετά υπάρχει η απειλή από το περιεχόμενο που δημιουργείται με τεχνητή νοημοσύνη.
Έχουν τεθεί ορισμένοι στόχοι για το 2024. Αυτοί περιλαμβάνουν τη δημιουργία ενός AI Sandbox στο οποίο οι χρήστες του DHS μπορούν να παίξουν με την τεχνολογία και την πρόσληψη 50 ειδικών AI. Σχεδιάζει επίσης μια άσκηση HackDHS στην οποία οι ελεγμένοι ερευνητές θα επιφορτιστούν με την εύρεση τρωτών σημείων στα συστήματά της. ®
- SEO Powered Content & PR Distribution. Ενισχύστε σήμερα.
- PlatoData.Network Vertical Generative Ai. Ενδυναμώστε τον εαυτό σας. Πρόσβαση εδώ.
- PlatoAiStream. Web3 Intelligence. Ενισχύθηκε η γνώση. Πρόσβαση εδώ.
- PlatoESG. Ανθρακας, Cleantech, Ενέργεια, Περιβάλλον, Ηλιακός, Διαχείριση των αποβλήτων. Πρόσβαση εδώ.
- PlatoHealth. Ευφυΐα βιοτεχνολογίας και κλινικών δοκιμών. Πρόσβαση εδώ.
- πηγή: https://go.theregister.com/feed/www.theregister.com/2024/03/19/us_department_of_security_talks/
