Το Υπουργείο Άμυνας των ΗΠΑ φέρεται να συνεργάζεται με την startup Scale AI για τη δοκιμή μοντέλων τεχνητής νοημοσύνης για στρατιωτική χρήση.
Η Scale AI θα δημιουργήσει ένα πλαίσιο εργαλείων και συνόλων δεδομένων που μπορεί να αναπτύξει το Πεντάγωνο για την αξιολόγηση μεγάλων μοντέλων γλώσσας. Το πλαίσιο θα περιλαμβάνει «μέτρηση της απόδοσης του μοντέλου, προσφορά ανατροφοδότησης σε πραγματικό χρόνο για πολεμιστές και δημιουργία εξειδικευμένων συνόλων αξιολόγησης του δημόσιου τομέα για τη δοκιμή μοντέλων τεχνητής νοημοσύνης για εφαρμογές στρατιωτικής υποστήριξης, όπως η οργάνωση των ευρημάτων από αναφορές μετά από δράση», η biz με έδρα το Σαν Φρανσίσκο. είπε DefenseScoop.
Η ικανότητα των μεγάλων γλωσσικών μοντέλων να αναλύουν και να δημιουργούν κείμενο θα μπορούσε να ενισχύσει την ικανότητα του Πενταγώνου να συλλέγει πληροφορίες, να σχεδιάζει επιχειρήσεις και έτσι να καθοδηγεί τη λήψη αποφάσεων στον τομέα της μάχης.
«Φανταστείτε έναν κόσμο όπου οι μάχιμοι διοικητές μπορούν να δουν όλα όσα χρειάζονται για να λάβουν στρατηγικές αποφάσεις», δήλωσε ο Craig Martell, επικεφαλής ψηφιακής και τεχνητής νοημοσύνης του Υπουργείου Εξωτερικών.
«Φανταστείτε έναν κόσμο όπου αυτοί οι μαχητές διοικητές δεν λαμβάνουν αυτές τις πληροφορίες μέσω PowerPoint ή μέσω email από όλη την [οργάνωση] – ο χρόνος ολοκλήρωσης για την επίγνωση της κατάστασης συρρικνώνεται από μία ή δύο ημέρες σε δέκα λεπτά», είπε. δηλώνονται κατά τη διάρκεια του Advantage DoD 2024: Defense Data and AI Symposium.
Η τεχνητή νοημοσύνη μπορεί γρήγορα να επεξεργαστεί μεγάλο όγκο πληροφοριών. Τα στρατιωτικά δεδομένα, ωστόσο, είναι συχνά εξαιρετικά ευαίσθητα – και οι αξιωματούχοι ανησυχούν ότι εάν φτάσουν σε μεγάλα γλωσσικά μοντέλα, ενδέχεται να διαρρεύσουν από επιθέσεις έγχυσης ή κατάχρηση API.
Το μεγαλύτερο εμπόδιο στη στρατιωτική εφαρμογή των LLMs είναι η τάση τους να παράγουν ανακριβείς ή ψευδείς πληροφορίες - ονομαζόμενη ψευδαίσθηση. Με την εισαγωγή της Scale AI, το Πεντάγωνο πιστεύει ότι μπορεί να δοκιμάσει την απόδοση διαφορετικών μοντέλων για να εντοπίσει πιθανούς κινδύνους προτού σκεφτεί να τα χρησιμοποιήσει για την υποστήριξη πολεμικών μαχών ή πληροφοριών.
Σύμφωνα με πληροφορίες, η εκκίνηση θα συντάξει «σύνολα δεδομένων αναμονής» που περιέχουν παραδείγματα αποτελεσματικών απαντήσεων σε προτροπές εισαγωγής που θα ήταν χρήσιμες για τον στρατό. Οι υπάλληλοι του Υπουργείου Άμυνας μπορούν στη συνέχεια να συγκρίνουν τις απαντήσεις διαφορετικών μοντέλων στις ίδιες προτροπές και να αξιολογήσουν τη χρησιμότητά τους.
Πέρυσι ξεκίνησε το DoD Task Force Lima – μια μονάδα υπό την ηγεσία του Martell, πρώην επικεφαλής μηχανικής μάθησης στη ride-share biz Lyft, για τη διερεύνηση στρατιωτικών εφαρμογών για γενετική τεχνητή νοημοσύνη.
«Το Υπουργείο Άμυνας έχει επιτακτική ανάγκη να επιδιώξει υπεύθυνα την υιοθέτηση μοντέλων τεχνητής νοημοσύνης, εντοπίζοντας κατάλληλα προστατευτικά μέτρα και μετριάζοντας τους κινδύνους εθνικής ασφάλειας που μπορεί να προκύψουν από ζητήματα όπως η κακή διαχείριση των δεδομένων εκπαίδευσης», εξήγησε τότε ο Martell. «Πρέπει επίσης να εξετάσουμε τον βαθμό στον οποίο οι αντίπαλοί μας θα χρησιμοποιήσουν αυτήν την τεχνολογία και να επιδιώξουν να διακόψουν τη δική μας χρήση λύσεων που βασίζονται στην τεχνητή νοημοσύνη».
Έχουν χρησιμοποιηθεί εργαλεία όπως το ChatGPT προσωρινά απαγορευμένο εσωτερικά όμως. Η Διαστημική Δύναμη των ΗΠΑ είπε στο προσωπικό να μην χρησιμοποιήσει το λογισμικό, από φόβους ότι θα μπορούσαν να αποκαλυφθούν ή να εξαχθούν στρατιωτικά μυστικά.
Η Scale AI αρνήθηκε να σχολιάσει το θέμα. ®
- SEO Powered Content & PR Distribution. Ενισχύστε σήμερα.
- PlatoData.Network Vertical Generative Ai. Ενδυναμώστε τον εαυτό σας. Πρόσβαση εδώ.
- PlatoAiStream. Web3 Intelligence. Ενισχύθηκε η γνώση. Πρόσβαση εδώ.
- PlatoESG. Ανθρακας, Cleantech, Ενέργεια, Περιβάλλον, Ηλιακός, Διαχείριση των αποβλήτων. Πρόσβαση εδώ.
- PlatoHealth. Ευφυΐα βιοτεχνολογίας και κλινικών δοκιμών. Πρόσβαση εδώ.
- πηγή: https://go.theregister.com/feed/www.theregister.com/2024/02/21/dod_scaleai_contract/
