Ανάλυση Η Microsoft φέρεται να χάνει έως και 80 $ το μήνα ανά χρήστη στις υπηρεσίες GitHub Copilot.
Σύμφωνα με δημοσίευμα της Wall Street Journal αναφέροντας ένα «άτομο εξοικειωμένο με τα στοιχεία», ενώ η Microsoft χρεώνει 10 δολάρια το μήνα για την υπηρεσία, ο γίγαντας λογισμικού χάνει 20 δολάρια το μήνα ανά χρήστη κατά μέσο όρο και οι βαρύτεροι χρήστες κοστίζουν στην εταιρεία έως και 80 δολάρια κάθε 30 ημέρες.
Ανακοινώθηκε το 2022, το Copilot του GitHub απασχολεί Τα μεγάλα γλωσσικά μοντέλα (LLM) του OpenAI για να βοηθήσουν τους προγραμματιστές καθώς γράφουν και διορθώνουν κώδικα σε IDE, συμπεριλαμβανομένου του κώδικα Visual Studio της Microsoft. Το Copilot ουσιαστικά προτείνει την πηγή για εισαγωγή στα έργα σας καθώς πληκτρολογείτε σχόλια, ορισμούς συναρτήσεων και κώδικα και άλλες γραμμές. Τον Μάρτιο του 2023 η πλατφόρμα απέκτησε ένα αναβάθμισης στα μοντέλα GPT-3.5 και GPT-4 του OpenAI.
Ζητήσαμε από τη Microsoft να σχολιάσει το κόστος λειτουργίας αυτών των μοντέλων τεχνητής νοημοσύνης. θα σας ενημερώσουμε αν μάθουμε ξανά.
Η λειτουργία προϊόντων με ζημία είναι μια κοινή τακτική στον κλάδο της τεχνολογίας, με στόχο τη δημιουργία μιας ειδικής βάσης χρηστών και την αύξηση των τιμών μόλις οι χρήστες δεσμευτούν. Microsoft πωλεί Η γραμμή της κονσόλας παιχνιδιών Xbox είναι κάτω από το κόστος και ανακτά αυτή την απώλεια καθώς οι παίκτες ξοδεύουν σε λογισμικό και άλλο περιεχόμενο.
Η ίδια λογική θα μπορούσε να ισχύει για την τεχνητή νοημοσύνη - μια αγορά στην οποία η Microsoft επενδύει σε μεγάλο βαθμό για να εξασφαλίσει ένα πλεονέκτημα πρώτης κίνησης.
Δεν είναι μυστικό ότι το υλικό που χρησιμοποιείται για την εκπαίδευση και την εκτέλεση των περισσότερων LLM είναι ακριβό. Οι επιταχυντές H100 της Nvidia πωλούνται για περίπου 30,000 $ το ένα και εμείς έχουμε δει Η τιμή τους είναι 40,000 $ στο eBay.
Microsoft απασχολεί δεκάδες χιλιάδες Nvidia A100 και H100. Αυτό το υλικό τεχνητής νοημοσύνης και οι διακομιστές του ζουν σε ηλεκτρική ενέργεια, επίσης.
Είναι δύσκολο να υπολογίσει κανείς το κόστος των συνεχιζόμενων εργασιών του Copilot, αν και ο Διευθύνων Σύμβουλος του OpenAI Sam Altman έχει δήλωσε Το GPT-4 - η πιο προηγμένη έκδοση του LLM της εταιρείας - κόστισε περισσότερα από 100 εκατομμύρια δολάρια για την εκπαίδευση.
Ένας τρόπος με τον οποίο η Big Tech προσπάθησε να ελέγξει το κόστος της τεχνητής νοημοσύνης είναι με προσαρμοσμένους επιταχυντές, όπως η μονάδα επεξεργασίας Tensor της Google και το πυρίτιο Trainium και Inferentia της Amazon. Τώρα, αν α αναφέρουν Την περασμένη εβδομάδα πρέπει να πιστέψουμε ότι η Microsoft μπορεί να είναι έτοιμη να αποκαλύψει τον δικό της προσαρμοσμένο επιταχυντή AI.
Το OpenAI είναι φημολογείται να εξετάσει το ενδεχόμενο να εργαστεί και στον δικό της προσαρμοσμένο επεξεργαστή για τους φόρτους εργασίας ML.
Οι τρέχοντες φόρτοι εργασίας τεχνητής νοημοσύνης της Microsoft τρέχουν σε GPU, σε μεγάλο βαθμό λόγω των απαιτήσεων καθυστέρησης και εύρους ζώνης αυτών των μοντέλων, γεγονός που καθιστά την εκτέλεση τους σε CPU μη πρακτική, είπε ο αναλυτής AI της Cambrian, Karl Freund. Το μητρώο.
Ως αποτέλεσμα, αυτά τα μοντέλα επωφελούνται περισσότερο από μεγάλες ποσότητες μνήμης υψηλού εύρους ζώνης για να συγκρατούν όλες τις παραμέτρους του μοντέλου. Για πραγματικά μεγάλα συστήματα, όπως το μοντέλο GPT-175 των 3 δισεκατομμυρίων παραμέτρων του OpenAI, ενδέχεται να απαιτούνται πολλαπλές GPU ανά περίπτωση.
Αξίζει όμως να σημειωθεί ότι το GitHub Copilot δεν είναι ένα chatbot γενικής χρήσης όπως το ChatGPT ή το Bing Chat: κάνει κώδικα. Όπως καταλαβαίνουμε, τα πιο εξειδικευμένα μοντέλα συνήθως μπορούν να ξεφύγουν με λιγότερες παραμέτρους και έτσι απαιτούν λιγότερη μνήμη και συνεπώς λιγότερες GPU.
Καθώς οι πάροχοι τεχνητής νοημοσύνης κατανοούν καλύτερα τις σχετικές οικονομίες κλίμακας, θα μπορούσαμε να δούμε υψηλότερες τιμές για αυτά τα χαρακτηριστικά. Το Otter.AI, μια υπηρεσία μεταγραφής ήχου με τεχνητή νοημοσύνη που αγαπούν οι δημοσιογράφοι και άλλοι, έχει αυξημένες τιμές και εφάρμοσε νέα όρια κατανάλωσης σε πολλούς περιπτώσεις κατά τη διάρκεια των τελευταίων ετών.
Εν τω μεταξύ, η Microsoft και η Google σχεδιάζουν να χρεώσουν 30 $ premium πάνω από το κανονικό γραφείο 365 συνδρομή και G-Suite σχεδιάζει να ξεκλειδώσει τη λειτουργικότητα του gen-AI.
Δεν θα ήταν περίεργο αν η Microsoft αύξησε την τιμή του GitHub Copilot μόλις αποδείξει την αξία του σε αρκετούς πελάτες. Άλλωστε δεν είναι φιλανθρωπικό ίδρυμα. ®
- SEO Powered Content & PR Distribution. Ενισχύστε σήμερα.
- PlatoData.Network Vertical Generative Ai. Ενδυναμώστε τον εαυτό σας. Πρόσβαση εδώ.
- PlatoAiStream. Web3 Intelligence. Ενισχύθηκε η γνώση. Πρόσβαση εδώ.
- PlatoESG. Ανθρακας, Cleantech, Ενέργεια, Περιβάλλον, Ηλιακός, Διαχείριση των αποβλήτων. Πρόσβαση εδώ.
- PlatoHealth. Ευφυΐα βιοτεχνολογίας και κλινικών δοκιμών. Πρόσβαση εδώ.
- πηγή: https://go.theregister.com/feed/www.theregister.com/2023/10/11/github_ai_copilot_microsoft/
