Κίνα εκπαίδευσε LLM 1 τρις παραμέτρων χρησιμοποιώντας μόνο εγχώρια chip

“Η China Telecom, ένας από τους μεγαλύτερους παρόχους ασύρματων δικτύων στην ηπειρωτική Κίνα, αναφέρει ότι έχει αναπτύξει δύο μεγάλα μοντέλα (LLM από το large language models) χρησιμοποιώντας αποκλειστικά εγχώρια κατασκευασμένα AI chips” αναφέρει η Tom’s Hardware.china telecom

“Εάν οι πληροφορίες είναι ακριβείς, πρόκειται για ένα κρίσιμο ορόσημο στην προσπάθεια της Κίνας να ανεξαρτητοποιηθεί από άλλες χώρες για τις ανάγκες της σε επεξεργαστές, ειδικά καθώς οι ΗΠΑ πιέζουν όλο και περισσότερο απαγορεύοντας την προμήθεια των τελευταίων highest-end chips για το Πεκίνο”

Η Huawei, η οποία έχει ως επί το πλείστον αποκλειστεί από τις ΗΠΑ και άλλες συμμαχικές χώρες, είναι ένας από τους ηγέτες στην τοπική βιομηχανία chip της Κίνας… Εάν τα LLMs της China Telecom εκπαιδεύτηκαν πράγματι χρησιμοποιώντας μόνο chip της Huawei, πρόκειται για μια τεράστια επιτυχία για την Huawei αλλά και την κινεζική κυβέρνηση.

Στο GitHub του project “υπάρχει μια υπόδειξη για το πώς η China Telecom μπορεί να εκπαίδευσε το μοντέλο”, αναφέρει το Register. “Σε μια αναφορά συμβατότητας υπάρχει ο “Ascend Atlas 800T A2 training server” — ένα προϊόν της Huawei που χρησιμοποιεί Kunpeng 920 7265 ή επεξεργαστές Kunpeng 920 5250, αντίστοιχα, με 64 πυρήνες στα 3,0 GHz και 48 πυρήνες στα 2,6 GHz.

Η Huawei κατασκευάζει αυτούς τους επεξεργαστές χρησιμοποιώντας την αρχιτεκτονική Arm 8.2 και τρέχουν στα 7 nm.

Η South China Morning Post αναφέρει ότι ένα μοντέλο που δεν κατονομάζεται έχει 1 τρισεκατομμύριο παραμέτρους, σύμφωνα με την China Telecom, ενώ το μοντέλο TeleChat2t-115B έχει πάνω από 100 δισεκατομμύρια παραμέτρους.

iGuRu.gr The Best Technology Site in Greeceggns

Get the best viral stories straight into your inbox!















Written by giorgos

Ο Γιώργος ακόμα αναρωτιέται τι κάνει εδώ....

Αφήστε μια απάντηση

Η ηλ. διεύθυνση σας δεν δημοσιεύεται. Τα υποχρεωτικά πεδία σημειώνονται με *

Το μήνυμα σας δεν θα δημοσιευτεί εάν:
1. Περιέχει υβριστικά, συκοφαντικά, ρατσιστικά, προσβλητικά ή ανάρμοστα σχόλια.
2. Προκαλεί βλάβη σε ανηλίκους.
3. Παρενοχλεί την ιδιωτική ζωή και τα ατομικά και κοινωνικά δικαιώματα άλλων χρηστών.
4. Διαφημίζει προϊόντα ή υπηρεσίες ή διαδικτυακούς τόπους .
5. Περιέχει προσωπικές πληροφορίες (διεύθυνση, τηλέφωνο κλπ).