Μετάβαση στο περιεχόμενο
fedi.software

Μοντέλα ΤΝ του 2023: ποιος κυκλοφόρησε τι

Κάθε σημαντική κυκλοφορία μοντέλου μήνα με μήνα: πάροχος και χώρα, ανοιχτά ή κλειστά βάρη, είδος, παράθυρο συμφραζομένων, μέγεθος των ανοιχτών μοντέλων — και σε ποιες εργασίες προηγούνται σήμερα τα μοντέλα κάθε έτους.

2023 9 κυκλοφορίες · 5 με ανοιχτά βάρη

Μοντέλα του 2023 που προηγούνται σήμερα σε κάθε εργασία

Δεκέμβριος

  1. Mistral 7B Instruct v0.2 HFMistral AIΓαλλίαΑνοιχτά βάρηLLM7.2B
  2. C mixtral-8x7b-instruct-v0.1Mistral AIΓαλλίαΑνοιχτά βάρηLLM32K

Νοέμβριος

  1. Qwen 72B HFAlibabaΚίναΑνοιχτά βάρηLLM72.3B
  2. D dall-e-3OpenAIΗνωμένες ΠολιτείεςΚλειστόΕικόνα
  3. C GPT 4OpenAIΗνωμένες ΠολιτείεςΚλειστόLLM8K
  4. C GPT-4 TurboOpenAIΗνωμένες ΠολιτείεςΚλειστόΌραση (VLM)128K

Ιούλιος

  1. Llama 2 7b hf HFMetaΗνωμένες ΠολιτείεςΑνοιχτά βάρηLLM6.7B

Μάρτιος

  1. C GPT-3.5 TurboOpenAIΗνωμένες ΠολιτείεςΚλειστόLLM16K

Φεβρουάριος

  1. pythia-6.9b HFEleutherAIΗνωμένες ΠολιτείεςΑνοιχτά βάρηLLM7B

Οι ημερομηνίες κυκλοφορίας προέρχονται από τους καταλόγους μοντέλων (models.dev, LiteLLM, Hugging Face)· τα μοντέλα που είναι γνωστά μόνο από το έτος κυκλοφορίας δεν εμφανίζονται. Οι πρωτοπόροι ενός έτους είναι τα μοντέλα του που κατατάσσονται σήμερα ψηλότερα στις βαθμολογίες μας.

Ενημερώθηκε · Πηγές: models.dev (MIT), LiteLLM (MIT), LMArena (CC BY 4.0), Hugging Face

Arena (LMArena) scores: Arena Leaderboard Dataset by LMArena, CC BY 4.0. Modified by fedi.software (filtered, re-ranked, aggregated). Not endorsed by LMArena.

Τι δείχνει το χρονολόγιο

Το infographic «Μοντέλα ΤΝ ανά έτος: ποιος κυκλοφόρησε τι» βάζει τις κυκλοφορίες μοντέλων σε χρονική σειρά. Τα έτη ξεκινούν από το τρέχον και πηγαίνουν προς τα πίσω, ενώ μέσα σε κάθε έτος οι κυκλοφορίες ομαδοποιούνται ανά μήνα. Κάθε γραμμή είναι ένα μοντέλο: ο δημιουργός και η χώρα όπου έχει την έδρα του, ανοιχτά ή κλειστά βάρη, ο τύπος και το παράθυρο πλαισίου. Στα ανοιχτά μοντέλα προστίθεται και ο αριθμός παραμέτρων.

Στο χρονολόγιο μπαίνουν μοντέλα εργαστηρίων ΤΝ που έχουν βαθμολογία στους πίνακές μας ή έχουν δημοσιεύσει βάρη στο Hugging Face. Μεταπωλητές, δρομολογητές και ερασιτεχνικές εκδόσεις fine-tune μένουν έξω, ώστε να φαίνεται ποιος έφτιαξε πραγματικά κάθε μοντέλο.

Οι ετικέτες μιας γραμμής

  • «Ανοιχτά βάρη» (open weights): τα αρχεία του μοντέλου κατεβαίνουν και το μοντέλο τρέχει στον δικό σας υπολογιστή. Πόση μνήμη χρειάζεται, το δείχνει το ποιο μοντέλο χωράει στο υλικό σας.
  • «Κλειστό»: πρόσβαση μόνο μέσω της εφαρμογής ή του API του δημιουργού.
  • LLM είναι μοντέλο κειμένου, η «Όραση (VLM)» καταλαβαίνει και εικόνες, ενώ η «Συλλογιστική» σημαίνει ότι το μοντέλο αναλύει την εργασία βήμα βήμα πριν απαντήσει: πιο αργό και ακριβότερο ανά απάντηση, αλλά πιο δυνατό σε μαθηματικά, κώδικα και σχεδιασμό.
  • Ο αριθμός παραμέτρων εμφανίζεται μόνο στα ανοιχτά μοντέλα, γιατί οι κλειστοί δημιουργοί δεν τον δημοσιεύουν. Σε μοντέλο μείγματος ειδικών (MoE) ο δεύτερος αριθμός είναι οι ενεργές παράμετροι σε κάθε token.

Η λωρίδα πάνω από κάθε έτος

Πάνω από κάθε έτος υπάρχει μια λωρίδα με τα μοντέλα εκείνης της χρονιάς που προηγούνται σήμερα στους πίνακες κειμένου, προγραμματισμού, web dev, πρακτόρων, εικόνας και βίντεο. Είναι ματιά από το σήμερα, όχι η κατάταξη όπως ήταν τότε: ένα μοντέλο της άνοιξης μπορεί να έχασε την πρώτη θέση ήδη το φθινόπωρο, και η λωρίδα δείχνει πού στέκεται η γενιά του στους πίνακες κατάταξης τώρα.

Το χρονολόγιο φιλτράρεται ανά δημιουργό, χώρα, ανοιχτά βάρη και τύπο, και έχει αναζήτηση. Κάθε έτος ανοίγει και σε δική του σελίδα, ως ετήσια έκδοση στην οποία μπορείτε να παραπέμψετε μόνιμα. Αν θέλετε να βάλετε δύο μοντέλα δίπλα δίπλα, χρησιμοποιήστε τη σύγκριση μοντέλων.

Πηγές και επιφυλάξεις

Ημερομηνίες κυκλοφορίας και παράθυρο πλαισίου προέρχονται από τους καταλόγους models.dev και LiteLLM, παράμετροι και άδειες από το Hugging Face, οι βαθμολογίες της λωρίδας από το LMArena και η χώρα κάθε δημιουργού από το fedi.software. Η ημερομηνία είναι η μέρα που το μοντέλο εμφανίστηκε στους καταλόγους, γι' αυτό μπορεί να απέχει λίγες μέρες από την ανακοίνωση. Μοντέλα για τα οποία οι πηγές δίνουν μόνο το έτος δεν εμφανίζονται. Η χώρα είναι αυτή της έδρας της εταιρείας, όχι των κέντρων δεδομένων ή των χρηστών της.