Σύνοψη
- Η Thinking Machines Lab, η startup της πρώην CTO της OpenAI Mira Murati, παρουσίασε το πρώτο της AI μοντέλο με την ονομασία Inkling.
- Αποτελεί πλέον το ισχυρότερο open-weight μοντέλο των ΗΠΑ, ξεπερνώντας το Nemotron 3 Ultra της Nvidia.
- Διαθέτει 975 δισεκατομμύρια παραμέτρους (MoE) και άδεια χρήσης Apache 2.0.
- Είναι διαθέσιμο δωρεάν για κατέβασμα στο Hugging Face, ενώ προσφέρεται API μέσω της πλατφόρμας Tinker της εταιρείας.
- Προσφέρει Native πολυτροπική (multimodal) κατανόηση ήχου, εικόνας και κειμένου, απαιτώντας ωστόσο 2TB VRAM στην πλήρη (BF16) έκδοσή του.
Η Thinking Machines Lab, η εταιρεία τεχνητής νοημοσύνης που ιδρύθηκε από την πρώην Chief Technology Officer της OpenAI, Mira Murati, προχώρησε στην επίσημη κυκλοφορία του Inkling. Πρόκειται για το πρώτο παραγωγικό μοντέλο της εταιρείας, το οποίο τοποθετείται άμεσα στην κορυφή των ανοιχτών (open-weight) λύσεων που έχουν αναπτυχθεί στις ΗΠΑ. Σχεδιασμένο να καλύψει το κενό μεταξύ κλειστών, πανάκριβων εμπορικών μοντέλων και των κινεζικών ανοιχτών εργαλείων, το Inkling αποτελεί ένα σύστημα 975 δισεκατομμυρίων παραμέτρων, διαθέσιμο στο Hugging Face υπό την άδεια Apache 2.0, γεγονός που επιτρέπει την ελεύθερη εμπορική χρήση και την πλήρη προσαρμογή του.
Αρχιτεκτονική Mixture-of-Experts (MoE) και τεχνικά δεδομένα
Το Inkling δεν αποτελεί ένα παραδοσιακό, πυκνό νευρωνικό δίκτυο, αλλά βασίζεται στην αρχιτεκτονική Mixture-of-Experts (MoE). Από τα 975 δισεκατομμύρια συνολικές παραμέτρους, το σύστημα ενεργοποιεί μόλις τα 41 δισεκατομμύρια ανά μεμονωμένο αίτημα. Το μοντέλο εκπαιδεύτηκε από το μηδέν σε ένα μαζικό σύνολο δεδομένων 45 τρισεκατομμυρίων tokens, το οποίο περιελάμβανε συνδυασμό κειμένου, εικόνων, ήχου και βίντεο. Για την ολοκλήρωση της εκπαίδευσής του αξιοποιήθηκαν τα νεότερα συστήματα Nvidia GB300 NVL72, επιβεβαιώνοντας τη στρατηγική συνεργασία της εταιρείας με την Nvidia.
Μια σημαντική τεχνική διαφοροποίηση αφορά τον μηχανισμό προσοχής. Αντί για την κλασική μέθοδο RoPE (Rotary Position Embedding), το Inkling εφαρμόζει "σχετική προσοχή" για την κωδικοποίηση των πληροφοριών θέσης απευθείας στα attention logits. Επιπλέον, χρησιμοποιεί έναν υβριδικό μηχανισμό, εναλλάσσοντας επίπεδα ολικής προσοχής με επίπεδα κυλιόμενου παραθύρου σε αναλογία 1:5. Αυτή η αρχιτεκτονική επιλογή εξασφαλίζει σημαντική μείωση στο υπολογιστικό φορτίο κατά τη διάρκεια του inference. Στο επίπεδο των experts, ο router του δικτύου βαθμολογεί έξι κανονικούς experts, διατηρώντας παράλληλα δύο κοινόχρηστους experts συνεχώς ενεργούς.
Απαιτήσεις hardware και τοπική εκτέλεση
Η λειτουργία ενός γλωσσικού μοντέλου αυτού του μεγέθους θέτει αυστηρές απαιτήσεις υλικού. Στην πλήρη, μη-συμπιεσμένη μορφή του (BF16), το Inkling καταλαμβάνει πάνω από 2 Terabytes μνήμης VRAM. Αυτό σημαίνει ότι για την εκτέλεσή του απαιτούνται συστοιχίες επιταχυντών, όπως οκτώ κάρτες γραφικών Nvidia B300 ή δεκαέξι H200. Προκειμένου να γίνει πιο προσιτό, η Thinking Machines προσφέρει το μοντέλο και σε μορφή NVFP4, η οποία μειώνει τις απαιτήσεις στα 600 GB VRAM. Για τους προγραμματιστές που αναζητούν μικρότερο ίχνος, η εταιρεία ανακοίνωσε παράλληλα την έκδοση "Inkling-Small", η οποία περιορίζεται στα 12 δισεκατομμύρια ενεργές παραμέτρους. Το οικοσύστημα λογισμικού παρέχει άμεση (Day-0) υποστήριξη σε εργαλεία όπως το vLLM, το SGLang και το Llama.cpp.
Πολυτροπικότητα από τη βάση
Αντίθετα με πολλά μοντέλα που αντιμετωπίζουν την εικόνα και τον ήχο ως πρόσθετα υποσυστήματα, το Inkling κατασκευάστηκε εξ αρχής ως πολυτροπικό. Το μοντέλο ενσωματώνει ιεραρχικούς κωδικοποιητές εικόνας (hierarchical MLP patchifier) οι οποίοι συγχωνεύουν προοδευτικά τα pixels, καθώς και διακριτή κωδικοποίηση ήχου (μέσω διακριτοποίησης mel spectrogram ανά 100 ms). Όλες οι μορφές δεδομένων προβάλλονται σε έναν κοινό κρυφό χώρο, επιτρέποντας στο μοντέλο να "κατανοεί" ταυτόχρονα το κείμενο, την εικόνα και τη φωνή, εξάγοντας κείμενο υψηλής ακρίβειας. Το context window της ανοιχτής έκδοσης φτάνει μέχρι το 1.000.000 tokens, νούμερο κορυφαίο για open-weight αρχιτεκτονική.
Επιδόσεις, Agentic Reasoning και ο ανταγωνισμός
Η κυκλοφορία του Inkling διαμορφώνει εκ νέου τον χάρτη των open-weight μοντέλων. Σύμφωνα με τον οργανισμό Artificial Analysis Intelligence Index, το Inkling έκανε το ντεμπούτο του στην 41η θέση της λίστας. Με αυτό το σκορ, ξεπερνά το Nemotron 3 Ultra της Nvidia (το οποίο κατείχε την πρωτιά για τα αμερικανικά open-weights στην 38η θέση), καθώς και το Gemma 4 (31B).
Παρότι το Inkling υπολείπεται των ακριβών, κλειστών μοντέλων όπως το Claude Fable 5 της Anthropic ή το GPT-5.6 της OpenAI στα παραδοσιακά benchmarks, υπερέχει στην αυτόνομη εκτέλεση των agents. Συγκεκριμένα, σημειώνει υψηλότερες επιδόσεις από τον κινεζικό ανταγωνισμό (DeepSeek v4 Flash και Kimi K2.6) στις δοκιμές GDPval-AA v2 και τ³-Banking. Παράλληλα, είναι εξαιρετικά αποδοτικό στη χρήση tokens, απαιτώντας κατά μέσο όρο 25.000 output tokens ανά εργασία (σε σύγκριση με τα 37.000-43.000 tokens που απαιτούν τα DeepSeek και GLM), γεγονός που μειώνει δραστικά το κόστος λειτουργίας.
Για την πλήρη εμπορική εκμετάλλευση και διευκόλυνση των επιχειρήσεων, το Inkling είναι ήδη διαθέσιμο (Day-0) μέσω της πλατφόρμας Tinker API της ίδιας της Thinking Machines, ενώ ενσωματώθηκε άμεσα και στο Unity AI Gateway της Databricks, επιτρέποντας την ανάπτυξη εξειδικευμένων AI πρακτόρων με αυστηρό έλεγχο δεδομένων.
Με τη ματιά του Techgear
Η κίνηση της Thinking Machines Lab έχει καθαρά στρατηγικό χαρακτήρα. Με το Inkling, η Mira Murati δίνει μια ισχυρή απάντηση στα τεράστια open-weight μοντέλα των κινεζικών εργαστηρίων (όπως η DeepSeek) που κυριάρχησαν πρόσφατα, προσφέροντας στις δυτικές επιχειρήσεις μια απολύτως παραμετροποιήσιμη λύση 975 δισ. παραμέτρων. Παρόλο που οι απαιτήσεις υλικού των 2TB VRAM το καθιστούν απαγορευτικό για τον μέσο προγραμματιστή στο σπίτι του, η δυνατότητα τοπικής εγκατάστασης από μεγάλους οργανισμούς ακυρώνει την ανάγκη χρήσης κλειστών API και τον φόβο διαρροής εταιρικών δεδομένων στο cloud. Το πραγματικό πλεονέκτημα του Inkling δεν εντοπίζεται στην προσπάθεια να ξεπεράσει το GPT-5.6 στα γενικά benchmarks, αλλά στο να αποτελέσει τον απόλυτο, ελεγχόμενο agent (πράκτορα) συγγραφής κώδικα και ανάλυσης δεδομένων εντός των enterprise servers.
