Τα Google TPU 8tx και 8i Max είναι οι δύο νέες εξειδικευμένες διαμορφώσεις που προσθέτει η Google στη σειρά επιταχυντών τεχνητής νοημοσύνης όγδοης γενιάς. Η ανακοίνωση της 9ης Νοεμβρίου δείχνει ότι η εταιρεία μετακινεί το βάρος από την απόδοση του μεμονωμένου chip στον σχεδιασμό ολόκληρου συστήματος, καθώς οι AI agents και τα μοντέλα με μεγάλα περιβάλλοντα δεδομένων περνούν σε παραγωγική χρήση.
Δύο συστήματα για διαφορετικά προβλήματα
Το TPU 8tx βασίζεται στο ίδιο silicon με το TPU 8t και προορίζεται κυρίως για ασφαλές και εμπιστευτικό inference, αλλά και για μικρότερης κλίμακας εκπαίδευση. Η Google το συνδυάζει με hosts που χρησιμοποιούν επεξεργαστές AMD EPYC πέμπτης γενιάς και ενσωματώνει την προστασία στο επίπεδο του hardware. Σύμφωνα με την εταιρεία, τα δεδομένα και τα βάρη των μοντέλων παραμένουν απομονωμένα ακόμη και την ώρα της επεξεργασίας, όταν συνήθως πρέπει να αποκρυπτογραφηθούν στη μνήμη.
Η διαμόρφωση απευθύνεται σε οργανισμούς με αυξημένες απαιτήσεις συμμόρφωσης, όπως ρυθμιζόμενες επιχειρήσεις και κυβερνητικούς φορείς. Η Google υποστηρίζει επίσης ότι το 8tx, αξιοποιώντας το δίκτυο χαμηλής καθυστέρησης Boardfly, μπορεί να μειώσει έως και δύο φορές την καθυστέρηση σε σχέση με το TPU 8t. Αυτό θα μπορούσε να διευκολύνει σενάρια στα οποία ένας agent εκτελεί διαδοχικά βήματα πάνω σε ιδιωτικά δεδομένα, χωρίς να μεταφέρονται συνεχώς σε διαφορετικά clusters.
Το TPU 8i Max αντιμετωπίζει διαφορετικό περιορισμό: το λεγόμενο memory wall. Όταν πολλοί agents εργάζονται ταυτόχρονα πάνω σε έναν κώδικα ή αναλύουν πολύωρο βίντεο, η μνήμη και η διακίνησή της μπορεί να γίνουν το σημείο συμφόρησης. Η Google τοποθετεί δύο chips TPU 8i σε ένα ενιαίο πακέτο, διπλασιάζοντας το compute, τη SRAM και το bandwidth της HBM σε σχέση με το TPU 8i. Παράλληλα, υποστηρίζει ότι η λύση αυξάνει την υπολογιστική πυκνότητα ανά rack και ανά watt.
Η σειρά TPU γίνεται πιο αρθρωτή
Οι δύο νέες προτάσεις συμπληρώνουν τα TPU 8t, που προορίζονται για μεγάλης κλίμακας εκπαίδευση, και TPU 8i, που στοχεύουν reasoning χαμηλής καθυστέρησης. Έτσι, η Google περιγράφει πλέον τέσσερα συστήματα για διαφορετικά στάδια του κύκλου ζωής ενός agent: εκπαίδευση, γρήγορη παραγωγή απαντήσεων, εμπιστευτική επεξεργασία και εργασία με τεράστια context windows.
Η επιλογή να παρουσιάζονται ως «συστήματα» και όχι απλώς ως νέα chips έχει τεχνική σημασία. Η εταιρεία εξηγεί ότι η συσκευασία, η μνήμη, η οπτική δικτύωση και η ασφάλεια μπορούν να προσαρμοστούν ταχύτερα από έναν νέο κύκλο σχεδιασμού και κατασκευής silicon. Με αυτό το μοντέλο, η Google επιχειρεί να ανταποκριθεί σε ανάγκες πελατών που αλλάζουν γρηγορότερα από τις γενιές των επεξεργαστών.
Το λογισμικό είναι το δεύτερο μέτωπο
Η ανακοίνωση συνοδεύεται από προσπάθεια να μειωθούν τα εμπόδια για τους προγραμματιστές. Η Google παραπέμπει στο ανοικτού κώδικα TorchTPU, ώστε κώδικας PyTorch και μοντέλα Hugging Face να τρέχουν εγγενώς σε TPU, καθώς και σε εργαλεία για vLLM και SGLang. Παρουσιάζει ακόμη το TPU Agent Suite για αυτοματοποίηση της αρχικής ρύθμισης και βελτιστοποίησης, ενώ αναφέρει το TPU Sync για διαχείριση της κατάστασης μοντέλων και των KV caches σε clusters.
Οι αριθμοί απόδοσης και τα benchmarks που παραθέτει η Google είναι εταιρικοί ισχυρισμοί και χρειάζονται ανεξάρτητη αξιολόγηση σε πραγματικά workloads. Ωστόσο, η κατεύθυνση είναι σαφής: ο ανταγωνισμός στην AI υποδομή δεν αφορά μόνο το πόσο γρήγορα εκπαιδεύεται ένα μοντέλο, αλλά και το κόστος, την ασφάλεια, τη μνήμη και την ευκολία ανάπτυξης.
