Η OpenAI ανακοίνωσε το πρώτο δικό της προσαρμοσμένο chip για inference, σχεδιασμένο σε συνεργασία με την Broadcom και με την κωδική ονομασία Jalapeño. Σύμφωνα με το TechCrunch, ο επεξεργαστής αναπτύχθηκε ειδικά για τις ανάγκες των συστημάτων inference της εταιρείας και στα πρώτα τεστ φέρεται να προσφέρει καλύτερη απόδοση ανά watt από ορισμένες υπάρχουσες εναλλακτικές.

Η είδηση έχει βαρύτητα επειδή σηματοδοτεί μετατόπιση από την απλή χρήση έτοιμων accelerators προς περισσότερο κάθετο έλεγχο της υποδομής AI. Για εταιρείες που λειτουργούν μεγάλης κλίμακας μοντέλα, το κόστος ενέργειας, η διαθεσιμότητα υπολογιστικών πόρων και η εξάρτηση από εξωτερικούς προμηθευτές έχουν γίνει στρατηγικά ζητήματα, όχι απλώς τεχνικές λεπτομέρειες.

Με άλλα λόγια, το Jalapeño δεν είναι μόνο νέο hardware. Είναι ένδειξη ότι ο ανταγωνισμός στην τεχνητή νοημοσύνη μεταφέρεται όλο και περισσότερο κάτω από το επίπεδο του μοντέλου, στο ίδιο το πυρίτιο που καθορίζει κόστος, ταχύτητα και κλίμακα.