0
0 Untuk mempercepat kinerja AI, Google meluncurkan chip Ironwood, generasi ketujuh kecerdasan buatan.
Chip Ironwood, akselerator AI yang dimaksudkan untuk inferensi alias, memproses data saat pengguna meminta informasi melalui software seperti ChatGPT milik OpenAI.
Ironwood menyediakan kalkulasi cepat untuk chatbot atau memproses tanggapan lainnya.
VP Google Amin Vahdat menyatakan bahwa chip Ironwood memiliki kinerja dua kali lipat untuk jumlah energi yang dibutuhkan dibandingkan dengan chip Trillium Google yang diumumkan tahun lalu, seperti dilansir Reuters.
Chip ini memiliki kemampuan untuk mengelola komputasi yang kompleks dan permintaan komunikasi “thinking model”, yang mencakup model bahasa besar (LLM), tugas penalaran tingkat lanjut, dan Mixture of Experts (MoEs), yang membutuhkan pemrosesan paralel yang besar dan akses memori yang efektif.
Ironwood dibuat khusus untuk mengurangi pergerakan data dan latensi chip saat melakukan manipulasi tensor yang kompleks.
“Kami merancang Ironwood TPUs dengan latensi rendah, jaringan ICI bandwidth tinggi untuk mendukung komunikasi terkoordinasi dan sinkron pada skala penuh pod TPU (tensor processing unit),” tulis Google dalam blognya.
Ironwood tersedia untuk ekosistem Google Cloud; konfigurasi 256 chip dan 9.216 chip tersedia untuk pelanggan Google Cloud berdasarkan kebutuhan beban kerja AI.
“Solusi liquid cooling kami yang canggih dan desain chip yang telah dioptimalkan, (setara) dua kali kinerja pendinginan udara standar bahkan di bawah beban kerja AI yang berat dan terus-menerus. Faktanya, Ironwood hampir 30x lebih hemat daya daripada Cloud TPU pertama kami dari tahun 2018,” jelas Google.
Tujuan dari unit pemrosesan tensor (TPU) Google yang tertanam dalam chip ini adalah untuk menjadikan AI Google unggul dibandingkan dengan kompetitor. Untuk tujuan ini, TPU hanya dapat digunakan oleh insinyur dan kelompok mereka sendiri.
Chip ini memungkinkan pelanggan Google melakukan pelatihan dan melayani workload dengan kinerja tertinggi dengan latensi serendah mungkin. Mereka juga dapat merasakan peningkatan kinerja yang signifikan dalam komputasi mereka.
“Lewat Ironwood, kami tidak sabar untuk melihat terobosan AI apa yang dipicu oleh developer kami sendiri dan pelanggan Google Cloud. (Chip ini akan) tersedia akhir tahun ini.”
