Pada konferensi pembangun Google I/O, Google pada hari Selasa mengumumkan generasi seterusnya Tensor Processing Units (TPU), cip AI pusat data. Generasi keenam chip ini, yang dikenali sebagai Trillium, akan dilancarkan nanti tahun ini.
"Google dicipta untuk saat ini. Kami telah menjadi peneraju GPU lebih dari satu dekad," kata CEO Google Sundar Pichai dalam taklimat media sebelum konferensi.
Mengumumkan generasi seterusnya TPU adalah sesuatu tradisi di I/O, walaupun chip tersebut hanya akan dilancarkan nanti dalam tahun tersebut. Apabila mereka tiba, mereka akan menawarkan peningkatan prestasi sebanyak 4.7 kali ganda dalam prestasi komputasi setiap chip jika dibandingkan dengan generasi kelima, menurut Pichai.
Sebahagian daripada itu, Google mencapai ini dengan mengembangkan unit darab matriks (MXUs) chip dan dengan menaikkan kelajuan jam keseluruhan. Selain itu, Google juga menggandakan lebar pita ingatan untuk chip Trillium.
Yang mungkin lebih penting, bagaimanapun, adalah bahawa Trillium menampilkan generasi ketiga SparseCore, yang Google gambarkan sebagai "penggerak khas untuk memproses embedding ultra-besar yang biasa dalam beban kerja penjimatan peringkat dan cadangan lanjutan." Ini, menurut syarikat, akan membolehkan TPU Trillium melatih model dengan lebih cepat dan melayan mereka dengan latensi yang lebih rendah.
Pichai juga menggambarkan chip baru ini sebagai TPU Google yang "paling berkesan dari segi tenaga" sehingga kini, sesuatu yang sangat penting kerana permintaan untuk cip AI terus meningkat secara ekspotensial. "Permintaan industri untuk komputasi ML telah berkembang sebanyak 1 juta kali ganda dalam enam tahun yang lalu, hampir meningkat sepuluh kali ganda setiap tahun," katanya. Ini tidak dapat diterima tanpa melabur dalam mengurangkan keperluan tenaga cip ini. Google menjanjikan bahawa TPU baru ini adalah 67% lebih berkesan dari segi tenaga berbanding dengan chip generasi kelima.
TPU Google baru-baru ini cenderung datang dalam beberapa variasi. Sejauh ini, Google tidak memberikan sebarang maklumat tambahan mengenai cip baru, atau berapa kos penggunaannya di Google Cloud.
Pada awal tahun ini, Google juga mengumumkan bahawa mereka akan menjadi antara penyedia awan pertama yang menawarkan akses kepada pemproses Nvidia generasi seterusnya, Blackwell. Namun begitu, ini bermakna para pembangun masih perlu menunggu sehingga awal 2025 untuk mendapatkan akses kepada chip ini.
"Kami akan terus melabur dalam infrastruktur untuk memacu kemajuan AI kami dan kami akan terus merintis jalan baru," kata Pichai.
Kami akan melancarkan buletin AI! Daftar di sini untuk mula menerimanya di peti masuk anda pada 5 Jun.
