Google Klaim Superkomputer AI-nya Lebih Cepat dan Hemat Daya dari chip Nvidia A100

Berita Baru, Inovasi – Google Alphabet Inc merilis rincian baru pada hari Selasa (4/4/23) tentang superkomputer yang digunakan untuk melatih model kecerdasan buatannya, mengatakan bahwa sistem tersebut lebih cepat dan lebih hemat daya daripada sistem yang sebanding dari Nvidia Corp.

Google telah merancang chip kustomnya sendiri yang disebut Tensor Processing Unit atau TPU.

Superkomputer ini menggunakan chip tersebut untuk lebih dari 90% pekerjaan perusahaan pada pelatihan kecerdasan buatan, proses memasukkan data melalui model untuk membuatnya berguna dalam tugas-tugas seperti menanggapi kueri dengan teks mirip manusia atau menghasilkan gambar.

Google TPU sekarang berada di generasi keempat.

Dilansir dari Reuters, Google pada hari Selasa menerbitkan sebuah makalah ilmiah yang merinci bagaimana ia telah merangkai lebih dari 4.000 chip menjadi superkomputer menggunakan sakelar optik yang dikembangkan sendiri untuk membantu menghubungkan masing-masing mesin.

Meningkatkan koneksi ini telah menjadi titik kunci persaingan di antara perusahaan yang membangun superkomputer AI karena apa yang disebut model bahasa besar yang menggerakkan teknologi seperti Bard Google atau ChatGPT OpenAI telah meledak dalam ukuran, yang berarti mereka terlalu besar untuk disimpan dalam satu chip.

Model harus dipecah menjadi ribuan chip, yang kemudian harus bekerja sama selama berminggu-minggu atau lebih untuk melatih model.

Model PaLM Google sebagai model bahasa terbesar yang diungkapkan kepada publik hingga saat ini, dilatih dengan membaginya menjadi dua dari 4.000 chip superkomputer selama 50 hari.

Google mengatakan superkomputernya memudahkan untuk mengkonfigurasi ulang koneksi antar chip dengan cepat, membantu menghindari masalah dan men-tweak untuk peningkatan kinerja.

“Sirkuit switching memudahkan untuk merutekan komponen yang gagal,” tulis Rekan Google Norm Jouppi dan Insinyur Google David Patterson dalam posting blog tentang sistem tersebut.

“Fleksibilitas ini bahkan memungkinkan kami mengubah topologi interkoneksi superkomputer untuk mempercepat kinerja model ML (pembelajaran mesin).”

Sementara Google baru saja merilis detail tentang superkomputernya, itu telah online di dalam perusahaan sejak 2020 di pusat data di Mayes County, Oklahoma.

Google mengatakan bahwa startup Midjourney menggunakan sistem untuk melatih modelnya, yang menghasilkan gambar segar setelah diberi beberapa kata teks.

Di koran, Google mengatakan bahwa untuk sistem dengan ukuran yang sebanding, chipnya 1,7 kali lebih cepat dan 1,9 kali lebih hemat daya daripada sistem berbasis chip A100 Nvidia yang ada di pasaran pada saat yang sama dengan TPU generasi keempat.

Google mengatakan tidak membandingkan generasi keempatnya dengan chip H100 andalan Nvidia saat ini karena H100 datang ke pasar setelah chip Google dan dibuat dengan teknologi yang lebih baru.

Google mengisyaratkan bahwa itu mungkin sedang mengerjakan TPU baru yang akan bersaing dengan Nvidia H100 tetapi tidak memberikan rincian.

Google mengatakan memiliki “saluran chip masa depan yang sehat.”