Kecerdasan buatan telah melampaui algoritma sederhana menuju jaringan saraf yang kompleks dan memerlukan daya komputasi yang sangat besar. Arsitektur komputasi tradisional tidak dirancang untuk beban kerja ini, sehingga muncul pengembangan akselerator perangkat keras khusus [1].
Akselerator-akselerator ini adalah sistem yang dirancang khusus untuk mempercepat pembelajaran mesin, pembelajaran mendalam, dan kemampuan jaringan saraf [2]. Meskipun kebanyakan digunakan untuk AI, mereka juga mendukung aplikasi paralel lain yang memerlukan komputasi intensif, seperti simulasi dinamika fluida dan pemodelan molekuler [2].
Mengapa CPU Serbaguna Tidak Memadai
Komputasi AI awal mengandalkan Central Processing Units (CPU), yang dirancang untuk komputasi serbaguna dan berbagai macam tugas [3]. Namun, seiring meningkatnya kompleksitas model AI, desain dasar CPU menjadi kendala [3].
CPU dioptimalkan untuk pemrosesan berurutan, artinya mereka menangani tugas satu per satu [3]. Beban kerja AI dan pembelajaran mesin, sebaliknya, bergantung pada perkalian matriks dan operasi vektor yang memerlukan eksekusi paralel [3]. Hal ini menghasilkan throughput yang lebih rendah dan ketidakmampuan menangani komputasi paralel intensif yang diperlukan AI modern [3].
Peralihan ke Pemrosesan Paralel dengan GPU
Graphics Processing Units (GPU) menyelesaikan masalah throughput dengan memperkenalkan paralelisme masif [3]. Tidak seperti CPU, GPU memiliki ribuan inti yang dapat melakukan perhitungan secara bersamaan, sehingga secara drastis meningkatkan kecepatan pelatihan model AI [3].
NVIDIA mempelopori peralihan ini dengan memperkenalkan CUDA (Compute Unified Device Architecture), yang memungkinkan pengembang menggunakan GPU untuk komputasi umum di luar grafis [3]. Inovasi ini memicu revolusi pembelajaran mendalam, mendukung terobosan dalam pengenalan suara, pemrosesan bahasa alami, dan visi komputer [3].
Silicon Kustom: TPU dan ASIC
Seiring skala AI berkembang, bahkan GPU menghadapi batas efisiensi. Hal ini mendorong pembuatan Application-Specific Integrated Circuits (ASIC), yaitu chip yang dirancang untuk satu tugas khusus, bukan fleksibilitas umum [2].
Google mengembangkan Tensor Processing Unit (TPU) sebagai ASIC khusus untuk mempercepat komputasi TensorFlow [3]. TPU dirancang khusus untuk operasi tensor, yang merupakan blok bangunan dasar pembelajaran mendalam [3]. Karena dirancang untuk tujuan tertentu, TPU memberikan kinerja per watt yang lebih tinggi dibandingkan CPU atau GPU tradisional, menjadikannya lebih efisien untuk infrastruktur AI skala besar [3].
Membandingkan Jenis Akselerator Modern
Memilih perangkat keras yang tepat melibatkan pertukaran antara fleksibilitas dan efisiensi. Berbagai akselerator melayani peran yang berbeda berdasarkan desain arsitekturnya [2].
- CPUs: Terbaik untuk komputasi serbaguna tetapi lambat untuk beban kerja AI [S2, S3].
- GPUs: Sangat fleksibel dan kuat untuk tugas paralel; ideal untuk melatih jaringan saraf dalam [S2, S3].
- FPGAs (Field-Programmable Gate Arrays): Perangkat keras yang dapat dikonfigurasi ulang, menawarkan kompromi antara fleksibilitas GPU dan efisiensi ASIC [S1, S2].
- ASICs/TPUs: Efisiensi dan kinerja maksimum untuk tugas AI spesifik, namun tidak dapat dipakai ulang untuk jenis komputasi lain [S2, S3].
- Dataflow Accelerators: Sistem fleksibel yang dapat dikonfigurasi untuk berbagai beban kerja [2].
Garis Depan Masa Depan dalam Perangkat Keras AI
Evolusi perangkat keras terus berlanjut saat peneliti berupaya mengurangi konsumsi daya dan meningkatkan kepadatan [2]. Beberapa peningkatan kinerja baru-baru ini berasal dari penggunaan presisi numerik yang lebih rendah (menghitung lebih sedikit digit signifikan) dan desain transistor yang lebih kecil serta lebih padat [2].
Di luar silikon tradisional, chip neuromorfik mulai muncul untuk meniru struktur dan fungsi otak manusia [3]. Desain ini bertujuan menangani komputasi AI dengan cara yang lebih menyerupai jaringan saraf biologis [1].
Seiring model AI menjadi lebih kompleks, industri menyaksikan aliran terus-menerus startup baru yang memperkenalkan desain akselerator inovatif untuk menargetkan aplikasi niche [2].
