Otak Kecerdasan Buatan ChatGPT Ternyata GPU Nvidia

Otak ChatGPT Ternyata GPU Nvidia – Di balik kecerdasan ChatGPT dalam merespons berbagai pertanyaan dan permintaan pengguna, terdapat puluhan ribu GPU Nvidia yang bekerja keras.

Menurut laporan dari Bloomberg, OpenAI telah “melatih” ChatGPT menggunakan komputer super yang dirancang oleh Microsoft dan dilengkapi dengan puluhan ribu GPU Nvidia A100 yang dikhususkan untuk komputasi data center dan kecerdasan buatan (AI), bukan GPU gaming biasa.

Harga satu GPU A100 ini mencapai setidaknya USD 10 ribu, atau sekitar Rp 150 juta. Dan, puluhan ribu GPU A100 ini digunakan dalam komputer super untuk melatih ChatGPT.

Pembangunan komputer super ini menjadi mungkin setelah Microsoft menginvestasikan USD 1 miliar ke dalam OpenAI pada tahun 2019. Namun, pembuatan komputer super ini tidaklah mudah, karena Microsoft harus menghadapi tantangan seperti pengelolaan panas yang dihasilkan dan berbagai masalah teknis lainnya.

“Kami membangun arsitektur sistem yang dapat beroperasi dan dapat diandalkan dalam skala yang sangat besar. Hasilnya adalah ChatGPT yang dapat digunakan. Ini hanya salah satu dari banyak model yang telah kami ciptakan. Akan ada lebih banyak model lainnya,” kata Nidhi Chappel, GM Azure AI Infrastructure di Microsoft.

Menurut Scott Guthrie, executive VP cloud dan AI di Microsoft, biaya yang diperlukan untuk membangun komputer super ini mencapai ratusan juta dolar. Microsoft juga mengembangkan perangkat lunak baru untuk meningkatkan efisiensi dari GPU yang sangat energi-intensif ini.

Selain itu, Microsoft harus memastikan infrastruktur jaringan yang mampu mengatasi lalu lintas data yang sangat besar, serta menggunakan berbagai metode untuk mendinginkan chip GPU tersebut.

Tidak heran ChatGPT telah mengalami pertumbuhan pengguna yang sangat pesat, dengan jumlah pengguna mencapai satu juta dalam beberapa hari setelah dirilis untuk publik pada November lalu. Bahkan, sekarang ChatGPT sudah banyak digunakan secara komersial oleh banyak penyedia layanan.

Melihat keberhasilan ChatGPT, Microsoft dan beberapa pesaingnya kini sedang mengembangkan model AI paralel untuk mesin pencari dan aplikasi lainnya. Salah satunya adalah ND H100 v5, sebuah mesin virtual yang menggunakan antara 8 hingga ribuan GPU H100 (generasi penerus A100) untuk mempercepat teknologi generative AI.

ND H100 v5 ini akan digunakan oleh Microsoft pada mesin pencari Bing yang didukung oleh ChatGPT, serta browser Edge dan Microsoft Dynamics 365.

Sebelumnya, TrendForce memperkirakan bahwa OpenAI akan membutuhkan lebih dari 30 ribu GPU Nvidia untuk memproses data-data ChatGPT yang terus berkembang.