Layanan AI Microsoft Copilot dikabarkan akan berjalan secara lokal di PC, demikian yang diungkapkan oleh Intel kepada Tom’s Hardware. Perusahaan tersebut juga mengatakan bahwa PC AI generasi berikutnya akan membutuhkan unit pemrosesan saraf (NPUs) bawaan dengan lebih dari 40 TOPS (triliun operasi per detik) kekuatan, melebihi kemampuan dari setiap prosesor konsumen yang ada di pasar saat ini.
Intel mengatakan bahwa PC AI akan mampu menjalankan lebih banyak elemen dari Copilot secara lokal. Saat ini, Copilot hampir menjalankan segalanya di cloud, bahkan permintaan kecil pun. Hal ini menyebabkan cukup banyak keterlambatan yang wajar untuk pekerjaan yang lebih besar, tetapi tidak ideal untuk pekerjaan yang lebih kecil. Menambahkan kemampuan komputasi lokal akan mengurangi keterlambatan tersebut, sambil potensial meningkatkan kinerja dan privasi juga.
Microsoft sebelumnya dikabarkan membutuhkan 40 TOPS pada PC AI generasi berikutnya bersama dengan 16GB RAM yang sederhana. Saat ini, Windows tidak banyak memanfaatkan NPUs, kecuali untuk menjalankan efek video seperti latar belakang yang kabur untuk webcam Surface Studio. Namun, ChromeOS dan macOS menggunakan daya NPU untuk fitur pemrosesan video dan audio lebih banyak, bersama dengan OCR, terjemahan, transkripsi langsung, dan lainnya, seperti yang dicatat oleh Ars Technica.
Sejauh ini, prosesor dengan kecepatan NPU tercepat adalah Apple M3, yang menawarkan 18 TOPS di seluruh lini (M3, M3 Pro, dan M3 Ultra). Chip laptop Ryzen 8040 dan 7040 dari AMD berikutnya dengan 16 dan 10 TOPS masing-masing, sementara laptop Meteor Lake dari Intel mencapai 10 TOPS juga. Qualcomm mungkin akan menawarkan prosesor pertama dengan cukup daya untuk Copilot melalui Snapdragon X Elite, yang akan menawarkan kecepatan komputasi AI 45 TOPS.
Chip Lunar Lake dari Intel, yang dijadwalkan akan tiba pada tahun 2025, akan dilengkapi dengan tiga kali lipat kecepatan NPU saat ini. Kemarin, perusahaan tersebut memperkenalkan 300 fitur AI baru yang dioptimalkan khusus untuk platform OpenVino miliknya sendiri. Raksasa chip tersebut juga mengumumkan kit pengembangan PC AI berbasis ASUS NUC Pro yang menggunakan silikon Meteor Lake saat ini.
“Dari sudut pandang desktop, kami memiliki rencana di sisi desktop, yang kami sebut [sebagai] PC AI. Dan ada juga PC AI generasi berikutnya, persyaratan 40 TOPS; kami memiliki semua langkah berbeda dalam roadmap kami tentang bagaimana kami menjangkau semua segmen yang berbeda,” kata perusahaan tersebut kepada Tom’s Hardware.
