Perusahaan-perusahaan teknologi besar seperti Microsoft dan Google sedang menghadapi tantangan dalam mengubah produk AI seperti ChatGPT menjadi usaha yang menguntungkan, melansir The Wall Street Journal. Meskipun perusahaan-perusahaan ini melakukan investasi besar dalam teknologi AI yang dapat menghasilkan memo bisnis atau kode, biaya pengoperasian model AI canggih ternyata menjadi kendala yang signifikan. Beberapa layanan, seperti GitHub Copilot milik Microsoft, menyebabkan kerugian operasional yang signifikan.
Model AI generatif yang digunakan untuk membuat teks tidak murah untuk dioperasikan. Model bahasa besar (LLM) seperti yang menggerakkan ChatGPT memerlukan server kuat dengan chip berperforma tinggi yang mengkonsumsi energi.. Akibatnya, Adam Selipsky, Chief Executive Amazon Web Services, mengatakan kepada Journal bahwa banyak pelanggan korporat tidak puas dengan biaya pengoperasian yang tinggi dari model-model AI ini.
Tantangan biaya saat ini terkait dengan sifat perhitungan AI, yang seringkali memerlukan perhitungan baru untuk setiap kueri, berbeda dengan perangkat lunak standar yang menikmati ekonomi skala. Hal ini membuat model biaya tetap untuk layanan AI menjadi berisiko, karena peningkatan penggunaan oleh pelanggan dapat meningkatkan biaya operasional dan berpotensi menyebabkan kerugian bagi perusahaan.
Beberapa perusahaan mencoba mengurangi biaya, sementara yang lain terus berinvestasi lebih dalam dalam teknologi ini. Microsoft dan Google telah memperkenalkan peningkatan AI yang lebih mahal untuk layanan perangkat lunak yang sudah ada, sementara Zoom kabarnya mencoba mengurangi biaya dengan terkadang menggunakan model AI internal yang kurang kompleks untuk beberapa tugas. Adobe mengatasi masalah ini dengan batasan aktivitas dan penagihan berdasarkan penggunaan, sementara Microsoft dan Google biasanya tetap menggunakan biaya tetap.
Kepala Strategi Perusahaan Microsoft, Chris Young, berpikir bahwa melihat pengembalian investasi dalam AI akan memerlukan waktu tambahan saat orang-orang mencari cara terbaik untuk menggunakannya. “Kita jelas berada di tempat di mana sekarang kita harus menerjemahkan antusiasme dan tingkat minat menjadi adopsi yang sebenarnya,” katanya kepada media.
Menariknya, laporan WSJ menyebutkan bahwa GitHub Copilot milik Microsoft, yang membantu pengembang aplikasi dengan menghasilkan kode, telah beroperasi dengan kerugian meskipun telah menarik lebih dari 1,5 juta pengguna dan terintegrasi hampir dalam setengah dari proyek pengkodean mereka. Pengguna membayar biaya tetap sebesar $10 per bulan untuk layanan ini, tetapi biaya bagi Microsoft melebihi $20 per bulan per pengguna secara rata-rata, menurut sumber yang akrab dengan masalah tersebut. Dalam beberapa kasus, pengguna individu telah mengakibatkan biaya hingga $80 per bulan bagi perusahaan.
Salah satu alasan mengapa layanan AI begitu mahal adalah bahwa beberapa perusahaan mencoba menggunakan model AI paling kuat. Sebagai contoh, Microsoft menggunakan model LLM GPT-4 yang paling kompleks dari OpenAI untuk banyak fitur AI-nya. GPT-4 adalah salah satu model AI paling besar dan paling mahal yang harus dioperasikan, membutuhkan daya komputasi yang signifikan. WSJ mencatat bahwa menggunakan model ini untuk tugas-tugas dasar seperti merangkum email adalah seperti “menggunakan Lamborghini untuk mengirimkan pizza,” menunjukkan bahwa menggunakan model AI paling mumpuni bisa menjadi berlebihan untuk tugas-tugas sederhana.
Sejalan dengan ini, Microsoft telah menjajaki alternatif yang lebih hemat biaya untuk asisten pencarian Bing Chat-nya, termasuk model bahasa Llama 2 milik Meta. Namun, seiring berjalannya waktu, berkat kemajuan perangkat keras percepatan AI, biaya untuk mengoperasikan model-model kompleks ini kemungkinan akan turun.
