Selama beberapa tahun terakhir, investasi Artificial Intelligence (AI) di perusahaan lebih banyak difokuskan pada proses training model. Namun, kini arah tersebut mulai berubah. Setelah model AI selesai dikembangkan, tantangan berikutnya adalah menjalankan AI secara terus-menerus dalam operasional bisnis. Inilah yang dikenal sebagai AI inference.

Perubahan ini tidak hanya memengaruhi cara perusahaan memanfaatkan AI, tetapi juga mengubah kebutuhan terhadap infrastruktur IT. Menurut Hitachi Vantara, AI inference kini menjadi beban kerja utama yang membentuk kebutuhan infrastruktur enterprise modern.

AI Tidak Lagi Hanya Digunakan untuk Training

Pada tahap awal adopsi AI, sebagian besar sumber daya komputasi digunakan untuk melatih model (training). Proses ini memang membutuhkan performa tinggi, tetapi berlangsung dalam periode tertentu.

Berbeda dengan itu, AI inference berjalan setiap hari untuk melayani berbagai aplikasi bisnis seperti chatbot, analitik, pencarian informasi, otomatisasi proses, hingga rekomendasi berbasis AI. Karena berjalan secara berkelanjutan, kebutuhan infrastrukturnya menjadi jauh lebih kompleks. Deloitte memperkirakan porsi komputasi AI untuk inference terus meningkat dan menjadi mayoritas dari total beban kerja AI.

Infrastruktur Enterprise Harus Beradaptasi

Peningkatan AI inference membawa beberapa perubahan penting bagi infrastruktur perusahaan, antara lain:

• Kebutuhan server dengan performa tinggi untuk melayani permintaan AI secara real-time.
• Storage yang mampu menyediakan akses data dengan latensi rendah.
• Jaringan yang stabil untuk mendukung komunikasi antar sistem AI.
• Pengelolaan data yang tetap memenuhi kebutuhan keamanan dan kepatuhan.

Dengan kata lain, fokus tidak lagi hanya pada kemampuan komputasi, tetapi juga bagaimana data dapat diakses secara cepat, aman, dan konsisten.

Hybrid Infrastructure Semakin Relevan

Cloud tetap menjadi pilihan untuk eksperimen dan training model AI. Namun ketika AI digunakan dalam operasional harian, banyak perusahaan mulai mempertimbangkan pendekatan hybrid atau on-premises agar dapat mengurangi latensi, mengendalikan biaya operasional, serta menjaga data sensitif tetap berada di lingkungan perusahaan.

Kesimpulan

Pergeseran dari AI training ke AI inference menunjukkan bahwa fase berikutnya dari transformasi AI bukan lagi sekadar membangun model, tetapi memastikan model tersebut dapat berjalan secara optimal dalam operasional bisnis.

Bagi perusahaan, perubahan ini berarti kebutuhan terhadap server, storage, network, dan pengelolaan data akan menjadi semakin penting untuk mendukung AI yang berjalan setiap hari.

(Sumber : www.hitachivantara.com)