OpenRouter: Satu API untuk Ratusan LLM (OpenAI, Anthropic, Google, Meta, Mistral)
Halo temen-temen, ketemu lagi sama aku, Ruby Abdullah. Kali ini aku mau bahas satu tool yang menurut aku wajib banget kalian kenalin kalau kalian lagi serius bangun aplikasi berbasis LLM. Namanya OpenRouter. Buat aku pribadi, OpenRouter itu semacam "colokan universal" buat semua model bahasa besar yang ada di dunia sekarang. Bayangin aja, biasanya kalau mau pakai GPT dari OpenAI kalian harus daftar ke OpenAI, dapetin API key sendiri, pakai SDK-nya sendiri. Terus kalau mau coba Claude dari Anthropic, kalian harus daftar lagi ke Anthropic, API key lagi, SDK lagi. Mau coba Gemini dari Google? Sama, daftar lagi. Belum lagi kalau mau coba model open source kayak Llama dari Meta atau Mistral. Ribet banget kan?
Nah, OpenRouter datang buat nyelesain masalah itu. Dengan satu API key dan satu endpoint yang formatnya kompatibel sama OpenAI, kalian bisa akses ratusan model dari berbagai provider. Jadi kode kalian nggak berubah, cuma ganti nama model doang, kalian udah bisa lompat dari GPT ke Claude ke Gemini ke Llama semudah ganti string. Ini game changer banget buat aku, apalagi kalau kalian lagi eksperimen cari model mana yang paling cocok buat use case tertentu, atau kalian mau bikin sistem yang punya fallback otomatis kalau satu model lagi down.
Di tutorial ini aku bakal ajak kalian dari nol. Mulai dari cara dapetin API key, cara pakai lewat OpenAI SDK, cara pilih model pakai slug, streaming, routing dan fallback antar model, atur preferensi provider, tracking biaya sama rate limit, sampai cara bandingin harga model. Semua contoh aku kasih pakai Python biar gampang diikutin. Yuk kita mulai.
Introduction
Sebelum masuk ke teknis, aku pengen kalian paham dulu kenapa OpenRouter ini penting dan apa sebenarnya yang dia lakuin di belakang layar. Jadi gini, OpenRouter itu posisinya sebagai gateway atau perantara. Ketika kalian kirim request ke OpenRouter, dia bakal nerusin request itu ke provider model yang kalian pilih, nunggu jawabannya, terus balikin lagi ke kalian. Semua ini terjadi dengan format yang seragam, yaitu format OpenAI Chat Completions yang udah jadi semacam standar de facto di industri.
Kenapa format OpenAI penting? Karena hampir semua library, framework, dan tool di ekosistem LLM sekarang udah support format itu. Jadi kalau kalian udah punya kode yang jalan pakai OpenAI SDK, kalian cukup ganti baseurl sama apikey, dan kode kalian langsung bisa akses ratusan model lewat OpenRouter tanpa perlu nulis ulang apa-apa. Ini yang bikin migrasi jadi gampang banget.
Ada beberapa keuntungan konkret yang aku rasain waktu pakai OpenRouter. Pertama, satu tagihan buat semua. Kalian nggak perlu ngurusin billing di banyak tempat, cukup top up saldo di OpenRouter, terus dari situ kalian bisa pakai model apa aja. Kedua, kalian bisa bandingin harga dan performa model dengan mudah karena semuanya ada di satu tempat. Ketiga, ada fitur routing dan fallback yang bikin aplikasi kalian lebih tahan banting. Kalau satu provider lagi error atau rate limit, OpenRouter bisa otomatis pindah ke provider lain. Keempat, kalian dapet akses ke model-model yang mungkin susah didaftar langsung, termasuk model open source yang di-host sama berbagai penyedia infrastruktur.
Buat aku, use case paling kena itu waktu bikin prototype. Aku sering banget mau nyobain, misalnya, apakah tugas summarization ini lebih bagus dikerjain sama Claude atau GPT atau model yang lebih murah kayak Llama. Tanpa OpenRouter, aku harus setup tiga akun, tiga API key, dan mungkin nulis tiga versi kode. Dengan OpenRouter, aku cukup ganti satu string nama model dan langsung bisa bandingin hasilnya. Hemat waktu, hemat tenaga, hemat pikiran.
Satu hal yang perlu kalian tau, OpenRouter itu bukan gratis dalam artian kalian tetap bayar per token sesuai harga model yang kalian pakai. OpenRouter ambil sedikit margin atau kadang mereka pass-through harga aslinya. Tapi ada juga beberapa model yang punya tier gratis dengan rate limit tertentu, cocok banget buat eksperimen awal. Jadi kalian bisa mulai tanpa keluar duit dulu buat belajar.