Together AI: Panduan Lengkap Inference dan Fine-Tuning Model Open Source dengan Satu API

Halo temen-temen! Kali ini aku pengen ngajak kalian ngobrolin salah satu platform yang belakangan ini sering banget aku pakai buat project-project AI aku, namanya Together AI. Buat kalian yang selama ini cuma kenal OpenAI atau Anthropic sebagai penyedia API model bahasa, Together AI ini nawarin sesuatu yang beda: akses ke model-model open source populer kayak Llama, Qwen, DeepSeek, Mixtral, dan puluhan model lainnya, lewat satu API yang kompatibel sama format OpenAI. Jadi kalau kalian udah biasa ngoding pakai library OpenAI, hampir gak ada learning curve sama sekali.

Yang bikin aku betah pakai Together AI itu bukan cuma soal inference alias jalanin model buat generate teks. Platform ini juga nyediain fitur fine-tuning yang gampang banget, embeddings buat semantic search, model image generation, sampai function calling dan structured output. Jadi bener-bener satu tempat buat hampir semua kebutuhan AI kalian. Di tutorial ini aku bakal jelasin dari nol banget: cara dapetin API key, install library-nya, sampai contoh-contoh kode Python yang bisa langsung kalian jalanin di laptop atau server kalian.

Aku tulis tutorial ini dengan asumsi kalian udah paham dasar-dasar Python dan sedikit ngerti soal LLM. Tapi tenang aja, aku bakal jelasin pelan-pelan kok. Yuk kita mulai!

Introduction

Sebelum masuk ke kode, aku mau kasih gambaran dulu kenapa Together AI ini menarik dan kapan sebaiknya kalian pakai platform ini.

Apa itu Together AI

Together AI itu sebuah cloud platform yang fokusnya di menjalankan model-model AI open source dalam skala besar. Bayangin kalian mau pakai Llama 3.3 70B atau DeepSeek R1 buat aplikasi kalian. Kalau kalian jalanin sendiri, kalian butuh GPU mahal, setup yang ribet, dan biaya listrik yang gak murah. Nah Together AI ini nyediain semua itu sebagai layanan, jadi kalian tinggal panggil API-nya dan bayar per token yang kalian pakai. Gak perlu mikirin infrastruktur sama sekali.

Ada beberapa alasan kenapa aku suka banget sama platform ini:

Pertama, koleksi modelnya luas banget. Dari model chat kayak Llama, Qwen, Mistral, dan DeepSeek, sampai model khusus buat coding, reasoning, embeddings, dan bahkan image generation. Kalian bebas milih model mana yang paling cocok buat use case kalian tanpa terkunci di satu vendor.

Kedua, harganya transparan dan kompetitif. Karena kita pakai model open source, biayanya jauh lebih murah dibanding model proprietary. Buat startup atau developer indie kayak kita-kita ini, ini ngebantu banget buat ngirit budget.

Ketiga, dan ini yang penting, API-nya OpenAI-compatible. Jadi kalau kalian punya kode lama yang pakai library openai, kalian tinggal ganti base URL dan API key-nya, langsung jalan. Migrasi jadi gampang banget.

Kapan sebaiknya pakai Together AI

Menurut aku Together AI ini cocok banget kalau kalian pengen kontrol lebih atas model yang dipakai, pengen fine-tune model sendiri dengan data kalian, atau pengen ngirit biaya dengan tetap dapet kualitas yang bagus. Kalau kalian butuh data privacy dan gak mau data kalian dipakai buat training, Together AI juga punya kebijakan yang jelas soal ini. Buat aku pribadi, platform ini jadi pilihan utama kalau lagi bikin prototype cepat atau aplikasi produksi yang butuh model open source.

Instalasi

Oke sekarang kita masuk ke bagian teknis. Pertama-tama kita perlu dapetin API key dan install library-nya.

Dapetin API Key

Langkah pertama, kalian buka website together.ai lalu daftar akun. Prosesnya cepet kok, tinggal pakai email atau login pakai Google. Setelah masuk ke dashboard, cari menu Settings atau API Keys. Di situ kalian bisa generate API key baru. Simpen baik-baik ya key ini, jangan sampai ke-commit ke repository publik atau kesebar ke orang lain. Biasanya kalian juga dapet kredit gratis pas pertama kali daftar, jadi bisa langsung eksperimen tanpa keluar duit.

Cara paling aman nyimpen API key itu pakai environment variable. Jadi jangan hardcode di kode kalian. Di terminal, kalian bisa set kayak gini:

export TOGETHERAPIKEY="your-api-key-here"

Kalau di Windows pakai PowerShell:

$env:TOGETHERAPIKEY="your-api-key-here"

Atau lebih rapi lagi, kalian bikin file .env di folder project kalian dan simpen key-nya di situ. Nanti aku tunjukin cara loadnya.

Install Library Python

Sekarang kita install library resmi Together AI. Buka terminal kalian dan jalanin:

pip install together