Peluang Bisnis Software di Era AI Agent: Dari Chatbot ke Vertical AI, Self-Hosted AI, dan Orchestration

Gelombang pertama generative AI melahirkan sangat banyak produk dengan pola yang serupa: sebuah antarmuka percakapan, pengguna mengetik pertanyaan, lalu model bahasa besar memberikan jawaban. Bentuk ini masih berguna, tetapi nilai bisnisnya semakin sulit dipertahankan sebagai pembeda utama. Model makin mudah diakses melalui API, framework makin matang, dan komponen open-source maupun open-weight makin tersedia. Akibatnya, chatbot perlahan bergerak ke arah komoditas fitur, bukan lagi fondasi keunggulan bisnis yang tahan lama.

Perubahan penting yang sedang terjadi adalah pergeseran dari AI yang sekadar menjawab pertanyaan menuju AI yang dapat membantu menyelesaikan pekerjaan. Dalam arah ini, nilai tidak lagi berhenti pada kualitas teks yang dihasilkan, melainkan pada kemampuan sistem untuk memahami konteks bisnis, memakai tools, mengakses data, mengikuti aturan, berinteraksi dengan software perusahaan, lalu menuntaskan alur kerja multi-step secara aman. OpenAI secara eksplisit mendorong arah tersebut melalui OpenAI Frontier, yang diposisikan untuk membantu enterprise membangun, menjalankan, dan mengelola AI agent yang dapat melakukan pekerjaan nyata dengan shared context, feedback, permissions, dan boundaries [1].

Dari sudut pandang bisnis software, perubahan ini sangat penting. Jika era sebelumnya berpusat pada AI chat, maka era berikutnya lebih dekat dengan AI execution. Dengan kata lain, peluang tidak lagi terutama berada pada membuat chatbot baru, melainkan pada membangun sistem agentik yang dapat bekerja secara andal di atas data, aturan, dan proses perusahaan.

Dalam kerangka tersebut, ada empat area peluang yang tampak paling menjanjikan untuk pengembang software dan entrepreneur: AI Agent Infrastructure, Vertical AI Applications, Self-Hosted AI, dan AI Orchestration. Empat area ini saling terhubung. Sebagian bermain pada lapisan infrastruktur, sebagian pada lapisan aplikasi, dan sebagian lagi pada tata kelola serta koordinasi antar-komponen AI.

Untuk memahami mengapa peluang ini muncul, kita perlu membedakan chatbot dan agent dengan lebih jelas. Chatbot terutama menghasilkan informasi. Agent, dalam pengertian praktis, diarahkan untuk melakukan pekerjaan. Ketika seseorang meminta, misalnya, “tolong periksa pengajuan klaim ini,” chatbot mungkin menjelaskan prosedur pemeriksaan klaim. Sebaliknya, agent dapat dirancang untuk membuka sistem internal, mencari polis, mengambil dokumen, melakukan OCR, membandingkan data, menjalankan rule, meminta analisis model, menyiapkan rekomendasi, lalu menyimpan hasil untuk diperiksa petugas. Pada titik ini, AI bukan hanya antarmuka percakapan, melainkan lapisan eksekusi di atas software perusahaan. Arah seperti ini juga diperkuat oleh evolusi Agents SDK OpenAI yang menyorot kebutuhan nyata saat tim berpindah dari prototipe ke produksi: visibility, sandbox, keamanan credential, durable execution, dan skala [2].

Peluang pertama: AI Agent Infrastructure.

Saat perusahaan mulai memakai banyak agent, kebutuhan baru segera muncul. Satu agent untuk layanan pelanggan mungkin perlu mengakses knowledge base dan CRM. Agent keuangan mungkin perlu membaca invoice, tetapi tidak boleh mengubah payroll. Agent HR mungkin perlu membuat rangkuman kebijakan, namun aksesnya ke data pribadi harus dibatasi. Dalam skala enterprise, agent tidak bisa hidup sebagai komponen terisolasi. Ia perlu dihubungkan ke database, API, sistem dokumen, email, file storage, browser, identity system, hingga workflow engine.

Di sinilah peluang AI Agent Infrastructure menjadi sangat relevan. Bukan semua perusahaan perlu membuat model sendiri. Yang lebih mendesak justru membangun lapisan penghubung agar berbagai model dan agent dapat bekerja secara aman dengan sistem bisnis yang sudah ada. Interpretasi ini selaras dengan masalah produksi yang disorot OpenAI dalam evolusi Agents SDK: tim membutuhkan runtime yang lebih kuat, observability, environment eksekusi yang terkontrol, dan pengelolaan tool yang aman [2].

Secara praktis, lapisan infrastruktur ini dapat meliputi:

• Model routing, untuk menentukan kapan permintaan cukup dijalankan dengan model yang lebih ringan dan kapan membutuhkan model dengan reasoning lebih kuat.
• Tool execution, agar agent dapat memanggil API, membaca file, menjalankan query, atau memakai browser dalam kerangka yang terkelola.
• Authentication dan permission, supaya akses agent tidak melampaui wewenang yang seharusnya.
• Audit log, agar setiap aksi agent dapat ditelusuri: siapa memicu, data apa yang dipakai, tool apa yang dipanggil, dan apa hasilnya.
• Observability, untuk memantau token usage, latency, failure rate, cost, workflow bottleneck, dan keputusan agent.
• Sandboxed execution, agar tugas yang membutuhkan file, command, atau proses jangka panjang dapat berjalan di lingkungan yang lebih aman [2].

Secara bisnis, ini mirip dengan evolusi internet dan cloud. Pada awalnya orang hanya membuat website atau aplikasi. Setelah itu muncul lapisan industri baru seperti hosting, monitoring, identity, API gateway, dan managed infrastructure. Di dunia agentic AI, pola serupa sangat mungkin terulang. Perusahaan membutuhkan “sistem operasi” baru untuk agent, bukan sekadar model.

MCP memperkuat peluang integrasi.

Salah satu perkembangan paling penting bagi lapisan infrastruktur adalah Model Context Protocol atau MCP. Dokumentasi resmi MCP mendeskripsikannya sebagai standar terbuka untuk menghubungkan aplikasi AI ke external systems seperti data sources, tools, dan workflows [3]. Dalam penjelasan resminya, MCP bahkan diibaratkan seperti “USB-C for AI applications” [3]. Analogi ini kuat karena menjelaskan inti masalah yang hendak dipecahkan: tanpa standar, setiap aplikasi AI harus membuat konektor sendiri-sendiri ke sistem yang sama. Dengan standar, satu server atau konektor dapat dipakai oleh banyak aplikasi dan agent.

Implikasinya besar. Jika sebelumnya integrasi bersifat vendor-spesifik, MCP membuka kemungkinan lapisan konektivitas yang lebih universal. Dari sisi peluang bisnis, ini berarti pengembang dapat membangun MCP server untuk sistem vertikal tertentu: software rumah sakit, HRIS lokal, ERP nasional, sistem asuransi, sistem apotek, document management, atau core business software lain. Ini bukan sekadar pekerjaan teknis kecil. Dalam banyak industri, penghubung ke sistem lama justru menjadi sumber nilai dan hambatan masuk bagi kompetitor.

Dengan demikian, salah satu peluang bisnis yang sangat konkret adalah menyediakan integration layer untuk dunia agent. Bukan menjual model, melainkan menjual kemampuan agar model dan agent bisa masuk ke lingkungan kerja nyata dengan aman dan rapi.

Peluang kedua: Vertical AI Applications.

Jika lapisan pertama berbicara tentang infrastruktur, lapisan kedua berbicara tentang aplikasi yang benar-benar menyelesaikan masalah industri. Di sinilah konsep Vertical AI menjadi menarik. Fokusnya bukan membangun “AI assistant untuk semua orang”, melainkan AI yang sangat memahami pekerjaan di satu domain spesifik. Catatan riset yang tersedia memang tidak menyediakan angka pasar eksplisit untuk vertical AI, sehingga bagian ini perlu dibaca sebagai analisis, bukan klaim kuantitatif pasar. Namun arahnya logis: ketika model dasar makin mudah diakses, diferensiasi bisnis cenderung berpindah ke domain knowledge, workflow, business rules, data, dan integrasi.

Dengan kata lain, model bisa menjadi komoditas, tetapi workflow tidak. Dua perusahaan bisa memakai model yang sama. Perusahaan pertama hanya menyediakan alur sederhana: prompt lalu jawaban. Perusahaan kedua membangun alur kerja lengkap: pengambilan data, validasi, analisis AI, business rules, persetujuan manusia, eksekusi transaksi, dan audit trail. Secara teknis modelnya mungkin sama, tetapi nilai produknya berbeda jauh. Moat perusahaan kedua ada pada pemahaman pekerjaan nyata, bukan semata pada model.

Karena itu, vertical AI lebih dekat dengan software operasional yang diperkuat AI daripada chatbot generik. Contoh yang masuk akal antara lain:

• Healthcare: screening awal, dokumentasi medis, administrasi pasien, informasi obat, penjadwalan.
• Insurance: underwriting support, claims review, policy servicing, document classification, fraud indicators.
• Legal: contract review, document comparison, riset hukum, compliance checking.
• Retail: analisis stok, rekomendasi pembelian, pengelolaan katalog, customer support, demand forecasting.
• Construction dan project management: monitoring progres, analisis kontrak, issue tracking, tindakan korektif, notifikasi stakeholder.

Yang perlu ditekankan, contoh-contoh di atas adalah ilustrasi produk, bukan data pasar terverifikasi. Namun secara strategi bisnis, inilah area yang paling realistis bagi banyak software house kecil dan menengah. Mereka tidak perlu membangun foundation model, tidak perlu memiliki ribuan GPU, dan tidak perlu menyaingi vendor frontier model. Yang mereka perlukan adalah memahami satu masalah industri dengan sangat dalam, lalu mengubahnya menjadi alur kerja yang dapat dibantu atau dijalankan oleh agent.

Misalnya di sektor apotek, peluangnya bukan membuat “chatbot tentang obat”. Produk yang lebih bernilai adalah pharmacy operating agent: memantau stok, memprediksi kekurangan, menganalisis produk cepat laku, menyiapkan rekomendasi pembelian, mencari supplier, membuat draft purchase order, lalu meminta approval pemilik. Pada contoh ini, AI hanyalah satu komponen. Produk sebenarnya adalah otomatisasi workflow bisnis.

Demikian pula di insurance, peluang yang lebih kuat bukan chatbot tanya polis, melainkan claim agent yang membantu memeriksa kelengkapan, menemukan dokumen relevan, menjalankan klasifikasi, membaca hasil OCR, membandingkan dengan ketentuan polis, memberi indikator fraud, dan menyiapkan rekomendasi untuk petugas. Sekali lagi, nilai bisnisnya berasal dari pekerjaan yang terselesaikan, bukan dari kualitas percakapan semata.

Peluang ketiga: Self-Hosted AI.

Selain isu workflow, ada isu yang tidak kalah penting: data, kontrol, dan kepatuhan. Tidak semua perusahaan nyaman mengirim data bisnis mereka ke API eksternal. Kekhawatiran ini lazim pada sektor seperti keuangan, asuransi, kesehatan, pemerintahan, manufaktur, dan layanan profesional. Data yang terlibat bisa berupa dokumen identitas, informasi pelanggan, kontrak, catatan medis, ataupun dokumen internal yang sensitif.

Pada titik inilah Self-Hosted AI menjadi peluang. Catatan riset yang tersedia mendukung sisi teknisnya dengan cukup kuat, khususnya melalui vLLM. Dokumentasi vLLM menunjukkan bahwa stack open-source untuk inference sudah semakin matang, dengan kemampuan deployment yang berkembang dari instance tunggal ke deployment terdistribusi, dukungan K8s-native, routing, monitoring dashboard, dan integrasi untuk produksi [5]. Artinya, secara teknis sudah semakin mungkin membangun private inference layer di lingkungan perusahaan sendiri.

Yang penting dijaga adalah kejujuran framing. Sumber resmi vLLM membuktikan kematangan teknis deployment, tetapi tidak otomatis membuktikan ukuran pasar atau besarnya permintaan bisnis. Karena itu, kesimpulan yang lebih aman adalah: kebutuhan self-hosted AI masuk akal sebagai respons terhadap kontrol data, compliance, dan integrasi internal; sementara vLLM dan stack sejenis menunjukkan bahwa fondasi teknis untuk itu makin tersedia [5].

Dari sisi model bisnis, peluang self-hosted AI dapat diterjemahkan menjadi beberapa bentuk layanan. Ini adalah interpretasi bisnis, bukan angka pasar resmi:

• Jasa implementasi private AI untuk perusahaan yang ingin menjalankan model di infrastrukturnya sendiri.
• Managed AI server, termasuk update model, optimasi inference, monitoring, backup, dan security.
• AI appliance internal, yaitu paket server atau lingkungan private cloud yang sudah berisi model, retrieval, database pendukung, konektor, dan dashboard admin.
• Konsultasi arsitektur untuk menentukan kombinasi model, GPU, storage, observability, dan kebijakan akses.

Nilai bisnis dari pendekatan ini bukan sekadar “menjual server AI”, tetapi menjual rasa aman, kontrol, dan kesiapan operasional. Di banyak perusahaan, faktor-faktor tersebut justru lebih menentukan daripada skor benchmark model.

Peluang keempat: AI Orchestration.

Begitu perusahaan memakai banyak model, banyak tools, dan lebih dari satu agent, problem baru segera muncul: model mana yang dipakai untuk tugas tertentu, agent mana yang bertanggung jawab, kapan harus memakai deterministic code dibanding reasoning model, bagaimana state disimpan, apa yang terjadi bila proses gagal di langkah keempat, dan kapan manusia harus memberi persetujuan.

Masalah-masalah ini adalah wilayah AI Orchestration. OpenAI menyorot kebutuhan tersebut melalui pengembangan Agents SDK generasi berikutnya, dengan fokus pada durable execution, kemampuan menjalankan pekerjaan jangka panjang, pengelolaan tool, serta controlled sandbox environment [2]. Ini menunjukkan bahwa begitu agent keluar dari tahap demo, masalah koordinasi dan runtime menjadi masalah inti produk.

Dalam praktiknya, orchestration berarti merancang alur campuran antara:

• rule engine,
• workflow engine,
• API dan kode deterministik,
• AI reasoning,
• dan human approval.

Arsitektur yang baik biasanya bukan AI penuh di semua langkah, melainkan hibrida. Sebagian pekerjaan lebih tepat dijalankan oleh SQL, validasi rule, atau service biasa. AI dipakai pada bagian yang membutuhkan pemahaman dokumen, klasifikasi ambigu, atau penyusunan rekomendasi. Setelah itu, manusia mungkin tetap menjadi pihak yang memberi persetujuan akhir untuk keputusan berisiko tinggi.

Contoh sederhananya pada proses klaim: dokumen masuk, modul OCR membaca isi, validasi rule memeriksa kelengkapan, agent analisis memberi ringkasan dan indikator risiko, lalu petugas memutuskan. Dalam desain seperti ini, kekuatan produk bukan pada satu model supercerdas, melainkan pada orkestrasi yang andal dan dapat diaudit.

Dunia multi-agent juga mulai terbentuk.

Jika MCP berbicara tentang koneksi agent ke tools dan data, maka interoperabilitas antar-agent mulai mendapat perhatian tersendiri. Linux Foundation melaporkan bahwa ekosistem A2A Protocol telah melampaui 150 organisasi dan mulai melihat penggunaan produksi enterprise [4]. Temuan ini penting karena menunjukkan bahwa koordinasi antar-agent lintas vendor dan platform bukan lagi sekadar ide konseptual, melainkan arah ekosistem yang semakin nyata [4].

Maknanya bagi peluang bisnis software cukup besar. Jika kelak satu perusahaan memiliki sales agent, procurement agent, finance agent, dan support agent, lalu masing-masing perlu berinteraksi dengan agent milik vendor atau partner lain, maka lapisan interoperability akan menjadi sangat bernilai. Dari sini, peluang lahir bukan hanya pada pembuatan agent, tetapi juga pada pengelolaan komunikasi, handoff, trust boundary, policy, dan observability antar-agent.

Peluang terbesar bukan chatbot baru, melainkan execution layer.

Bila empat area tadi disusun sebagai sebuah stack, gambar besarnya menjadi jelas. Di lapisan bawah ada model dan infrastruktur inferensi. Di atasnya ada routing, konektor, protocol, dan runtime. Di atasnya lagi ada orchestration dan governance. Di lapisan paling dekat ke pengguna, ada vertical AI application yang memahami pekerjaan nyata. Semakin ke bawah, kompetensinya lebih infrastruktur. Semakin ke atas, kompetensinya lebih pada domain dan workflow.

Bagi banyak perusahaan software skala kecil dan menengah, posisi paling menarik kemungkinan besar berada di tengah: vertical AI plus integration plus workflow plus agent runtime yang cukup andal. Ini wilayah yang masih terbuka, bernilai tinggi, dan tidak menuntut investasi setara perusahaan model frontier.

Dari sini lahir perubahan cara berpikir yang penting. Selama era SaaS, perusahaan membeli software, memberi akses ke pengguna, lalu pengguna menjalankan sendiri pekerjaannya. Dalam era agentic AI, sebagian nilai mungkin bergeser menjadi software yang ikut melakukan pekerjaan tersebut. Akibatnya, logika monetisasi juga bisa berubah. Pricing berbasis seat tetap mungkin, tetapi pricing berbasis pekerjaan yang diselesaikan menjadi semakin masuk akal. Ini bukan data pasar resmi dalam sumber yang tersedia, melainkan interpretasi bisnis yang wajar dari sifat produk agentik: nilai muncul ketika pekerjaan selesai, bukan hanya ketika software dipakai.

Namun, kehati-hatian tetap diperlukan.

Optimisme terhadap AI agent sering mendorong narasi “fully autonomous AI” yang seolah-olah akan segera menggantikan seluruh proses manusia. Untuk banyak bisnis, pendekatan tersebut justru terlalu berisiko. Semakin besar konsekuensi keputusan, semakin penting approval, permission, audit, observability, dan rollback. Karena itu, desain yang lebih realistis biasanya adalah AI recommendation with human approval, atau otonomi terbatas berdasarkan risk threshold.

Di sinilah muncul peluang tambahan yang menempel pada empat kategori utama tadi: governance. Meskipun artikel ini berfokus pada agent infrastructure, vertical AI, self-hosted AI, dan orchestration, kebutuhan tata kelola sebenarnya akan tumbuh bersamaan. Ketika perusahaan memiliki puluhan agent aktif, manajemen akan bertanya: agent apa yang berjalan, model apa yang dipakai, data apa yang diakses, berapa biayanya, tugas mana yang gagal, dan siapa pemilik operasionalnya. Pertanyaan-pertanyaan ini menunjukkan bahwa pasar untuk control plane, audit, policy, dan monitoring agent sangat mungkin ikut berkembang.

Poin terpenting dari seluruh perubahan ini dapat diringkas secara sederhana: peluang bisnis software berikutnya tidak lagi terutama berada pada AI yang bisa menjawab pertanyaan, melainkan pada AI yang bisa menyelesaikan pekerjaan secara andal. Bagi entrepreneur software, ini justru kabar baik. Mereka tidak harus bersaing dengan OpenAI atau pemain model besar dalam membangun intelligence layer. Ruang yang lebih realistis dan defensible ada di atasnya: pemahaman industri, workflow, integrasi, data, guardrail, dan pengalaman pengguna.

Dengan demikian, jika harus memilih fokus strategis, maka empat area berikut layak diprioritaskan. Pertama, AI Agent Infrastructure, yaitu lapisan agar agent bisa memakai tools, API, database, identity, memory, dan sistem perusahaan dengan aman [1][2][3]. Kedua, Vertical AI Applications, yaitu aplikasi yang sangat memahami pekerjaan pada satu industri, sehingga nilai utamanya ada pada workflow, business rules, dan integrasi. Ketiga, Self-Hosted AI, yaitu private inference layer dan deployment internal untuk perusahaan yang membutuhkan kontrol data dan kesiapan operasional lebih tinggi [5]. Keempat, AI Orchestration, yaitu tata cara menggabungkan model, tools, rule engine, workflow engine, human approval, dan bahkan multi-agent interoperability dalam satu sistem produksi yang andal [2][4].

Pada akhirnya, pelajaran strategisnya jelas. Jangan berhenti pada menjual AI sebagai fitur percakapan. Jual pekerjaan yang bisa diselesaikan AI, proses yang bisa dipercepat AI, dan risiko operasional yang bisa dikurangi AI. Di situlah hubungan jangka panjang dengan pelanggan, recurring revenue, dan defensibility bisnis paling mungkin terbentuk.

Referensi

• [1] OpenAI, Introducing OpenAI Frontier: https://openai.com/index/introducing-openai-frontier/
• [2] OpenAI, The next evolution of the Agents SDK: https://openai.com/index/the-next-evolution-of-the-agents-sdk/
• [3] Model Context Protocol Documentation, What is the Model Context Protocol (MCP)?: https://modelcontextprotocol.io/docs/2026-07-28/getting-started/intro
• [4] Linux Foundation, A2A Protocol Surpasses 150 Organizations, Lands in Major Cloud Platforms, and Sees Enterprise Production Use in First Year: https://www.linuxfoundation.org/press/a2a-protocol-surpasses-150-organizations-lands-in-major-cloud-platforms-and-sees-enterprise-production-use-in-first-year
• [5] vLLM Documentation, Welcome to production-stack!: https://docs.vllm.ai/projects/production-stack/en/latest/