AI coding agent diprediksi akan menjadi bagian besar dari cara software dikembangkan dalam beberapa tahun ke depan. Developer tidak lagi hanya menggunakan AI untuk bertanya atau menghasilkan potongan kode, tetapi memberikan tugas yang lebih besar: membaca repository, membuat fitur, memperbaiki bug, menjalankan test, hingga membuat pull request secara otomatis.
 |
| Ketika AI Coding Agent Menjadi Terlalu Murah: Ancaman Keamanan yang Jarang Dibahas |
Produktivitas tentu menjadi daya tarik utamanya.
Namun, ada pertanyaan yang jauh lebih penting daripada sekadar seberapa cepat AI bisa menulis kode:
Bisakah kita benar-benar mempercayai AI coding agent yang kita gunakan?
Masalahnya bukan hanya apakah AI bisa menghasilkan kode yang salah. Ada persoalan yang lebih serius: bagaimana jika suatu hari layanan AI yang kita gunakan justru menjadi bagian dari ancaman keamanan?
Masa depan software development semakin bergantung pada AI
Penggunaan Large Language Model (LLM) dalam software development kemungkinan akan terus meningkat.
Saat ini developer sudah menggunakan AI untuk membuat fungsi, menulis unit test, melakukan refactoring, menjelaskan codebase, hingga membantu debugging. Perkembangan berikutnya adalah agentic coding, ketika AI tidak hanya memberikan jawaban, tetapi dapat menjalankan serangkaian tugas secara mandiri.
Misalnya, developer cukup memberikan instruksi:
"Implementasikan fitur autentikasi baru, tambahkan unit test, jalankan test suite, dan buat pull request."
AI kemudian mengerjakan sebagian besar proses tersebut.
Manusia tetap melakukan supervisi, tetapi perannya bisa berubah dari orang yang menulis setiap baris kode menjadi orang yang memeriksa dan menyetujui hasil pekerjaan AI.
Di sinilah muncul persoalan baru.
Jika AI dapat menghasilkan ribuan baris kode dalam waktu yang jauh lebih singkat daripada kemampuan manusia untuk memeriksanya, maka developer berpotensi menjadi bottleneck.
Dan semakin besar pula konsekuensi ketika kita salah mempercayai output tersebut.
Masalah ekonomi di balik layanan AI
Ada persoalan lain yang sering luput ketika membicarakan masa depan AI.
Mengoperasikan model AI berukuran besar membutuhkan infrastruktur komputasi yang sangat mahal. GPU, data center, listrik, jaringan, storage, serta biaya inference semuanya membutuhkan modal yang besar.
Perusahaan AI saat ini memang menawarkan berbagai paket berlangganan dan API, tetapi ekosistem AI masih berada dalam fase investasi besar-besaran.
Pertanyaannya kemudian:
Bagaimana model bisnis ini akan terlihat ketika pasar AI sudah matang?
Sangat mungkin harga menjadi salah satu faktor kompetisi utama.
Bayangkan beberapa tahun ke depan terdapat dua layanan AI coding agent:
Layanan A berasal dari perusahaan teknologi besar dan memiliki biaya tinggi.
Layanan B menawarkan kemampuan yang hampir sama dengan harga jauh lebih murah.
Bagi perusahaan yang sangat sensitif terhadap biaya, pilihan tersebut bisa menjadi sangat menarik.
Dan di sinilah masalah geopolitik mulai masuk.
AI bisa menjadi bagian dari persaingan antarnegara
AI bukan lagi sekadar produk teknologi.
Kemampuan komputasi, semikonduktor, model AI, data center, dan software kini memiliki nilai strategis. Karena itu, tidak sulit membayangkan pemerintah berbagai negara memberikan subsidi besar kepada perusahaan AI domestik untuk mengejar ketertinggalan.
Fenomena seperti ini sebenarnya bukan sesuatu yang sepenuhnya baru.
Industri seperti penerbangan, energi, otomotif, dan semikonduktor telah menunjukkan bagaimana dukungan pemerintah dapat membantu perusahaan nasional bersaing di pasar global.
Bayangkan skenario yang sama terjadi pada AI.
Sebuah perusahaan AI mendapatkan dukungan finansial besar dari pemerintah negaranya. Karena mendapat subsidi, perusahaan tersebut dapat menawarkan AI coding agent dengan harga yang jauh lebih murah dibandingkan kompetitornya.
Secara bisnis, penawarannya terlihat sangat menarik.
Tetapi bagaimana jika perusahaan tersebut sebenarnya berada di bawah kendali pihak yang memiliki kepentingan geopolitik terhadap negara lain?
Ancaman terbesar mungkin bukan model AI-nya
Ketika membahas keamanan AI, perhatian biasanya tertuju pada modelnya.
Apakah model tersebut bias?
Apakah model bisa berhalusinasi?
Apakah model menghasilkan kode yang salah?
Namun ada lapisan lain yang tidak kalah penting: infrastruktur di sekitar model tersebut.
Sebuah coding agent bukan hanya neural network.
Di belakangnya terdapat berbagai komponen seperti:
aplikasi agent;
server API;
sistem autentikasi;
plugin dan tools;
repository integration;
sistem penyimpanan;
logging;
dependency;
sandbox;
command execution;
serta koneksi ke repository perusahaan.
Semakin banyak akses yang diberikan kepada agent, semakin besar pula permukaan serangannya.
Jika sebuah AI coding agent diberikan akses ke repository perusahaan, maka secara teknis layanan tersebut berpotensi melihat source code, konfigurasi, dokumentasi, bahkan informasi sensitif lainnya.
Dan kita kembali pada persoalan paling fundamental:
Seberapa besar kita mempercayai penyedia layanan tersebut?
Bagaimana jika AI coding agent menjadi "agen rahasia" digital?
Mari gunakan sebuah skenario hipotetis.
Sebuah perusahaan software menggunakan AI coding agent dari penyedia yang menawarkan harga sangat murah. Integrasinya mudah, performanya bagus, dan produktivitas developer meningkat drastis.
Tidak ada alasan yang terlihat untuk mencurigainya.
Tetapi ternyata perusahaan AI tersebut secara tidak langsung dikendalikan oleh pihak asing melalui struktur perusahaan, investor, atau entitas perantara yang sulit dilacak.
AI agent tersebut kemudian mendapatkan akses ke repository pelanggan.
Ada dua jenis ancaman yang mungkin terjadi.
1. Passive surveillance
Agent dapat digunakan untuk mengumpulkan informasi dari codebase.
Misalnya:
arsitektur sistem;
API internal;
konfigurasi;
dependency;
pola autentikasi;
informasi deployment;
dokumentasi internal;
atau source code yang belum dipublikasikan.
Bahkan jika AI tidak pernah secara terang-terangan melakukan sesuatu yang mencurigakan, akses terhadap informasi tersebut sudah memiliki nilai strategis.
2. Active manipulation
Ancaman yang lebih serius terjadi ketika AI memiliki kemampuan untuk memodifikasi source code.
Misalnya agent diminta memperbaiki sebuah bug.
AI kemudian membuat pull request yang terlihat normal.
Namun di antara ribuan baris perubahan terdapat modifikasi kecil yang tidak mudah diperhatikan manusia.
Kode tersebut dapat menjadi backdoor, mekanisme pengumpulan data, atau vulnerability yang baru aktif dalam kondisi tertentu.
Tidak perlu membayangkan AI sebagai robot jahat yang sengaja mengambil alih dunia.
Serangan supply chain yang berhasil justru sering kali bekerja dengan cara yang jauh lebih sederhana:
masukkan perubahan berbahaya ke dalam software yang dipercaya.
Kasus XZ Utils menjadi salah satu contoh nyata mengapa keamanan supply chain software perlu dianggap serius.
"Kalau begitu, pakai AI lokal saja"
Solusi yang cukup intuitif adalah menjalankan model AI sendiri.
Tidak mengirim source code ke perusahaan eksternal berarti mengurangi risiko kebocoran melalui API.
Masalahnya, ada pertanyaan baru:
Dari mana model AI tersebut berasal?
Menjalankan model secara lokal tidak otomatis membuatnya aman.
Sebuah organisasi mungkin membeli model open-weight, mengunduh model dari pihak ketiga, atau menggunakan software inference tertentu.
Kita kemudian kembali menghadapi persoalan supply chain.
Model AI sendiri terdiri dari jumlah parameter yang sangat besar. Tidak realistis mengaudit setiap parameter satu per satu seperti kita melakukan code review terhadap repository biasa.
Jika terdapat perilaku berbahaya yang sengaja ditanamkan selama proses training, mendeteksinya juga bukan perkara sederhana.
Namun ada satu perbedaan penting.
Ancaman tidak selalu harus berada di dalam model.
Bisa jadi masalah justru terdapat pada software yang menjalankan model tersebut.
Kita tidak bisa memperlakukan AI seperti developer biasa
Lalu apa yang harus dilakukan?
Salah satu pendekatan yang masuk akal adalah memperlakukan output AI sebagai untrusted contribution.
Bayangkan ada seseorang yang tidak kita kenal mengirimkan pull request ke repository open source kita.
Kita tentu tidak langsung melakukan merge hanya karena kodenya terlihat bagus.
Kita akan melakukan review.
Hal yang sama seharusnya berlaku untuk AI.
AI boleh menghasilkan kode.
AI boleh membuat pull request.
AI bahkan boleh menghasilkan kode jauh lebih cepat daripada manusia.
Tetapi kecepatan menghasilkan kode tidak berarti kecepatan tersebut harus diteruskan langsung ke production.
Setiap perubahan tetap harus melalui proses yang dapat dipercaya.
Code review menjadi semakin penting
Ironisnya, semakin canggih AI dalam menulis kode, semakin penting kemampuan manusia untuk melakukan review.
Pipeline yang sehat dapat terlihat seperti:
AI Agent → Pull Request → Automated Tests → Security Checks → Human Review → Merge
Bukan:
AI Agent → Production
Beberapa mekanisme yang dapat membantu antara lain:
Batasi akses repository
Jangan memberikan AI akses lebih besar daripada yang dibutuhkan.
Jika agent hanya perlu mengubah satu service, tidak ada alasan memberikannya akses penuh ke seluruh organisasi.
Gunakan sandbox
Command execution dan tool yang digunakan AI sebaiknya berjalan dalam lingkungan yang terisolasi.
Semakin sedikit akses langsung ke sistem produksi, semakin kecil dampak jika agent melakukan kesalahan atau disusupi.
Audit setiap perubahan
Jangan hanya melihat apakah test berhasil.
Periksa juga apa yang sebenarnya berubah.
Kode berbahaya tidak selalu menyebabkan test gagal.
Gunakan automated security scanning
Static analysis, dependency scanning, secret detection, dan security testing dapat menjadi lapisan pertahanan tambahan.
Jangan percaya hanya karena provider terkenal
Nama besar memang memberikan tingkat kepercayaan tertentu, tetapi bukan jaminan absolut.
Perusahaan dapat berubah.
Pemilik dapat berubah.
Investor dapat berubah.
Kebijakan dapat berubah.
Bahkan hubungan geopolitik suatu negara dengan negara lain juga dapat berubah.
Karena itu, security architecture sebaiknya tidak bergantung pada asumsi bahwa satu pihak akan selalu dapat dipercaya.
Manusia tetap menjadi bottleneck
Ada satu konsekuensi dari agentic AI yang mungkin terdengar paradoks.
AI membuat proses menulis kode menjadi semakin cepat.
Tetapi kemampuan manusia untuk memahami perubahan tidak meningkat dengan kecepatan yang sama.
AI mungkin mampu menghasilkan 10.000 baris kode.
Manusia tetap membutuhkan waktu untuk memahami apakah 10.000 baris tersebut benar-benar aman.
Dengan kata lain:
AI mempercepat produksi kode, tetapi tidak otomatis mempercepat kemampuan manusia untuk memahami kode tersebut.
Dan sebenarnya ini bukan masalah baru.
Mengetik kode tidak pernah menjadi bottleneck utama dalam software engineering.
Yang sulit adalah menentukan kode apa yang seharusnya ditulis, memahami konsekuensinya, menguji asumsi, dan memastikan perubahan tersebut tidak merusak sistem.
AI hanya membuat perbedaan antara kemampuan menghasilkan kode dan kemampuan memvalidasi kode menjadi semakin besar.
Jangan melawan AI, tapi jangan mempercayainya secara buta
Masa depan software development kemungkinan memang akan semakin agentic.
Developer mungkin akan menghabiskan lebih sedikit waktu mengetik kode dan lebih banyak waktu:
mendefinisikan requirement;
merancang architecture;
memeriksa perubahan;
menguji sistem;
mengawasi agent;
dan memastikan security.
Itu bukan berarti AI harus dihindari.
Justru sebaliknya.
AI coding agent dapat menjadi alat yang sangat powerful jika digunakan dengan model keamanan yang tepat.
Yang perlu dihindari adalah asumsi bahwa:
"Kalau AI berasal dari perusahaan besar dan hasilnya terlihat benar, berarti kita aman."
Tidak sesederhana itu.
Di dunia software modern, kita sudah belajar bahwa dependency, package, library, CI/CD, vendor, dan third-party service semuanya dapat menjadi bagian dari supply chain.
AI coding agent pada akhirnya hanyalah lapisan baru dalam rantai tersebut.
Dan semakin banyak akses yang kita berikan kepada AI, semakin besar pula alasan untuk memperlakukannya sebagai pihak yang belum sepenuhnya dipercaya.
Kesimpulan
AI coding agent kemungkinan akan menjadi salah satu perubahan terbesar dalam software engineering.
Namun tantangannya bukan hanya soal apakah AI dapat menulis kode dengan benar.
Ada pertanyaan yang lebih fundamental:
Siapa yang mengendalikan AI tersebut, bagaimana layanan tersebut dibiayai, dari mana modelnya berasal, data apa yang dapat diakses, dan apa yang dapat dilakukan agent terhadap codebase kita?
Di masa depan, harga layanan AI yang semakin kompetitif bahkan dapat menciptakan masalah baru. Layanan yang paling murah belum tentu menjadi pilihan paling aman, terutama jika terdapat kepentingan geopolitik di baliknya.
Karena itu, pendekatan yang masuk akal bukanlah berhenti menggunakan AI.
Gunakan AI.
Biarkan AI menulis kode.
Biarkan AI membuat pull request.
Tetapi perlakukan setiap kontribusi AI seperti kontribusi dari pihak yang belum sepenuhnya kita percayai.
Karena pada akhirnya, teknologi yang mampu menulis kode dengan cepat juga mampu mempercepat penyebaran kesalahan.
Dan jika suatu hari AI coding agent benar-benar menjadi bagian dari software supply chain, kemampuan paling berharga seorang developer mungkin bukan lagi seberapa cepat ia bisa menulis kode.
Melainkan seberapa baik ia mampu mengetahui kode mana yang tidak boleh dipercaya.
Tags: AI Coding Agent, Artificial Intelligence, LLM, Software Engineering, Cyber Security, Supply Chain Attack, Secure Coding, Developer Tools
Baca Juga:
Ketika AI Menjadi Teman Curhat: Menyoal Empati dan Koneksi Manusia di Era Society 5.0
Masa Depan AI di Perusahaan: Produktivitas Tumbuh, Tenaga Kerja Berubah Perlahan
The AI Productivity Paradox: Mengapa AI Membuat Kita Lebih Cepat, tetapi Belum Tentu Lebih Baik
GeoPT: AI Baru dari MIT yang Membuat Model Lebih Pintar Memahami Fisika Dunia Nyata
0 Comments