AWS telah memperkenalkan Lambda MicroVM, opsi komputasi tanpa server baru untuk menjalankan kode yang dihasilkan pengguna dan kode yang dihasilkan AI di dalam lingkungan virtual yang terisolasi dan memiliki status.
Lambda MicroVM menggunakan virtualisasi AWS Firecracker untuk menyediakan lingkungan eksekusi terpisah untuk setiap pengguna, pekerjaan, atau sesi agen AI. Setiap MicroVM menerima alokasi khusus. HTTPS titik akhir dan dapat mempertahankan status memori dan disk-nya saat ditangguhkan.
AWS memposisikan layanan ini untuk agen pengkodean AI, alat pengembangan interaktif, platform analisis data, pemindai keamanan, sistem CI/CD, dan aplikasi lain yang menjalankan kode yang tidak ditulis oleh operator platform.
Mulai dari HostScoreDari perspektifnya, pengumuman ini lebih signifikan daripada peluncuran komputasi AWS lainnya. Ini menunjukkan bahwa hosting AI berkembang melampaui penerapan model dan GPU kapasitas. Saat agen AI mulai menjalankan kode, menggunakan alat, dan mengelola file, lingkungan tempat tindakan tersebut terjadi menjadi bagian terpisah dari tumpukan hosting.
Apa Sebenarnya yang Telah Diumumkan AWS?
AWS Lambda MicroVM menyediakan lingkungan eksekusi terisolasi yang dapat dibuat oleh pengembang di sekitar pengguna individual, pekerjaan, atau sesi agen.
Pengembang mengemas aplikasi dan Dockerfile mereka sebelum meminta Lambda untuk membuat citra MicroVM. AWS menginisialisasi aplikasi dan mengambil snapshot dari lingkungan yang telah disiapkan. MicroVM baru kemudian diluncurkan dari snapshot tersebut, alih-alih mengulangi proses penyiapan lengkap.
Setiap MicroVM menerima miliknya masing-masing. HTTPS titik akhir. AWS mendukung koneksi HTTP/2, gRPC, dan WebSocket, memungkinkan lingkungan tersebut untuk menampung alat pengembangan interaktif, layanan eksekusi kode, dan aplikasi lain yang membutuhkan komunikasi berkelanjutan.
MicroVM juga dapat ditangguhkan saat tidak aktif. AWS mempertahankan status memori dan disk-nya dan memulihkannya saat lalu lintas kembali atau aplikasi meminta untuk dilanjutkan. Siklus hidup maksimum yang dikonfigurasi untuk MicroVM, termasuk waktu berjalan dan ditangguhkan, adalah delapan jam.
AWS mengumumkan Lambda MicroVM pada 22 Juni 2026, dan menerbitkan postingan peluncuran teknis yang lebih detail pada 10 Juli. Rilis awal tersedia di Virginia Utara, Ohio, Oregon, Tokyo, dan Irlandia.
Baca Pengumuman peluncuran AWS ke Postingan peluncuran teknis AWS.
Oleh karena itu, Lambda MicroVM memperluas kemampuan Lambda melampaui eksekusi berbasis peristiwa jangka pendek. Mereka menyediakan lingkungan yang lebih tahan lama yang mempertahankan status kerja sementara AWS mengelola proses virtualisasi, jaringan, penangguhan, dan penghentian.
Mengapa Agen AI Membutuhkan Lingkungan Eksekusi yang Memiliki Status?
Agen AI membutuhkan lingkungan eksekusi yang memiliki status karena tugas mereka mungkin melibatkan beberapa tindakan yang saling terkait yang dilakukan selama sesi yang panjang.
Agen dapat membuat skrip, menginstal paket, memproses file, menjalankan peramban, memanggil API, memeriksa hasilnya, dan kemudian mengubah tindakan selanjutnya. File, dependensi, dan status aplikasi yang dibuat selama tahap awal mungkin masih dibutuhkan di kemudian hari.
Membangun ulang lingkungan setelah setiap tindakan akan menambah penundaan dan memaksa sistem untuk membuat ulang status kerja agen berulang kali.
Kode yang Dihasilkan AI Membutuhkan Batasan Isolasi
Kode yang dihasilkan AI memerlukan batasan isolasi karena platform tidak dapat berasumsi bahwa setiap perintah akan berperilaku sesuai yang diharapkan.
Kode yang salah atau dimanipulasi dapat mengakses file sensitif, mengekspos kredensial, terhubung ke sistem yang tidak diinginkan, atau mengganggu beban kerja pengguna lain. Lambda MicroVM menggunakan virtualisasi perangkat keras untuk memberikan setiap sesi lingkungan tamu yang terpisah, alih-alih menjalankan setiap tugas dalam proses aplikasi yang sama.
Namun, isolasi tingkat VM tidak menentukan apa yang diizinkan untuk dilakukan oleh agen.
Pratinjau edisi Juli 2026 “Agen AI Berkemampuan Siber: Kerentanan, Evaluasi, Pengendalian, dan Respons Pertahanan” oleh Abu Bakar Siddik (sumber), meneliti batasan antara agen AI yang mumpuni dan lingkungan yang digunakan untuk menampungnya. Penelitian ini mengidentifikasi risiko yang melibatkan paparan kredensial, akses berkelanjutan, konflik dengan batasan sandbox, dan kecepatan tindakan otomatis.
AWS juga merekomendasikan agar pengembang memperbarui kredensial dan memvalidasi koneksi jaringan saat MicroVM dilanjutkan. Lifecycle hook memungkinkan aplikasi untuk menutup koneksi sebelum penangguhan, memulihkan koneksi yang disetujui setelah dilanjutkan, dan membersihkan sumber daya sebelum penghentian.
Lambda MicroVM mengisolasi lingkungan eksekusi. Pemilik aplikasi tetap harus membatasi alat, kredensial, file, jaringan, dan layanan eksternal yang tersedia di dalamnya.
Retensi Status Mendukung Pekerjaan Agen Multi-Langkah
Retensi status memungkinkan agen untuk berhenti sementara tanpa kehilangan file, memori, dependensi yang terpasang, dan hasil sementara.
AWS membuat setiap MicroVM dari snapshot yang telah disiapkan. Lingkungan tetap aktif selama agen bekerja, ditangguhkan setelah periode idle yang dapat dikonfigurasi, dan dilanjutkan kembali ketika permintaan lain tiba.
Model ini mengurangi inisialisasi berulang, tetapi melanjutkan eksekusi tidak selalu instan dalam setiap situasi. AWS menyatakan bahwa permintaan pertama setelah penangguhan akan menunggu sementara platform memulihkan memori dan status disk serta menjalankan hook melanjutkan eksekusi aplikasi. Status tersimpan yang lebih besar dan proses melanjutkan eksekusi yang lebih kompleks dapat meningkatkan penundaan tersebut.
Penyimpanan status juga menjaga materi yang mungkin perlu diperbarui atau dihapus. Lingkungan yang ditangguhkan dapat berisi token otentikasi, sesi peramban, skrip yang dihasilkan, file sementara, atau koneksi jaringan yang sudah usang.
Oleh karena itu, serverless stateful meningkatkan kontinuitas di seluruh tindakan agen, tetapi membutuhkan lebih banyak manajemen siklus hidup dan akses daripada fungsi stateless yang sekali pakai.
Apakah MicroVM Stateful Menggantikan Hosting Tradisional?
MicroVM stateful tidak menggantikan hosting tradisional. Mereka menjalankan tugas agen sementara, sementara server cloud, hosting VPS, server khusus, dan sistem bare metal terus menjalankan layanan persisten yang terkait dengan tugas-tugas tersebut.
SpecBox Menunjukkan Mengapa Kecepatan Sandbox Itu Penting
Penelitian terbaru menunjukkan bahwa persiapan lingkungan uji (sandbox) dapat secara signifikan memengaruhi kinerja agen AI.
Makalah Juli 2026 “SpecBoxPenjadwalan Sandbox Spekulatif untuk Pelayanan Agen LLM yang Efisien"(sumber) meneliti pertimbangan antara memulai sandbox sesuai permintaan dan menjaganya tetap aktif secara permanen. Meluncurkan lingkungan hanya ketika agen memintanya dapat menghasilkan penundaan cold-start. Menjaga setiap sandbox yang memungkinkan tetap aktif mengurangi penundaan tersebut tetapi mengkonsumsi lebih banyak memori.
SpecBox Sistem memprediksi sandbox mana yang mungkin dibutuhkan agen sementara model bahasa masih menghasilkan outputnya. Sistem kemudian mulai mempersiapkan lingkungan tersebut sebelum panggilan alat selesai.
Dalam pengujian yang dilakukan oleh para penulis, SpecBox Mengurangi latensi ujung-ke-ujung P99 hingga 2.9 kali lipat dibandingkan dengan baseline sandbox sesuai permintaan. Selain itu, juga mengurangi penggunaan memori puncak sebesar 45.9% dibandingkan dengan penerapan sandbox yang dicadangkan secara permanen (tangkapan layar di bawah).
SpecBox Ini adalah prototipe penelitian dan belum menguji AWS Lambda MicroVM. Namun, hasilnya tetap menunjukkan mengapa kecepatan peluncuran, melanjutkan, dan peralihan sandbox dapat menjadi metrik hosting AI yang relevan.
Cepat GPU Hal ini tidak menjamin agen yang cepat ketika lingkungan eksekusi menunda setiap panggilan alat.
Hosting Permanen Masih Menjalankan Platform AI
Hosting tradisional menjalankan sistem yang harus tetap tersedia sebelum, selama, dan setelah setiap sesi agen sementara. Sistem yang tetap ada ini dapat mencakup aplikasi. APIsBasis data relasional, penyimpanan vektor, orkestrasi agen, antrian pesan, layanan pemantauan, gerbang model, dan pekerja yang berjalan lama. Khusus GPU Infrastruktur tersebut juga dapat menjalankan beban kerja inferensi atau pelatihan model yang berkelanjutan.
Atlantic.NetSebagai contoh, menyediakan infrastruktur untuk sisi arsitektur yang persisten ini. Layanan yang ditawarkannya saat ini meliputi server virtual cloud, server khusus, sistem bare metal, infrastruktur terkelola, dan cloud atau server khusus. GPU Hosting. Penyedia hosting saat ini mencantumkan NVIDIA Opsi L40S dan H100 NVL untuk beban kerja AI, pembelajaran mesin, inferensi, dan komputasi yang dipercepat.
Platform AI dapat menggunakan MicroVM stateful untuk mengisolasi eksekusi kode sementara saat menjalankan aplikasi, basis data, penyimpanan, dan privasi. APIs, atau GPU beban kerja pada infrastruktur persisten dari Atlantic.Net atau penyedia server lain.
Model-model hosting ini menyelesaikan bagian-bagian berbeda dari arsitektur yang sama. MicroVM mengelola eksekusi berbasis sesi, sementara VPS, dedicated server, bare metal server, dan GPU Server mendukung layanan yang harus tetap online.
HostScore Kesimpulan: Hosting AI Menjadi Lebih Dari Sekadar GPUs
Hosting AI berkembang melampaui batas GPU spesifikasi, dukungan model, dan kecepatan inferensi. Atribut-atribut tersebut masih menentukan apakah penyedia dapat menjalankan model yang menuntut. Namun, AWS Lambda MicroVM menyoroti bagian lain dari tumpukan infrastruktur: lingkungan tempat agen AI mengeksekusi tindakannya.
Saat meneliti hal terbaru kami Hosting AI Terbaik ke Panduan Hosting LLM TerbaikKami menemukan bahwa penyedia hosting terutama membedakan diri melalui ketersediaan akselerator, model yang didukung, fleksibilitas penerapan, layanan terkelola, dan kendali atas tumpukan perangkat lunak.
Pengumuman AWS menunjukkan bahwa lingkungan eksekusi mungkin menjadi poin pembeda lainnya.
Penyedia infrastruktur AI mungkin akan semakin bersaing dalam hal seberapa cepat mereka meluncurkan sandbox, seberapa efisien mereka mempertahankan status kerja, seberapa kuat mereka mengisolasi sesi, dan seberapa ketat mereka mengontrol akses jaringan dan alat.
Hal ini juga dapat mengubah satuan yang digunakan untuk mengalokasikan sumber daya hosting.
Shared hosting mengalokasikan sumber daya di sekitar sebuah akun. VPS hosting mengalokasikan server virtual. Platform kontainer mengalokasikan instance aplikasi. Fungsi serverless mengalokasikan daya komputasi di sekitar permintaan atau peristiwa.
Platform agen AI dapat mengalokasikan infrastruktur di sekitar sesi agen. Sesi agen memulai lingkungan terisolasi, menjalankan alat, mengubah file, berhenti sementara, melanjutkan, dan berakhir setelah menyelesaikan tugasnya. Pola tersebut berada di antara fungsi tanpa status yang berumur pendek dan server virtual yang berjalan secara permanen.
Kami tidak mengharapkan infrastruktur sesi agen untuk menggantikan kategori hosting yang sudah mapan. Kemungkinan besar, infrastruktur ini akan menjadi lapisan lain dalam tumpukan AI campuran.
Cloud permanen, VPS, dedicated cloud, dan server bare metal akan terus menyediakan layanan aplikasi dan data. GPU Infrastruktur akan mengeksekusi beban kerja model. MicroVM stateful dan teknologi sandbox lainnya akan menangani tindakan agen sementara.
AWS Memberi Sinyal Pergeseran yang Lebih Luas dalam Infrastruktur AI
AWS Lambda MicroVM menunjukkan bahwa agen AI menciptakan permintaan akan lingkungan eksekusi terisolasi dengan retensi status sementara dan kontrol siklus hidup yang dikelola oleh penyedia.
Layanan ini tidak menyediakan server cloud, hosting VPS, server khusus, infrastruktur bare metal, atau GPU Hosting sudah usang. Sistem-sistem tersebut akan terus menjalankan basis data, aplikasi, layanan orkestrasi, dan beban kerja model yang terkait dengan setiap sesi agen.
Perubahan yang lebih luas adalah bagaimana hosting AI dapat dievaluasi.
GPU Kapasitas dan kecepatan model akan tetap menjadi hal utama. Penyedia hosting juga dapat bersaing dalam hal seberapa cepat dan aman mereka meluncurkan, menangguhkan, memulihkan, dan mengakhiri lingkungan eksekusi terisolasi.
Itulah sinyal hosting yang lebih penting di balik AWS Lambda MicroVM.
