AWS telah memperkenalkan Lambda MicroVM, pilihan pengiraan tanpa pelayan baharu untuk menjalankan kod yang dijana pengguna dan dijana AI di dalam persekitaran maya stateful yang terpencil.
Lambda MicroVM menggunakan virtualisasi AWS Firecracker untuk menyediakan persekitaran pelaksanaan yang berasingan untuk setiap pengguna, kerja atau sesi ejen AI. Setiap MicroVM menerima HTTPS titik akhir dan boleh mengekalkan memori dan keadaan cakeranya apabila digantung.
AWS menempatkan perkhidmatan ini untuk ejen pengekodan AI, alat pembangunan interaktif, platform analisis data, pengimbas keselamatan, sistem CI/CD dan aplikasi lain yang melaksanakan kod yang tidak ditulis oleh pengendali platform.
daripada HostScoreperspektif, pengumuman ini lebih penting daripada pelancaran komputer AWS yang lain. Ia menunjukkan bahawa pengehosan AI sedang berkembang melangkaui penggunaan model dan GPU kapasiti. Apabila ejen AI mula menjalankan kod, menggunakan alatan dan mengurus fail, persekitaran tempat tindakan tersebut berlaku menjadi bahagian berasingan daripada susunan pengehosan.
Apakah yang Sebenarnya Diumumkan oleh AWS?
AWS Lambda MicroVM menyediakan persekitaran pelaksanaan terpencil yang boleh dicipta oleh pembangun di sekitar pengguna individu, pekerjaan atau sesi ejen.
Pembangun membungkus aplikasi dan Dockerfile mereka sebelum meminta Lambda untuk membina imej MicroVM. AWS memulakan aplikasi dan menangkap snapshot persekitaran yang disediakan. MicroVM baharu kemudian dilancarkan daripada snapshot tersebut dan bukannya mengulangi proses persediaan penuh.
Setiap MicroVM menerima HTTPS titik akhir. AWS menyokong sambungan HTTP/2, gRPC dan WebSocket, membolehkan persekitaran mengehos alatan pembangunan interaktif, perkhidmatan pelaksanaan kod dan aplikasi lain yang memerlukan komunikasi berterusan.
MicroVM juga boleh digantung sementara melahu. AWS mengekalkan keadaan memori dan cakeranya dan memulihkannya apabila trafik kembali atau aplikasi meminta resume. Kitaran hayat maksimum yang dikonfigurasikan untuk MicroVM, termasuk masa berjalan dan digantung, ialah lapan jam.
AWS mengumumkan Lambda MicroVM pada 22 Jun 2026 dan menerbitkan catatan pelancaran teknikal yang lebih terperinci pada 10 Julai. Keluaran awal tersedia di Virginia Utara, Ohio, Oregon, Tokyo dan Ireland.
Baca Pengumuman pelancaran AWS dan Siaran pelancaran teknikal AWS.
Oleh itu, Lambda MicroVM meluaskan Lambda melangkaui pelaksanaan berasaskan peristiwa yang singkat. Ia menyediakan persekitaran yang tahan lebih lama yang mengekalkan keadaan kerja sementara AWS mengurus proses virtualisasi, rangkaian, penggantungan dan penamatan.
Mengapakah Ejen AI Memerlukan Persekitaran Pelaksanaan Berstatus?
Ejen AI memerlukan persekitaran pelaksanaan stateful kerana tugas mereka mungkin melibatkan beberapa tindakan berkaitan yang dilakukan sepanjang sesi lanjutan.
Ejen boleh menjana skrip, memasang pakej, memproses fail, menjalankan pelayar, memanggil API, memeriksa hasilnya dan kemudian menukar tindakan seterusnya. Fail, kebergantungan dan keadaan aplikasi yang dicipta semasa peringkat awal mungkin masih diperlukan kemudian.
Membina semula persekitaran selepas setiap tindakan akan menambah kelewatan dan memaksa sistem untuk mencipta semula keadaan kerja ejen berulang kali.
Kod yang Dihasilkan AI Memerlukan Sempadan Pengasingan
Kod yang dijana AI memerlukan sempadan pengasingan kerana platform tidak boleh menganggap bahawa setiap arahan akan bertindak seperti yang dimaksudkan.
Kod yang salah atau dimanipulasi boleh mengakses fail sensitif, mendedahkan kelayakan, menyambung ke sistem yang tidak diingini atau mengganggu beban kerja pengguna lain. Lambda MicroVM menggunakan virtualisasi perkakasan untuk memberikan setiap sesi persekitaran tetamu yang berasingan dan bukannya menjalankan setiap tugas dalam proses aplikasi yang sama.
Walau bagaimanapun, pengasingan peringkat VM tidak menentukan apa yang dibenarkan dilakukan oleh ejen.
Pracetak ulasan Julai 2026 “Ejen AI Berkemampuan Siber: Kerentanan, Pembendungan Penilaian dan Tindak Balas Defensif"oleh Abu Bakar Siddik (sumber), mengkaji sempadan antara ejen AI yang berkebolehan dan persekitaran yang digunakan untuk membendungnya. Ia mengenal pasti risiko yang melibatkan pendedahan kelayakan, akses berterusan, konflik dengan sekatan kotak pasir dan kelajuan tindakan automatik.
AWS juga mengesyorkan agar pembangun menyegarkan kelayakan dan mengesahkan sambungan rangkaian apabila MicroVM disambung semula. Cangkuk kitaran hayat membolehkan aplikasi menutup sambungan sebelum penggantungan, memulihkan sambungan yang diluluskan selepas disambung semula dan membersihkan sumber sebelum penamatan.
Lambda MicroVM mengasingkan persekitaran pelaksanaan. Pemilik aplikasi masih mesti menyekat alatan, kelayakan, fail, rangkaian dan perkhidmatan luaran yang tersedia di dalamnya.
Pengekalan Negeri Menyokong Kerja Ejen Berbilang Langkah
Pengekalan keadaan membolehkan ejen menjeda tanpa kehilangan fail, memori, kebergantungan yang dipasang dan hasil perantaraannya.
AWS mencipta setiap MicroVM daripada snapshot yang disediakan. Persekitaran kekal aktif semasa ejen berfungsi, digantung selepas tempoh melahu yang boleh dikonfigurasikan dan disambung semula apabila permintaan lain tiba.
Model ini mengurangkan permulaan berulang, tetapi penyambungan semula tidak serta-merta dalam setiap situasi. AWS menyatakan bahawa permintaan pertama selepas penggantungan menunggu sementara platform memulihkan memori dan keadaan cakera dan menjalankan cangkuk resume aplikasi. Keadaan simpanan yang lebih besar dan proses resume yang lebih kompleks mungkin meningkatkan kelewatan tersebut.
Pengekalan keadaan juga mengekalkan bahan yang mungkin perlu disegarkan semula atau dialih keluar. Persekitaran yang digantung mungkin mengandungi token pengesahan, sesi pelayar, skrip yang dijana, fail sementara atau sambungan rangkaian yang lapuk.
Oleh itu, stateful serverless meningkatkan kesinambungan merentasi tindakan ejen, tetapi ia memerlukan lebih banyak kitaran hayat dan pengurusan akses daripada fungsi stateless pakai buang.
Adakah MicroVM Stateful Menggantikan Hosting Tradisional?
MicroVM Stateful tidak menggantikan hosting tradisional. Ia melaksanakan tugas ejen sementara, manakala pelayan awan, hosting VPS, pelayan khusus dan sistem bare metal terus menjalankan perkhidmatan berterusan yang mengelilingi tugas tersebut.
SpecBox Menunjukkan Mengapa Kelajuan Kotak Pasir Penting
Kajian terbaru menunjukkan bahawa penyediaan kotak pasir boleh menjejaskan prestasi ejen AI secara material.
Kertas kerja Julai 2026 “SpecBoxPenjadualan Kotak Pasir Spekulatif untuk Perkhidmatan Ejen LLM yang Cekap"(sumber) mengkaji keseimbangan antara memulakan kotak pasir atas permintaan dan memastikannya kekal aktif. Melancarkan persekitaran hanya apabila ejen memintanya boleh menghasilkan kelewatan permulaan sejuk. Mengekalkan setiap kotak pasir yang mungkin aktif mengurangkan kelewatan tersebut tetapi menggunakan lebih banyak memori.
SpecBox meramalkan kotak pasir yang mungkin diperlukan oleh ejen semasa model bahasa masih menjana outputnya. Sistem kemudiannya mula menyediakan persekitaran tersebut sebelum panggilan alat selesai.
Dalam ujian penulis, SpecBox mengurangkan latensi hujung ke hujung P99 sehingga 2.9 kali ganda berbanding garis dasar kotak pasir atas permintaan. Ia juga mengurangkan penggunaan memori puncak sebanyak 45.9% berbanding penggunaan kotak pasir yang ditempah secara kekal (tangkapan skrin di bawah).
SpecBox merupakan prototaip penyelidikan dan tidak menguji AWS Lambda MicroVM. Keputusannya masih menunjukkan mengapa pelancaran kotak pasir, penyambungan semula dan kelajuan pensuisan mungkin menjadi metrik pengehosan AI yang relevan.
Sepantas GPU tidak menjamin ejen yang pantas apabila persekitaran pelaksanaan menangguhkan setiap panggilan alat.
Hosting Berterusan Masih Menjalankan Platform AI
Pengehosan tradisional menjalankan sistem yang mesti kekal tersedia sebelum, semasa dan selepas setiap sesi ejen sementara. Sistem berterusan ini mungkin termasuk aplikasi APIs, pangkalan data hubungan, storan vektor, orkestrasi ejen, barisan mesej, perkhidmatan pemantauan, gerbang model dan pekerja yang telah lama beroperasi. Didedikasikan GPU infrastruktur juga mungkin menjalankan inferens model atau beban kerja latihan yang berterusan.
Atlantic.Net, sebagai contoh, menyediakan infrastruktur untuk bahagian seni bina yang berterusan ini. Perkhidmatan semasanya termasuk pelayan maya awan, pelayan khusus, sistem logam terdedah, infrastruktur terurus dan awan atau khusus GPU hosting. Penyedia hosting kini menyenaraikan NVIDIA Pilihan L40S dan H100 NVL untuk AI, pembelajaran mesin, inferens dan beban kerja pengkomputeran dipercepatkan.
Platform AI boleh menggunakan MicroVM stateful untuk mengasingkan pelaksanaan kod sementara semasa menjalankan aplikasi, pangkalan data, storan, dan APIs, Atau GPU beban kerja pada infrastruktur berterusan daripada Atlantic.Net atau pembekal pelayan lain.
Model pengehosan ini menyelesaikan bahagian berbeza dalam seni bina yang sama. MicroVM mengurus pelaksanaan berasaskan sesi, manakala VPS, dedicated, bare metal dan GPU pelayan menyokong perkhidmatan yang mesti kekal dalam talian.
HostScore Ambil: Pengehosan AI Menjadi Lebih Daripada GPUs
Pengehosan AI berkembang melangkaui GPU spesifikasi, sokongan model dan kelajuan inferens. Atribut tersebut masih menentukan sama ada penyedia boleh menjalankan model yang mencabar. Walau bagaimanapun, AWS Lambda MicroVM mengetengahkan bahagian lain daripada susunan infrastruktur: persekitaran tempat ejen AI melaksanakan tindakannya.
Semasa menyelidik terkini kami Pengehosan AI Terbaik dan Panduan Pengehosan LLM Terbaik, kami mendapati bahawa penyedia hosting membezakan diri mereka terutamanya melalui ketersediaan pemecut, model yang disokong, fleksibiliti penggunaan, perkhidmatan terurus dan kawalan ke atas susunan perisian.
Pengumuman AWS menunjukkan bahawa persekitaran pelaksanaan mungkin menjadi satu lagi titik pembezaan.
Penyedia infrastruktur AI mungkin semakin bersaing tentang seberapa cepat mereka melancarkan sandbox, seberapa cekap mereka mengekalkan keadaan kerja, seberapa kuat mereka mengasingkan sesi dan seberapa ketat mereka mengawal akses rangkaian dan alat.
Ini juga boleh mengubah unit di mana sumber hosting diperuntukkan.
Pengehosan kongsi memperuntukkan sumber di sekitar akaun. Pengehosan VPS memperuntukkan pelayan maya. Platform kontena memperuntukkan tika aplikasi. Fungsi tanpa pelayan memperuntukkan pengiraan di sekitar permintaan atau peristiwa.
Platform ejen AI mungkin memperuntukkan infrastruktur di sekitar sesi ejen. Sesi ejen memulakan persekitaran terpencil, menjalankan alatan, menukar fail, menjeda, menyambung semula dan tamat selepas menyelesaikan tugasnya. Corak tersebut terletak di antara fungsi tanpa status yang berjangka pendek dan pelayan maya yang menjalankannya secara kekal.
Kami tidak menjangkakan infrastruktur sesi ejen akan menggantikan kategori pengehosan yang sedia ada. Ia lebih berkemungkinan menjadi lapisan lain dalam susunan AI campuran.
Awan berterusan, VPS, khusus dan pelayan logam kosong akan terus menjadi hos kepada perkhidmatan aplikasi dan data. GPU infrastruktur akan melaksanakan beban kerja model. MicroVM Stateful dan teknologi sandbox lain akan mengendalikan tindakan ejen sementara.
AWS Memberi Isyarat Peralihan yang Lebih Luas dalam Infrastruktur AI
AWS Lambda MicroVM menunjukkan bahawa ejen AI sedang mewujudkan permintaan untuk persekitaran pelaksanaan terpencil dengan pengekalan keadaan sementara dan kawalan kitaran hayat yang diuruskan oleh penyedia.
Perkhidmatan ini tidak menyediakan pelayan awan, pengehosan VPS, pelayan khusus, infrastruktur bare metal atau GPU hosting usang. Sistem tersebut akan terus menjalankan pangkalan data, aplikasi, perkhidmatan orkestrasi dan beban kerja model yang mengelilingi setiap sesi ejen.
Perubahan yang lebih luas adalah bagaimana pengehosan AI boleh dinilai.
GPU Kapasiti dan kelajuan model akan kekal penting. Penyedia hosting juga mungkin bersaing tentang seberapa cepat dan selamat mereka melancarkan, menggantung, memulihkan dan menamatkan persekitaran pelaksanaan terpencil.
Itulah isyarat pengehosan yang lebih penting di sebalik AWS Lambda MicroVM.
