Mengapa Kelompok Video AI Saya Berada dalam Giliran dan Bukannya Dijana Serentak?

Tugas penjanaan video AI secara berkelompok dimasukkan ke dalam giliran kerana had keserentakan mengehadkan jumlah tugas yang boleh berjalan serentak. Ketahui cara pengehadan ini berfungsi dan cara menjadualkan kelompok dengan ruang penampan yang mencukupi.

GGoFaceless TeamBacaan 8 minit
Illustration of video tiles queued before a processor that runs only five at a time, representing AI video batch concurrency limits

Penjanaan video AI secara berkelompok dimasukkan ke dalam giliran kerana penghantaran tugas dan pelaksanaan tugas ialah dua langkah berasingan: penyedia anda menerima seluruh kelompok sekali gus, tetapi had keserentakan mengehadkan jumlah tugas yang boleh dijana pada masa yang sama. Permintaan yang melebihi had tersebut menerima status THROTTLED dan menunggu giliran. Oleh itu, kelompok 50 video disiapkan secara berperingkat, bukan semuanya serentak.

Inti pati utama:

  • Tier 3 API Runway membenarkan lima tugas serentak dan had perbelanjaan bulanan sebanyak US$2,000. Tahap ini dicapai sebaik sahaja pembelian bernilai US$100 dibuat, menurut dokumentasi tahap penggunaannya.
  • Permintaan yang melebihi had keserentakan yang berkenaan menerima status THROTTLED dan menunggu untuk diproses, bukannya gagal.
  • Jumlah tugas yang benar-benar berjalan serentak kadangkala boleh lebih rendah daripada maksimum yang disenaraikan apabila beban sistem tinggi. Jadi, had maksimum yang didokumenkan bukan jaminan kadar pemprosesan.
  • Kredit API tambahan meningkatkan kapasiti perbelanjaan anda, tetapi tidak menaikkan had keserentakan yang menentukan seberapa cepat semua tugas dalam kelompok dapat diselesaikan.

Apakah perbezaan antara penghantaran berkelompok dengan penjanaan serentak?

Penghantaran berkelompok ialah tindakan menghantar banyak permintaan penjanaan melalui satu panggilan atau gelung skrip; penjanaan serentak pula merujuk kepada jumlah permintaan tersebut yang diproses oleh penyedia pada masa yang sama. Kedua-duanya berasingan. API Runway menerima seluruh kelompok anda serta-merta, kemudian hanya membenarkan tugas mula diproses sehingga mencapai had keserentakan tahap anda. Pada Tier 3, hadnya ialah lima tugas, dengan had perbelanjaan bulanan sebanyak US$2,000. Tahap ini dicapai sebaik sahaja pembelian bernilai US$100 dibuat, menurut dokumentasi tahap penggunaan Runway. Maka, bagi kelompok 40 video yang dihantar pada pukul 9:00, lima video sedang dijana dan 35 lagi menunggu, bukannya kesemua 40 video dijana serentak.

Perbezaan ini penting kerana di sinilah kebanyakan pengiraan tarikh siap tersasar. Pencipta mengukur masa penjanaan satu video, tidak mengambil kira jumlah video, lalu menganggap seluruh kelompok akan siap dalam tempoh yang lebih kurang sama. Cara yang betul untuk memahaminya ialah sebagai satu giliran: jumlah masa dianggarkan dengan membahagikan saiz kelompok dengan jumlah tugas serentak, kemudian mendarabkannya dengan purata masa setiap tugas, serta mengambil kira variasi masa.

Ilustrasi fail video beratur di pintu sempit yang hanya membenarkan beberapa fail masuk pada satu-satu masa, menggambarkan had keserentakan
Ilustrasi fail video beratur di pintu sempit yang hanya membenarkan beberapa fail masuk pada satu-satu masa, menggambarkan had keserentakan

Apakah maksud THROTTLED dalam API video AI?

THROTTLED ialah status giliran, bukan ralat. Dokumentasi Runway menyatakan bahawa permintaan yang melebihi had keserentakan yang berkenaan menerima status THROTTLED dan menunggu untuk diproses, seperti yang diterangkan pada halaman tahap penggunaannya. Tugas yang menerima status ini telah diterima, ditahan sementara, dan akan mula dijana sebaik sahaja satu slot serentak tersedia. Kelompok anda tidak bermasalah; tugas-tugasnya sedang menunggu giliran.

Implikasi praktikalnya: jangan cuba semula atau hantar semula tugas berstatus THROTTLED. Penghantaran semula menghasilkan permintaan pendua dan boleh meletakkan salinan baharu itu di hujung giliran, sedangkan permintaan asal masih mengekalkan tempatnya. Semak status secara berkala, tunggu, dan biarkan tugas dalam giliran diselesaikan.

Bolehkah saya masih mempunyai baki kapasiti perbelanjaan tetapi tetap mencapai had keserentakan?

Ya, kerana had perbelanjaan dan had keserentakan ialah kekangan berasingan yang mengehadkan perkara berbeza. Tier 3 Runway menggabungkan had perbelanjaan bulanan sebanyak US$2,000 dengan had keserentakan lima tugas, menurut dokumentasi tahap penggunaannya. Had perbelanjaan menentukan jumlah yang boleh anda belanjakan dalam sebulan; had keserentakan menentukan jumlah tugas yang berjalan pada satu-satu masa. Anda boleh mempunyai baki kapasiti perbelanjaan sebanyak US$1,900, tetapi masih melihat tugas keenam kekal berstatus THROTTLED sementara lima tugas lain berjalan.

Runway API Tier 3: two separate ceilings
Concurrent tasks5Monthly spending cap (US$)2,000Spend to reach tier (US$)100

Concurrency and budget are independent limits; headroom in one does not lift the other.

Runway API Tier 3: two separate ceilings
Concurrent tasks5
Monthly spending cap (US$)2,000
Spend to reach tier (US$)100
Source: Runway API usage tiers

Adakah membeli lebih banyak kredit API sentiasa mempercepat penyiapan kelompok?

Tidak. Pembelian kredit meningkatkan kapasiti perbelanjaan, dan pada sesetengah tahap, ia membuka akses kepada tahap lebih tinggi dengan had keserentakan yang lebih besar. Namun, kredit semata-mata tidak menambah kapasiti pemprosesan serentak. Runway menyatakan bahawa jumlah tugas yang benar-benar berjalan serentak kadangkala boleh lebih rendah daripada maksimum yang disenaraikan disebabkan beban sistem, dan pengiraan masa pemprosesan hipotesisnya bukan jaminan tempoh penyiapan yang diukur, menurut halaman tahap penggunaannya. Walaupun anda sudah membayar untuk sesuatu tahap, kelompok masih boleh diproses lebih perlahan daripada yang dibayangkan oleh had maksimum dalam dokumentasi.

Anggap jumlah tugas serentak itu sebagai keadaan terbaik, bukan tahap perkhidmatan yang dijamin. Jika tarikh akhir pelanggan bergantung pada keupayaan sistem mengekalkan jumlah maksimum yang disenaraikan selama enam jam berturut-turut, rancangan itu tidak mempunyai ruang untuk menghadapi kelembapan yang telah diperingatkan oleh penyedia sendiri.

Bagaimanakah saya patut menganggarkan masa siap kelompok apabila masa pemprosesan berubah-ubah?

Buat anggaran menggunakan model giliran dan tambahkan ruang penampan. Formulanya: jangkaan masa kelompok bersamaan dengan (jumlah video dibahagikan dengan jumlah tugas serentak) didarab dengan purata masa setiap video yang telah anda ukur, kemudian didarab dengan faktor keselamatan 1.5 hingga 2 untuk menampung kelembapan akibat beban sistem dan penjanaan yang gagal.

Contoh pengiraan: 30 Shorts, lima slot serentak, dan purata masa yang diukur ialah empat minit bagi setiap video. Anggaran asasnya ialah (30 / 5) x 4 = 24 minit. Anggaran untuk perancangan ialah 24 x 1.5 = 36 minit, dan anda menjanjikan penyerahan selepas 48 minit. Jika kelompok siap dalam 26 minit, tiada apa yang rugi; jika beban sistem mengurangkan kapasiti serentak sebenar kepada separuh, anda masih boleh menyerahkannya tepat pada masanya. Pencipta yang merekodkan masa setiap video sebagai sebahagian daripada rekod pengeluaran mereka boleh memperhalus purata itu bagi setiap kelompok, bukannya sekadar meneka.

Ilustrasi papan klip, jam randik dan carta kecil yang menggambarkan pengukuran kelompok percubaan sebelum penjadualan
Ilustrasi papan klip, jam randik dan carta kecil yang menggambarkan pengukuran kelompok percubaan sebelum penjadualan

Apakah yang patut saya ukur dalam ujian kecil sebelum menjadualkan kelompok besar?

Jalankan kelompok percubaan yang mengandungi lima hingga sepuluh video dan rekodkan empat angka: tempoh menunggu dari penghantaran hingga pemprosesan bermula, masa penjanaan setiap video, jumlah masa sebenar kelompok dari mula hingga selesai, serta bilangan kegagalan atau percubaan semula. Angka-angka ini memberikan purata dan variasi yang diukur, sekali gus menggantikan contoh masa hipotesis penyedia dengan data anda sendiri. Adobe memberikan nasihat yang sama untuk aliran kerja Firefly Graph yang boleh diulang: uji dengan input minimum sebelum meningkatkan skala, kerana caj dan tingkah laku sistem boleh berbeza mengikut pelaksanaan.

Tindakan: hantar kelompok percubaan pada waktu yang sama seperti yang dirancang untuk kelompok sebenar, kerana beban sistem berubah-ubah mengikut waktu.

Keperluan: log cap masa bagi setiap tugas, yang boleh direkodkan menggunakan skrip atau hamparan.

Cara mengetahui sama ada ia berjaya: masa kelompok yang anda ramalkan berada dalam julat faktor keselamatan pada pelaksanaan penuh yang pertama.

Lapisan orkestrasi boleh membantu menjadikan proses ini boleh diulang secara konsisten. GoFaceless (produk kami sendiri) menukar topik atau ringkasan arahan menjadi video pendek yang siap, daripada skrip hingga sari kata, dalam satu proses. Ini sesuai untuk menyediakan tugas yang seragam dan boleh diulang; penyedia penjanaan yang digunakan di belakangnya masih boleh mengenakan giliran dan had keserentakan, jadi amalan pengukuran di atas tetap terpakai. Jika anda juga sedang memutuskan cara tugas patut dihantar, pertimbangan dalam API suara latar AI berbanding aplikasi web juga sangat relevan untuk kelompok video.

Satu peraturan utama: jadualkan berdasarkan giliran, bukan had maksimum

Had keserentakan yang didokumenkan ialah had maksimum bagi kerja yang boleh berjalan serentak, bukannya janji kadar pemprosesan. Ukur masa penyiapan anda sendiri menggunakan kelompok percubaan, modelkan kelompok sebagai satu giliran, dan darabkan anggaran dengan faktor keselamatan sebelum memberikan komitmen tentang masa penyerahan. Pencipta yang berbuat demikian jarang terlepas tarikh akhir; pencipta yang menganggap masa satu video sudah memadai untuk seluruh kelompok pula kerap gagal menepatinya.

Jika anda mahu urusan persediaan dikendalikan untuk anda, GoFaceless menukar topik menjadi video tanpa wajah yang lengkap dengan skrip, suara latar, visual dan sari kata, supaya tugas dalam kelompok anda bermula dalam format yang seragam. Lihat pelan dan harga untuk memilih tahap yang sesuai dengan jumlah video dalam kelompok anda.

Sources & further reading

Keep reading

Bersedia untuk mencipta video pertama anda?

See examples made with GoFaceless. Create your own through a card-required one-video trial; after the trial, your selected plan begins unless you cancel.