Blog'a Geri Dön

Gemini Omni 1.1 Flash'te Plan Sürekliliği: Hangi Uç Nokta Hangi Kaymayı Düzeltiyor

E2X Team··15 dk okuma
gemini-omniprompt-engineeringvideo-generationcontinuitygoogle

Google bu model hakkında aynı lansmanda iki cümle yayımladı ve ikisi zıt yönleri işaret ediyor.

Birincisi duyuruda: Omni bir klibi sürdürürken artık "önceki bağlamın 10 saniyesine kadarını" okuyor — "yalnızca son saniyeye başvuran önceki modellerden bir sıçrama." On kat hafıza. İkincisi DeepMind'ın model kartında, sınırlamalar başlığı altında: "düzenlemeler boyunca tam tutarlılığı korumak, karmaşık hareket içeren sahneler üretmek ya da kusursuz doğrulukta metin render etmek hâlâ bir zorluk olmaya devam ediyor."

İkisi de doğru ve birlikte işin kendisini tarif ediyorlar. Buradaki süreklilik açtığınız bir anahtar değil, girdide verilen bir dizi karar: hangi uç noktayı çağırdığınız, bir görselle neyi sabitlediğiniz, hangi cümleleri kelimesi kelimesine tekrarladığınız. Dört parçalı bir sekansın maliyeti ayrı bir tartışma ve onu burada yeniden yapmayacağız.

Bir devamlılık sorumlusunun mantar panosu; aynı oyuncunun aynı yeşil iş ceketiyle, hafifçe farklı açılardan çekilmiş anlık fotoğraflarıyla sık sık iğnelenmiş

Dört uç nokta, sabit tutulan dört farklı şey

E2X'te gemini-omni-1.1-flash tek bir fiyata dört yetenek olarak geliyor — hangisini çağırırsanız çağırın 4K'da saniyesi $0.18. Bu, onlar hakkında düşünme biçiminizi değiştiriyor: aralarında seçim yapmak asla bir bütçe kararı değil, yalnızca bir zanaat kararı.

Her birinin sabitlediği şey:

YetenekSabit tuttuğuTutmayacağı
text-to-videoKelimelerinizden başka hiçbir şeyYazmadığınız her şey
image-to-videoAçılış karesini, birebirKabaca ilk saniyeden sonraki her şey
start-end-frame-to-videoÇekimin iki ucunu birdenAradaki yol
reference-to-videoÖzne kimliğini ve görünümünüKadrajı, sahnelemeyi, kamera konumunu

Bunu bir özellik listesi değil, bir tanı aracı olarak okuyun: gördüğünüz kaymanın adını koyun, sonra onu ele alan uç noktayı seçin.

Çekim yanlış başlıyor. İkinci açınız farklı bir odada açılıyor ya da karakter zaten hareketin ortasındayken içeri giriyor. Ona bir kare verin: image-to-video bir kare alıp oradan başlıyor, dolayısıyla ikinci plan birinci planın son karesinden alınmış bir görüntüyle ya da daha önce onayladığınız bir kare render'ıyla açılabilir. Modelin sunduğu en ucuz süreklilik çözümü bu.

Çekim yanlış bitiyor. Hareket doğru, iniş değil — el kapıya uzanıyor ve kapı başka bir yerde. Bu start-end-frame-to-video'nun işi. start_frame_url ve end_frame_url verirsiniz, model aradaki aralığı doldurur ve bir sonraki kesmenizin eşleşmesi gereken kare, size verilen değil sizin seçtiğiniz kare olur.

Kişi değişiyor. Kadraj değil, sahneleme değil — yüz, saç, ceket. Bu reference-to-video'nun işi; dördü içinde amacı kimlik olan tek yetenek. image_urls dizimiz en az bir, en fazla yedi görsel alıyor; Runware da aynı tavanı belgeliyor — "en fazla 7 görsel" — Google'ın referansı ise bir sayı belirtmiyor, gerçi işlenmiş örneği altı ile çalışıyor. Yediyi yayımlanmış bir garanti değil, üçüncü taraf mutabakatı olarak görün.

Video referansları daha sert biçimde sınırlandırılmış ve Google bu rakamları yayımlıyor: "Video referansları en fazla 3 klibi, her biri 3 saniyeye kadar destekler", ayrıca "Birden fazla video arasında referans verme veya akıl yürütme desteklenmiyor" — üç, doldurmayı hedeflediğiniz değil, yaklaştığınız bir tavan. Bir referans görselinde neyin bulunması gerektiği konusunda Runware'in dokümantasyonu Google'ınkinden daha spesifik ve temiz bir orta plan portre öneriyor — bel üstü kadraj, nötr arka plan, ayırt edici detaylar görünür — çünkü "Boy planları, kalabalık arka planlar ya da aşırı açılar, modelin karaktere dair okumasını sulandırıyor."

Seed neyi sabitliyor, neyi sabitlemiyor

Bu uç noktada sampler yok. Google'ın dokümantasyonu bu konuda düz: "Sistem talimatları, temperature, top_p, stop dizileri ve negatif prompt'lar desteklenmiyor." Örnekleme yüzeyi olmaması, tek bir tekrarlanabilirlik kontrolü demek ve o da seed — dört yetenek şemamızın hepsinin kabul ettiği opsiyonel bir tam sayı.

O alanın nereden geldiğini bilmeye değer, çünkü Google'ın referansında hiç yok. Runware'in 1.1 dokümantasyonu bir seed taşıyor ve siz vermediğinizde "rastgele üretilen seed'i" döndürdüğünü anlatıyor; biz alanı her yetenekte sunuyoruz; Google ise ilk bakacağınız sayfada hiçbir şey söylemiyor. Kullanın, ama onu bir taahhüt gibi görmeyin.

İnsanları yakalayan kısım: seed örneği sabitliyor, özneyi değil. Aynı seed ve bayt bayt aynı prompt bir tekrardır. Aynı seed ve düzenlenmiş tek bir kelime yeni bir çekiliştir — dürtme değil, yeniden örnekleme. Bu, bir temperature düğmesinin tam tersi ve seed'i sabit tutup prompt'u ayarlama şeklindeki görsel modeli alışkanlığının buraya taşınmadığı anlamına geliyor.

Geriye çok planlı bir işte seed'in tam olarak iki şeye yaradığı, üçüncüsüne yaramadığı bir tablo kalıyor:

  • Saklanan bir çekimi daha üst bir katmanda yeniden render etmek. Taslak alın, çekimi bulun, sonra aynı prompt ve seed'i teslim çözünürlüğünüzde çalıştırın. Hiçbir şey değişmedi, dolayısıyla hiçbir şey yeniden örneklenmiyor.
  • Tek bir değişkeni yalıtmak. Işık cümlesini değiştirin, seed'i sabit tutun; oynayan şey o cümleye atfedilebilir. Kontrollü bir deney değil, ama kör yeniden örneklemeden hızlı.
  • Bir yüzü iki farklı çekim arasında taşımak. Taşımaz. İki prompt iki prompt'tur; seed karakterinizi hatırlamıyor. Çekimler arası kimlik bir tam sayıdan değil, referans görsellerinden gelir.

Bir çekim tuttuğu anda seed'i prompt'un yanına yazın. Onu sonradan kurtarabileceğiniz bir geçmiş kaydı yok.

Kilit blokları: aynı paragraf, kelimesi kelimesine tekrarlanmış

Bir text-to-video çağrısının önceki çağrınıza dair hafızası olmadığı için, sahadaki en yaygın süreklilik talimatı aslında kimseye hitap etmiyor: "Her şeyi önceki planla tutarlı tut" ifadesi, modelin hiç görmediği bir planı işaret ediyor.

Çözüm gösterişsiz. Görünüm ve mekân olgularından oluşan tek bir blok yazın ve onu sekanstaki her prompt'a değiştirmeden yapıştırın — başka sözcüklerle değil, sıkılaştırmadan, yeniden sıralamadan. Yeni bir tarif, yeni bir çekiliştir.

İki planlık bir sekansın ikinci planının iki versiyonu. Önce kayan hali:

Continuing the same scene, a tighter shot of the same man at his
workbench in the garage. Cinematic lighting, moody atmosphere,
highly detailed, professional colour grading. He lifts the machined
part into the light and turns it slowly while his colleague watches
from the right. Keep the characters and the location consistent
with the previous shot. Single continuous shot, no scene cuts.
Sound design: workshop room tone and quiet handling noise.

O prompt'un sabitlemeden bıraktıklarını sayın, değişmekte serbest olan şeylerin listesini elde edersiniz: ceketin tam yeşil tonu, manşetin yıpranmış olup olmadığı, bir bandana bulunup bulunmadığı, delikli panoda ne asılı olduğu, ışığın nereden geldiği. Hiçbiri yazılmadı, dolayısıyla hiçbiri size borçlu değil — başka bir öğleden sonranın yetkin bir çekimi, sorulan soruya doğru bir yanıttır.

Yeniden yazım aksiyonu koruyor ve kelimelerini sıfatlara değil olgulara harcıyor:

In a single continuous shot, no scene cuts. Medium two-shot in a
cluttered garage workshop, 40mm lens at f/4, both subjects sharp.

[Lock - repeat verbatim in every shot of this sequence]
Man: mid-forties, close-cropped grey hair parted on his left, faded
green canvas work jacket, frayed left cuff, oil stain on the right
pocket, steel watch on his left wrist. Woman: thirties, dark hair
tied back, grey knit sweater, red bandana at her neck, clipboard in
her right hand. Set: steel workbench, pegboard behind with three
wrenches hanging left of centre, one overhead fluorescent tube,
cold white key from above, no window light.

Action: he lifts a machined aluminium part into the light and turns
it once; she does not move. Sound design: fluorescent hum, the part
clicking down onto steel. No dialogue.

Köşeli parantezli etiket model için değil sizin için: kopyalayacağınız bölgeyi işaretliyor. Blokta yer hak eden şey, asimetrik ya da hasarlı olan her şey: saçın hangi taraftan ayrıldığı, hangi manşetin yıprandığı, saatin hangi bilekte olduğu, panoyu hangi elin tuttuğu. Kaymanın saklandığı yer simetridir, çünkü aynalanmış simetrik bir detay tek başına doğru görünür ve bir kesmede yanlış görünür. Renk adları oraya aittir; ışık da öyle: yön, sertlik ve istemediğiniz bir kaynağın açıkça yokluğu.

Çıplak betona dayalı bir askıda üç adet birbirinin aynı, solmuş yeşil kanvas iş ceketi; her birinde aynı yıpranmış sol manşet ve aynı yağ lekesi

Bloğun dışında tutulacak bir şey: basılı etiketler, tabelalar, aksesuarlar üzerindeki okunabilir metin. Model kartı doğru metni açık problemler arasında sayıyor; dolayısıyla iki planda aynı okunması gereken bir aksesuar, elinizdeki en güvenilmez çıpadır. Bunun yerine biçime ve lekeye tutunun.

Uzatma ileri gidiyor, o yüzden geriye doğru planlayın

Google'ın ifadesi yer bırakmıyor: "Video uzatma yalnızca bir videonun sonuna eklemekle sınırlıdır; bir klibin başına eklemek ya da ortasını uzatmak desteklenmiyor." Devamlar on saniyelik adımlarla "toplam 40 sn uzunluğa kadar" ilerliyor ve yüklenen bir klibin uzatılabilmesi için "10 saniye veya daha kısa" olması gerekiyor.

Planlama sonucu göründüğünden büyük: bir zincirin geri alma tuşu yok. Birinci plan, ona eklenen her şeyin paletini, ışığını ve kamera dilbilgisini belirliyor; dolayısıyla oradaki bir hata, yeniden render edeceğiniz bir plan değil, yeniden kuracağınız bir sekans demek. Ve en riskli plan — zor jest, çetin yansıma — genellikle tam olarak ulaşamayacağınız yerde, ortada oturuyor.

Yani ilk çağrıdan önce verilecek yapısal bir seçim var:

  • Tek bir uzatma zinciri, size gerçek bir kareden kareye devam ve modelin fiilen okuduğu on saniyelik bağlam kazandırıyor. Karşılığında kuyruktan başka hiçbir şeyi düzeltme yeteneğinizi alıyor.
  • Kurgu programında birleştirilen bağımsız üretimler, her biri bir referans görseli ya da bir başlangıç karesiyle çıpalanmış halde, size kusursuz birleşmeyi kaybettiriyor ama üçüncü planı otuz kez yeniden çevirirken birinci ve ikinci plana dokunmama olanağı veriyor.

Görünür biçimde kesilmemesi gereken bir aksiyon için uzatın. Zaten içinde kesmeler olan bir sekans için ayrı ayrı üretin — ki bu aynı zamanda bir müşteri notundan sağ çıkan seçenek ve çoğu sekans bir tane alıyor.

O klip, birleştirilmiş iki plan değil, yeniden kadrajlama taşıyan tek bir üretim:

A two-shot in a cluttered garage workshop, 40mm lens at f/4, both
subjects sharp. A man in a faded green work jacket with a torn left
cuff stands at the bench; a woman in a grey knit sweater with a red
bandana tied at her neck stands to his right holding a clipboard.
The camera holds the wide two-shot for four seconds while he lifts
a machined aluminium part into the light and turns it. Then the
camera pushes in and reframes to a tighter two-shot from the same
axis - same jacket, same torn cuff, same bandana, same bench clutter
behind them, same overhead fluorescent light. No cut, no wardrobe
change, no relight. Sound: fluorescent hum and the part clicking
down onto steel.

Kesme noktaları aynı zamanda ses kesmeleridir

Ses görüntüyle birlikte üretiliyor ve onu reddedecek bir anahtar yok. Bu normalde ses tasarımı başlığına girer; süreklilik açısından ise bir kısıt, çünkü kesmeniz, bestelemediğiniz ve kaynağında kırpamayacağınız bir ses bandının ortasına düşüyor.

Bundan iki kural çıkıyor. Ortamı bir kesmenin iki yakasında birebir aynı kelimelerle tarif edin; kostüm bloğunu tekrarladığınız gibi — iki prompt'ta da "fluorescent hum", biri "fluorescent hum" diğeri "the buzz of the overhead light" değil. Birleşme yerinde kayan bir oda tonunu görmezden gelmek, ton değiştiren bir ceketi görmezden gelmekten daha zordur, çünkü kulağın arkasına saklanacak bir plan sınırı yoktur.

Sonra kesme yerinizi sesi de hesaba katarak seçin. Jestin ortasında kesmek, modelin karşı tarafta aynı hareket vektörünü yeniden üretmesini talep ediyor — tam olarak model kartının işaretlediği "karmaşık hareket" durumu. Yerleşmiş bir pozda kesmek — parça yerine bırakılmış, el durgun — bir sonraki üretime belirsizlik taşımayan bir başlangıç koşulu, sese de doğal bir dikiş yeri veriyor. Size bir beat tempo kaybettiriyor, karşılığında tutan bir birleşme kazandırıyor.

Metal bir ekleme bloğunda 35mm film şeridi; jilet tam bir kare çizgisinin üzerinde duruyor, ilerisinde bitmiş iki bantlı ek görünüyor

Bütün bunlardan önce verilecek bir karar var: en boy oranı. Model 16:9 ve 9:16 sunuyor, başka bir şey sunmuyor. Uzatma yalnızca sona eklediği ve referans görselleri çekildikleri kadrajı devraldığı için, bir sekansın ortasında yön değiştirmek bir ayar değişikliği değil — o noktanın öncesindeki her varlığı geçersiz kılıyor. Yönü teslimi düşünerek, birinci planda seçin.

Dört planlık bir sekans ne tutuyor

Bu modeldeki süreklilik araçları ücretsiz. Yedi görselli bir reference-to-video çağrısı, çıplak bir text-to-video çağrısıyla aynı tutuyor; start-end-frame-to-video'ya verdiğiniz kareler hiçbir şey eklemiyor. Saniyeler ve çözünürlük için ödüyorsunuz.

Sekiz saniyelik dört plan otuz iki saniye eder. En üst katmanda:

Nereden4K'da 32 sn
E2X$5.76
Google, yayımlanmış token oranlarından$9.73
fal$9.60
Runware$10.24
WaveSpeed$12.48

Bu fark bir indirim hikâyesi değil, bir çarpan hikâyesi. İki merdiven de 360p'den 1080p'ye aynı biçimde tırmanıyor; en üst basamakta Google 720p oranını üçe katlıyor, biz ikiye katlıyoruz, dolayısıyla fark tam da bitmiş sekansların teslim edildiği yerde en geniş halini alıyor. Basamak basamak hesap ve en üst katmanın neden bir upscale olduğu 4K yazımızda.

Şimdi bunu süreklilik işinin gerçekte nasıl yürüdüğüne uygulayın. Kimse dört planı dört üretimde tutturamıyor. Üçüncü plan altı deneme, dördüncü plan üç deneme alıyorsa, bu on beş iş demek — 4K'da burada $21.60, doğrudan çağrıda $36.49. Bu da tek bir zincir yerine bağımsız üretimler lehine en güçlü argüman: yeniden çevirme bir plana mal oluyor, sekansın kuyruğuna değil. Süreklilik testlerini saniye başına 4K oranının altıda biri olan 360p'de yapın ve tutan çekimi terfi ettirin.

Nerede hâlâ kayıyor

Dürüst versiyonu; çünkü model kartı bize bunun dilini veriyor.

Ayrım, iki mekanizmanın neyi kodlayabildiğinden çıkıyor. Bir cümle ve bir referans fotoğrafı kaba, adı konabilir özellikler taşıyor: siluet ve giysi rengi, saç uzunluğu ve rengi, oda geometrisi, palet, ışık yönü ve sertliği, büyük aksesuarların kabaca yerleşimi. Bunları bir kilit bloğu ifade edebilir, bir referans görseli gösterebilir.

İkisinin de taşımadığı şey, bir adın altındaki hassasiyet — uzak kadrajlar arasında tam yüz geometrisi, takılar, küçük arka plan nesneleri, ince kumaş detayı ve model kartının ayrıca güvenilmez olarak listelediği her türlü basılı metin. Google örüntüyü yalnızca genel terimlerle adlandırıyor ve üçüncü taraf incelemeciler bunun en sert biçimde, tutulan bir planın içinde değil, sahne değişimlerinde ve kamera hareketlerinde ortaya çıktığını anlatıyor. Bu, dokümantasyona ve aktarılanlara dair bizim okumamız; ölçülmüş bir iddia değil — buna bir sayı koyacak bir düzenek çalıştırmadık.

Pratikte: içinde kahraman yakın planı olan bir sekans, o yakın planı bir geniş plandan devralmak yerine bir referans setinden üretmeli, çünkü kimlik bir ölçek değişiminden çok bir yeniden kadrajlamadan sağ çıkıyor. Tek planlık yüz tekniğinin kendisi ayrı bir yazı; iki planı tek eksende tutan kamera sözlüğü ise kamera yazısında.

Kimse bu modelde otuz planlık bir anlatı satıp asla oynamayan bir yüz vaat etmemeli. Satabileceğiniz şey, kaymanın bir kesmenin içine sığacak kadar küçük olduğu bir sekans — referanslarla, kilit bloklarıyla ve durgunluk üzerine seçilmiş kesme noktalarıyla ulaşılabilir.

En baştaki tablodan başlayın: kaymanın adını koyun, aracı seçin, bloğu bir kez yazın, aynen tekrarlayın. Google'ın API referansı referansları isimle bağlamanın tag biçimlerini taşıyor; yetenek sayfaları ise güncel oranları ve şemaları.

Fiyatlar ve ürün koşulları değişiyor. Satın alma kararı vermeden önce her sağlayıcının güncel fiyatlandırmasını kontrol edin.

Sıkça sorulan sorular

Gemini Omni 1.1 Flash'te bir karakter planlar arasında nasıl tutarlı tutulur?

Birlikte çalışan iki mekanizmayla. Karakteri reference-to-video üzerinden referans görselleri olarak geçirin — şemamız bir ila yedi kabul ediyor ve Runware aynı tavanı belgeliyor — ve her prompt'ta görünüm olgularından oluşan birebir aynı bloğu tekrarlayın, başka sözcüklerle değil kopyalayarak. Referanslar kimliği taşıyor; tekrarlanan metin kostümü, aksesuarları ve ışığı taşıyor. Google'ın model kartı, düzenlemeler boyunca tam tutarlılığın hâlâ açık bir problem olduğunu net biçimde söylüyor; dolayısıyla ikisi de tek başına yetmiyor.

Seed, iki Gemini Omni prompt'u arasında aynı karakteri korur mu?

Hayır. Seed bir örneği sabitliyor, bir özneyi değil. İki farklı prompt, seed'den bağımsız olarak iki farklı çekiliştir ve başka türlü aynı olan bir prompt'ta düzenlenmiş tek bir kelime bir varyasyon değil taze bir örneklemedir. Seed, onaylanmış bir çekimi daha yüksek çözünürlükte yeniden render etmek ve değiştirilmiş tek bir cümleyi yalıtmak için hakkını veriyor. Planlar arası kimlik referans görsellerinden geliyor.

Belirli bir karede bitmesi gereken bir çekim için hangi Omni yeteneğini kullanmalıyım?

start-end-frame-to-video. Bir başlangıç ve bir bitiş görseli verirsiniz, model aradaki aralığı üretir ve bir sonraki kesmenizin eşleşmesi gereken kare sizin seçtiğiniz olur. E2X'te saniyesi düz text-to-video ile aynı tuttuğu için ondan kaçınmak adına bir fiyat gerekçesi yok.

Gemini Omni 1.1 Flash bir videoyu geriye doğru uzatabilir mi?

Hayır. Google'ın dokümantasyonu uzatmanın yalnızca bir klibin sonuna eklediğini, başa ekleme ya da ortayı uzatma imkânı olmadığını söylüyor. Devamlar on saniyelik adımlarla kırk saniyelik bir toplama kadar ilerliyor ve uzattığınız klibin on saniye ya da daha kısa olması gerekiyor. Yani ilk üretim, kendisinden sonraki her şeyin görünümünü sabitliyor ve erken bir hata, zinciri yeniden kurmadan onarılamıyor.

Gemini Omni 1.1 Flash kaç referans görseli kabul ediyor?

reference-to-video şemamız bir ila yedi alıyor ve Runware'in dokümantasyonu aynı üst sınırı belirtiyor. Google'ın kendi referansı bir sayı yayımlamıyor, gerçi işlenmiş örneği tek bir prompt'ta altı etiketli görsel bağlıyor — dolayısıyla yediyi belgelenmiş bir garanti değil, üçüncü taraf mutabakatı olarak görün. Video referansları Google tarafından ayrıca her biri üç saniyeye kadar üç klip ile sınırlandırılmış.

Üretilmiş iki plan arasında kesmek için en iyi yer neresi?

Hareketin ortası değil, durgunluk. Yerleşmiş bir poz, bir sonraki üretime belirsizlik taşımayan bir başlangıç koşulu veriyor; bir jestin içindeki kesme ise modelden bir hareket vektörünü yeniden üretmesini istiyor — Google'ın model kartının bilinen bir zayıflık olarak listelediği karmaşık hareket durumu. Ve her klip reddedemeyeceğiniz bir ses bandıyla geldiği için, ortamı birleşmenin iki yakasında birebir aynı kelimelerle tarif edin; yoksa oda tonu kesmede kayar.

Tek bir Omni sekansında 16:9 ve 9:16 planları karıştırabilir miyim?

Faydalı biçimde hayır. Bu iki oran mevcut tek seçenek, uzatma başladığı yönde ekliyor ve referans görselleri çekildikleri kadrajı taşıyor — dolayısıyla yolun ortasında yönü değiştirmek, o noktanın öncesindeki her varlığı geçersiz kılıyor. Yatay mı dikey mi olacağına, birinci plandan önce teslim formatına göre karar verin.

Bir sekansı uzatarak mı yoksa planları ayrı ayrı üreterek mi kurmak daha ucuz?

Saniye başına oran her iki durumda da aynı — uzatmanın indirimi yok — dolayısıyla fark, bir yeniden çevirmenin ne tuttuğu. Bir zincirde, erken bir planı düzeltmek ona eklenmiş her şeyi çöpe atıyor. Referans görselleri ya da başlangıç kareleriyle çıpalanmış bağımsız üretimlerde ise kötü bir plan yalnızca bir plana mal oluyor. E2X'te otuz iki saniyelik 4K $5.76, doğrudan Google'dan $9.73 ve bu fark attığınız her çekimle birlikte açılıyor.