大家好,我是叁石。
繼上次發(fā)布的文章干貨分享:
大家發(fā)現(xiàn) kontext 能通過自然語言進(jìn)行圖片處理,如風(fēng)格遷移、文字替換、角色一致等,所以有好多的小伙伴問我要工作流,我也一一分享給了大家。
但是,在和大家溝通的時候,我發(fā)現(xiàn) kontext 的這個工作流還存在一些缺陷,就是描述很費(fèi)勁,尤其是遇到一張圖中有多個相似元素的情況,大家可以看下面兩個工作流的案例。
第一個是畫面元素比較簡單的,所以 kontext 會比較好理解我們的輸入“change hair to silver”,把頭發(fā)變成銀色。
kontext 單圖元素替換
如果是下面這張圖呢?我給到的提示詞是“Change the hair color of the girl wearing green clothes to red”,把穿綠色衣服的女孩的頭發(fā)顏色變成紅色。顯然,kontext 理解起來是有難度的,沒有正確按照提示詞的內(nèi)容進(jìn)行修改。
kontext 單圖元素替換
所以,有沒有辦法能通過遮罩來涂抹出自己想要改變的區(qū)域,再讓 kontext 進(jìn)行修改呢?就類似于 sdxl 中圖生圖中的局部重繪?
經(jīng)過不斷地探索和學(xué)習(xí),我發(fā)現(xiàn)還真的可以,只需要插入「Kontext Inpainting Conditioning」節(jié)點(diǎn),就能實(shí)現(xiàn)在 kontext 中,用畫筆畫出遮罩,然后針對遮罩區(qū)域進(jìn)行單獨(dú)的重新繪制,如下圖:
kontext局部重繪部分工作流
我們看下視頻實(shí)操:
ok,那我們今天就一起學(xué)習(xí)下怎么實(shí)現(xiàn)這種效果及工作流的搭建吧。
1. kontext 模型哪里下載?
我們可以去 Flux 官方網(wǎng)站上下載 kontext 模型。
官網(wǎng)地址:?https://playground.bfl.ai/image/generate
這里要注意的是,kontext 模型有三個版本,分別是“max”、“pro”和“dev”。這三者的區(qū)別是:
max:參數(shù)最大,訓(xùn)練數(shù)據(jù)量最豐富,性能最佳。
pro:統(tǒng)一模型,提供 FLUX.1 質(zhì)量的局部編輯、生成式修改和文本轉(zhuǎn)圖像生成功能,性能中等。
dev:開發(fā)者測試,速度最快。
模型下載方式1
或者也可以去 huggingface 上下載。
鏈接:https://huggingface.co/black-forest-labs/FLUX.1-Kontext-dev/tree/main
模型下載方式2
2. 為什么我的工作流老是報錯不出圖?
如下圖 1,出現(xiàn)這個報錯可能是因?yàn)槲覀儧]有將 kontext 模型下載到本地運(yùn)行,而是直接調(diào)用了 API 接口,由于網(wǎng)絡(luò)不穩(wěn)定,所以有時候會出圖,有時候就不會出圖,所以我不建議大家用“Flux.1 Kontext [pro] Image(提示詞輸入)”這個節(jié)點(diǎn),最好用常規(guī)的工作流進(jìn)行搭建,然后加載模型即可。如下圖 3。
kontext接口調(diào)用工作流 (不建議這樣使用)
截圖報錯
下面這種常規(guī)的工作流雖然搭建起來比較復(fù)雜,但是運(yùn)行穩(wěn)定,不容易報錯。
kontext常規(guī)工作流
3. 為什么我的工作流出圖沒有重繪?
這個問題應(yīng)該是粗心了,我們要在「UNET 加載器」中選擇 kontext 模型才可以,記住,它是一個模型,可不是一個節(jié)點(diǎn)哈,如下圖。
選擇模型
現(xiàn)在我們進(jìn)入正題,如何在 kontext 中進(jìn)行單圖的遮罩區(qū)域局部重繪制,正如文章開頭所說的,我們插入一個「Kontext Inpainting Conditioning」節(jié)點(diǎn),連接在「K 采樣器」之前就可以了,如下圖。
Kontext Inpainting Conditioning 節(jié)點(diǎn)
然后上傳一張圖片,右擊選擇“在遮罩編輯器中打開”,涂抹自己需要去掉的區(qū)域。接著在「CLIP 文本編碼器」中輸入自己想替換的元素就行,比如“Replace the bottle in your hand with a glass of water”,將手中的瓶子替換成玻璃水杯。
涂抹替換區(qū)域
kontext單圖局部重繪
可以看到,效果還是很不錯的。再回到開頭那張多個女孩的照片的案例,我們再試一下,也是不錯的。有了遮罩重繪的 kontext,最方便的是不用再費(fèi)盡心思地去寫提示詞,就像這里的提示詞“turn hair silver”,非常簡單,因?yàn)榇藭r的工作流只對遮罩區(qū)域有效。
kontext單圖局部重繪
重點(diǎn)來啦,既然單圖可以局部替換,那將一張圖替換到另一張圖上去,能通過 kontext 實(shí)現(xiàn)么?如果能實(shí)現(xiàn),那 kontext 是不是實(shí)現(xiàn)了萬物替換?經(jīng)過嘗試和思考,發(fā)現(xiàn)是可以的。我們只需要插入「Image Stitch」節(jié)點(diǎn),將結(jié)合之后的圖片 VAE 編碼給到「ReferenceLatent」節(jié)點(diǎn),再連接到「Kontext Inpainting Conditioning」即可,如下圖。
效果截圖
我們看下完整的工作流。
kontext雙圖局部替換工作流
這個工作流其實(shí)原理也非常簡單,我們先將 2 張圖片通過「Image Stitch」組合在一起,然后 VAE 編碼給到「ReferenceLatent」節(jié)點(diǎn),如下圖。這個 kontext 雙圖元素替換的邏輯是一樣的。
圖像組合
然后將涂抹形成遮罩的圖片通過「Grow Mask With Blur」(遮罩模糊生長),將遮罩的邊緣進(jìn)行柔和處理,然后給到「Kontext Inpainting Conditioning」的“mask 輸入”,還有將原圖也給到該節(jié)點(diǎn)的“pixels 輸入”,如下圖,就能跑通整個工作流了。
遮罩和圖像連接
本篇文章主要是再次延伸了 kontext 的重繪功能,之前大家只能通過各種提示詞描述來讓 kontext 理解我們的想法,所以比較“費(fèi)腦子”?,F(xiàn)在 kontext 有了局部重繪,就大大提高了提示詞描述的精準(zhǔn)程度了。尤其是還可以將一張圖替換到另一張被涂抹的區(qū)域,可以說是非常便捷。
另外也在平時和大家的討論中把一些共性問題跟大家分享下,希望大家可以少報錯,快速跑圖,
最后,關(guān)于工作流和模型大家有什么需求和疑問的,也可以聯(lián)系我,我會盡力幫助大家解決跑圖中的各類報錯問題,謝謝!
復(fù)制本文鏈接 文章為作者獨(dú)立觀點(diǎn)不代表優(yōu)設(shè)網(wǎng)立場,未經(jīng)允許不得轉(zhuǎn)載。
發(fā)評論!每天贏獎品
點(diǎn)擊 登錄 后,在評論區(qū)留言,系統(tǒng)會隨機(jī)派送獎品
2012年成立至今,是國內(nèi)備受歡迎的設(shè)計師平臺,提供獎品贊助 聯(lián)系我們
AI輔助海報設(shè)計101例
已累計誕生 753 位幸運(yùn)星
發(fā)表評論 為下方 9 條評論點(diǎn)贊,解鎖好運(yùn)彩蛋
↓ 下方為您推薦了一些精彩有趣的文章熱評 ↓