精準(zhǔn)改圖!手把手教你打造Kontext局部重繪工作流

大家好,我是叁石。

繼上次發(fā)布的文章干貨分享:

大家發(fā)現(xiàn) kontext 能通過自然語言進(jìn)行圖片處理,如風(fēng)格遷移、文字替換、角色一致等,所以有好多的小伙伴問我要工作流,我也一一分享給了大家。

但是,在和大家溝通的時候,我發(fā)現(xiàn) kontext 的這個工作流還存在一些缺陷,就是描述很費(fèi)勁,尤其是遇到一張圖中有多個相似元素的情況,大家可以看下面兩個工作流的案例。

第一個是畫面元素比較簡單的,所以 kontext 會比較好理解我們的輸入“change hair to silver”,把頭發(fā)變成銀色。

精準(zhǔn)改圖!手把手教你打造Kontext局部重繪工作流

kontext 單圖元素替換

如果是下面這張圖呢?我給到的提示詞是“Change the hair color of the girl wearing green clothes to red”,把穿綠色衣服的女孩的頭發(fā)顏色變成紅色。顯然,kontext 理解起來是有難度的,沒有正確按照提示詞的內(nèi)容進(jìn)行修改。

精準(zhǔn)改圖!手把手教你打造Kontext局部重繪工作流

kontext 單圖元素替換

所以,有沒有辦法能通過遮罩來涂抹出自己想要改變的區(qū)域,再讓 kontext 進(jìn)行修改呢?就類似于 sdxl 中圖生圖中的局部重繪?

經(jīng)過不斷地探索和學(xué)習(xí),我發(fā)現(xiàn)還真的可以,只需要插入「Kontext Inpainting Conditioning」節(jié)點(diǎn),就能實(shí)現(xiàn)在 kontext 中,用畫筆畫出遮罩,然后針對遮罩區(qū)域進(jìn)行單獨(dú)的重新繪制,如下圖:

精準(zhǔn)改圖!手把手教你打造Kontext局部重繪工作流

kontext局部重繪部分工作流

我們看下視頻實(shí)操:

當(dāng)視頻在手機(jī)上無法加載,可前往PC查看。

ok,那我們今天就一起學(xué)習(xí)下怎么實(shí)現(xiàn)這種效果及工作流的搭建吧。

一、kontext 粉絲答疑解惑

1. kontext 模型哪里下載?

我們可以去 Flux 官方網(wǎng)站上下載 kontext 模型。

官網(wǎng)地址:?https://playground.bfl.ai/image/generate

這里要注意的是,kontext 模型有三個版本,分別是“max”、“pro”和“dev”。這三者的區(qū)別是:

max:參數(shù)最大,訓(xùn)練數(shù)據(jù)量最豐富,性能最佳。

pro:統(tǒng)一模型,提供 FLUX.1 質(zhì)量的局部編輯、生成式修改和文本轉(zhuǎn)圖像生成功能,性能中等。

dev:開發(fā)者測試,速度最快。

精準(zhǔn)改圖!手把手教你打造Kontext局部重繪工作流

模型下載方式1

或者也可以去 huggingface 上下載。

鏈接:https://huggingface.co/black-forest-labs/FLUX.1-Kontext-dev/tree/main

 

精準(zhǔn)改圖!手把手教你打造Kontext局部重繪工作流

模型下載方式2

2. 為什么我的工作流老是報錯不出圖?

如下圖 1,出現(xiàn)這個報錯可能是因?yàn)槲覀儧]有將 kontext 模型下載到本地運(yùn)行,而是直接調(diào)用了 API 接口,由于網(wǎng)絡(luò)不穩(wěn)定,所以有時候會出圖,有時候就不會出圖,所以我不建議大家用“Flux.1 Kontext [pro] Image(提示詞輸入)”這個節(jié)點(diǎn),最好用常規(guī)的工作流進(jìn)行搭建,然后加載模型即可。如下圖 3。

精準(zhǔn)改圖!手把手教你打造Kontext局部重繪工作流

kontext接口調(diào)用工作流 (不建議這樣使用)

精準(zhǔn)改圖!手把手教你打造Kontext局部重繪工作流

截圖報錯

下面這種常規(guī)的工作流雖然搭建起來比較復(fù)雜,但是運(yùn)行穩(wěn)定,不容易報錯。

精準(zhǔn)改圖!手把手教你打造Kontext局部重繪工作流

kontext常規(guī)工作流

3. 為什么我的工作流出圖沒有重繪?

這個問題應(yīng)該是粗心了,我們要在「UNET 加載器」中選擇 kontext 模型才可以,記住,它是一個模型,可不是一個節(jié)點(diǎn)哈,如下圖。

精準(zhǔn)改圖!手把手教你打造Kontext局部重繪工作流

選擇模型

二、kontext 單圖局部重繪工作流

現(xiàn)在我們進(jìn)入正題,如何在 kontext 中進(jìn)行單圖的遮罩區(qū)域局部重繪制,正如文章開頭所說的,我們插入一個「Kontext Inpainting Conditioning」節(jié)點(diǎn),連接在「K 采樣器」之前就可以了,如下圖。

精準(zhǔn)改圖!手把手教你打造Kontext局部重繪工作流

Kontext Inpainting Conditioning 節(jié)點(diǎn)

然后上傳一張圖片,右擊選擇“在遮罩編輯器中打開”,涂抹自己需要去掉的區(qū)域。接著在「CLIP 文本編碼器」中輸入自己想替換的元素就行,比如“Replace the bottle in your hand with a glass of water”,將手中的瓶子替換成玻璃水杯。

精準(zhǔn)改圖!手把手教你打造Kontext局部重繪工作流

涂抹替換區(qū)域

精準(zhǔn)改圖!手把手教你打造Kontext局部重繪工作流

kontext單圖局部重繪

可以看到,效果還是很不錯的。再回到開頭那張多個女孩的照片的案例,我們再試一下,也是不錯的。有了遮罩重繪的 kontext,最方便的是不用再費(fèi)盡心思地去寫提示詞,就像這里的提示詞“turn hair silver”,非常簡單,因?yàn)榇藭r的工作流只對遮罩區(qū)域有效。

精準(zhǔn)改圖!手把手教你打造Kontext局部重繪工作流

kontext單圖局部重繪

三、kontext 雙圖局部替換(重點(diǎn))

重點(diǎn)來啦,既然單圖可以局部替換,那將一張圖替換到另一張圖上去,能通過 kontext 實(shí)現(xiàn)么?如果能實(shí)現(xiàn),那 kontext 是不是實(shí)現(xiàn)了萬物替換?經(jīng)過嘗試和思考,發(fā)現(xiàn)是可以的。我們只需要插入「Image Stitch」節(jié)點(diǎn),將結(jié)合之后的圖片 VAE 編碼給到「ReferenceLatent」節(jié)點(diǎn),再連接到「Kontext Inpainting Conditioning」即可,如下圖。

精準(zhǔn)改圖!手把手教你打造Kontext局部重繪工作流

效果截圖

我們看下完整的工作流。

精準(zhǔn)改圖!手把手教你打造Kontext局部重繪工作流

kontext雙圖局部替換工作流

這個工作流其實(shí)原理也非常簡單,我們先將 2 張圖片通過「Image Stitch」組合在一起,然后 VAE 編碼給到「ReferenceLatent」節(jié)點(diǎn),如下圖。這個 kontext 雙圖元素替換的邏輯是一樣的。

精準(zhǔn)改圖!手把手教你打造Kontext局部重繪工作流

圖像組合

然后將涂抹形成遮罩的圖片通過「Grow Mask With Blur」(遮罩模糊生長),將遮罩的邊緣進(jìn)行柔和處理,然后給到「Kontext Inpainting Conditioning」的“mask 輸入”,還有將原圖也給到該節(jié)點(diǎn)的“pixels 輸入”,如下圖,就能跑通整個工作流了。

精準(zhǔn)改圖!手把手教你打造Kontext局部重繪工作流

遮罩和圖像連接

總結(jié)

本篇文章主要是再次延伸了 kontext 的重繪功能,之前大家只能通過各種提示詞描述來讓 kontext 理解我們的想法,所以比較“費(fèi)腦子”?,F(xiàn)在 kontext 有了局部重繪,就大大提高了提示詞描述的精準(zhǔn)程度了。尤其是還可以將一張圖替換到另一張被涂抹的區(qū)域,可以說是非常便捷。

另外也在平時和大家的討論中把一些共性問題跟大家分享下,希望大家可以少報錯,快速跑圖,

最后,關(guān)于工作流和模型大家有什么需求和疑問的,也可以聯(lián)系我,我會盡力幫助大家解決跑圖中的各類報錯問題,謝謝!

收藏 15
點(diǎn)贊 48

復(fù)制本文鏈接 文章為作者獨(dú)立觀點(diǎn)不代表優(yōu)設(shè)網(wǎng)立場,未經(jīng)允許不得轉(zhuǎn)載。