熱評(píng) 暮色

終于有人如此詳細(xì)的解析這知識(shí)點(diǎn),真是太感謝了,點(diǎn)贊,收藏

超詳細(xì)!Stable Diffusion 卡通IP調(diào)整姿勢(shì)保姆級(jí)教程

已有 IP 如下所示圖左,希望將改成類似圖右的姿勢(shì),該怎么用Stable Diffusion 實(shí)現(xiàn)呢,完整教程來了!

往期教程:

超詳細(xì)!Stable Diffusion 卡通IP調(diào)整姿勢(shì)保姆級(jí)教程

首先經(jīng)過測(cè)試 SD 的 Controlnet Openpose 無法識(shí)別卡通形象的骨骼,因此需要我們用 Openpose editer 手動(dòng)添加骨骼圖,大致得到以下骨骼圖,點(diǎn)擊按鈕發(fā)送到 Controlnet,為了方便后續(xù)使用,可以將骨骼圖下載下來備用;

超詳細(xì)!Stable Diffusion 卡通IP調(diào)整姿勢(shì)保姆級(jí)教程

超詳細(xì)!Stable Diffusion 卡通IP調(diào)整姿勢(shì)保姆級(jí)教程

接下來的思路:

  1. 首先需要在 SD 中跑出和圖 1 形象,這樣后續(xù)才可以在 SD 中做控制和重繪等工作,并讓形象按新骨骼換姿勢(shì)
  2. 得到相似度高的形象后(可能無法得到 100%一樣的形象) 在 Controlnet Openpose 中給新的骨骼圖引導(dǎo),讓 SD 在保持形象畫風(fēng)統(tǒng)一的前提下?lián)Q姿勢(shì)

那么話不多說,先開始在 SD 中生成形象

1. 將圖 1 傳入 SD,利用 tag 反推插件,反推出提示詞,界面如下所示

超詳細(xì)!Stable Diffusion 卡通IP調(diào)整姿勢(shì)保姆級(jí)教程

反推出如下關(guān)鍵詞,復(fù)制進(jìn)文生圖中

robot, solo, black background, no humans, mecha, standing, chibi, clenched hands, science fiction, glowing

添加通用質(zhì)量關(guān)鍵詞得到正向 tag,負(fù)面 tag 用我們常用的模版,大模型使用泛化性極高的「revAnimated_v122」幾乎可以適應(yīng)生成大多數(shù)類型的圖,整體上部分設(shè)置如圖所示

超詳細(xì)!Stable Diffusion 卡通IP調(diào)整姿勢(shì)保姆級(jí)教程

2. 采樣方法,迭代步數(shù)保持以下默認(rèn)設(shè)置就可以

畫面寬高 在原圖上等比縮小了一倍(365-640), 在文生圖這里,更小的尺寸有利于我們快速批量看生成效果

超詳細(xì)!Stable Diffusion 卡通IP調(diào)整姿勢(shì)保姆級(jí)教程

3. 接下來的重點(diǎn)是 Controlnet 的控制,這里至少需要用到以下 3 個(gè) Controlnet

①第一個(gè):Reference_only

作用是控制圖像風(fēng)格與樣式統(tǒng)一延續(xù);

Style Fidelity 是樣式保真度,數(shù)值越大相似度越高,數(shù)值越小相似度越低,我這里給到 1;

權(quán)重給到 2,因?yàn)槲覀冞@里最重要的就是希望 SD 控制生成與原風(fēng)格統(tǒng)一的形象,需要控制度高一些;

超詳細(xì)!Stable Diffusion 卡通IP調(diào)整姿勢(shì)保姆級(jí)教程

②Canny

作用是識(shí)別提取圖像線稿,使新圖像按線稿輪廓生成。

Canny Low Threshold: 低閥值,數(shù)值越小,識(shí)別的線稿越多;反之越少;

Canny High Threshold:高閥值,數(shù)值越高,識(shí)別的線稿越少,反之越多;

具體數(shù)值可以根據(jù)情況嘗試,以最終顯示最完整的線稿為準(zhǔn)。我這里給到低閥值 41、高閥值 136,權(quán)重為 1.25;

超詳細(xì)!Stable Diffusion 卡通IP調(diào)整姿勢(shì)保姆級(jí)教程

③t2ia_color

作用是對(duì)顏色進(jìn)行網(wǎng)格檢測(cè),用來生成與原圖色譜一致,分布近似的圖像,因此提取結(jié)果會(huì)呈現(xiàn)馬賽克效果,在 t2ia_color 的作用下,重新生成的圖片會(huì)按照原圖色彩特征進(jìn)行重繪。

Preprocessor Resolution:預(yù)處理器分辨率,數(shù)值越高,馬賽克格子越小,控制越精確;數(shù)值越大,馬賽克格分布越概括,控制越粗略;

這里我們想讓顏色精準(zhǔn)的按照原機(jī)器人圖的色彩分布來,因此預(yù)處理分辨率給的很高:1960,大家使用可根據(jù)具體需求進(jìn)行調(diào)節(jié)。

超詳細(xì)!Stable Diffusion 卡通IP調(diào)整姿勢(shì)保姆級(jí)教程

以上設(shè)置完成后,加大生成批次 1 次跑 20 張,從中挑選最合適的,我這邊生成了以下這張,基本與原圖保持了 90%的相似性;

超詳細(xì)!Stable Diffusion 卡通IP調(diào)整姿勢(shì)保姆級(jí)教程

完成這一步形象生成后,接下來的重點(diǎn)就是讓 IP 根據(jù)骨骼的走向生成新的姿勢(shì),這一環(huán)節(jié)的思路是:

  1. 將圖片發(fā)送到「局部重繪」中,涂抹胳膊和腿的部分作為蒙版區(qū)域,對(duì)蒙版進(jìn)行重繪;
  2. 配合 SD Controlnet:Reference_only(使重繪的部分保持原圖風(fēng)格統(tǒng)一) Openpose 骨骼(按新骨骼引導(dǎo)生成姿勢(shì))
  3. 得到新姿勢(shì)后,在「圖生圖」中用 tile diffusion 和分塊 vae 進(jìn)行高清修復(fù),補(bǔ)充細(xì)節(jié)高清放大;

那么接下來進(jìn)入詳細(xì)步驟講解

1)將圖片發(fā)送到「局部重繪」中,涂抹蒙版區(qū)域(胳膊和腿的部分),這步非常重要的是——要盡量根據(jù)新姿勢(shì)的走向多涂抹一些作為預(yù)留空間,供AI 生圖自由發(fā)揮,尤其是右手部分,因?yàn)槭且粋€(gè)擋臉的姿勢(shì),需要多涂到臉上一部分,我的涂抹如下

超詳細(xì)!Stable Diffusion 卡通IP調(diào)整姿勢(shì)保姆級(jí)教程

參數(shù)部分可參考以下設(shè)置

超詳細(xì)!Stable Diffusion 卡通IP調(diào)整姿勢(shì)保姆級(jí)教程

比較重要的是以下 3 點(diǎn)

  1. 采樣迭代步數(shù)可適當(dāng)開大到 30
  2. 重繪需要保證生成高質(zhì)量圖像,提示詞相關(guān)性可以開大一點(diǎn)到 13 (提示詞中多為質(zhì)量關(guān)鍵詞) 具體數(shù)值可根據(jù)生成效果調(diào)節(jié)
  3. 整個(gè)重繪過程中,重繪幅度的大小是最關(guān)鍵的,可以多次使用「腳本」功能進(jìn)行測(cè)試,能大大提高效率;

接下來是 Controlnet, 這里至少需要開啟 2 個(gè)

  1. Reference_only:保持風(fēng)格與原圖一致,這里要用原圖去喂,而不要用新生成的。 權(quán)重給到 1.5,樣式保真度給到 1;
  2. Openpose 骨骼:讓圖像按新的骨骼圖生成姿勢(shì),這個(gè)很重要,權(quán)重高一點(diǎn),開到 2;

超詳細(xì)!Stable Diffusion 卡通IP調(diào)整姿勢(shì)保姆級(jí)教程

超詳細(xì)!Stable Diffusion 卡通IP調(diào)整姿勢(shì)保姆級(jí)教程

設(shè)計(jì)好以上參數(shù)后,接下來需要打開神器「腳本」X/Y/Z 軸 測(cè)試最合適的重繪幅度。

這里我們先做一次粗略的測(cè)試,在 0.3-1 的重繪幅度中,每 0.1 生成 1 張圖,看看哪個(gè)重繪效果最好,腳本的具體設(shè)置如下

超詳細(xì)!Stable Diffusion 卡通IP調(diào)整姿勢(shì)保姆級(jí)教程

測(cè)試結(jié)果如下,可以看到 0.7 以上的重繪幅度,能夠出來上舉的雙臂;

超詳細(xì)!Stable Diffusion 卡通IP調(diào)整姿勢(shì)保姆級(jí)教程

接下來測(cè)試 0.7-0.95 的重繪幅度,從結(jié)果可以看到 0.8 以上重繪太大,形象就發(fā)生改變了,0.75-0.8 之間相對(duì)好一些;

超詳細(xì)!Stable Diffusion 卡通IP調(diào)整姿勢(shì)保姆級(jí)教程

接下來測(cè)試 0.75-0.8 的重繪幅度,從結(jié)果可以看到 0.8 開始,機(jī)器人右臂可以上舉了,更接近我們想要的姿勢(shì),但形變太大;

超詳細(xì)!Stable Diffusion 卡通IP調(diào)整姿勢(shì)保姆級(jí)教程

為了使形象風(fēng)格控制更嚴(yán)瑾,加大 Reference_only 的權(quán)重到 1.5,使形象控制更準(zhǔn)確;

再次測(cè)試 0.7-1 的重繪幅度,從結(jié)果可以看到:形象更精準(zhǔn),且重繪幅度為 1 時(shí)整體姿勢(shì)生成更徹底,沒有多余的手臂;

超詳細(xì)!Stable Diffusion 卡通IP調(diào)整姿勢(shì)保姆級(jí)教程

暫時(shí)關(guān)閉「腳本」,選擇圖 4,設(shè)置重繪幅度為 1;

到這一步已經(jīng)生成了新的姿勢(shì)(不過還不準(zhǔn)確理想),可以在這張圖基礎(chǔ)上重繪,成功率將會(huì)更高;

將圖 4 發(fā)送到圖生圖「局部重繪」,這次只需要用畫筆涂抹手和腳的部分就可以,能夠控制更精準(zhǔn);

超詳細(xì)!Stable Diffusion 卡通IP調(diào)整姿勢(shì)保姆級(jí)教程

接下來是在上圖基礎(chǔ)上重繪,保持 controlnet 不變,openpose 權(quán)重開到 2,再用一輪「腳本」來測(cè)試下 合適的重繪幅度;

超詳細(xì)!Stable Diffusion 卡通IP調(diào)整姿勢(shì)保姆級(jí)教程

根據(jù)結(jié)果可以看到 0.9、1.0 的重繪效果更好,我們?cè)龠M(jìn)一步測(cè)試 0.9-1.0 之間每 0.5 步生成一張圖

超詳細(xì)!Stable Diffusion 卡通IP調(diào)整姿勢(shì)保姆級(jí)教程

從結(jié)果可以看到 1.0 的重繪效果更好;

這一批的姿勢(shì)已經(jīng)非常接近我們想要的,不再需要繼續(xù)局部重繪了;
選擇第 3 張圖,發(fā)送到「圖生圖」通過小幅度重繪為畫面填充細(xì)節(jié),高清修復(fù);

測(cè)試「圖生圖」合適的重繪幅度,看結(jié)果 0.3 的重繪幅度就夠了,后面基本沒太大變化,甚至數(shù)值大可能更差;

超詳細(xì)!Stable Diffusion 卡通IP調(diào)整姿勢(shì)保姆級(jí)教程

關(guān)閉「腳本」設(shè)置重繪幅度為 0.3,加大批次生成,挑選最合適的兩張 1 與 3,在 ps 中將瑕疵去除,融合優(yōu)點(diǎn)合成得到右圖

超詳細(xì)!Stable Diffusion 卡通IP調(diào)整姿勢(shì)保姆級(jí)教程

超詳細(xì)!Stable Diffusion 卡通IP調(diào)整姿勢(shì)保姆級(jí)教程

到這里,我們已經(jīng)基本得到了一張 70 分的換好姿勢(shì)的圖了

接下來將是最后一步,發(fā)送到「圖生圖」,通過插件 tile diffusion 和分塊 vae 進(jìn)行高清修復(fù),補(bǔ)充細(xì)節(jié)高清放大;

同時(shí)保持 2 個(gè) controlnet 設(shè)置不變;

加大批次生成后,挑選得到左圖,在 PS 中微調(diào)后得到右圖;

超詳細(xì)!Stable Diffusion 卡通IP調(diào)整姿勢(shì)保姆級(jí)教程

到這一步基本工作已完成了,為了更好玩有趣,我們可以生一個(gè)與動(dòng)作更匹配的開心表情~~~

超詳細(xì)!Stable Diffusion 卡通IP調(diào)整姿勢(shì)保姆級(jí)教程

超詳細(xì)!Stable Diffusion 卡通IP調(diào)整姿勢(shì)保姆級(jí)教程

怎么樣,上圖 2 張你更喜歡哪個(gè)呢?

是不是覺得很簡單,快拿你喜歡的形象練練如何輕松的換姿勢(shì)叭, 期待你的返稿喲~~

收藏 112
點(diǎn)贊 70

復(fù)制本文鏈接 文章為作者獨(dú)立觀點(diǎn)不代表優(yōu)設(shè)網(wǎng)立場,未經(jīng)允許不得轉(zhuǎn)載。