「ControlNet」の『openpose』と『canny』を知ってしまった回。【Stable Diffusion web UI】

タイトルの内容はいったん横に置き、まずは前日のリベンジ戦をしていました。
そもそも「オッサン錬成」を目標としていたはずなのに達成してない。三十路メンズもまだ錬成しきれてない気がして悔いが残る。ならばリベンジである。
ずっとバストアップも飽きるし、もう少し全体も見たい。ウエストアップぐらいでポーズも付けたいけどポーズ指定が難しいんだよな…でも上手にやってる人もいるし、コツある?
そう思って「Stable Diffusion ポーズ」などで情報検索していた時に見つけてしまった。

「ControlNet」の『Openpose』という秘技

その棒人間みたいなボーンみたいなのでポーズ指定が出来る…?え、すご……ほんと?
ただのヒツジにも使える??? 導入してみたい!ということで…

ポーズや構図を指定してサクッと好みのイラスト画像を生成しまくれる「ControlNet」&「Stable Diffusion」の合わせ技を試してみたよレビュー – GIGAZINE

web UIから直接「ControlNet」がインストール出来る、便利!
「Openpose」などはモデルデータなので必要なものを手動DLしてmodelsフォルダへ。
導入はとても簡単だったので、さくっと済ませて…いざ!
くらつひわ
すっごいな???
左手の仕草は合致してないけど、顔の向きや身体の傾け具合まで
ポーズ人形の通りなの、すごい!
覚えたばかりの「Openpose」が楽しくてキャッキャしながら、他のモデルファイルが一体なんんなのか調べてみると…

ControlNetの全Preprocessor比較&解説 用途ごとオススメはどれ?
くらつひわ
……ん? えっ??
これ、線画を読み込んで自動着彩…してる……!?

『Canny』で自作の線画にAI着色してみる!

クリスタにもそういうプラグインがあったけど、何かもっとすごい感じになってる…??
使用例が見たくてTwitterも検索すると…
くらつひわ
すごすぎるね!?
えっ、自分の線画でもやりたい!
前回の記事でヒツジは、こう言いました。
くらつひわ
でもやっぱ、イラストレーターの端くれとしては
自分の絵柄で錬成できたら楽しいんだけど…やっぱ難しい?
ラフやアタリに使えたら最高なんだけど!
これが「Canny」なら半分ぐらい叶うということでは? 自作の線画、着彩だけ頼めるなら絵柄はほぼ自分のままで維持できるし、そもそも線画なら構図はコントロールが容易!
やり方次第で、絵描きなら一度は願ってしまう『頭の中のイメージをそのまま念写したい』が結構な確率で叶ってしまうのでは!?(主語でかい)

情報収集がてら、新しいモデルファイルも導入してみたので併せてそれも試してみる。
(AOM3.safetensors)

『carry』使用例・その1(一次創作)

くらつひわ
すごいな!?
三白眼ではなく謎に美形度が上がったり、首が素肌じゃなくなったり
グローブはまぁこれは仕方ない、変形デザインだから!
でも確かに自分の絵が元になっている…すご……しかも背景を足せちゃう…
これで塗り分けだけして色指定が出来ると最高なんだけどな~!

『carry』使用例・その2(二次創作)

こちらは1枚目の生成で目の向きが勝手に寄ってしまったので呪文「looking at viewer」で無事にカメラ目線に。結構、これでも調整できるんだ!
ジャケットの色は「(((green Jacket,black bottoms,white shirt)))」と強調をかけても頑なに別の色を維持…やっと緑になったかと思うと他がすごい色に。

グローブや素肌などの範囲、指定できるようになるといいんだけどな~!!
あ、もしや最初から軽く塗っていたら反応してくれるかな?
くらつひわ
あと、512×512ピクセルで線画の抽出となると顔アップの方が
線の情報を正確に拾いやすいのでは?
色付きでフェイスアップ系の絵でちょっと試してみよ

『carry』使用例・その3(二次創作)

くらつひわ
おぁあああ…すっご!!
最初の1枚はうっかり色指定なしで生成してしまい、2枚目は髪と目の色を指定。
ちなみに塗り方もプロンプトで指定できるからすごい。

【参照例】画風・エフェクト関係の呪文の一覧【Waifu Diffusion・NovelAI】
くらつひわ
自分の絵が元になっているので感動ひとしお
ざっくり描いたラクガキが、こんなに化けるものなのか…
人の手で仕上げたらどれぐらい時間かかるんだ
画像比較モードでビフォーアフター

しかも線画部分も微調整してクオリティを上げてくれてる…赤ペン先生かな…?
髪の生え際やもみあげのところも自然な感じで加筆修正されてるからすごい。

まとめ:絵描き視点の感想(ControlNet編)

絵が描ける人、描けない人で、画像生成AIを使う主目的は変わってくるはず。
絵を描く私が画像生成AIを使う主な目的は
  • 苦手な背景の画像生成
  • アタリやラフ用の参照画像生成(ポーズ人形の拡張版みたいな)
この辺りだったんだけど、これは…塗り&仕上げはもちろんのこと、デッサンの確認&スキルアップにも役立てられそうですごいなと。ていうかタイムラプス欲しい(無茶)
生成途中の様子は残せるようだけど、人が描く手法と違うから参考にはできない…
くらつひわ
塗るエリアと色味の指定が出来るようになれば完璧
今は、img2imgでマスク掛けつつ何度かリトライする必要ありそう
でもイラストAIの進化の速さがえげつないので、来月の今ごろは実装されてそう。
それにしてもすごかったな。着彩仕上げを担当してくれるの、最も欲しかったもの。
ありがとう、「ControlNet」ありがとう!
よかったらシェアお願いします!