二次元裏@ふたば

画像ファイル名:1782985466253.jpg-(214216 B)
214216 B26/07/02(木)18:44:26No.1445524181そうだねx2 20:33頃消えます
LoRAを作ってるんだけど
これ結果がガチャすぎない?
20回くらい同じキャラをデータセットや学習率の設定を調整して試してるんだけど6回目くらいのが一番出来が良い
もっと良くしようと思って試した残りの14回全部微妙、過学習っぽかったり特徴をうまく捉えてなかったり
不思議なのは同じ回の学習でもエポック5の出来が良くてエポック6,7はキャラの再現性が下がってエポック8でまた再現性が高くなってる(だが過学習を起こしてる)とかがあること
あと元のキャラ再現してないけどあるエポックだけ偶然なんかちょっと良い感じの絵柄になったりする
こんなに結果にばらつきがあるものなの
それとも俺が何かやり方間違えてんのかな
126/07/02(木)18:45:39No.1445524507+
>あと元のキャラ再現してないけどあるエポックだけ偶然なんかちょっと良い感じの絵柄になったりする
これは元のデータセットに入ってないアートスタイルになってるという意味ね
気に入って保存してるけどデータセットにないものが出てるのがすごく不思議
ANIMA BASE v1なんだけど
226/07/02(木)18:47:30No.1445525029+
そういうものなんだよLoRAは
326/07/02(木)18:48:04No.1445525182+
慣れてくると学習曲線を調整したり色々やれる事増えるけどまだガチャ要素あるよ
426/07/02(木)18:48:37No.1445525341+
LoRAもとにかく何回も回して一番出来が良いのを使うものなんだ
526/07/02(木)18:49:36No.1445525596+
ANIMAは学習効率いいからSDXLとかと同じペースでやると後半ほぼ過学習で無駄になるよ
SDXLだと10000stepとかまで回すけどANIMAは最大1500step
それ以上はほぼ無駄になる
626/07/02(木)18:50:39No.1445525868+
>そういうものなんだよLoRAは
AI生成って集めてきた絵の絵柄簡単にコピーできるんだろうなと思ってたんだけどそうでもないのね
726/07/02(木)18:54:28No.1445526923+
ANIMAはまだ知見が揃ってない
ググるとこうすれば出来るよって記事は無数に出てくるけど出来の方まではあまりアテにならない
特にnoteの記事系は特にそうで大抵お金儲けのためだけにやってるんでマジで質が悪い解説ばっかりになる
一応LoRAはできたけど再現性薄すぎたり固着しすぎる設定だったり
826/07/02(木)18:57:18No.1445527664+
データセット少ないほうが良いのか多いほうが良いのかもわかんね
多様性を持たせるのは前提だけどデータセット多すぎるとすぐオーバーフィッティングしてしまう様に見える
926/07/02(木)18:58:17No.1445527937+
>ANIMAはまだ知見が揃ってない
>ググるとこうすれば出来るよって記事は無数に出てくるけど出来の方まではあまりアテにならない
>特にnoteの記事系は特にそうで大抵お金儲けのためだけにやってるんでマジで質が悪い解説ばっかりになる
>一応LoRAはできたけど再現性薄すぎたり固着しすぎる設定だったり
じ…じゃあどこで情報仕入れればいいんですか?
1026/07/02(木)19:02:01No.1445528943+
>>ANIMAはまだ知見が揃ってない
>>ググるとこうすれば出来るよって記事は無数に出てくるけど出来の方まではあまりアテにならない
>>特にnoteの記事系は特にそうで大抵お金儲けのためだけにやってるんでマジで質が悪い解説ばっかりになる
>>一応LoRAはできたけど再現性薄すぎたり固着しすぎる設定だったり
>じ…じゃあどこで情報仕入れればいいんですか?
公式が出してるガイドを元に自分で試行錯誤する
あとはredditとかmayちゃんちで聞くと自分と同じ様に試行錯誤してる人と情報交換できる
noteとかワンチャンマネタイズに繋げようしてるのは情報が出回るまで基本カス情報が多いので見ない
1126/07/02(木)19:02:48No.1445529171+
>ANIMAは学習効率いいからSDXLとかと同じペースでやると後半ほぼ過学習で無駄になるよ
>SDXLだと10000stepとかまで回すけどANIMAは最大1500step
>それ以上はほぼ無駄になる
1500step延々回してガチャするしかないのか
1226/07/02(木)19:04:49No.1445529716+
>>ANIMAは学習効率いいからSDXLとかと同じペースでやると後半ほぼ過学習で無駄になるよ
>>SDXLだと10000stepとかまで回すけどANIMAは最大1500step
>>それ以上はほぼ無駄になる
>1500step延々回してガチャするしかないのか
不可能じゃないでしょANIMAならすぐ終わるし
ただチェックが大変なんで動作確認用のワークフロー組んどいたほうが良いよ
複数のテスト用のプロンプトを一気に走らせるようなやつ
1326/07/02(木)19:05:17No.1445529857+
Animaよくわかってないけど損失はいくつぐらいを目指すんです?
1426/07/02(木)19:05:59No.1445530029+
sd-scriptsの日本語GUI作ってる人のプリセット試した?
1526/07/02(木)19:14:49No.1445532474+
>データセット少ないほうが良いのか多いほうが良いのかもわかんね
>多様性を持たせるのは前提だけどデータセット多すぎるとすぐオーバーフィッティングしてしまう様に見える
ANIMAのデータセットの考え方として、枚数増やすのは過学習を防ぐためという部分が大きいんだ。
キャラクターの衣装が複雑で、背面などがAIが想像して描けない様なデザインをしてるなら三面図が必要になるんで必然的に教師画像の枚数は増えるけど、色んなポーズを読ませて構図を学ばせよう、という事をLoRAでやるのは間違い。そういうのはチェックポイントの仕事だから。
それでも多様なポーズや構図を入れようとするのは、過学習を防ぐため。全てのデータセットがただ棒立ちしてる画像だったら、キャラクターの特徴として棒立ちのポーズを学習してしまう。これを防ぐためだけに色んなポーズの画像を入れる。
1626/07/02(木)19:15:00No.1445532528+
これは言い換えると教師画像が少ない、データセットの枚数が少ない場合に、ある条件では過学習が起きやすいという事になる。
例えば1,500stepくらい回したい場合、30枚程度の画像でそれぞれに多様性があれば過学習は起きない。
3000stepくらいは欲しければ、その倍は欲しい。「同じ画像をAIが何回学習するか」が過学習するかどうかに関わってくるからだ。
だから多ければ多いほど良いともいえないし、少なければいいとも言えない。1500stepで100枚とかの画像を使うと収束率が悪くなるし、5000stepで30枚なら確実に過学習を起こす。
1726/07/02(木)19:16:40No.1445533010+
>Animaよくわかってないけど損失はいくつぐらいを目指すんです?
0.008くらい
1826/07/02(木)19:16:52No.1445533064+
>sd-scriptsの日本語GUI作ってる人のプリセット試した?
ぶっちゃけ色々自分で数値いじくり回したけどこの人のプリセット使ったやつが一番良かったな…
出来悪いなってなった奴は大体データセット見直せばなんとかなったし
1926/07/02(木)19:18:34No.1445533543+
>>Animaよくわかってないけど損失はいくつぐらいを目指すんです?
>0.008くらい
教えてくれてありがとう
自分で学習させるときの参考にしてみよう
2026/07/02(木)19:19:38No.1445533854+
>sd-scriptsの日本語GUI作ってる人のプリセット試した?
試してない
Dim: 16 / Alpha: 8
5e-5
この辺が俺の設定と違うや
ちょっと試してみる
2126/07/02(木)19:19:53No.1445533931+
>>>Animaよくわかってないけど損失はいくつぐらいを目指すんです?
>>0.008くらい
>教えてくれてありがとう
>自分で学習させるときの参考にしてみよう
ごめん0.008じゃなくて0.08だった
2226/07/02(木)19:20:49No.1445534190そうだねx1
>ANIMAは学習効率いいからSDXLとかと同じペースでやると後半ほぼ過学習で無駄になるよ
>SDXLだと10000stepとかまで回すけどANIMAは最大1500step
>それ以上はほぼ無駄になる
これは学習率とかによるんじゃない?
2326/07/02(木)19:22:14No.1445534583+
そういえばimgでAIの技術的な話してるところってあんまり見ないよな
2426/07/02(木)19:24:01No.1445535124+
デカいDimには夢があるよね
実用性があるかはわからないけど…
2526/07/02(木)19:25:15No.1445535490+
単純に規定ステップごと保存とかすると過学習になる前のいい感じのやつが出来てたりするからおすすめ
もうやってるかもだけど
2626/07/02(木)19:25:16No.1445535495+
>>sd-scriptsの日本語GUI作ってる人のプリセット試した?
>試してない
>Dim: 16 / Alpha: 8
>5e-5
>この辺が俺の設定と違うや
>ちょっと試してみる
もしかしてdim 32/alpha 16とかでやってた?
2726/07/02(木)19:27:13No.1445536066+
>単純に規定ステップごと保存とかすると過学習になる前のいい感じのやつが出来てたりするからおすすめ
>もうやってるかもだけど
どう確認してる?
経過画像で極端に崩れてるのとかはさておき
経過で生成される画像自体は大体良さげに見える
実際そのモデルで色んなポーズとか試してみると破綻に気づくんだけど
一回の学習で20個とかモデルできるわけじゃん
スイートスポット周辺のだけチェックするとしてどうやってスイートスポットだと判断してる?
2826/07/02(木)19:27:57No.1445536300+
>スイートスポット周辺のだけチェックするとしてどうやってスイートスポットだと判断してる?
2926/07/02(木)19:28:24No.1445536453+
勘…
3026/07/02(木)19:29:32No.1445536805+
>スイートスポット周辺のだけチェックするとしてどうやってスイートスポットだと判断してる?
明らかに学習不足なのと逆に過学習なのはすぐに捨てて残った中から再現性とかチェックしていって最後は自分の好み
3126/07/02(木)19:31:09No.1445537265+
5ポイントくらい観測して良さげなポイント周辺を絞り込んでいくくらいの大雑把さで良いんじゃないかなあ…
3226/07/02(木)19:56:45No.1445544790+
学習素材が悪い場合が多いと思うよ


1782985466253.jpg