ТЕХНОТРЕД №3 ИТТ делимся результатами обучения, советами, лайфхаками, наблюдениями, обсуждаем внутр /tech/
Аноним
27/01/23 Птн 13:51:37
№
1
ИТТ делимся результатами обучения, советами, лайфхаками, наблюдениями, обсуждаем внутреннее устройство диффузионных моделей, собираем датасеты, решаем проблемы и экспериментируем
Тред общенаправленныей, тренировка дедов, лупоглазых и фуррей приветствуются
➤ Гайды по обучению
Существующую модель можно обучить симулировать определенный стиль или рисовать конкретного персонажа.
✱ Текстуальная инверсия (Textual inversion) может подойти, если сеть уже умеет рисовать что-то похожее:
https://rentry.org/textard (англ.)
✱ Гиперсеть (Hypernetwork) может подойти, если она этого делать не умеет; позволяет добавить более существенные изменения в существующую модель, но тренируется медленнее:
https://rentry.org/hypernetwork4dumdums (англ.)
✱ Dreambooth – выбор 24 Гб VRAM-бояр. Выдаёт отличные результаты. Генерирует полноразмерные модели:
https://github.com/nitrosocke/dreambooth-training-guide (англ.)
✱ LoRA – "легковесный Dreambooth" – подойдет для любых задач. Отличается малыми требованиями к VRAM (6 Гб+) и быстрым обучением:
https://rentry.org/2chAI_LoRA_Dreambooth_guide
✱ Text-to-image fine-tuning для Nvidia A100/Tesla V100-бояр:
https://keras.io/examples/generative/finetune_stable_diffusion/ (англ.)
Бонус. ✱ Text-to-image fine-tuning для 24 Гб VRAM:
https://rentry.org/informal-training-guide (англ.)
➤ Гугл колабы
﹡Текстуальная инверсия: https://colab.research.google.com/github/huggingface/notebooks/blob/main/diffusers/sd_textual_inversion_training.ipynb
﹡Dreambooth: https://colab.research.google.com/github/TheLastBen/fast-stable-diffusion/blob/main/fast-DreamBooth.ipynb
﹡LoRA [1] https://colab.research.google.com/github/Linaqruf/kohya-trainer/blob/main/kohya-trainer.ipynb
﹡LoRA [2] https://colab.research.google.com/drive/1bFX0pZczeApeFadrz1AdOb5TDdet2U0Z
➤ Полезное
Гайд по фиксу сломанных моделей: https://rentry.co/clipfix (англ.)
Расширение WebUI для проверки "сломаных" тензоров модели: https://github.com/iiiytn1k/sd-webui-check-tensors
Гайд по кручению весов слоев моделей: https://rentry.org/mp2dt
Гайд по апскейлу: https://rentry.org/SD_upscale
Подборка мокрописек от анона: https://rentry.org/te3oh
Группы тегов для бур: https://danbooru.donmai.us/wiki_pages/tag_groups (англ.)
Коллекция лор от анонов: https://rentry.org/2chAI_LoRA (заливать лоры можно сюда https://technothread.space/ пароль 2ch)
Гайды, эмбеды, хайпернетворки, лоры с форча:
https://rentry.org/sdg-link
https://rentry.org/hdgfaq
https://rentry.org/hdglorarepo
https://gitgud.io/gayshit/makesomefuckingporn
Сервер анона с моделями: https://static.nas1.gl.arkprojects.space/stable-diff/
Шапка: https://rentry.org/ex947
Прошлые треды:
№1 https://arhivach.ng/thread/859827/
№2 https://arhivach.ng/thread/860317/
https://github.com/anon-1337/LoRA-train-GUI/releases/tag/v0.2
Из основных возможностей это вкладки, которые будут обучаться последовательно и импорт/экспорт настроек
Пушисто закатился
Ты же осознаешь, что ты мог просто сделать экстеншон для сд?
Делал в первую очередь для себя. У меня 6 гб врам и браузер её жрет нещадно и режет скорость достаточно сильно. +я не знаю что такое градио
>браузер её жрет нещадно
Отключить аппаратное ускорение, не?
>я не знаю что такое градио
А мог бы узнать, точно так же как узнал про dearpygui
Я могу в теории попробовать сделать расширение для сд. Но это будет куда сложнее чем сделать простую обертку для скрипта, как минимум мне нужно понять как выгрузить модель из памяти, потому что у меня лично автоматик 2 гб врам отжирает просто ничего не делая
Каво бля? Разве лора не на модели тренируется? Нахуя ее выгружать?
А, я тебя понял, скрипты с автоматиком никак не связаны. Ну хуй знает тогда.
Ну я тупанул. Все равно проще особо не становится, это получается надо форкать репо китайца и шерудить там под капотом, чтобы запускать тренировку не посылая аргументы левому скрипту, а как бы нативно из автоматика. Это очень интересная задача и я не против ей заняться, но я не уверен что моих текущих знаний достаточно чтобы это реализовать
советом лучше помоги
Всё что нужно на новой версии поменять, это поставить (при network_dim = 128, network_alpha = 1) learning_rate в 10 раз выше рекомендуемого (т.е. 1e-4 -> 1e-3) и всё будет работать ИЗКАРОПКИ. Дайте шанс китайцу
инби4: кохъя-лахта
>>82524
Не стесняйся делиться. В шапке есть ссылка на репозиторий, если мне не лень я туда добавляю то что скидывают, но в последнее время суперлень ебаться с разметкой и заливать туды-сюды папки с датасетами и сетками, но ты можешь сам добавить туда своё пароль для редактирования 2ch
>800 шагов
У меня 3200 шагов уходит на концепт перса.
>делиться
Если бы, ты ведь меня недолюбливаешь. Уже понял кто я, да?
>1e-3
Не работает у меня.
> У меня 3200 шагов уходит на концепт перса.
Охуеть
> Уже понял кто я, да?
Нет, няш, я не помню чтоб кого-то недолюбливал. Если ты тот анон с эмбедингами и спич баблами, то я извиняюсь за тот инцидент, мне не стоило помогать когда я сам не до конца разбираюсь. Если ты не он, то возможно с кем-то меня путаешь?
> Не работает у меня.
Да как так-то блджад, что именно-то не работает, могу попробовать помочь
...
ОХУЕТЬ!
>textual inversion
Зачем это хуево работающее, медленное и кривое говно поддерживать? Для чего?
Нижний пост - твой? У тебя же ничего не работало на этой скорости, почему заработало?
Кек, да мне похуй в целом уже. Но все равно неприятно когда просят совета, ты его даешь, человек советом не пользуется и потом говорит всем что совет говно. Уж пойми
Как у тебя дела с сетками? Заебатые теперь получаются?
>>82591
Если у китайца хорошая имплементация TI, то почему бы и нет? Это инструмент для своих задач. Даёт другие результаты. Я хоть и считаю что лора это киллерхуйня, но лора + эмбед > лора
>>82599
Да, это мой пост. Как оказалось вся проблема была в ебучем автоматике, я не смотрел в консоль, а там писало что сетка не грузится, даже учитывая что я пользовался расширением китайца. Обновил автоматика и все сетки заработали. 1е-3 дал отличные результаты на малом количестве шагов, мне понравились больше чем старые до альфы на 1е-4
>Как у тебя дела с сетками? Заебатые теперь получаются?
Вот такие получаются.
1 пик - Kasen Ibaraki.
2 пик - Yuuma Toutestu.
>Тохофаг
Ага, сегодня ночью соберу датасет на Shion Yorigami и оттреню её
>Обновил автоматика
А вот я боюсь обновляться.. Из-за производительности и криворукости автоматика
Я не боюсь. Сохраняешь в блокнотик хэш текущего коммита, пуллишь, не нравится - возвращаешься
Кстати китаец для своего расширения повыкатывал фиксы, есть смысл начать с него
Да, я знаю про git checkout, но все равно тряска. Мб позже и обновлюсь. Сейчас все работает и я доволен.
Вот что выдает "train_network.py: error: unrecognized arguments:"
Как обучить лору на собственно перса? Есть идеи у треда? Это важная проблема SD - невозможность создания авторских персонажей. В соседнем треде анон продвинулся в проблеме решения генерации кривых рук, надеюсь, что он своё изобретение все же опубликует, а не зажмотит.
Этим не надо пользоваться, пользуйся скриптом. В гуи нет защиты от дурака, да и не удобный оне.
>1) Собрать датасет с персом
Вот это главная проблема, спавнит в рандомной одежде. Хер знает как это решать
Я даун, пофиксил, можешь перекачать
>>83060
Скачать, открыть, заполнить поля, нажать "Запустить"
Сколько пикч в дата-сете? Зеркалил? Сколько повторений?
Игрался с скоростями. Над этим персонажем 5e-5 дала результат неплохой. Слабый-мягкий, но легко редактируемый.
В нем было 94 пикчи уникальных, cosine_with_restarts, 12 повторений, 8 эпох.
1 пик - 5e-5
2 пик - 1e-3
3 пик - на старой версии с 1e-4
4 пик - на старой версии с 1e-4 и 24 пикчи
А вот с совсем другим персонажем и дата-сетом на 26 уникальных пикчи с теми же настройками нихрена не вышло на новой версии и 5e-5. От персонажа ни одной детали не взялось. А на 1e-3 наоборот ели-ели задний фон редактируется.
Видимо для 5e-5 надо иметь большой дата сет. Минимум 100 пикч без учета отзеркаливания.
14 пикч х 9 повторений и 13 пикч х 3 повторения. Ничего не зеркалил, все пикчи уникальные. 1е-3 linear
> нихрена не вышло на новой версии и 5e-5. От персонажа ни одной детали не взялось. А на 1e-3 наоборот ели-ели задний фон редактируется.
5e-5 это крайне мало, тем более для новой версии. Если на 1е-3 сеть перетренировалась, попробуй 5е-4
> Видимо для 5e-5 надо иметь большой дата сет
Запоминание концепта вряд ли зависит от количества пикч в датасете, оно зависит скорее от разнообразия этих пикч и скорости обучения
> вряд ли
Вот на 3 не выйдет ничего обучить, тут минимум от 15-20 начинается.
Ну как сказать...
https://github.com/cloneofsimo/lora/discussions/69
Тю блять, забыл негативы подрубить. Но не суть, все равно что-то не то
Существует подробное объяснение принципа тренировки самого СД? Что такое "нейрон", что конкретно пишется в файл модели и т.п.
>>81795 →
Помацал. На пре 0.4.0 работает, найс.
По сохранению настроек - не сохраняется путь к папке sd-scripts, не сохраняется нетворк альфа с пустым значением (с обычным сохраняется) и батч сайз.
Алсо, сделай что бы по умолчанию при запуске гуи открывалась вкладка. А то без открытой вкладки настройки не импортируются, сейвит один клик, лол.
Глянул в код и мне кажется ты забыл прописать присвоение переменной батч сайза к соответствующему аргументу, т.к. оно игнорирует выставленный в гуи батч сайз.
И сделай значение "сохранять только последние n эпох" наверное 999 как раньше, а то я уже успел обосраться с этим))0))).
У меня мои лоры постоянно пополняются, если тебе надо - ты и тренируй.
Ага, учел, спасибо за фидбек, буду править
На счёт сохранения папки sd-scripts я пока не знаю. Не умею работать с реестром. Поэтому остается два варианта: либо файлик текстовый генерировать в папке с гуем, из которого подхватываются начальные настройки, либо сделать так, что если гуй находится в папке со скриптом, автоматически заносить путь в необходимый инпут
>>83804
Спасибо. Как разберусь с правильными настройками на 0.4.0, перетреню, вдруг еще лучше будет
>>83837
Потому что мне лень, другие дела. Пароль 2ch, если хочешь добавить что-то своё
>>83930
Я еще раз повторяю: МНЕ НЕ НУЖНЫ НУЛЕВЫЕ ТЕНЗОРЫ
Сделай словарь, в котором будут храниться все параметры и сохраняй его в JSON или yaml.
Я не умею. Ты тоже с первого дня пользовался json или yaml? Сделал в соответствии со своими знаниями. В следующий раз будет лучше. Извините.
Ты мне лучше скажи как реализовать вкладки правильно, чтобы не нужна была функция append_instance_number()
Всё, сделал. Оказалось с реестром всё не так страшно, теперь после нажатия кнопки "запустить" путь к папке sd-scripts отправляется туда и после этого подхватывается при запуске. И еще если в папке с гуем есть файл "ltg_default.ini", каждая вкладка будет подхватывать значения оттуда
Только маленький нюанс: пришлось переименовать кучу переменных для удобства, чтобы их названия соответствовали таковым из китайцоскрипта, поэтому старые конфиги не подойдут. За это извиняюсь, надо было изначально нормально всё проименовать
Новую версию на тестовой сетке протестил, в этот раз не должно быть как обычно
https://github.com/anon-1337/LoRA-train-GUI/releases/tag/v0.21
Это понятно. Я на ноутбуке, остальные элементы интерфейса тогда становятся комически крошечными. Явно же есть где-то в файлах настройки их скейлинга. Подскажите хотя бы, где искать, я совсем не шарю.
Ну вообще сохранение пути сдскриптс в ини было бы норм, впрочем и так норм наверное
Теперь вылезает нюанс при импорте настроек в виде пик 1. При этом из такого же файла дефолтных настроек все подгружает без ошибок. Настройки свежие офк
Батч сайз все еще игнорируется Где?
>поэтому старые конфиги не подойдут
Это норма
>>84369
> Хранить настройки в реестре очень хуёвая идея
Почему кста? Вроде дохуя 3рд пати хранят некоторые настройки в реестре
>>84384
> Такой вопрос есть
Можешь через стили это попробовать решить, ватоматик объявлял поддержку
https://github.com/AUTOMATIC1111/stable-diffusion-webui/wiki/Features#usercss
Тыкаешь f12, выбираешь элемент, смотришь как он называется, теребишь длину-ширину, если работает, то создаешь свой файл css с описанием характеристик т.е. длины и ширины и кидаешь куда надо. Описал примерно, я глянуть не могу, т.к. не хочу гитпулить
Для создания своего грида у вас есть два варианта использования:
1. Вы либо делаете форк/копию и засовываете свой config.json в корень проекта
2. Либо вы ссылаетесь на мою репу (ну или на свой форк) и передаёте путь до конфига в queryParams, как в примерах ниже. Хотя не думаю, что вам имеет смысл использовать такой вариант, я его скорее для себя делал, чтобы если обновы делать буду, то сразу ко всем гридам правки применялись.
Если всё же будете использовать второй вариант, то нужно убедиться, что ваш стор не блочит cross-origin запросы. В идеале, для этого грида надо ещё добавить поддержку зума по типу того, как другой анон тут делал - https://diffai.xyz/grid/ewZc47dGmRQ
Проблема в том, что для реализации зума надо создавать несколько тайлов для разного масштаба. Я исследовал этот вопрос пару месяцев назад, и, в целом, можно провернуть трюк с тем, что тайлы можно создать полностью на фронте в момент, когда вы грид оформляете (у меня с головой всё относительно в порядке, так что я не планирую какую-то инфраструктуру для нужд двачеров поднимать) и потом выплёвывать юзеру zip архив со всеми тайлами, но для этого надо UI пилить, а мне пока лень, поскольку это никому не нужно, так что пока так.
Ридми потом оформлю, я уже задолбался на сегодня. По пику я думаю формат конфига должен быть понятен.
Грид по гиперу Сенко в стиле Римукоро для Abyss Orange Mix:
https://neurosenko.github.io/sd-grid-viewer/?configUrl=https://neurosenko.github.io/sd-grids/orange-senko-by-rimukoro/config.json
Грид по гиперу Сенко в стиле Римукоро для Anything V3.0:
https://neurosenko.github.io/sd-grid-viewer/?configUrl=https://neurosenko.github.io/sd-grids/any3-senko-by-rimukoro/config.json
Старый грид для Шинобу:
https://neurosenko.github.io/sd-grid-viewer/?configUrl=https://neurosenko.github.io/sd-grids/nai-shinobu-example/config.json
---
Публикую свои гиперы для Сенко в стиле Римукоро. Уже вкидывал их раньше в тред, но добавил описание, наконец.
Abyss Orange Mix:
https://huggingface.co/NeuroSenko/abyss_orange_mix_senko_by_rimukoro_hyper
Anything V3.0:
https://huggingface.co/NeuroSenko/any3_senko_by_rimukoro_hyper
any222trinart:
https://huggingface.co/NeuroSenko/cab_senko_by_rimukoro_hyper
По фреймам из аниме я тоже пытался тренировать модели, но мне они не особо понравились, так что, наверное, не буду их публиковать пока.
---
Так же публикую свои датасеты на Сенко.
Все арты Римукоро:
https://huggingface.co/datasets/NeuroSenko/senko_by_rimukoro
Все фреймы из аниме (773 изображения):
https://huggingface.co/datasets/NeuroSenko/senko_anime_full
Все фреймы из аниме с фильтрацией неудачных кадров (629 изображений):
https://huggingface.co/datasets/NeuroSenko/senko_anime_no_bad_frames
Фреймы из аниме с фокусом на лицо (404 изображений):
https://huggingface.co/datasets/NeuroSenko/senko_anime_face_only
Фреймы из аниме где видно одеяние мико (213 изображений):
https://huggingface.co/datasets/NeuroSenko/senko_anime_miko_visible
SD скейлер больше не нужен
Его ещё в 20 наитреде обсуждали, его отличие от сдапскейла примерно нихуя
Даже объяснять лень где ты не прав и почему, иди обратно в анимушный загон.
>обсуждали
че могли обсуждать брейнлес пчелы со скопипасченными (((()))) и жереми липкингом?
Если модель норм грузится в память по дефолту и рендерит без отвалов то никакие оптимизаторы врама не нужны.
Потому что ты не прав, довен бля, его тестили прямо в треде. Результат - примерно нихуя, на уровне погрешности.
>>84646
Показывай как пользоваться, умник бля.
>>84350
>>84014
>>84051
>>84053
>>84065
>>84073
>>84076
https://github.com/anon-1337/LoRA-train-GUI/issues
https://github.com/anon-1337/LoRA-train-GUI/issues
https://github.com/anon-1337/LoRA-train-GUI/issues
Я тестил, вопросы?
Если есть 12гб и больше, то ультимейт не нужен. В то время как цель хорошего апскейла сделать как можно меньше тайлов, то ультимейт наоборот делает их много + ещё и проходится потом вторым проходом, уничтожая детали. Он нужен только, если ты не можешь штатным сделать нормально, т.е. ограничен врам.
Какой же смешной подрыв тралёнка, обнаружившего, что его любимая новая игрушка нравится только ему. Апскейлил дольше чем ты знаешь про сд, запустил лдср и принес валар в /б. Что ещё расскажешь?
>грю
гри дальше, деревня.
> Ебать достижение
Что-то не скопировал раньше никто. Про валар вообще не слышали.
>>84857
> чсвшный
Я же не пишу это в каждом посте итт, глурый, а чтобы ты понимал, что я не первый раз апскейл вижу. Конкретно к обсуждение новой мокрописьки, которую ты только увидел и решил притащить сюда. А её давно протестили и выбросили как мусор ничем не выдающуюся
>чсвшный мудень продолжает строить из себя что-то хотя ему настойчиво рекомендовали завалить ебало
прикольно, говно отыгрывает маняэксперта
Ладно, тут анон(-ы) жалуется что оффтоп и в принципе я согласен, буду обновлять теперь молча, если есть какие-то проблемы можно создать ишью, или на крайняк если не хочется палить гитхаб можно написать тут кратко. Следи за релизами
>>84369
Меня переполняет любопытство почему?
А ты посмотри на себя со стороны, вы друг друга стоите по уровню щитпостинга и малоинформативности.
Каждое значение unet lr имеет две вариации: text encoder lr = unet lr и text encoder lr = unet lr / 2
Все остальные настройки абсолютно одинаковые, в т.ч. сид
Беглым взглядом по графикам что-то сказать сложно, да, есть закономерность что чем больше lr, тем меньше loss, но это ни о чем не говорит, тем более значения отличаются минимально
Гриды в процессе
>>85038
Такими задницами, как справа
LDSR еще вымораживает тем, что он пол часа грузится, а потом при генерации выдает ошибку, мол вае твое говно, ставь ноу халф вае.
>>85058
Какой командой обновлять автоматик? А то чет он по дкфолту сам не обновляется.
>Какой командой обновлять автоматик? А то чет он по дкфолту сам не обновляется.
Я-то на колабе, я всегда делаю клон
git clone https://github.com/AUTOMATIC1111/stable-diffusion-webui
А тебе, наверное, надо делать git pull
Или хоть на вертикальный стабильно ставить.
Кто-нибудь что-нибудь подобное пробовал?
хоба
Что это? Как это исправить?
Так, ну сделались гриды
1 пик, UNet LR = 1е-4: нормальные результаты, отличная редактируемость. Очень медленная скорость: у сети проблемы с отображением концепта, персонаж не похож на ГТ. Касаемо разных скоростей ТЕ: трудно сказать чем они отличаются. У меньшей скорости ТЕ проблемы с запоминанием концепта заколки на волосах персонажа (она присутствует на каждом изображении датасета) - не в том месте и не той формы. У большей скорости с этим получше, но все равно далеко. По внешности +- одинаково, трудно выбрать победителя.
Вывод. 1е-4 - не очень хороший выбор для обучения на 0.4.0, обучить сеть концепту(-ам) вероятно можно, но потребуется большое количество шагов, что немного нивелирует плюс Лоры как быстрого способа обучения. Возможно попробую еще раз на большом количестве шагов. Какую скорость ТЕ брать: трудно сказать, нужно еще тестировать. На такой маленькой дистанции (1.5к шагов) однозначно сказать трудно.
2 пик, UNet LR = 3e-4: хорошие результаты, но уже появляются следы отхода рисовки от модели в последних эпохах. Концепт намного больше похож на ГТ (оно и логично, скорость обучения UNet возросла в 3 раза). Разные скорости ТЕ: цвет волос концепта на меньшей скорости более консинстентный (субъективно). У обеих скоростей ТЕ проблемы с концептом заколки примерно одинаковые. Меньшая скорость ТЕ даёт чуть большую редактируемость + генерации меньше отходят от стиля рисовки модели (субъективно + малая выборка).
Вывод. 3е-4 хорошая скорость для обучения, но всё же не очень быстрая для Лоры, поэтому вероятно потребуется большее количество шагов. Но это будет гораздо быстрее, чем тренировать на 1е-4. Какую скорость ТЕ брать: я бы брал 1.5е-4 (субъективно).
3 пик, UNet LR = 5e-4: хорошие результаты, заметно более низкая редактируемость и bias в сторону стиля датасета, а не модели. Персонаж также достаточно сильно похож на ГТ, но не сказать что сильно обошел 3е-4, на уровне погрешности. Меньшая скорость ТЕ заметно лучше справляется с генерацией в стиле модели, меньший bias в сторону датасета (субъективно). У обеих скоростей ТЕ проблемы с редактируемостью, но у более низкой скорости она лучше (опять же, субъективно).
Вывод. Для быстрой тренировки 5е-4 подойдет. Быстро понимает основной концепт и также быстро уменьшает редактируемость и вариативность и вносит изменения в стиль рисовки модели. Какую скорость ТЕ брать: однозначно уменьшенную (имхо).
4 пик, сравнение всех финальных эпох со вчерашней тестовой сеткой (LR 1e-3): 1е-3 просто уничтожает картинку. Сеть страшно перетренирована на крупных деталях: полное отсутствие какой либо мелкой детализации, уничтоженные контуры, околонулевая редактируемость, гигантский bias в сторону рисовки датасета. Тем не менее лучше всех справилась с заколкой, хоть она и по-прежнему далека от ГТ.
Вывод. Я не нашел применения такой большой скорости. Возможно я что-то делаю не так. Возможно стоило добавить приличный warmup для планировщика, потому что сеть без него стартует с гигантской скорости. Возможно ситуацию мог спасти другой планировщик, какой-нибудь рабочий polynomial (но ни в коем случае не constant). Возможно нужно было тренировать на меньшем количестве шагов. Нужно экспериментировать а у меня слабое железо и это займет вечность
в китайцоскрипте от него никакого толку, потому что этот планировщик в его имплементации не поддерживает важные дополнительные переменные и polynomial имеет ровно такой же график как linear
Что дальше? Пока думаю. Нужные значения имхо лежат где-то в районе первых двух результатов. Несмотря на не очень большую схожесть с ГТ, мне понравились результаты 1е-4 с уполовиненной скоростью ТЕ: отличная редактируемость, отсутствие bias в сторону датасета. Если я правильно понимаю, большее количество шагов должно спасти ситуацию. У сети будет больше времени обучиться концепту и она не "задавит" своими весами веса модели из-за маленькой скорости. Минус этого варианта очевидный: увеличенное время тренировки. Раньше я мог на своём корыте натренировать персонажа за 20-40 минут и получить нормальные результаты, но с обновлением 0.4.0 это больше не так. Видимо либо качество, либо скорость. Я всё же придержусь мнения что тренировать нужно только на 0.4.0, потому что в этой версии ввели то, что должно быть изначально, альфа - это переменная которая всегда была в оригинальном репо cloneofsimo, даже изменение переменной ранка (network_dim) появилось не сразу.
Вот бы нам анона с 4090, которому не лень было этим заняться. Уже бы давно всё порешали и тренили отличные сетки без нулевых тензоров на 0.4.0.
Макаба сломала мне разметку, имелось в виду
> рабочий polynomial(звездочка)
> (звездочка)в китайцоскрипте от него никакого толку, потому что этот планировщик в его имплементации не поддерживает важные дополнительные переменные и polynomial имеет ровно такой же график как linear
Что значит "перетренирована", мне может кто-нибудь объяснить? Как сеть может быть перетренирована, как это понимать из картинки нахуй?
>Вот бы нам анона с 4090, которому не лень было этим заняться.
Чем конкретно надо заняться?
анон с 4090
Да какой оффтоп, хз, как по мне это релейтед, уж точно надохуя чем срунесрачи на 50 постов
>анон(-ы) жалуется
Вахтер
Тут удобнее чем на гитхабе
> > Хранить настройки в реестре очень хуёвая идея
> Почему кста? Вроде дохуя 3рд пати хранят некоторые настройки в реестре
Потому что
1) В linux ВНЕЗАПНО нет реестра, а твоей программой в теории могут пользоваться его пользователи.
2) Эта программа подразумевает некоторую портативность. При использовании файлов с настройками ты можешь создавать сколько угодно копий программы разных версий не боясь конфликтов между ними. Так же ты можешь переносить свои конфиги с одного компьютера на другой или делиться ими с другими пользователями. В случае с реестром это будет боль.
Линукс-кун а треде все в айклоунд
Два чаю. Привязывать к реестру - не лучший выход. JSON в пихоне должен писаться и читаться одной строчкой (т.е. одной - читаться и ещё одной - писаться). И можно иметь разные версии конфигов и переключаться между ними переименованием файлов.
Дай линк на сорцы, мож чё умное присоветую.
У третьей перелом лодыжки. Опасное дело - спорт.
Можно промт и модель? Не на перелом лодыжки, а на первые две
!sudo systemctl telepathy start
Пробелы в путях? Кириллица? Прописать абсолютный путь?
Я понимаю это так, что сеть "слишком сильно обучается" тому, чему ты её учишь и ничего кроме тренируемого концепта воспроизвести не может
>>85358
Ну вот этой хренью что я занимаюсь. Берется один датасет, одни настройки, один сид и хуярится пять тыщ сеток с чутка разными настройками, потом гриды где всё это дело сравнивается. Мы находим нормальный диапазон значений для тренировки и всё счастливы. Все тренят на 0.4.0, кохъялахта остается без работы, мир погружается в утопию
>>85372
Ок, остаемся здесь
Бля пиздец чувствую себя как собака, мне говорят одно я делаю, мне говорят другое я делаю
>>85441
Держи, анон. Если не лень и есть время, разъеби по фактам и насоветуй всего что в голову приходит, как сделать этот код нормальным. Из основного что меня тревожит, это то как реализованы вкладки и то, что каждая новая вкладка открывается дольше предыдущей до тех пор, что на плюсик приходится нажимать аж несколько раз
https://github.com/anon-1337/LoRA-train-GUI
>>84076
У тебя подход изначально неправильный. Не питонический и не ООПшный.
Создай словарь, в котором будут описаны все поля и параметры вкладки по умолчанию.
Создай список, в котором будут храниться все экземпляры вкладок.
Создай класс, конструктор которого будет загружать поля из этого словаря или другого указанного:
tab_settings_dict={"input_ckpt_path": "./", "checkbox_is_sd_768v_ckpt": False, "checkbox_is_sd_2x_ckpt": False, ... и т.д.}
tabs = list()
class lora_tab():
....def __init__(self, input_dict, *kwargs):
........for dictionary in input_dict:
............for key in dictionary:
................setattr(self, key, dictionary[key])
........for key in kwargs:
............setattr(self, key, kwargs[key])
При создании новой вкладки (в начале функции add_lora_tab) просто создавай новый экземпляр:
tabs.append(lora_tab(tab_settings_dict))
Теперь ты сможешь обращаться к параметрам любой созданной вкладки через её номер(индекс в списке) и поле:
tabs[0].checkbox_is_sd_768v_ckpt
Индекс созданной новой вкладки будет последним:
tab_num = len(tabs)-1
Так же ты можешь выгрузить все параметры любой вкладки в словарь и таким образом сохранить их в файл json:
with open('tabsettings.json', 'w') as json_file:
....jsonDict = json.dumps(tabs[0].__dict__)
....json_file.write(jsonDict)
И соответственно можешь сделать наоборот — загрузить параметры из файла
with open('tabsettings.json') as json_file:
....jsonDict = json.load(json_file)
....tabs[0].__dict__ = jsonDict.copy()
Так же можешь копировать значения из одной вкладки в другую:
tabs[2].__dict___ = tabs[0].__dict___.copy()
Единственное что нужно будет написать два колбека.
Один должен будет вызываться в каждом элементе gui и при изменении его состояния должен будет изменять соответствующее поле в своем экземпляре.
Например
dpg.add_checkbox(tag = f"checkbox_is_sd_2x_ckpt{tab_num}", label = "Stable Diffusion 2.x", before = f"checkbox_is_sd_768v_ckpt{tab_num}", default_value=tabs[tab_num].checkbox_is_sd_2x_ckpt, callback=elements_callback, user_data=(tab_num, "checkbox_is_sd_2x_ckpt"))
А колбек должен будет выглядеть примерно так.
def elements_callback(sender, app_data, user_data):
....tab_num=int(user_data[0])
....tab_setting=user_data[1]
....setattr(tabs[tab_num], tab_setting, app_data)
Теперь если тыкать на этот чекбокс значение tabs[tab_num].checkbox_is_sd_2x_ckpt будет принимать значение True или False
Второй колбек должен делать всё наоборот. При загрузке параметров из файла он должен изменять состояние каждого соответствующего элемента gui при помощи dpg.configure_item
Либо при загрузке параметров из файла создавать новую вкладку с параметрами из указанного словаря.
Можно, например, у функции add_lora_tab добавить параметр input_file_dict, который по умолчанию имеет значение None
def add_lora_tab(sender, app_data, input_file_dict= None)
Параметры sender и app_data обязательны, потому что это колбек-функция.
После чтения файла создавать новую вкладку:
with open('tabsettings.json') as json_file:
....jsonDict = json.load(json_file)
....add_lora_tab(input_file_dict = jsonDict)
И дальше проверять — если параметруказан, то брать значения из него при создании экземпляра вкладки:
if tab_dict != None:
....tabs.append(lora_tab(input_file_dict))
> и то, что каждая новая вкладка открывается дольше предыдущей до тех пор, что на плюсик приходится нажимать аж несколько раз
Это из-за хинтов _help
Вообще советовать DPG была плохая идея, лол. Слишком он уж всрат. Лучше было бы использовать tkinter или PyQt. У них порог входа выше, но они гораздо лучше.
Спасибо тебе огромное что не поленился и расписал! Буду курить твои советы, читать документацию и потиху править код. Не знаю только что такое __dict__ и *kwargs.
>>85827
> Слишком он уж всрат
Но кстати дизайн интерфейса у него приятный.
Как сделано у тебя:
gui.add_combo(["linear", "cosine", "cosine_with_restarts", "polynomial", "constant", "constant_with_warmup"], tag = append_instance_number("combo_scheduler"),default_value = "linear", width = -1, callback = scheduler)
Так делать не надо. Создай кортеж с котором прописаны все эти элементы
schedulers = ("linear", "cosine", "cosine_with_restarts", "polynomial", "constant", "constant_with_warmup")
При создании элемента указывай этот кортеж
gui.add_combo(items = schedulers,
В default_value указывай индекс.
default_value = schedulers[0]
В колбеке так же работай со значениями app_data по индексу
def schedulers_callback(sender, app_data):
....schedulers.index(app_data)
Теперь если тебе нужно будет добавить или убрать количество планировщиков, то достаточно будет изменить только кортеж schedulers.
>>85859
Хорошо, спасибо еще раз
Сколько пикч было в дата-сете? Какого разрешения?
Можно в крадце. Если ты говоришь про 2 способ, т.е. брать UNet LR 3e-4, а TE 1.5е-4, то какую основную LR ставить? А планировщик?
Планировщик я брал linear. В датасете 11 пикч 12 повторений + 15 пикч 3 повторения, итого 26 уникальных пикч, одна эпоха равна 177 шагам. Основной LR можно никакой не ставить. Значения UNet LR и TE LR переопределяют основной LR. Ты либо тренишь на одинаковой скорости и UNet и LR, выставляя только основной LR (UNet LR = LR, TE LR = LR), либо ставишь свои значения в отдельные скорости и основной LR как параметр не используется.
Оформил гит пул и тоже сгорел. Ватоматика надо пиздить палками.
Кароч, открываешь style.css в корневой папке. Ищешь там .extra-network-cards .card , после него меняешь width: 16em; height: 24em; ставишь 6em и 12em соответственно например. Это ширина и высота панели в размерах текущего шрифта.
Потом идешь .extra-network-cards .card .actions .name , под ним меняешь font-size: 1.7em; на 1.2em например, это размер шрифта названия.
Сохраняешь, рестартишь градио, получаешь такое.
Обновляться потом через гит ресет или подкидываешь забекапленный файл
Спасибо.
>Обновляться потом через гит ресет или подкидываешь забекапленный файл
Можно подробнее? Писать не git pull а git reset и потом делать то же самое в .css?
В натуре. 128 это оверкилл какой-то. Буду тренить теперь на 8-32. Повелся на дурачков с форча
>>86552
пока мальчик трясётся за свои мегабайтики, мужчина зарабатывает на очередной трбайтный ссд.
> Можно подробнее?
Бля, сорян. Кароч если через гит пул не сможет, то пишешь git reset --hard HEAD все откатится до до последнего коммита, дальше git pull. Ну или просто возвращаешь обратно исходный файл что бы перестало ругаться и гитпулишь как обычно.
>и потом делать то же самое в .css?
Ага
С терабайтными ссд проблем нет, вопрос скорее "нахуя?"
Делал все по гайду тренинга лоры, дошел до запуска скрипта пикрил. А как его запустить-то? Это же блокнот! На .\train_network.ps1 что в павершеле, что в командной строке выдает
>не распознано как имя командлета, функции, файла сценария или выполняемой программы. Проверьте правильность написания имени, а также наличие и правильность пути, после чего повторите попытку
>не является внутренней или внешней командой, исполняемой программой или пакетным файлом.
Ты в папку с файлом-то зашел? В powershell.
ls напиши и проверь что файл есть в списке
Вот он у меня закинут в папку сд скриптс. В списке есть. Павершел с момента выборов не закрывал.
Выйди из венв перезапусти
>>86863
Че так сложно? Просто через пкм или открываешь павершелл через пуск и тупа кидаешь в него файл
Попробуй сделать
Set-ExecutionPolicy -ExecutionPolicy Unrestricted -Scope CurrentUser
Делал в самом начале, нагуглил когда начало выдавать ошибку.
>>86878
>Выйди из венв перезапусти
Сделал.
>открываешь павершелл через пуск и тупа кидаешь в него файл
Без админа - просто открывает блокнот. С админом - пикрил.
Пкм - свойства - подробно - имя
показ расширений надо включать
Запустил вроде.
Решение как всегда нашлось на каком-то форуме за 2011 год.
я тоже долго мучался, понять не мог, что это не расширение ps1 стоит, а просто часть имени.
Бля, как же надоели стандартные стили моделей, а поменять не могу...
Хуита, на стиль влияние минимальное.
Я знаю что granblue fantasy работает на аниме-моделях, но больше я ничего не знаю.
Спасибо за сравнение
Мимо тот, у кого 32мерные лоры получились лучше, чем 128, а первая, на дримбутовском дополнении, еще до всего этого хайпа, то есть размерности 4, еще и более редактируемая
Вот кстати, у этих лосей есть нисходящий тренд. Помню в обсуждениях на гитхабе все пытались добиться нисходящего тренда от имбеддингов и гиперсеток ( и ведь добились https://github.com/AUTOMATIC1111/stable-diffusion-webui/discussions/7011 ). Интересно, что будет, если продолжить тупо тренировать дальше.
Кстати да, все эти лоры меньшей размерности лучше редактируются и меньше влияют на стиль модели. Мое предположение что это из-за того что тренируется меньше параметров unet и текстового энкодера, соответственно меньше влияние на модель
>>87008
Выкладывай датасет и настройки. И показывай что есть и какой результат необходим. Тут нет телепатов
>>87154
Я вообще этого не понимаю, лоры эти ебаные. Даже если есть нисходящий тренд, то он просто минимальный, на уровне погрешности. А всё потому что китаец - ебаный лентяй, написал код который работает на 6 гб врам и теперь думает что он ебать какой охуенный и ничего больше имплементировать не надо. А ведь там еще немало фич вроде как в офф. репо cloneofsimo. И он добавляет новые. У китайца блядь не работает polynomial (!), потому что он принимает важный параметр, отвечающий за скорость спада кривой (или за её кривизну, хуй знает как сказать), у китайца соответственно нет и график полиномиал выглядит как линеар. А ведь правильно настроенный полиномиал - это поле для экспериментов, потому что он позволяет выставлять экстремальные значения скорости обучения без ущерба для результата (в теории). И китаец игнорирует уже который ишью с этой просьбой, лучше замерджить очередной бесполезный пул реквест с парой новых строчек в метадате сети
Ух, как печет у меня сука с него
Было бы 12 гб врам, тренил бы на оффициальном репозитории, похуй на оптимизации. Надеюсь cloneofsimo оптимизирует свое детище, он про что-то такое недавно писал
пригорел
https://www.bilibili.com/video/BV1T84y1e7p5/?vd_source=6d5c00c796eff1cbbe25f1ae722c2f9f#reply607277701
Вот демка на тест
https://huggingface.co/spaces/Plachta/VITS-Umamusume-voice-synthesizer
А проблема на пике, не знаю что и делать. Может тут сидят знающие?
Пик 2. И почему график так колдоёбит на старте эпох? Такого раньше не было, появилось с нетворк альфой 1 (окей, тут я не разбираюсь, может это особенности алгоритмов обучения).
Пик 3. Окей, выкручивая смузинг на 1 нисходящий тренд очевидно есть, но он... маленький? Или я многого прошу? Сеть как будто мало чему обучается, как будто меня опять ждёт ебатория с лёрнинг рейтами
>>87384
Хоть и немного анрелейтед, но выглядит как проблема с кодировкой
Попробуй накатить LocaleEmu и запустить с китайским языком
https://github.com/xupefei/Locale-Emulator
Пытался, выдает пикрил. Видно проблема с noise scale, но не ясно что именно.
>>87384
Вот тут, кстати, больше vits-аниме моделек -
https://huggingface.co/spaces/skytnt/moe-tts
Может это параметр и он как-то неправильно передается или не передается вообще?
Это вот это вот хрень, не ясно где оно вообще хранится в .json его нет.
Открывается окошко по этой кнопке, если что. Эти числа сами выставлены изначально, я их не ставил.
Сори анон, я тут не помогу. Напиши в наи тред, там гораздо больше людей сидит
Я пытался это, печатать не дает, а если скопировать 0.667 с точкой то результат пикрил.
не понял, стили лучше тренятся на низком диме? у тебя 0.4.0?
У меня 0.4.0
Я не тренировал на низком диме
> Интересно потом будет потренить стиль на таком Диме
Но я буду не против если потренишь и покажешь что получилось. Уже подзаебался если честно
Маленький дим позволил наконец-то сети понять что такое заколка, где она, какого она цвета и формы! (для тех кто читал вчерашний пост). Сетки весят по 18 мегабайт, волшебно.
Да, длительность обучения однозначно влияет на результаты. Чтобы получить похожие результаты, нужно тюнить скорость обучения или еще чего. Тренировать на одном LR разное количество эпох – нет, это так не работает.
Лучший результат для меня – 10 эпох (1770 шагов / 177 пикч с повторениями). На 20 эпохах сетка перетренировалась, на 30 перетренировалась жутко. Есть смысл понижать LR для большего количества эпох, но в пизду, меня мои 10 эпох устраивают.
Итого что я имею на данный момент, это network_dim 16, network_alpha 1, UNet LR 5e-4, TE LR 2.5e-4, 17.7 повторений на 1 пикчу датасета (учитывая повторения) пока хуй знает насчет этого. Осталось выяснить планировщик. Буду пробовать cosine и cosine_with_restarts. Первый в китайцоскрипте внезапно рабочий, второй полурабочий, но все же не такая ситуация как с polynomial, можно еще найти применение.
Потом попробую найти примерный оптимал для стилей, не удивлюсь что все настройки в итоге окажутся такими же.
Добро пожаловать в пердолинг. Потом получишь около 35 (на батче со 150шагами, иначе слишком быстро).
set COMMANDLINE_ARGS= --xformers --deepdanbooru --no-half
Причем есть две папки с разными xformers, скорость ~одинаковая
cudnn либы обновил на актуальные? Если нет, то качаешь https://developer.download.nvidia.com/compute/redist/cudnn/v8.7.0/local_installers/11.8/cudnn-windows-x86_64-8.7.0.84_cuda11-archive.zip
Потом из архива из /bin/ кидаешь dll-ки с заменой в \venv\Lib\site-packages\torch\lib\
Закинул. На старом торче 14,5 , на новом 15,5. Уже лучше, спасибо. Хотя мне казалось что на новом торче уже должны быть новые либы
можешь ещё конкретно вот эту версию xformers накатить https://github.com/C43H66N12O12S2/stable-diffusion-webui/releases/download/torch13/xformers-0.0.14.dev0-cp310-cp310-win_amd64.whl
челу из трэда https://github.com/AUTOMATIC1111/stable-diffusion-webui/discussions/7135 вроде как помогло
если не поможет, можешь в корне webu, в файле webui.py после
def initialize():
check_versions()
написать
torch.backends.cudnn.enabled = False
может в самом ватоматике дело, у меня последний релиз всего
Никак. Через промт включается лишь эмбеддинг и с недавних пор лора. Гиперсеть через настройки выбирается, как vae.
Если у тебя одна из новых версий, этот - >>88511 - пиздит. Теперь можно кнопочками или набрать по памяти.
Генеришь с выбранными эмбедом/гипером/лорой картинку, нажимаешь иконку на болванке по наведению мышкой, превью запекается.
Гпу же с блокнотами юпитера работает? Попробуй блок из колаба линакруфа, там есть апгрейд питона, может, и у тебя сработает
https://colab.research.google.com/drive/1cEk2yxPiipjl1D9jITGQEOlVYyUsLQHo?usp=sharing#scrollTo=9gQv3aDDfytc
А, это не линакруфовский, а тохуебский колаб. Ну, сорта...
wget https://github.com/korakot/kora/releases/download/v0.10/py310.sh
bash ./py310.sh -b -f -p /usr/local
python -m ipykernel install --name "py310" --user
это не рисунок, а интерполяция, нейросетка не рисует а только пиздит
>>88648
>>88654
Еще раз сепсис
Пробовал кто-нибудь? И можно ли как-то лёгким движением руки прикрутить к Автоматику?
Чтение комментариев по ссылке - для лохов?
Устраивать жирные набросы, сначала в наи треде потом здесь.
Я уже понял что это один и тот же человек. Именно один. Болезненный какой-то. Игнорируем.
Ебашу лорку на 6400 шагов на стиль худа
Или промпт и модель, или не было это нарисовано мясным мешком / img2img
Упоролся и протестировал все методы на Top P 100 у плагина, для CFG 30.
По итогу могу сказать, что лучше всех работает в таких экстремальных условиях только
cosine up + linear down. Возможно другие варианты смогут лучше себя раскрыть если понижать Top P, но мне пока лень этим заниматься.
-- - значительный баг или непопадание, возможности фиксирования не проверялись
+- - выдает неплохой результат, но имеет значительный баг, который можно пофиксить через mimic и top p
++ - хороший результат
Общий результат:
-- cosine up + constant (distortion face)
++cosine up + linear down
-- cosine up + cosine down
+- cosine up + linear up
--cosine up + cosine up
--constant + constant
+-constant + linear down
-- constant + cosine down
+-constant + linear up
+-constant + cosine up
--linear down + constant
+-linear down + linear down
+-linear down + cosine down (black n white bug)
+-linear down + linear up (distortion face)
--linear down + cosine up
--cosine down + constant
-+cosine down + linear down
+-cosine down + cosine down (black n white bug)
-- cosine down + linear up (perfect prompt with distortions)
--cosine down + cosine up
--linear up + constant
+-linear up + linear down
+-linear up + cosine down (black n white bug)
+-linear up + linear up (perfect prompt with distortions)
--linear up + cosine up
Ничего особенного у меня нет, кроме как стилей авторов рисунков и персонажей из аниме. Хотелось бы знать за ту местную мочу. Можно ли указывать, что стиль определенного автора? И можно ли на civitai несколько версий залить на одну страницу?
местному анону который не обновляет репозиторий уже неделю
это мясной нарисовал, успокойся
Зависит от жирности превью и частоты вывода, на фул - сильно. Потести сам, я вообще включаю только когда нужно.
Только гайд чтоб для совсем хлебушков, которые с этой фигней никогда раньше не работали.
А то моя 2070 и полноценно тренировку не тянет, долго сильно, да и, чую, помрет скоро такими темпами.
Что за настройки ты накрутил, чтобы тренировка не тянулась? С 512 пикчами ест где-то 6гб. И что означает "полноценно"?
Долго сильно. Так то по памяти оно тянет, впритык к моим 8гб. 512px, 2 batch.
Но я в основном стили и концепты тренировать пытаюсь, а это очень долго выходит, исходя из необходимого количества материала и повторений. И не шибко стабильно.
Поэтому и думаю, куда это можно перетащить, чтоб не так медленно было.
> А то моя 2070 и полноценно тренировку не тянет
тут у людей 1060 тянет
Да, у меня до сих пор пару датасетов валяется неоттрененных. Меня заебала вонючая лора. Не могу найти хорошие настройки. Сейчас чувствую брошу нахуй всё. Немного спасает что теперь могу в облаке тренировать
Гугл включил - и другими делами занимаешься.
Пусть и дольше будет, зато комп свободен.
Вместо того, чтоб комментировать, плохо ли, хорошо ли, а зачем тебе - написали бы, где нормальное руководство искать. Можно и на английском, у меня с ним норм. Но чтоб подробно.
Некоторые аноны не делятся нихуя. Другим проще повниманиеблядствовать на цивите или хагинфейсе. Я ебусь с настройками как долбаеб. Ничего не треню, ебу один и тот же датасет. Меня от её ебала уже тошнит. Блядский питухон изучаю и мне сложна, у меня задница с этого горит. В гайд есть что добавить, но мне лень и я боюсь вкинуть дезинформацию потому что сам до конца не понимаю как всё работает. Таблетки не помогают. С треда 80% людей съебало, интересные темы и вопросы не поднимаются. Настали темные времена...
Я в этом блокноте запускал, работает нормально
https://colab.research.google.com/drive/1bFX0pZczeApeFadrz1AdOb5TDdet2U0Z#scrollTo=Y11KimwzGQrp
Это тоже твои ресерчи? >>87560
Такое чувство что ты тут один остался кто за идею хуярит. Скинь какой-нибудь датасет, скажи настройки, я попробую какое-то сравнение из нескольких лор, сделанных на разных настройках сделать чтобы помочь, заодно получше научусь
Да, хуйней тут страдаю. Ценю помощь, спасибо. Но сейчас ничего не скину, с телефона капчую проснулся и не могу заснуть :(
Это вполне нормально что всем похуй, я не обижаюсь. Часть анонов съебала, многие судя по всему остались на версии 0.3.2 где все относительно стабильно, но мне сука хочеца выжать максимум из этой сучки
Ага, в основном доступно.
Настройки кучкой, минимум всяких окон, которые непонятно чего делают.
Третий шаг, как я понимаю, можно пропустить, если свою модель в гугл загрузить в соответствующую папку?
Да, только все пути и имена файлов нужно будет правильно указать в полежнем шаге
То, что сейчас я залил, сделал еще дней 10 назад. Но ебался с настройками, думал вот сейчас точно лучше будет, а в итоге только первые две попытки и оказались успешнее всего. Примерно с гиперсетями у меня похожая история была. Искал 100% годные рецепты, находил не раз, а каждый раз все хуже и хуже. Остановился на том, что дефолтные лучше всего.
Рано или поздно кто-то да поделится.
Отток людей это нормально. Набегут еще. Скорее хаус упорядочился.
Понять бы еще, какая там папка корневая.
Вот, допустим, у меня лежит в корне гугл-диска папка "AI", и там уже всё остальное - сеты для тренировки, папка с моделью, папка для вывода, всё такое.
Как будет путь выглядеть?
Генерация контента уровня "аниме-тян на фоне какой-нибудь хуйни" или "реалистик-тян (с эффектом зловещей долины) на фоне какой-нибудь хуйни". Иногда не тян, а кун, неважно. И все имидж борды и дискорд серваки (российские, американские, японские, корейские) завалены на 99.9% именно таким контентом.
О, вижу залил, красава! До слёз. Прикольный стиль, надо с утра попробовать
> думал вот сейчас лучше будет
Классика :( Хочется как лучше, а в итоге как обычно. К гиперсетям я вообще боюсь притрагиваться, у кого-то на 2000 шагах вырвиглаз, у других на 50к всё нормально. А для технотреда еще настанут золотые времена! Все еще только зарождается
Да, понимаю. Грустно, кумеры победили. Поэтому люблю иногда включать сд 2.1 и генерировать всякую хуету, всякие подземные заброшенные лаборатории, ебанутые концепты всякой дичи, инопланетное говно, сооружения на марсе, весело, отвечаю
Я все еще работаю над meme-chan, coconut из некопары. В идеале хочу все же сделать всех кукл розен майден и нек из некопары одним файлом для каждых. Еще месяц-два назад видел, как кто-то с форчана запилил лору с несколькими тянками из Love Live, когда у нас про эту самую лору никто не знал.
Если я чем-то загорелся, значит все, минимум на год, а скорее на года два. Так что я здесь еще на очень долго. В процессе еще что-то придумаю.
Ну я попробовал 0.3.2, там точно работало, опыта у меня мало, сейчас вот уже перекатился тоже на 0.4.0 и хочу что-то потренить, видимо придётся самому собирать что-нибудь для датасета, раз уж и ты там в полудрёме, ничего плохого в 0.3.2 тоже ведь нету, лоры оттуда работают, да и твои на 0.4.0 уже выдают отличные результаты, так что тут можно только похвалить кохью и автоматика, что обратная совместимость есть
Ага, оно живое.
Каких-то варнингов накидало, но тренировку запустило. И вроде как побыстрее локали, видимо за счет batch 3 вместо моих 2. Число шагов все-таки пониже получается.
Спасибо.
Так ты пости результаты, будем обсуждать, корректировать что надо. Хочу коконат увидеть
Бтв съебываю из репо китайца походу, сейчас листаю гитхаб оффициальной лоры, так там пиздец, столько крутых фич чтобы улучшить результаты! Еще и вчера новая версия вышла. Там конечно 6 гб памяти не вытянут скорее всего, буду в облаке тренить, что остается
Жду ваниллу бтв
В 0.3.2 есть большая проблема, это нулевые тензоры. Впустую потраченное время гпу, неполноценные недотренированные модели, которые в теории могли быть лучше
> твои на 0.4.0 уже выдают отличные результаты
Спасибо, но я так не считаю. Есть бесячие моменты которые пока не удается исправить
Вот по этому совету сделал сегодня >>87560
И в правду редактируемость фона улучшилась.
Тестировал тег squatting. Колготки в сетку само собой глючат.
Слушай, а ведь хорошо получилось! Но на большем весе видно как рисовка датасета "выдавливает" рисовку модели. Я вот пытаюсь с этим бороться. Помогает уменьшение обоих lr до 3е-4/1.5е-4, но не панацея
Не в пустую, прямо сейчас генерил Лейн лорой созданной еще на бородатой версии каким-то здешним аноном, за что ему кстати спасибо, объединённой с лорой на йошитоши абе.
Впустую, ты наверное имеешь ввиду, когда только эту проблему решать взялись и у всех начались проблемы.
Вообще если так рассуждать, всё это время эни3 могла бы быть с пофикшенными тензорами, и пару других чисел многие генерации изменили бы до неузнаваемости, в теории лучше, но кто его знает, может быть и наоборот, однако это не отменяет того, что до выхода апельсина многие ей пользовались как основой для очень многих миксов и делали вполне неплохие арты.
Хорошо кстати, что ты эти знания выкладываешь по новой версии тренировки лор, я ими обязательно воспользуюсь в ближайшее время.
А откуда лору брал? Я просто тоже Лейн делал лору
Не впустую конечно, я просто шиз, помешанный на перфекционизме и неприятно что все что я делал до 0.4.0 как бы могло быть лучше
Ух, сегодня великий день, попробую другой репозиторий. Ожидания высокие
Ну я из треда скачивал, это она вроде лежит сейчас в коллекции лор? Твоя? Отлично сочетается со стилем художника из коллекци форчана.
Будешь тестить какую-то репу с более обширным функционалом?
> Твоя?
Да :3
> Будешь тестить какую-то репу с более обширным функционалом?
Да: https://github.com/cloneofsimo/lora
Оч интересно что выйдет
Расскажешь потом что получится?
Алсо это же не нормально когда вызываемая лора начинает работать правильно только с кучей сопутствующих тегов на заколку, цвет глаз, использованных при тренировке, а не просто ее вызов в промпте? Просто простой вызов на 1.0 проебал походу вообще все элементы персонажа, кроме цвета волос. Алсо, если не менять промпт генерит как будто "на одном и том же сиде", если прописать детально промпт. Совсем маленькие отличия, даже не поворачивается персонаж особо от генерации к генерации, но фоны удивительно поддаются.
> Расскажешь потом что получится?
Конечно, если получится
> Алсо это же не нормально когда вызываемая лора начинает работать правильно только с кучей сопутствующих тегов на заколку, цвет глаз, использованных при тренировке, а не просто ее вызов в промпте?
Да, но при этом в датасете должны быть изображения где этой заколки нет, чтобы сеть поняла, как рисовать персонажа когда она есть в промте и как рисовать когда её нет
> Просто простой вызов на 1.0 проебал походу вообще все элементы персонажа, кроме цвета волос.
Немного не понял, что ты имеешь в виду
> Алсо, если не менять промпт генерит как будто "на одном и том же сиде", если прописать детально промпт. Совсем маленькие отличия, даже не поворачивается персонаж особо от генерации к генерации, но фоны удивительно поддаются.
Маленький и не разнообразный датасет + возможно выключенная настройка "--shuffle_caption" при обучении
Я с таким сталкивался, брал промт из датасета и сетка старательно пыталась повторить пикчу с этим промтом
Если в датасете все пикчи как персонаж стоит и только одна как он сидит, неудивительно что на тег "sitting" будет мало разнообразия
>>90601
Чем? Генерациями?
>>90625
В гайде по лоре написано, поиск по странице "keep_tokens"
>>90682
Не понял
6400 шагов(8 повторений, 16 эпох, 50 картинок) на стиль худа
рейт
ну хоть так словил стиль, даун ебаный, как будто гиперссеть треню, а не лору
терь хз будет ли что-то кроме поз с датасета выдавать
Нихуя, красиво. Я так и не понял кто такой худ, не могу нагуглить даже. 6400 звучит как дохуя
>худ
Это сокращение от слова художник.
Второй пик его, первый - мой
Пиздец, ну и сокращения :)
Дай угадаю, это かめぱすた? (простите мне мой японский)
https://twitter.com/kamepan44231
>понял
че никода такого не было?
еще раз:
1. генерим на промте zhopa
2. добавляем zhopa anus
3. после нажатия генерации будет генерить все еще промт zhopa
4. вторая генерация после будет zhopa anus
интересненько, генерация с блендом на 3-4 секунды (рандом) быстрее, чем без - 41.81 vs 44.92
К какой именно? Я про аренду гпу в облаке, сначала не ставились, накатил 1.13.1 торч и последние иксформерсы и всё встало. Прирост почти 2 раза в скорости обучения
>>91080
Оно включается/отключается в любую минуту, как колаб? Скинь ссыль на сайт
https://console.vast.ai/
Нет, ты платишь за пользование гпу определенную цену в час + еще немного за хранилище. Чем больше выделил себе ссд, тем больше платишь, очевидно. 50 гб у меня 1 цент в час. Ты можешь вырубить в любой момент и тогда будешь платить только за хранилище. Если не хочешь платить вообще, то можно удалить инстанс, но придется потом заново всё настраивать
Лол, что за домашний-тир машины? Они радмином заразили чей-то парк?
Любой может предоставлять аренду своей видеокарты на этом сайте
Сейчас бы за 14р/час свою 3090 предоставлять. Лицо согласившихся представили? Я свою точно не дал бы
Поставил на ночь, пусть работает. Хули нет? Майнинг то уже сдох, переходим в нейромайнинг.
А после аренды, как каломатика накатывать? На колабе то все за тебя колабщик сделал, а тут...
Ноутбуки тут тоже поддерживаются. Берешь любой и копипастишь. Ячейки прожал и работаешь
Да 3070 дохера с такой или ниже ценой. Интересный сервис...
Всмысле костыльнее? Это та же логика что при записи всех других штук в x\y график.
> Всмысле костыльнее?
Меня однажды отпиздили за гаражами за то что задал массив как [1,2,3,4,5] а не [1..5]
>та же логика
Мейби, но писать 0.1-1(+0.1) удобнее чем перечислять все значения например
Есть ли готовый скрипт для этого?
пипец долго думал почему лол
нет просто имо поза и выражение лица самые милые
Короче хз, какое тут слово из спам листа, прочитай на скрине, вот ссылка на датасет: https://anonfiles.com/YaB9b7V6y6/dataset_7z
>>91761
Вот следующие два
Ой бля даже хуй знает что сказать. Датасет вроде нормальный. Хуй поймешь эту лору. 10ая эпоха вообще пиздец странная, как будто из другой вселенной, втф? Возможно слишком долго обучал. Я сегодня сравнивал 10, 20, 30 эпох на одинаковых настройках, так вот чем дольше, тем нейронка "сильнее" запоминает датасет и теряется вариативность. Когда переобучаешь спасает только уменьшение веса лоры, но есть риск сделать персонажа менее узнаваемым
Щас я грид сделаю, у меня +197 лора файлов, вроде как что-то нащупал, и выглядит опрятно, и стиль от модельки к модельке меняется. И заколка в паре сеток уверенно так рисуется, прямо как в датасете, перамога кек
С десятой эпохой обосрамс с лишним нулём в гриде, она всё таки рабочая, но всё равно какая-то не оч, мне больше всего не нравится, что сид хоть и меняется с уточняющими тегами, смены положения персонажа в кадре нету, всегда слева направо смотрит, иногда в середине мелькает, наверное зеркалить всё таки нужно, но тогда беда с заколкой будет ещё больше по идее. Ну и восьмая эпоха похожа на самую стабильную.
,,,,,blend(промт)
миксит прям перфект без дропов, экспрессия на картинах прям дышит, можно поменьше запятых, допустим одну, с точкой вначале результаты дает хуже
токен , = 267, токен . = 269
Поздно, я уже написал скрипт, который это делает.
https://pastebin.com/9anRu74x
Так что теперь датасет должен быть не из картинок 512х512, а из таких картинок, что любой прямоугольник 512х512 содержит заданный концепт.
Любители загнаться - велкам!
Кароче вот мои наблюдения за сегодня
1 пик AOM2-sfw, 2 пик ACertainty, 3 пик udonNoodleMix, 4 пик ГТ (референс)
Что общего у всех: основа ACertainty, датасет 59 пикч суммарно вместе с повторениями (11х4+15х1), network_dim 16, network_alpha 1, train_batch_size 10 (<- это очень важно), clip_skip 2 очевидно, keep_tokens 1, shuffle_caption (триггер токен tk первым тегом везде), lr_scheduler constant_with_warmup, 20 эпох, разгон планировщика ровно половину всех шагов (но с этим в теории можно поиграться)
Разные скорости обучения:
unet:
0.5e-3, 1.0e-3, 2.0e-3, 3.0e-3
text encoder:
0.1e-3, 0.2e-3, 0.4e-3, 0.6e-3 (т.е. в 5 раз меньше unet lr)
Что я получил:
1. Ебучую заколку на некоторых сетках, причем довольно уверенную
2. Переносимость между моделями: охуенскую переносимость между моделями. Как-то так вышло. Причем без особых тегов и кручения весов, всё в стоке, обычный промт и сразу выдает разную картинку на разных моделях. Далеко не всегда такое было, но тут прям зачёт
3. Отсутствие мыла или перешарпленности. Джизес крайст, и такое бывало
Но мне чёт МАЛА. Нужно еще что-то придумать.
Насчёт train_batch_size. Если бы у меня был батч сайз 1 то скорость была б в 10 раз меньше, но она такая гигантская потому что у меня стояло 10! Нужно всегда пересчитывать скорость под свой батч сайз. Потому что умные дяди сказали что линейная зависимость: во сколько раз относительно единицы увеличил батч сайз, во столько же раз увеличиваешь скорость обучения (обе)! А я долго ебался и не мог понять почему у меня не получается воспроизводить старые сетки, они то недо-, то перетренированные
Насчёт разгона планировщика lr_warmup_steps: на всех пиках разгон первые 50% шагов. После 50% шагов скорость обучения выходит на ровную прямую до конца обучения. Как рассчитать? Хуй знает. Я возможно проебался в нескольких моментах в скрипте и в гуе, для батч сайз стопудово он точно считает сколько ставишь, но для батч сайза больше одного не уверен. Легко проверить: настроить запустить скрипт, посмотреть сколько шагов тебе насчитала обучалка, закрыть, поставить половину от этого в lr_warmup_steps и запустить снова
Как-то так
> для батч сайз стопудово
для батч сайз 1 бля*
И еще важное про эпохи не упомянул. Их тут ровно 20 на каждом пике. Будет меньше или больше эпох, будут другие результаты. Но на 20 эпохах именно такие
ШУЕ ППШ
>>91018
Да, бленд рабоатет в негативах и позитивах, проверяется через
"blend(prompt)", где " токен 1 и получается бесконечное смешивание в одноцветный градиент. То есть от токена зависит смешивание.
> После 50% шагов
Это локализовано как "Разогрев планировщика?"
> поставить половину от этого в lr_warmup_steps
Такой опции же даже нету в гуе, или ты имеешь ввиду 25% сделать?
Могут. На вкус и цвет. Если грамотно подобрать настройки то последняя эпоха выйдет самой лучшей. Мы этим в треде и занимаемся
>>91934
> Это локализовано как "Разогрев планировщика?"
Да. Перевод фаргус
> Такой опции же даже нету в гуе, или ты имеешь ввиду 25% сделать?
Нет, 50% и ставишь, но я опять же говорю что за правильность расчета при батч сайзе больше одного не ручаюсь. Но это в любом случае не суперкритично, просто я оттренил на всех значениях от 0-100% и мне серединка показалась самой лучшей
Не знаю нафига, но тренил 10.5 часов на 10 эпох в 21k шагов. Хотя уже 3-я эпоха норм.
Изменчивость фона хорошая, позы тоже.
Его настройки >>87560 Только я ставил 12 повторений.
>>91918
Ну да. Поэтому мы и прогоняем x\y тесты постоянно, беря шаги\эпохи с запасом. Я вот вечно наваливаю слишком много и из 8-10 эпох наиболее лучшими выходят где-то 4-6.
21к - ебануться! Ебать я в голосину громко проиграл, без обид. Таких циферь на лоре еще не видел, даже от анонов с 4090. Выглядит няшно достойно имхо. А на какой модели пики делал? Интересна переносимость
Я по своему опыту знаю, лольки 7-14 лвл это те еще маленькие чертовки. Бывает что еще не появились там волосы, а уже пускается во все тяжкие! Раньше в 13 лет выходили замуж, а у муслей в Судане выдают замуж в 9 лет.
Да и еще 768 разрешении одним потоком.
Обучал на ACertainty, а генерировал на anything-v4.5
>>91953
https://mega.nz/folder/GkZWzYYQ#aBhvBn1omJJozyL5s4gnLg
В пикчах промты примерные найдешь
Вполне. Результат зависит от контента датасета. Датасет разноообразный - чаще результаты хорошие
>>91955
Потому что педо это плоха! И это действительно плохо, но я не понимаю почему цифру, почему пиксели называют педофилией. Я думал что педофилия - это когда страдают дети. Я не знал что пиксели тоже должны быть под защитой. Педоистеричек трудно понять на самом деле
>>91957
Спасянс
Для персонажа или стиля?
Для персонажа желательно чтобы с разных сторон он был, хотя бы одна пикча с full body, желательно еще со спины. То есть максимально кайфовый дата-сет - это концепт арты. Я вообще использую то модели из MMD, то фотографии аниме фигурок, если ничего другого нет, чтобы показать персонажа со всех сторон.
Я не пони, елаборейт плиз. Вот на скрине зарядил батч сайз 10 на 20 эпох + 50%, в проге пишет 408 шагов, сама консоль тренирует 4080 шагов.
На пике написано батч сайз 1! Ты через мокрописю? Когда обновлял? Я пофиксил баг с батч сайзом
Ты бля на фигурках ваниллу обучал? :)))
Бтв жаль датасет не сильно разнообразный был, пририсовывает мейд сьют везде где только можно
Ну а что поделать. По хентаю арты как правила почти не рисуют. К счастью хоть аниме вышло, от туда взял скринов.
Не думал, что кто-то будет использовать эту лору с реализмом, поэтому не тестировал на таких моделях.
>>91968
Хз когда, видимо батч сайз 2 тоже до этого не работал, ладно ща попробую, а зачем НОД то, повторений же очень мало станет, не?
Забавно. Интересно, помогли бы регуляризационные изображения
>>91987
Ну можешь оставить как есть. Только все эпохи сохрани
Чисто персонаж.
Большая часть артов - фуллбоди. Специфическая одежда. На все буры 200 артов, где половина сразу отпадает, т.к. левая одежда, неотковыриваемые левые персонажи. Потом отваливаются просто кривые арты, всратый хентай, чибики, обнаженка. Вот и осталось 15 картинок.
> Ну можешь оставить как есть. Только все эпохи сохрани
Так это ты предлагаешь сделать просто чтобы последняя эпоха нормальной сохранилась?
Не раз пробовал. Персонаж совсем теряется, будто силу лоры ставлю не 0.6-0.8, а 0.2-0.3, лишь пару мелких деталек остается.
Он предлагает это сделать что бы ты потом с помощью грида выбрал из всех эпох наиболее подходящую
>>92004 <- вот это
С большим кол-вом потворений будет куча шагов, план может пойти по пизде
>>91999
Да, с регами пизда какая-то. У меня всегда всё кончалось тем что персонаж не выглядит как датасет, а выглядит как реги
>>92004
Бля, батч сайз 5 видяха тянет, а вот системная память нет, падает после 4 эпохи стабильно, с батчем 4 на 16, придётся откатится до 3 с соответствующим ЛР, повторения для такого нужно изменять у пикч? Не совсем понял почему нужно так мало ставить, типо каждая эпоха будет совсем по чуть чуть тренироваться и можно будет выбрать из более обширного количества лор во время тренировки, так это уловил.
Да просто дохуя повторений это дохуя степсов, я не знаю что произойдет если много степсов навалить. Если хочешь пробуй. У меня эпохи были на батч сайзе 10 по 9 шагов
>Скачать скрипт (ПКМ -> "Сохранить как...") (иногда обновляется)
А.. Я слепой. Думал там выложен архив что на гитхабе, а не сам сприпт.
>>91972
Ну по всей видимости это не дотренилось? С тегами конечно получше, но всё равно херня получилась, без них почти ноль эффекта.
Всё таки осилил в 5 батч запустить, я же верные параметры выставил с таким батчем?
unet_lr: 5e-4
text_encoder_lr: 1e-4
lr_scheduler: constant_with_warmup
lr_warmup_ratio: 50.0
У тебя вроде пикч в два раза больше? Из-за этого может?
Не знаю, здесь ли ты ещё, но попробуй https://github.com/bbc-mc/sdweb-merge-block-weighted-gui , там такой хуйни нет
Олсо, у меня все спокойно без расширений мерджится на пейперспейсе, где 8гб, и не мерджится на колабе, где 16. Там не только vram участвует, походу.
Возможно, это особенность конкретных регов? Если делаешь реги в наи только по классу 1girl + теги качества, херачится сеймфейс/невнятная одежда, которые и запоминаются?
У меня наоборот проблема с регами. Я заморочился, наделал вагон совершенно разных высококачественных необрезанных мужиков с разными лицами, в разных позах, в разной броне, на разных фонах с разным светом. Все это в надежде, что Лора выучит именно разницу, а все хорошее (качество) возьмёт от регов.
Ага, хуй там плавал. Лора как обычно выучила основной датасет, 350 самых разных регов псу под хвост. Но я делал и реги и теги. Может, теги помешали, и надо делать мини-дримбут только с классом.
Ага. Оно тупо все в оперативу заливается. Чтобы заниматься слиянием моделей 4+ гигов имея на борту 16 оперативы - приходится все по максимум вырубать, чтобы хватило памяти. Надо 32, а лучше 64, чтобы наверняка.
>>91341
На реалистике с точки зрения именно черт лица унет и текстовый енкодер дают разные результаты.
Кстати, если тренировать их вместе, кохия добавил наконец их разделение в своих additional networks, их теперь можно взвешивать раздельно.
https://github.com/kohya-ss/sd-webui-additional-networks
>Add separated U-Net/Text Encoder weight sliders. Thanks to Naegles and space-nuko!
Эхх, херню значит посоветовал. Но мне мой резалт понравился, странно.
Если недотренировано у тебя еще есть варианты потренить unet 1е-3 и 1.5е-3. Есть также вариант тренить без текст энкодера, кек. А сколько шагов в сумме получилось?
>Кстати, если тренировать их вместе, кохия добавил наконец их разделение в своих additional networks, их теперь можно взвешивать раздельно.
Лоол, спасибо за инфу
Еще я кстати пробовал опускать все теги, описывающие внешность персонажа, такие как цвет глаз, волос, длина волос, всякие дополнительные вещи типа заколок и т.п. т.е. то, что присутствует на каждом изображении датасета. Тогда вся эта информация у сетки ассоциируется с твоим триггер токеном (в моем случае tk). Еще я пробовал опускать вообще все теги, у меня не было текстовых файлов, а папки назывались "n_tk 1girl" -- результаты меня поразили, я думал это невозможно. Я так понял если сетка обучается только через единственный инстанс токен, то ей ничего не остается кроме как найти общее на всех пиках, а на всех пиках общее это только лицо
С батчем в 5 надо общее количество на 5 умножать? В проге при 1_fan_art 2_sprite всего навсего 192 пишет. Увеличивал постепенно 2 и 4, 3 и 6, 4 и 8. В итоге только 4 и 8 и 3 и 6 более менее норм оказались, примерно на уровне предыдущей тренировки, где почти весь персонаж без тегов выдавался, и тоже 7-9 эпохи лучше всего получились у 4 и 8 и 18-20 у 3 и 6.
>>92268
> Еще я пробовал опускать вообще все теги, у меня не было текстовых файлов, а папки назывались "n_tk 1girl"
То есть папку назвать нужно так: "12_elie 1girl"? Зачем 1гёрл, типо как тег? А ничего что она через пробел?
Скинь свой датасет, хочу для сравнения глянуть. Как ты кстати графики такие >>85044 выводишь?
С большой скоростью тоже попробовал, по типу 1e-3, вообще не пошло, просто картинка в кашу на второй же эпохе, правда я там поставил cosine и без разогрева с батчем в 1. Просто решил попробовать так сделать.
Нет, я написал скорости уже посчитанные для батча 5
1girl может и необязательно, просто в дримбузе указывается инстанс токен + класс токен
Датасет есть в лора репо в шапке
> Нет, я написал скорости уже посчитанные для батча 5
Я не про скорость, а про количество шагов отображаемое в проге говорю, при 1 и 2 повторений на папках получилось 192 при батче в 5, если поставить батч 1, то число умножается на 5, дальше просто по +192 на каждый вариант повторений который я тестил.
Как ты кстати эту 1e-3 скорость посчитал? Ты же вроде тестил на такой же, но с батчем в 10, мне же надо как минимум в два раза ниже ставить для батча в 5, как ты и писал раньше? Что я собственно и делал. На 4 и 8 повторений с батчем 5 с 12-13 эпохи жуткий перетренинг пошёл, мутации, экстрашарп.
Поясните, почему решили ставить батч 10? Я не критикую, может, это волшебная таблетка, но аноны с форчка с претензией на знание мл говорили, что слишком большой батч при тренировке сглаживает обучение, потому что модель меняется один раз за батч. То есть это аналог gradient accumulation
Сколько нужно уникальных пикч для датасета? Чем больше, тем лучше, или больше ~50 например не особо имеет смысл?
Вроде как теги в файле заменяют собой концепт. То есть ты учишь не концепту, по которому назвал папку, а тегам, которые лежат в txt-файлах.
Я лично ничего не решил, просто ньюби, перебираю разные способы тренировки, чтобы посмотреть результаты и найти наиболее лучший. А вот у анона выше точно шило в заднице, он стремится к перфекционизму.
А если я учу стилю? Пики в датасете совершенно разные, общий только стиль. Есть тогда вообще смысл в тегах, кроме общего?
И на выходе получаю 5 гиговый файл, который не работает как лора, а работает как обычная модель. И вроде бы и перса рисует, и всё остальное без потерь как та модель, на которой обучалось, но это же нихрена не так должно работать, верно?
D:\sd-scripts\train_network.ps1:369 знак:4
+ powershell accelerate launch --num_cpu_threads_per_proces ...
+ ~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~
+ CategoryInfo : NotSpecified: (The string is missing the terminator: ".:String) [], RemoteException
+ FullyQualifiedErrorId : NativeCommandError
+ CategoryInfo : ParserError: (:) [], ParentContainsErrorRecordException
+ FullyQualifiedErrorId : TerminatorExpectedAtEndOfString
Скрипт криво сохранился или я что сломал? Запускаю из среды редактирования скрипта. В принципе если просто "выполнить в павершелле", то тоже самое, но нормальной консоли вывода ошибки не посмотреть.
То есть нужно на пике выбрать диффузер, а потом сконвертить в сейфтензор в шаге 7.1? А я сразу там выбирал сейфтензор.
Попробуй убрать из путей в конце слэши
>>92671
Предположу что ты тренировал не сетку, а дримбуз
Тебе русским английским языком чёрным по белому белым по чёрному написано: струна скучает по Терминатору?
Что тут непонятного?
Я взял заряженный калаш, из которого только что стрелял, навёл его себе на ногу и нажал курок. Теперь в ноге дырка и оттуда что-то течёт. Так и должно быть или я неправильно понимаю принцип действия калаша?
Как вообще определять количество регуляризационных изображений? Экспериментально или есть примерная формула?
Верно и обратное, если вы хотите скормить своей модели мутировавший клип от скажем оранжа или протогена - вот тогда можете импортировать. То же самое касается и UNET.
Обновил гуид если че https://rentry.org/clipfix
Слушай, я думаю что лучше написать, что если хочешь сделать подмену клипа для аниме модели, у которой глубоко в корнях лежит NAI, то стоит из NAI клип и выдирать. Он ведь натренирован на данбуру тегах, мне кажется ставить сд клип в аниме модель не лучшая затея. Он чистый, я проверил. Ну там только какая-то трабла была с ключами, я с помощью тулкита пофиксил это, сдул до 2 гигов и выдрал клип. Протестил на капустомиксе, отличия минимальные, но есть.
И естесна унет будет отличаться у каждой модели, это ведь её основа, именно она даёт пикчи. Но стоит ли унет трогать? Мне кажется если поставить унет от оранжмикса в какой-нибудь эни3, то эни3 станет оранжмиксом
Была бы сказка если бы ты свою калфу перестал рекламировать.
>Слушай, я думаю что лучше написать, что если хочешь сделать подмену клипа для аниме модели, у которой глубоко в корнях лежит NAI, то стоит из NAI клип и выдирать.
Там прикол в том, что микширвоание моделей дает уникальные мутации в дате клипа, да и в целом текстовый енкодер можно отдельно смешивать между моделями.
>мне кажется ставить сд клип в аниме модель не лучшая затея
Yes
>Протестил на капустомиксе, отличия минимальные, но есть.
>то стоит из NAI клип и выдирать
Так вот, если ты меняешь из условного капустомикса обратно на дефолтный NAI, то энкодер как бы "забывает" ассоциации, полученные при возможных предыдущих обучениях и мердже. Вот поэтому отличия и есть тип.
>Но стоит ли унет трогать? Мне кажется если поставить унет от оранжмикса в какой-нибудь эни3, то эни3 станет оранжмиксом
Чел один сует во все модели юнет и клип от протогена например и он тип доволен как слон. Так что пробовать менять можно.
> Как ты кстати эту 1e-3 скорость посчитал? Ты же вроде тестил на такой же
Я тестил на диапазоне скоростей от 5e-4 до 3e-3. И все в принципе нормальные, на вкус и цвет
> жуткий перетренинг пошёл, мутации, экстрашарп
Значит нужно меньше повторений/меньше эпох. Если не помогает - меньше скорость обучения. Немаловажную роль играет датасет, что изображено на пикчах и их количество. И тут я тебе не подскажу, тут какбе рулетка. Лишь могу подсказать относительно моего датасета сколько нужно и чего чтоб нормально получилось
>>92503
Ну типа быстрее так.
> слишком большой батч при тренировке сглаживает обучение, потому что модель меняется один раз за батч
Вообще этого не понял если честно
Ой прекрати, это файлопомойка файлов для сетки и сборник хуйни чтоб не забыть.
> Чел один сует во все модели юнет и клип от протогена например и он тип доволен как слон.
Интересно, это где он обитает?
В моем понимании у каждой модели архитектуры SD есть VAE, UNet и CLIP, и если всё перечисленное переместить из модели А в модель Б, то модель Б станет копией модели А. Либо я чего-то не понимаю
Храни хуйню на рентри, додик.
Файлы тоже знаешь где хранить можно.
>Файлы тоже знаешь где хранить можно.
В телеге, самый удобный бездонный файлообменник.
>Интересно, это где он обитает?
В конфе унстейбл дифужена.
>В моем понимании у каждой модели архитектуры SD есть VAE, UNet и CLIP, и если всё перечисленное переместить из модели А в модель Б, то модель Б станет копией модели А.
Ну получается что нет, но я сам лично юнет и клип с одной модели на другую не переносил, вот хочу попробовать.
>самый удобный бездонный файлообменник
Как ты свою калфу не называй, калфой она быть не перестанет.
> Ну получается что нет
Всё таки да. Можешь не тестировать. Выдрал все компоненты из АОМ2_сфв и вставил в стоковую сд 1.5
В ленточке есть незначительные отличия.
А вообще он в другие модели сует от протогена. Какой смысол сувать в 1.5, которая по дефолту в ядре любой модели сидит?
Охуенные отличия. У меня иксформерс, он даёт недетерминированность. Окей, если тебе мало, могу компоненты любой модели в любую другую пихнуть, выбирай.
Да я сам хочу попробовать, как будто подарок на новый год ощущение будет, а внутри подарка кал на блюде.
А, я вспомнил. У копрогена похоже юнет свой особенный вроде как, поэтому его и сует.
Недопираю. Унет же у каждой модели свой, уникальный. Это фактически и есть 90% любой модели, это нейросеть, которая убирает шум с каждым шагом. Каким образом могут быть особенные и не особенные унеты не понимаю, ищи список, оч интересно что там мамкины технари напридумывали
Через xyz plot, если установлено расширение китайца для лор есть такие пункты как на пике. Названия моделек через запятую либо построчно
В списке моделей None стоит. Если положить модели в папку "\sd\extensions\sd-webui-additional-networks\models\lora", то их нельзя будет юзать через гуй от автоматика. Можно сделать чтобы оба варианта работали?
Во-первых в автоматике есть параметр --lora-dir, во-вторых в расширении китайца можно прописывать дополнительные пути для поиска лор в настройках
>>93860
1girl
Надеюсь, я правильно датасет собрал.
https://files.catbox.moe/2bigee.7z
Ну датасет имхо так се
>Не пашет у меня ни скрипт, ни будка.
Не помню что б ты жаловался хотя тред по диагонали читаю
Это было довольно очевидно.
В плане моделей тред толчет воду в ступе, обмазались своими оранджами хотя это могли быть и протогены, не суть, которые сами по себе лютые солянки из чего попало. Можно сколько угодно выдирать из них части и подменять одно на другое, никакого осмысления процесса не придет. Чтобы стабильно улучшать модели, нужны доноры из будки с определенным и внятным контентом.
А у нас тут сплошной confirmation bias царит. Чего-то выдрал, намешал, сгенерилось вроде не очень криво, ну и доволен собой.
>>93892
Да вот я тут уже сренькать в штаны начал. >>78566 → >>78580 →
На шаге с bites and bytes всё перестало работать, я скопировал гитовскую папку в виртальную папку, но он не делает accelerate config, выдает еррор.
А будка или не тянет из-за 6ГБ врам, или когда я заменяю ее новую версию на старую как в гайде перестает реагировать на кнопки в принципе. И выдает .py ошибки в консоли.
У меня с траблшутингом такого неоче, могу оттренить по твоему датасету. Модель? повторений на концепт?
Я ещё ни разу не тренил сам, не выяснил какое нужно количество повторений на концепт, прости, анончик. Если есть какое-то базовое, которое приемлемое для персонажей, пусть будет оно.
Модель AbyssOrange2, если можешь и на ней вообще тренят. Если не тренят, то эни3.
так же вопросец Prompt template влияет на результат если да как его правильно составить?
Например. Я особо не задумывался, сделал 3 повтора на оба. Пикч и так мало, уши все равно без вызова почти не рисует. Датасет бедноват на ковбой шоты с дефолтной одеждой, впрочем я хз что ты сам хотел получить. Клип скип 2 AbyssOrangeMix2_nsfw
>>93939
> хайпернетворки
Заебались, давно все чай уже выгорели с ним.
Давно не пользовался, давно не обновлялся. Но где-то в версии, которая была в гайде, я ставил вот так и все было норм.
Я и сам хз что я хотел получить, представление нейросетки о персонаже какое-то, чтоб потом его можно было переодевать из каноничных шмоток в современные и обратно, типа того.
Мне кажется, 13 выглядит хорошо. Ну и 11 исключительно потому что там уши прилепились.
На самом деле все круто выглядит, анончик.
можно как-то понять на каких пикчах он спотыкается и удалить их из датасета, потому что я вижу где-то лосс 0.0001 в где-то 0.3?
как понять на каком шаге понижать скорость?
> Мне кажется, 13 выглядит хорошо. Ну и 11 исключительно потому что там уши прилепились.
Все что выше 9 уже перетрен так сказать, т.к клоз апы рисует из которых в основном и состоит датасет. Но на меньших эпохах одежду очень плохо уловило и детали неправильные. Ща еще пощупаю че тут получилось
> На самом деле все круто выглядит, анончик.
Ну мейби, но по мне резалт неудовлетворительный. Хз у меня лоры обычно с 3+ попытки получаются, после ебли с датасетом.
Ну сам видишь, какой у меня датасет. Что-то получилось, лицо/прическу улавливает и то замечательно.
Я видимо совсем бака, если не вижу как "перетрен" выражается...
Я на такое забиваю. Ближе к концу стабилизируется.
Я скорость там не трогал. Как стояло все по умолчанию, так все и оставлял.
Впрочем хз, не сказать что он не хочет переодеваться, это 11 эпоха. Неплохие резалты и на 15 проскакивают.
>как "перетрен" выражается
Не слушается тегов, что на гриде выше частично, или лезут артефакты, но тут такого нет.
Щас залью сам помацаешь
https://mega.nz/folder/SB9WiAxb#Sr6mioS0wY5I4iFHR-UzPQ
Забыл нетворк дим поменять, впрочем 8 тоже сойдет наверное
Спасибо, спасибо, спасибо!!! Сейчас буду трогать и выставлю лучший результат!!!
Нетворк дим...что это вообще такое, мне надо что-то где-то жать?
>.safetensors
Это всё еще лора или хипернетворк? А то лора .pt в папке лежит у меня, смотрю, или они разных вариантов бывают?
я нуб, да, извините...
что ему опять не по душе?
Попробую обновиться, вроде тут у кого-то было такое...
https://github.com/AUTOMATIC1111/stable-diffusion-webui/issues/7122
Да нзч так сказать
> Нетворк дим...что это вообще такое, мне надо что-то где-то жать?
Это размерность модели, тебе ничего с ней делать не надо, указывается при тренировке. Но как 1060 анон выяснил, она чутка влияет на результаты на 0.4.0., а до этого выяснили что и дим 8 норм на старой версии.
Ну я вообще бы пересобрал датасет или добавил туда больше разных пикч, с дефолтной одеждой full body, cowboy shot, еще ракурсов где он standing.
И протегал бы внимательнее, у тебя клоз апы не протеганы, facial mark видел в одном файле повторяется и cat ears где-то помню было пропущено.
Алсо, в начало каждого описания добавил токен xiao свободен кстати, но ориг тег не убрал, так что можешь вызывать по нему.
Алсо, слеши перед скобками в описании типа \(asdasd\) не нужны, оно и так понимает
>>93964
> Это всё еще лора
Это лора, .pt не видел, все сейфтензорами кидаются
>>93968
Странно, там нет альфы, т.к. тренилось на старой версии, но и без этого все должно работать.
Могу оттренить, за результат не ручаюсь, лучше если ты сам нужные параметры скажешь
Анончик!!! Как круто у тебя выглядит всё!!! У меня первый пик наконец-то пошел после фикса лоры, ура! Спасибо спасибо спасибо!
Я сейчас слишком рад, чтобы всё запомнить из твоих советов, но я обязательно перечитаю и запомню, как немного перестанет аштрясти.
>или лезут артефакты, но тут такого нет
Понял, кстати, о чем речь, у Кли так, некоторые вещи просто "пристают" к ней и всё.
В бизнес сьюте такой
1boy, xiao_\(genshin_impact\), yellow_eyes, bead_necklace, multicolored_hair, green hair, ahoge, facial_mark, facial_mark, facial_tattoo, forehead_mark, green_hair, jewelry, looking_at_viewer, mountain, standing, business suit,
Negative prompt: lowres, text, (low quality, normal quality:1.2), 1girl, multiple views,
Промт можешь взять из своего файла описания, в частности цвет волос, украшения, описание татух эти теги помогают вызывать то что надо.
Не сказать что тут артефакты есть, мб просто сильно захватило датасет, при таком еще стиль основной модели идет по пизде, а мб что-то не протегали при тренировке, украшение в волосах например, хз
Вот например явный перетрен с артефактами, увеличение разрешения тут не спасает. но это хуйдожник виноват что ебла одинаковые рисует
Оно работает, анон! Работает! Спасибо!!
Мимо, а с какими параметрами тренил? Тоже попробовать хочу
Ты прям сильно рад, удивительно, впрочем я тоде был рад, когда увидел как первая натрененная лора у меня работает лучше эмбеддингов.
Дополнительные гриды то не забываешь строить?
Запилите няшу плз,
39 пикч с booru-тегами, фон расчищен по мере возможности...
15 эпох, батч сайз 2, вышло 517 шагов на его датасете. Lr общий 1е-4, планировщик констант с вармапом, вармап 20%, клип скип 2, перемешивание токенов включено, защита от перемешивания первого токена, нетворк дим 8.
Однако у меня старая версия скрипта так что альфы нет, что бы на новой сейм резалт получить надо альфу равную нетворк дим ставить емнип, могу ошибаться,но у анонов от этого наны идут и тензоры в киосках заряжаются. Для 0.4.0 надо читать исследования приключения вот этого господина >>85259
Я сейчас обо всем на свете забываю!!!
Пока просто приноравливаюсь к использованию лоры, до этого особенно не пытался даже. Да и гриды долгое дело, а хочется не ждать, а вот прямщас потрогать. Но дело хорошее, надо поставить перед сном будет хоть одну на любимый аутфит и посмотреть которая лора вывозит лучше. У тебя видюха хорошая, наверное? Сколько такой грид по времени занимает?
Местами кекно, конечно, когда какие-то детали волос/лица меняются произвольно, похоже на китайский бутлег на китайскую же игру, лол.
Персонажа.
Попробуй, хотя б с дефолтными значениями из гайдов. Сделал бы и сам, но lora почему-то не ставится на UI скрипт в облаке (а своей видяхи нет кроме встроенной)
Я тренил по его советам, получилось неплохо вроде на 0.4.0 >>91761
Первая лора которую тренил, это нормально что без уточняющих тегов, маловато схватывает всего персонажа целиком, ну там с заколкой, цветом глаз?
Так и не понял, хорошо это или плохо, когда на разных сидах, без смены тегов, маловато изменяется положение персонажа. Тегов то всех вроде слушается, да и на аниме моделях всех метовых работает.
Можешь в мой датасет глянуть, чего там не хватает или наоборот что там лишнее подсказать?
Забыл добавить, делал теги с deep danbooru, поэтому отсутствует важный тег "side ponytail" ("sidetail") и "asymmetrical hair", возможно они нужны для хороших результатов.
Скриньте.
> Да и гриды долгое дело, а хочется не ждать, а вот прямщас потрогать
Понимаю
> У тебя видюха хорошая, наверное?
У меня 3070, в которую дядя хуанг забыл доложить памяти, впрочем с медврам и фп16 моделями без ема двухгиговые могу генерить квадраты со стороной 1792.
> Сколько такой грид по времени занимает?
Этот >>94008 две минуты, этот >>93944 минут 12 где-то, ddim 32 шага везде
> похоже на китайский бутлег на китайскую же игру
Тренил кста под red sun in the sky
>>94017
Такой вопрос, почему у тебя много пикч с белыми полями? По опыту хуевой обрезки страниц мангача, могу сказать что белые поля могут сролять в конечном резалте не в лучшую сторону.
Плюс еще надо проверять че там дипданбуру натегал, а то в описании к 4 пикче large breasts и medium breasts например ???, к 11 отсутствуют теги к позе, к 15 есть striped, vertical stripes хотя там этого нет например.
>>94019
> возможно они нужны для хороших результатов
Нужны.
Ну могу прям так бахнуть. Или исправишь? Тег imari я могу сам скриптом добавить во все файлы.
>>94018
Я не сказать что опытный лораеб
> это нормально что без уточняющих тегов, маловато схватывает всего персонажа целиком, ну там с заколкой, цветом глаз?
Скорее да чем нет, больше да, хотя может говорить о недотрене. Помогающие теги нужны, без них наверное главное что бы лора правильно уловила основные детали, типа формы глаз, лица, некоторых предметов присущих персонажу, конечно же если они есть в промте, и не заданы подробно. Не уверен что понятно и правильно выразился.
> хорошо это или плохо, когда на разных сидах, без смены тегов, маловато изменяется положение персонажа
Если легко контролируется, то почему нет? Если можешь достичь с ней задуманного результата, то не вижу никаких проблем.
> Можешь в мой датасет глянуть, чего там не хватает или наоборот что там лишнее подсказать?
Попозже гляну
Я медленно отвечаю если что.
А, еще забыл добавить, что иногда есть смысл тренить до перетрена, что бы понять как он выглядит на этой лоре и примерно понять когда начинается. Строить гриды по другой позе, одежде, бекграунду например.
Поковыряю и перезалью.
Надо б конечно грузить сразу с тегами с Danbooru, но это технически сложнее + некоторые пикчи это сканы с e-hentai.
От белых полос можно избавиться растягиванием для квадрата, или инпейнтом (не пробовал).
Если это у кохии, то у меня такое полностью прошло при переходе на 0.4.0
А ты их прогонял через что-то? Все 512х512 как будто автообрезка + заполнение отработало, хз
> От белых полос можно избавиться растягиванием для квадрата
Если их убрать то будет лучше, скрипт сам подгоняет под подходящие разрешения из набора и ресайзит, правда не уверен какая часть изображения при этом проебывается, но видимо небольшая.
> или инпейнтом
Сомнительно
>Как вообще определять количество регуляризационных изображений?
По одному на каждый шаг в эпохе. Но можно и с 2-4 повторениями. То есть если в эпохе 600 шагов, то 150-300 регов вполне катят.
> Я не сказать что опытный лораеб
Я просто сейчас любого, кто имеет хоть какой-то опыт спрашиваю насчёт этого, хочу научится и понять что где крутить, если встретится определённое поведение связанное с тренингом.
> конечно же если они есть в промте, и не заданы подробно. Не уверен что понятно и правильно выразился.
На самом деле реально ЯННП, типо в промпте(тегах) при тренировке можно как-то подробнее описать какую то часть?
Ну без уточняющих тегов вот пик1, говно выходит. С уточняющими другое дело на пик2.
> Если легко контролируется, то почему нет? Если можешь достичь с ней задуманного результата, то не вижу никаких проблем.
Ну я уже даже сделал один красивый арт с результатом этой тренировки. Результатом то я доволен, просто хочу научиться больше.
> Попозже гляну
Впринципе насчёт длительности тренировки я уже более менее начинаю догонять, как и насчёт проверки всего этого дела, ед