stable-diffusion-webui部署lora

介绍lora

LoRA，英文全称Low-Rank Adaptation of Large Language Models，直译为大语言模型的低阶适应，这是微软的研究人员为了解决大语言模型微调而开发的一项技术。
比如，GPT-3有1750亿参数，为了让它能干特定领域的活儿，需要做微调，但是如果直接对GPT-3做微调，成本太高太麻烦了。

LoRA的做法是，冻结预训练好的模型权重参数，然后在每个Transformer（Transforme就是GPT的那个T）块里注入可训练的层，由于不需要对模型的权重参数重新计算梯度，所以，大大减少了需要训练的计算量。

研究发现，LoRA的微调质量与全模型微调相当，我愿称之为神器。

要做个比喻的话，就好比是大模型的一个小模型，或者说是一个插件。

LoRA本来是给大语言模型准备的，但把它用在cross-attention layers（交叉关注层）也能影响用文字生成图片的效果。

最早的Stable Diffusion模型其实不支持LoRa的，后来才加入了对LoRa的支持，据说，Simo Ryu是第一个让Stable Diffusion支持LoRa的人

lora的github仓库地址是 https://github.com/cloneofsimo/lora

安装additional-networks扩展（lora插件）

1、扩展界面点击加载

2、在扩展界面找到Kohya-ss Additional Networks

3、点击安装，安装成功后重启webui
会发现多了一个“可选附加网络(LoRA插件)”的栏目

下载lora基础模型

在使用lora之前我们需要下载关于lora的基础大模型

介绍civitai

先介绍一下 civitai ，一些优秀的模型会被收录到专门的模型汇总网站如Civitai中，在这个网站上几乎有你大部分需要的模型，比如小姐姐、二次元和一些可爱的小动物等等（别光盯着小姐姐看），访问这个网站是需要科学上网的，为什么呢？自己百度

下载基础模型

基础模型的下载地址是： https://civitai.com/models/6424/chilloutmix
文件有4G左右，可以使用迅雷下载，无需科学上网。记得用迅雷下载之后把文件名字改成原文件的名字。
下载好以后把文件复制到stable-diffusion-webui\models\Stable-diffusion目录中。

在webui中刷新模型列表

选择我们刚刚下载好的模型

选择以后会加载该模型，需要一点时间，等待一会

接下来我们就需要下载我们喜欢的LoRA文件并使用了
我们使用 https://civitai.com/api/download/models/20090 这个lora模型来测试。

先下载，然后把这个lora模型文件移动到stable-diffusion-webui\extensions\sd-webui-additional-networks\models\lora目录下
关闭cmd控制台，使用webui-user.bat重新启动webui。刷新一下webui网页，会发现lora模型中出现了刚刚我们下载的这个模型。

注意“可选附加网络(LoRA插件)”下面启动选择框要选中