LoRA
Low-Rank Adaptation/ろーら
ひとことで言うと
本体は凍結し、小さな追加部品だけを学習させて、AIを安く特定用途に寄せる調整方法です。
📖 もうちょい詳しく
何が新しいの?
LoRA(ローラ)は、学習済みのAIモデルを安く・軽く調整するためのファインチューニング(追加学習)の手法です。
ふつうのファインチューニングは、巨大なモデル全体を学習し直すので、強力なパソコンや多くのメモリ、長い時間がかかります。LoRAは、本体には手をつけず、小さな「追加部品」だけを学習させます。これで必要な計算や保存の量がぐっと減り、個人や小さなチームでも手が届きやすくなりました。
どうやって動いてるの?
LoRAでは、もとの大きなモデルの中身(パラメータと呼ばれる無数の数値)を凍結(こおらせて変えない)します。
そのうえで、各所に「低ランク行列」という小さな表(数値のかたまり)を二つだけ足して、そこだけを学習します。「低ランク」とは、少ない数値で大きな調整を表す、という意味です。本体は変えず、差分(変更ぶんだけ)を小さな部品に覚えさせるので、保存するファイルも数メガ〜数十メガと小さくすみます。
つまり、巨大な本を全部書き直すのではなく、追加のふせんだけを学習する、というのがLoRAの考え方です。
何ができるの?
文体の統一や、特定の分類、決まった出力の形などに、低コストでモデルを寄せられます。
できあがるのは小さな部品ファイルなので、用途ごとに何種類も作って、本体に付け替えて使い分けられるのが便利な点です。画像生成AIで特定の絵柄や人物の特徴を覚えさせる用途でも、LoRAは広く使われています。
🌱 身近なたとえ
LoRAで例えると、「分厚い辞書本体には書き込まず、必要な箇所にふせんを貼って使い分けること」です。
辞書そのものは買い直さず、用途ごとに色違いのふせんを用意して、その日に合うものを貼り替えます。ふせんは薄くて軽いので、何枚作っても置き場所に困りません。
本体を書き換える代わりに、小さな付け替え部品で味つけを変える——それがLoRAのイメージです。
✅ まず覚えるポイント
- LoRAは、本体を凍結し、小さな追加部品だけを学習する効率的なファインチューニング
- 必要な計算・メモリ・保存量が少なく、低コストで調整できる
- できる部品が小さいので、用途ごとに作って付け替えやすい
- 文章AIだけでなく、画像生成AIの絵柄調整にもよく使われる
- 「本体はそのまま、差分だけ覚える」という発想がポイント
🧭 よくある勘違い
LoRAを使えば、モデルが賢くなるの?
賢くなるというより、特定の用途に「寄る」のが正しい理解です。LoRAは答え方のクセや出力の形をそろえるのが得意ですが、新しい事実の知識を大量に持たせる用途には向かないことが多いです。
最新情報や社内資料を反映したいなら、RAG(外部の資料を参照させるしくみ)のほうが向きます。「型はLoRA、事実はRAG」と分けて考えると整理しやすくなります。
ふつうのファインチューニングと何が違うの?
ねらいは同じ「目的に寄せる」ですが、変える範囲が違います。ふつうのファインチューニングは本体全体を学習し直すのに対し、LoRAは本体を凍結して小さな部品だけを学習します。
そのぶんLoRAは安く軽く、付け替えもしやすい一方、調整できる幅は手法しだいで限られる場合もあります。手早く・低コストに寄せたいときの選択肢、と捉えると分かりやすいです。
LoRAの部品だけで動くの?
いいえ、LoRAの部品は単体では動きません。あくまで本体のモデルに付け足して使う、追加部品です。
土台となるモデルがあって、その上にLoRAを重ねてはじめて効果が出ます。本体とセットで考えるのが基本です。
🧩 関連して覚えると楽な言葉
- ファインチューニング: LoRAが属する、学習済みモデルを目的に寄せる調整方法
- LLM: LoRAで調整する対象になる、言葉を扱う本体モデル
- RAG: 最新情報や事実を持たせたいときに向く、相性の良い代替・併用策
- Stable Diffusion: LoRAで絵柄調整がよく行われる、代表的な画像生成AI
🏁 ひとことでまとめ
LoRAは、大きなモデル本体はそのままに、小さな追加部品だけを学習させて、安く軽く目的へ寄せる調整方法です。
ふせんを貼り替える感覚で何種類も作って使い分けられるので、低コストにAIを専門化したい場面で頼れる手段になります。
TERM SEARCH
ほかの用語を調べる
検索ボックスを準備中…