ハイパーパラメータとは？

📖 もうちょい詳しく

ハイパーパラメータは、AIの学習が始まる前に、人があらかじめ決めておく設定値のことです。AIが学習の中で自分で調整していく数値（パラメータ）とは別物で、こちらは「どう学ばせるか」を外から指定します。学習の良し悪しが大きく変わるので、AI開発ではとても大事な部分です。

AIの学習では、たくさんのデータを見ながら内部の数値を少しずつ直していきます。このとき「1回でどれくらい直すか」「何件ずつまとめて見るか」「同じデータを何周するか」といった進め方を、ハイパーパラメータが決めます。学習中はこの値は変わらず、学習をやり直すときに人が手で変えていきます。

値をうまく選ぶと、AIが速く・かしこく学べます。逆に外すと、なかなか賢くならなかったり、覚えすぎて応用がきかなくなったりします。そこで少しずつ値を変えて試し、いちばん成績の良かった組み合わせを探す作業をします。これを「チューニング」と呼びます。

オーブンの設定で例えると分かりやすいです。生地（データ）と最終的な焼き上がり（賢くなったAI）は決まっていても、「温度」「焼く時間」「予熱するか」は焼く前に人が決めますよね。ハイパーパラメータはこの温度や時間にあたります。同じ材料でも、この設定しだいで仕上がりが大きく変わります。

別物です。パラメータはAIが学習の中で自分で調整していく数値で、ハイパーパラメータは学習の前に人が決める設定値です。前者は「学んだ結果」、後者は「学び方の指示」と分けて覚えると混乱しにくくなります。

そうとは限りません。たとえば学習率を大きくしすぎると、調整が雑になってうまく賢くなれないことがあります。小さすぎると今度は時間がかかります。多くの場合、ちょうどいい中間あたりを探すことになります。

扱うデータや目的が変わると、適した値も変わることが多いです。なので新しい課題に取り組むたびに、また試して選び直すのが一般的です。「この値が常に正解」というものはほぼありません。

ハイパーパラメータは、AIの「学び方」を学習前に外から指定するつまみで、選び方しだいで仕上がりが変わる調整ポイントです。