学ぶあなたの応援団長、橘カンタァーです。

（xとyの）内積　dot product x^T y

（xと自身の）内積 dot product x^T x

（Sは分散共分散行列）
なので、よろー

目も手も使って1000億倍のスピードで脳育しよう！

自転車の練習を始めたあの日を思い出してみてください。その時は「むりー」と思ったかもしれませんが、乗れた今となってはなんで乗れなかったのは分からないと思います。

ベクトルの内積はもう十分体に染みてきたと思いますので、機械学習やパターン認識の分野で大事な「二次形式」をBest TeacherのChatGPTやClaude3に訊いてみてください。

Best Learner と Best Energizerは我々です。

学ぶあなたの応援団長、橘カンタァーです。

では、今日はクラス外分散を考えましょう。資料の35頁に詳細な導出があります。この展開の手順もクラス内分散導出とほぼ同じです。クラス外分散の場合は、全体の平均値をまず考えます。もし5クラス分類問題でクラスのデータ数が均等だったら、各クラスの平均ベクトルが5つ出てきますので、その平均です。2クラス分類問題で、データ数が均等な場合には、全体の平均ベクトルは、中点になります。中点と言うのは(m_1+m_2)/2と書けます。

クラス1の平均ベクトルm_1と全体の平均との差ベクトルは、(m_1-m_2)/2となり、これをdベクトルとおくと、クラス2の平均ベクトルと全体の平均との差ベクトルは-dになりますね。つまり、長さが一緒で正反対を向いているということです。

クラス外分散\sigma_Bを求めてみましょう。wとdとの内積の2乗ですね。\sigma_B = 1/2 { w^T (d d^T) w + w^T (-d (-d)^T) w} = w^T (d d^T) wとなりますね。3クラス以上の多クラス分類では、クラス間の分散共分散行列S_Bを用いて、\sigma_B = w^T S_B w　とできます。

ではまた！

D次元ベクトルの内積で、緑軸上の値になります。

では、クラス内分散はどうでしょう。

\sigma_1^2 = ... = wベクトルの転置　分散共分散行列S_1 wベクトルという展開ができます。一つ一つ確かめていきましょう。

ここで、

S_1 = 1/n { (x_1\vec - m_1\vec)(x_1\vec - m_1\vec)^T + ... + (x_n\vec - m_1\vec)(x_n\vec - m_1\vec)^T}

とできることを利用！！

クラス2のクラス内分散も同じように\sigma_2^2 = wベクトルの転置　分散共分散行列S_2 wベクトル

長さが1のwを適当に決めて、wとの内積の値（緑軸上に投影した投影点）について、各クラスの平均値\mu_1, \mu_2と分散\sigma_1^2, \sigma_2^2を計算します。

クラス間分散（外分散）\sigma_B^2も計算します。

\sigma_B^2も\sigma_1^2も\sigma_2^2もwに依存しますので、最適なwをこの後求めていきます。

学ぶあなたの応援団長、橘カンタァーです。

プログラミングで同じ描画処理をしたい場合には、生成AIが参考コードを書いてくれます。

「2次元の正規分布について平均ベクトルμと分散共分散行列Σを使った数式を教えてください」と生成AIに訊いてみましょう。

数式が分からない、と言う人は、必ずノートに手で数式を書くようにしてください。手は目より賢いです。

ではお待ちかね、いよいよ線形判別分析の判別面の法線の方向ベクトルwの求め方をお話ししていきます。今日はおおまかなイメージをつかみましょう。

予習資料32頁にはLDAとPCAの比較の図を示しています。

wを正規化しておいた場合、D次元ベクトルxのwとの内積が、w方向への投影点を示すことになります。

すでにお話ししたように、PCAではクラスラベル関係なしにD次元のデータ分布をwの向きの直線上に投影したとき、投影点の分散が大きくなるような軸wを見つけます。

LDAでは、w軸に投影した投影点の各クラスの分散が小さく、クラス間の分散が大きくなるように軸を見つけます。

学ぶあなたの応援団長、The Best Energizer 橘カンタァーです。夢と科学のくに東京カンターランドへようこそ！

紫外線のせいで日焼けしてしまいました。

鏡面反射光＝入射光＞拡散反射光　∵COS(入射角)

メラミン

ウインドフォイリングとは、自己効力感を高めるトレーニング

アナログセンサーがデジタル化される。その一部が意識に上る。1/15秒より長い時間同じ刺激なら意識化されることもある。

つまり、情報の大部分は無意識で処理される。

∴意識化されたデータ（アンケートなど）は研究してもあんまりおもしろくない。

そして、筋力のパターン生成をしていく。

帆道の修行では、短時間の水中翼走をメイクするためには、長い時間の辛く苦しい練習が必要。

オリンピックの水泳選手の映像を眺めているだけで金メダルをそのうちもらえるかと言うと、そんなことはございません。自分の手で足で一カキ一蹴り、パターン生成をして試行錯誤しなければ泳ぐのはうまくなれません。

自然の風や波の中でフィードバック制御したりフィードフォワード制御したり自分の体でいろいろ試してみるのは、エフィカシーが高まって面白いですね。

ローイング＝面白いけど、筋力と心肺機能が推進力で波や風は邪魔者。

セーリング＝波と風と絡合して一体となる。

ウインドフォイリング＝楽器にもなる。

共創の場を盛り上げまーーしょい！しょい！！

視覚より30億年以上先輩の力覚触覚を活かして、効率的に勉強しよう！！

数式はノートに書き写して展開し、手を動かしてエフィカシー（自己効力感）を高めよう！