回帰(6/3 4日目)
今日も回帰について勉強!
やさしく学ぶ 機械学習を理解するための数学のきほん ~アヤノ&ミオと一緒に学ぶ 機械学習の理論と数学、実装まで~
- 作者: LINE Fukuoka株式会社立石賢吾
- 出版社/メーカー: マイナビ出版
- 発売日: 2017/09/21
- メディア: 単行本(ソフトカバー)
- この商品を含むブログ (2件) を見る
色々用語が出てきたので備忘録。
ある関数(目的関数と言う)の値が一番小さく(大きく)なるような、パラメータを探す事?
最小二乗法
線形回帰において、実際の値と予測値の誤差の和を最小化し目的の関数を得る方法。式は割愛。
二次関数の最小値を求めて何かするっぽい。そのときに微分を使う。
関数を微分して得る関数のこと。
η(イータ)
学習率と呼ばれる正の定数。学習率の大小により最小値に到達するまでの更新回数が変わる。
収束せずに発散する場合もあり、その様子も図で解説されていれ分かりやすかった。
多変数関数の場合、変数ごとに動かし方も変えなければならない。一旦、他の変数を定数扱いにし微分する方法。
感想
メモ書きになっちゃいました笑。何となく回帰について理解できてきました。
アウトプット続けていると学習効率があがる気がします。あと楽しい。理論のアウトプットってただ学習しているだけではやる機会が無いと思うので、noteやブログ等の人目に触れる可能性のある所に公開するのって大事だと思う。
この調子で続けよー。
回帰(6/2 3日目)
今日もこちらで勉強しました。
やさしく学ぶ 機械学習を理解するための数学のきほん ~アヤノ&ミオと一緒に学ぶ 機械学習の理論と数学、実装まで~
- 作者: LINE Fukuoka株式会社立石賢吾
- 出版社/メーカー: マイナビ出版
- 発売日: 2017/09/21
- メディア: 単行本(ソフトカバー)
- この商品を含むブログ (2件) を見る
今回は回帰をメインに勉強しました。
分類は名前からしてわかりやすいし、クラスタリングはアプリケーション作るときに使った?のでイメージか付いていたのですが、回帰ってなんだか分かりずらい。
回帰の意味をググると
•ある事が行われて、また同じような状態に戻る事。
って書いてあります。
本やネットには回帰は株価や体重予測などの連続値を予測すると書かれています。
回帰の意味と回帰の使われ方の関係性がよく分かりませんでした。
そこで、回帰分析と調べてみることに。
ある変数が他の変数とどのように相関関係にあるのかを推定する、統計的手法の1つ。
本の中では広告費とクリック数の関係を線形回帰で求めようとしていたので、ここで合点がいきました。
回帰のキーワードとして、最適化問題、最小二乗法、微分etc..
なんとなく基礎が掴めてきました。
次は理論固めか、実際にプログラムを書くかやろうかなと思います。
感想
最初は回帰に付いて理解できるきがしなかったんですが、何となく分かるにつれて楽しくなってきました。これ分からん!!ってなった問題を理解できるのは楽しい。簡単な方に逃げてしまいがちだけど、分からないはチャンスだと思えました。
2日目 6/2 勉強の記録
2日目 6/2 勉強の記録
今日は機械学習が得意とするタスクとは?をこちらの本で学びました。
やさしく学ぶ 機械学習を理解するための数学のきほん ~アヤノ&ミオと一緒に学ぶ 機械学習の理論と数学、実装まで~
- 作者: LINE Fukuoka株式会社立石賢吾
- 出版社/メーカー: マイナビ出版
- 発売日: 2017/09/21
- メディア: 単行本(ソフトカバー)
- この商品を含むブログ (2件) を見る
「学んだこと」
得意とするタスクは3種類
回帰、分類、クラスタリング
回帰(Regression)
・教師あり学習
・連続するデータ(時系列データ)を扱うときに使われる
・株価、Webサイトのアクセス数、体重等を予測するときに使われるもの?
分類(Classification)
・教師あり学習
・男性か女性かの判別、スパムメールかの判別などを行う
・分類先が2つのものを2値分類、それ以上のものを多値分類と言う
クラスタリング(Clustering)
・教師なし学習
・ある集合体をそれっぽくグルーピングしてくれる。
注意点
・分類とクラスタリングは別物。やってる事が似ているので私は最初、同じものかと思っていた。クラスタリングは教師なし学習。
「感想」
回帰のイメージが上手く掴めてないので次回に回帰のイメージを深めたい。実際にコードを動かしてみて見ようと思います!
分類って医療に使えそう。例えば腫瘍が陽性か陰性かなど。