« 卒業研究 | Main | SA »

2005.02.18

確率と識別

Taskarさんの博論よみながら、MaxMargin、特にStructured Outputに関する実装をしようと考えているのですが、難しそう。卒論を拡張するくらいだったら、できるかな。うむむ

識別、分類するのになんとなく、確率使ったりMaxMarginなどで決定した識別平面を使ったりしているけど差はあまり考えなかった。上の論文よんだだけだとそれぞれの利点は

・確率(モデル)
 隠れ変数、要素等が存在する場合でも、EMという効率的な学習法がある
 確率自体が重要な場合がある

・MaxMarginによる識別
 正規化する必要がない(これはマルコフネットワークなどでクリークが大きい場合にきいてくる)
 Dualにして、Kernelが使える。
 確率が定義できないような場合でも識別できる(マッチング、教師付きクラスタリング等)

 と理解したのだが、どうでしょう。速度とかは工夫次第でかわってきそうな気もするが。

 (MAP推定を用いて)確率を識別に使った場合の学習理論はあまり知らない。まだ深く研究されていないのかもしれない。コリンズさんのレジュメに、エントロピー最大にするのと汎化能力に関する理論的な説明はまだされていないと書いてあったし。

 理論的に確率モデルと(MaxMaginなどによる)識別の差を述べているやつとかあったら教えてください。

 人間が識別にどっちを使っているかというと後者の気がするなぁ。
 後ろ姿だけを見て、その人がAさんかBさんか、それとも・・というのに対し全ての人の場合に適切な確率を与えて、最大の確率を選んでいるよりは、なんとなくAよりはBだろうなぁみたいな感じだし。
 あ、これは適当な意見です。

|

« 卒業研究 | Main | SA »

Comments

Post a comment



(Not displayed with comment.)




TrackBack

TrackBack URL for this entry:
http://app.cocolog-nifty.com/t/trackback/3041/2978405

Listed below are links to weblogs that reference 確率と識別:

» Machine Learning: Discriminative and Generative [きまぐれ日記]
確率と識別という意味は、生成モデル vs 識別モデル ということかな? http... [Read More]

Tracked on 2005.02.22 at 01:04 AM

« 卒業研究 | Main | SA »