« April 2007 | Main | June 2007 »

2007.05.20

PPMとBWT

持橋さんのところで書かれていた、好きな話なので突っ込む

”PPM(Prediction by Partial Matching)はWitten-Bellスムージングされたバックオフnグラム”

というのはまさにそうなんなんですが、実際の実装では親ノードの情報を子ノードに伝えるinformation inheritanceなど、新しい履歴が出現したときの初期値(かっこよくいうとprior)をいろいろ工夫してますね。高速化と予測モデルの精緻化の集大成の一つがPPMIIでいい論文も出てます(もう読んでるでしょか)
PPM: one step to practicality
その実装 ds(ロシア語なので適当な翻訳をかけてください)

Pitman-Yor過程に基づく可変長n-gram言語モデルが従来PPMにあったヒューリスティックスを説明できたらいいですね。

BWTについては
"Compressed Full Text Indexes"の導入の章でSuffix ArraysとBurrows Wheelers Transformyの関係やEmpirical EntropyとBWTとの関係が述べられているので参考になるかと。

| | Comments (6) | TrackBack (0)

2007.05.19

本屋好き

最近の本屋は椅子がおいてあるので、じっくり読んで選べる。歴史本とかを買ったり

ずっと受けたかったソフトウェアエンジニアリングの授業(1)
ずっと受けたかったソフトウェアエンジニアリングの授業(2)

NTTソフトウエアの方が高知工科大で授業した内容をまとめたソフトウェアエンジニアリングの話。実際にどのように仕事を受け取りやりとりして開発していくかの方法論や現場の話が書いてある。
内容は平易であり1,2時間ぐらいでざっと読める。後半に派遣やソフトウェア産業構造、学校でサイエンスのみが教えられエンジニアリングの話が触れないことへの危惧感が述べられています。

| | Comments (1) | TrackBack (0)

2007.05.14

sqliteとme

SQLiteの解説書"The Definitive Guide to SQLite"読んでます。

Relational Database、SQLについての分りやすい解説から、SQLite使ったプログラミングとか書いてます。
個人的には最初二つの解説がとても丁寧でよかったです。おすすめ

週末はExponentiated Gradient Algorithms for Log-Linear Structured Prediction [pdf] を実装してました。以前はMaximum Entropy (Logistic Regression, Log-Linear Modelともいう)法の学習の実装は数値最適化の部分をL-BFGSなどのブラックボックスに入れるという感じで大変だったのですが、これだとパーセプトロンと同じくらい実装が簡単ですね。

| | Comments (1) | TrackBack (0)

2007.05.12

日本国憲法の誕生

ラグビーの日本代表対クラシックオールブラックスが今日の14:00からやると思いこんでテレビの前に準備して待っていたら番組表の間違いで今夜からでした。

その代わりにNHKスペシャル日本国憲法の誕生の再放送がやっていたのでみました。

日本国憲法がどういうやり取りでできたかのドキュメンタリー。

戦後の混乱の中、GHQと日本国政府側での憲法制定のやりとりで、天皇制の廃止を求めるであろう極東委員会が口を出す前に急いで1週間で憲法草案を作ったとか、22歳で男女平等など人権のGHQ草案を書いたベアテさんとか知らないことが多かったです。

法律を書いている人の苦労話を聞いたことがありますが、憲法ともなるとその苦労はすごいんでしょう。

国会図書館も特集やっていて様々な資料の原文が読めるみたいです。

| | Comments (0) | TrackBack (0)

2007.05.11

英文

健康じゃないけど健康診断行きました。健康じゃないの既知、自明。きつかった。風邪治します。

私はといえば、英文を書くスピードが上がらない。ぐぐぐぐという感じで書いてます。
漫画家が最初の頃の絵と最後の頃の絵がぜんぜん違うようにどんどん書いていればうまくなるんだろか。
でもずっと書いて変わらない人もいるけどね。いろいろ。

いまさらかもですが(対象分野は違えど)論文の書き方とそのリンク先のこれはいいですね。具体的な方法論でこんなのもあります。

| | Comments (4) | TrackBack (0)

2007.05.09

休み抜粋

4/29 夜後楽園ジンギスカン。翌日 昼吉祥寺飲み。夜本郷飲み。
    これらで体がおかしくなり、三日酔いぐらいになって傷付いた鳥のように体をいたわる。酒を控える
5/4 福島に帰省。ネットも印刷も(簡単に)できないので、何もせずにポケーっとすごすという極上の贅沢を満喫
5/7 帰京予定が風邪をひき寝込む。実家で次の日まで治すべくひたすら寝る。
5/8 帰京。なんとか担当の演習をやることができ、薬買って家帰って寝る。

| | Comments (2) | TrackBack (0)

« April 2007 | Main | June 2007 »