境界線上をゆけ

テクノロジーとビジネスの狭間で格闘する

【DeepLearning入門】Chainer&Word2VecとCUDAで自分のfacebookクローンをつくってみた。

だいぶ前に、GPUを使った深層学習用の環境構築をした時のメモです。機械学習の初心者向けです。

使うサービスやライブラリ、データなど

  • Chainer(日本発の深層学習用ライブラリ)
  • AWS(機械学習はlatency関係ないので、Tokyoよりも料金が安い米国東部(バージニア北部)でinstance立てました)
  • CUDA(Nvidia社によるGPUを活用した統合開発環境)

f:id:tairosan:20160301144940p:plain

  • Word2Vec(Googleによる、文章から単語同士の関連性を学習するライブラリ)
  • facebookでダウンロードした自分の投稿データ(7.8M)


お題は「facebookで過去に書いた全文をDeepLearningで学習させて、自動で文章を書かせる」です。

※最新のversionとの依存関係が不明です。再現実験をして動作させてから修正予定です(2016年3月1日時点)


基本的に下記のサイトの通りに進めて、つまづいた点をいくつか直せば動きます。

実例

「仕事」について2000字の文章を自動で書かせてみたら、結果はこんな感じ。

$ python sample.py --model facebook/charrnn_epoch_49.61.chainermodel --vocabulary data/facebook/vocab.bin --primetext '仕事' --length 2000 --gpu 0


仕事 で 中途 塾 と 目標 に 正直 your 社長 も 来年 まで は 190 名 の 黒 を 組み たい の です が 、 下記 一 人 において その 事 で やっ て ない 人式 が 書い て いる です ね ( 笑 ) 
RI ちょっと プラミク 受けっ てる ん です か ? 
wildcard を 必須 で 取る という 機能 に 自然 な と 思っ て く いけ ない と 思っ て い ませ ん 。 
KPI シート を 送信 を し て もらっ て 、 給与 、 恐縮 です が 、 コンセプト に 入り替え て いい です か ? 
戻し に お 渡す お手数 を お願い し ます 。 やっぱり 何 か これ 修正 、 契約 書 人 メイット の 面接 の 反映 も あり ます 。 
ありがとう ござい ます ! 安心 でき ます か ? あと 、 金  さん で み た よう で 実装 さ せる よう に 言い とけ ば いい でしょ う か ? 
これ 、 外す か ? まあ 、 最終 面接 が 悪い よ ね 。 
森山 さん 1 の メール を 皆さ グラフ を やる 可能 性 が ある ので 週 明け 8 日 に 戻っ た もの でしょ う か ? ( 間違え て しまっ て おり ます か ? ) 
掲載 中 だけ facebook ログイン とか 、 SASS だろ う と 思う ん だ よ ね ? 
「 本人 の 軽く フラグ です ね 。 エントリー シート 数 」 ⇒ 「 物理 登録 、 「 面接 」 規定 は 媒体 に は ) 。 そんなに いい です か ? 
求職 者 画面 の 企業 判断 の ボタン から 見 て 見る ので 。 
それと 、 縮社 日 に ユンザー の 学生 に ある とか ペンジ 検索 を いつ も 実現 し たい と 思い ます 。 
わから ない ので 、 。 。 こちら の 情報 資料 について は 今日 、 少し 遅れ て すみません 。 また 、 土田 さん について は 、 弊社 を 送っ て ください 
WILD CARD Student の 修正 スケール は この 案件 を 「 でき て いる ところ の ところ から in 。 」 という ボタン は ラーナル 、 機能 と 開発 を お願い し ます 。   スカウト の 登録 を し て いる ファイル を もし 、 ご通知 様 に 改めて ステータス で なし 、 こんな 感じ か と 思う ので お願い し ます 。 
↑ とりあえず テスト 機能 で 進ん で ます ね ! 本日 中 に お 行ん の か し て 頂け ない ん でしょ う か ? ? ■ これ 以外 に 変更 さ れ た と バグ を 3 使い 中 の 前提 = チェック の お 支払い を し て い た カメッシット は 管理 画面 以外 は スカウト を 入っ て き て おり ます 。 
確認 し て いただき 、 管理 が 必要 ない し 。 エージェント にて 、 管理 画面 を 説明 し て 頂き 、 山田 さん が 抜い て くれ て しまい ます ね 。 お 支払い 状況 に関して は 、 調整 の 上 の 方 を 確認 し まし た 。 
★ 画面 に 追加 申請 し まし た ! ちなみに 、 メールカップ の 前 に 内容 を 変更 し て いただき まし た 。 
11 時 頃 に は 、 確認 数 の 仕事 で キャンペーン の ライブ に 求職 者 形式 を 使っ て いる 「 これ は 別途 よく 転送 し て 左右 』 を 仕組み し ます 。 現状 の し て もらわ ない と 無い 方法 で の 内定 通知 書 を 見せ て いる ほど の ソフトバンク 企業 側 を 欲しい で 、 やっ て もらっ て 、 「 トレンドカード 」 を 実と 反映 さ れ て 連絡 する だけ だっ たら 、 確認 し たい こと を 可能 で ござい ます 。 そ ー し て レイト 下さい 。 
とりあえず 、 / と いう か アプリケーション 閲覧 対応 を する ? それでも 、 出来 ない です 。 念 の よう な 文言 待ち に は テスト が 必要 。 以外 の なら 大丈夫 です ね … テスト を お願い し ます ( 。 ω ・ ;) 
検討 お願い し ます 
1 5 時 から   サービス 承認 まで 追加 し て おり ます 。 


49epochくらいでは、学習したとはいえないのかもしれないですね。
まだGPUの性能をちゃんと使えてる気がしない。


文章的にはまだ意味不明ですが


「これ 、 外す か ? まあ 、 最終 面接 が 悪い よ ね 。 」

「ペンジ 検索 を いつ も 実現 し たい と 思い ます 。 」

「 間違え て しまっ て おり ます か ? 」

「そ ー し て レイト 下さい 。 」


とか、時々それっぽい日本語を喋ってますね。



会社では求人検索エンジンを開発しています。機械学習に興味のあるエンジニアの方はどうぞ。