先日、マルチGPU化を実施しましたが、それによる性能測定や比較は実施できていなかったので今週末に実施しました。 また、ちょうどdlshogi本家側でマルチストリーム対応がなされていたので、それも同時に測定・比較を行っています。 【ベンチマーク測定】 ■…

dlshogiに付属するベンチマーク計測用のスクリプトについて、少し使いにくい点があったためコードを一部書き直しました。■不便であった点 今回いじったbenchmark.pyは、スクリプト内にベタ書きされた局面を読み込み、それを秒読み指定で局面数分ループを回し…

第２回電竜戦も終了し、今年の大会がひと段落したところで以前より検討していたマルチGPU化を実施してみました。 実はdlshogiは既にマルチGPUによるスケールアウトに対応しているのですが、未だに自身のAWSアカウントのvCPUの上限緩和がされないため、本当に…

2021/11/20(土)に第２回電竜戦が開催されました。 7月のTSECに引き続き、自分も出場してきましたのでその所感をつらつらと書きます。 出場ソフトは全部で44チームで、ソフトのみ/人間のみ/ソフトと人間の合議制のパターン何れかで出場が可能。人間のみでの参…

将棋ソフトの大会はいくつか存在して、いちばん世間的にも有名だったもので言うと電王戦なのですが、今は無くなってしまったため現在は以下のものが主な大会なんじゃないか思います。（自分で知っている限りは） ・世界コンピュータ将棋選手権 ・電竜戦 今回…

dlshogiのnetwork構成をTransformer系の一つであるViTに変えて学習させたのち、onnxファイルの作成まで漕ぎ着けたは良いものの、その後のtensorRTへの最適化でかなり苦戦したため、ここに備忘録として残します。 つい先日network構成を変えたものを作ったの…

掲題の通り、train_rl_policy_with_value_using_hcpe_bootstrap.pyにパラメータのカウント機能を追加しました。 この辺の機能は調べればツールとか既存のライブラリもありそうでしたが、上記ファイルを実行直後に分かるのでこれはこれで重宝しています。コー…

掲題の通り、山岡さん、加納さんが公開されているデータセットを使って地道に育てていたLW(Lightweight)くんが遂にやねうら王(YaneuraOu NNUE 6.00 64ZEN2 TOURNAMENT)に勝利しました。 最初期は24手で敗北一直線だったことを考えると、かなり感慨深いです。…

GCT電竜が第一回電竜戦で成功を修めてから、各将棋ソフトのDLへの転換をよく耳にします。 現在進行形のやねうら王はもちろん、色々なチームがDL化を行うのかな......と考えてますが、またそれによって更にAWSによる大規模クラスタ勢も増えてきそうでもありま…

掲題の件ですが、改造したNetworkで何度か学習を回してみたのでここで振り返ります。 結果は以下の通り。 GCT電竜のデータセットの一部を使用。 ■結果 学習データ ：floodgate2008〜2013 テストデータ：floodgate_teacher_uniq-test-01 学習局面数 ：33,539,…

感想、やねうら王強い。 と、一文で終わらせたくなるほどの大敗北でした。 まあ、COM将棋トップレベルのやねうら王と、生後1日＆一回学習回しただけのDL系ソフトでは結果は火を見るよりも明らかなんですが。 ただ、ここまで圧倒的な差を見せられると 「これ…

仕事から帰ってきてすぐにPCを点け、学習を開始→朝に結果を確認するという生活ルーティンを取っていますが、朝に起きても学習が終わっていない（モデルが保存されていない）ことが続いていました。 ということで、困ったときの味方であるlogging君とprint君…

実験的にかなり少ないデータで学習させたモデルをONNXにコンバートしようとしたところ、SiLUはサポートされていないと怒られました。 これはおそらくONNXのバージョンのせいかと思われますが、アップデートしてまた動作確認して...という手間が激しく嫌なの…

最近、dlshogiの環境構築が終わってようやくプログラムの方へ手をつけられるようになってきました。 ただ、掲題で改良と書かずに改造と書いたのにはちゃんと理由があって、それは良い方向に転がるか分からないからです。 実装の元ネタとなる論文とかを見た感…

ブログ自体は過去に一度作っていましたが、用途は分けたかったので新設しました。 興味のある機械学習や普段の日記としても活用する方針です。