機械学習

Transformer、訓練に時間かかりすぎ…

以前Transformerを適当に作って、適当なデータセットで学習させてみてます、という話を書きました。未だに学習続けているんですが、２週間くらいチミチミ学習させて、今このざまです。Input: あなたの名前はなんですか?」「私はOutpu...

Transformer勉強中

正直またこのブログも放置しようかと思ったんですが。気が変わったので今やってることでも書いておきます。仕事が暇で特にやることがないので、Transformerを勝手に勉強しています。あれですよ、Attention is all you nee...