Pseudo Theory of Everything

データサイエンス初心者物理学徒の奮闘記

【論文紹介】LieGG: Studying Learned Lie Group Generators

この記事は BrainPad Advent Calender 2022 の2日目の記事となります。 今回もまた社内の論文紹介で話した内容の公開記事です。またまた機械学習と対称性の話ですが、今回はデータを学習させたモデルから対称性を見つけ出す、という取り組みがちょっと興味深…

【論文紹介】Generative and Contrastive Self-Supervised Learning for Graph Anomaly Detection

社内の論文紹介で使用したスライドを公開します。 読んだ論文はこちらです。 arxiv.org

【論文紹介】The Lottery Ticket Hypothesis

社内の論文紹介で使用したスライドを公開します。 読んだ論文はこちらです。 arxiv.org かなり有名な論文なので既にご存じの方も多いと思いますが、せっかくなので公開させていただきます。

【論文紹介】MCFlow: Monte Carlo Flow Models for Data Imputation

社内の論文紹介で使用したスライドを公開します。 読んだ論文はこちらです。 arxiv.org

【論文紹介】E(n) Equivariant Graph Neural Networks

対称性が課された機械学習の理論に興味があり、なんとなく探していたところ、最近出た論文に読みやすそうなものがあったので読んでみました。次の論文を紹介したいと思います。 arxiv.org

Juliaの自動微分パッケージ Zygote の紹介

Zygoteパッケージ Juliaの数値微分パッケージであるZygoteパッケージを簡単に紹介します。 Julia/Zygoteでは以前取り扱ったPyTorchの自動微分に比べ非常に簡単に少ないコード量で同等のことが実行できます。

PyTorch Tutorials : 60 MINUTE BLITZ/自動微分モジュール

PyTorchをはじめとするニューラルネットワークのライブラリ(のおそらく全て)は自動微分の機能を持ち合わせています。PyTorchも例外ではなく、自動微分モジュール autograd が存在します。今回のチュートリアルはその autograd がどのように使われ、どのよう…

PyTorch Tutorials : 60 MINUTE BLITZ/PyTorchでのテンソルの扱い

ディープラーニングを行う多くの場面で多次元のテンソルが利用されます。PyTorchではそのテンソルをどのように扱われているのかに触れていきます。

PyTorch Tutorials : 60 MINUTE BLITZの紹介

PyTorchの最初のチュートリアルは「A 60 MINUTE BLITZ」です。

行列の分割と逆行列

行列のブロック行列分解と、そのブロック化したベースで行列の対角化の導出を扱います。

勉強会『Machine Learning and Physics Bridge』を開催します!

2020年2月10日に勉強会 Machine Learning and Physics Bridge を開催します! 素朴に「物理出身者を集めてお喋りしたら楽しい」という発想から、物理になんらかのゆかりがあるデータサイエンティストに向けて勉強会開催に至りました!! 「物理とデータサイ…

PyTorch Tutorials

2020年の目標の1つとしてPyTorchの公式Tutorialsを読み進めてみようということになりました。 これまでディープなラーニングをする際、Kerasを使ってきました。正直tensorflowを生で扱える程の技術があるとは言い切れないレベルです。 一方、論文の実装例な…

わしの思うリッジ回帰(L2正則化)と正則化法。

1 はじめに 最近、我々+数名でスパースモデリングという分野を勉強しています。詳細はまた別の記事にて紹介するにして、今回はスパースモデリングの前段階に当たる リッジ回帰(ridge regresion) に脚光を当てます1。 読者には釈迦に説法かもしれませんが、リ…

グラフの中心でAIを叫んだノード(なおAIは出ない) 〜あるいはnode2vecに至るグラフ理論〜

// // 1 イントロダクション 本記事を読む前に、本章を読んでください。書いていくごとに、とにかくボリュームが多くなりました。 本章では「グラフとは何か?」と「本記事で扱うこと・扱わないこと」をまとめています。非常にボリューミーなので、自身の必要…