論文SimCLRを使って自己教師学習をしてみた
書誌情報 論文タイトル：A Simple Framework for Contrastive Learning of Visual Representations 論文著者 : Ting Chen et al. 使用コー...
論文
論文
論文疑似ラベルの逐次的な追加による半教師あり学習の実装
前回の記事( )の最後でself-trainingに少し触れたが、それの実装を行う。 self-trainingとは、モデルの予測の信頼度が高いものを正解としてしまい、訓練データに加える手法である。 実験設定 データセ...
論文信頼度ベースのactive learningを実装してみた
仕事でactive learningを実装することになったのだが、少なくともCIFAR10使って精度でないものを使ってもしょうがないということで、ベースラインとして簡単な実装を試みた。 信頼度ベースのactive learningと...
論文半教師あり学習でみんな大好きVATを実装した
仕事でVATを実装することになったのだが、少なくともMNIST使って精度でないものを使ってもしょうがないということで、まともな実装をいくつか試し、精度がでたもの実装をメモすることにした。
論文実装ICLR2021(Spotlight)のVery Deep VAEの実装を眺めてみた
階層的VAEの簡単な説明をした後、非常に深い層の階層的なVAEで鮮明な画像を出力できるVery Deep VAE(ICLR2021・Spotlight)の実装をざっくりと解説する。
論文紹介ICLR2021のデノイジングの論文の紹介
ICLR2021のデノイジングの論文(Fully Unsupervised Diversity Denoising with Convolutional Variational Autoencoders)の紹介。ノイズ画像のみを訓練画像とし、VAEの枠組みを利用してノイズモデルを学習させることで、確率的に複数のクリーンな画像を提示することを可能にした。
論文実装DatasetGAN（超簡略ver）を実装した話
DatasetGAN（超簡略ver）を実装してみたブログ。DatasetGANはStyleGANのAdaIN層の特徴を活用し、セグメンテーションデータセットを無限生成するが、普通のGANを使って、画像とラベルを無限生成することは半教師あり学習の手法として有望なのかを確かめる。
論文紹介CVPR2021(oral)の論文であるDatasetGANの紹介
CVPR2021のoral論文である、DatasetGAN: Efficient Labeled Data Factory with Minimal Human Effortの紹介。StyleGANの特徴マップから抽出した画素ごとの特徴を入力、少数の合成画像の画素ごとのアノテーションを教師とし、MLPを学習することで、「無限」のデータセットとそのアノテーションを生成する。
論文紹介Federated Learning（連合学習）のサーベイ論文の紹介
Federated Learning（連合学習）の定義を確認したあと、6つの要素（データの配置のされ方、機械学習モデル、プライバシー機構、通信構造、連合のスケール、連合のモチベーション）をもとにした連合学習の分類について詳しくみていく
論文紹介ICLR2021の自己教師あり分布外検知の論文の紹介
SSD: A Unified Framework for Self-Supervised Outlier Detectionの解説記事。自己教師あり学習の手法の一つである対照学習で特徴空間の学習を行い、k-meansを用いて分布内データのクラスタを推定し、特徴空間におけるマハラノビス距離を計算することで、分布内データのクラスラベルを使わずに分布外検知を行う。ICLR2021でアクセプトされた論文。