tl;dr
本エントリは，2023 年 (主に下半期) にお世話になった学術書を紹介するコーナーです． 昨年は，不確実な環境下における逐次的な意思決定を扱うような業務が多く，それに関連した書籍を主に参照しました． 以下が本エントリで紹介する書籍のリストです：
- 『あたらしい数理最適化』(2012)
- 『オンライン予測』(2016)
- 『バンディット問題の理論とアルゴリズム』(2016)
- 『Optunaによるブラックボックス最適化』(2023)
- 『ベイズ最適化: 適応的実験計画の基礎と実践』(2023)
あたらしい数理最適化
業務最適化でそこそこ参照しました．数理最適化や凸解析の理論的な知識があっても，業務で必要とされるような現実の諸問題をモデル化したり，効率の良い求解方法を考えたりするのは思ったよりも難しいです． 本書が発行されたのは 2012 年ですが，現代でも活かされるようなマニアック (?) なモデリングのコツ (e.g., Big-M における M はなるべく小さく設定する) などについても触れられていて参考になります． また，様々な典型的な問題に対する数理計画問題としての定式化が網羅されていて，実際の現場で必要とされる問題を考える上での出発点として参考になります．
関連書籍
- 『しっかり学ぶ数理最適化 モデルからアルゴリズムまで』
- 『Pythonによる実務で役立つ最適化問題100+ (1): グラフ理論と組合せ最適化への招待』
- 『Pythonによる実務で役立つ最適化問題100+ (2): 割当・施設配置・在庫最適化・巡回セールスマン』
- 『Pythonによる実務で役立つ最適化問題100+ (3): 配送計画・パッキング・スケジューリング』
関連ページ
オンライン予測
オンライン最適化（不確実な環境下における逐次的な意思決定をを扱う数理モデル）について知るための一冊目として読みました． オンライン最適化は従来の数理最適化とは異なり，意思決定をするときに最適化すべき目的関数が未知であるような状況を扱います． この書籍も発行されたのは 2016 年と，近年発展が目覚ましい当該分野においては少々古いですが，一冊目として概要を抑えるという観点では良い入門書であると思います． 後に述べますが，より専門的な内容を知りたい場合は，Elad Hazan の Introduction to Online Convex Optimization を参照すると良いです．
バンディット問題の理論とアルゴリズム
オンライン最適化に近い問題設定としてバンディット問題があります．オンライン最適化との主な違いとして，オンライン最適化では意思決定をする度に得られる報酬 (損失) に関する関数形が与えられるが，バンディット問題では関数形が与えられず，実際に得られた報酬(被った損失) のみ与えられるような状況を考えます．バンディット問題に対する有名なアルゴリズムとして，UCB アルゴリズムやトンプソンサンプリングに基づく方策がありますが，それらの紹介にとどまらずリグレットに関する理論評価も本書で扱われています．また，発展として，best arm identification やベイズ最適化に関する内容も盛り込まれており，この一冊でバンディット問題にまつわる内容を幅広く見通すことができます．
Optunaによるブラックボックス最適化
ブラックボックス最適化についても扱う必要があったので，手始めに Optuna について知っておこうと思い読みました ． Optuna はご存じの通り Preferred Networks 社が開発しているブラックボックス最適化のためのツールです． 本書では，ブラックボックス最適化に関する最低限の内容を述べた後に，Optuna の使用例が紹介されています．
関連ページ
ベイズ最適化: 適応的実験計画の基礎と実践
ベイズ最適化に関する新しい (2023 年 11 月発行) 書籍です．上記の『Optunaによるブラックボックス最適化』はあくまで “与えられたブラックボックス関数を Optuna を用いてどう最適化するのか” に重点が置かれていましたが，本書ではもう少し理論的な背景が紹介されています．また，Optuna に関する記述もあるだけでなく，BoTorch (Meta 社が開発しているベイズ最適化のためのツール) をバックエンドとした BoTorchSampler による実装例も紹介されています． 理論と応用のバランスが取れた良い書籍ですので，これからベイズ最適化に入門したいと思っている方には是非手に取って頂きたい一冊です．
関連ページ
番外編
オンライン最適化に関しては，その道の大家である Elad Hazan による Introduction to Online Convex Optimization を最終的によく参照しました．ありがたいことに，arXiv 版が こちら から参照できます． また，バンディット問題に関しては，こちらもその道の大家である Tor Lattimore と Csaba Szepesvári による Bandit Algorithms を頻繁に参照しました．こちらに関しても，著者の HP で全文公開されています．
(2024/01/07: 追記) ガウス過程について習熟するために『ガウス過程と機械学習』も頻繁に参照しました（が，2023 年以前から参照していたので上記のリストには入れませんでした）．ガウス過程の原理について初歩から分かりやすく書かれていて一冊目として強くお勧めできる書籍です．また，ガウス過程については，Williams, C. K., & Rasmussen, C. E. の "Gaussian Processes for Machine Learning" が こちらのリンク から入手できます．同様に，ガウス過程のバンディット設定の下での解析については [Srinivas et al. (ICML '09)] の "Gaussian Process Optimization in the Bandit Setting: No Regret and Experimental Design" (arXiv) をよく参照しました．
最後に
最近，本エントリで紹介した周辺分野で論文を書いたり投稿したりしていますが，なかなか難しさを感じています．議論してくださる方がいたらぜひ議論させてください．(@mirucaaura)
