知的学習システム(大学院連携科目)

Google Classroom にて提供.

統計的なパターン認識、機械学習の基礎について学習し, データサイエンスの基盤を構築する. その後、具体的な学習認識システムの例として, Deep Learning(神経回路モデル), サポートベクターマシン, スパースモデリングなどの手法に関していくつかを取り上げ, 基本的な考え方を修得する.

This lecture covers the fundamentals of machine learning and data science in the first part, followed by a discussion of advanced topics in machine learning in the second part, including deep learning (neural networks), support vector machines, sparse modeling, and more.

線形代数学, 微積分学, 統計学などの数学の基礎科目
Python などの機械学習を実行しやすい計算機言語の基本的な使い方.

Basic mathematical concepts such as linear algebra, calculus, and statistics are essential for understanding this field. In addition, proficiency in computer languages such as Python for handling machine learning models is crucial.

応用数学などの数学に加え, アルゴリズムとデータ構造並びに同演習などの計算機科学系講義と演習

Advanced mathematics can enhance one's understanding of the concepts, while knowledge of algorithms and data structures in computer science can also be beneficial.

教科書は特に使用しない

参考書としては
C.M. Bishop "Pattern Recognition and Machine Learning"
などが上げられる.
必要に応じて、授業に用いるスライドやプリント等を配布する.

Especially, specific textbook is not assigned.
However, "Pattern Recognition and Machine Learning (C.M Bishop)" is a good reference.

Some other materials like slides in the lecture will be provided.

英語タイプII(Cc)により講義を実施
The lecture is classified as type II (Cc), that is, mostly lecture talk is offered in Japanese; the materials such as writing on the whiteboard, PPT slides and handouts are given in English.

a) 内容:主に次の内容について議論を行う.

第01回:基本的問題設定の理解. 統計的パターン認識とは何か？
The Basic formulation. What is pattern recognition?

第02回:数学的準備. 確率・統計的データの取り扱い
Mathematical preparation. How to handle the data.

第03回:線形回帰モデル(1). 最小二乗法
Linear Regression, from the viewpoint of Least square method

第04回:線形回帰モデル(2). Ridge 回帰
Linear Regression, from the viewpoint of Ridge regression

第05回:最尤法とベイズ法.
Maximum Likelihood method and Bayes approach.

第06回:ベイズ法を用いた線形回帰問題
Linear Regression with Baysian approach

第07回:パターン識別(1)線形識別関数による判別
Classification, from the viewpoint of linear discriminant function

第08回:パターン識別(2)確率的生成モデルと識別モデル
Classification, from the viewpoint of statistical generative and recognition model.

第09〜15回:Support Vector Machine, スパースモデリング(SpM), Deep Learning, などに関する議論を行う予定. 具体的な予定は下記の通り.
In the second part, we will discuss several advance topics such like, Support Vector Machine, Sparase Modeling, deep learning, and so on. The following is one of sample.

第09回:Support Vector Machine 1: 線形識別器の復習と内積表現
Basic idea of support vector machine

第10回:Support Vector Machine 2: マージン最大化
Support Vector Machine (1): Maximization of margin in the support vector machine

第11回:Support Vector Machine 3: カーネル法
Support Vector Mahcine (2): Kernel method in the support vector machine

第12回: Deep Learning の基礎1: 神経回路モデル概要
Basic of Deep learning 1: Overview of neural network model

第13回: Deep Learning の基礎2: パーセプトロンと学習法
Basic of Deep learning 2: Simple perceptron and learning method

第14回: Deep Learning の基礎3: 畳み込みネットワーク(CNN), ネオコグニトロン
Convolution neural network and Neocognitron

第15回: Deep Learning の応用: 画像処理など
Application of Deep learning.

(b) 進め方:対面講義を基本に行うが, 状況によってはオンライン講義などを導入する.
Face to face lecture is basic style; however online lecture might be adopt if the environment becomes worse.

なし

授業時間外の学習:数学的, 計算機的な演習は重要なので, 演習を行うこと.
レポート課題を課すので, そのレポート作成も復習時に計画的に行うこと.

Mathematical and computational exercise is crucial for machine learning. Moreover some reports are required for grading.

(a) 評価方法:成績は講義ごとに課す小課題 (20%) とレポート(80%)によって評価する.
Grades are based on assignment in each lecture (20%) and reports (80%).

(b) 評価基準:
以下の到達レベルをもって合格の基準とする.

(1) 学習理論の基本概念を理解している.
(2) 授業で説明した論理展開を理解している.
(3) 授業で説明した論理を実現するのに必要な計算を自力で行える.

The following levels of achievement will be used as the criteria for passing the course:

(1) Understanding of the fundamental concepts of learning theory.
(2) Understanding of the logical development explained in class.
(3) Ability to independently perform the necessary calculations to implement the logic explained in class.

主に月曜4限をオフィスアワーにあてる. ただし, 事前に連絡することが望ましい.

The office hour is 14:40〜16:10 on every Monday, however, it is better to be appointed.

学習システムは "入力データに依存して最適化を行うシステム" として捉えられる.
この科目を通して学習・認識といった機能の基本的な考え方を学び, 自分の研究や将来の仕事などに応用していくことを望む.

The machine learning (ML) can be regarded as "a system that relies on input data for optimization."
Through this course, I hope all students will learn the basic concepts of ML and and apply them to their own research and future work.

なし