머신러닝 알고리‪즘‬

바딤 스몰야코프(Vadim Smolyakov)는 Microsoft의 엔터프라이즈 및 보안 DI R&D 팀에서 데이터 과학자로 일하고 있습니다. 베이지안 추론과 딥 러닝을 연구하는 MIT CSAIL의 AI 박사 과정 출신입니다. Microsoft에 입사하기 전에는 전자 상거래 분야에서 머신 러닝 솔루션을 개발했습니다.

역자 - 소성은
2023년 현재 Solutions Architect, Amazon Web Services
(전) CTO, Remake Digital
Research Engineer, NAVER
Research Engineer, Selvas AI
Software Engineer, NextVerb


--

머신 러닝 알고리즘에서는 다음과 같은 많은 ML 알고리즘의 실제 구현을 살펴봅니다:

Monte Carlo Stock Price Simulation
Mean-Field Variational Inference를 이용한 이미지 노이즈 제거
Hidden Markov Model을 위한 EM 알고리즘
Imbalanced Learning, Active Learning and Ensemble 학습
Hyperparameter Tuning을 위한 Bayesian Optimization
Clustering Application을 위한 Dirichlet Process K-Means
Inverse Covariance Estimation에 기반한 Stock Clusters
Simulated Annealing을 사용한 Energy Minimization
ResNet Convolutional Neural Network 기반 Image Search
Variational Autoencoder를 사용한 Time-Series Anomaly Detection


머신 러닝 알고리즘에서는 오늘날 세계에서 가장 흥미로운 머신 러닝(ML) 알고리즘의 설계와 기본 원리에 대해 자세히 살펴봅니다. 특히 확률 기반 알고리즘에 중점을 두고 베이지안 추론과 딥 러닝의 기본을 배우게 됩니다. 또한 머신 러닝을 위한 핵심 데이터 구조와 알고리즘 패러다임도 살펴봅니다. 각 알고리즘은 수학 및 실제 구현을 통해 완전히 탐구되므로 어떻게 작동하고 어떻게 실행되는지 확인할 수 있습니다.

기술에 대해
머신러닝 알고리즘의 작동 원리를 완전히 이해하는 것은 진지한 머신러닝 엔지니어에게 필수적입니다. 이 중요한 지식을 통해 특정 요구 사항에 맞게 알고리즘을 수정하고, 프로젝트에 사용할 알고리즘을 선택할 때의 장단점을 이해하고, 이해 관계자에게 결과를 더 잘 해석하고 설명할 수 있습니다. 이 특별한 가이드는 천편일률적인 ML 라이브러리에 의존하는 것에서 벗어나 비즈니스 요구 사항을 해결하기 위한 자체 알고리즘을 개발할 수 있도록 안내합니다.

책에 대해
머신 러닝 알고리즘에서는 머신 러닝 알고리즘의 방법과 이유를 자세히 살펴봅니다. 각 알고리즘 범주에 대해 수학 우선 원칙부터 Python으로 직접 구현하는 방법까지 살펴봅니다. 금융, 컴퓨터 비전, 자연어 처리 등 머신 러닝의 모든 분야에 걸친 수십 가지 예제를 살펴볼 수 있습니다. 각 예제에는 인사이트를 얻을 수 있는 코드 샘플과 그래픽은 물론 도출된 결과와 세부 정보가 함께 제공됩니다. 이 책을 다 읽고 나면 주요 알고리즘이 어떻게 작동하는지 알게 되고, 더 나은 머신 러닝 실무자가 될 수 있을 것입니다.

--

머신 러닝 알고리즘에서는 다음과 같은 많은 ML 알고리즘의 실제 구현을 살펴봅니다:

Monte Carlo Stock Price Simulation
Mean-Field Variational Inference를 이용한 이미지 노이즈 제거
Hidden Markov Model을 위한 EM 알고리즘
Imbalanced Learning, Active Learning and Ensemble 학습
Hyperparameter Tuning을 위한 Bayesian Optimization
Clustering Application을 위한 Dirichlet Process K-Means
Inverse Covariance Estimation에 기반한 Stock Clusters
Simulated Annealing을 사용한 Energy Minimization
ResNet Convolutional Neural Network 기반 Image Search
Variational Autoencoder를 사용한 Time-Series Anomaly Detection


머신 러닝 알고리즘에서는 오늘날 세계에서 가장 흥미로운 머신 러닝(ML) 알고리즘의 설계와 기본 원리에 대해 자세히 살펴봅니다. 특히 확률 기반 알고리즘에 중점을 두고 베이지안 추론과 딥 러닝의 기본을 배우게 됩니다. 또한 머신 러닝을 위한 핵심 데이터 구조와 알고리즘 패러다임도 살펴봅니다. 각 알고리즘은 수학 및 실제 구현을 통해 완전히 탐구되므로 어떻게 작동하고 어떻게 실행되는지 확인할 수 있습니다.

기술에 대해
머신러닝 알고리즘의 작동 원리를 완전히 이해하는 것은 진지한 머신러닝 엔지니어에게 필수적입니다. 이 중요한 지식을 통해 특정 요구 사항에 맞게 알고리즘을 수정하고, 프로젝트에 사용할 알고리즘을 선택할 때의 장단점을 이해하고, 이해 관계자에게 결과를 더 잘 해석하고 설명할 수 있습니다. 이 특별한 가이드는 천편일률적인 ML 라이브러리에 의존하는 것에서 벗어나 비즈니스 요구 사항을 해결하기 위한 자체 알고리즘을 개발할 수 있도록 안내합니다.

책에 대해
머신 러닝 알고리즘에서는 머신 러닝 알고리즘의 방법과 이유를 자세히 살펴봅니다. 각 알고리즘 범주에 대해 수학 우선 원칙부터 Python으로 직접 구현하는 방법까지 살펴봅니다. 금융, 컴퓨터 비전, 자연어 처리 등 머신 러닝의 모든 분야에 걸친 수십 가지 예제를 살펴볼 수 있습니다. 각 예제에는 인사이트를 얻을 수 있는 코드 샘플과 그래픽은 물론 도출된 결과와 세부 정보가 함께 제공됩니다. 이 책을 다 읽고 나면 주요 알고리즘이 어떻게 작동하는지 알게 되고, 더 나은 머신 러닝 실무자가 될 수 있을 것입니다.

--

서문
저자 소개
역자 서문

Part 1. 머신러닝 알고리즘 소개

1장. 머신러닝 알고리즘
1.1 머신러닝 알고리즘의 유형
1.2 알고리즘을 수식을 포함한 가장 기초적인 부분부터 배우는 이유는?
1.3 필요한 수학적 지식
1.4 베이지안 추론과 딥러닝
1.5 알고리즘 구현
1.6 요약

2장. Markov Chain Monte Carlo
2.1 Markov Chain Monte Carlo 소개
2.2 Pi 값 추정
2.3 Binomial Tree Model (이항 트리 모델)
2.4 Self-Avoiding Random Walk
2.5 Gibbs Sampling
2.6 Metropolis-Hastings Sampling
2.7 중요도 샘플링(Importance Sampling)
2.8 연습문제
2.9 요약

3장. 변분 추론(Variational Inference)
3.1 KL 변분 추론
3.2 Mean-Field
3.3 Ising 모델의 이미지 노이즈 제거
3.4 MI Maximization
3.5 연습문제
3.6 요약

4장. 소프트웨어 구현
4.1 데이터 구조
4.2 문제 해결 패러다임
4.3 머신러닝 연구: 샘플링 방법과 Variational Inference
4.4 연습문제
4.5 요약

Part 2. 지도 학습

5장. Classification 알고리즘
5.1 Classification 소개
5.2 Perceptron
5.3 Support Vector Machine (SVM)
5.4 Logistic Regression
5.5 Naïve Bayes
5.6 Decision Tree (CART)
5.7 연습문제
5.8 요약

6장. Regression Algorithms
6.1 Regression 소개
6.2 Bayesian Linear Regression
6.3 Hierarchical Bayesian Regression
6.4 KNN Regression
6.5 Gaussian Process Regression
6.6 연습문제
6.7 요약

7장. 엄선된 Supervised Learning 관련 알고리즘
7.1 Markov Models
7.2 Imbalanced Learning
7.3 Active Learning
7.4 모델 선택: 하이퍼파라미터 튜닝
7.5 Ensemble Methods
7.6 ML Research: Supervised Learning 알고리즘
7.7 Exercises
7.8 요약

Part 3. 비지도 학습

8장. 기본적인 Unsupervised Learning 알고리즘
8.1 Dirichlet Process K-Means
8.2 Gaussian Mixture Model (GMM)
8.3 Dimensionality Reduction
8.4 연습문제
8.5 요약

9장. 엄선된 Unsupervised Learning 알고리즘
9.1 Latent Dirichlet Allocation
9.2 Density Estimators
9.3 Structure Learning
9.4 Simulated Annealing
9.5 Genetic Algorithm
9.6 ML Research: Unsupervised Learning
9.7 연습문제
9.8 요약

Part 4. 딥러닝

10장. 기본적인 딥러닝 알고리즘
10.1 Multi-Layer Perceptron
10.2 Convolutional Neural Nets
10.3 Recurrent Neural Nets
10.4 Neural Network Optimizers
10.5 Exercises
10.6 요약

11장. 심화된 딥러닝 알고리즘
11.1 Auto Encoders
11.2 Amortized Variational Inference
11.3 Attention과 Transformers
11.4 Graph Neural Networks
11.5 ML 연구: 딥러닝
11.6 연습문제
11.7 요약

부록 A. 추가로 읽을만한 것들과 리소스들
A.1 프로그래밍 실력 기르기
A.2 추천하는 책들
A.3 연구 관련 컨퍼런스들

부록 B. 연습문제 정답