​​機械学習入門

​​はじめに

​​人工知能の（ごく簡単な）歴史

  • ​​1956年に米国ダートマス大学で開かれた国際会議で「Artificial Intelligence」という言葉が初めて用いられ、1960年代にかけて第1次ブームとなった。この時代には「真理の自動導出」という理論目的が追求された。
  • ​​1980年代に人間の生活に役立つ実践目的に舵を切り、エキスパートシステムへの期待から第2次ブームとなった（例：第五世代コンピュータ）。チェスなどの問題は解けたものの、現実の問題に適用するには限界があり、再びブームは去った。
  • ​​1990年代に機械学習が高速なハードウェアと大量のデータを背景に発展したが、専門家による特徴（量）エンジニアリング（feature engineering）が必要だった。
  • ​​2012年にImageNet（140万枚の画像を1000種類に分類する問題）において、深層学習により前年の74.3%から83.6%へと大幅に正答率が上がり、さらに2015年には96.4%と一気に向上して人間と同等の正答率となった。この頃から再びAIへの期待が高まり、第3次ブームとなった。
​​
 
ImageNet
ImageNet is a large database or dataset of over 14 million images. It was designed by academics intended for computer vision research. It was the first of its kind in terms of scale. Images are organized and labelled in a hierarchy.
devopedia.org
ImageNet • devopedia.org
​​
​​
 
Software 2.0
I sometimes see people refer to neural networks as just “another tool in your machine learning toolbox”. They have some pros and cons, they…
medium.com
Software 2.0 • medium.com
​​
  • ​​Neural networks are not just another classifier, they represent the beginning of a fundamental shift in how we write software. They are Software 2.0.

​​人工知能・機械学習・ニューラルネットワーク・深層学習の関係

​​
 
User-uploaded image: 01_01.png
​​Source: Cai, Shanqing, Stanley Bileschi, Eric D. Nielsen, and François Chollet. Deep Learning with JavaScript: Neural Networks in TensorFlow.js. Manning Publications, 2019. https://www.manning.com/books/deep-learning-with-javascript

​​人工知能（Artificial Intelligence）

  • ​​汎用型人工知能（Artificial General Intelligence）→未だ実現されていない。実現できるという立場を取る人々もいれば（例：シンギュラリティ）、実現できないという立場を取る人々もいる。
  • ​​特化型人工知能（Artificial Narrow Intelligence）→画像認識、音声認識、機械翻訳、自動運転などの領域で既に（ある程度の精度で）実現されている。

​​機械学習（Machine Learning）

  • ​​人工知能の実現するための方法の一つ。
  • ​​データと答えを与え、ルールを学習し、学習したルールを用いて推論する。
​​
 
User-uploaded image: 01_02.png
​​Source: Cai, Shanqing, Stanley Bileschi, Eric D. Nielsen, and François Chollet. Deep Learning with JavaScript: Neural Networks in TensorFlow.js. Manning Publications, 2019. https://www.manning.com/books/deep-learning-with-javascript
​​
 
User-uploaded image: 01_03.png
​​Source: Cai, Shanqing, Stanley Bileschi, Eric D. Nielsen, and François Chollet. Deep Learning with JavaScript: Neural Networks in TensorFlow.js. Manning Publications, 2019. https://www.manning.com/books/deep-learning-with-javascript
  • ​​さまざまな機械学習
  • ​​教師あり学習（supervised learning）：データと教師ラベルの対を与えて学習
  • ​​分類
  • ​​回帰
  • ​​半教師あり学習（semi-supervised learning）：大量の教師なしデータと、少量の教師ありデータを与えて学習
  • ​​例：ノイズ除去
  • ​​例：異常検知
  • ​​教師なし学習（unsupervised learning）：データだけを与えて学習
  • ​​例：次元の縮小
  • ​​例：クラスタリング
  • ​​例：GAN（Generative Adversarial Network：敵対的生成ネットワーク）
  • ​​強化学習（reinforcement learning）：環境に関する情報を受け取り、報酬を最大化する行動を学習
  • ​​例：Google DeepMindのAlphaGo

​​ハンズオン

​​ニューラルネットワーク（Neural Network）とは

​​より正確には人工ニューラルネットワーク（Artificial Neural Network）。生体ニューロンの動作を極めて簡易化した人工ニューロンが結合したネットワークによって実装された、脳機能のある特性に類似した数理的モデル。
​​
 
User-uploaded image: 1*v88ySSMr7JLaIBjwr4chTw.jpeg
​​Source: Multi-Layer Neural Networks with Sigmoid Function—Deep Learning for Rookies (2) by Nahua Kang https://towardsdatascience.com/multi-layer-neural-networks-with-sigmoid-function-deep-learning-for-rookies-2-bf464f09eb7f
​​ニューロンの数が2つの場合には以下のようになる。
​​​​y^={1x1w1+x2w2+b>00x1w1+x2w2+b≤0\hat{y} = \begin{cases}1 & x_{1}w_{1}+x_{2}w_{2}+b > 0 \\ 0 & x_{1}w_{1} + x_{2}w_{2}+b \leq 0\end{cases}​

​​試してみよう

​​深層学習（Deep Learning）

  • ​​機械学習における方法の一つ。
  • ​​1950年代に基礎となる考え方が提案されたが、ハードウェアの能力、データ、アルゴリズムの成熟度が不足していたため、現実的ではなかった。
  • ​​2000年頃に初めてDeep Learningという言葉が用いられ、2010年代に環境が整い、大きな成果が次々と生まれたことにより脚光を浴びた。
​​
 
User-uploaded image: 01fig06_alt.jpg
​​Source: Chollet, François. Deep Learning with Python. Manning Publications, 2018.

​​試してみよう