Topic outline

  • 適応システム特論(Advanced Topics in Adaptive Systems)


     ⽣物が多様で変化する環境に巧みに適応しているのは,観察や体験を通じて対象を把握する学習能⼒や,よりよい体つきを世代を通じて探してゆく進化の仕組みによるところが⼤きい.

     この考え⽅を模倣して,観測されたデータから対象の特徴を抽出するためのアルゴリズム(機械学習)が数多く提案され,従来⼈間の直感や認識能⼒に頼るような仕事を⾃動化するのに成功している.また世代交代を利⽤して良い解を探索してゆくことをアルゴリズムとして実現する⽅法(進化計算)も提案されており,空⼒性能に優れたボディ形状の設計などで成果を挙げている.

     この講義では,これら機械学習や進化計算の代表的な⼿法を取り上げ,原理と特徴,応⽤の仕⽅を理解させる.

  • 09/21, 13:10-14:40, 781, 1. 講義の内容紹介

    初回は,受講者の事前知識のアンケート調査,講義サイトの使い方,講義の内容の簡単な紹介を予定しています.システムトラブルがなければ短時間で終わりにしたいと思います.

    • 09/28, 13:10-14:40, 781, 強化学習について

      今週から数回強化学習手法を中心として話をします.資料は強化学習の回をすべて一つにまとめたものを用意しましたので,ダウンロードお願いします.

    • 10/05, 13:10-14:40, 781, 強化学習について(2)

      今日の定番となっている学習アルゴリズムを説明します.テンポラルディファレンスとよばれる手法を元に,知識を効果的にためて,探索を効果的に行うアルゴリズムを説明してゆきます.

    • 10/12, 13:10-14:40, 781, パターン分類学習(教師あり学習)について

      データマイニング手法で使われる定番的なアルゴリズムを3,4回に分けて解説します.初回はパターン分類学習とは何かについてと,1R等の簡単な手法を例にとって解説します

    • 10/19, 13:10-14:40, 781, パターン分類学習(例からの学習)

      パターン分類学習についての説明を続けます.分類学習(データマイニング)の出力には,ルール,決定木,数式による分類関数,などのいろいろな表現があることを示し,この回ではNaive Bayes, 例からの学習(Instance Based Learning),それぞれについて説明します.

    • 10/26, 13:10-14:40, 781, kd-tree, naive bayesの演習:協調フィルタ,線形回帰,パーセプトロン学習について

      機械学習の続きです.kd-tree, naive bayesの理解増進のために,ちょっと演習もやってみたいと思います.おまけで協調フィルタ,それと識別関数による分類の基礎として,まず線形回帰,パーセプトロン学習を学びます.これを基に次週では,SVMについて述べたいと思います.

    • 11/02, 13:10-14:40, 781, パターン分類学習の続き(サポートベクトルマシン)

      パターン分類の学習法として現在定番の手法の一つとして,SVMが有名です.基本は非常に単純に,ちょうどそれぞれの分類グループからの距離が等しくなるようなところで線引きをする,という線形分類の手法ですが,入力ベクトルを組み合わせたものをさらに入力ベクトルとみなすことで,疑似的に超高次元空間での線形分類に分割するアイデア(次元拡張),およびそのような超高次元空間での分類平面を非常に高速に求める方法(凸2次計画法の適用と,カーネルトリック)という2つの考え方が基になっています.これについて少し時間を割いて説明したいと思います.また,よく性質がわかっている簡易的な線形識別手法の代表の一つである,パーセプトロン学習についても説明します.

    • 11/09, 13:10-14:40, 781, Regression, Perceptron, SVMについて

    • 11/30, 13:10-14:40, 781, 関数最適化(SVMで利用)について.および確率的な(教師有)学習手法について(11/16は休講です)

       

    • 12/14, 13:10-14:40, 781, 統計的手法による機械学習(12/07は休講です)

      12月7日は三上インフルエンザAり患のため休講とします

      データマイニングのための機械学習技術の紹介の最後として,統計的な学習手法(Satistical Learning)について説明したいと思います.統計的手法は正規分布が仮定できる大規模なデータの学習に有力な手法です.ここでは教師無しの分類手法として最尤推定を例に挙げたいと思います.定番的なEMアルゴリズムについて,手順と仕組みを説明したいと思います.

    • 01/11, 13:10-14:40, 781, 進化計算について

      組み合わせ探索手法である,進化計算(遺伝的アルゴリズム)の考え方を紹介したいと思います.試行の組み合わせかたを工夫して,効率よく試行を行って,適切な手段を絞り込んでゆくといった手法で,生物の交配と淘汰による世代交代による最適化を,手続き上まねしたアルゴリズムです.まず遺伝についての復習を行います.次に,問題を遺伝子的な形にコーディングする方法,交配・淘汰・世代交代をアルゴリズム的に実施する方法,について解説します.
       世代(generation)・選択(selection)・再生(reproduction)・適応度(fitness)・コーディング(Gray coding, binary coding)等の概念についても説明します.

    • 01/18, 13:10-14:40, 781, M1対象で確率的最適化

      12月14日の「統計的手法による機械学習」の回はM1のFUNキャリアセミナーと重なってしまったため,M1の皆さんは受講できませんでした.この日はM1のみ対象として「統計的手法による機械学習」の内容を講義したいと思います(4年生の皆さんはすでに実施したので受講は不要です).

    • 単位認定課題

      以下の課題から一つを選んでレポートとして提出してください.大学への成績提出の都合上,遅くとも28日10日までにお願いします.

      • (推奨) 授業で学んだデータマイニング手法の一つを使って,任意のデータにデータマイニングを行い,その結果や適用した手法の妥当性について検討し,レポートにまとめてください.データは,ネット上の統計データでもよいですし,自分の研究にかかわるデータなど,なんでもよいですが,ベンチマーク用によく知られているようなデータ(たとえばweather dataやirisなど)はできるだけ(絶対ではないですが)避けてもらえるとよいです .
      • (提案型)強化学習または進化計算にかかわることで,とりくみたいレポート内容を私までメールで相談してください.妥当なものであれば,それを提出してもらうことでOKにしたいと思います.プログラム作成などでもOKです. ・提出はPDFファイルで,このページのアップロード機能でお願いできますか.プログラムなら圧縮ファイル等で提出してもらえると思います.