Topic outline

  • 適応システム特論(Special Topics for Adaptive Systems)


     ⽣物が多様で変化する環境に巧みに適応しているのは,観察や体験を通じて対象を把握する学習能⼒や,よりよい体つきを世代を通じて探してゆく進化の仕組みによるところが⼤きい.

     この考え⽅を模倣して,観測されたデータから対象の特徴を抽出するためのアルゴリズム(機械学習)が数多く提案され,従来⼈間の直感や認識能⼒に頼るような仕事を⾃動化するのに成功している.また世代交代を利⽤して良い解を探索してゆくことをアルゴリズムとして実現する⽅法(進化計算)も提案されており,空⼒性能に優れたボディ形状の設計などで成果を挙げている.

     この講義では,これら機械学習や進化計算の代表的な⼿法を取り上げ,原理と特徴,応⽤の仕⽅を理解させる.

  • 1. 講義の内容紹介, 09/24, 13:10-14:40, 781

    初回は,受講者の事前知識のアンケート調査,講義サイトの使い方,講義の内容の簡単な紹介を予定しています.システムトラブルがなければ短時間で終わりにしたいと思います.

    • 2. パターン分類学習(教師あり学習)について, 10/01, 13:10-14:40, 782

      データマイニング手法で使われる定番的なアルゴリズムを2,3回に分けて解説します.初回はパターン分類学習とは何かについてと,1R等の簡単な手法を例にとって解説します

    • 3. パターン分類学習(例からの学習), 10/22(10/8は休講), 13:10-14:40, 782

      10/8はロボット学会遠隔セミナー受講のため,臨時休講とします.すみません.(9/27現在)

      10/15は月曜振替授業です

      パターン分類学習についての説明を続けます.分類学習(データマイニング)の出力には,ルール,決定木,数式による分類関数,などのいろいろな表現があることを示し,この回ではNaive Bayes, 例からの学習(Instance Based Learning),それぞれについて説明します.

    • 4. kd-tree, naive bayesの演習:協調フィルタ,線形回帰,パーセプトロン学習について, 10/29, 13:10-14:40, 782

      機械学習の続きです.kd-tree, naive bayesの理解増進のために,ちょっと演習もやってみたいと思います.おまけで協調フィルタ,それと識別関数による分類の基礎として,まず線形回帰,パーセプトロン学習を学びます.これを基に次週では,SVMについて述べたいと思います.

    • 5. パターン分類学習の続き(サポートベクトルマシン), 11/05, 13:10-14:40, 782

      パターン分類の学習法として現在定番の手法の一つとして,SVMが有名です.基本は非常に単純に,ちょうどそれぞれの分類グループからの距離が等しくなるようなところで線引きをする,という線形分類の手法ですが,入力ベクトルを組み合わせたものをさらに入力ベクトルとみなすことで,疑似的に超高次元空間での線形分類に分割するアイデア(次元拡張),およびそのような超高次元空間での分類平面を非常に高速に求める方法(凸2次計画法の適用と,カーネルトリック)という2つの考え方が基になっています.これについて少し時間を割いて説明したいと思います.また,よく性質がわかっている簡易的な線形識別手法の代表の一つである,パーセプトロン学習についても説明します.

    • 6.Regression, Perceptron, SVMについて, 11/12, 13:10-14:40, 782

    • 7.関数最適化(SVMで利用)について.および確率的な(教師有)学習手法について, 11/19, 13:10-14:40, 782

    • 8. 学習進化システムの背景, 11/26, 13:10-14:40, 782

      学習進化システムは,生物の成功戦略にヒントを得た最適化手法です.生物からヒントを得た最適化には他にもさまざまな考え方があり,この週ではそれらのいくつかを紹介します.詳細には立ち入りませんが,これらは現象の観察からアルゴリズムを作り上げるよい例になりますので,発想の仕方などを理解してください.

    • 9. 強化学習について, 12/03, 13:10-14:40, 782

      今週から数回強化学習手法を中心として話をします.資料は強化学習の回をすべて一つにまとめたものを用意しましたので,ダウンロードお願いします.

    • 10. 強化学習について(2), 12/17, 13:10-14:40, 782(12/10は休講です)

      今日の定番となっている学習アルゴリズムを説明します.テンポラルディファレンスとよばれる手法を元に,知識を効果的にためて,探索を効果的に行うアルゴリズムを説明してゆきます.

    • 11. 進化計算について, 12/24, 13:10-14:40, 782

      組み合わせ探索手法である,進化計算(遺伝的アルゴリズム)の考え方を紹介したいと思います.試行の組み合わせかたを工夫して,効率よく試行を行って,適切な手段を絞り込んでゆくといった手法で,生物の交配と淘汰による世代交代による最適化を,手続き上まねしたアルゴリズムです.まず遺伝についての復習を行います.次回に,問題を遺伝子的な形にコーディングする方法,交配・淘汰・世代交代をアルゴリズム的に実施する方法,について解説します.
       世代(generation)・選択(selection)・再生(reproduction)・適応度(fitness)・コーディング(Gray coding, binary coding)等の概念についても説明します.

    • 12. 進化計算(2)学習クラシファイアシステムについて, 01/14, 13:10-14:40, 782

      進化計算の考え方を用いた適応システムの例として,学習クラシファイアシステム(LCS)というものが知られています.外界と適切に反応するルールを進化させるという発想です.この回はLCSの考え方と応用例を紹介したいと思います.

    • (1/21はいまのところ講義なしの予定です)

      自習として,課題の方取り組んでおいてください.

      • 単位認定課題

        以下の課題から一つを選んでレポートとして提出してください.大学への成績提出の都合上,遅くとも2月中旬くらいをめどにしてもらえますでしょうか.

        • (推奨) 授業で学んだデータマイニング手法の一つを使って,任意のデータにデータマイニングを行い,その結果や適用した手法の妥当性について検討し,レポートにまとめてください.データは,ネット上の統計データでもよいですし,自分の研究にかかわるデータなど,なんでもよいですが,ベンチマーク用によく知られているようなデータ(たとえばweather dataやirisなど)はできるだけ(絶対ではないです)避けてもらえるとよいです .
        • (提案型)強化学習または進化計算にかかわることで,とりくみたいレポート内容を私までメールで相談してください.妥当なものであれば,それを提出してもらうことでOKにしたいと思います.プログラム作成などでもOKです. ・提出はPDFファイルで,このページのアップロード機能でお願いできますか.プログラムなら圧縮ファイル等で提出してもらえると思います.
      • Topic 15