机器学习(一)
经典定义:
利用经验改善系统自身的性能。
经典的机器学习过程:
基本术语:
数据集:训练集、测试集
示例、样例、样本
属性、特征:属性值
属性空间、样本空间、输入空间
特征向量
标记空间、输出空间
归纳偏好(偏置):
任何一个有效的机器学习算法必有其偏好
学习算法的归纳偏好是否与问题本身匹配，大多数直接决定了算法能否取得好的性能
泛化能力:对新的未见过的处理能力强。
一、到底要什么
二、给的是不是想要的
泛化误差:在“未来”样本上的误差
经验误差:在训练集上的误差，亦称“训练误差”
过拟合 VS 欠拟合
三大问题:
一、如何获得测试结果 (评估方法)
关键:怎么获得“测试集”
测试集应该与训练接“互斥”
常见方法有:留出法、交叉验证法、自助法
k-折交叉验证法
调参与最终模型:
算法的参数:一般由人工设定，亦称“超参数”
模型的参数:一般由学习确定
调参本身就是一种对模型的选择，
二、如何评估性能优劣 (性能度量)
性能度量是衡量模型泛化能力的评价标准，反映了任务需求。
错误率、精度、查准率、查全率、F1度量
三、如何判断实质差别 (比较检验)
统计解设检验为学习器性能比较提供了重要依据。