Matafight's world

前言

最近李沐大神开了一门关于深度学习的直播课程，每周六都在斗鱼上直播，这门课不仅介绍深度学习的理论知识，更重要的是还会给大家演示实战操作，包括各种模型的代码，采用的深度学习框架为Mxnet，这门课不仅使大家对深度学习有了更深一步的了解，毕竟有了上手操作的机会，由于框架是Mxnet，其实在一定程度上也推广了Mxnet的使用，可谓一举两得。当然，对于我来说就是既学习了理论又掌握了一个新的框架，简直不要太爽。

最近已知在看Bengio的《Deep Learning》，感觉光看书效果不好，有时候你以为理解了，其实没有理解，所以我计划在看的过程中将中文翻译写下来，一方面加深印象和理解，另一方面也算锻炼了语言组织能力吧，由于这个博客显示公式总是有些问题，找了好久没找到原因，先暂时将文章发在博客园上，链接如下：
part1: http://www.cnblogs.com/mata123/p/7593933.html
part2: http://www.cnblogs.com/mata123/p/7615971.html
part3: http://www.cnblogs.com/mata123/p/7642589.html

什么是广义线性模型

假设现在有一个预测任务，其输入是$x_i(1\le i \le n)$,对应的label 是$y_i$，我们知道可以用线性模型建模为:

GBDT

梯度提升树实在提升树的基础上发展而来的一种使用范围更广的方法，当处理回归问题时，提升树可以看作是梯度提升树的特例(分类问题时是不是特例？)。 因为提升树在构建树每一步的过程中都是去拟合上一步获得模型在训练集上的残差。后面我们将会介绍，这个残存正好是损失函数的梯度，对应于GBDT每一步要拟合的对象。

简介

最近刚参加了一个kaggle比赛(Mercedes-Benz Greener Manufacturing),据赛题介绍主要的任务是预测一辆刚出厂的汽车做完检测所需要的时间，从而能够合理安排检测任务，节省能源？创建一个绿色环保的世界？？
我的最终排名是 273/3835,进了top10%，得到了一个Bronze medal,是我得到的第一个奖牌，开心。
在这里总结一下参加这个比赛的收获。