风险评估

导语

回归、分类和排序是我们经常遇到的问题场景。本文主要介绍如何实现回归和分类两类问题的模型构建。

首先我们明确一下算法在机器学习中的地位。一般来说，机器学习有三个要素： 数据、算法和模型 。

• 数据 是场景的描述，包括输入和输出。
• 算法 是得到模型的过程，狭义上说，特指机器学习算法，如传统线性回归、树和支持向量机以及深度学习； 广义上说，从输入数据到最终确定模型输出的所有过程，即建模流程都可以看作算法，如分类、回归模型，搜索最优参数算法。

下面我们来举两个例子，看看回归和分类问题的应用场景有什么不同。

回归模型

![](/wik

一、背景介绍

  《Attention Is All You Need》是一篇Google提出的将Attention思想发挥到极致的论文。这篇论文中提出一个全新的模型，叫 Transformer，抛弃了以往深度学习任务里面使用到的 CNN 和 RNN ，来做机器翻译的任务。Bert就是基于Transformer构建的，这个模型广泛应用于NLP领域，例如机器翻译，问答系统，文本摘要和语音识别等等方向。本文根据论文[《Attention Is All You Need》](https://arxiv.org/abs/1