从 Word Embedding 到 Bert:一起肢解 Bert!

作者/分享人:武博士
向 Ta 提问
国内某985双一流大学,人工智能方向博士,中国移动集团IT架构师。 科研方向:自然语言处理、计算机视觉、强化学习。 已经发表SCI文章3篇。 CSDN专栏文章60篇。(机器学习专栏、深度学习专栏、强化学习专栏)

在 NLP 中,Bert 最近很火,是 NLP 重大进展的集大成者,是最近最火爆的 AI 进展之一。最新的 Google Bert 模型中我们有这样的疑问:

  1. 什么是 Bert,这个模型是怎么来的;
  2. 刷新了很多 NLP 的任务的最好性能,有些任务还被刷爆了,Bert 值得这么高的评价吗;
  3. 它有重大的理论或者模型创新吗。

这篇 Chat 中除了得到以上疑问的答案,您可以得到:

  1. 从图像预训练为例,解释预训练的过程和意义;
  2. Word Embedding 的发展历程;
  3. "Embedding from Language Models”ELMO 模型讲解;
  4. “Generative Pre-Training”GPT 模型讲解;
  5. Bert 的诞生和“肢解”(ELMO 和 GPT 的优势集成)。
已有82人预订
预订达标
文章出炉
     
12月05日
12月19日
预订后,您将在12月19日之前获得一篇专享文章,您还将获得一张武博士的读者圈Pass
请务必添加GitChat服务号以查看活动进度及获取活动通知。
退款保证:
• 12月11日前,预订人数未达标,您将获得全额退款。
• 作者未按时完成文章,您将获得全额退款。
你可能还喜欢
Java 开发必备面试题详解(技术+人事)
宁楠
纯前端大数据处理技术:葡萄城纯前端开发工具应用实践
葡萄城技术团队
Jenkins 进行项目的自动构建部署
火币集团研发中心
Java 程序员应掌握的 Nginx 实战应用
JPM
小白机器学习基础算法学习必经之路
武博士
React 从入门到架构:如何从传统切片,转型 React 架构
华小乱
如何设计一个灵活的 MySQL 数据表,应对灵活多变的需求
李岩
Flink 基础入门
阿福
从源码看单例模式的应用
zaqweb
手把手带你玩转 Git
zhuoqianmingyue
带你玩转 JSON
能量架构师
全面掌握 Java 时间日期 API
charming
从零搭建 Hadoop 集群
杨爵爷
Python Pandas 做数据分析之玩转 Excel 报表分析
WinterLeo
微信开放平台的授权和业务开发
JacksonY
微信扫描登录