百度吴恩达谈深度学习局限:AI经济价值目前仅来自监督学习

《财富》昨日刊登吴恩达专访,吴恩达介绍了百度内部深度学习平台等人工智能应用。吴恩达还指出,近年来 AI 发展主要得益于数据(燃料)和计算力(引擎)的发展,眼下数据比计算力发展稍快(给引擎的燃料还够),但硬件发展日益加快,在某些领域甚至超过了数据(给引擎的燃料不够),要努力保持两者同步发展 AI 才能继续往前。

百度首席科学家吴恩达(Andrew Ng)

百度首席科学家吴恩达(Andrew Ng)

2016 年 5 月 23 日,《财富》网站刊登了对吴恩达在加州森尼韦尔的百度人工智能实验室接受了《财富》杂志的专访,他谈了几个问题:(1)为什么现在人工智能这么火;(2)企业是如何利用人工智能来赚钱;(3)为什么人工智能灭世论严重夸大。

目前 AI 创造的经济价值几乎全部来自监督学习

Fortune:你将如何定义人工智能,或者说商业上可行的人工智能?

吴恩达:我们在过去几年中看到,计算机在处理数据以进行预测这方面做得越来越好了。这既包括预测用户最有可能点击什么样的广告,也包括在图片中识别出人、预测哪些网页最符合你的搜索查询需求——以及数百个其他的诸如此类的例子。许多这样的应用可以让用户的数字体验变得更美好,而有些时候这些改变也提高了企业的技术最低门槛。

Fortune:是否可以说,目前主流的人工智能主要关心从数据中识别出模式,而不太关心建造出能像人类一样思考的计算机?

吴恩达:尽管人工智能常常被过度宣传,我仍认为人工智能的进展程度已远远超出了许多人的想象。目前,几乎所有由人工智能创造的经济价值都来自监督学习技术。监督学习的意思是,基于系统曾经接受过的其他实例的输入,来学习对结果进行预测或对东西进行分类。这些任务可以是:“给你一幅图片,请把那个人从图里找出来”,“给你一个网页,请预测用户是否会点击这个网页”或者“给你一封电子邮件,请判断它是否是垃圾邮件。”

语音识别是这方面的另一个例子,在语音识别中输入的是音频剪辑,而输出是音频内容转换成的文本。

机器学习这几年之间发生了什么

Fortune:由于苹果 Siri 提供的新功能,语音识别最近比较火。下一步怎样才能让智能助理型的应用更加有用呢?

吴恩达:我们想要追求的目标是,让与计算机交谈变得像与人交谈一样自然。这是一个远期目标,我们短期内不能实现它,但当我们实现这个目标后,就会有更多的用户想使用它。目前,很大程度上只是一些技术热衷者在使用语音功能。世界上的大部分人并不使用语音来与电脑互动。

与机器交谈的感觉仍然和与人交谈的感觉非常不同:你只能够交谈某些方面的东西,你不能在交谈中打断机器人。有些时候,机器人的回应会比较慢。有些时候,你说的东西会令机器非常困惑。比方说,如果我对计算机说,“请打电话给卡洛,号码 555-1000……不,等等,1005”,计算机就很难理解我的话,也很难采取正确的行动。

Fortune:几年之前,没有几家人工智能是面向消费者的,而今天像语音识别和能理解照片的算法这样的技术已很普遍。这几年之间发生了什么?

吴恩达:机器学习方面的大量进展是由计算能力的提高和数据的增长所驱动的——不过我这个观点在学界可能不太受欢迎。我们可以把它类比于建造太空火箭:你需要大功率火箭发动机,你也需要大量的燃料。如果你有许多燃料但只拥有小功率发动机,你的火箭大概无法飞离地面。如果你拥有大功率发动机但只有一点点燃料,你的火箭即使飞上天也无法进入轨道。

只有当你同时具有了大功率发动机和大量燃料时你才能去探索太空中的奇妙之地。作为类比,大型电脑相当于火箭发动机(在百度我们已经可以建造超级电脑了),而大规模数据则相当于火箭燃料。

在过去十年中,数据的增长或者说火箭燃料的增长略微超出了我们建造火箭发动机以利用燃料的能力。不过目前,我们在扩增火箭发动机方面的能力已经追了上来,在有些时候甚至反过来超过了我们提供火箭燃料的能力。我们必须努力工作才能同时扩展这两种能力。

Fortune:好像现在每当深度学习被应用于某个任务时,它都能为那个任务产生最佳结果。我们是否也能够把深度学习应用于企业销售数据,从而比传统企业软件或流行的“大数据”工具更快地找到有意义的商业洞见?

吴恩达:深度学习的一大局限是,它所创造的几乎所有价值都来自“从输入到输出的映射”的方法。比方说你有一些企业数据,其中 X 或许是用户在亚马逊上的帐号,而 Y 是“用户是否进行了购物?”这样一个问题。如果你拥有关于 X-Y 配对的大量数据,那么你就能够利用深度学习来进行预测。然而,如果让电脑自己在数据中进行探索和发现,这方面的算法在很大程度上尚处于摇篮期。

正因为如此,那些关于人工智能邪恶杀人机器人和超级智能的宣传都是严重夸大的。上面提到的 “从 X 到 Y 的映射”只是一种很狭窄的学习方式。而人类可以以多得多的方式来学习。这种“从 X 到 Y 的映射”方法在技术上被称为监督学习。我认为,关于监督学习之外的其他学习方式,我们仍然没有找到正确的思路。

中国市场上的人工智能

Fortune:在美国谷歌和 Facebook 的工作引人瞩目。能否告诉我们,百度用人工智能做了些什么?

吴恩达:百度有一件事情做的很不错,它创造了一个机器学习内部平台。这个平台能够让全公司的工程师、包括那些不研究人工智能的人都能以各种创造性的方式来利用深度学习——他们会用深度学习创造出一些像我这样的人工智能研究者从未想到过的东西。除了我们核心的网络搜索、图像搜索和广告业务外,深度学习还支持着大量的创意产品,这些创意产品构成一条非常长的长尾。

例如,我们的电脑安全产品使用深度学习来识别安全威胁。我从未想过深度学习可以做这个,也不知道该怎么做。我们也使用深度学习来提前预测一个硬盘何时会崩溃,而这就既增加了系统的可靠性,也降低了数据中心的成本。

Fortune:百度也制造了类似谷歌眼镜的产品,还制造了数字助理,甚至智能自行车。这些产品有市场吗?还是说它们目前只是一些有趣的实验而已?

吴恩达:我认为这些目前还属于研究性探索。不过,通过我们从社区中获得的反馈,我们了解到对智能自行车和可穿戴摄像机的需求是确实存在的。

吴恩达谈深度学习局限:AI 经济价值目前仅来自监督学习

实际上几周之前,我们刚刚在中国发布一个名叫 Dulife 的新产品的 demo,该产品使用计算视觉和自然语言处理技术来告诉盲人其面前有什么东西。比方说,在中国,有好几种面值不同的钞票大小相同,而盲人必须通过触摸才能知道它们哪里不一样。然而,当钞票被反复使用后,它的盲文部分会磨损,这样盲人就很难辨别其面值。在这种情境中,计算机视觉可以告诉盲人,这是一张 20 元的纸币,还是一张 50 元的纸币。这种产品是盲人十分需要的。

Fortune:在这些移动和可穿戴设备方面,中国市场是否与美国市场以及其他市场有什么不同呢?

吴恩达:中国市场非常不一样。其中一个差异是,中国目前最大、最热的技术趋势是 O2O,即从线上到线下。 O2O 的概念指的是,用你的移动设备把你周围的外在服务连接起来,无论这些服务是洗车、送餐、寻找附近的打折电影、美甲还是雇佣私家厨师。在美国也有这些东西,不过中国巨大的人口密度使得 O2O 可以迅速成长。

还有,在中国许多用户的第一件计算性设备是智能手机。当你的第一件计算性设备是手机的时候,你就会学习用最有效的方式来使用手机做事,而不一定会改为使用电脑。

我们可能正在接近 AI 期望值的顶点

Fortune:什么时候我们会不再把人工智能当成新鲜事物来看待,而是像对待许多其他技术一样把它视为理所当然呢?

吴恩达:我想,就像在 Gartner 公司的技术成熟曲线(Gartner Hype Cycle)上,我们可能正在接近人工智能期望值的顶点。我认为,对人工智能超级智能的恐惧曾经达到过顶点,而如今这种恐惧的高潮已经过去了。很难讲,或许我是错的,但我希望的是这样一个未来:到那时,我们将不再夸大人工智能,而是集中精力去探索人工智能的进步。

Fortune:这么说,我们近期是不是还达不到这样的水平:我们的设备或应用程序能识别出我们或我们周围的东西,而我们对此能习以为常?

吴恩达:我认为,在计算视觉方面还要等很久,因为目前计算视觉的产品并不多。不过我可以分享一个盈利很好的计算视觉产品。

在百度的广告系统中,如果你向用户展示一段文本,这没问题。运用我们的深度学习技术,我们可以帮助广告商选择一个小图片,这个小图片可以与文本并列放置。这样,你不仅会读到一小段关于在巴厘岛度假的广告,还会看到一幅巴厘岛的小图片,而你只需要几分之一秒的时间就能理解它。这一服务能让用户更快地明白某个广告是关于什么的,它极大的促进了我们在沟通用户与广告商方面的能力。

题图来自吴恩达 Twitter,他生日时团队送的礼物

英语原文: Derrick Harris,Baidu’s chief scientist explains why computers won’t take over the world just yet,fortune.com

译者:朱焕

氧分子网(www.yangfenzi.com)是关注互联网生态圈的科技新媒体

·氧分子网(http://www.yangfenzi.com)延伸阅读:

吴恩达为李彦宏再造一个百度?
百度智能+:百度技术体系核心全面人工智能化
如何打造数据科学团队,你想知道的都在这里
李彦宏、杨元庆、徐小平、饶毅、施一公跨界联合竟然是为了这!
吴恩达&林元庆:只有改变道路和心态,无人车才可能真正上路
雷鸣对话吴恩达:超级大咖深度解析人工智能的发展现状与未来
吴恩达加盟百度背后:基于人工智能的共同愿景
除了度秘,百度世界还发布了脸优、百连和“糯米+”O2O生态战略
MOOCs Coursera创始人吴恩达:翻转课堂

分享给您的好友:

您可能还喜欢…

2 Responses

  1. 首个国家级深度学习实验室落地西二旗!李彦宏说要做人工智能界的女排国家队说道:

    2017年3月2日,国家发改委让百度来牵头组建这样一个深度学习的国家实验室,这既是一个很大的鼓励,也是一个很大的责任。我们不仅仅要做成全国的第一,也要在世界上做到让人仰慕,让人家将来像朝圣一样到这儿看一看。

    人工智能是百度核心的核心,百度对于人工智能是非常serious的。

    仅仅过去两年我们在研发上的投入就高达两百亿。在中国五百强企业当中,我们论收入肯定不是排在第一的,但是论研发占收入的比例,那绝对是第一的。

    我们是深度学习的国家队,不是国足那个国家队,起码要做像女排那样的国家队。

    3月2日,“深度学习技术及应用国家工程实验室”揭牌仪式在百度大厦举行,国家发改委高技术产业司副司长孙伟,百度董事长兼首席执行官李彦宏,以及中国科学院院士、清华大学教授张钹等共建单位代表出席了揭牌仪式并致辞,来自企业、科研、媒体等各领域近百人出席了揭牌仪式。

    “中国大脑”建议落地,李彦宏:我很满足

    两年前,李彦宏以政协委员的身份在两会上提出建设“中国大脑”的倡议,而“深度学习技术及应用国家工程实验室”的揭牌,是当初“中国大脑”概念的落地执行,也是中国将人工智能发展提升到国家战略的重要标志。

    李彦宏说,百度4年前成立IDL研究室,2年前提出中国大脑的提案,现在承建国家人工智能工程实验室。“人工智能是百度核心的核心,百度对于人工智能是非常serious的。”

    “我自己也非常高兴能够亲自见证这个国家工程实验室的揭牌,不仅是因为百度来牵头,也是多多少少结了我的一个心愿。”他说,“当时用了‘中国大脑’这么一个词,实际上就是希望以国家的力量去建立一个全世界最大规模的深度学习计算平台。”时隔两年,这个国家实验室由百度来牵头,“我觉得我已经很满足了”。

    国家决定,
    由百度牵头首个国家人工智能实验室

    “深度学习技术及应用国家工程实验室”将成为首个国家级的人工智能工程实验室。前不久,国家发改委正式批复,由百度牵头筹建这个实验室。(点击蓝字,查看详情)它将有人工智能产品大规模产业化、人工智能应用技术、人工智能寄出技术、深度学习工程平台4个层级,包含7个重点技术平台方向的整体技术方向架构。

    百度深度学习实验室主任林元庆说:

    “实验室将在听觉、视觉感知和语言理解三个人工智能基础领域,实现技术突破,在大规模国际公开评估集上达到世界一流的评估效果。尤其是推动由当前的简单场景问题向多元化复杂场景问题过渡,包括多主体图像理解,噪声背景下的语音识别和多轮对话及问答交互等。”

    与此同时,实验室还将通过对大规模密集型计算、海量数据训练、计算机视听觉、生物特征识别、复杂环境感知、新型人机交互、机器翻译、标准化服务和深度学习知识产权等方向的研究,建立深度学习技术及应用研究研发平台,产出专利、标准及工程产品原型,构建示范环境,并从国家层面提高技术支撑能力,加强产业合作和人才培养。

    在“深度学习技术及应用国家工程实验室”未来的运行发展过程中,百度将支持深度学习技术工程平台建设,从软件,设备和人才等方面推动建立大规模深度学习工程平台。

    李彦宏说:仅仅过去两年我们在研发上的投入就高达两百亿。在中国五百强企业当中,我们论收入肯定不是排在第一的,但是论研发占收入的比例,那绝对是第一的。有了研发的支持,实验室将着力解决我国人工智能基础支撑能力不足等问题,推动我国深度学习技术及应用领域的产学研标用全面发展。

    百度肩负国家AI使命:科技创新,谁行谁上

    作为中国大型互联网企业中最早把深度学习提到核心技术创新地位的企业,百度公司在语音、图像及无人驾驶等众多深度学习技术领域都达到了全球领先水平。这次承建实验室,百度将继续发挥在人工智能领域的“特长”,完成国家赋予的使命。

    李彦宏在揭牌仪式上表示:“今天发改委让我们来牵头组建这样一个深度学习的国家实验室,这既是一个很大的鼓励,也是一个很大的责任。我们不仅仅要做成全国的第一,也要在世界上做到让人仰慕,让人家将来像朝圣一样到这儿来看一看。”

    他同时也表态:“我们是深度学习的国家队,不是国足那个国家队,起码要做像女排那样的国家队。”

    《人民日报》评论员文章写道:百度承建“深度学习技术及应用国家工程实验室”,是作为既接地气,又站在产业前沿的“领头雁”,来承担发展人工智能的国家使命,是互联网行业乃至中国科技创新典型的代表。

    中国正在跑步进入人工智能时代,百度牵头的深度学习实验室将是科技提升竞争力的“国家队”。

    虽然百度是民营企业,可承建国家级人工智能实验室本不以身份作为区别,因为国家说了——

    “科技创新,谁行谁上”

  2. 刚刚,我们详细对比了吴恩达和Udacity的深度学习课程,你们感受下...说道:

    相信吴恩达公布新项目之一——在线课程已经刷遍朋友圈了,顺带的,连他的生平背景也顺便给缕了一个遍了,AI科技大本营就不凑这个热闹了。

    不过,本着一丝不苟出产干货的原则,今天,我们要来扒一扒,这个课程到底肿么样?

    吴恩达亲自上阵授课

    欲知真相如何,总得对比着来看。那我们就把大火的Udacity搬出来对比一下。

    我们采访到了一位此前参与了Udacity “深度学习纳米学位”的资深学员,正好他也刚刚体验完吴恩达推出的深度学习课程,他从视频质量及练习题质量等方面对两者进行了详细的对比。

    Udacity VS Deeplearning.AI

    我今年三月份报名参加了 Udacity 的深度学习纳米学位,经过几个月的学习,基本了解了神经网络、CNN、RNN、GAN 的概念,并且通过五个项目的联系,具备了一定的动手能力。我的体会是,Udacity 的这个纳米学位课程,精华在于项目。

    坦率的说,他们家的视频课程的理论讲授部分本身并不是很出色,很多内容我听得云里雾里,比如CNN和 RNN的理论介绍部分,说真的有走过场的感觉。但是这个纳米学位的项目作业的设计不得不点赞。五个大项目,每一个都有详细的目标和完备的 Notebook。Notebook 的内容之清晰,考虑之周到,在我参加过的在线培训课程中无出其右。所有的项目作业都由 Udacity 的老师手工批改,这一点尤其令人感动,批改细致,不但告诉你对不对,还告诉你为什么,有什么更好的做法。更有趣的是,这些改卷的老师还经常跟我说一些鼓励的话,让我很有成就感。

    按照 Notebook 的要求,你必须反复听课,甚至要参考很多课外资料才能把题目做出来。如果说我从这个过程中学到了一点东西,90%是被项目逼出来的,不是靠听课听出来的。

    在五个必做项目之外,其实课程本身还示范了上十个项目,比如文本生成、股票价格预测等等,我知道有些同学超级认真,也超级有时间,所有这些示范项目也都完成了,想必学到的东西和编程功力会远在我之上。

    另外一个要点赞的是这个课程的论坛,非常活跃,超级有爱。

    现在吴恩达的课程一上线,我马上就注册了,看了几节课,更重要的是看了一下项目的设计。我曾经上过吴恩达的机器学习课程,对他讲授理论的水平超级钦佩,看上去很复杂的问题,他抽丝剥茧、举重若轻的就给讲明白了。

    在这个新的深度学习课里,我非常激动的感到,吴恩达继续保持了他强大的脑波发射力,真的能帮我把理论上的很多不足和坑填上。

    从内容来说,其实两个课程覆盖的东西差不多,但吴恩达的课程在结构上明显更具匠心,比如说把 dropout、Mini-batch 这些技术都归于 Optimization 之下,就非常容易帮我搞清楚它们的定位和关系。而我学习 Udacity 课程时,搞了半天都不知道这两个技术的目的是什么,还是参考了很多第三方资料才有所理解。

    再比如吴恩达课程里专门把超参调校拎出来作为一个模块来讲,这个太重要了。有人说,认为深度学习只是调超参的人,实际上一定是连超参都不会调,所以调超参背后的理论,真的是太重要了。

    现在很多技术类课程都以“实战”为荣,以“理论”为耻。我觉得这个态度在深度学习这门课里绝对要不得,因为理论太重要了。理论如果不搞懂,你照猫画虎做几个例子就以为自己掌握了,但一遇到新的问题立刻就会抓瞎。从这个意义上来说,吴恩达的课程如果能够延续自己之前在《机器学习》课程中的理论教授水平,那毫无疑问对我们学习者来说是一个巨大的福利。

    再谈谈练习层面。我看了这个课程当中的一些练习,感觉相比于 Udacity 还是略有进步。

    第一是可以在线练习、在线训练、在线提交。Coursera 开了一个伴侣网站叫做 coursera-notebooks.org,这个课程的作业以在线 notebook 的形式放在这个伴侣网站上,我们在这个网站上昨晚练习之后,点一个键就可以提交了。而 Udacity 的作业需要自己在本机上做完之后,打包成 zip 文件上传,或由 Github 方式提交,比较麻烦。在这方面吴恩达课程是有优势的。

    现在我还不知道当做 CNN、RNN 的时候,Coursera 课程是否会自动分配 GPU 资源。在 Udacity 上,我们需要自己去找 GPU 资源(课程官方推荐了一个 GPU 云,但是得自己去注册使用),如果 Coursera-notebooks.org 能够在背后自动动态配置 GPU 资源给学员,那就太牛了。

    第二是项目练习的题目质量,我觉得目前评价还为时尚早。因为吴恩达课程的第四、第五门,也就是 CNN 和 RNN 的课还没推出来,看不到他会给学生设计怎样的练习题。但是 Udacity 的习题还是不错的,特别是,我再强调一遍,Udacity 的批改老师真的很负责。

    总之,最近这段时间学习深度学习的朋友们心情大爽,前有 Udacity 的深度学习纳米学位,后有《深度学习》花皮书,现在又来了吴恩达的课程。深度学习者的盛宴时代开始了,酷!

    此外,鲁朗软件(北京)有限公司联合创始人,花伴侣团队机器学习负责人,AI科技大本营智库专家智亮老师第一时间看到吴恩达课程大纲后,也分享了他的看法:

    从课程大纲来看,这次的五节内容最大的特点是两个:

    一个是比较新,思路清晰,且全面,基本上涵盖了学术界最新的进展,虽然还属于比较基础和通用的部分,但是和吴恩达原来的机器学习课程相比,已经算是和学术界的state-of-the-art接轨了。

    第二个特点就是偏工业,目标比较明确,可以培养工业适用的经济适用型程序猿,它的实战项目确实都非常贴近近期的工业焦点,如自动驾驶、医疗等。习题和项目做完之后,确实足够去做相关行业的工作了。

    吴恩达有将复杂问题抽丝剥茧讲得很明白的实力,以及他对工业的了解,很可能再次成为一个爆款课程。

    那么,吴恩达的课程内容有哪些?课程结构如何?有哪些练习题?

    以下是本次吴恩达即将开启的在线深度学习专项课程的详细介绍,AI科技大本营在第一时间将其全部翻译完毕,来看看吴恩达到底会给想要学习AI的程序猿们带来什么惊喜?

    课程详细介绍

    目标:

    通过这5门课程,你将学会深度学习的基础,弄懂如何搭建神经网络,并掌握如何组织起一个成功的机器学习项目。

    具体技能:

    你将会学到卷积网络、RNN、LSTM、Adam、Dropout、BatchNorm、Xavier/He initialization等;
    了解并学习深度学习在医疗、自动驾驶、手语识别、音乐生成、自然语言处理等领域的真实案例;通过这一“机器学习飞行模拟器”的学习,特别是通过其中具体案例的研究,你将获得接近于真实的“行业经验”,并为面向工业界的机器学习研究做好准备;
    学到Python和TensorFlow,并亲手打造最先进的深度学习模型。

    此外,每一门课,你都将能听到来自深度学习顶级专家们的分享,他们会讲讲自己的深度学习故事,并为你的深度学习之路提一些建议。

    目前,deeplearning.ai会同英伟达的深度学习研究院(Deep Learning Institute)在一些专门的深度学习高等话题上合作,为学生的编程作业提供GPU运算。你将有机会在最先进的工业级环境中打造自己的深度学习项目。

    ▌第一课 神经网络与深度学习

    即将开课的班次:8月15日—9月18日
    课程学习时间:4周,每周3-6小时
    字幕:英语

    课程概述:如果你想学习最前言的AI知识,本门课程刚好能帮到你。深度学习工程师正受到高度热捧,掌握深度学习相关知识会为您带来无数的全新机遇。深度学习还是一种全新的“超能力”,能让你做出几年前不可能实现的人工智能系统。

    在本课程中,您将学到深度学习的基础知识。学习完本课程,您将:

    理解推动深度学习的主要技术趋势
    能够构建、训练和应用全连接深度神经网络
    知道如何实现高效(矢量化)神经网络
    了解神经网络架构中的关键参数

    本课程还会带你了解深度学习事实上的运作机制,而非仅提供粗略或表层的描述。 完成本课程后,你将能把深度学习应用到你自身的领域之中。如果您想寻求一份与AI相关的工作,学完本课程,您将能够回答一些基本的面试问题。

    这是深度学习专项课程的的第一门课。

    第1周:深度学习介绍

    这部分主要介绍推动深度学习兴起的主要趋势,了解当下深度学习应用的具体方面,以及如何来应用它。

    吴恩达视频采访:Geoffrey Hinton

    吴恩达通过视频采访Geoffrey Hinton截图

    第2周:神经网络基础

    这一部分我们将学习如何用神经网络来解决机器学习问题,学会如何用矢量化来加速模型。

    图片截取自第二周课程的Binary Classification专题在线课程

    吴恩达视频采访:Pieter Abbeel

    第3周:浅层神经网络

    这一部分我们将学习使用前向传播和反向传播构建一个带有隐含层的神经网络。

    吴恩达视频采访:Ian Goodfellow

    截取自吴恩达面对面采访Ian Goodfellow的视频

    第 4 周:深度神经网络

    在这部分,你将了解深度学习中的关键计算,使用它们来构建和训练深度神经网络,并将其应用于计算机视觉。

    ▌第二课 改进深层神经网络:超参数调优、正则化与最优化

    即将开课的班次:8月15日—9月11日
    课程学习时间:3周,每周3-6小时
    字幕:英语
    课程概述:本课程教你的将是如何把深度学习用得更好的“魔法”。深度学习的内部过程不该是个黑箱,您应当理解性能表现背后的因素,进而更为系统地各种优秀结果。 您还将学会TensorFlow。

    通过3周的学习,您将:
    理解打造深度学习应用的行业最佳实践;
    能够有效地利用普通神经网络的“技巧”,包括初始化、L2和退出正则化、Batch归一化、梯度校验;
    能够实现和运用各种优化算法,小型Batch梯度下降,Momentum,RMSprop和Adam,并能检验它们的收敛性;
    理解深度学习时代设置 训练/开发/测试 数据集并分析 误差/方差 的全新最佳实践;
    能够在TensorFlow中实现神经网络。

    这是深度学习专项课程的第二门课。

    第1周:深度学习实践

    吴恩达视频采访:Yoshua Bengio

    第2周:算法优化

    吴恩达视频采访:林元庆

    第3周:超参数调优、Batch归一化与编程框架

    ▌第三课 构建机器学习项目

    即将开课的班次:8月15日—9月4日
    课程学习时间:2周,每周3-4小时
    字幕:英语
    课程概述:您将学会如何打造出一个成功的机器学习项目。如果您渴望成为AI领域的技术领导者,并想弄懂如何团队工作设定方向,本课程将为指明道路。

    本门课程的多数内容来自我开发和推广深度学习产品的经验,其他任何地方均从未有教授。本课程还设有两个用于练习机器学习项目领导决策的“飞行模拟器”,能够提供给你只有经历数年机器学习工作实践才能获取到的“行业经验”。
    通过2周的学习,您将:

    弄懂如何诊断机器学习系统中的错误
    有能力筛选出最有希望降低错误的工作方向
    理解复杂的机器学习设置,如 训练/测试 数据集的不配备,并能对比 和/或 实现超越人类水平的表现
    弄懂如何应用端对端学习、迁移学习和多任务学习

    我遇到过仅仅因为不理解一些机器学习原则而而浪费数月甚至数年时间的团队,所以我要用一门课程来教授这里的原则,希望这个为期两周的课程能帮您省下这些时间。

    本课程是一门独立课程,只要具备基本的机器学习知识就可以参加。这是深度学习专项课程的第三门课。

    第1周:深度学习策略 (1)

    吴恩达视频采访:Andrej Karpathy

    第2周:深度学习策略 (2)

    吴恩达视频采访:Ruslan Salakhutdinov

    ▌第四课 卷积神经网络

    课程内容及时间安排将在数周内公布
    字幕:英语
    课程概述:本课程将教您如何构建卷积神经网络并用它来处理图像数据。在深度学习的驱动下,计算机视觉近两年来取得了巨大的进步,从安全的自动驾驶到精确的面部识别再到医学放射影像的自动读取,出现了无数激动人心的应用研究成果。

    您将:

    理解如何构建卷积神经网络,包括它最新的变体,如残差网络。
    弄懂得如何用卷积神经网络来完成视觉检测和识别任务。
    弄懂如何用风格转换器创造艺术图像。
    能用这些算法来处理各种各样的图像、视频,以及其他2D或3D数据。

    这是深度学习专项课程的第四门课。

    ▌第五课 序列模型

    课程内容及时间安排将在数周内公布
    字幕:英语
    课程概述:本课程将教会你为自然语言、音频和其他序列数据构建模型。在深度学习的驱动下,序列算法近两年来取得了巨大的进步,语音识别、音乐合成、聊天机器人、机器翻译、自然语言理解等领域涌现出无数激动人心的成果。

    您将:

    弄懂如何构建并训练递归神经网络(RNN)及其常用的变体,如GRU、LSTM。
    能用序列模型解决自然语言问题,包括文本合成问题。
    能用序列模型实现音频应用,包括语音识别和音乐合成。

    这是深度学习专项课程的第五门课,也是最后一门。

    课程相关信息

    国外媒体称吴恩达此次的在线深度学习项目“Deep Learning Specialization”是迄今为止,最全面、系统和容易获取的深度学习在线课程。登陆Coursera可以观看。

    日前,5门课程中,前3门课已经就绪,由吴恩达亲自出镜授课。

    课程将按月费收费,每月49美元。不过,根据Coursera的规则,用户申请的在线课程,前7天里可以无限量访问。

    目前,7天的免费试用已经开启,感兴趣的小朋友可以火速前往课程围观。

    不过,这个在线课程在中国大陆无法正常观看,有需要的小伙伴…(你懂的)

    附:Udacity 深度学习纳米学位课程大纲

    部分 1:神经网络

    神经网络是深度学习的基石。在这部分课程中,你将学习神经网络的基本原理,并在实战项目中从头开始构建一个神经网络。

    部分 2:卷积神经网网络

    卷积神经网络是解决视觉问题的标准答案。 在无人驾驶车,面部识别,医学影像等领域,都有它的应用。在这部分课程中,你将了解卷积神经网络的基本原理,并在实战项目中用它来解决图片分类问题。

    部分 3:循环神经网络

    循环神经网络对预测音乐和文本等有序数据非常有用。利用这个神经网络,你可以生成新音乐,翻译文本,或通过脑电图预测癫痫发作。在这部分课程中,我们将教你如何搭建和训练一个循环神经网络。

    部分 4:生成对抗网络

    生成对抗网络是无监督学习的一种。在生成对抗网络中,两个神经网络相互竞争,通常可用于生成图像数据。在这部分课程中,你将学习如何搭建自己的生成对抗网络,并让两个神经网络互相竞争。

发表评论

电子邮件地址不会被公开。 必填项已用*标注

您可以使用这些HTML标签和属性: <a href="" title=""> <abbr title=""> <acronym title=""> <b> <blockquote cite=""> <cite> <code> <del datetime=""> <em> <i> <q cite=""> <strike> <strong>