一年的深度学习

我2018年的目标是深入学习。2017年10月,我在阅读《纽约时报》的一篇文章后,偶然发现了一个名为famanbetx登陆st.a i的网站,文章描述了缺乏能够培养深度学习模式的人才。说它改变了我的生活,听起来有点老套,但我几乎无法想象,一年之后,我会在幕后帮助准备这门课的下一个版本。在这篇文章中,我会告诉你们一些关于我个人深入学习的经历,manbetx官网手机登录我将与大家分享一些我认为在六个月前可能对我有用的建议。

使用神经网络将埃菲尔铁塔添加到绘画中的例子
使用神经网络将埃菲尔铁塔添加到绘画中的例子

我是谁?我从哪里来?

我的背景主要是数学。我有法国大学的硕士学位;我开始攻读博士学位,但六个月后就放弃了,因为我觉得这太令人沮丧了,然后在巴黎教了7年的本科生。我是一个自学的程序员,在我13岁的时候,我父亲就有了一个好主意,让我开始学习Basic语言。

我丈夫搬到了纽约,我三年半前搬到那里,成为了半个全职爸爸,法国一家出版社的半教科书作者。当我第一次看fast的时候,manbetx登陆我对周围的炒作很好奇manbetx官网手机登录人工智能都是关于,manbetx官网手机登录我想知道我是否能理解那些似乎只有少数天才才能理解的东西。

我必须承认我几乎没有开始这门课;有人声称,只要有一年的编程和高中数学经验,它就能向任何人解释深度学习,我对此非常怀疑,我想知道这是不是都是假的(剧透提示:不是)。但我还是决定这么做;我已经完成了最新的一本书,每周花七个小时来学习这门课,而我的小儿子们似乎睡得并不多。

尽管我在开设MOOC的第一个版本时,在数学方面有明显的优势,我挣扎了很久令人讨厌的东西。我是Windows用户,以前从未启动过终端。在我最终能够训练我自己的狗和猫分类器之前,这个设置花了我一个星期的大部分时间。每次我必须在终端上运行一些命令时,感觉就像是某种形式的折磨(这一点仍然没有太大的改变!)

如果你是这一领域的新手,正在为其中的一部分(或全部)而奋斗,还记得没有人能一帆风顺。总有一些你不知道的事情,那将是一个挑战,但是如果你坚持下去,你会克服它的。随着时间的推移,它会变得更容易,我的bash命令有一半还需要帮助,并且在第一节课中两次破坏了文档和课程网站。幸运的是,大家都在忙着看杰里米,无暇顾及。

你需要高等数学来进行深度学习吗?

简而言之,答案是否定的。答案是否定的,任何人告诉你相反的事情都只是想吓唬你。在深度学习的一些理论研究领域你可能需要高等数学,但桌子上每个人都有位置。

能够在实践中训练一个模型,你只需要三样东西:对导数有个概念,了解误差函数的log和exp,知道矩阵乘积是什么。你可以在很短的时间内学会所有这些,具有多种在线资源。过程中,杰里米建议可汗学院为了学习导数,manbetx官网手机登录日志,和经验,和3蓝色1棕色为了学习矩阵乘积。manbetx官网手机登录

在我看来,你真正需要掌握的(或者至少是尽可能熟悉的)数学(有点像数学和代码的交叉点)是广播

建立你自己的新兵训练营,如果你是认真的manbetx官网手机登录

在我完成课程的第一部分后,我很清楚,我想在这个领域工作(因此有了好的决心)。我考虑了各种各样的训练营,这些训练营承诺要把我变成一名数据科学家,以换取可观的学费。我在网上找到了足够多的推荐信,幸运的是,我很快就放弃了这个想法。

网上有足够的免费(或廉价)资源教你所需要的一切,所以只要你有自律,你可以建立自己的新兵训练营。最好的是课程从fast.aimanbetx登陆当然(但我现在在那里工作,所以有点偏见))。

我以为我永远不会被选中参加第二部分课程的第二版的国际奖学金,所以当收到录取邮件时我有点措手不及。我预订了一个办公空间,以远离家里一个婴儿和一个蹒跚学步的孩子的疯狂,在我们找到保姆之前,然后每天从9点工作到5点,加上晚上,在课程材料上。我想我会追随其他mooc,但面对杰里米留下的所有挑战论坛,那里充满活力的社区,我从来没有时间去看别的地方。

尽管这门课的目的是让学生每周花7个小时做作业,绝对有足够让你忙更长的时间,尤其是在第二部分。如果你真的想把教育转向深度学习,manbetx官网手机登录你应该花七个星期的时间拼命学习这门课。如果你能在经济上/家庭上负担得起,亲自飞到旧金山参加,每天去旧金山大学的学习小组。如果你不能,在你所在的城市寻找其他遵循这一过程的人(或者创建自己的小组)。在任何情况下,活跃在论坛上,当你有问题的时候不仅仅是问问题,还可以帮助其他人编写代码。

展示你的能力

我很害羞,我讨厌交际。见过我的人都知道,看在上帝的份上,我是不会闲聊的。幸运的是,在电脑安全的背后,你有很多方法可以向潜在雇主推销自己。这里有一些事情可以帮助你:

  1. 制作你自己的项目来展示你所学到的。在转移到另一个项目之前,一定要完善一个项目。在我的例子中,这是复制超莱斯利·史密斯的论文然后深绘画协调纸。
  2. 写一个博客解释你学到了什么。不一定是复杂的新研究文章,从模型的基础开始,即使您认为已经有上千篇这样的文章了。仅仅通过解释你认为你理解的事情,你就能学到很多。
  3. 参与一个与深度学习相关的开源项目(比如fastai图书馆)。
  4. 参加Kaggle竞赛(仍然在我的待办事项列表中,也许这就是我2019年的决心;))。
  5. 建立一个Twitter账户,告诉人们以上所有的事情。manbetx官网手机登录

甚至在课程结束之前,我就得到了好几个工作机会,这让我非常惊讶。然后,杰里米提到他要彻底重建图书馆,我主动提出帮忙。事情一件接一件,他设法得到AWS的赞助,让我成为fast.ai的研究科学家。manbetx登陆

在镜子后面

在我看来,学习总有三个阶段。首先你要抽象地理解一些东西,然后你可以解释,最终你成功地做到了。这就是为什么看看你是否可以自己重做你在课程中看到的代码是如此重要。

就深度学习而言,对我来说,学习这门课程是第一阶段;写博客,第二阶段是记笔记或在论坛上回答问题;第三个是和杰里米一起重建图书馆。

在过去的几个月里,我学到的东西甚至比我学习这些课程的时候还要多。在Jeremy的指导下重构代码,直到我们得到今天所看到的结果。构建一个完整的集成框架意味着你必须实现一切,所以你需要掌握这个过程的每一部分。

总而言之,这是我一生中学得最多的一年。我永远感谢瑞秋和杰里米创造了这门神奇的课程,我很自豪能把我的小石头加进去。