奥特曼称他是爱因斯坦级别的天才;OpenAI 总裁更是直言:
只消他想要的,咱们皆给。
Alec Radford 大神去职 OpenAI,当今牵出更多细节:
改革全国的 GPT,真的是在 Jupyter notebook 上出生的。
而他只端庄提供背后的灵感,剩下的由工程师来处理。
(网友:那在 Excel 也不错作念到这小数)
奥特曼高度评价:莫得他应有的知名度。
他在 Jupyter notebooks 上发明了 GPT
在奥特曼帖子底下,更多细节轶事被扒了出来。
比如事实是,他差点就废弃了将讲话算作通往 AGI 的谈路。
据这位 OpenAI 职工边幅,在 Alec 在任临了一天他们有契机第一次谋面,他向 Alec 谈判了坚合手讲话模子背后的原因。
简略在 2017 年,Alec 花了几年期间来谈判 RNN,然则显露不大。
于是 Alec 就嗅觉很颓废,就想着要不要退出 OpenAI。最终他决定休息一个月来调养,再行想考我方的有蓄意。
回顾后不久,Ilya 就跟他保举了谷歌前共事的新论文,也即是那篇驰名的Attention is all you Need。
于是乎,他就开动了新的架构尝试,并将其与无监督预磨练相市欢。
收尾效果十分好,GPT 时间就此开动。
相通还有 CLIP,他曾为此闭关一年来处理估量机视觉问题,最终才得以推出。CLIP 也成为后续处理 2D 估量机视觉问题的基础。
不外能栽种 GPT、CLIP,亦然少不了 OpenAI 列位共事对他的全力复古——
那时他在 Jupyter notebooks 上编写代码,然后就让谈判工程师在那儿翻译。酷爱心胜过一切。
OpenAI 总裁 Greg Brockman 曾提到过这位天才:只消他想要的,咱们皆给。
那时是在 2023 年 SXSW 大会上,Greg Brockman 示意,Alec Radford 对讲话十分感风趣,一直在谈判怎样构建袖珍聊天机器东谈主。
咱们十分可爱他,是以咱们十分复古他作念任何他想作念的事情。与此同期,咱们也在投资一些严肃的技俩,咱们就想,你知谈,无论亚历克需要什么,咱们皆会确保他获得。
也正因如斯,2017 出生了第一个道理的收尾——一个字据亚马逊驳倒磨练出来的模子,它不错瞻望下一个扮装、下一个扮装、下一个字母是什么。实质上,它学会了开首进的热诚分析分类器。你不错给它一个句子,它会说这是正面的如故负面的。这听起来并不令东谈主印象潜入,但即是在这一刻,咱们知谈它一定能告捷。"
还有同业们示意,他的一些办法是统统这个词 AI 鸿沟谈判者们蹙迫灵感来源。况且他从来也不惜惜地去共享他的期间和办法。
据这位一又友共享,那时他在学习 ML,在 MNIST 磨练一个芜俚的 MLP,收尾遭受了一个愚蠢的小问题。
然后 Alec 莫得暗昧,又或者是襄理诞生这个小问题,而是立即开动教对于 CNN 方面的学问。
奥特曼:爱因斯坦级别的天才
他毕业于富兰克林 · 欧林工程学院(Franklin W. Olin College of Engineering)。
据网友自满,这是个范围很小、以技俩为导向的工程学院。其声誉与 Rose-Hulman 理工学院和 Harvey Mudd College 等学校访佛。
他们的学生在技俩方朝上常常有很大的个东谈主目田度,并能径直战斗到大皆的进修和谈判责任,这与其他院校的谈判生履历不相高下。
随后就加入 OpenAI,一干即是八年。
收尾当天,他的论文被引数已提升 19 万。被引量名次前三的论文,差异与 GPT-3、CLIP 和 GPT-2 相关。
这三篇论文皆为今天的 ChatGPT 打下了蹙迫基础,实质上,Alec 险些参与了 OpenAI 统统的紧要随意。
除了被引量最高的这三篇,从第一代 GPT 到 GPT-4o 的作家名单中,Alec 的名字皆显明在列,况且前两代中皆是第一作家。
Alec 相通算作一作的 CLIP,则是 OpenAI 在多模态道路上的蹙迫效果,甚而在统统这个词行业皆极具影响力;同期,Alec 亦然 OpenAI 初代画图模子 DALL · E 的参与者。
其他模态方面,OpenAI 开源的语音识别系统 Whisper,一作仍然是他。不外,最新的 o1 模子孝敬者列表中也曾莫得了 Alec 的名字。
接下来,奥特曼示意,期待他以沉寂开垦者的身份与 OpenAI 合营。
网友:无须博士学位也颖异大事?
Alec Radford 的履历,牵出来更多谈判层面上的规划。
是不是无须博士学位也颖异大事了?
Stability AI 首创东谈主回忆,他们我方的博士占比也不高,简略 80 个谈判者 / 工程师中只好 16 个博士。
这么看,博士学位是不是就不是招聘中的必选项了。
但也有合手反对主见,这么以偏概全难免有点夸张和过于浮浅化了。博士学位不单是是一个文凭,更是一个教化你怎样批判性想考和系统地处理复杂问题的旅程。
而围绕这些细节,另一个规划的主角是 Jupyter notebook,网友们直呼:是个出生天才办法的地点。
是以新的一年,从开动学习怎样使用 notebook 开动吧。
参考纠合:
[ 1 ] https://x.com/sama/status/1872666383210971560
[ 2 ] https://x.com/Yuchenj_UW/status/1874171107705811285
[ 3 ] https://x.com/ahatamiz1/status/1874228975175950487?s=46&t=R82LqSqpRZuVhcZxqH_Vlw
[ 4 ] https://x.com/priceindex/status/1873134352395051093?s=46&t=R82LqSqpRZuVhcZxqH_Vlw
— 完 —
点这里� � 平和我,铭记标星哦~
一键三连「共享」、「点赞」和「在看」
科技前沿显露日日相遇 ~