0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

加拿大大四学霸,天才程序员和他的逆天语言模型

新机器视觉 来源:LONG 2019-07-19 09:03 次阅读

GPT-2,一个来自 OpenAI 的逆天语言模型,现在能用来补全代码了。

一位来自加拿大的大四学霸,开发了一款”Deep TabNine“代码补全工具,实现了这一大胆的想法。

它支持23种编程语言、5种编辑器,使用简单,效果惊艳。

不少使用过的网友说:TabNine是他们用过的最好的代码补全工具,这是属于程序员的杀手级应用。

加拿大大四学霸,天才程序员和他的逆天语言模型

在 VS Code 的扩展商店里,TabNine 已经被下载 1.3 万次,获得全 5 星好

支持 23 种编程语言

Deep TabNine 支持 Java

加拿大大四学霸,天才程序员和他的逆天语言模型

Python

加拿大大四学霸,天才程序员和他的逆天语言模型

C++

加拿大大四学霸,天才程序员和他的逆天语言模型

Haskell:

加拿大大四学霸,天才程序员和他的逆天语言模型

不同于各种其他代码补全插件,Deep TabNine 是根据程序员过去的习惯自动补全,并在后面给出几种选项的概率。

如果有类似代码出现在之前的项目里,TabNine还会在补全候选框中直接给出地址,方便用户点击进去查阅。

加拿大大四学霸,天才程序员和他的逆天语言模型

除以上几种语言之外,Deep TabNine还支持JavaScript、C、PHP、Go、C#、Ruby、Objective-C、Rust、Swift、TypeScript、OCaml、Scala、Kotlin、Perl、SQL、HTML、CSS和Bash。

主流编程语言几乎都囊括在内。

支持 5 种编辑器

TabNine 支持 VS Code、Sublime Text、Atom、Emacs、Vim 五种代码编辑器。

对于使用 VS Code 和 Sublime 来说,安装 TabNine 非常方便,用自带的扩展包管理工具即可。

VS Code

VS Code 用户按下 Ctrl+P(Mac 用户按下⌘+P),粘贴以下命令,然后按回车键完成安装。

extinstallTabNine.tabnine-vscode

Sublime

Sublime 用户安装分为两步:

1、按下Ctrl+Shift+P(Mac用户:⌘+Shift+P),选择Install Package Control;

2、再次按下Ctrl+Shift+P(Mac用户:⌘+Shift+P),选择Package Control:Install Package,然后选择TabNine来安装。

Vim

Vim 使用 Vundle 插件管理器进行安装:

1、添加Plugin ‘zxqfl/tabnine-vim’到.vimrc;

2、输入:PluginInstall,按下回车完成安装。

其他编辑器的安装方法就不一一赘述了,有需要的用户可以参照文末的链接进行安装。

项目超过400kb需要购买许可证:个人用户49美元,商业用户99美元。

加拿大大四学霸,天才程序员和他的逆天语言模型

由于 Deep TabNine 用到机器学习补全代码,因此需要大量的算力(超过100亿次浮点运算),在笔记本上运行模型,无法获得低延迟的体验。

因此,软件开发者推出了 TabNine Cloud 云服务器,用云端 GPU 加速。付费用户不需要再加钱即可使用。

所以听起来很划算吧?

软件开发者自己就说,这个价格其实不贵,有了 TabNine,一分钟就里能帮你节省一秒,咱们再算算程序员的时薪,每个小时能节约1.4美元,不到一年时间就能回本了。

如果你对效果不满意,TabNine 开发者还提供 30 天退款保证。

怎么做到的?

TabNine 是在 GPT-2 的基础上构建的,这是一种 Transformer 架构,原产自 OpenAI,是个“逆天”语言模型。

GPT-2 的参数高达 15 亿个,数据量比一代扩大了 10 倍,使用了包含 800 万个网页的数据集,共有 40GB。

逆天之处就在于,GPT-2 写起文章来毫无违和感,无需针对性训练就能横扫各种特定领域的语言建模任务,还具备阅读理解、问答、生成文章摘要、翻译等等能力。

就 GPT-2 而言,它的训练目标很简单:根据所有给定文本中前面的单词,预测下一个单词。虽然本来是解决 NLP 问题,看似与写代码没什么关联,但建模代码也算是用一种独有的方式在理解英文。

比如,可以让模型用 if/else 语句否定单词:

加拿大大四学霸,天才程序员和他的逆天语言模型

加拿大大四学霸,天才程序员和他的逆天语言模型

项目主页显示,在大约经过 GitHub 中 200 万个文件训练后, TabNine 具备了自动补全代码的能力。

在训练这个模型期间,模型学习了例如动态类型语言中的类型推断等复杂行为,用这样的训练方式预测 token。

加拿大大四学霸,天才程序员和他的逆天语言模型

加拿大大四学霸,天才程序员和他的逆天语言模型

作者表示,TabNine 可以很好利用传统代码补全工具难以获取的琐碎细节。

例如,假设 app.get_user()的返回类型是一个带有 setter 方法的对象,而 app.get_users()的返回类型是一个列表,两个名称之间只有细微的差别:

加拿大大四学霸,天才程序员和他的逆天语言模型

这个模型还能以自然语言编写的文档来推断函数名称、参数和返回类型:

加拿大大四学霸,天才程序员和他的逆天语言模型

Deep TabNine 加入了之前用户强烈要求加入的功能:用预先存在的知识,解决在创建新项目时的代码补全问题。

例如,它知道当一个类扩展 React.Component 时,它的构造函数通常会调用一个名为 props 的参数,并且通常在其内部用 this.state 赋值:

加拿大大四学霸,天才程序员和他的逆天语言模型

Deep TabNine 甚至可以做不可能的事情,并记住 C++ 可变参数转发语法:

加拿大大四学霸,天才程序员和他的逆天语言模型

“杀手级应用”

TabNine 问世后,不断收获好评,甚至还有程序员激动得爆粗口:

卧槽,这种软件多来点就好了。(Fuck yeah. This is the sort of software I want to see more often: TabNine )

有网友表示, 没有它都不知道该怎么面对写代码这件事了。

还有人称之为开发者应用中的第一个“杀手级应用程序”:

“令人印象深刻”、“感到神奇”“太酷了”……推特上的评价,颇有电视广告上“用了都说好”的画风。

在各大科技论坛上,也有网友提出了建议和改进的方向。

有用户反映,也有美中不足的地方,比如这个工具会干扰自动括号完成。

作者表示,TabNine 还在不断更新完善中,正在改进这些bug。

大四学霸的第一桶金

想不到吧,这款好评如潮的代码工具,出自一名大四学生之手。

Jacob Jackson,加拿大人,目前在滑铁卢大学主修计算机科学与组合优化专业,辅修数学。大四在读,今年8月份毕业。

Jackson此前在Reddit上发帖称,这是自己在大学阶段开发的第一款商业软件产品

别人的大学,别人的第一桶金~

但Jackson并非无名之辈,年少有为,曾在2014和2015连续两年获得IOI金牌。

因此,大学一入学,便成为加拿大Michael and Ophelia Lazaridis Olympiad Scholarship奖学金的获得者,免除了8个学期学费书费和生活费。

除了自动补全代码的TabNine,Jackson还开发了很多有意思的应用,比如一个名为jellies的益智游戏,和使用蒙特卡罗树搜索的国际象棋引擎Sashimi等。

本文素材来源

TabNine网站:https://tabnine.com/blog/deep

Jackson GitHub主页:https://github.com/zxqfl

Jackson简历:http://jacobj.ca/resume.html

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 编程
    +关注

    关注

    88

    文章

    3627

    浏览量

    93809
  • 代码
    +关注

    关注

    30

    文章

    4801

    浏览量

    68735
收藏 人收藏

    评论

    相关推荐

    TMS320C6000程序员指南

    电子发烧友网站提供《TMS320C6000程序员指南.pdf》资料免费下载
    发表于 12-24 17:19 0次下载
    TMS320C6000<b class='flag-5'>程序员</b>指南

    机械革命发布CODE AI程序员

    近日,英特尔新质生产力技术生态大会在成都举行,机械革命作为重要参展商带来了多款明星产品引爆全场!其中更是在AI PC软件生态产品发布分论坛上,Intel、智谱、机械革命三方联合发布了专为程序员设计的CODE AI程序员本,成为本次大会的一大亮点。
    的头像 发表于 11-30 10:34 437次阅读

    Linux驱动程序程序员指南

    电子发烧友网站提供《Linux驱动程序程序员指南.pdf》资料免费下载
    发表于 11-22 15:53 0次下载
    Linux驱动<b class='flag-5'>程序</b><b class='flag-5'>程序员</b>指南

    AI编程工具会不会抢程序员饭碗

    AI编程工具可辅助编程,减少手动编码,提升效率,对程序员有积极影响也有挑战。程序员需深化技能、拓宽知识应对。长远看,AI与人类程序员将共生共荣。
    的头像 发表于 11-08 10:17 187次阅读

    第五届长沙·中国1024程序员节开幕

    场精彩活动将轮番上演。超200名海内外技术人员围绕人工智能、数据技术等前沿领域展开深入研讨。 本届1024程序员节中机器人与具身智能、大模型等主题引发热烈讨论;程序员、开发者如何利用生成式AI提升开发效率被重点关注。
    的头像 发表于 10-25 15:42 213次阅读

    【《大语言模型应用指南》阅读体验】+ 基础篇

    这个程序不需要程序员编写,而是由计算机自动生成。因此,人工编程方法依赖程序员思考的规则,而自动编程是计算机算法通过分析数据自行创建规则。 作者通过类比学生准备高考的过程来说明机器学习的过程,如下图: 此
    发表于 07-25 14:33

    程序员节视频创意大赛,用串口屏赢取千元大奖

    10月24日,程序员专属的节日里,我们盛大开启“程序员节视频创意大赛”特别活动!这不仅是一场视觉的盛宴,更是智慧与创意的璀璨碰撞。我们诚挚邀请每一位程序员及编程爱好者,拿起你的镜头,记录下那些平凡日子中的不凡瞬间,让编程的魅力与
    的头像 发表于 07-08 10:38 72次阅读
    <b class='flag-5'>程序员</b>节视频创意大赛,用串口屏赢取千元大奖

    程序员节视频创意盛宴,邀您共襄盛举!

    10月24日,程序员专属的节日里,我们盛大开启“程序员节视频创意大赛”特别活动!这不仅是一场视觉的盛宴,更是智慧与创意的璀璨碰撞。我们诚挚邀请每一位程序员及编程爱好者,拿起你的镜头,记录下那些平凡日子中的不凡瞬间,让编程的魅力与
    的头像 发表于 07-04 09:00 67次阅读
    <b class='flag-5'>程序员</b>节视频创意盛宴,邀您共襄盛举!

    模型时代,程序员当下如何应对 AI 的挑战

    随着 AI 技术的飞速发展,特别是大模型的出现,传统的程序员角色正在经历深刻的变革,我们不得不重新对自己进行审视和思考。 通用领域大模型的“泛化能力” 在过去的二十年内,AI 领域的大部分研究
    的头像 发表于 06-28 16:19 560次阅读
    大<b class='flag-5'>模型</b>时代,<b class='flag-5'>程序员</b>当下如何应对 AI 的挑战

    我去过的加拿大大学——AI深度学习算法诞生地

    在人工智能逐渐成为新一轮风口的时候,汇集了世界顶级AI人才,率先突破了人工智能神经网络算法的加拿大成了世界瞩目的焦点。
    的头像 发表于 06-19 15:00 1089次阅读
    我去过的<b class='flag-5'>加拿大大</b>学——AI深度学习算法诞生地

    加拿大AI公司Cohere获4.5亿美元融资

    加拿大人工智能初创公司Cohere近日宣布,已顺利完成新一轮融资,筹集到高达4.5亿美元的资金。本轮融资由英伟达、Salesforce Ventures等回归投资者,以及思科和加拿大养老基金PSP Investments等新投资者共同参与。
    的头像 发表于 06-06 09:28 409次阅读

    Stability AI发布Stable Code Instruct 3B大语言模型,可编译多种编程语言

    据报道,Stability AI公司近期推出了适配程序员使用的Stable Code Instruct 3B大语言模型,此款模型的显著特点是能够实现编程
    的头像 发表于 03-27 10:04 512次阅读

    适者生存,程序员最终会流向哪……

    程序员没有永远的护城河!!就目前的互联网大环境来看,it行业已经是……
    的头像 发表于 03-11 17:11 420次阅读
    适者生存,<b class='flag-5'>程序员</b>最终会流向哪……

    2024程序员的未来方向如何走?还看今朝

    这几年的IT行业想必大家已经感受到了,Android、Java、前端等等程序员都经历了大厂……
    的头像 发表于 02-02 09:45 839次阅读
    2024<b class='flag-5'>程序员</b>的未来方向如何走?还看今朝

    1月18号“纯鸿蒙”千帆启航,程序员预备!

    。 如何正确看待鸿蒙? 我作为程序员来说,首先是看鸿蒙的发展、市场开发岗位、薪资以及前景。 这几年对鸿蒙的发展情况来分析,从2019年开始鸿蒙的出来今天,华为鸿蒙取得了很大的成就。从“不兼容
    发表于 01-16 22:13