返回栏目
首页人工智能 • 正文

重磅! 剑桥年度AI全景报告发表: 27%的美国顶尖AI人才有中国教育的背景。

发布时间:  来源:河洛网

本文转载自雷锋网络。 转载时请到雷锋网络官网申请许可证。

重磅! 剑桥年度AI全景报告发表: 27%的美国顶尖AI人才有中国教育的背景。

进入2020年,在疫情黑天鹅和新基础设施以非常快的速度达成协议的大背景下,AI真的迎来了自己精彩的时刻。

今年世界人工智能领域的人才分布是什么样的? AI领域有什么研究和突破? AI产业有什么新的风向? 未来有什么新趋势?

剑桥大学本年度的AI全景报告也许可以告诉你答案。

今年是该年度报告的第三期,Nathan Benaich和Ian Hogarth代表剑桥大学总结了过去一年的AI趋势。

和往年一样,该报告引用的数据来自著名的科技公司和研究小组。 新版AI全景报告书全方位总结了过去一年AI领域的研究成果和突破、人才形势、产业动态等,对未来进行了预测。

据报告,在美国工作的顶尖AI人才中,27%有中国教育的背景,但毕业后54%在美国攻读研究生博士学位,其中90%选择了留美的工作。

如果想得到本报告的全文pdf,可以用雷锋网(公众号:雷锋网)的微信公众号关键词“ 1010报告” 提取。

文档来源:剑桥大学

一、人工智能研究进展:只有15%的论文公开代码,PyTorch超过TensorFlow1,开放性不足。

AI研究的开放性没有我们想象的那么高,只有15%的论文使他们的代码成为开源。

研究论文代码的实现对推进AI的问责制、重复性和进展至关重要。

2016年中期以来,这个领域在这个指标上几乎没有改善。 传统上,学术团体比行业团体更有可能发行代码。 所有代码都没有公开的著名组织有OpenAI和DeepMind。

对技术公司来说,这些代码通常与自己无法发布的扩展基础架构纠缠在一起。 这说明人工智能人才和计算机集中化是个大问题。

2、PyTorch超过了TensorFlow

在研究论文中,Facebook的Py Torch迅速超过了谷歌的Tensor Flow。

会议论文的20-35%提到了他们使用的框架,75%引用了PyTorch而不是TensorFlow。 2018年,161位作者发表的TensorFlow论文比PyTorch论文多,其中55%转移到PyTorch。 15%的情况正好相反。

同时,作者观察到Tensor Flow、Caffe、Caffe2依然是AI生产的主力。

另外,在GitHub中,PyTorch也比TensorFlow更受欢迎。

据统计,目前约47%的实现基于PyTorch,约为TensorFlow的18%。 PyTorch提供了更大的灵活性和动态计算图,使实验变得容易。 JAX是对数学更友好的谷歌出品框架,通常在卷积模型和transformer以外的工作中很受欢迎。

3、NLP模型的趋势

另一方面,大尺寸模型推进了NLP领域的技术进步,在OpenAI的GPT-3等新研究中,深度学习模型的参数数量达到了千亿个。

根据现在的云服务计算力价格,训练每1000个参数的模型平均需要1美元,拥有1750亿参数的GPT-3可能需要一百万美元级的费用,专家认为这个数字超过了1000万美元。 高额的训练费用在研究者们探索新方向时提出了挑战。

随着AI模型的训练需求越来越多,传统的计算机体系结构已经接近摩尔定律的终点。 根据MIT等大学的研究,如果科学家想把ImageNet数据集的图像分类任务的错误率从11.5%降低到1%,可能需要投资几百亿美元。

但是,也研究了模型的效率化方法,根据OpenAI的统计,从2012年开始,训练深度学习神经网络的ImageNet图像分类达到特定水平所需的计算能力每16个月减半。

当然,GPT-3、BERT等模型将NLP领域的研究推向了新的阶段。 现在,自动翻译编程语言的未被监视的机器翻译工具也出现了。 在GitHub中,将c导数翻译到Java精度达到90%。

4 .生物学的“ AI时刻” 仅2020年,就有2.1万篇以上的论文。

生物研究经历了“AI时刻”:仅2020年就发表了21,000多篇相关论文。 2017年以来,关于生物领域人工智能方法(如深度学习、NLP、计算机视觉、RL )的出版物比上年增加了50%。 2019年以来发表的论文占2000年以来所有论文的25%。

但是现在很多机器学习应用都是通过统计来实现功能的,忽视了人类学习知识的重要方法&mdash。 — 因果推理。 因果推论在为患者寻找诊疗方案等任务中是更好的方式。 Judea Pearl、Yoshua Bengio等人工智能的先驱认为,因果推理是使机器学习系统更好地泛化、更强大稳健、更有助于决策的新方向。

5、联邦学习

从2018年到2019年,提到联邦学习的论文数量增加了近5倍。 2020年上半年发表的论文比2019年全年多。

二、AI人才:人才流失,27 %的中国教育背景人工智能领域研究者的分布状况近年来呈现出一些新的趋势。

1、人才流失

从2004年到2018年,谷歌、DeepMind、亚马逊和微软从美国大学聘请了52名终身教授和终身教授。 卡内基梅隆大学、华盛顿大学和伯克利大学同时失去了38名教授。 值得注意的是,2004年没有一位人工智能教授,但仅2018年就有41位人工智能教授离开了。

当然,老教授的离开可能会为年轻学术人才打开晋升的阶梯。 与此同时,有些学者不买账。

人工智能教授的流失与全美69所大学毕业生创业能力的下降有关。

一般来说,人工智能终身教授退休4~6年后,毕业生设立人工智能公司的可能性减少了4%。 但是,这不适用于学生毕业前1~3年教授离开的情况,表明教授和学生之间的互动很重要。 但是,与人工智能教授离职相同的大学毕业生成立非AI公司之间也没有明显的相关性。

2、强调了中国学者的重要性

2019年Neur IPS收到论文的作者中有29%在中国获得了本科学位。 但是,离开中国的大学后,54%的毕业生去美国在NeurIPS上发表了论文。

在人工智能领域,美国依然是国际研究的中心,90%从美国毕业的留学博士继续去美国留学工作。

非美国籍的AI博士毕业生毕业后很可能在大型科技公司工作,美国籍博士毕业生很可能在初创公司工作或参加学术界的研究。

同时,许多AI领域的美国博士毕业生毕业后将在英国和中国就业。 55%的去英国的毕业生选择在私营部门工作。 40%的去中国的人选择了去私营部门。

另外,美国AI技术领先,但在美国工作的顶级人工智能研究者大多不是在美国接受本科教育,中国( 27% )、欧洲( 11% )、印度( 11% )是美国AI人才最大的几个运输

3、美国依赖人工智能人才

考虑到美国人工智能产业的移民依存度,特朗普宣布暂停H1-B签证引起强烈反对。 8起联邦诉讼和数百所大学反对。

4、美国将继续主导NeurIPS 2019年论文

以NeurIPS 2019为例,谷歌、斯坦福、卡内基梅隆大学、MIT和微软发表的论文数量名列前五。

5、AI人才供应供不应求

AI领域的人才需求正在增加。 许多一流大学也扩大了AI专业的招生规模。 以斯坦福大学为例,近年来斯坦福AI领域的学生是1999-2004年的10倍以上,与2012-2014年相比,AI领域的学生人数也增加了一倍。

尽管如此,根据来自Indeed的数据,招聘职位的数量大约是求职者人数的3倍。

但是,2020年人工智能领域的人才市场不可避免地受到了新型冠状病毒大爆发的严重影响。 根据领英发表的数据,2020年机器学习领域的地位本来就有很强的增长趋势在2月受到打击,开始下跌。

三、AI产业:医疗、自动驾驶AI1、全面利用医疗。

疫情期间,许多科技公司使用AI医疗图像识别技术。

例如,深度学习从采集超分辨率显微镜图像改进到分析,使用监督学习和计算机视觉将人体显微镜下的几个小时缩短到几分钟。 超分辨率显微镜通常需要主题专家来评价样品,ONI系统会自动执行这些视觉检查任务,解锁超分辨率非专业用户。

另外,美国医疗保险医疗辅助服务中心也提出了基于深入学习的医疗成像产品费用标准。 将来优先使用AI技术会在医疗领域越来越普遍吧。 比如,利用人工智能设计药物已经在日本进行了临床试验,很多创业公司也获得了大量资金来实现平台战略的发展。

2 .自动驾驶

2018年以来,在加利福尼亚州拥有自动驾驶汽车测试许可的66家公司中,只有3家被允许在没有安全司机的情况下进行测试,分别是waymo(Google )、Nuro、AutoX。

即使在政策最开放的加利福尼亚州,至今为止自动驾驶车的行驶距离也比人类少— — 自动驾驶汽车公司2019年的自动驾驶距离比2018年增加了42%。 但这相当于2019年持有驾照的加利福尼亚州司机行驶距离的0.000737%。

自动驾驶领域的公司需要强大的资金支持。 13亿美元被亚马逊收购的Zoox,2015年以后收获的融资超过9亿5500万美元,Zoox的最新估值约为32亿美元。 根据交易文件,Zoox在2020年初每月烧毁3000万美元。

国内旅行社最近也剥离了自动驾驶业务,从软银远景基金等处筹集了5亿美元。 今年7月,滴滴在上海推出了自动驾驶汽车服务。

现在自动驾驶系统中的很多机器学习算法都集中在车辆周边的东西上,基于工程量大的手写规则。 研究者像阿尔法戈一样开发了学习和训练许多人类驾驶经验的新算法。 最近,Waymo、Uber、Lyft展示了模仿学习和逆强化学习的新技术。

自动驾驶等领域的发展也要求很多计算能力,图表核心、英伟达等公司今年发售的新一代芯片成为人们的希望。

另外,今年的AI在保护人类免受电子邮件钓鱼攻击方面、通过电脑视觉检查篡改身份证、洗钱和恐怖分子融资和经济犯罪等方面也做出了不少贡献。

四、政策变化1、伦理道德风险

NeurIPS和ICLR都提出了新的伦理规范,但没有强制代码和数据共享。 以人工智能领域最好的会议NeurIPS为例。

NeurIPS创建了由机器学习和伦理学交叉领域的专家组成的专业子团队。

NeurIPS现在要求论文作者提出“这项工作可能带来的更广泛的影响,包括道德方面和将来的社会影响”。

Facebook和Google等企业在NeurIPS的影响力越来越强,所以“作者必须提供明确的资金来源和竞争利益点”。

NeurIPS“强烈鼓励”共享数据和模型,但没有强制规定。

在这方面,机器学习领域落后于生命科学领域,例如在Nature杂志上发表论文的条件之一是作者必须及时向读者提供资料、数据、代码和相关协议。

华为提高了在智能手机领域的主动性,在机器学习技术上投资了大量。

2 .面部识别面临争议

现在世界上50%的人允许面部识别。 只有三个国家(比利时、卢森堡和摩洛哥)的一部分禁止在特定情况下使用这种技术。

那些头技术公司更注意脸部识别技术的使用。

微软删除了1000万人的面部数据库&mdash。 — 这是目前可用的最大数据库。 数据库中的脸来自网络,未经当事人许可。

亚马逊宣布一年内警察将停止使用面部识别工具Rekognition,他说:“国会有足够的时间制定适当的规定。”

IBM宣布放弃面部识别产品和技术。

纽约大都会运输局( MTA )要求苹果在戴口罩时启用FaceID,防止新型冠状病毒扩散。

3 .军用AI系统受到重视

美国继续在军事人工智能系统的实施上进行重大投资。 随着机器学习技术的工业化,军队进行了越来越多的探索。

美国总务局和美国国防部的共同人工智能中心给博思艾伦咨询公司5年来共计8亿美元以上的订单,内容概要包括“数据标签、数据管理、人工智能产品开发”等关键词。

在国防层面,与之相关的AI公司获得了丰富的政府合同和风险投资。 戴尔Pivotal软件公司从美国国防部获得了1.21亿美元的合同,从事无人机、高分辨率卫星地图、信息管理等业务的公司获得了Anduril、Rebellion、Skydio等许多风险投资。

从阿尔法戈、阿尔法星到阿尔法合身,通过深度强化学习技术,人工智能在更多领域打败了顶级人类选手。 这也充分表明在游戏对战环境中训练的胜利技术可以迅速转移到军事环境中。

4、华为智能手机业务主动性增强

华为在智能手机领域的领导能力越来越强,投资于机器学习技术。 这是时隔9年,除了苹果和三星以外,其他公司都领先于市场。 但是,根据美国制裁,华为的小费供应将在2020年9月中旬之前结束。

使用美国芯片制造设备的外国公司将被要求在向防火墙供应部分芯片之前获得美国许可证。。 华为消费者部门总裁,“ 如果没有小费” 我是。

5、台湾台湾积体电路制造在研发支出和半导体制造方面依然占主导地位。

台湾积体电路制造的研发费用相当于中心国际的收入。 是唯一采用5nm工艺( N5 )的制造商,目前正在致力于3nm工艺( N3 ),其效率比N7高两倍,性能比N7高33%。

6 .中国努力减少对美国半导体的依赖。

中国政府为了减少对美国半导体技术的依赖设立了290亿美元的国家支援基金。 另外,招聘了100多名台湾积体电路制造工程师,缩小了与中国在半导体能力方面的差距。

新的国家基金得到了财政部、中国国家开发银行、地方政府和国有企业的支持。 在此之前,2014年推出了政府主导的半自动化投资基金。

7、美国参议院提出CHIPS法案。

世界上一半以上的先进芯片是在美国设计的,但只有12%是在美国制造的。

美国CHIPS法将向美国芯片制造业分配220亿美元的补助金,包括100亿美元的联邦匹配基金、国防部相关基金、120亿美元的相关研究开发基金。

除此之外,美国还要求同盟国生产小费。

8、人工智能民族主义: AI预算继续扩大

人工智能继续被强调为科学和技术方面最重要的投资领域。

国防部联合人工智能中心继续扩大发射预算,从2019年的9300万美元扩大到2020年的2.38亿美元。

9、各国都发表了自己的人工智能战略。

五、关于未来的预测报告最后提出了未来十二个月的八大预测。

1 .建立更大语言模型的竞赛继续进行。 我们目睹了最初的10兆参数级模型的诞生。

2 .基于注意力的神经网络从NLP区域转移到CV区域,实现新的SOTA。

3 .随着母公司战略的调整,一家大公司的AI lab即将关闭。

4 .作为对美国国防部活动和美国军事AI初发公司融资的应对,一些中国和欧洲国防AI企业将在今后12个月内进行超过1亿美元的融资。

5 .某头部AI药物发现首次发现公司(如Recursion、Exscientia )进入IPO或以超过10亿美元的价格被收购。

6、DeepMind在结构生物学和药物发现方面取得重大突破。

Facebook通过3D计算机视觉技术在AR和VR上取得重大突破。

8、NVIDIA最终没有完成Arm的收购。

最后,你觉得2020年AI的发展怎么样?

【编辑推荐】

    相关文章Related

    返回栏目>>

    河洛网首页

    Copyright © 2019 河洛网 版权所有 dahuimr@163.com