谷歌AI负责人Jeff Dean:一文回顾谷歌的2018技术进展

镁客网 中字

软件系统

我们对软件系统的大部分研究仍然与构建机器学习模型,尤其是TensorFlow有关。我们的一些新研究引入了Mesh TensorFlow,这使得用模型并行性指定大规模分布式计算变得容易。另外,我们还使用TensorFlow发布了一个可扩展的深度神经排序库。

另一个重要的研究方向是将ML应用于软件系统的堆栈层面。在安全漏洞问题方面,我们的编译器研究团队将他们用于测量机器指令延迟和端口压力的工具集成到LLVM中,从而可以做出更好的编译决策。

我们研究了Google软件定义网络WAN,这是一个独立的联合查询处理平台,可以在许多存储系统中对基于不同文件格式存储的数据执行SQL查询(BigTable,Spanner, Google Spreadsheets等)

运行内容托管等大型Web服务需要在动态环境中实现稳定的负载平衡。我们开发了一致的哈希方案,对每台服务器的最大负载提供了严格的可证明保证,并将其部署到Google Cloud Pub / Sub中的云客户。

AutoML

去年,我们展示了如何使用进化算法自动发现最先进的神经网络架构,快速构建计算机视觉模型的AutoML。还探讨了强化学习如何应用于除神经网络架构搜索之外的其他问题,表明它可以用于1)自动生成图像变换序列,以提高各种图像模型的准确性,以及2)找到新的符号优化表达式,比常用的优化更新规则更有效。

我们的另一个重点是自动发现计算效率高的神经网络架构,以便它们可以在自动驾驶环境中运行,这些环境对计算资源或推理时间有严格的限制。为此,我们认为在强化学习架构搜索的奖励函数中将模型的准确性与其推理计算时间相结合,可以找到高度准确的模型,同时满足特定的性能约束。我们还探索了使用ML来学习自动压缩ML模型以获得更少的参数并使用更少的计算资源。

TPU

TPU已经实现了谷歌研究方面的突破,例如BERT(前面已讨论过)。它还允许世界各地的研究人员通过开源建立谷歌研究,并寻求自己的新突破。例如,任何人都可以通过Colab免费对TPU上的BERT进行微调,而TensorFlow Research Cloud让数千名研究人员有机会从更大量的免费云TPU计算能力中受益。

在谷歌内部,TPU还推动了Google的核心产品的重大改进,包括搜索,YouTube,Gmail,Google智能助理,谷歌翻译等等。

开源软件和数据集

我们的开源工具TensorFlow已经被下载超过3000万。2018年,TensorFlow有八个主要版本,并增加了快速执行和分发策略等功能。随着TensorFlow Lite、TensorFlow.js 和TensorFlow Probability等相关产品的推出,TensorFlow生态系统在2018年大幅增长。

除了继续开发现有的开源生态系统之外,我们在2018年引入了一个新的框架,用于灵活和可重复强化学习的可视化工具,可以快速了解数据集的特征(无需编写任何代码)。

今年,我们很高兴发布Google数据集搜索,这是一种从所有网络中查找公共数据集的新工具。多年来,我们还策划并发布了许多新颖的数据集。

我们发布了Open Images V4数据集,包含190万张图片,共计600个类别,共标记了1540万个边界框,这是迄今的有对象位置注释的最大数据集。这些边界框大部分都是由专业注释人员手动绘制的,确保了它们的准确性和一致性。

健康

在过去几年中,我们一直将ML应用于健康,我们在这个领域的一般方法是与医疗保健组织合作解决基础研究问题(利用临床专家的反馈优化技术),然后将结果发表在同行评审的科学和临床期刊上。一旦研究得到临床和科学验证,我们就会进行用户和HCI研究,以了解我们如何在现实临床环境中进行部署。2018年,我们在计算机辅助诊断上取得新的突破。

2018年,我们研发了一个可以与视网膜专家相媲美的深度学习模型。我们与Verily的Alphabet同事合作,在印度的Aravind Eye Hospitals和泰国卫生部附属的Rajavithi医院等 10多个地点部署了这种糖尿病视网膜病变检测系统。

我们还发表了一种机器学习模型的研究,该模型可以评估视网膜图像的心血管风险,可以帮助临床医生更好地了解患者的健康状况。

研究推广

2018年,我们在加纳阿克拉建立了我们在非洲的第一个人工智能研究办公室,同时扩大了在巴黎,东京和阿姆斯特丹的人工智能研究,并在普林斯顿开设了一个研究实验室。

声明: 本文系OFweek根据授权转载自其它媒体或授权刊载,目的在于信息传递,并不代表本站赞同其观点和对其真实性负责,如有新闻稿件和图片作品的内容、版权以及其它问题的,请联系我们。
侵权投诉

下载OFweek,一手掌握高科技全行业资讯

还不是OFweek会员,马上注册
打开app,查看更多精彩资讯 >
  • 长按识别二维码
  • 进入OFweek阅读全文
长按图片进行保存