机器学习
-
SOTA集结，2020登顶关系抽取的3篇佳作
2020实体关系联合抽取一片红海，各种SOTA方法你方唱罢我方登场，在一些数据集上也是不断刷出新高度，为信息抽取领域带来了新思路，推动...
2021-01-26 21:35:05 -
删数据，还要删AI模型：美国科技公司遭遇最严厉
近日，美国联邦贸易委员会（Federal Trade Commission ，FTC）公布了一项特殊的处罚决定：勒令一家名为「Everalbum」的公司删除其从客户手中收集...
2021-01-26 21:34:38 -
异构计算时代正式起飞
一个新的时代似乎已经到来。英特尔，这位CPU领域的绝对王者开始频频与“软件为先”和“XPU”等词进行捆绑。同样值得关注的是英特尔的...
2021-01-26 21:34:24 -
Transformer为何能闯入CV界秒杀CNN？
在自然语言处理领域中，一个重要的技术基础就是创建合理的Embedding。Embedding是NLP系统的根基，一个好的Embedding需要能够将原始文本中尽可...
2021-01-21 23:07:42 -
加快PyTorch训练速度！掌握这17种方法，让你省时
近日，Reddit 上一个帖子热度爆表。主题内容是关于怎样加速 PyTorch 训练。原文作者是来自苏黎世联邦理工学院的计算机科学硕士生 LORENZ K...
2021-01-21 23:07:32 -
多核之后，CPU 的发展方向是什么？
2020年底给某大厂做过一个报告，包含两部分内容：一部分是关于计算机体系结构，尤其是CPU结构的演变；另一部分关于处理器芯片设计方法...
2021-01-21 23:07:19 -
ASIC芯片除了用来挖矿，还能用来做什么？
ASIC (Application Specific Integrated Circuit )芯片是专用集成电路，是针对用户对特定电子系统的需求，从根级设计、制造的专有应用程序芯片，其计...
2021-01-21 23:07:00 -
AMD如何应对半路杀出的程咬金？
本周，业界关注的焦点非CES 2021莫属了，英特尔、AMD和英伟达这三家，凭借其市场影响力，以及同时具有半导体行业和消费类产品核心元器件...
2021-01-17 16:13:54 -
万物皆可Graph | 当推荐系统遇上图神经网络
图神经网络可以说是现在AI领域的超级宠儿。针对推荐系统的稀疏性问题，图方法还真的很适合，主要原因有下：推荐系统中存在很多的图结...
2021-01-17 16:13:44 -
1.6万亿参数，秒杀GPT-3！谷歌推出超级语言模型
对于机器学习来说，参数可以算得上算法的关键：他们是历史的输入数据，经过模型训练得来的结果，是模型的一部分。一般来说，在NLP领...
2021-01-17 16:13:28 -
Transformer家族简史（PART II）
Transformer 不同 head 所关注的序列长度 span 是不一样的，一些 head（如 Head A）重点关注附近较短的信息，而另外一些 head（如 Head B）则关注在...
2021-01-17 16:13:20 -
Transformer家族简史（PART I）
经过之前一段时间的 NLP Big Bang，现在相对比较平静了，Transformer 派已经占据了绝对的主导地位，在各类应用中表现出色。看标题大家也可以...
2021-01-17 16:13:11 -
步履不停：TensorFlow 2.4 新功能一览！
TensorFlow 2.4 正式发布！随着对分布式训练和混合精度提供更多支持，加入新的 Numpy 前端及用于监控和诊断性能瓶颈的工具，这个版本的亮点...
2021-01-17 16:12:59 -
英特尔x86大突破！一口气发布四款CPU：10nm、大小
继先前推出代号为TigerLake的第11代Core笔电处理器，这次Intel在CES 2021活动中发布了增强版的Tiger Lake-H。这次发布的为H35系列为4核8线程架构，...
2021-01-17 16:12:44 -
人工智能十年回顾：CNN、AlphaGo、GAN……它们曾这
过去十年间，人工智能技术突飞猛进，最疯狂的科幻小说场景现在已经成为我们生活中不可或缺的一部分。十年前，人们在谈论 AI 的理论化...
2021-01-17 16:12:28 -
全球半导体设备“大乱斗”
本周，半导体设备市场又传来一则消息，应用材料在收购美国投资公司KKR集团旗下半导体设备供货商Kokusai Electric（原本隶属日立国际电气，...
2021-01-17 16:12:03 -
一文搞懂 PyTorch 内部机制
Tensor 是PyTorch的核心数据结构。你可能对tensor的概念已经相当了解了：它是包含若干个标量(标量可以是各种数据类型如浮点型、整形等)的...
2021-01-06 23:33:50 -
处理器游侠、前英特尔、AMD、特斯拉首席芯片架
2020年6月11日，英特尔突然宣布负责硅工程部门(Silicon Engineering Group)的高级副总裁吉姆·凯勒(Jim Keller)因为个人原因辞职，辞呈立即生效。吉...
2021-01-06 23:33:40 -
浅谈多核心CPU和SoC芯片及其工作原理
要说明什么是多核心CPU或SoC芯片，首先要从CPU核心(Core)说起。我们知道，CPU是中央处理器(Central Processing Unit)的英文简称，它具有控制和信息...
2021-01-06 23:33:29 -
完全图解GPT-2：看完这篇就够了（二）
在本节中，我们会详细介绍该过程是如何实现的。请注意，我们将会以试图弄清单个单词被如何处理的角度来看待这个问题。这也是我们会...
2021-01-06 23:33:18 -
完全图解GPT-2：看完这篇就够了（一）
GPT-2 有着超大的规模，它是一个在海量数据集上训练的基于 transformer 的巨大模型。GPT-2 成功的背后究竟隐藏着什么秘密？本文将带你一起探...
2021-01-06 23:33:07 -
Jürgen Schmidhuber回顾30年前旧作，称其启发了现今
现今流行的生成对抗网络（GAN）只是对抗好奇心的一种特例？在近日 Jürgen Schmidhuber 发表的博客文章中，他重申了这样一种说法。Jürgen 表示...
2021-01-06 23:32:54 -
个人深度学习工作站配置指南
服务器的配置以个人使用性价比为主，同时考虑到以后的扩展性像是主板和机箱这些配件配置设置一些冗余。首先是CPU平台的选择，虽然A...
2021-01-06 23:32:40 -
AI 发展方向大争论：混合AI ？强化学习 ？将实际
2010年代对于AI界来说意义重大，这归功于深度学习领域取得了惊人的进步，AI的这个分支因收集、存储和处理大量数据的能力不断增强而变得...
2021-01-06 23:31:58 -
Pytorch中的四种经典Loss源码解析
了解过Pytorch的应该知道其历史包袱比较重，它吸收了Caffe2的底层代码，然后自己借用这部分底层代码来写各种OP的逻辑，最后再暴露出一层...
2021-01-02 20:49:32 -
从GPT-3到DETR，一起来盘点2020有哪些突破？
2020年是巨大飞跃的一年。从OpenAI的GPT-3，再到AlphaFold，都是令人振奋的成就。与此同时，数据科学在机器学习、自然语言处理（NLP）、计算...
2021-01-02 20:49:22 -
RealFormer：把残差转移到Attention矩阵上面去
大家知道 Layer Normalization 是 Transformer 模型的重要组成之一，它的用法有 PostLN 和 PreLN 两种，论文 On Layer Normalization in the Transformer Architectur...
2021-01-02 20:49:11 -
一文详解神经网络与激活函数的基本原理
关于模型架构。虽然具有一个隐藏层的神经网络已经可以模拟大部分函数，但是实践证明深度神经网络（即有更多的隐藏层）在图像识别和...
2021-01-02 20:48:56 -
苹果 M1 芯片预示着 RISC-V 完全替代 ARM？
与 CPU 不同，协处理器不能单独存在。只使用协处理器无法造出计算机。协处理器作为专用处理器，可以很好地完成某些特定的任务。最早的...
2021-01-02 20:48:42 -
解读自然语言处理的2020年：“大力出奇迹”的
近几年，自然语言处理遵循一个规律或者说方法论，大部分在做 Pre-training（预训练），用更复杂的模型、更大的数据量、更多的计算资源进...
2021-01-02 20:48:28 -
打马赛克就安全了吗？AI 消除马赛克，在 GitHub
像素化（又称马赛克）是一种常见的打码方式，通过降低图像中部分区域的分辨率来隐藏某些关键信息。但是，在你想隐藏信息的同时，有...
2021-01-02 20:48:09 -
你可能不知道美国这家纯代工厂
提到代工厂，我们最熟悉的莫过于台积电，英特尔，三星或GlobalFoundries等大公司。许多人甚至可能从未听说过SkyWater，因为它是几年前才从赛...
2021-01-02 20:47:47 -
吴恩达：2020 年，这些 AI 大事件让我无法忘怀.
在过去一年，一种新的具有高度传染性的冠状病毒破坏了人们的正常生活，它所导致的社会裂痕也威胁到了我们的共同利益。在这一年期间...
2021-01-02 20:47:26 -
年终总结：2021年五大人工智能(AI)和机器学习(ML)发展趋势
明年，人工智能技术将在企业运营中更加根深蒂固。 人工智能(AI)和机器学习(ML)一直在改变着我们的世界，但是2020年给这两个改变游戏规则...
2020-12-26 22:59:36 -
从开发到产出：关于机器学习的七则干货建议
笔者去初创公司工作主要是为了做项目，所以尽管任务紧急、团队又小，还伴随着频繁改动的项目要求以及其它琐事，笔者还是去了。不走...
2020-12-26 22:58:15
