作者：Alireza Dirafzoon 编译：ronghuaiyang 导读 在单 GPU 上就可以运行的 Transformer 模型，而且几乎不损失精度，了解一下？ [图片] 如果你一直在开发机器学习算法用于处理连续数据 —— 例如语言处理中的文本，语音信号，或视频 —— 你可能听说过或使用过 ....

章立 美团点评算法工程师 未经许可 禁止转载 这是本系列的第一篇文章，期待大家关注我，跟进后续哦 ～ 注意力机制与 Transformer 模型分享 注意力机制 什么是注意力 注意力 的原型很容易理解，例如图片 [图片] 这张图里的要素很多，对于抱有不同目的或者习惯的人。会有注意到不同的内容。 如果 ....

[图片] 作者：Pratik Bhavsar 编译：ronghuaiyang 导读: 模型训练只是产品化中的很小的一个环节。 问题描述 最近，我一直在巩固在不同 ML 项目中工作的经验。我将从我最近的 NLP 项目的角度来讲述这个故事，对短语进行分类 — 一个多类单标签问题。 [图片] NLP 的 ....

编辑来源：Datawhale 作者：邱锡鹏，复旦大学教授 寄语：本文对 PAC 学习理论、没有免费的午餐定理、丑小鸭定理、奥卡姆剃刀原理等机器学习中有名的理论或定理进行了详细的梳理。 在机器学习中，有一些非常有名的理论或定理，这些理论不仅有助于我们从本质理解机器学习特性，更好地学习相关理论，更重要的 ....

[图片] 当你看到前任写成一团毛球的代码块；新增几行代码需先捋半天逻辑的超级大函数；好不容易在迷宫里找到方向，小心翼翼地添加上新代码，却将别的调用系统给弄垮时；还有运行缓慢的老系统…… 此时程序员只有两个选择：要么忍，要么重构**。** 忍是有极限的，重构的“三次法则”表示：程序员第一次看到乱代码可 ....

[图片]

1、TCP 和 UDP 的特点 TCP：面向连接 TCP 面向连接通信，所以握手过程会消耗资源，过程为可靠连接，不会丢失数据，适合大数据量交换 ；“面向连接”就是在正式通信前必须要与对方建立起连接。 TCP 协议能为应用程序提供可靠的通信连接，使一台计算机发出的字节流无差错地发往网络上的其他计算机， ....

丁香园大数据 NLP。发表日期： 2019-05-05 前言 短语挖掘（Phrase Mining）的目的在于从大量的文本语料中提取出高质量的短语，是 NLP 领域中基础任务之一。短语挖掘主要解决专业领域的专业词典不足的问题，减少人工整理成本，如图所示 Phrase Mining 在以下几个任务中非 ....

转载自 58 架构师 公众号 时间： 2019-12-15 引言 在大数据和算法的时代到来后，内容分发已经不仅仅是简单的渠道随意推送，而是精准地识别用户爱好、精准地为用户推荐他所喜爱看的内容，然后将“精准”变得越来越专业，进而牢牢地抓住用户。 在产品运营的概念中，常见的精准推送给划分为以下两种： 1 ....

今天，推荐系统的模型和应用已经相当成熟，然而部署一套全新的推荐系统，甚至仅在已有系统上添加数据维度和模型优化依然是非常耗时耗力的事情。 这是由于不同数据源的分布不尽相同，要达到满意的建模效果，每个建模的环节，包括数据处理、特征工程、模型的选择和超参数选择等都需要随之变动和优化。 以往这些工作都是建模 ....

本文转载自： https://www.cnblogs.com/en-heng 1.背景 在构建精准用户画像时，面临着这样一个问题：日志采集不能成功地收集用户的所有 ID，且每条业务线有各自定义的 UID 用来标识用户，从而造成了用户 ID 的零碎化。因此，为了做用户标签的整合，用户 ID 之间的强打 ....

作者 | 沈辉 本篇文章整理自今日头条的沈辉在 RocketMQ 开发者沙龙中的演讲，主要和大家分享一下，RocketMQ 在微服务架构下的实践和容灾体系建设。沈辉是今日头条的架构师，主要负责 RocketMQ 在头条的落地以及架构设计，参与消息系统的时间大概一年左右。 以下是本次分享的议题： 头条 ....

肖赞@贝壳找房 本文根据贝壳找房资深工程师肖赞老师在 2020 年'面向 AI 技术的工程架构实践'大会上的演讲速记整理而成。 1 贝壳 OLAP 平台架的构演化历程 [图片] 如上图所示，贝壳 OLAP 平台架构的演化历程大致可以分成三个阶段： 第一个阶段是从 2015 年到 2016 年，Hiv ....

平安寿险 AI 团队 全文框架概览 [图片] 一、背景与意义 中文纠错技术是实现中文语句自动检查、自动纠错的一项重要技术，其目的是提高语言正确性的同时减少人工校验成本。纠错模块作为自然语言处理最基础的模块，其重要程度不言而喻。 在日常生活中，我们经常会在微信、微博等社交工具或公众号文章中发现许多错别 ....

原文发布于微信公众号 - 小小挖掘机（wAIsjwj） 原文发表时间：2018-04-15 1、背景 特征组合的挑战 对于一个基于 CTR 预估的推荐系统，最重要的是学习到用户点击行为背后隐含的特征组合。在不同的推荐场景中，低阶组合特征或者高阶组合特征可能都会对最终的 CTR 产生影响。 之前介绍的 ....

原文发布于微信公众号 - 小小挖掘机（wAIsjwj） 原文发表时间：2018-04-29 1、原理 PNN，全称为 Product-based Neural Network，认为在 embedding 输入到 MLP 之后学习的交叉特征表达并不充分，提出了一种 product layer 的思想， ....