聚合器-awesome-ml
机器学习的工具/教程、博客文章、资讯大汇集。“一些有趣的AI应用举例”是非专业人士也能看懂的，其它的内容则是为专业人士准备的。
机器学习的崛起：从材料设计到生物医学、量子计算......再到工业应用
人工智能十大流行算法，通俗易懂讲明白
线性回归、 逻辑回归、 决策树、朴素贝叶斯、支持向量机（SVM）、……人工神经网络（ANN）
画图太丑拿不出手？有人做了套机器学习专用画图模板，还有暗黑模式
“我没有机器学习的学位，却拿到了 DeepMind 研究工程师的 Offer！”
一些前沿研究
Jeff Dean又掀超级智能旋风！谷歌公布下一代AI框架Pathways，全知全能还省电
人工智能是否存在「大统一理论」？
各路大神发表意见。
综合LSTM、transformer优势，DeepMind强化学习智能体提高数据效率
CVPR 2021 | 不需要标注了？看自监督学习框架如何助力自动驾驶
开启生成式视频压缩：谷歌基于GAN来实现，性能与HEVC相当
Jeff Dean长文展望：2021年之后，机器学习领域的五大潜力趋势
【47页综述】牛津大学联合7家单位发布AutoRL综述，还在手动调参吗？你已经落后了
大型课程
是时候学习机器学习系统设计了！斯坦福CS 329S开课，课件、笔记同步更新
Jupyter笔记本实现，慕尼黑工大220页免费书籍介绍基于物理的深度学习
CMU邢波出任校长的全球首个AI大学，已招收101位学生，你心动了吗？
深度学习“四大名著”发布！Python、TensorFlow、机器学习、深度学习四件套（附免费下载）
《深度学习500问》正式出版！GitHub星标数超4.2万的火爆之作 | 赠书
集百家所长，凝聚了众多一线科研人员及工程师的经验，可以培养读者发现问题、解决问题、扩展问题等方面的能力，真真正正地称得上一本书入门深度学习！
周志华、李航、邱锡鹏、李沐、Aston Zhang 5位专家指导，机器之心发布ML术语中英对照词表
零散的知识点
炼丹侠必知的11大神经网络结构汇总！
Perceptron、Feed-Forward Network(FNN)、Residual Networks (ResNet)、Recurrent Neural Network (RNN)、Long Short Term Memory Network (LSTM)、Echo State Networks(ESN)、Convolutional Neural Network (CNN)、Deconvolutional Neural Network (DNN)、 Generative Adversarial Network (GAN)、Auto Encoder (AE)、Variational Auto Encoder (VAE)
TabTransformer：用于表格数据的Transformer
模型泛化不必随机训练，全批量GD媲美SGD，网友：计算成本负担不起
速度堪比Adam，准确率媲美SGD，还能稳定训练GAN：全新优化器成为NeurIPS爆款
8个深度学习中常用的激活函数
Sigmoid、tanH、Softmax、 RELU 线性整流单元、Leaky ReLU、ELU、SELU、Swish、
-
- 投票法、
-
- 平均法、
-
- 排序法
-
- Stacking
-
- Blending
CatBoost, XGBoost, AdaBoost, LightBoost，各种Boost的介绍和对比
神经网络上分的十大学习率衰减策略汇总！
分段常数衰减、指数衰减、自然指数衰减、多项式衰减、倒数衰减、余弦衰减、循环学习率衰减、线性余弦衰减、噪声线性余弦衰减、自定义学习率
- K-折验证
- 更多数据（包括数据增强）
- 移除特征
- 早停
- 正则化（L1 惩罚的目的是优化权重绝对值的总和，L2 惩罚权重值的平方和）
- Dropout
使用Scikit-Learn pipeline 减少ML项目的代码量并提高可读性
强烈推荐！斯坦福讲师出版《机器学习面试》书稿，涵盖200+考点！
数学
Meta Learning / Auto ML / Auto DL / FastAI/ No-Code AI
推出 Model Search：寻找最佳 ML 模型的开源平台
Optuna：席卷Kaggle的调参神器，NN和树模型通吃！
【资源推荐】深度学习自动化（神经架构搜索和超参数自动优化）相关资源大列表
AutoML大提速，谷歌开源自动化寻找最优ML模型新平台Model Search
使用Fastai中的学习率查找器和渐进式调整大小提高训练效率
案例分享 | No-Code AI：用 ElasticDL 和社区 Keras 模型库实现大量小众预估场景
苹果华人研究员实现无代码深度学习！全自动AI训练平台，只需上传数据集
Auto-Sklearn：通过自动化加速模型开发周期
AutoML是对机器学习管道中的数据预处理、特征预处理、超参数优化、模型选择和评估等任务进行自动化的过程。Auto-Sklearn使用流行的Scikit-Learn机器学习框架自动完成上述任务。下面的图片展示了自动学习的工作原理。
Auto-Sklearn：使用 AutoML 加速你的机器学习模型
Auto-Sklearn使用贝叶斯优化和热启动(元学习)来找到最优的模型管道，并在最后从单个模型管道构建一个集成。让我们检查Auto-Sklearn框架中的不同组件。
可视化/可解释AI
TensorBoard 的主要功能包括：
- 可视化模型的网络架构
- 跟踪模型指标，如损失和准确性等
- 检查机器学习工作流程中权重、偏差和其他组件的直方图
- 显示非表格数据，包括图像、文本和音频
- 将高维嵌入投影到低维空间
TruEra 开源“TruLens”，一个用于深度学习可解释性的跨框架 Python 库
工程 / 环境 / MLOps
不可错过！台湾清华大学吴尚鸿教授最新《大规模机器学习》2020教程，附教程地址
一文看完吴恩达最新演讲精髓，人工智能部署的三大挑战及解决方案
「炼丹」师的福音！支持AMD GPU，PyTorch 1.8来了！
训练大模型也不怕，轻量级TorchShard库减少GPU内存消耗，API与PyTorch相同
使用torch.package将pytorch模型进行独立打包
ML Metadata：ML 的版本控制
在编写代码时，您需要追踪代码进行追踪版本控制。那么 ML 的版本控制是什么？如果您正在构建生产 ML 系统，您需要能够回答如下问题：
- 模型是基于哪个数据集进行训练的？
- 使用了哪些超参数？
- 创建此模型时，使用了哪个流水线？
- 创建此模型时，使用了哪个版本的 TensorFlow（和其他库）？
- 是什么导致了此模型失败？
- 上次部署的模型版本是什么？
一行命令装下所有「炼丹」工具及依赖项，就靠这个免费软件源了｜教程
按领域的hardcore
计算机视觉
YOLO-v4目标检测、换脸、视频上色全部实时手机端实现，美国东北大学等提出全自动实时移动端AI框架
PIFuHD简介：使用AI从2D图像生成人的3D高分辨率重建
Python让你成为AI 绘画大师，简直太惊艳了！（附代码））
搜图、裁剪一步到位，有人用YOLOv5和CLIP做了一个找图神器，在线可试用
AI靠什么超越人类修图师？万字长文看懂「美图云修」AI修图解决方案
无需卷积，完全基于Transformer的首个视频理解架构TimeSformer出炉
Gan
41 Creative Tools to Generate AI Art
AI生成图像、视频、人声、文本段落等
时序
金融/量化交易
异常检测
推荐系统和大数据杀熟
元宇宙
社区说｜对话机器人技术在元宇宙之虚拟社交/虚拟替身场景下的应用
Kaggle
Kaggle 大神Dan Becker与你分享他的数据科学之旅！
一些有趣的AI应用举例
Google X的机器人开始打工！进咖啡馆擦桌子：擦的很慢，但我们一直在做
【移民新闻】 好消息‼️ 加拿大签证审批时效将加快🧐使用AI系统审理签证👏🏼AI在签证审理过程中究竟扮演什么样的角色呢？
一部手机，万物皆可复制粘贴，这位兼职写代码的设计师将AR玩出了新高度
Chimera Painter：使用 GAN 构建大量风格奇幻的卡牌游戏图像
设计师你们还坐的住吗？2021 PS 进入人工智能 P 图时代
蓝湖「设计图转代码」前端代码一键生成，UI 还原度高达 98%！
程序员失业第一步？斯坦福研究员用AI从编译器反馈中学习改Bug
自动写代码指日可待！Facebook迁移学习新突破，代码补全准确率超50%！
This X Does Not Exist： AI 生成的仿真项目，比如不存在的人、车、动物等等不存在的一切
用AI「复活」逝者：「深度怀旧」项目火遍推特，我们也用民国老照片试了下
DALL·E: Creating Images from Text
OpenAI祭出120亿参数魔法模型！从文本合成图像栩栩如生，仿佛拥有人类的语言想象力
例如下面是“鳄梨形状的扶手椅”：
太赞了！英伟达又一突破，输入关键词就可以生成直逼摄影师的大片
搜图、裁剪一步到位，有人用YOLOv5和CLIP做了一个找图神器，在线可试用
MockingBird
只要几秒的原始讲话录音就能克隆该声音的中文语音克隆库
只需 3kbps 就能清晰通话，Google 又一音频神器开源！
41 Creative Tools to Generate AI Art
更多AI生成图像、视频、人声、文本段落等
事故
点此加入AI研究人员slack群，和大牛们一同交流进步。
长按下方二维码可在浏览器中阅读：
