代码编织梦想

视觉领域人工智能

计算机视觉任务

  • 图像分类(图像识别)
  • 目标检测
  • 语义分割
  • 实例分割
  • 图像生成
  • 风格迁移
  • 基于视频的视觉

以图像分类为backbone,添加不同的head,就可以完成不同的任务。

深度学习:以深度学习网络解决数据挖掘问题。

同济子豪兄中文精讲:

cs231n计算机视觉

cs24w图机器学习

模型部署

MMDeploy 可以转化为硬件支持的模型格式

例如:

针对 Jetson nano 的模型格式:TensorRT

针对 Intel 神经计算棒的模型格式:OpenVINO

MMLab 算法库

MMDetection: 目标检测,实例分割,全景分割

MMDetection3D: 3D目标检测(使用激光雷达点云数据获得目标的3D位置信息)

MMClassification: 图像分类

MMSegmentation: 语义分割

MMPose: 人体姿态估计

MMHuman3D: 人体3D重建

MMAction2: 视频行为理解

MMOCR:光学文本识别

MMEditing: 图像底层视觉,图像修复,抠图(matting),超分辨率,图像生成

MMRazor:模型压缩,模型剪枝,模型蒸馏

为什么要用 OpenMMLab?

  1. 底层使用pytorch,当前流行的深度学习框架
  2. MMLab大多都是必看论文的代码实现,方便学习
  3. 一键调用较好的预训练数据,方便直接与自己的模型比较或者调参,包括前沿模型,易于跑分,横向比较方便

机器学习和神经网络简介

机器学习基础概念

也称为统计学习,程序从数据中学习

算法设计和机器学习的比较

算法设计

问题
算法
解决方案

机器学习

问题
收集数据
拟合模型

机器学习典型范式

监督学习

无监督学习

强化学习

机器学习开发过程:

  1. 训练

  2. 验证

  3. 应用

神经网路的训练

给定一个神经网络如何能找到达到最高性能的可学习参数的值?

  1. 如何衡量神经网络的性能
  • 错误率
  • 损失函数
  1. 怎么找到最优参数
  • 梯度下降法
  • 随机梯度下降法
  • 动量法
  • Adam

损失函数

交叉熵损失 Cross-Entropy Loss

对于预测的类别概率 P ∈ [ 0 , 1 ] K P \in [0, 1]^K P[0,1]K和类别真值 Y ∈ [ 0 , 1 ] K Y \in [0, 1]^K Y[0,1]K,交叉熵损失定义为:

L ( P , y ) = − log ⁡ P y L(P, y) = - \log P_y L(P,y)=logPy

神经网络的训练目标:找到一组比较好的可学习参数w的值,使得神经网路性能最好(找到一组参数w的值,使得损失函数L的值最小)

基于梯度下降算法寻找最优参数

梯度下降算法

目标:寻找损失函数曲面 L ( w ) L(w) L(w)的谷点

  1. 随机选择一个起始点 w ( 0 ) w^(0) w(0)
  2. 寻找梯度下降最快的方向,即负梯度方向 δ w L ( w ( 0 ) ) \delta_w L(w^(0)) δwL(w(0)),并前进一步,得到 w ( 1 ) w^(1) w(1)

w ( 1 ) = w ( 0 ) − η δ w L ( w ( 0 ) ) w^{(1)} = w^{(0)} - \eta \delta_w L(w^{(0)}) w(1)=w(0)ηδwL(w(0))

  1. 重复步骤2,直到收敛

Stochastic Gradient Descent (SGD) 随机梯度下降

优化器

Momentun SGD 动量

自适应梯度算法: Adagrad, Adam/AdamW

卷积神经网络

常用激活函数

Sigmoid

σ ( x ) = 1 1 + e − x \sigma(x) = \frac{1}{1 + e^{-x}} σ(x)=1+ex1

Leaky ReLU

max ⁡ 0.1 x , x \max{0.1x, x} max0.1x,x

tanh

t a n h ( x ) tanh(x) tanh(x)

PRelu

max ⁡ ( α x , x ) \max(\alpha x, x) max(αx,x)

ReLU

max ⁡ ( 0 , x ) \max(0, x) max(0,x)

版权声明:本文为博主原创文章,遵循 CC 4.0 BY-SA 版权协议,转载请附上原文出处链接和本声明。
本文链接:https://blog.csdn.net/m0_50807793/article/details/128859420

简单的云平台基础环境的构建(一)_zyh199897的博客-爱代码爱编程

一.准备实验环境: 1.在计算机上windows7或者windows10环境下安装VMware Workstation11或者11以上的版本 2.准备两个两个软件包第一个名为CentOS-7-x86_64-DVD-1511的

搭建云平台(一) 云平台基础服务部署-爱代码爱编程

最近因课程要求,自己动手搭了一个OpenStack云平台,我将整个过程分了六篇博客。我使用了两个CentOS的虚拟机,一个作为计算节点,一个作为控制节点,整体过程比较繁杂,有心人可以细心看一看 1、修改各主机名(重新登录才

【系】微信小程序云开发实战坚果商城-开篇-爱代码爱编程

开篇:无服务开发是未来? 目录 开篇 【系】微信小程序云开发实战坚果商城-开篇 基础篇 【系】微信小程序云开发实战坚果商城-弹性盒子【系】微信小程序云开发实战坚果商城-ES6 简单入门【系】微信小程序云开发实

【系】微信小程序云开发实战坚果商城-商城项目搭建-爱代码爱编程

第 2-1 课:商城项目搭建 目录 开篇 【系】微信小程序云开发实战坚果商城-开篇 基础篇 【系】微信小程序云开发实战坚果商城-弹性盒子【系】微信小程序云开发实战坚果商城-ES6 简单入门【系】微信小程序云开

【系】微信小程序云开发实战坚果商城-云开发开篇-爱代码爱编程

第 3-2 课:云开发开篇 目录 开篇 【系】微信小程序云开发实战坚果商城-开篇 基础篇 【系】微信小程序云开发实战坚果商城-弹性盒子【系】微信小程序云开发实战坚果商城-ES6 简单入门【系】微信小程序云开发

【系】微信小程序云开发实战坚果商城-目录-爱代码爱编程

【系】微信小程序云开发实战坚果商城 目录 开篇 【系】微信小程序云开发实战坚果商城-开篇 基础篇 【系】微信小程序云开发实战坚果商城-弹性盒子【系】微信小程序云开发实战坚果商城-ES6 简单入门【系】微信小程序云开发实战坚果商城-官方案例先运行 前端篇 【系】微信小程序云开发实战坚果商城-商城项目搭建【系】微信小程序云开发实战坚果商

OpenCV-Python实战(1)——OpenCV简介与图像处理基础-爱代码爱编程

OpenCV-Python实战(1)——OpenCV简介与图像处理基础 OpenCV介绍Python安装OpenCVOpenCV主要模块OpenCV应用场景OpenCV图像处理基础图像基础图像处理中的主要问题图像处理流程像素、颜色、通道、图像和颜色空间图像描述图像文件类型OpenCV中的坐标系OpenCV中的通道顺序在不同颜色空间中访问和操作Ope

手把手BC26模组OpenCPU开发之旅-1.简介-爱代码爱编程

手把手BC26模组OpenCPU开发之旅-1.简介 一、NBIOT模组BC26简介二、OpenCPU简介三、OpenCPU开发板简介 一、NBIOT模组BC26简介 BC26基于联发科MT2625芯片平台研发,支持全球频段(B1/B2/B3/B4/B5/B8/B12/B13/B17 /B18/B19/B20/B25/B26/B28/B66),

CF-Link物联网云平台简介-爱代码爱编程

CF-Link物联网云服务器为程序员、老师、学生、个人爱好者提供了简单且高效的物联网服务。用户可以通过单片机、arduino、树莓派等控制器结合WiFi、NBIoT、4G等模块快速接入CF-Link云服务器,免去学习复杂的通信协议,直接通过最基础的TCP/IP就可以连接到云平台,当然如果有业务需求,也可以基于TCP/IP协议自行添加其他协议类型。 想要使

[云原生专题-56]:Kubesphere云治理-操作-分步部署Web业务平台RuoYi Cloud-项目简介-爱代码爱编程

作者主页(文火冰糖的硅基工坊):文火冰糖(王文兵)的博客_文火冰糖的硅基工坊_CSDN博客  本文网址: https://blog.csdn.net/HiWangWenBing/article/details/122937375 目录 前言: 第1章 RuoYi简介-若依后台管理框架 1.1 RuoYi官网 1.2 作者对RuoYi的介绍 1

并行超算云环境配置-爱代码爱编程

首先,通过账号密码登录并行超算云服务后,点击界面上的SSH 如果第一次使用,需要先安装一下所需要的环境。它里面已经部署好一些环境了,如Anaconda、CUDA、gcc等。 我们可以通过 module avail来查看可用的软件列表 我已经将实验室的环境配置在这里面,所以可以用 module load anaconda/2021.11

esp32-爱代码爱编程

基于阿里云物联网平台实现ESP32 RGB彩色灯远程控制 By 小康师兄 文章目录 一、前言二、视频演示三、系统框架三、阿里云平台准备3.1 创建产品3.2 功能定义3.3 添加设备