代码编织梦想

 问答记录

一、简单解释一下线性模型。

线性模型通过线性方程来描述两个或多个变量之间的关系。简单来说,线性模型假设因变量(响应变量)与自变量(解释变量)之间存在线性关系,即它们之间的关系可以用一条直线来近似表示。

二、在本书中,激活函数起到了什么作用?你是否了解激活函数的其他用处? 

引入非线性,发挥神经网络叠加层带来的优势。
帮助解决梯度消失问题:某些激活函数(如ReLU及其变体)有助于缓解梯度消失问题,这在训练深层网络时尤为重要。

三、说几个常见的优化算法,并简单介绍一到两个:

1.随机梯度下降SGD
2.Momentum
3.AdaGrad
4.Adam
Momentum参照小球在碗中滚动的物理规则进行移动,AdaGrad为参数的每个元素适当地调整更新步伐。
Adam 融合了Momentum和AdaGrad的方法。通过组合前面两个方法的优点,有望实现参数空间的高效搜索。此外,进行超参数的“偏置校正”也是Adam的特征。

版权声明:本文为博主原创文章,遵循 CC 4.0 BY-SA 版权协议,转载请附上原文出处链接和本声明。
本文链接:https://blog.csdn.net/yiny37/article/details/141761178

“datawhale x 李宏毅苹果书 ai夏令营”深度学习入门笔记task1-爱代码爱编程

机器学习基础知识 基础概念 机器学习(Machine Learning,ML):让机器具备找一个函数的能力,这个函数可以用来声音识别,图像识别等功能 深度学习(Deep Learning,DL):深度学习是一种模拟人类大脑神经网络工作方式的算法 机器学习的类别:根据要找的函数的不同,把机器学习分为不同的类别,例如回归(根据之前的数据预测未来的数据,

datawhale x 李宏毅苹果书 ai夏令营task2学习笔记-爱代码爱编程

前言 在TASK1中简单了解了一下机器学习所具备的三个关键要素和实际应用,在TASK2中更近一步地了解在构建模型中的优化方案 线性模型基础 在最开始的阶段,首先尝试使用简单的线性模型来预测观看次数。线性模型的形式为 (

datawhale x 李宏毅苹果书 ai夏令营 task3笔记:机器学习实践方法论-爱代码爱编程

Datawhale X 李宏毅苹果书 AI夏令营 Task3笔记:机器学习实践方法论 1. 模型偏差 模型偏差可能会影响模型训练,因为模型太简单,所以损失低的函数不在模型可以描述的范围内。 这个时候要解决这个问题就要提高

mobilestylegan:一种用于高保真图像合成的轻量级卷积神经网络-爱代码爱编程

文章目录 原文翻译Abstract1. Introduction2. Related Work2.1. StyleGAN2.2. Model acceleration2.3. Knowledge distill

关于人工智能(ai)的研究报告-爱代码爱编程

《关于人工智能(AI)的研究报告》 一、引言 在当今科技飞速发展的时代,人工智能(Artificial Intelligence,简称 AI)已经成为了全球范围内最受关注的领域之一。从智能手机中的语音助手到自动驾驶汽车,从医

未戴安全帽算法检测源码样本安防监控视频分析未戴安全帽检测算法应用场景-爱代码爱编程

未戴安全帽检测算法是一种基于计算机视觉和深度学习技术的智能分析算法,旨在通过分析图像或视频流,自动识别人员是否佩戴了安全帽,并在检测到未佩戴情况时采取相应的措施(如发出警报或记录事件)。 实际应用中的优势 1. 提高检测准确性 智能安全帽检测算法在识别的准确性上有显著提升。相比于人工检查,算法可以处理大量的图像数据,并且几乎不受疲劳和主观判断的影响。

【大模型理论篇】rope旋转位置编码底层数学原理分析-爱代码爱编程

1. 位置编码对于NLP模型的作用                 位置编码(Positional Encoding)在大模型(例如Transformer架构)中起到了非常重要的作用。没有位置编码的信息,模型会丧失序列的顺序信息,导致模型退化成一个简单的“词袋模型”(Bag of Words model)。         在Transformer中,

基于协同过滤算法的电影推荐系统的设计与实现(论文+源码)_kaic-爱代码爱编程

摘  要 现在观看电影已逐渐成为人们日常生活中最常见的一种娱乐方式,人们通常会在周末或在休息、吃饭时间不由自主地在各种视频软件中搜索当前火热的影视节目。但是现在的视频软件电影推荐功能不够完善,所以需要开发出一套系统来使用户只需要简单操作就能找到喜爱的影片。针对这种情况开发一种基于协同过滤算法的电影推荐系统。 使用Java语言、SpringBoot框架、Id

datawhale x 李宏毅苹果书ai夏令营 学习笔记-爱代码爱编程

学习日志 日期: 2024年8月30日 今日学习内容: 今天,我继续学习了深度学习中的优化算法,并且着重理解了如何利用动量法、RMSProp以及Adam等高级优化器来提高模型训练的效率和效果。 1. 动量法的理解: 我学习了动量法如何通过在参数更新时考虑之前的梯度方向,使得模型能够更快地朝着全局最优解的方向前进。动量法可以有效防止模型陷入局部最小

设备上的实时自定义手势识别-爱代码爱编程

这篇论文的标题是《On-device Real-time Custom Hand Gesture Recognition》,主要研究了如何在移动设备上实时识别自定义手势。以下是论文的主要内容概述: 摘要: 论文指出现有的手势识别系统大多限于预定义的手势集,但用户和开发者通常希望识别新的、未见过的手势。提出了一个用户友好的框架,允许用户轻松定制和部署自己

【datawhale ai夏令营】从零上手cv竞赛task3-爱代码爱编程

文章目录 前言一、数据集增强二、设置 YOLO 模型训练参数三、模型微调总结 前言 本文的Task3对Task1的baseline代码继续进行优化的过程。 一、数据集增强 数据增强是

datawhale x 李宏毅苹果书 ai夏令营 机器学习入门 task 2-爱代码爱编程

1 线性模型学习笔记 1. 引言 线性模型是机器学习中最基础也是最强大的模型之一,广泛应用于各种场景,如分类、回归等任务。在李宏毅老师的书中,线性模型被作为理解更复杂模型的基础来介绍。 2. 线性模型概述 定义: 线性模型是一种预测目标变量为输入特征的线性组合的模型。形式: f(x)=wTx+bf(x)=wTx+b,其中 ww代表权重向量,x