上一节我们自己写代码训练了只有一个神经元的反相器,它虽然只有一点点代码,但却让我们加深了梯度下降算法和反向传播算法的理解。只要勇敢的迈出这一步后,我们就可以勇敢的尝试它:深度学习中的hello wold–识别手写数字。 …
分类:深度学习
提高泛化能力/减轻过拟合
Loss层面: 做Regularization/加入Weight_Decay Data层面: 做Data_Augumentation Net层面: 加入Dropout 使用BatchNorm(加速收敛、提高泛化能力、优化…
【论文写作技巧】Endnote参考文献统一输出格式
前言 最近在写毕业论文,参考文献之类的管理最烦了,好在之前学过一点EndNote,但并不知道怎么设置指定的参考文献格式,于是上网查看下资料进行总结。学校要求的是使用国家推荐标准GB/T 7714-2005 规范文后参考文…
注意力机制——注意力评分函数(代码+详解)
目录 注意力分数 关于a函数的设计有两种思路 1.加性注意力(Additive Attention) 2.缩放点积注意力(Scaled Dot-Product Attention) 模块导入 遮蔽softmax操作 加性…
构建卷积神经网络(Convolutional Neural Network,CNN)
本节重点讲解通过代码构建CNN,具体理论知识会在以后专栏讲解,在此不过多赘述。 卷积神经网络是一类在图像识别相关学习任务汇总非常有效神经网络。相比于人工神经网络,卷积神经网络可以最大限度地保留图像数据的原始空间信息。目前…
【二、整理--加上数据图片】MT-Unet模型训练自己的冠脉数据集【个人记录学习】
二、使用我们自己的数据集–冠脉数据集 11. 从此开始,尝试带入我们自己的数据集进行训练和测试。(Q3,项目中虽然输入的5125123的数据,但是会裁剪成2442443的,看GitHub上的issues里面,有人询问过作…
【深度学习】轻量级神经网络 SqueezeNet 讲解
在深度学习领域,人们一般把注意力集中在如何提高神经网络的准确度上,所以,神经网络的层次越来越深,参数也越来越多,但带来的问题就是神经网络对于硬件的要求越来越高,但在嵌入式硬件上比如手机、自动驾驶的计算平台,这将很吃力,所…
持续学习 (continual learning/ life-long learning)详解
作者:夕小瑶的卖萌屋—— 「小鹿鹿鹿 」 问题定义 我们人类有能够将一个任务的知识用到另一个任务上的能力,学习后一个任务时也不会忘记如何做前一个任务。这种能力叫持续学习 (continual lear…
vscode搭建python环境
在前面《win10下深度学习环境的安装配置》下,对于环境的配置进行了简单介绍。这段时间,我打算将开发环境切为vscode+anaconda,界面借助qt进行设计。在此记录了配置。 python环境建立 借助anacond…
Attention注意力机制总结
写在前面:强烈推荐给大家一个优秀的人工智能学习网站,内容包括人工智能基础、机器学习、深度学习神经网络等,详细介绍各部分概念及实战教程,通俗易懂,非常适合人工智能领域初学者及研究者学习。️点击跳转到网站。 学…
三维点云语义分割模型介绍
三维点云语义分割模型介绍 1 三维深度学习简介 1.1 三维数据表达方式 2 PointNet 2.1 点云的属性 2.1.1 无序性 2.1.2 关联性 2.1.3 不变性 2.2 key modules 2.2.1 …
图片转Excel表格 文字识别 表格识别
文本分割 文本识别到txt 软件自动生成xls