- 博客(11)
- 资源 (3)
- 收藏
- 关注
原创 When NAS Meets Robustness: In Search of Robust Architectures against Adversarial Attacks
(1)首先第一点,也就是作者在论文中构建鲁棒性的指标,并以此构建模型。同时建模的角度并不是以准确率为目标,而是以鲁棒性为目标,相较于传统的引入正则项来获得准确率和鲁棒性的双目标,角度很好;在构建损失函数的时候,并没有引入其他超参,这一点很值得借鉴。(2)论文中的实验部分,在分析结果的时候,首先是对自己的结论点进行回扣,另一点就是在分析结果的时候能够去层层递进,也就是当遇到模型存在问题时,能够理性分析,去做实验改进。
2023-03-27 21:13:16
162
原创 Orthant Based Proximal Stochastic Gradient Method for `1-Regularized Optimization
Prox-SG步骤的更新公式的作用是根据当前梯度估计和学习率,对当前权重进行更新,并进行L1正则化。这个步骤的更新公式包括两部分:首先是根据当前梯度和学习率计算出一个更新量,然后将这个更新量应用于当前权重,再进行L1正则化。整个步骤的目的是通过随机梯度下降法进行权重的更新,并通过L1正则化来实现权重稀疏化。这样可以使模型具有更好的泛化能力和更好的可解释性,同时避免过拟合的问题。
2023-03-09 21:15:36
489
原创 YOU ONLY SEARCH ONCE: SINGLE SHOT NEURAL ARCHITECTURE SEARCH VIA DIRECT SPARSE OPTIMIZATION
从剪枝的角度出发,使用稀疏正则化,以获得一个高效的网络结构
2023-02-28 20:04:29
144
原创 01 正则化
机器学习中的一个核心问题是设计不仅在训练数据集上表现好,而且在新输入上泛化号的算法。在机器学习中,许多策略被显式地设计来减少误差(可能会以增大训练误差为代价)。这些策略被统称为正则化。
2023-02-22 17:15:15
173
原创 Is BERT Really Robust? A Strong Baseline for Natural Language Attack on Text Classification
文章目录Is BERT Really Robust? A Strong Baseline for Natural Language Attack on Text Classification and Entailment摘要介绍模型训练和结果讨论结论Is BERT Really Robust? A Strong Baseline for Natural Language Attack on Text Classification and Entailment# 目前是第一次去粗略的阅读论文,在后面回去复
2022-04-03 16:27:20
727
原创 计组--CISC和RISC特点和区别
CISC和RISC特点和区别CISC(微程序)RISC(硬布线)指令系统复杂、庞大简单、精简指令数目一般大于200条一般小于100条指令字长不固定定长可访存指令不加限制只有load/store指令各种指令执行时间相差较大多数指令在一个时钟周期完成各种指令的使用频度相差很大都比较常用通用寄存器的数量较少多目标代码难以优化生成高效的目标代码采用优化编译,生成代码较高效控制方式绝大多数为微程序控制绝大多数为
2022-01-24 23:46:51
5750
原创 计组--中断
中断中断的类型中断请求:中断源向CPU发送中断请求信号。中断源:请求CPU中断的设备或事件,一台计算机允许有多个中断源。根据中断源的类别,可把中断源分为内中断和外中断。外中断是指来自处理机和内存以外部件引起的中断,包括I/O设备发出的I/O中断,外部信号中断(如用户按ESC键),以及各种定时器引起的时钟中断等。一般称为中断。内中断主要是指在处理器和内存内部产生的中断。一般称为异常。中断的过程多重中断过程关中断保存中断引出中断服务程序保存现场和屏蔽字开中断执行
2022-01-24 22:58:46
869
原创 计组--cache
Cache映射方式直接映射j = i mod 2^cj是cache的块号(行号),i为主存块号,2^c是cache的总行数优点:对于任意一个地址,只需对比一个“标记”,速度最快缺点:cache存储空间利用不充分,命中率低替换:如果对应位置非空,则毫无选择地直接替换。全相联映射主存块中的每一块可以装入Cache中的任何位置。优点:cache完全满了才需要替换,需要在全局选择替换哪一个。缺点:查找“标记”最慢,有可能要对比所有行标记。替换:cache完全满了才需要替换,需要全局选
2022-01-24 22:36:32
505
原创 408-OS笔记
文章目录第一章 计算机系统概述第二章 进程管理1、进程与线程1.1进程1.2进程控制1.3 进程的组织1.4 进程的通信1.5 线程1.6 其他2、处理机的调度3、其他4、进程的同步5、其他6、死锁第三章 内存管理1、内存管理概念2、交换与覆盖3、连续分配管理方式4、非连续分配管理方式5、习题6、虚拟内存的基本概念7、页面分配策略8、习题第四章 文件管理1、文件系统基础习题2、文件系统的实现习题3、 磁盘管理系统习题第五章 输入/输出(I/O)管理1、I/O层次结构习题2. I/o调度高速缓存和缓冲区3.设
2022-01-20 21:20:07
653
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人