python 遍历一个dict、set类型的同时,并且在改变这个变量的长度或者一边遍历一边修改,这时候就会抛出这错误；
情况如上所示，当运行程序的时候，报错内容为：RuntimeError: dictionary changed size during iteration
细心的朋友会发现，这里我们对data.keys()做了一个list（）操作，请大家想想为什么要做这样的一个操作呢？
join方法是把一个列表中的数据进行拼接，拼接成字符串（与split方法相反，split方法是把一个字符串切割成列表）
在进行深度学习任务或使用机器学习框架时，我们可能会遇到各种错误和异常。其中一个常见的错误是 RuntimeError: dimension specified as 0 but tensor has no dimensions。这个错误通常在操作张量（tensor）尺寸时出现，我们需要了解其背后的原因并找到解决方法。
那个深夜，我登上了公司的服务器，在Redis 命令行里敲入 keys* 后，线上开始报警，服务瞬间被卡死，我只能举起双手，焦急地等待几千万key被慢慢扫描，束手无策万念俱灰的时候，我收到了leader的短信：你明天不用来上班了。
在深度学习中，经常会使用自动微分技术（Automatic Differentiation）来计算模型参数的梯度，以进行模型的优化训练。然而，有时我们可能会遇到一个异常：RuntimeError: 一个用于梯度计算的变量已被就地操作修改。本文将详细解释这个异常的原因及解决方法。
重点：在循环一个列表时，最好不要进行删除的动作(一旦删除，索引会随之改变),容易错误。
近期GitHub上一位大神开源了一个叫做chineseocr_lite的OCR的项目，这是一个超轻量级中文OCR，支持竖排文字识别、NCNN推理，识别模型型仅17M（Psenet (8.5M) + crnn (6.3M) + anglenet (1.5M)）。
自己刚开始使用深度学习框架做事情的时候，选择了最容易入门的Keras。Keras是在其它深度学习框架（谷歌的TensorFlow，微软的CNTK以及Theano）的基础上，抽象了底层实现的差异，提供的更高层的API接口。说说Keras的好处吧！个人觉得Keras最吸引人的地方就是API接口的设计特别人性化，对于样本的训练，结果的测试都有一种使用传统机器学习库的感觉；函数式接口设计使得深度网络的时候特别容易，简直就像在玩乐高。如果有人想入门深度学习，我一定也会推荐Keras。
python中列表的内置函数sort（）可以对列表中的元素进行排序，而全局性的sorted（）函数则对所有可迭代的序列都是适用的；
Redis 字典的遍历过程逻辑比较复杂，互联网上对这一块的分析讲解非常少。我也花了不少时间对源码的细节进行了整理，将我个人对字典遍历逻辑的理解呈现给各位读者。也许读者们对字典的遍历过程有比我更好的理解，还请不吝指教。
这里报了一个这样的错误： RuntimeError: dictionary changed size during iteration；
疫情在家的这段时间，想系统的学习一遍 Pytorch 基础知识，因为我发现虽然直接 Pytorch 实战上手比较快，但是关于一些内部的原理知识其实并不是太懂，这样学习起来感觉很不踏实， 对 Pytorch 的使用依然是模模糊糊， 跟着人家的代码用 Pytorch 玩神经网络还行，也能读懂，但自己亲手做的时候，直接无从下手，啥也想不起来， 我觉得我这种情况就不是对于某个程序练得不熟了，而是对 Pytorch 本身在自己的脑海根本没有形成一个概念框架，不知道它内部运行原理和逻辑，所以自己写的时候没法形成一个代码逻辑，就无从下手。这种情况即使背过人家这个程序，那也只是某个程序而已，不能说会 Pytorch， 并且这种背程序的思想本身就很可怕， 所以我还是习惯学习知识先有框架（至少先知道有啥东西）然后再通过实战（各个东西具体咋用）来填充这个框架。而这个系列的目的就是在脑海中先建一个 Pytorch 的基本框架出来， 学习知识，知其然，知其所以然才更有意思；)。
在深度学习中，我们经常需要保存和加载模型的状态，以便在不同的场景中使用。在PyTorch中，state_dict是一个字典对象，用于存储模型的参数和缓冲区状态。 然而，有时在加载模型时，可能会遇到"Missing key(s) in state_dict"的错误。这意味着在state_dict中缺少了一些键，而这些键在加载模型时是必需的。本文将介绍一些解决这个问题的方法。
摘要：训练大型语言模型（LLMs）面临着显著的内存挑战，主要是由于权重和优化器状态的不断增大。常见的内存降低方法，如低秩适应（LoRA），在每一层中向冻结的预训练权重添加一个可训练的低秩矩阵，从而减少可训练参数和优化器状态。然而，这些方法通常在预训练和微调阶段的性能上都不如使用全秩权重训练，因为它们将参数搜索限制在低秩子空间中，改变了训练动态，并且可能需要全秩热启动。在这项工作中，我们提出了Gradient Low-Rank Projection（GaLore），一种允许全参数学习但比LoRA等常见低秩适应方法更节省内存的训练策略。我们的方法在优化器状态的内存使用上最多减少了65.5%，同时在使用C4数据集进行LLaMA 1B和7B架构的预训练以及在GLUE任务上对RoBERTa进行微调时，保持了效率和性能。我们的8位GaLore相较于BF16基准，将优化器内存进一步降低了82.5%，总训练内存降低了63.3%。值得注意的是，我们首次证明了在具有24GB内存的消费级GPU上（例如NVIDIA RTX 4090）进行7B模型的预训练是可行的，而无需模型并行、检查点策略或卸载策略。
低级错误：代码错误 中级错误：边界值没考虑，传入数据没考虑类型 高级错误：程序运行过程中的不确定性环境因素
散列表其实是一个稀疏数组（总是有空白元素的数组称为稀疏数组）。在一般书中，散列表里的单元通常叫做表元（bucket）。在 dict 的散列表当中，每个键值对都占用一个表元，每个表元都有两个部分，一个是对键的引用，一个是对值的引用。因为每个表元的大小一致，所以可以通过偏移量来读取某个表元。
Python中内置了很多非常有用的对象，本文将会介绍Python中的内置函数，内置常量，内置类型和内置异常。
在使用PyTorch进行深度学习任务时，我们经常会使用view()函数来改变张量的形状。然而，有时候在使用view()函数时可能会遇到如下错误：
BUG1 在使用NLLLoss()激活函数时，NLLLoss用来做n类分类的，一般最后一层网络为LogSoftmax，如果其他的则需要使用CrossEntropyLoss。其使用格式为：loss(m(
This is a classic question of Java. Many similar questions have been asked on stackoverflow, and there are a lot of incorrect/incomplete answers. The question is simple if you don’t think too much. But it could be very confusing, if you give more thought to it.
在上一节，我们了解了字典的rehash 过程，需要特别指出的是，rehash 程序并不是在激活之
希望自己以后在学习Python的过程中可以边学习边总结，就自己之前的学习先做以总结，之后将不断总结更新。
在线程不安全的集合类中，都有这个用法。我们以AbstractList为例，拿出源码中的解释：
抽象一点说，假设开始槽位的二进制数是 xxx，那么该槽位中的元素将被 rehash 到 0xxx 和 1xxx(xxx+8) 中。 如果字典长度由 16 位扩容到 32 位，那么对于二进制槽位 xxxx 中的元素将被 rehash 到 0xxxx 和 1xxxx(xxxx+16) 中。*
本篇博客记录的是一些python的高级用法，更加深刻的理解Python的语法，。
cmd /k C:WindowsMicrosoft.NETFramework64v4.0.30319csc.exe /out:"$(CURRENT_DIRECTORY)$(NAME_PART)" "$(FULL_CURRENT_PATH)" & PAUSE & EXIT //notepad c#编译 cmd /k C:WindowsMicrosoft.NETFramework64v4.0.30319csc.exe /out:"$(CURRENT_DIRECTORY)$(NAME_PART).e
threading模块基于Java线程模型设计。不过Java中锁和条件变量是每个对象的基本行为，在python中却是单独的对象。python的Thread类行为是Java的Thread类行为的子集，目前尚不支持优先级、线程组，线程无法销毁、停止、暂停、恢复或中断。Java中Thread类的静态方法在Python中映射为模块级的函数。
BaseException 所有异常的基类 | | +-- SystemExit 解释器请求退出 | | +-- KeyboardInterrupt 用户中断执行(通常是输入^C) | | +-- GeneratorExit 生成器调用close（）方法时触发的 | | +-- Exception
“当你正在深入研究深度学习的下一个重大突破时，或许会遇到一个不幸的挫折:你的神经网络不起作用。你去找你的老板/主管，但他们也不知道如何去解决这个问题——他们和你一样都是新手。那么现在该怎么办呢?” 因
1、编写程序，要求生成10240个随机[0,512)之间的整数，并统计每个元素出现的次数。
Python是一门清晰简洁的语言，如果你对一些细节不了解的话，就会掉入到那些深不见底的“坑”里，下面，我就来总结一些Python里常见的坑。 列表创建和引用 嵌套列表的创建 使用*号来创建一个嵌套的list: li = [[]] * 3 print(li) # Out: [[], [], []] 通过这个方法，可以得到一个包含3个list的嵌套list，我们来给第一个list增加一个元素： li[0].append(1) print(li) # O
这篇文章虽然篇幅有点长，但这不并是一篇关于Python异常的全面介绍的文章，只是在学习Python异常后的一篇笔记式的记录和平时写代码过程中遇到异常记录性的文章。
以下是 Python 内置异常类的层次结构： BaseException +-- SystemExit +-- KeyboardInterrupt +-- GeneratorExit +-- Exception +-- StopIteration +-- ArithmeticError | +-- FloatingPointError | +-- OverflowError | +-- ZeroDivisionError +-- AssertionError +-- AttributeError +-- BufferError +-- EOFError +-- ImportError +-- LookupError | +-- IndexError | +-- KeyError +-- MemoryError +-- NameError | +-- UnboundLocalError +-- OSError | +-- BlockingIOError | +-- ChildProcessError | +-- ConnectionError | | +-- BrokenPipeError | | +-- ConnectionAbortedError | | +-- ConnectionRefusedError | | +-- ConnectionResetError | +-- FileExistsError | +-- FileNotFoundError | +-- InterruptedError | +-- IsADirectoryError | +-- NotADirectoryError | +-- PermissionError | +-- ProcessLookupError | +-- TimeoutError +-- ReferenceError +-- RuntimeError | +-- NotImplementedError +-- SyntaxError | +-- IndentationError | +-- TabError +-- SystemError +-- TypeError +-- ValueError | +-- UnicodeError | +-- UnicodeDecodeError | +-- UnicodeEncodeError | +-- UnicodeTranslateError +-- Warning +-- DeprecationWarning +-- PendingDeprecationWarning +-- RuntimeWarning +-- SyntaxWarning +-- UserWarning +-- FutureWarning +-- ImportWarning +-- UnicodeWarning +-- BytesWarning +-- ResourceWarning
即便 Python 程序的语法是正确的，在运行它的时候，也有可能发生错误。运行检测到的错误被称为异常。
Flask中全局变量有current_app、request、g和session。不过需要注意的是虽然标题是写着全局变量，但实际上这些变量都跟当前请求的上下文环境有关，下面一起来看看。
jsonify回去调用default()函数，我们最关心的就是重写default方法
size: 当前数组的大小（实时），类型 int，没有使用 volatile 修饰，非线程安全的
机器学习模型在训练数据集和测试数据集上的表现。如果你改变过实验中的模型结构或者超参数，你也许发现了：当模型在训练数据集上更准确时，它在测试数据集上却不⼀定更准确。这是为什么呢？
之前两篇博文讲解了字典库的基础，本文将讲解其遍历操作。之所以将遍历操作独立成一文来讲，是因为其中的内容和之前的基本操作还是有区别的。特别是高级遍历一节介绍的内容，充满了精妙设计的算法智慧。（转载请指明出于breaksoftware的csdn博客）
在深度学习的实践中，我们经常会使用GPU来加速模型的训练和推理过程。而在使用GPU时，可能会遇到一些错误和异常，其中一个常见的错误是 "RuntimeError: cudnn64_7.dll not found"。这篇文章将会详细讲解这个错误的原因以及解决方法。
TypeError: my_abs() takes exactly 1argument (2 given)#参数个数不对
GIL 是python的全局解释器锁，同一进程中假如有多个线程运行，一个线程在运行python程序的时候会霸占python解释器（加了一把锁即GIL），使该进程内的其他线程无法运行，等该线程运行完后其他线程才能运行。如果线程运行过程中遇到耗时操作，则解释器锁解开，使其他线程运行。所以在多线程中，线程的运行仍是有先后顺序的，并不是同时进行。
1、学习率 步长的选择：你走的距离长短，越短当然不会错过，但是耗时间。步长的选择比较麻烦。步长越小，越容易得到局部最优化（到了比较大的山谷，就出不去了），而大了会全局最优 重要性：学习率>正则值>dr
哈希表其实是一个稀疏数组（总是有空白元素的数组称为稀疏数组）。它是一种根据关键码值（Key-value）直接访问在内存存储位置的数据结构。
本文介绍了稀疏表示、匹配追踪（MP）和正交匹配追踪（OMP）算法，以及它们在压缩感知、信号重构和机器学习等领域的应用。
标题 Python语言特点 基本数据类型 循环 文件IO 函数 1 1 1 Python是一种面向对象的解释型计算机程序设计语言。它有着代码简洁、可读性强的特点。代码简洁是因为它把许多的复杂的操作封装起来，将C语言中麻烦的指针和内存管理对开发者隐藏起来，使得在开发过程中，无须在意这部分的细节。另外Python这们语言强制用户用缩进进行排版，若不好好排版，则代码编译无法通过，或者运行过程会出现错误。 Python程序的执行过程和C语言不一样，使用Python写的程序在运行过程中Python解释器会把源代码转换
领取专属 10元无门槛券
手把手带您无忧上云
