anaconda3 anaconda python3 pytorch
python3 操作csv
https://blog.csdn.net/m0_46483236/article/details/109583685 1. python中创建新的csv文件(1). 使用csv.writer()创建：代码如下： import csv headers = ['学号','姓名','分数']rows = ......
dgl AttributeError: Can't get attribute 'DGLGraph' on <module 'dgl.heterograph' from '/home/user/anaconda3/envs/mymodel/lib/python3.7/site-packages/dgl/heterograph.py'>
由于服务器重装了系统，因此cuda版本和ubuntu系统版本也换了，不得不重装系统，导致以前可以正常运行的代码出了各种故障（注：现在的ubuntu版本是18.04，cuda版本是11.3） AttributeError: Can't get attribute 'DGLGraph' on <modu ......
pytorch减少显存方式
引导 1. 显存都用在哪儿了？ 2. 技巧 1：使用就地操作 3. 技巧 2：避免中间变量 4. 技巧 3：优化网络模型 5. 技巧 4：减小 BATCH_SIZE 6. 技巧 5：拆分 BATCH 7. 技巧 6：降低 PATCH_SIZE 8. 技巧 7：优化损失求和 9. 技巧 8：调整训练精 ......
python3源码方式安装
系统默认的python3版本过低，得自己安装高版本python3。步骤主要为：1、删除旧版本。2、安装依赖。3、下载源码。4、配置。5、编译。参考链接：CentOS7安装python3超详细教程 1、删除旧版pyhton3，执行：rpm -qa|grep python3|xargs rpm -ev ......
Anaconda 常用命令
修改配置 路径： 打开目录 C:\Users<你的用户名> 下的配置文件.condarc channels: - https://mirrors.tuna.tsinghua.edu.cn/anaconda/pkgs/free/ - defaults envs_dirs: - D:\conda 查看当 ......
使用ubuntu根据cuda11.2安装pytorch
在使用镜像新建了一个cuda11.2-python3.9 容器配置环境的过程中需要安装PyTorch。一开始我直接使用 pip install torch 来进行安装，但是运行程序时出现报错： RuntimeError: The NVIDIA driver on your system is too ......
[-007-]-Python3+Unittest+Selenium Web UI自动化测试之@property装饰器默认值设置
看示例： #!/usr/bin/python3 # coding:utf-8 __author__ = 'csjin' # 定义@property装饰器 class PPTListModels(object): def __init__(self): self._tab_name = "PPT模板" ......
CentOS7.6安装python3.6.8一把成
yum -y install vim unzip net-tools && yum -y install wget && yum -y install bzip2 && yum -y install zlib-devel bzip2-devel openssl-devel ncurses-devel ......
pytorch——房价预测
1、首先对数据进行读取和预处理 2、读取数据后，对x数据进行标准化处理，以便于后续训练的稳定性，并转换为tensor格式 3、接下来设置训练参数和模型 这里采用回归模型，既y=x*weight1+bias1，设置的学习率为0.0006，损失函数采用了MSE（均方误差） 4、绘制图像 由于数据量较少， ......
【Pytorch基础实战】第一节，BP神经网络
项目地址 https://gitee.com/wxzcch/pytorchbase/tree/master/leason_1 实现代码 import pandas as pd import torch import torch.nn as nn import torch.optim as optim ......
使用 PyTorch FSDP 微调 Llama 2 70B
引言 通过本文，你将了解如何使用 PyTorch FSDP 及相关最佳实践微调 Llama 2 70B。在此过程中，我们主要会用到 Hugging Face Transformers、Accelerate 和 TRL 库。我们还将展示如何在 SLURM 中使用 Accelerate。 完全分片数据并 ......
Linux学习36- python3.9出现ImportError: urllib3 v2.0 only supports OpenSSL 1.1.1+
遇到问题 python3.9上安装requests 库，requests包引入了urllib3，而新版本v2.x的urllib3 需要OpenSSL 1.1.1+以上版本 所以就出现了报错 File "/root/python39/lib/python3.9/site-packages/_pytes ......
Linux学习35- python3.9出现ModuleNotFoundError: No module named '_ctypes'的解决
遇到问题 pip 安装第三方库的时候报错ModuleNotFoundError: No module named '_ctypes' File "/usr/local/python3/lib/python3.9/ctypes/__init__.py", line 7, in <module> fro ......
使用PyTorch II的新特性加快LLM推理速度
Pytorch团队提出了一种纯粹通过PyTorch新特性在的自下而上的优化LLM方法，包括: Torch.compile: PyTorch模型的编译器 GPU量化:通过降低精度操作来加速模型 推测解码:使用一个小的“草稿”模型来加速llm来预测一个大的“目标”模型的输出 张量并行:通过在多个设备上运 ......
python3使用pandas备份mysql数据表
操作系统 ：CentOS 7.6_x64 Python版本：3.9.12 MySQL版本：5.7.38 日常开发过程中，会遇到mysql数据表的备份需求，需要针对单独的数据表进行备份并定时清理数据。 今天记录下python3如何使用pandas进行mysql数据表的备份，我将从以下几个方面进行展开： ......
Anaconda/conda环境配置的问题
0 前言 安装Anaconda的时候，由于某种原因（我不清楚），官方推荐是手动添加环境变量的。 不管怎么样，反正我安装完成之后，使用conda --version的时候报错了，报错如下: # >>>>>>>>>>>>>>>>>>>>>> ERROR REPORT <<<<<<<<<<<<<<<<<< ......
在pytorch中保存模型或模型参数
在 PyTorch 中，我们可以使用 torch.save 函数将 PyTorch 模型保存到文件。这个函数接受两个参数：要保存的对象（通常是模型），以及文件路径。 保存模型参数 import torch import torch.nn as nn # 假设有一个简单的模型 class Simple ......
CentOS6.配置python3和django1.11安装
一.Python3安装 1.安装方式是源码包安装，需要用到 gcc,make 1 yum install gcc make 2 3 安装python3需要的依赖包有：openssl-devel bzip2-devel expat-devel gdbm-devel readline-devel sql ......
pytorch强制转换模型的所有参数都变成统一类型
可以调用模型的父类Module中的type方法，例如model.type(torch.float64)，将网络模型model的参数和缓冲区强制转换为torch.float64类型，这样就可以训练torch.float64类型的数据了，还可以指定其他类型。另外还有一些强制转换为某一种类型的方法：flo ......
自有AI芯片接入AI框架Pytorch的方案
现在AI框架主要用Pytorch，包括一些常用的库对Pytorch支持都较好 一、华为昇腾npu 能够跟上Pytorch的更新，直接和Pytorch兼容，而且有较多人来维护，代码风格不错，之前是通过注入Pytorch预留的的xla搞的接入，现在被官方接收了。 二、寒武纪MLU 这个版本很老，他们是通 ......
Python：Python3 不是内部或外部命令，也不是可运行的程序或批处理文件
正常情况下环境变量中只要有Python3的安装路径即可。不管是在环境变量中单独列出来，还是写到Path中，效果都是一样。 但我在一个古老机器上装好Python，并单独列了一个Python3环境变量，却依然报错。检查半天才发现必须写到Path环境变量中： 具体原因未知，但这样做了之后确实不再报错了。 ......
【PyTorch】如何判定运算维度
实际上无论是几维，方法都是一样。假设以 torch.softmax() 为例： # 下面运行结果所使用的代码 import torch import numpy as np z = np.arange(1, 33).reshape((2, 2, 2, 4)) z = torch.tensor(z, ......
PyTorch造大模型“加速包”，不到1000行代码提速10倍！英伟达科学家：minGPT以来最好的教程式repo之一
前言 PyTorch团队让大模型推理速度加快了10倍。且只用了不到1000行的纯原生PyTorch代码！ 本文转载自量子位 仅用于学术分享，若侵权请联系删除 欢迎关注公众号CV技术指南，专注于计算机视觉的技术总结、最新技术跟踪、经典论文解读、CV招聘信息。 CV各大方向专栏与各个部署框架最全教程整理 ......
使用 PyTorch 完全分片数据并行技术加速大模型训练
本文，我们将了解如何基于 PyTorch 最新的 完全分片数据并行 (Fully Sharded Data Parallel，FSDP) 功能用 Accelerate 库来训练大模型。 动机 🤗 随着机器学习 (ML) 模型的规模、大小和参数量的不断增加，ML 从业者发现在自己的硬件上训练甚至加载 ......
[pytorch] 余弦退火+warmup实现调研
tl;dr: pytorch的 torch.optim.lr_scheduler.OneCycleLR 就很不错，能兼顾warmup和余弦学习率，也不用下载额外的包 import torch from torch.optim.lr_scheduler import CosineAnnealingLR ......
环境安装anaconda
what： 1. 简介 Anaconda（官方网站）就是可以便捷获取包且对包能够进行管理，同时对环境可以统一管理的发行版本。Anaconda包含了conda、Python在内的超过180个科学包及其依赖项。 2. 特点 Anaconda具有如下特点： ▪ 开源 ▪ 安装过程简单 ▪ 高性能使用Pyt ......
Jupyter Notebook使用anaconda虚拟环境
参考： https://blog.csdn.net/qq_34319660/article/details/126246351 基本上就是如下几步 启动环境 conda activate LLM_env 查看已安装路径 jupyter kernelspec list 安装ipykernel pip ......
pytorch3d安装报错
LINK : fatal error LNK1181: 无法打开输入文件“G:\pychram_workspace\ER-NeRF\pytorch3d\build\temp.win-amd64-cpython-310\Release\pychram_workspace\ER-NeRF\pytorch ......
python3 打包上传pypi失败及解决方法
pypi上传问题，Invalid or non-existent authentication information，
has two factor auth enabled, an API Token or Trusted Publisher must be used to upload in... ......