22.04 nvidia-docker gpu nvidia
在linux中查看运行指定进程资源占用（cpu+gpu）
在运行程序时有时候会需要查看资源占用，以方便部署在其他服务器上时进行参考。以下是总结了我在linux上查找程序进程资源的两种方法（cpu和gpu都有）。 ......
[已解决] KVM 显卡直通 (GPU-passthrough) 直通虚拟机关机后 显示屏黑屏
系统环境 ██████████████████ ████████ littleblacklb@lb-desktop ██████████████████ ████████ ██████████████████ ████████ OS: Manjaro Linux x86_64 ███████████ ......
GPU刷BIOS和超频
GPU刷BIOS 打开GPUZ，先备份GPU的BIOS文件 点击look up 打开GPU-Z的官网，下载BIOS 再去映众的官网，找到显卡超频的软件 安装这个的目的，就是为了刷BIOS 打开设置，带你BIOS更新。 [参考资料] https://www.bilibili.com/video/BV1 ......
ubuntu22.04 install cuda cudnn
https://blog.csdn.net/qq_49323609/article/details/130310522 is very good 1,first check driver nvidia-smi if no content ,show install driver first two ......
Ubuntu22.04 安装 MQTT 服务器
本周 web 课简单了解了MQTT，在此记录下我的安装使用(用python写个订阅新闻的简单示例)流程，如有错误，欢迎指正！ 1. MQTT 简介 MQTT 是一种轻量级的消息传递协议，专为低带宽、高延迟或不可靠的网络环境设计。 1.1 MQTT 的主要特点 轻量级和低带宽：MQTT 协议的头部非常 ......
Ubuntu22.04 安装 kvm
确认环境 egrep -c '(vmx|svm)' /proc/cpuinfo 输出结果需要大于0，否则主机需要开启cpu虚拟化功能。 设置桥接网卡 # 网卡配置示例 cat <<'EOF' | sudo tee /etc/netplan/00-installer-config.yaml > /de ......
winget install cuda （Nvidia.CUDA）
PS C:\Users\Administrator> winget search cuda 名称 ID 版本 匹配 源 CudaLaunch 9NBLGGH40FCJ Unknown msstore MCX Studio coti.mcxstudio v2023 Tag: cuda winget N ......
windows 10 安装ubuntu 22.04 实操
windows 10 安装ubuntu 22.04 实操 当然可以。以下是在Windows 10上开启Linux子系统（WSL），安装Ubuntu 22.04，并在其上安装使用Docker的具体步骤： 1. 启用WSL 在Windows 10中，首先需要启用Windows Subsystem for ......
指定代码使用的GPU设备号
当你的主机上有多张GPU卡，可以通过如下方式设置代码main.py使用哪几张GPU卡来运行程序 import os os.environ['CUDA_VISIBLE_DEVICES'] = "0,1,2" # 设定使用0,1,2号GPU卡 然后执行命令python main.py即可 注意，上述两行 ......
ubuntu22.04修改ip配置
sudo vim /etc/netplan/01-network-manager-all.yaml 修改/etc/netplan/目录下的yaml文件，然后应用 sudo netplan apply network: ethernets: ens33: dhcp4: no dhcp6: no add ......
ubuntu22.04解决ssh登录，找不到匹配的host key算法
sudo vim /etc/ssh/sshd_config HostKeyAlgorithms +ssh-rsaPubkeyAcceptedKeyTypes +ssh-rsasudo systemctl restart sshd Ubuntu 22.04下使用SSH 登录提示no hostke——— ......
同样的程序，有时是gpu正常10%，有时gpu占用率到达或接近100%？提供一个解决方案
同样的程序，同样的代码，只在不同时间运行，有时是gpu正常10%，有时gpu占用率到达或接近100%？ 这里提供一个排错的解决方案 1、首先打开任务管理器，看看cpu的连续正常运行时间，如果超过了1天，请重启或按shift后关闭电脑再开机，这个方法可以把重复运行的程序的一些积累效应去掉 我通过这个方 ......
GPU监控终端部署（windows）
目的： 使用nvidia_gpu_expoter配合prometheus+grafana监控GPU性能 环境部署： Windows PowerShell ISE 管理员打开 # [Net.ServicepointManager]::SecurityProtocol 检查TLS是否支持1.2 #如果支 ......
Kubernetes v1.28安装手册 - 基于Ubuntu22.04
2023年12月17日，目前k8s社区的kubernetes更新到了1.29.0版，但国内阿里云等镜像服务器，k8s软件还在1.28.2版本，k8s组件的镜像为1.28.4版。基于此，本次使用Ubuntu22.04.3+k8s1.28.2版本，在虚拟机上搭建一个3master、3worker的k8s... ......
ubuntu22.04安装Goland2022.2.4
ubuntu22.04安装Goland2022.2.4 自行下载Goland版本 下载goland wget https://download.jetbrains.com/go/goland-2022.2.4.tar.gz ./ 将下载的压缩文件解压到指定目录 sudo tar -zxvf gola ......
unity广州站gpu resident drawer笔记
unity广州站gpu resident drawer笔记 什么是gpu resident drawer 将MeshRenderer数据转为BRG batch（BatchRendererGroup）数据的机制。 它优化的是CPU耗时，但也可能进而提高gpu的性能。因为需要提交给GPU的绘制调用更少。 ......
windows安装tensorflow-gpu / CUDA / cuDNN
最终安装内容：windows10 + 3060显卡 + tensorflow-gpu 2.10.0 + CUDA 11.2 + cuDNN 8.1 1. 命令行输入nvidia-smi，查看显卡对应的cuda版本。如下图，CUDA Version为12.1，则安装的CUDA版本不能高于12.1。 2 ......
TensorFlow GPU支持
Compute Capability > 3.5 NVIDIA 驱动版本 > 450.0.20 查看驱动版本 nvidia-smi ......
Ubuntu 22.04_wps缺少字体
打开WPS提示缺失字体Symbol、Wingdings、Wingdings 2、Wingdings 3、Webdings、MT Extra，WPS无法正确地显示某些符号（公式）！的解决办法（Ubuntu和Win11双系统） 1.找到挂载在Linux系统下的win盘下的Window/Fonts文件夹（ ......
NVIDIA RTX4090，你能用它做什么？
都说男生是世界上最简单的动物，为什么呢？举个例子，你要给女朋友送礼，你可以选择包、口红、护肤品、化妆品等，而包的品牌和样式、口红的色号等足以让你挑得眼花缭乱。而男生不一样，如果女生选择给男生送礼，我相信一块 RTX4090 就足以让他高兴得死去活来。 RTX4090 到底是何方神圣？它凭什么赢得所有 ......
GPU图形渲染分析
GPU图形渲染分析 1 概述 高强度图形是当代计算机系统的标志。今天的计算机，从智能手机到高端台式机，都使用各种复杂的视觉效果来增强用户体验。此外，用户还可以使用计算机玩图形密集型游戏、观看高清视频，以及进行计算机辅助工程设计，所有这些应用程序都需要大量的图形处理。 在早期，计算机中的图形支持非常初 ......
linux卸载nvidia驱动
1. 查看驱动版本 ls /usr/src | grep nvidia 2. 进入安装目录 cd /usr/bin ls nvidia-* 3. 执行卸载命令 ./nvidia-uninstall 4. 重启 reboot ......
8卡3090GPU云服务器上采用VLLM部署中文llama2-70b模型及OpenAI格式接口
TigerBot-70b-4k-v4 推理部署 模型本地部署（基于HuggingFace) 根据实际测试，加载模型需要约129G显存，最低需要6张3090显卡（流水线并行） 如果使用vllm进行加速推理（张量并行），考虑8张3090显卡或者4张A100-40G（模型分割要求） 模型下载 截至目前，模 ......
onnxruntime GPU 推理错误
错误 [E:onnxruntime:Default, provider_bridge_ort.cc:1480 TryGetProviderInfo_CUDA] /onnxruntime_src/onnxruntime/core/session/provider_bridge_ort.cc:1193 ......
元宇宙解决方案——云端GPU在元宇宙中的作用
GPU算力可以说是我们现在信息化时代的基础设施，在某种程度上说我们已经进入了算力时代，手机、电脑、车载等算力已经渗透到各行各业了。 当然算力对元宇宙也很重要，尤其是在可视化方面，元宇宙需要很逼真的渲染，同时它的物理动作也要符合物理定律，人才能沉浸其中，所以要很强的图形渲染、物理模拟。因此GPU对元宇... ......
Installing the NVIDIA Container Toolkit 容器配置GPU
网上的帖子都比较旧了，这是最新官方地址： https://docs.nvidia.com/datacenter/cloud-native/container-toolkit/latest/install-guide.html 注意：除了安装，还有配置，不是说安装上就完事 都弄好之后，就可以docke ......
如何在不破坏docker容器的情况下更新nvidia驱动
参考资料： [驱动-CUDA对照表] [驱动下载页] [重装驱动的一个教程] [整体的一个方法指导] 由于项目结题，需要在一个较旧的8卡V100服务器上运行机器学习代码，但是这个服务器上面的docker驱动却旧到爆炸，请看VCR： 2023年了居然显卡驱动还停留在418，这下不得不升级了。请示完导师 ......
ubuntu 22.04 设置网桥 - netplan
添加/编辑虚拟网桥 /etc/netpaln/br0.yaml ipv4 dhcp: network: version: 2 ethernets: eno8303: #替换为实际网卡 dhcp4: false dhcp6: false bridges: br0: interfaces: [eno83 ......
nvidia-smi修改ECC状态重启后不生效
最近跑大模型发现显卡少了几个G显存，网上一查得知开启ecc会少一部分显存，但ecc对大模型计算准确性几乎没有影响，因此打算关闭ECC校验。 在bash里面用sudo nvidia-smi -e 0禁用了ECC之后，nvidia-smi -q -d ecc显示Pending为Disable，但是重 ......
Nvidia 驱动 Ubuntu 安装
Nvidia 驱动 Ubuntu 安装 预防针：基本都要装一次以上，因为坑真的很多，双系统不费事，但是显卡驱动真的很麻烦。 失败记录 遇到过装错了源，升级之后直接没有蓝牙wifi驱动。 驱动版本不对，直接黑屏。 驱动版本不对，不黑屏但是接不上外接显示器。 不黑屏正常运行，但是蓝牙驱动和网卡直接无了。 ......