神经网络
python兼职
分布式
CASE表达式
集群模式
合并查询
脑科学
ICU
html网页模版
网络字节序
PDF合并与拆分
业界资讯
免费批量下载图片的插件
NTF
ue4
溯源
Scratch等级考试四级
测评补单
PyQt5
OKR
推荐
标准容器
云管
计算机内存
人脸检测
链接脚本
MMDetection
旅行商问题
影像集合
生产排程系统
阵列综合
雷达通信
生物地理学的优化算法
STM32 CRC寄存器
高项
GPU 内存带宽
移动端测试
香橙派
FLASH
登录页面
TensorRt安装和命令行测试
1、选择TensorRt版本
安装tensorrt前，需要先了解自己的显卡算力、架构等，点击 算力列表链接 对号入座。 这里仅展示RTX和Titan系列，其他系列可在当前网页选择。
1.1、cuda版本
首先需要安装cuda，其版本并不是最新就好…
Ubuntu20.04 + 3090 安装nvidia驱动，附加解决重启黑屏卡在 /dev/***: clean, **files,***blocks的问题
目录 准备禁用nouveau解决黑屏问题并安装驱动参考 准备 首先需要知道当前电脑/服务器的显卡型号，这个自行查找自己电脑配置 查找显卡对应的驱动版本 通过命令ubuntu-drivers devices查看当前设备所支持的驱动，带有recommended的驱动为推荐安装的版本 不…
NVIDIA TX2 NX编译及更新设备树
在NVIDIA官网下载相关文件 官网网址：https://developer.nvidia.com/embedded/jetson-linux-archive 我选择的版本为R32.7.4 需要下载3个文件，BSP、根文件系统、BSP源码： 解压 将Tegra_Linux_Sample-Root-Filesystem_R32.7.4_aarch64文件夹下的内容提取到Jetson_Linux_R32.…
Flash Jetson Linux 刷写系统报错处理
目录 报错一：No such file or directory: dtc解决方案 报错二：ERROR sshpass not found 等其他执行刷写的依赖包解决方案 结论 报错一：No such file or directory: ‘dtc’
在使用 SDK Manager 刷写Jetson Linux 时，在完成了 Cre…
WSL 2安装CUDA Toolkit
本文在遵循官方用户指南CUDA on WSL User Guide的基础上增加了要注意的地方，以免踩坑。
执行 sudo apt-key adv --fetch-keys http://developer.download.nvidia.cn/compute/cuda/repos/ubuntu2004/x86_64/7fa2af80.pub
sudo sh -c echo "deb http://develope…
TX2 NX 修改设备树--GPIO
确认模组内使用的是哪个设备树文件 模组上电输入如下指令，查看返回值：cat /proc/device-tree/nvidia,dtsfilename找到相应的设备树文件设备树存放路径 /public_sources/Linux_for_Tegra/source/public/kernel_src/hardware/nvidia/platform/t18x/lanai/kernel-dts 确认设备树…
CUDA编程模型系列六(利用shared memory和统一内存优化矩阵乘)
CUDA编程模型系列六(利用shared memory和统一内存优化矩阵乘) 本系列教程将介绍具体的CUDA编程代码的细节 CUDA编程模型系列六(利用shared memory和统一内存优化矩阵乘) #include <stdio.h>
#include <math.h>// a[][] * b[][] c[][]
//
// …
RTSP视频流相关的一些操作
播放rtsp camera 内容
端口554在网络通信中用于Real Time Streaming Protocol(RTSP)。
gst-launch-1.0 playbin urirtsp://admin:WANGfengtu1210.0.20.190:554/client0x
gst-launch-1.0 playbin urirtsp://admin:WANGfengtu1210.0.20.61:554/client1xgst-launch-1.0 rtspsrc …
Triton教程 --- 解耦后端和模型
Triton教程 — 解耦后端和模型 Triton系列教程:
快速开始利用Triton部署你自己的模型Triton架构模型仓库存储代理模型设置优化动态批处理速率限制器模型管理自定义算子
解耦后端和模型
Triton 可以支持为一个请求发送多个响应或为一个请求发送零个响应的后端和模型。 解耦的…
NVIDIA Thrust教程
NVIDIA Thrust教程
Thrust 的 API 参考指南，CUDA C 模板库。
1.简介
Thrust 是基于标准模板库 (STL) 的 CUDA 的 C 模板库。 Thrust 允许您通过与 CUDA C 完全互操作的高级接口，以最少的编程工作实现高性能并行应用程序。
Thrust 提供了丰富的数据并…
Triton教程 --- 自定义操作
Triton教程 — 自定义操作 Triton系列教程:
快速开始利用Triton部署你自己的模型Triton架构模型仓库存储代理模型设置优化动态批处理速率限制器模型管理
自定义操作
Triton 推理服务器部分支持允许自定义操作的建模框架。 自定义操作可以在构建时或启动时添加到 Triton&…
Triton教程 --- 模型管理
Triton教程 — 模型管理 Triton系列教程:
快速开始利用Triton部署你自己的模型Triton架构模型仓库存储代理模型设置优化动态批处理速率限制器
Triton 提供的模型管理 API 是 HTTP/REST 和 GRPC 协议的一部分，也是 C API 的一部分。 Triton 以三种模型控制模式之一…
Triton教程 --- Triton架构
Triton教程 —Triton架构 文章目录 Triton教程 ---Triton架构并发模型执行模型和调度器无状态模型状态模型控制输入隐式状态管理状态初始化调度策略直接的Oldest 合奏模型 下图显示了 Triton 推理服务器的高级架构。 模型存储库是一个基于文件系统的模型存储库，Trit…
Triton教程 -- 模型仓库
Triton教程 – 模型仓库 文章目录 Triton教程 -- 模型仓库存储库布局模型存储库位置本地文件系统 具有环境变量的云存储谷歌云存储S3Azure 存储带凭证文件的云存储（测试版） 模型版本模型文件TensorRT 模型ONNX 模型TorchScript 模型TensorFlow 模型OpenV…
Python自动人工智能训练数据增强工具 | DALI介绍(含代码)
Python自动人工智能训练数据增强工具 | DALI介绍(含代码) 文章目录 Python自动人工智能训练数据增强工具 | DALI介绍(含代码)自动数据增强方法DALI 和条件执行使用 DALI 自动增强使用 DALI 的自动增强性能尝试使用 DALI 进行自动增强 深度学习模型需要数百 GB 的数据才能很好地…