C++ – 使用cuda api获取本机显卡数量和显卡信息
1 使用cuda api获取本机显卡数量和显卡信息 我们可以在C++中结合CUDA API获取本机显卡数量以及每一个显卡的Memory Clock Rate、Memory Bus Width、Peak Memory Bandwidth等信息。 使用cudaGetDeviceCount函数返回连接到此…
- C++
- 2023-03-08
TensorRT – 基于TensorRT的多线程并发推理方案
1 TensorRT的多线程并发推理方案 TensorRT在对模型推理速度已经有了非常大的提升了，那如果能够基于TensorRT做并行推理，既可以有效降低推理延迟，也能增加服务吞吐量，那岂不是酷毙了？ 那么能用TensorRT做多线程并发吗？ 我们看看TensorRT的官方开发者文档怎么说： In …
- TensorRT
- 2023-03-06
TensorRT – 计算模型推理时间
1 TensorRT的性能衡量标准 使用 TensorRT 进行模型优化工作之前，必须确定应该测量什么。没有衡量标准，就不可能取得可靠的进展或衡量是否取得了成功 Latency 第一个衡量标准是从输入数据经过网络然后输出的时间，这个时间称为延迟(Latency)。在一些项目中，较低的模型推理延迟是非…
- TensorRT
- 2023-03-06
TensorRT – Using an engine plan file across different models of devices is not recommended and is likely to affect performance or even cause errors
1 TensorRT加载模型出现警告Using an engine plan file across different models of devices is not recommended and is likely to affect performance or even cause er…
- TensorRT
- 2023-03-03
TensorRT – TensorRT was linked against cuBLAS/cuBLAS LT 11.6.1 but loaded cuBLAS/cuBLAS LT 11.5.4错误提示
1 TensorRT was linked against cuBLAS/cuBLAS LT 11.6.1 but loaded cuBLAS/cuBLAS LT 11.5.4 使用TensorRT推理模型时，有时候会看到以下TensorRT自己打出的日志 TensorRT was linked a…
- TensorRT
- 2023-03-02
C++ – Windows/Linux跨平台获取本机CPU核心数
1 在Windows/Linux系统获取本机CPU核心数 1.1 使用Windows和Linux上的系统函数获取cpu的核心数 如果需要创建一个使用线程池的服务，那么线程池中的最大工作线程数目最好是少于本机CPU的核心数，这样既能最大化CPU的性能也能避免创建过多线程造成线程调度的开销，保持处理速度…
- C++
- 2023-03-01
C++ – Windows/Linux跨平台gbk与utf8字符集编码转换
1 Windows/Linux跨平台gbk与utf8字符集编码转换 在Windows系统上使用系统api，在linux上使用iconv进行gbk与utf8字符集编码转换 我已经将上述功能封装为single header的工具类，具体代码如下 #ifndef _CHARACTERSET_CONVERT…
- C++
- 2023-02-27
C++ – 使用标准库std::use_facet和std::codecvt进行跨平台gbk与utf8字符集转换
1 C++标准库中与字符集转换相关的类 1.1 std::use_local和facet C++中的std::local每个本地化环境对象至少包含了以下的标准facet， std::collate、std::collate std::ctype、 std::ctype std::codecvt<…
- C++
- 2023-02-27
WordPress – 在后台管理面板添加禁止某一个用户登录的功能
1 WordPress在后台管理面板添加禁止某一个用户登录的功能 最近我的网站上有一个用户一直在半夜三更多次不正常登录账号，最重要的是每一次登录的ip都不一样，我也不知道他在干嘛，为了防止他做出什么危害行为我需要禁止这个用户登录我的网站，等于说把它拉入黑名单了。 参考https://www.duji…
- WordPress
- 2023-02-16
2023年完美货币PerfectMoney提现到国内银行卡以及提现到支付宝/微信账户的保姆级教程
1 PerfectMoney 官网：https://perfectmoney.com 1.1 在PerfectMoney上注册 在注册时，如果你是使用的美国的VPN会弹出以下提示， 上面图的意思就是说如果你是美国公民或者美国居民就不能使用PerfectMoney，这个我布吉岛为什么会这样，感觉很怪。…
- 其他
- 2023-02-15
C++ – websocket++库的可使用的所有事件总结
1 Websocket++库的事件 C++的websocket库Websocket++中使用事件机制管理websocket连接消息，比如在websocket连接打开时触发open消息，在接收到客户端/服务端时，触发message消息，就和在js、java中使用websocket一样。 在Websoc…
- C++
- 2023-02-14
工具软件 – 解决从Onenote复制文字到QQ变成图片的问题，2023年最新解决方案
1 从Onenote复制文字到QQ变成图片 在一般情况下，我们从Onenote复制一段文字到QQ的消息发送框会变成一张图片，比如说 而实际上在Onenote中这是一段文字， 这个很烦，唯一好一点的解决方案是我们打开一个文本编辑器或者其他的文本输入区域，先粘贴，变成纯文本，然后再粘回到QQ进行发送，这…
- 工具软件网站
- 2023-02-14
最新评论