CNCC2022将于12月8日至10日在贵州省贵阳市国际生态会议中心举办，今年CNCC技术论坛数量达到122个，内容涵盖了“计算+行业、人工智能、云计算、教育、安全”等30个方向。本文特别介绍将于12月10日举行的【基于Python的CUDA编程入门培训及线上编程体验】。
如果以上都没问题，则说明CUDA安装成功，至于Cuda安装成功之后的使用，我们可以在Visual Studio中写C++代码使用，也可以在Anaconda和Pycharm中写Python代码使用，额外下载安装cudnn，CUDNN是一个常见的神经网络层加速库文件，能够很大程度把加载到显卡上的网络层数据进行优化计算，而CUDA就像一个很粗重的加速库，其主要依靠的是显卡。
本文主要实现LLaVA的本地部署、推理，LoRA微调将在下一步文章中介绍，选择的LLaVA版本为7B版本，全程在华为云弹性云服务器上实现，华为云服务器信息如下:系统:Ubuntu 22.04 server 64bit with NO Driver。
这一期我们来介绍如何在Windows上安装CUDA，使得对图像数据处理的速度大大加快，在正式的下载与安装之前，首先一起学习一下预导知识，让大家知道为什么使用GPU可以加速对图像的处理和计算，以及自己的电脑是否可以使用GPU加速。
第1章 CUDA介绍及入门 本章向你简要介绍CUDA架构以及它是如何重新定义GPU的并行处理能力。应用软件如何使用CUDA架构？我们将演示一些实际的应用场景。本章希望成为使用通用GPU和CUDA加速的软件入门指南。
这一发展是由GPGPU接口的开发实现的，它允许我们使用GPU进行通用计算编程。CuPy 提供了通过基于CUDA的并且兼容Numpy的高级函数，PyCUDA提供了对CUDA API更细粒度的控制，英伟达也发布了官方CUDA Python。
如果您使用OpenCV已有一段时间，那么您应该已经注意到，在大多数情况下，OpenCV都使用CPU，这并不总能保证您所需的性能。为了解决这个问题，OpenCV在2010年增加了一个新模块，该模块使用CUDA提供GPU加速。
