一、CUDA与cuDNN下载安装

进行神经网络训练时，如果搭配显卡即使用GPU进行训练，速度会高于使用CPU进行训练。TensorFlow同时支持CPU和GPU训练，在下载安装时选择安装tensorflow而不是tensorflow-cpu，就可以使用GPU进行快速训练。而在安装TensorFlow之前需要下载安装CUDA与cuDNN。
CUDA(ComputeUnified Device Architecture)，是显卡厂商NVIDIA推出的运算平台，它是一种由NVIDIA推出的通用并行计算架构，该架构使GPU能够解决复杂的计算问题。
cuDNN是用于深度神经网络的GPU加速库。它强调性能、易用性和低内存开销，可以集成到更高级别的机器学习框架中。
CUDA和cuDNN版本需要与要安装的TensorFlow版本相对应，对应列表可以查看官网说明https://tensorflow.google.cn/install/source_windows，如下图所示：

截至2020年11月TensorFlow最新版本为2.4版本，但官网说明中未给出对应cuda版本，本文以安装2.3版本为例，下载安装cuda10.1与cudnn7.4。
cuda官网下载地址为https://developer.nvidia.com/cuda-toolkit-archive，选择CUDA Toolkit 10.1 update2，进入下载页面，选择操作系统类型及版本和安装类型（在线或离线），然后下载安装包，安装时选择默认选项即可。

cuDNN下载地址为https://developer.nvidia.com/cudnn-download-survey，进入该界面后需要先按照提示使用邮箱注册账号，网速会有些慢，注册完毕后还需要再填写调查问卷，填写提交之后进入下载页面https://developer.nvidia.com/rdp/cudnn-download，在选择版本时发现7.4版本中没有For CUDA10.1，与TensorFlow官网说明不符，本文选择cuDNN7最新版cuDNN v7.6.5 (November 5th, 2019), for CUDA 10.1，然后选择系统版本，下载压缩包。

下载完成后解压缩，将下图三个文件夹内的文件复制到CUDA安装目录下对应目录内即可。

二、Conda下安装TensorFlow

使用conda下载依赖包时默认的源地址速度较慢，所以需要更换成国内的源，一般是清华、中科大、阿里云等源，首先打开Anaconda Powershell Prompt进入命令行界面，然后输入如下命令：

conda config --add channels https://mirrors.tuna.tsinghua.edu.cn/anaconda/pkgs/main/
conda config --add channels https://mirrors.tuna.tsinghua.edu.cn/anaconda/pkgs/free/
conda config --add channels https://mirrors.tuna.tsinghua.edu.cn/anaconda/cloud/conda-forge 
conda config --set show_channel_urls yes

然后创建一个用于使用TensorFlow的环境，命令如下：

conda create --name tensorflow python=3.8.6

回车之后会下载包然后安装，成功安装后界面如下：

输入如下命令进入创建的环境中，下载TensorFlow：

conda activate tensorflow
pip install tensorflow-gpu==2.3.0 -i https://pypi.tuna.tsinghua.edu.cn/simple/

下载安装完成后，输入python进行解释器中，输入：

import tensorflow as tf
print(tf.__version__)
print('GPU', tf.test.is_gpu_available())

若输出tensorflow版本号"2.3.0"和“GPU ture"，说明成功。

三、PyCharm使用搭建的tensorflow环境

PyCharm的简介和安装见本博客其他文章，打开PyCharm软件，选择New Project，进入如下界面：

选择Existing Interpreter，点击…图标，进入Add Python Interpreter界面，选择Conda Environment，点击…图标，选择刚才创建的tensorflow环境内的python.exe，最后点击OK。

返回创建项目界面，写入项目名称，点击create即可。
在main.py中输入如下测试代码，点击运行：

import tensorflow as tf
print(tf.__version__)
print('GPU', tf.test.is_gpu_available())

输出如下图即创建项目成功。

参考文档

win10下CUDA和CUDNN的安装（超详细）！亲测有效！
nvidia驱动，cuda与cudnn的关系
win10+tensorflow2.3GPU+cuda11+cudnn8+python3.8编译(AVX2)
Anaconda换源
conda创建新环境
Anaconda查找包,下载包,更新包,删除包
经验：WIN10+GTX1070下，tensorflow2.3-GPU+CUDA10.1+cuDNN765的安装
在PyCharm中使用Anaconda环境