从0搭建基于神经网络的手语识别系统

来源： 从0搭建基于神经网络的手语识别系统

据北京听力协会预估数据，我国听障人群数量已过千万。而在全球范围内有4.66亿人患有残疾性听力损失，约占全世界人口的5%。聋哑人士很特殊，他们需要使用手语进行交流，其他与常人无异，我国存在特殊教育水平在各城市中发展力度具有较大差异，国家通用手语推广程度浅，但不懂手语，与听力障碍者交流会非常困难。

在本篇内容中，ShowMeAI 借助深度学习与神经网络技术，针对这个问题从 0 构建 1 个应用程序，检测手语并将其翻译给其他人进而打破手语隔阂。

搭建和部署完成后，你可以通过摄像头，轻松测试模型，如下图所示，快来一起试试吧。这个动图中的手势代表的单词，见文末哦！

💡 手语介绍

我们先来简单了解一下手语，它由 3 个主要部分组成：

• 手指拼写：这是一种手动的交流方式，用双手和手指拼写单词。每个字母都用指定的手位置表示。
• 单词级符号词汇：这是一个大型视频数据集，用于识别单词或字母的整个手势。
• 非手部特征：包括任何面部表情、嘴巴、舌头或身体姿势。

在本文中，我们先解决第①个部分的问题。我们准备使用的解决方案是基于视觉数据的神经网络

💡 深度学习与计算机视觉

人工智能和计算机视觉的最典型的模型是卷积神经网络（CNN），它在典型的计算机视觉应用中（如图像识别、目标检测等）应用广泛。我们在本次应用的核心技术也将采用 CNN。

CNN 网络有着如上图所示的网络结构，典型的结构包括卷积层、池化层、激活层、全连接层等，对于输入图像，可以有效抽取图像内容表征，并进行分类或其他处理。卷积层等特殊结构，可以在控制参数量的前提下，保证良好的图像特征提取能力。

关于卷积神经网络的详细知识可以参考ShowMeAI下述教程：
深度学习教程 | 吴恩达专项课程 · 全套笔记解读 中的文章 卷积神经网络解读
深度学习与计算机视觉教程 中的文章 卷积神经网络详解

💡 小试牛刀，打通流程

我们来构建一个 CNN 识别的流程，会分成以下基础步骤：

• 数据读取与切分
• 数据可视化及预处理
• CNN网络构建与训练

① 导入相关库

我们在这里主要使用 TensorFlow 构建网络与训练，会使用 Numpy 做数据计算与处理，以及使用 Matplotlib 进行简单可视化。

对于这些工具库，ShowMeAI都制作了快捷即查即用的速查表手册，大家可以在下述位置获得：
Tensorflow 速查手册
Numpy 速查手册
Matplotlib 速查手册

我们先把这些工具库导入。

1. # 导入工具库
2. import string
3. import pandas as pd
4. import numpy as np
5. import tensorflow as tf
6. import matplotlib.pyplot as plt
7. from tensorflow import keras
8. from functools import partial
9. from tensorflow.keras.preprocessing.image import ImageDataGenerator, array_to_img

② 读取数据集

本数据集为手语字母对应的数据集，图片 size 不大，所以也叫做 sign_mnist 数据集（类比手写数字数据集 mnist），部分示例图片如下

数据集大家可以在 Kaggle平台对应数据集页面 下载，也可以通过ShowMeAI的百度网盘地址下载。

🏆 实战数据集下载（百度网盘）：公众号『ShowMeAI研究中心』回复『实战』，或者点击 这里 获取本文 [5] 从0搭建基于神经网络的手语识别系统 『sign_mnist 数据集』

⭐ ShowMeAI官方GitHub：https://github.com/ShowMeAI-Hub

下面我们加载训练集与测试集并切分特征与标签：

1. # 读取数据
2. test = pd.read_csv("sign_mnist_test.csv")
3. train = pd.read_csv("sign_mnist_train.csv")
5. # 输出基本信息
6. print("训练集维度", train.shape)
7. print("测试集维度", train.shape)

1. # 输出标签信息
2. labels = train["label"].value_counts().sort_index(ascending=True)
3. labels

1. # 切分特征与标签
2. train_x = train.drop(labels = "label", axis = 1)
3. train_y = train["label"]
4. test_x = test.drop(labels = "label", axis = 1)
5. test_y = test["label"]
6. train_x.head()

1. # 数据预处理与可视化
3. # 存储标签数据
4. test_classes= test_y
5. train_clasees = train_y
7. # 特征转为numpy格式
8. train_x = train_x.to_numpy()
9. test_x = test_x.to_numpy()
11. # 把数据转为3维图像数据（图片数量*宽*高，这里如果是灰度图，颜色通道为1，省略）
12. train_x = train_x.reshape(-1,28,28)
13. test_x = test_x.reshape(-1,28,28)

1. # 在训练集中取样30张图片，做可视化查看
2. def plot_categories(training_images, training_labels):
3. fig, axes = plt.subplots(3, 10, figsize=(16, 15))
4. axes = axes.flatten()
5. letters = list(string.ascii_lowercase)
7. for k in range(30):
8. img = training_images[k]
9. img = np.expand_dims(img, axis=-1)
10. img = array_to_img(img)
11. ax = axes[k]
12. ax.imshow(img, cmap="Greys_r")
13. ax.set_title(f"{letters[int(training_labels[k])]}")
14. ax.set_axis_off()
16. plt.tight_layout()
17. plt.show()
19. plot_categories(train_x, train_y)

③ 卷积神经网络CNN搭建

我们使用 TensorFlow 的 high level API（即keras）搭建一个简易CNN神经网络，并拟合一下数据

1. def create_model():
2. model = tf.keras.models.Sequential([
3. # 卷积层
4. tf.keras.layers.Conv2D(32, (3,3), activation='relu', input_shape=(28, 28, 1)),
5. # 池化层
6. tf.keras.layers.MaxPooling2D(2,2),
7. # 卷积层
8. tf.keras.layers.Conv2D(32, (3,3), activation='relu'),
9. # 池化层
10. tf.keras.layers.MaxPooling2D(2,2),
11. # 展平
12. tf.keras.layers.Flatten(),
13. # 全连接层
14. tf.keras.layers.Dense(512, activation='relu'),
15. # softmax分类
16. tf.keras.layers.Dense(26, activation='softmax')])
18. model.compile(
19. optimizer='adam', #优化器
20. loss='sparse_categorical_crossentropy', #损失函数
21. metrics=['accuracy']) #评估准则
23. return model

1. # 初始化模型
2. model = create_model()
3. # 拟合数据
4. history = model.fit(train_x, train_y, epochs=20, validation_data=(test_x, test_y))

我们这里在全量数据集上迭代20个轮次，结果如下：

我们可以看到，这里的数据并不特别复杂，在自己从头搭建的 CNN 模型上，经过训练可以达到训练集 100% 验证集 92% 的准确率。

我们再对训练过程中的「准确率」及「损失函数」变化值进行绘制，以了解模型状态。

1. # 获取准确率与损失函数情况
2. acc = history.history['accuracy']
3. val_acc = history.history['val_accuracy']
4. loss = history.history['loss']
5. val_loss = history.history['val_loss']
7. # matplotlib绘制训练过程中指标的变化状况
8. epochs = range(len(acc))
10. plt.plot(epochs, acc, 'r', label='Training accuracy')
11. plt.plot(epochs, val_acc, 'b', label='Validation accuracy')
12. plt.title('Training and validation accuracy')
13. plt.legend()
14. plt.figure()
16. plt.plot(epochs, loss, 'r', label='Training Loss')
17. plt.plot(epochs, val_loss, 'b', label='Validation Loss')
18. plt.title('Training and validation loss')
19. plt.legend()
21. plt.show()

💡 问题与优化

① 深度网络与梯度消失

一般来说，随着 CNN 网络层数变深，模型的学习能力会变强，也能学到更多的信息。但训练深度CNN存在梯度消失的问题。

梯度消失和梯度爆炸部分内容也可以参考ShowMeAI的对吴恩达老师课程的总结文章 深度学习教程 | 深度学习的实用层面

非常深的神经网络的梯度会很快变为零（反向传播的梯度连乘带来的问题），这最终会使整个梯度下降变慢。有一些特殊结构的神经网络，可以大程度缓解这个问题，比如最著名的 ResNet，当然，大家可以借助 ResNet 预训练模型快速迁移学习应用在我们当前的手语识别问题上，为了让大家对ResNet 细节更清晰，我们在这里手动搭建 ResNet-50（即50层的ResNet网络）来训练和做效果对比。

ResNet的详细讲解也可以参考ShowMeAI的 深度学习教程 | 吴恩达专项课程 · 全套笔记解读中的文章 深度学习教程 | 经典CNN网络实例详解。

② ResNet 模型简介

ResNet 是 Residual Networks 的简称，是迄今为止我们看到的最流行和最成功的深度学习模型之一。ResNets 由残差块组成，残差块的核心组件是『跳跃连接/skip-connection』。跳跃连接，也称为快捷连接，让神经网络跳过某些层并将一层的输出馈送到神经网络中另一层的输入。它能帮助模型避免乘以中间跳过的那些层的权重，从而有助于解决梯度消失的问题。

然而，使用 ResNet 和跳跃连接，由于中间有卷积层和池化层，一层输出的维度可能与另一层的输出维度不同。为了解决这个问题，可以使用两种方法：

• 快捷连接填充多个零实体以增加其维度
• 添加 1X1 卷积层来匹配维度。

但是，对于第二种方法，我们需要在输出中添加一个额外的参数，而第一种方法不需要。

③ ResNet为何有效

ResNet的效果核心有2点：

• ① 它使用我们上面提到的跳跃连接，它跳过层来解决梯度消失的问题。
• ② 它通过让模型学习恒等函数来确保最高层的性能至少与最低层一样好。

④ 构建ResNet-50

下面我们参考 keras 官方 ResNet 构建方式，构建一个 ResNet-50，如下所示，我们先构建基本模块，再组装成最终的网络。

1. # Defining the identity block of the Resnet-50 Model.
2. def identity_block(X, f, filters, training=True):
3. # filter of the three convs
4. f1,f2,f3 = filters
5. X_shortcut = X
7. # First Component
8. X = tf.keras.layers.Conv2D(filters = f1, kernel_size = 1, strides = (1,1), padding = 'valid')(X)
9. X = tf.keras.layers.BatchNormalization(axis = 3)(X, training = training) # Default axis
10. X = tf.keras.layers.Activation('relu')(X)
12. # Second Component
13. X = tf.keras.layers.Conv2D(filters = f2, kernel_size = f, strides = (1,1), padding = 'same')(X)
14. X = tf.keras.layers.BatchNormalization(axis = 3)(X, training = training) # Default axis
15. X = tf.keras.layers.Activation('relu')(X)
17. # Third Component
18. X = tf.keras.layers.Conv2D(filters = f3, kernel_size = 1, strides = (1,1), padding = 'valid')(X)
19. X = tf.keras.layers.BatchNormalization(axis = 3)(X, training = training) # Default axis
21. # Adding the two tensors
22. X = tf.keras.layers.Add()([X_shortcut,X])
23. X = tf.keras.layers.Activation('relu')(X)
25. # Returning the last output
26. return X

1. # Defining the Convolution Block of the Resnet-50 Model.
2. def convolutional_block(X, f, filters, s=2,training=True):
3. # filter of the three convs
4. f1,f2,f3 = filters
5. X_shortcut = X
7. # First Component
8. X = tf.keras.layers.Conv2D(filters = f1, kernel_size = 1, strides = (1,1), padding = 'valid')(X)
9. X = tf.keras.layers.BatchNormalization(axis = 3)(X, training = training) # Default axis
10. X = tf.keras.layers.Activation('relu')(X)
12. # Second Component
13. X = tf.keras.layers.Conv2D(filters = f2, kernel_size = f, strides = (s,s), padding = 'same')(X)
14. X = tf.keras.layers.BatchNormalization(axis = 3)(X, training = training) # Default axis
15. X = tf.keras.layers.Activation('relu')(X)
17. # Third Component
18. X = tf.keras.layers.Conv2D(filters = f3, kernel_size = 1, strides = (1,1), padding = 'valid')(X)
19. X = tf.keras.layers.BatchNormalization(axis = 3)(X, training = training) # Default axis
21. # Converting the Input Volume to the match the last output for addition.
22. X_shortcut =tf.keras.layers.Conv2D(filters = f3, kernel_size = 1, strides = (s,s), padding = 'valid')(X_shortcut)
23. X_shortcut = tf.keras.layers.BatchNormalization(axis = 3)(X_shortcut, training = training)
24. X = tf.keras.layers.Add()([X_shortcut,X])
25. X = tf.keras.layers.Activation('relu')(X)
27. # Adding the last two tensors
28. X = tf.keras.layers.Add()([X, X_shortcut])
29. X = tf.keras.layers.Activation('relu')(X)
31. # Returning the output tensor
32. return X

1. # Defining a modified Resnet-50 Model using the Identity and Convolution Blocks.
2. def ResNet50(input_shape = (28, 28, 1), classes = 26):
4. # Defining the input as a tensor with shape input_shape
5. X_input = tf.keras.Input(input_shape)
7. # Zero-Padding
8. X = tf.keras.layers.ZeroPadding2D((3, 3))(X_input)
10. # Stage 1
11. X = tf.keras.layers.Conv2D(64, (5, 5), strides = (1, 1))(X)
12. X = tf.keras.layers.BatchNormalization(axis = 3)(X)
13. X = tf.keras.layers.Activation('relu')(X)
14. X = tf.keras.layers.MaxPooling2D((3, 3), strides=(2, 2))(X)
16. # Stage 2
17. X = convolutional_block(X, f = 3, filters = [64, 64, 256], s = 1)
18. X = identity_block(X, 3, [64, 64, 256])
19. X = identity_block(X, 3, [64, 64, 256])
21. # Add an Average Pool Layer
22. X = tf.keras.layers.AveragePooling2D((2,2))(X)
24. # Output Layer
25. X = tf.keras.layers.Flatten()(X)
26. X = tf.keras.layers.Dense(classes, activation='softmax')(X)
28. # Create Model
29. model = tf.keras.Model(inputs = X_input, outputs = X)
31. return model

⑤ 训练ResNet-50

下面我们在数据集上，使用 ResNet-50 网络进行训练

1. # 初始化模型
2. model = ResNet50()
4. # 编译
5. model.compile(optimizer="adam",metrics=["accuracy"],loss = "sparse_categorical_crossentropy")
7. # 训练
8. history = model.fit(train_x, train_y, validation_data = (test_x, test_y), epochs =10)

得到如下结果

💡 优化效果对比

我们对ResNet-50也绘制训练过程中准确率和损失函数的变化，如下

1. # 获取准确率与损失函数情况
2. acc = history.history['accuracy']
3. val_acc = history.history['val_accuracy']
4. loss = history.history['loss']
5. val_loss = history.history['val_loss']
7. # matplotlib绘制训练过程中指标的变化状况
8. epochs = range(len(acc))
10. plt.plot(epochs, acc, 'r', label='Training accuracy')
11. plt.plot(epochs, val_acc, 'b', label='Validation accuracy')
12. plt.title('Training and validation accuracy')
13. plt.legend()
14. plt.figure()
16. plt.plot(epochs, loss, 'r', label='Training Loss')
17. plt.plot(epochs, val_loss, 'b', label='Validation Loss')
18. plt.title('Training and validation loss')
19. plt.legend()
21. plt.show()

对比图如下：

我们观察到，从简单的 CNN 模型换到 ResNet 模型时，测试集的准确率从92% 到 97% 。也说明了，ResNet 的结构确实能够带来效果上的提升。

💡 部署与实时测试

在这里我们做一个简单的测试，使用 OpenCV 的视频录制功能，通过 python 收集我们的摄像头的镜头采集的图像并进行实时预测。

ShowMeAI给OpenCV工具库制作了快捷即查即用的 OpenCV 速查表手册，大家可以点击查看和下载。

具体的过程是，我们解析捕获的每一帧图像，将其处理为灰度图（类似于我们模型的训练集），在图像中心抓取一个 400×400 像素的正方形区域（参见 x0,x1,y0,y1），将正方形调整为我们最初的 28×28 大小并使用我们的模型进行测试（之前保存到 .h5 文件）。

1. # 导入工具库
2. import keras
3. import numpy as np
4. from PIL import Image
5. import string
6. import pandas as pd
7. import tensorflow as tf

1. # 导入OpenCV
2. import cv2
3. from matplotlib import pyplot
5. ## 设定维度
6. dim = (28, 28) # 图像维度
7. letters = list(string.ascii_lowercase) # 识别的字母
9. x0 = 1920 // 2 - 400 # 400px left of center
10. x1 = 1920 // 2 + 400 # 400px right of center
11. y0 = 1080 // 2 - 400 # 400px right of center
12. y1 = 1080 // 2 + 400 # 400px right of center
14. # 初始化视频捕获
15. video=cv2.VideoCapture(0)
17. cv2.namedWindow('Webcam') # 构建1个窗口
18. cv2.moveWindow('Webcam',40,30) # 放置窗口
20. while video.isOpened(): # 只要没有关掉实时摄像头
21. ret,capture = video.read() # 抓取每个视频帧
22. cropped = capture[y0:y1, x0:x1] # 截取
23. img = cv2.cvtColor(cropped, cv2.COLOR_BGR2GRAY) # 转成灰度图
24. img = cv2.GaussianBlur(img, (5, 5), 0) # 图像平滑
25. img = cv2.resize(img, dim) # 图像大小缩放
26. pyplot.imshow(img, cmap='gray') # 可视化展示图片
27. pyplot.show() # 展示
28. img = np.reshape(img, (1,img.shape[0],img.shape[1],1))
29. img = tf.cast(img, tf.float32)
30. pred=model.predict(img)
32. # 可视化实时效果
33. cv2.rectangle(capture, (x0,y0),(x1,y1),(255,0,0),2) # 为图片添加矩形框
34. cv2.putText(capture,'{} res50'.format(letters[np.argmax(pred[0])]),(x0+25,y0+50),cv2.FONT_HERSHEY_SIMPLEX,0.9,(0,255,0),1) # 预测字母
35. cv2.imshow('Webcam', capture) # 展示视频
37. # 结果输出
38. print(pred)
39. print(letters[np.argmax(pred[0])])
41. # 退出视频输入
42. key = cv2.waitKey(1)
43. if key == ord('q'):
44. break
45. video.release()
46. cv2.destroyAllWindows()

为了更轻松地对预估结果查看，我们把将预测的字母显示在实时画面上（请参阅下面的 gif 以测试单词 hello）。

💡 参考资料

• 🏆 实战数据集下载（百度网盘）：公众号『ShowMeAI研究中心』回复『实战』，或者点击 这里 获取本文 [5] 从0搭建基于神经网络的手语识别系统 『sign_mnist 数据集』
• ⭐ ShowMeAI官方GitHub：https://github.com/ShowMeAI-Hub
• 📘 深度学习教程 | 吴恩达专项课程 · 全套笔记解读: https://www.showmeai.tech/tutorials/35
• 📘 卷积神经网络解读: https://www.showmeai.tech/article-detail/221
• 📘 深度学习的实用层面: https://www.showmeai.tech/article-detail/216
• 📘 经典CNN网络实例详解: https://www.showmeai.tech/article-detail/222
• 📘 深度学习与计算机视觉教程: https://www.showmeai.tech/tutorials/37
• 📘 卷积神经网络详解: https://www.showmeai.tech/article-detail/264
• 📘 Tensorflow 速查手册: https://www.showmeai.tech/article-detail/109
• 📘 OpenCV 速查表手册: https://www.showmeai.tech/article-detail/112
• 📘 Numpy 速查手册: https://www.showmeai.tech/article-detail/100
• 📘 Matplotlib 速查手册: https://www.showmeai.tech/article-detail/103
• 📘 https://arxiv.org/ftp/arxiv/papers/1905/1905.05487.pdf
• 📘 https://www.analyticsvidhya.com/blog/2021/06/sign-language-recognition-for-computer-vision-enthusiasts