DeepFace 与 OpenCV 实现情绪分析器

惊讶

实现组件

1. 硬件组件

• 摄像头：用于捕捉实时视频流，通常为电脑内置的摄像头或外接 USB 摄像头。

2. 软件库与依赖

• OpenCV (cv2)：一个开源的计算机视觉和机器学习软件库。它提供了大量的图像处理和计算机视觉算法，这里主要用于捕获摄像头视频流、处理图像以及在图像上绘制矩形框和文字。
• time：Python 标准库的一部分，用于计算时间间隔，进而计算 FPS（每秒帧数）。
• numpy (np)：虽然在这段代码中没有直接使用，但它是进行科学计算的基础库，通常与 OpenCV 一起用于更复杂的图像处理任务。
• DeepFace：这是一个深度学习库，专门用于面部识别及其相关任务（如年龄、性别、情绪等属性的预测）。在这个应用中，DeepFace 被用来对每一帧视频中的人脸进行情绪分析。

3. 功能模块

• 视频捕捉与处理模块：使用 cv2.VideoCapture(0) 打开摄像头，并通过循环不断读取视频帧。对每一帧图像进行处理，包括计算 FPS、进行情绪分析以及在图像上标注结果。
• FPS 计算模块：利用 time.time() 获取当前时间戳，通过计算连续两帧之间的时间差来计算瞬时 FPS，并采用滑动平均方法平滑 FPS 值。
• 情绪分析模块：调用 DeepFace.analyze() 函数对每一帧中的所有人脸进行情绪分析。分析结果包含每个人脸的位置、主导情绪及置信度。
• 结果显示模块：使用 OpenCV 提供的绘图函数（如 cv2.rectangle() 和 cv2.putText()）在视频帧上标记出人脸位置、显示情绪信息及置信度，并展示当前的 FPS 值。
• 用户交互模块：通过监听键盘输入（cv2.waitKey(1)），允许用户按下 q 键退出程序。

代码详解

主要是通过摄像头捕捉实时视频流，然后使用深度学习模型对捕捉到的每一帧进行情绪分析，然后在视频上标记出检测到的情绪和置信度，并显示当前的 FPS（每秒帧数）。下面是对代码各个部分的详细解释：

导入必要的库

import cv2
import time
import numpy as np
from deepface import DeepFace

• cv2：OpenCV 库，用于处理图像和视频流。
• time：用于计算时间间隔，进而计算 FPS。
• numpy：虽然在这段代码中没有直接使用，但通常与 OpenCV 一起用于图像处理。
• DeepFace：一个基于深度学习的面部识别和分析库。

打开摄像头并初始化变量

cap = cv2.VideoCapture(0)
prev_time = time.time()
fps = 0
alpha = 0.9

• cv2.VideoCapture(0)：打开默认摄像头（0 代表第一个摄像头设备）。
• prev_time 和 fps：用于计算 FPS 的变量。prev_time 保存上一帧的时间戳，而 fps 保存当前帧率。
• alpha：用于滑动平均计算 FPS 的权重值。

主循环

while True:
    ret, frame = cap.read()
    if not ret:
        break
    # ... 其他逻辑 ...
    cap.release()
    cv2.destroyAllWindows()

• 这个无限循环不断从摄像头读取帧 (cap.read())。如果读取失败 (ret 为 False)，则退出循环。
• 循环体内部实现了帧的获取、FPS 计算、情绪分析、结果绘制以及画面显示。

FPS 计算

current_time = time.time()
delta_time = current_time - prev_time
prev_time = current_time
if delta_time > 0:
    instant_fps = 1.0 / delta_time
    fps = alpha * fps + (1 - alpha) * instant_fps

• 计算自上次迭代以来经过的时间 (delta_time)，然后根据这个时间差计算瞬时 FPS (instant_fps)。
• 使用滑动平均更新总体 FPS (fps)。

情绪分析及结果展示

result = DeepFace.analyze(frame, actions=['emotion'], enforce_detection=False)
# 遍历结果并绘制...

• 对每一帧调用 DeepFace.analyze() 方法进行情绪分析。actions=['emotion'] 指定只执行情绪分析。
• 遍历返回的结果，在画面上标出人脸的位置 (cv2.rectangle) 和识别出的情绪信息 (cv2.putText)。

显示 FPS 和图像

cv2.putText(frame, f'FPS: {fps:.2f}', (10, 30), cv2.FONT_HERSHEY_SIMPLEX, 0.7, (0, 255, 255), 2)
cv2.imshow("Emotion Detection", frame)

• 在图像上显示当前的 FPS。
• 使用 cv2.imshow() 显示带有标注的图像。

退出条件

if cv2.waitKey(1) & 0xFF == ord('q'):
    break

• 如果按下键盘上的 q 键，则退出循环结束程序。

最后，释放摄像头资源 (cap.release()) 并关闭所有窗口 (cv2.destroyAllWindows())。

完整代码

import cv2
import time
import numpy as np
from deepface import DeepFace

# 打开摄像头
cap = cv2.VideoCapture(0)

# FPS 计算参数
prev_time = time.time()
fps = 0
alpha = 0.9  # 滑动平均权重，数值越大，FPS 越平稳

while True:
    ret, frame = cap.read()
    if not ret:
        break

    # 计算 FPS
    current_time = time.time()
    delta_time = current_time - prev_time
    prev_time = current_time
    if delta_time > 0:
        instant_fps = 1.0 / delta_time
        fps = alpha * fps + (1 - alpha) * instant_fps

    try:
        # 进行表情识别
        result = DeepFace.analyze(frame, actions=['emotion'], enforce_detection=False)
        for face in result:
            x, y, w, h = face['region']['x'], face['region']['y'], face['region']['w'], face['region']['h']
            emotion = face['dominant_emotion']
            confidence = face['emotion'][emotion]
            
            # 获取表情的置信度
            # 绘制人脸矩形框
            cv2.rectangle(frame, (x, y), (x + w, y + h), (0, 255, 0), 2)
            
            # 在人脸上方显示情绪信息
            text = f'{emotion} ({confidence:.2f}%)'
            cv2.putText(frame, text, (x, y - 10), cv2.FONT_HERSHEY_SIMPLEX, 0.6, (0, 255, 0), 2)
    except Exception as e:
        print("无法检测到人脸:", e)

    # 显示 FPS（平滑更新）
    cv2.putText(frame, f'FPS: {fps:.2f}', (10, 30), cv2.FONT_HERSHEY_SIMPLEX, 0.7, (0, 255, 255), 2)

    # 显示图像
    cv2.imshow("Emotion Detection", frame)

    if cv2.waitKey(1) & 0xFF == ord('q'):
        break

cap.release()
cv2.destroyAllWindows()

总结

核心在于结合了 OpenCV 进行视频处理和 DeepFace 进行面部情绪分析的能力。通过这些组件，实现从摄像头实时捕捉视频、分析视频中人物的情绪状态并在视频画面上直观地展示分析结果的功能。

这不仅展示了如何利用现有的 AI 库快速构建实用的应用程序，也为进一步开发基于情感识别的复杂系统提供了基础框架或者是组件。