Smart City

基于FPGA的智慧教室系统

PR027

乐天 高 (湖北民族大学)

Mar 30, 2022 1963 views

基于FPGA的智慧教室系统

随着无线通信、云计算技术、人工智能技术的不断发展和成熟,物联网被广泛应用于各个产业领域,建设面向智慧校园、智慧教室的物联网云平台在高校迅速发展起来。为此我们设计并制作了一款利用Intel DE10-nano现场可编程逻辑平台的智慧教室系统。本系统充分利用了Intel DE10-nano中FPGA与ARM的高速并行运算的优势,通过在Intel DE10-nano现场可编程逻辑平台上移植linux操作系统,在其中运用人工智能技术,将摄像头对课堂的实时监测画面进行AI算法处理。处理后将识别出当前课堂学生数量,每位学生信息,并通过识别学生动作,判断出学生是否举手,是否在睡觉,是否存在在玩手机等行为,最后将所识别信息通过intel FPGA Cloud Connectivity Kit即英特尔FPGA云连接套件上传到云端,帮助教师对学生进行云端监控,实现了教师维持课堂秩序的便捷管理功能。

Project Proposal


1. High-level project introduction and performance expectation

  随着无线通信、云计算技术、人工智能技术的不断发展和成熟,物联网被广泛应用于各个产业领域,建设面向智慧校园、智慧教室的物联网云平台在高校迅速发展起来。为此我们设计并制作了一款利用Intel DE10-nano现场可编程逻辑平台的智慧教室系统。

  本系统充分利用了Intel DE10-nano中FPGA与ARM的高速并行运算的优势,通过在Intel DE10-nano现场可编程逻辑平台上移植linux操作系统,在其中运用人工智能技术,将摄像头对课堂的实时监测画面进行AI算法处理。处理后将识别出当前课堂学生数量,每位学生信息,并通过识别学生动作,判断出学生是否举手,是否在睡觉,是否存在在玩手机等行为,最后将所识别信息通过intel FPGA Cloud Connectivity Kit即英特尔FPGA云连接套件上传到云端,帮助教师对学生进行云端监控,实现了教师维持课堂秩序的便捷管理功能。

  本系统适用于全阶段课堂教育,因此我们的目标用户主要面向全世界各层次的学校及相关教育机构,本设计可以帮助教育教学机构妥善管理课堂教育情况,对学生可能出现的潜在危险行为作出预防性提醒警告,便于管理人员维持课堂秩序,保证课堂质量。当然,由于本产品的适用性、实用性都极强,我们的产品同样可以用于解决其他的人员管理方面的问题。

  众所周知,现场可编程门阵列(FPGA)的优势就是能够制造功能强大的芯片,可重复单元设计的性质,能够吸收工艺技术方面的问题。而Intel的FPGA芯片首先拥有着处理器缓存和内存一致性互联技术,这项革命性的 FPGA 互连技术将为具有大量数据处理需求的内存密集型应用提供低延迟和性能优势。此外Intel的FPGA芯片有着领先的收发器,且其在DSP创新方面有着极强的优势,由于本设计使用到了AI技术及算法,Intel为我们提供的可配置DSP引擎,利用Intel的FPGA芯片的 可编程性与 DSP 模块创新相结合,非常适合用于不断变化的人工智能工作负载,这是我们选择IntelFPGA芯片极为重要的原因。

2. Block Diagram

  整体设计方框图如下图所示,通过摄像头对教室情况进行实时监测,并将图像实时传输到开发板内,通过开发板内置的操作系统将数据传输至云端,利用AI算法将数据进行云端处理后,将处理结果实时展示在屏幕上,方便客户对教室情况进行监测控制。

3. Expected sustainability results, projected resource savings

  由于本设计主要涉及到的为人工智能Al算法及深度学习图像识别技术的方面,所以主要的需要达到的就是识别准确率的问题,及识别数量方面.本产品预计可同时较为准确的识别100人以内,在此基础上对学生动作的识别概率能达到90%,对学生的个人信息的识别准确率可达95%。同时被产品预计的视频帧数设置为60帧,用以维持视频摄像的高清晰流畅度。

  IntelFPGA器件在我们的产品中起到了极为核心的作用,我们是通过在IntelFPGA芯片上移植Linux操作系统来解决有关人工智能方面的Al算法及深度学习图像识别技术的问题,同时是借助FPGA Cloud Connectivity Kit来完成相关云端数据的上传及处理的

4. Design Introduction

 

 随着无线通信、云计算技术、人工智能技术的不断发展和成熟,物联网被广泛应用于各个产业领域,建设面向智慧校园、智慧教室的物联网云平台在高校迅速发展起来。为此我们设计并制作了一款利用Intel DE10-nano现场可编程逻辑平台的智慧教室系统。本系统适用于全阶段课堂教育,因此我们的目标用户主要面向全世界各层次的学校及相关教育机构,本设计可以帮助教育教学机构妥善管理课堂教育情况,对学生可能出现的潜在危险行为作出预防性提醒警告,便于管理人员维持课堂秩序,保证课堂质量。当然,由于本产品的适用性、实用性都极强,我们的产品同样可以用于解决其他的人员管理方面的问题。

  本系统通过在Intel DE10-nano现场可编程逻辑平台上移植linux操作系统,在其中运用人工智能技术,将摄像头对课堂的实时监测画面进行AI算法处理。处理后将识别出当前课堂学生数量,每位学生信息,并通过识别学生动作,判断出学生是否举手,是否在睡觉,是否存在在玩手机等行为,最后将所识别信息通过intel FPGA Cloud Connectivity Kit云连接套件上传到云端,帮助教师对学生进行云端监控,实现了教师维持课堂秩序的便捷管理功能.

 Intel的FPGA芯片首先拥有着处理器缓存和内存一致性互联技术,这项革命性的 FPGA 互连技术将为具有大量数据处理需求的内存密集型应用提供低延迟和性能优势。此外Intel的FPGA芯片有着领先的收发器,且其在DSP创新方面有着极强的优势,由于本设计使用到了AI技术及算法,Intel为我们提供的可配置DSP引擎,利用Intel的FPGA芯片的 可编程性与 DSP 模块创新相结合,非常适合用于不断变化的人工智能工作负载,这是我们选择IntelFPGA芯片极为重要的原因。

5. Functional description and implementation

  本系统利用了Intel DE10-nano中FPGA与ARM的高速并行运算的优势,通过在Intel DE10-nano现场可编程逻辑平台上移植linux操作系统,在其中运用人工智能技术,将摄像头对课堂的实时监测画面进行AI算法处理。处理后将识别出当前课堂学生数量,每位学生信息,并通过识别学生动作,判断出学生是否举手,是否在睡觉,是否存在在玩手机等行为,最后将所识别信息通过intel FPGA Cloud Connectivity Kit即英特尔FPGA云连接套件上传到云端,帮助教师对学生进行云端监控,实现了教师维持课堂秩序的便捷管理功能。

6. Performance metrics, performance to expectation

  由于本设计主要涉及到的为人工智能Al算法及深度学习图像识别技术的方面,所以主要的需要达到的就是识别准确率的问题,及识别数量方面。本产品预计可同时较为准确的识别100人以内,在此基础上对学生动作的识别概率能达到90%,对学生的个人信息的识别准确率可达95%。同时被产品预计的视频帧数设置为60帧,用以维持视频摄像的高清晰流畅度。

  Intel FPGA芯片拥有缓存和内存一致性互连技术。这项革命性的 FPGA 互连技术具有大量数据处理需求的内存密集型应用提供低延迟和性能优势。同时Intel FPGA芯片有领先的收发器,其将收发器开发分离开来可加速产品创新。而且IntelFPGA芯片所拥有的DSP 创新技术提供了一个可配置的 DSP 引擎 ,其将FPGA 可编程性与 DSP 模块创新相结合,非常适合用于不断变化的人工智能工作负载。 而且IntelFPGA的异构 3D SiP 技术与强化协议支持可以给我们提供最佳的功耗、性能和逻辑利用效率。

7. Sustainability results, resource savings achieved

硬件设计框图如图

由高清摄像头进行实时的数据图像反馈,经过FPGA套件的处理后将数据反馈至云端进行数据处理,后将数据的处理结果显示出来,教师可以根据异常的数据提醒进行一个反馈处理

软件流程图如下图

8. Conclusion

  首先我们可以确定,我们的系统可以准确的识别出每一位学生的现在状态,如图片那样,识别出学生是否举手,是否在端坐于座位上,这是我们的系统设计所要求的。可以保证教师即时了解学生的课堂状态,并及时的作出相应的信息反馈。

  在这张照片中我们可以了解,我们的系统可以判别出是哪位学生举手,方便教师及时作出回应,系统的识别准确,并且可以一次识别出多名学生。

同时我们可以通过后台云端监管教师行为,当教师进行板书时,如图所示,我们清楚的观察到系统对教师行为进行了识别判断,精确的识别出了教师当前的书写行为,且系统反应迅速,识别准确。

本项目通过在DE10-Nano开发板上添加Linux操作系统,通过人工智能的识别技术,及时的对学生及教师的行为进行信息反馈,并将处理结果报告给后台云端,适用于各阶段的学生学习及教师监管,同样也适用于公司的管理等方面,减少了人力资源成本,有利于人们的学习生活。

0 Comments



Please login to post a comment.