AI走进海南科技职业大学课堂（十七）

发布时间：2024-09-27 文章来源：信息工程学院官方微信公众号

在信息化高速发展的今天，数据与网络信息安全所面临的挑战日益严峻。高等院校作为知识的殿堂和创新的摇篮，结合人工智能技术的快速发展，将AI技术的重要性引入课程教学与实践应用，为高校的信息安全教育与应用提供了全新的解决方案，让学生深刻认识到确保数据的安全性和隐私性的重要性。

一、人工智能在网络信息安全中的关键作用

传统的网络安全方法需要大量的人力来识别威胁、提取其属性并将其编码到可以检测威胁的软件中。近年来，人工智能已成为增强人类信息安全团队工作的必要技术。人工智能和机器学习可以帮助防御者了解网络罪犯的最新情况，自动化威胁检测，并比传统的软件驱动或手工技术更有效地做出响应。这些技术不断学习和改进，从过去和现在的经验中提取数据，以确定可能发生的新型攻击。

基于人工智能的网络安全系统可以提供关于全球和行业特定危险的最新信息，从而更好地制定重要的优先级决策，不仅基于可能被用来攻击系统的内容，而且基于最有可能被用来攻击系统的内容。

二、AI+网络信息安全引入教学

海科大信息工程学院将人工智能技术引入数据与信息安全教学课堂，深入探讨人工智能技术在网络信息安全中的应用，包含以下具体方向。

1. 威胁检测

人工智能可以识别网络与信息安全的风险并确定其优先级。目前，人工智能系统正在接受训练以检测恶意软件、运行模式识别，甚至在恶意软件或勒索软件攻击进入系统之前检测它们的最细微行为。实时检测偏差和行为变化有助于组织更快、更智能地做出响应。

2. 网络安全监管

在网络层面使用支持人工智能的软件，提高网络安全性。人工智能工具可以读取和识别包括文件、IP 地址及身份盗用链接在内的大量数据，以实现实时检测和自动化流程，并且更快、更有效地做出响应。此外，在安全检测工具中，通过人工智能可以提高工具的检测精度和效率，结合人工智能和机器学习的方法，进一步指导代码分析和验证分析结果，通过其机器学习方法提高安全测试的准确率。

3. 预防网络安全攻击

人工智能技术的应用可以用来降低网络攻击的风险。使用传统方法，可能需要几天甚至几个月的时间才能发现漏洞并采取行动进行响应。但人工智能算法每秒处理大量数据，现在已经被广泛用于异常检测。

人工智能和机器学习可以快速分析数百万个数据集并追踪各种各样的网络威胁——从恶意软件威胁到可能导致网络钓鱼攻击的可疑行为。网络安全专业人员可以针对这些威胁采取行动，以降低违规风险并改善安全状况。

4. 预测分析

人工智能可以帮助分析用户行为。借助此功能，算法可以学习用户行为并创建有关使用、时间和平台的模式。这些行为包括登录时间、IP 地址、键入和滚动模式以及时间。AI 驱动的工具会持续监控实时数据，并可以快速检测数据或行为中的错误，从而降低潜在损害的可能性。

5.异常情况检测

人工智能系统还可以通过分析预期和发生的情况之间的相似性或差异的模式，检测网络流量或其他数据流中的异常情况。这种类型的监测可以帮助在异常行为变成恶意活动之前抓住它--比如有人试图访问他们不应该访问的机密信息。

三、AI赋能高校信息安全的创新应用

1.智能威胁检测与响应：

AI通过深度学习和机器学习算法，能够实时监控校园网络流量，快速识别并响应潜在的网络威胁，防止数据泄露和网络攻击。

2.行为分析与身份验证：

AI利用行为分析技术，识别用户的日常操作模式，提高身份验证的安全性。例如，系统可以通过分析用户的键盘输入、鼠标移动等行为特征，自动检测异常操作并进行预警。

3.数据加密与隐私保护：

AI技术优化了数据加密算法，确保敏感数据在传输和存储过程中的高度安全。同时，AI还可以对数据进行脱敏处理，保护学生和教职员工的隐私。

人工智能技术的迅猛发展为数据与信息安全领域带来了新的机遇与挑战。通过在高校的教学与实践中引入“人工智能+信息安全”技术，不仅能够提升教育质量和创新能力，还能够为社会培养更多具备前沿科技素养的人才。

四、AI赋能信息安全应用场景典型案例

1.基于多机器学习模型的恶意代码智能分析检测

根据不同恶意代码的类型，采用相应的预处理方法，再选择合适的人工定义与自动提取相结合的特征工程方法， 所得的特征向量作为机器学习模型的输入，基于大量标注样本进行机器学习模型的训练，训练好的分类器应用于实际的恶意代码检测与分类中。使用的机器学习模型可以由多个不同的子模型所组成，通过 集成学习的方法对多个子模型结果进行再学习以输出最终结果。

机器学习模型在恶意代码智能分析检测中的实施方案

经过实验环境以及大量公开数据集的测试评估，基于多机器学习的恶意代码智能分析检测方法可以有效提升恶意代码的分析检测自动化水平及检测准确率。持续积累最新的、不同类型的恶意代码样本，对算法模型进行优化，构建模型迭代更新的机制，根据模型的实际表现确定模型重新训练的频率，将持续提高恶意代码的智能分析准确率。

2.基于智能监管系统的数据库安全态势感知可视化构建

传统数据库审计，以“数据被谁访问”的视角来反向溯源，审计出来的数据都是以数据库为单位，“谁访问了哪些数据”成为一个全新的数据库审计视角，这种以应用发起者为出发点，通过哪些应用业务的请求，最终访问了哪些数据，用户行为审计视角是非常关键核心的分析视角。

针对已定位出的特定风险用户或者数据库，进行特定行为画像，可以全方位展示该用户或数据库的全局画像信息，特征对应事件快速自适应排序，通过风险趋势图以及多种可视化图表，便于用户排查最有风险事件。

数据安全态势感知可视化管理案例

3.基于人工智能的诈骗网站识别应用案例

从现网数据中获取活跃域名，利用人工智能技术从海量活跃域名中发现和拓展潜在诈骗域名，通过对潜在诈骗域名进行内容爬取及分析，筛选出高度疑似的诈骗网站送交人工审核，对于确认的诈骗域名进行封堵操作。

诈骗网站智能识别应用方案

（1）域名发现

域名发现是对网络中存在访问行为的域名进行搜集，并将这些域名信息作为全网的活跃域名全集。活跃域名全集的数据来源包括但不限于用户的上网日志，垃圾短彩信中的域名信息，用户投诉举报数据中的域名信息等。进而通过消息智能分类、域名智能分类、注册备案分析、流量日志分析，从现网活跃域名全集中得到潜在诈骗域名。

（2）域名拓展

域名拓展是在活跃域名全集中发现潜在诈骗网站，这意味着域名的发现已经滞后于用户的访问，属于事后发现。域名拓展模块的引入可以弥补域名发现模块的不足，甚至可以在现网监测到用户访问行为前发现潜在诈骗网站，实现诈骗网站的事前治理。

诈骗网站智能识别中的域名发现与域名拓展示意图

(3）内容取证分析

内容取证分析是从潜在诈骗域名的网站内容进行综合分析，从而筛选出高度疑似的诈骗网站，并将相关爬取内容作为判断依据提交人工审核。在爬取网站的过程中，需要爬取网站的文本信息、源码信 息、图片信息，另外需要对网站的最终渲染效果进行截图。在得到网站内容信息后，内容取证与分析模 块分别从文本、源码、图片、视觉等多个维度对网站进行诈骗分析，并将高度疑似的诈骗网站提交到人工审核平台。

诈骗网站智能识别中的内容取证分析示意

（4）人工审核与特征反哺

人工审核来自取证分析模块输出的疑似诈骗网站，并通过人工查看证据信息最终确定网站是否为诈骗网站。对于诈骗网站，人工向域名封堵模块下发封堵指令。经过人工审核判定为诈骗或正常的域名信息会反哺给域名发现与拓展模块和内容分析取证模块中的相关人工智能模块进行更新和矫正。

（5）域名封堵

为了能够有效防止用户访问诈骗网址，域名封堵模块将判定为诈骗域名加入拦截名单，当有用户请求拦截名单中的域名时，则中断用户请求，并向用户请求重定向到安全提示页面。