博鱼2024年是总体国家安全观提出十周年，也是开辟国家安全工作新局面的十周年。十年来，以习同志为核心的党中央把国家安全作为头等大事，着眼于中华民族伟大复兴战略全局和世界百年未有之大变局，对国家安全作出全面战略部署。人工智能赋能国家安全相关领域，是筑牢国家安全屏障的有力抓手。作为新时代青年，必须积极有效应对人工智能安全风险挑战，推动人工智能健康安全发展，为人工智能安全筑牢“青春防线年，“互联网+”一词首次被写入《政府工作报告》；2017年，“人工智能”一词首次出现在《政府工作报告》；2019年，“智能+”一词首次被写入《政府工作报告》；2024年，《政府工作报告》不仅三次提到“人工智能”，更首次提出了开展“人工智能+”行动，强调“深化大数据博鱼、人工智能等研发应用，开展人工智能+行动”，促进人工智能为新质生产力提供核心驱动力。当前，人工智能创新成果不断涌现，发展前景日益广阔，在医疗、教育、制造业、金融等各个领域广泛应用，对经济社会发展产生深远影响，成为国家安全的新兴领域。
人工智能创造发展机遇的同时，一系列安全挑战也随之产生，小到个人隐私泄露和数据保密性差等问题，大到事关国家安全格局的潜在风险挑战。据统计，2023年基于AI的深度伪造欺诈暴增了3000%，基于AI的钓鱼邮件数量增长了1000%。人工智能已成新型攻击工具，相关的网络攻击频次越来越高。
2024年1月4日，2024 ASC世界大学生超级计算机竞赛（ASC24）启动会现场。新华社记者 温竞华 摄
一是算法模型风险。算法是人工智能的核心，存在安全风险隐患，可能导致数据泄露等安全问题。算法模型具有模型的准确性与鲁棒性的矛盾缺陷，鲁棒性提高可能导致模型准确性下降。二是“数据投毒”风险。“数据投毒”指的是在人工智能训练数据中攻击者投放虚假、恶意或有害样本数据，导致模型训练出现错误结果，从而降低了数据的可靠性与真实性。三是数据窃取风险。人工智能进行海量数据的处理和训练，数据获取和传播便捷性提高的同时，信息的安全风险问题更加突出。一些涉及用户敏感信息的数据一旦被窃取，个人隐私权就会遭到侵犯。人工智能甚至成为不法分子用来窃取国家机密的工具，对国家安全造成严重危害。
应用安全风险。一是经济安全风险。人工智能技术在一定程度上会成为人力工作的“高效替代品”，进而对国家经济安全、社会安全甚至政治安全造成冲击；人工智能技术也可以被用来实施经济破坏活动，例如通过操纵宣传导致金融市场恐慌。二是网络安全风险。人工智能成为不法分子进行网络攻击的“帮凶”博鱼。网络攻击的手段更加多样，隐蔽性和针对性更强，引发一系列亟待应对的网络安全挑战，互联网空间逐渐变成人人自危的“潘多拉魔盒”。三是伦理道德安全风险。受主观和客观等多种因素影响，人工智能技术带来一系列伦理道德安全风险，包括道德算法风险、道德决策风险和隐私数据泄露风险等。习强调：“要加强人工智能发展的潜在风险研判和防范，维护人民利益和国家安全，确保人工智能安全、可靠、可控博鱼。”如何在把握人工智能发展主动权的同时处理好相应的安全风险，并为国家安全筑牢科技防线，已经成为我国国家安全治理亟需解决的议题。
2024年3月29日博鱼，观众在2024中国医学装备展览会上参观手术机器人。新华社记者 王全超 摄
AI带来的安全问题，也可以用AI来解决。一是青年科技工作者要积极致力于构建AI技术的智能安全防御系统，通过先进的防御技术，更有效地预测、跟踪和阻止网络攻击博鱼。同时，及时关注用户需求反馈，通过用户调研、测试等方式，针对性地探索模块化和可视化的方法，不断优化AI系统的可解释性，以提升人工智能系统的安全防护能力。二是青年科技工作者要助力构建“安全的AI”，通过选择合适的价值观，将价值观编码到AI系统中，并选择合适的训练数据，使得AI系统的目标和人类的价值观与利益保持一致。同时，通过引入噪声鲁棒训练，向数据中注入噪声并强制网络处理这些噪声，使得模型对于噪声数据具有更好的适应性，从而提高AI模型的鲁棒性与安全性，使其更好地服务于实际应用。三是青年科技工作者要积极参与人工智能设计和开发，研究各种潜在的攻击方式和漏洞，了解黑客如何利用技术漏洞进行恶意操作，并据此更好地预防和应对潜在的安全威胁。
青年教师要强化人工智能安全引擎。一是青年教师要增强自身人工智能安全素养，积极学习人工智能安全相关知识和技术，了解人工智能的安全风险、攻击方式，并掌握其应对策略。通过不断学习和更新人工智能安全知识，更好地理解人工智能安全问题，为人工智能安全教育教学奠定扎实理论基础。二是青年教师要在教学实践中注重培养学生的人工智能安全意识和相关技能。结合具体案例和自身实践经验，向学生教授人工智能安全知识，引导学生树立正确的人工智能安全意识，掌握人工智能的安全防护策略。三是青年教师要密切关注人工智能安全领域的相关法律法规、政策文件和伦理规范，自觉遵守相关规定要求，推动人工智能的安全应用符合政策法规和道德标准。
青年学生要守护人工智能安全疆域。一是青年学生要加强人工智能相关知识的系统学习。通过算法模型、机器学习等人工智能基础理论学习，深入理解人工智能的原理和运行特点。通过学习计算机安全、网络安全等相关知识，判断人工智能的潜在风险和掌握常见的防御技术。通过阅读人工智能安全领域的学术期刊，了解该领域政策与法规等，获取人工智能的最新研究成果与研究进展趋势。二是青年学生要增强人工智能相关能力素养。一方面要增强人工智能应用意识。对人工智能秉持积极开放的态度，在合乎道德和法律的框架内，遵循一定的学术规范，科学合理使用人工智能，规避人工智能安全风险等潜在问题。另一方面要提高人工智能安全意识。在使用智能工具的同时，要具有对个人隐私的自我保护能力，进行隐私保护设置，防止隐私信息泄露。还要深刻认识到人工智能自主可控技术对国家安全的重要性，重视人工智能安全，尊重他人知识产权，并进行自我约束。三是青年学生要提升人工智能应用能力，积极参与人工智能安全科研项目，接触人工智能相关研究，深入了解目前人工智能安全面临的实际挑战，研判和防范人工智能的潜在风险，为确保人工智能安全贡献青春力量。
简历投递
商务合作
媒体垂询微信二维码微博二维码
