登录

序

习近平总书记指出：“人工智能是引领这一轮科技革命和产业变革的战略性技术，具有溢出带动性很强的‘头雁’效应 ”“面对新一代人工智能技术快速演进的新形势，要充分发挥新型举国体制优势，坚持自立自强，突出应用导向，推动我国人工智能朝着有益、安全、公平方向健康有序发展 。”在人工智能加速赋能千行百业的今天，其技术迭代日新月异，应用场景层出不穷，不仅催生了无限机遇，也伴生了深度伪造、算法偏见等一系列新型安全风险。科技革命与大国博弈相互交织，面临前所未有的机遇和挑战，国内相关研究却尚显不足。

《人工智能安全概论》基于总体国家安全观视阈，聚焦人工智能安全主题，以战略视角剖析人工智能可能带来的安全风险挑战，着眼人工智能安全、可靠、可控，提出了前瞻预防和约束引导策略，为保障人工智能健康发展贡献了真知灼见。本书由两位青年学者跨界合作，构成了值得推崇的鲜明特色与核心优势。刘光宇研究员长期任职于北京市科学技术研究院，担任《科技智囊》副总编辑，近年来连续主持国家和省部级重点基金项目，研究方向是统筹发展和安全，在《光明日报》《科技日报》等权威媒体发表论文多篇；刘恒同志博士毕业于中国人民大学经济学院，立足于常年积累的多层次党政机关工作经验，政策理论水平较强，其学术成果的参政资政价值尤为突出。这种“理论深度+实践维度”的双重赋能，让本书既避免了纯学术式的晦涩空泛，又摆脱了纯实践的碎片化局限，实现了从基础原理到治理路径、从技术风险到制度保障的全栈覆盖。

整体而言，本书作为我国人工智能安全研究领域的“吃螃蟹者”，界定了基本研究范畴、搭建了基础理论框架，较为深入地探讨了人工智能安全“是什么”“为什么”和“怎么办”等一系列重要问题，开风气之先，觉耳目一新。本书不仅为高校和科研机构相关专业人才培养贡献了系统规范的教学范本，也为普通民众了解人工智能、关心人工智能安全提供了通俗易懂的科普读物。同时，它既回应了“人工智能+”行动对安全人才的迫切需求，也为推动中国建设自主可控的人工智能安全体系思考了系统化实践路径。

相信这部兼具思想性与实用性的著作，必将助力我国人工智能安全领域的学科建设与人才培养，为筑牢国家安全屏障、推动人工智能高质量发展贡献重要力量。

是为序。

2025年12月

于新疆兵团塔里木大学