近年来，以大模型为代表的人工智能迎来新的发展浪潮，正以前所未有的速度深入渗透经济社会发展的方方面面，贴近每个人的生活和工作，深刻重构着人类社会生产力和文明形态。习近平总书记指出，人工智能是新一轮科技革命和产业变革的重要驱动力量，将对全球经济社会发展和人类文明进步产生深远影响。
图为2024年11月15日，天津大学脑机接口专业方向首批本科生在脑控系统研发与集成应用实验室内上课。 新华社记者 李然/摄
安全是发展的前提，发展是安全的保障。很多技术都是“双刃剑”，一项新技术的突破，在带来生产力跃升的同时，往往也伴随着潜在风险。发展人工智能必须遵循技术演进规律，守牢国家安全底线。
近年来，生成式人工智能的广泛应用改变了多个行业的生产模式，同时也带来不少问题和风险。例如，生成式人工智能在内容创作领域的爆发式创新，可能引发深度伪造、信息操纵等安全威胁。在意识形态方面，大模型在数据投喂、算法训练等环节易受到操纵，出现污染投毒和算法偏见等问题；在教育科研方面，各种人工智能生成内容质量良莠不齐，人工智能辅助完成的课业和学术研究减少了批判甄别和分析研究过程，会产出更多虚假信息和学术垃圾；在生产经营方面，人工智能的深度应用易出现数据合规风险、版权侵权、商业秘密泄露等问题。
因此，人工智能发展必须做好安全可控与创新发展的动态平衡，把握好技术进步速度与社会风险承受能力的关系，既不能因恐惧风险而一味“踩刹车”，错失人工智能对生产力革命性提升的机遇，也不能因追求创新而只顾“踩油门”，让社会陷入“技术失控”的困境。唯有以安全可控为锚点，以创新发展为引擎，才能在保障国家安全、产业竞争力和社会福祉的同时，推动人类文明向更高阶形态跃迁。
更多内容详见：中国国际工程咨询有限公司党委书记、董事长苟护生文章《关于人工智能发展的几点思考》
（策划：梁佩韵 审核：李艳玲）
