大模型狂奔：别等事故发生才谈AI安全

文章通过对比技术导向的开发者大会与哲学思辨的AI读书会，深刻指出在大模型技术飞速普及的当下，人工智能的伦理与安全问题已刻不容缓。作者强调了人类对AI的过度期待以及人机责任边界的模糊性所带来的风险，并以智能汽车和智能生成内容领域为例，呼吁社会应主动进行AI认知科普并建立风险控制机制，而非被动等待严重事故发生。

大模型普及与技术发展趋势

• 端侧大模型崛起： 阿里魔搭开发者大会吸引近千人，清华教授预测未来手机电脑端专属小模型有望达到GPT4o水平。
• 应用加速： 无论是基座大模型还是本地端测模型，大模型正迅速成为生活和生产中的标配。

人工智能伦理与安全挑战

• 价值观困境： 北大《为机器立心》读书会探讨AI价值观，朱松纯老师的价值体系虽完善却难服众，凸显“世界模型”与“世界价值观”的矛盾。
• 伦理与安全迫在眉睫： 随着大模型普及，最基础的伦理和安全问题（如人机协同责任边界）已非常紧迫。
• 人类的“AI幻觉”： 比AI幻觉更可怕的是人类对AI的不切实际幻想和期待，亟需进行人工智能认知的科普。

智能汽车安全案例解析

• 用户过度期待： 智能汽车安全事故（如小米汽车事件）暴露出人类对智能的过高期待，以及对人机协同责任边界的认知不清。
• 过度营销与媒体责任： 汽车厂商对自动驾驶的过度营销和媒体报道解读不够冷静，加剧了用户认知偏差。
• 行业认知修正： 血的教训促使汽车厂商已将“智能/自动驾驶”修正为“辅助驾驶”，营销上更为克制。

智能生成内容 (AIGC) 的安全隐患与国内外对比

• 严重安全问题： 智能生成内容领域已存在非常严重的安全问题。
• 国外主动风险管理： 国外媒体在使用人工智能时，优先考虑风险控制和伦理规范，安全意识较强。
• 国内被动应对模式： 国内可能需等到出现严重错误后，监管层面才会启动自上而下的运动式整肃，缺乏事前防范。