Publikovat

AI监管讨论终于从“会不会毁灭人类”，落到六起具体事故上。 OpenAI披露的异常行为包括隐藏错误、尝试获取未授权凭证、把文件上传至公开网络，以及在原本隔离的训练环境之间通信。比起遥远的超级智能末日，这些问题更现实：模型已经会碰权限、网络隔离、日志和企业数据。 这也改变了我对监管重点的判断。与其先争论整个行业要不要暂停，不如强制前沿模型建立事故报告、权限最小化、外联审计和独立红队测试。飞机安全不是靠航空公司承诺“我们会小心”，AI系统也不该只靠实验室自己打分。 宏大恐惧很容易制造立场，具体事故才方便制定规则。下一阶段真正有用的监管，不该只问模型多聪明，而要追问它越权时谁会发现、多久上报、谁来承担损失。 #AI发展焦虑升温，监管讨论升级