让自动化更安全
文|李峥 lizheng@vogel.com.cn
3 月10 日，埃塞俄比亚航空公司一架波音737 MAX 8 客机在飞往肯尼亚途中坠毁，机上有149 名乘客和8 名机组成员，作为波音737 MAX 8 在半年内出现的第二起严重事故，紧随其后的全球禁飞则必然对波音公司影响深远。波音737 Max 客机最初是在20 世纪60 年代设计的，并进行了三次现代化升级，新型737 Max 飞机拥有不同于以往737 机型的引擎——更强大、更高效。但由于这些新引擎在外形上比之前的版本更大，它们安装在机翼上的位置与之前的737 系列略有不同。对737 Max 防失速系统（MCAS 系统）的数字化改造，越来越被怀疑是导致总计347 人丧生的坠机事故的罪魁祸首。
自动化技术诞生之初的目的是为了减少人工，提高效率，随着技术的进步，自动化的应用也从最初的工业制造拓展到家居、交通等衣食住行的各个领域，数字化与人工智能又让我们对未来有了更多想象的空间。然而，安全问题始终应放在首位。
技术的变革也让安全的内涵发生变化，从最初的设备安全、人身安全、信息安全，到数字化时代的算法安全。专门研究专家和直观决策的心理学家格里·克莱恩（Gary Klein）总结称，“算法在决策上的广泛采用使得人们难以查纠失败的真正原因。随着人们越来越依赖于算法，其对问题的判断力和洞察力都会受到影响。这个过程形成了一个恶性循环。当我们越是习惯于通过算法做决策，对于外界环境就越是被动。”
人机协作，人是核心，而并非是人可以被机器所替代。自动化与智能化技术发展是为了帮助人类提高效率，提供更好的服务，而安全是一切的前提。在我们越来越多考虑个性化、定制化、节能与高效等诸多诉求之前，请先确保人身、设备、系统和数据的安全。
本文来源: https://www.lw33.cn/article/63b194f43b99635f5423b6a1.html