夜读 第1️⃣8️⃣8️⃣天｜承认“我不知道”

对人类根本无法理解的计算机神话，我们如何探究与纠正？可能的一种防范方式是训练计算机时时注意自己是否出错。正如苏格拉底所说，承认“我不知道”是通往智慧的重要一步。人类智能如此，计算机智能亦然。所有算法都该学的第一课，正是自己也可能犯错。

“算法宝宝”应该学会怀疑自己，不确定就承认不确定，并且遵守预防原则。这是有可能做到的。在鼓励人工智能自我怀疑、寻求他人意见、承认自己的错误这几个方面，工程师已经取得了长足的进步。

就科技在历史上之所以常常带来灾难，并不是科技本身有什么问题，而是人类得花点儿时间才能学会善用科技。

有时候，大家想到新科技，会以为只能在有无之中做选择。想要更好的医疗保健，就必须牺牲隐私。但事实并非如此。我们可以，也应该在依然保有部分隐私的情况下，争取到更好的医疗保健。

相互监督是维持自我修正机制的另一个重要因素。如果公民能更了解政客与企业家都在做些什么，也就更容易追究责任、纠正错误。

监控系统必须永远保留让人改变与休息的空间。在人类历史上，压迫的形式分为两种：剥夺改变的能力和剥夺休息的机会。

人生在世，要学会在“提升自己”与“接受自己”之间找到平衡。如果弹性算法的背后是野心勃勃的政府和残忍冷酷的企业，算法就可能成为一位暴君，无情地要求我们少吃多动、改变喜好、调整习惯，否则就要和我们的上司打小报告，或者降低我们的社会信用评分。

史上有各种严苛的种姓制度，总在否认人类改变的能力，也有许多独裁者，妄图重塑人类，如同捏塑黏土一般。在这两种极端之间找到正确的路，是一项永无止境的任务。

我们如果真的决定允许国家的医疗保健制度对我们拥有强大的支配权，就必须同时为它安排强大的自我修正机制，才能避免算法太过刻板僵化或者太过苛刻。