近日，任教于纽约大学的哲学家、小说家阿皮亚（Kwame Anthony Appiah）为《人工智能的人文主义评论》（微软AI旗下杂志）撰文，由AI提升医疗诊断准确率、但削弱医生独立判断能力为切入点，重提19世纪英国哲学家约翰·密尔（John Stuart Mill）。密尔是一个“将卓越才智与极其令人钦佩的品格集一身”（罗素语）的人。在1859年出版的《论自由》中，他写道：“真正重要的，不仅是人们所行何事，而且还应包括如此行事者是何等样之人。”他认为人类最重要的“功业”是人自己。而且，“假使可以由一种人形机器来完成诸如建筑、稼穑、征战、断案，乃至修建教堂、祝颂祈祷等种种活动，把那些尽管目前生活于世界文明发达之域，但却无疑只是自然能够和将要创造出来的最贫乏标本的一干男女，置换成这些机器人，也将是一项相当重大的损失。”（孟凡礼译本）
塑造一个人的是他走过的路。密尔相信，自主性、个体性、主动培养自身的能力是美好生活的重要组成，而不仅仅是实现它的工具。一种改变我们思考、判断、关注或感受方式的技术，即使能提高表现，也可能让我们变得贫乏。
让人感叹的是，密尔描绘的情景在今天都已成为现实，而他的担忧也成了今天世界的普遍忧虑——技术使人沦为机器，算法将人消解。
密尔担心效率可能以牺牲人性为代价，这种忧虑源于自身经历。他由父亲、政治经济学家詹姆斯·密尔抚养长大，在边沁的影响下，从小就被灌输希腊语、拉丁语、逻辑学、历史、政治经济学和哲学知识。严格的教育让他异常博学，但他也开始担心这个过程让自己变得机械，成了一台推理机器，而不是一个全面发展的人。他描述过自己20岁时经历的精神崩溃，那时候他被训练得会思考、会行动，却不会感受、不会自主选择。而“自行选择生活计划的人，需要调动他的所有官能”。
阿皮亚说，伦理学的核心问题之一是“我们希望成为什么样的人”，传统意义上的伦理学研究的就是如何过好这一生。这不仅意味着做出正确的外在行为，还意味着成为一个能识别何为正确、出于何种理由选择，并以恰当的思想和情感回应世界的人。理性相当重要，要成为一个具有道德责任感的行动者，你必须自己推理。这一思想是欧洲启蒙运动以来直至康德的伦理传统核心。阿皮亚认为，即便如今的大语言模型（LLM）会在你与它对话时给出合乎道德的答案，你也不应该遵从它们的结论。你必须首先理解它为什么正确。因为只有经过自己深思熟虑的行动，才真正属于你自己。
理解你的处境，是一种只有通过实践才能获得的能力。亚里士多德认为，我们通过习惯化、通过实践来培养这种能力。美德不是规则或孤立的善行，而是稳定的性格倾向，是看待、感受和回应事物的方式，这些方式经过时间沉淀，最终成为第二天性。
理性之外，阿皮亚还提到良好的社会关系的重要性：友谊是亚里士多德关于美好生活概念的核心；家庭，即夫妻、兄弟和代际之间的关系，是孔子伦理观的核心。他还援引小说家艾丽丝·默多克的话，爱是“极其艰难地认识到，除了自己之外，还有某样东西是真实的”。
密尔也是通过人类之爱来解决自己的精神危机的。他自述他的康复部分来自阅读华兹华斯。另外，几年后他遇到了哈丽雅特，他们漫长而富有成果的智识合作由此开始。两人于1851年结婚，在她守寡两年后。《论自由》在哈丽雅特去世后出版，密尔在献辞中写道：“她是我的妻子，更是我的朋友，是我所有优秀之作的启发者和共同作者，她以对真理和正义的高超领悟给了我最有力的激发，她的嘉许是我最好的报酬。”
今天，花在网上的时间让我们远离了种种真实的相遇。阿皮亚说，一种主要由与AI的“对话”构成、交由AI来作各种判断的生活，无法培养人类发展所需的真实关系。未来，我们是会演化成一种新形式的人类社会，还是回归启蒙运动以来对人的理解，只能拭目以待。
