在所有领域中，很少有像医疗这样对人工智能寄予厚望的，也很少有像医疗这样需要格外谨慎的。希望是真实的：人工智能系统可以帮助整理信息、辅助分诊、减轻行政负担，把专业知识带到缺少专科医生的地方。但医疗也是这样一个领域：错误往往落在人们最脆弱的时候，数据格外敏感，信任一旦失去就极难挽回。
因此，问题不在于人工智能会不会在医疗中发挥作用，它已经在发挥作用。真正的问题是，它应当扮演什么样的角色，以及需要满足哪些条件，这个角色才能改善医疗，而不是让它变得更复杂。
人工智能为何受到青睐
世界各地的医疗体系面临着相似的压力。随着人口老龄化和慢性病增多，需求不断上升。医护人员的时间十分紧张，其中相当一部分又被病历记录和行政事务占用。城乡之间、贫富社区之间，以及善于应对复杂体系的人和不善于应对的人之间，医疗服务的可及性并不均衡。
患者也面临着自己的难题。出现症状时，许多人并不清楚该去急诊、预约门诊，还是在家观察。有人延误了需要的治疗，也有人为原本可以用其他方式处理的情况去挂急诊。两种结果都有代价，对个人如此，对整个体系也是如此。
这些压力解释了人工智能的吸引力。软件能够以人力无法企及的方式规模化，设计良好的工具可以帮助把稀缺的临床资源引向最需要的地方。
人工智能真正能帮上忙的地方
有几类应用看起来尤其有前景。
第一类是就医入口处的引导。人工智能辅助的症状评估工具可以提出结构化问题、收集相关病史，帮助人们了解合理的下一步，从自我护理建议到建议尽快就医。其目的不是诊断，而是帮助人们更早地获得合适层级的医疗服务。
第二类是对临床工作流程的支持。归纳患者病史、整理接诊信息、起草供医生审阅的病历文书、提示相关诊疗指南，都可以为医护人员节省时间，同时又不会把他们的判断排除在外。
第三类是可及性。以移动端为先、使用患者母语的工具，可以触达那些原本难以获得基本健康信息的人群。在阿拉伯世界，从一开始就针对阿拉伯语及其方言设计的工具，能够填补许多面向全球开发的产品留下的空白。
第四类是系统层面的洞察。经过汇总并妥善保护的数据，可以帮助医疗机构把握需求规律、规划资源，并发现新出现的需求。
必须守住的边界
上述每一种机会都伴随着风险，这些风险应当在设计阶段就加以防范，而不是事后才发现。
人工智能系统可能在高度自信的状态下出错。在医疗领域，工具应当表达不确定性，在存疑时转交给人，并尊重临床判断。一个让重症患者误以为无碍的系统，造成的危害可能比没有系统还大。
模型可能带有偏差。如果训练数据中某些人群代表性不足，模型对最需要改善医疗可及性的人群，表现可能恰恰更差。因此，必须针对工具所要服务的各类人群进行评估。
健康数据是高度私密的。负责任的系统只收集必要的信息，取得明确的同意，以强有力的安全措施保护数据，并公开说明数据的用途。
最后，监管至关重要。在许多司法辖区，用于辅助临床决策的软件被作为医疗器械进行监管。满足这些要求并不是繁文缛节，而是社会核实一项工具是否安全的机制。
可信赖的医疗人工智能：设计原则
由此可以归纳出一套适用于这一领域所有从业者的原则。
辅助而非取代。人工智能应当加强医患关系，而不是替代它。
先验证，后部署。关于准确性和效果的说法，应当建立在真实场景下的严格评估之上，最好与临床机构合作完成。
为转诊而设计。每一条使用路径都应当有通往人工诊疗的清晰通道，触发转诊的标准应当偏向安全。
数据最小化并加以保护。隐私保护应当是架构层面的决定，而不是一份政策文件。
贴合用户的语言和环境。可及性包括语言上、文化上和经济上的可及。
融入医疗体系。游离于临床流程之外的工具往往会造成割裂；在符合相应标准并获得批准的前提下实现整合，则可以减少割裂。
如实说明状态。清楚区分哪些是设想，哪些正在测试，哪些已经得到验证。
机构层面的挑战
医疗人工智能不只是技术挑战，也是机构层面的挑战。医院、卫生主管部门、保险机构和行业组织，都在决定工具如何被采用、如何治理、由谁付费的过程中扮演着角色。成功的项目往往会尽早让这些相关方参与进来，与国家数字健康战略保持一致，并为与现有信息系统的整合做好规划。
本地区部分国家的大规模数字健康平台得到迅速普及，这表明只要数字健康服务可靠、有用、值得信赖，人们就会使用。这一经验为下一代智能工具提供了基础，也提供了标准。
从哪里开始
对于进入这一领域的创始人、投资者和机构来说，起点相当明确。
从一个范围明确、价值较高的应用场景入手，确保收益清楚、风险可控。
把临床专家纳入核心团队，而不只是请来担任顾问。
尽早与监管机构沟通，了解所属产品类别的审批路径。
衡量对患者和医护人员真正重要的结果，而不只是用户活跃度指标。
为负责任的医疗创新所需要的漫长周期做好准备。
以信任衡量成败
人工智能有望让医疗服务更可及、更高效、反应更及时。但最有价值的医疗人工智能，未必是最引人注目的那一个，而是最值得信赖的那一个：清楚自己的局限，保护自己的用户，赢得与之共事的医护人员的信心。那些从一开始就以这样的标准要求自己、而不是事后补课的项目，最有可能为更健康的未来作出贡献。
本文为分析与观点文章，不引用访谈，也不发布任何公告。