AI、机器学习等新兴技术为医疗行业带来各种新的机遇，同时也影响着人与医疗设备的交互方式。当然，我们从这些新兴技术中获益良多，例如它实现了医疗护理场地的转移—患者可以在家中自主地选择护理方式，也从而减轻了医院的负荷。此类技术的应用提高了临床试验的效率、减少了书面工作和不必要的流程，以简取胜。
尽管如此，对于将现代科技引入医疗行业的创新之举，我们还是心存顾虑的，不是么？医疗行业中不能依赖自动化/人工智能功能的因素究竟有哪些？这也许不是用一句话能简单说明白的—人类也肯定不会让机器来左右患者的生死。在高度法规化的环境下，医疗改革的成本是非常昂贵的同时，我们也需要考虑到新技术的可行性。我们仍然在探索如何实现将创新的因素（例如特定的计算机算法）引入到解决方案里，却无法预知这些改变带来的看似随机和突然产生的副作用。所以在一切变化的开始之前，我们肩负着重大的责任，万事都要再三斟酌。
那么，如何增加大众对现代医疗科技的可信度？如何得到治理及法规许可？现实生活中，我们时常因为软件出错而恼怒，若这些失误出现在医疗事件中则会引起严重的结果：患者得到错误的诊断信息而导致错误的医治—或因此而受到进一步的伤害。这些衍生的影响往往不是立即显现的，或者只对特定人群的才有影响。尽管并没有人想阻碍新技术在医疗领域的推动，我们有必要尽力尽责去探索考量能触及的深度广度，为公众利益与医疗安全保障采取有效措施。
谁将承担责任？
我们需要明确地定义所谓系统的范围和负责人，比方说，所谓的“智能”技术可能一项通过在服务器上，启动和关闭数据共享和连接的运用。这在本质上是多固有区域间的活动，所以我们很难准确理解这项技术是如何运作并保证其安全性—出现问题由谁负责？这类系统并不是静态的，相互之间存在着依赖性和交互作用—它们也许已经过测试，但我们仍然心存疑问：如何测试？测试了什么？测试了哪个部分？为什么测试？作为一名网络技术的使用者，我们可能会发现自己在询问关于源头的问题。正如我们永远看不到软件的源代码，我们不会遇到代码的编写者，也无从知晓软件的代码是否被正确地编写（即：它是否按预期地进行工作）。我们也不知道软件何时编写，为什么被编写，最新一次被更新的时间，它能接收何种输入，以及它是如何实现既定的输出/计算。我们每天都在遇到这种情况：无法知晓我们使用的大多数系统是如何工作的—但我们却相信它不会对我们造成任何伤害。这些依据在哪里？我们又该如何测试和评估这些系统？如何为医疗提供适当的保障水平？
近几十年来，技术发展日新月异，但公众对于新技术的运用（尤其是在医疗领域）及大规模数字化的广泛影响力的理解是滞后的。这类技术的诞生对大众产生的深远影响不免让人深思：社会大众的知情程度如何？我们对医疗技术运用的正面及负面影响了解程度有多少？也许某项技术并不符合人类的最佳利益—它们可能替代了现实生活中的人类接触，在特定数情况下还可能是不安全的。
图片来源: Stock
从GPS、计步器、社交媒体和互联网中获取这些共享数据，使得在过去无法真正实现的个人信息管理及数据追踪成为了可能。通过AI/ML/大数据进行资源的合并，我们生成的数据定义了我们是谁和我们做了些什么。实际操作上，我们是可以通过这些技术实现撤销匿名制（尽管目前是被禁止的）。从医疗的角度来看，我们并不了解这些大数据是如何被使用的—我们是否可以通过数据来筛选低风险的病患人群或对高危人群作出放弃治疗的判断？也许最令人担忧的是，我们几乎没有办法知道发生了什么，发展到了什么程度。随着医疗变革的同时我们对其原因、方式和责任人的信息知之甚少。我们甚至无法判断在哪些情况下，虚拟技术替代了面对面或人类接触是不合适的。
在一项近期公布的病例中，一位医生如何通过机器人告诉患者他将死亡的真实情形。临床医生（通过机器人）向患者陈述：“你已经没有肺部了，因此只能选择舒适护理，摘下你的呼吸面罩，用吗啡来止痛吧，你马上就要死了。”这个病例显然引起了很多争议—例如机器生硬的口吻完全没有人情味，在这样特殊的情况下，人与人之间的互动是那么地重要。技术永远不能替代人类接触，我们需要在这件事上要小心谨慎。随着计算系统能力和功能的不断增强，在这样一个更具争议性的场景中（机器人将在没有临床医生陪同的情况下预测人类何时死亡并传递此信息），人类难道会倍感轻松？
图片来源：BBC
透明度
另一个极具争议的是人工智能系统的安全性。虽然我们在自动化领域已经建立了跟踪记录的功能，但是新形态的技术时刻挑战着传统方法。人工智能系统对环境敏感高（例如，系统的功能取决于输入的属性，可随时间变化而发生改变）。就编程/实现方式而言，这类系统可能是次优的：因为系统可能获得了有限/不完整/映射不良的数据。这种情况，测试的时间和使用时间会产生不同的结果。计算机系统也有可能因为利润而被故意误导，也可能遭到黑客攻击和劫持。随着系统规模的扩大，潜在的危害也会增加。我们并不知道这类技术是否允许被监控（我们是否有办法知道什么时候出了问题？）；传统的预警机制可能发挥不了作用（个体可能并不知道个人数据遭丢失，却会受到影响）。
通过提出这些有争议的问题，我们并不就这些技术的可用性进行评论，而是想在此提出了一个观点：即信息的透明度对推动医疗改革是有利的。当下关注智能化医疗主题的探讨日益增多，而作为医疗器械制造商和制药/技术公司如何切实参与？与此同时，医疗领域的可用资源越来越多（详见下表），可是受其影响的行业范围有多大？PDD希望鼓励公众、医疗社区与医疗行业在公平透明的环境下，共同推动医疗发展。
本文来自 Chris
首席 – 人因及可用性研究
语言:
英语 (本地用语).
最后一件启发我的事情:
目睹了一场伦敦航空救援飞机着陆画面.
上一件启发我的事:
医疗领域使用的手持数据分析仪.
令我迷恋的事物:
跑步.
图片来源 Stock
