您的位置首页 >企业 >

巴比伦健康对AI聊天机器人的安全问题提出了强烈要求

导读 给大家分享一篇关于 和手机的文章。相信很多朋友对 和手机还是不太了解,所以边肖也在网上搜集了一些关于手机和 的相关知识

给大家分享一篇关于 和手机的文章。相信很多朋友对 和手机还是不太了解,所以边肖也在网上搜集了一些关于手机和 的相关知识与大家分享。希望大家看完之后会喜欢。

有争议的医疗应用制造商巴比伦健康(Babylon Health)批评了这位医生,他首先对自己的AI聊天机器人的安全性提出了担忧。

巴比伦健康公司的聊天机器人可用于该公司的GP at Hand应用程序,这是卫生部长马特汉考克倡导的数字医疗解决方案,自去年以来也已集成到三星健康中。

聊天机器人的目的是通过自动分诊来判断家里是否有人可以治疗。GP需要网上或亲自预约或直接去医院,减轻了GP和AE部门的负担。

推特用户在2018年第一次以墨菲博士的化名联系我们,声称巴比伦健康聊天机器人正在提供不安全的建议。墨菲博士最近被揭露为大卫沃特金斯博士,并在皇家医学协会的《2020年人工智能和数字健康的最新发展》中发表了他的发现,还出现在BBC新闻之夜的报道中。

在过去的几年里,沃特金斯博士提供了许多聊天机器人提供的危险建议的例子。在一个例子中,一个肥胖的48岁老烟枪被建议有胸痛,他建议“在接下来的几个小时内”咨询。任何有常识的人都会告诉你立即打紧急电话。

这个特殊的问题已经得到了纠正,但沃特金斯博士多年来强调了许多其他例子,这些例子清楚地表明存在严重的安全问题。

在周一的一份新闻稿中,巴比伦健康中心称沃特金斯博士为“巨魔”。他“针对我们的员工、合作伙伴、客户、监管机构和记者,并发布了关于我们的诽谤性内容”。

根据新闻稿,沃特金斯博士对聊天机器人进行了2400次测试,以抹黑这项服务,同时改进了“他认为涉及的测试结果不到100个”。

根据巴比伦自己的“高级临床医生小组”,巴比伦健康声称只有20例沃特金斯医生发现了真正的错误,而其他的都是“错报”或“错误”。

在接受TechCrunch采访时,沃特金斯博士表示,巴比伦的说法“完全是胡说八道”,并质疑这家初创公司从哪里获得的数据,因为“绝对没有2400份完成的分类评估”。

沃特金斯博士估计,他已经进行了800到900次综合分类,其中一些是重复测试,看看巴比伦卫生局是否解决了他之前强调的问题。

医生承认巴比伦健康的聊天机器人有所改进,出现问题的概率约为三分之一。2018年,沃特金斯博士第一次联系我们和其他机构时,他说比例是“一比一”。

本文就为大家讲解到这里了。

标签:

免责声明:本文由用户上传,如有侵权请联系删除!
Baidu
map