共计 1051 个字符,预计需要花费 3 分钟才能阅读完成。
HeHealth 的 AI 驱动应用 Calmara 曾宣称:“我们的创新 AI 技术提供快速、保密且经过科学验证的性健康筛查,让您在亲密接触前安心无忧。”然而,该应用在联邦贸易委员会(FTC)的调查后已关闭。
根据 7 月 11 日的一封 FTC 信函,该应用提示约会者提交私密照片以检查性传播感染,并承诺“关于您伴侣性健康状况的明确、基于科学的答案”。信中指出,FTC 对 HeHealth 所依据的信息提出了一些担忧,包括其声称能够以高达 94% 的准确率检测超过 10 种性传播感染。
FTC 指出,HeHealth 支付了多位研究作者的费用,公司引用的主要研究仅评估了四种性传播感染而非十种,用于训练 AI 模型的数据包括从未进行诊断测试以确认结果的用户图像。
鉴于世界卫生组织指出大多数性传播感染是无症状的,医疗专业人士对应用策略的可靠性提出了质疑。《洛杉矶时报》的一项调查发现,Calmara 甚至无法辨别无生命物体,并且未能识别“教科书式图像”的性传播感染。YouTube 视频显示,Calmara 向女性推销以审查她们的约会对象,这引发了关于同意的明显问题,尽管 3 月份的新闻稿坚称该应用需要“明确同意”。
使用相同 AI 的 HeHealth 应用更多地被宣传为个人在联系医疗提供者之前的初步步骤。
公司同意在 7 月 15 日前关闭这两款应用,Calmara 的网站和指向 HeHealth 应用的链接似乎已下线。FTC 表示,公司还同意删除通过应用或支付供应商从客户处获得的所有个人信息,并要求这些供应商删除其客户的所有数据。
但截至周二,描述该应用的文章和 Calmara 在 YouTube 上的视频显示,它向用户发出了生殖器是否“清洁”的信号,或者用户是否应因可能的性传播感染迹象而推迟与伴侣的性活动。据报道,该公司曾将该应用宣传为“无保护性行为的亲密好友”。
一位熟悉此事的消息人士告诉《The Verge》,“FTC 的辛勤工作人员如此致力于保护消费者,以至于他们甚至愿意浏览大量私密照片,以保护美国人免受 AI 诈骗者的侵害。”该消息人士因未被授权公开评论调查而要求匿名。
FTC 发出了一项民事调查要求(类似于传票),要求提供关于 Calmara 广告声明和隐私实践的信息,并通知 HeHealth,在没有“可靠科学证据”的情况下做出健康益处声明是非法的。
HeHealth 没有立即回应《The Verge》的评论请求。
FTC 表示,由于 HeHealth 同意这些条款以及“Calmara 在美国用户和销售额较少”,将不再进一步调查。但它警告称,“委员会保留根据公众利益采取进一步行动的权利。”