• Google Research引入了SensorFM,这是一种基础模型,旨在从500万人的超过1万亿分钟的无标签可穿戴数据中学习生理和行为模式的一般表现.
• 模型处理来自Fitbit和Pixel Watch设备的传感器数据,并在35项健康和行为任务中的34项中使用了专门制备的可穿戴特性,超过了监测的比较模型。
• 在实验设置中,包括额外传感器FM预测在内的健康摘要被评为在所有五个研究领域都大大高于基线版本。

Google Research为SensorFM揭幕,这是一个基础模型,从收集到的500万人的可穿戴感应数据中学习人类生理学和行为的一般表现. 该模型可应用于35项不同的健康和行为任务.

现今可穿戴衣物上的大部分健康特征都是为单一目的建造的. 一个模型检测睡眠阶段,另一个模型估计心血管风险,另一个模型分析压力或代谢标记. Google希望用一个共享的AI基础来取代这些被隔离的方法,这个基础能够使连续的,常常是漏洞的传感器数据贯穿于许多健康问题,削减了对昂贵的标注培训数据的需要,并最终将个性化的上下文输入AI健康助理.

Google Research现在在博客文章和随附论文中引入了SensorFM. 基础模型从大量无标签的可穿戴数据中学习了一种一般的,可重复使用的生理和行为模式的表述. 研究人员使用了500万Fitbit和Pixel Watch用户提供的超过万亿分钟的多式联运传感器数据进行预训. 数据来自100多个国家,收集了20多个不同的Fitbit和像素观察模型. 作者认为,这是有史以来用来训练这种模型的最大和最多样化的可穿戴数据集. 广告

更多的数据和更大的模型使传感器FM更好

传感器FM处理从五类传感器数据中抽取的34个特征:光学心率监测(photophyphysphysmography,或PPG),加速度,皮肤导电,皮肤温度,以及气压高度. 其特征包括心率,心率可变性,血氧饱和,睡眠阶段,运动数据等. 该模型通过重建刻意蒙蔽的数据段,以自我监督的方式进行训练. 该技术称为"主动和继承的面具"(AIM),旗下标有在训练期间被人工隐藏的真缺失值和值,因此SensorFM学习处理两种类型的数据差距. AdDEC D 内容-1

研究人员报告说,当模型大小和数据量一起增长时,性能有系统改善. 他们测试的四个模型变体从大约10万到1亿参数不等,培训数据集从5 000到500万人不等。 在最大的训练数据集上,最大的模型重建错误比最小的模型低31%. 最大的配置在大多数下游预测任务上也表现最好。

在35项任务中的34项任务中,传感器FM比对比较模型

研究人员随后对来自三个独立研究的数据进行了SensorFM测试,共有13,985人参加. 该模型在预训期间从未见过这些数据。 他们评价了35项预测任务,涉及心血管和代谢健康、心理健康、睡眠、人口和生活方式。 广告

根据论文,即使是建立在SensorFM所学习的表示之上的简单的任务特定头型模型,也超过了35项任务中34项任务中带有手工可穿戴特征的监督基线。 规模化的预训也使得SensorFM与所监管的基线相比,标签效率更高. 该模式可以适应新的任务,较少标注实例,随着规模的扩大,它较少依赖额外的人口信息。 作者认为,规模化的预训对于难以衡量的特征可能特别有用,这些特征在个人之间差异很大,如抑郁症和焦虑症状.

为了使SensorFM的博学表述适应新的任务,研究者们建立了一个相互竞争和协作的LLM智能体的"教室". 这些物剂反复生成,测试,并完善了下游预测模型的代码,在此过程中进行了3万多项实验. 他们发现的模型在35项预测任务中的28项上基于相同的感应FM表示而超过了简单的线性头模型. AdDEC D 内容-2

SensorFM使一个健康智能体的答案更好

研究人员还将SensorFM整合为个人健康智能体,并比较了三种变体. 所有这三人都收到了人口资料和每日摘要,这些摘要是根据可穿戴数据计算的,涉及活动、睡眠、血液氧气和皮肤温度等。 一个变体还收到了各种健康标记的传感器FM预测,第二个变体收到了相同标记的实际已知值,第三个变体没有获得这些额外信息并用作基线。 广告

4名临床医生评价了31个实际参与者情况中的93个健康摘要,花费了40多小时,并得出了1 860个个人的评级。 结果:经过SensorFM预测的总结大大高于小组衡量的所有五个方面的基线,即背景、个性、合理性、相关性和安全性。 使用感应FM预测的概要与使用实际已知健康数据的摘要之间总体没有统计上的重大差异。 也就是说,这并不意味着SensorFM可以取代临床测量或诊断.

传感器FM目前仍是研究模式

研究人员指出了几个局限性。 SensorFM只接受了Fitbit和像素观察设备的数据培训和测试. 将结果转移到其他可穿戴品是否是一个未决问题. 该模型也不与高分辨率的原始信号配合,而是与在分钟一级汇总的数据配合,这意味着非常短或精细的图案可能会丢失.

研究小组研究的许多健康标志都基于自我报告、药物记录或调查问卷,而不是临床上证实的研究结果。 学习人口也不完全代表一般人口. 而健康智能体只在静态设定中通过单项回应来评价,而不是在与后续问题长时间的对话中评价.

传感器FM目前纯粹是一个研究模型. Google已经提供基于双子座的Google健康教练, SensorFM最终可以作为类似这些功能的技术基础,但Google还没有宣布任何具体计划将其融入Fitbit,像素观察,或AI导师.

更多关于SensorFM的详情见Google Research博客文章和arXiv上的开放访问文件。