在此前的一些干系宣布中（宣布1、宣布2），36氪通过部分内容初步磋商了在供给侧严重不敷的生理康健行业，人工智能存在的潜在机会及寻衅。
近年来，人工智能由于算法不可阐明性、鲁棒性及安全性等问题，以及弱AI时期人工智能性能低下、过于依赖数据驱动等问题，引起了大众对人工智能的疑惑。
人工智能自出身之日起便背负伦理枷锁，如今AI想切入生理康健赛道，涉足人的精神和心智，则伦理哀求与风险更高。除此之外，人工智能办理方案在组织办法及交付体验上，与人工做事存在根本性的差异。伦理风险与体验差异，都使得我们须要进一步磋商，AI办理方案与人工做事、乃至AI与人类之间该当是什么关系？
同时，AI生理的办理方案难度也很高，须要AI+生理康健跨领域团队对生理康健业务场景形成极深的洞察，对场景与不同流派的疗法做数字化解构，重新设计数据标签体系，形成算法逻辑、知识图谱、策略，花费高企的数据本钱演习模型……当中存在很多须冲要破的难点及局限。在36氪过往宣布中，也曾有读者针对生理AI的性能水平，留下疑惑的评论。
谨慎与疑惑，乐不雅观与勇气，它们都是我们在危险、可能性、代价与真知中穿梭前行的航帆。技能疑惑者与技能乐不雅观者都同等主要。
海内子工智能-自然措辞处理领域专家、清华大学打算机科学与技能系副教授黄民烈，于2021年创办了人工智能生理康健企业「聆心智能」，聆心智能也是目前该赛道NLP（Natural Language Processing）基因领先的创业团队之一。
聆心智能自主研发精神生理领域的数字疗法与AI感情对话机器人，并通过生理咨询做事线上平台聆心悠然、AI数字疗法App聆忧与AI感情对话机器人emohaa，做事不同需求层次的用户。
作为海内自然措辞处理领域的前沿学者、AI生理康健的前沿实践者，黄民烈教授带领聆心智能创始团队接管了36氪的采访，分享了他们对付自然措辞处理以及AI生理康健的认知与履历。36氪借他们视角，试图为自己、也为感兴趣的读者供应一份探求答案的素材。
（以下采访内容经摘录简化、编辑与脱密）
01 AI+生理康健的定位
36氪：怎么理解AI+数字疗法在精神生理康健行业里面的定位?
黄民烈团队：这个行业很大，用户需求也分身分歧层次。对付轻度的、亚康健的人群，AI方案紧张做感情陪伴和支持。对付轻中度康健状态的人群，通过数字疗法+AI进行干预。重症人群必须接管问诊治疗，AI切入的角度可能是个性化、精准化诊疗，同时帮助患者在院外去进行康复干预等等。不同层次AI扮演角色会不一样。
目前来看行业还是在百家争鸣的状态，没有一个玩家能够整合全体家当链。大家都是基于自己的禀赋、发挥自己的强项，不同业态进行互补。
36氪：怎么理解自然措辞处理和数字疗法在办理方案里面的功能？
黄民烈团队：自然措辞处理在全体方案的不同节点都起到关键浸染。比如，我们通过自然措辞对话系统，对用户不同层级的需求予以知足，包括但不限于感情、陪伴、给予建议等等。在赞助诊疗方面，我们通过自然措辞处理干系技能，将用户的输入信息处理为符合精神生理诊断体系的打算机符号表达，并且将该表达与医学专业诊断之间的关联和映射为理解用户输入供应底层架构上的支持。
末了，在数字疗法-数字药的开拓方面，自然措辞处理一方面作为理解用户需求的最基本工具，结合与其需求相契合的循证算法模型，为用户供应医学上最有用的数字疗法办理方案；另一方面，我们的自然措辞处理技能本身在天生模型上就带有了情绪支持的能力，因此本身也会作为数字疗法的一个组成部分，这也是市场上所独占的技能。
无论是自然措辞处理也好，还是其他的技能、算法干系实在都是作为研发职员去考虑的，那么我们末了形成的办理方案才是用户或者来访者能够感知到的，那么治疗效果的准确性、专业性和效率我们是一定要优先保障的。数字疗法对付我们来说便是产品中核心的一环，通过他来反推算法的哀求，反推不同其他衍生的功能与设计。
02 关于数字疗法
36氪：聆心智能整体治疗的作业过程大致是如何的？
黄民烈团队:首先，从筛查和评估开始入手。然后，是干预康复，也便是供应所谓的数字药，包括但不限于CBT、DBT等等所有已被印证可以治愈感情障碍的循证疗法。末了是康复期及稳定期过程中，对用户状态的长期跟随康健管理。
我们的干预方案也会受到用户自身状态变革而动态调度。我们的算法模型会更多去感知用户本身的认知通路，比如每个人的说话办法能反响出他背后的思维办法和逻辑链路。用户认知一旦被算法很好地捕捉到后，我们就能够更好地根据用户自身的特点为用户供应治疗，能够更好地提高用户的允从性和治疗的有效性。当然我们也还在临床实验阶段，还在一直地迭代和完善。
我们以认知、感情和行为三个维度去构建了全体疗法模型，以是疗法包括了CBT、DBT、IPT、正念等多种疗法。虽然CBT目前科研中的有效证据较多，但这是由于CBT更随意马虎被量化、更随意马虎发成型的论文，以是有效性证据更多，还是由于它真的是最有效的？这是仍待经由更多验证的。此外，从临床的角度来看，我们一贯认为本土化的CBT研究没有发展得很好。以是，我们更多还是会结合临床履历，看什么样的框架能够对问题做有效拆解，并终极决定采取认知、感情和行为三个维度，将逻辑做领悟，再用AI去实现。
36氪：能否向我们详细举例先容一下，AI是如何环绕这认知、感情和行为三个维度去开展回答策略的？
黄民烈团队：比如一个感情低落的用户利用聆心智能的谈天机器人。首先，机器人去探索用户的问题类型和关键事宜。然后用户可能说，我心情不好是由于我跟女朋友分离了。这机遇器人会可能会进行相对应的策略，例如共情，也便是情绪映射，说，嗯分离常日是一件难过的事情。然后，机器人会进一步探索说，那你现在有什么想说或者想做的吗？
我们借鉴生理咨询理论，把这个交互过程分成探索、安抚、供应建议三个阶段。在每一个阶段，我们都设计了丰富的策略，包括提问、自我暴露、情绪映射、供应信息、确认、奇迹问题等等。比如自我暴露策略，是机器人回答用户说，我也曾经有过类似的痛楚经历，然后希望能跟用户能够产生更多情绪连接。这些策略都是有生理学理论支撑的。
在生理咨询的过程中，人和机器有一个比较大的差异，便是人能产生非常强烈的共情。人类共情之后，再与来访者磋商问题。虽然机器也能共情，但其浓郁程度肯定没有人那么丰富。
那我们怎么办？我们现在采取的方法，便是在与用户对话过程中，更多去调动用户自身的思考能力——也便是他的认知，并通过一些技能性和策略性的办法，回避机器人不太随意马虎理解的、多样掺杂在一起的繁芜感情。
比如，我跟机器人说我事情好累。如果是一个人回答我，他可能会见告我，累的时候他自己会做什么？于是，我们在编写算法过程中，会给机器人授予一个稳定人设，针对不同情景，这个机器人的人设会有自己的反应。拥有人设的机器人会见告我，它累的时候会做什么，它以为这个事情为什么起效——这个便是机器人在利用自我暴露策略。
其次，机器人听到用户说很累时，可能会问用户觉得压力大的时候，用户自己常日会做什么，用户自己以为这个事情有效吗？如果这个事情暂时没有效果，用户要不要试一下其他办法？然后机器人就会引入一些干预和练习。我们通过这些策略安抚用户感情，同时让用户自主思考什么事情对自己最有效果。
36氪：全体数字疗法的设计开拓过程中，紧张难点是什么？
黄民烈团队：最难的地方，在于把咨询师的认知和措辞，“翻译”成AI逻辑。打个比方，CBT疗法咨询师在评估一位患者是否达到预期治疗效果时，其标准常日是患者的社会功能是否已规复至正常水平。那对AI来说，什么叫做个体层面的正常？在AI算法开拓过程中，我们就须要将这个目标量化。
这跟我们平时做生理咨询会有所不同，缘故原由在于，我们人工咨询会有一个动态评估的过程。我们目前根据数据和案例，持续不断调度评估的量化指标权重以期待达到最精准的动态评估。
类似这种“翻译”，听起来不难，其实在实践中很不随意马虎，须要AI人才和生理咨询人才之间非常多的碰撞，才能重新设计出来。
36氪：聆心智能的循证医疗临床实验和真实天下研究是如何组织的？基于隐私及伦理方面等问题，您以为数据方面的局限和困难有哪些？样本偏差是如何的，如何掌握和平滑样本偏差带来的影响？
黄民烈团队：我们演习模型的数据都是真实天下数据，隐私和伦理是我们会紧张考虑的。我们的真实天下数据在网络过程中，机构和咨询师会取得来访者的容许。取得数据时，我们的数据已经被脱敏过，以是在这个层面上很大程度能避免隐私透露。
我们现在的数据来源不只是生理咨询，还有很多其他非生理咨询的数据来源。我们尽可能地确保我们的数据能够覆盖所有人群样本和大部分人们可能碰着的议题。
因此，我们在做数据标注时，会对所有可能的维度进行一个更风雅的标注，然后，在利用样本数据时，尽可能地去避免样本偏差。但是必须承认是不可能完备避免偏差，须要注明的一点是，用于临床的机器人是有适应症或人群限定的，我们不期待用一个数据源去面对所熟年龄段的所有来访者的种类。
36氪：请您先容聆心智能目前取得NMPA批准情形。您是如何展望数字疗法后续的监管发展及政策变革？
黄民烈团队：我们目前已经开始在做临床实验，后续去取得医疗机器认证。
我们对政策很乐不雅观，认为趋势和节奏会越来越快。美国生理康健机器人Woebot已取得FDA认证，外洋的趋势肯定也会促进海内的监管政策发展。同时，国家正在大力实行社会心理做事体系，比如我国北京、海南都已设立数字疗法认证中央，而我们的方向是这个大体系下非常主要的环节，能够普惠大众。
当然，我们可能须要一点韶光，让监管完成对各方面风险评估，但由于数字疗法的副浸染当前来看会非常小，乃至可以认为险些没有，以是数字疗法跟其他治疗比如传统药物比较，得到监管认可的速率会更快。
也正是政策的利好与支持，也希望行业内的同仁们，真正从实践中创造临床代价，而不是纯粹为了逐利，每一件事都做深做踏实做到真正询证有效，但凡是真正惠及于民的有用有效的产品，才能促进行业标准、规范、监管体系的形成，真正促进一个行业的大发展。
03关于自然措辞处理
36氪：您如何理解自然措辞领域里面，关于可信AI最常提到的，算法可阐明性、算法鲁棒性等方面的局限？
黄民烈团队：关于可信人工智能，学术界一贯在做干系的研究，也取得了一些可喜的进展。
比如在安全方面，我们最近就在做关于对话系统安全性的研究，让对话AI拥有代价不雅观和更多伦理知识，让人工智能知道什么是对的、什么是错的。比如说，让AI知道不要搪突用户、知道自尽是不好的、知道什么是真善美等等。
让人能安全信赖，也包括算法的可阐明性。由于现在AI算法绝大多数是个黑箱，使得我们对付算法到底是如何做出决策，缺少足够理解。这很大程度限定了我们的算法和模型运用处景，尤其是在医疗领域。在聆心智能的研究里边，不论是感情情绪支持机器人，还是筛查/赞助诊疗算法等方面，都将算法的可阐明性考虑在内。我们的可阐明性紧张表示在，AI的决策始终与其所担当的角色行为逻辑保持同等。我们通过知识图谱将生理年夜夫专业知识中的关键观点对齐起来，从而知道人工智能算法的决策是如何天生的。在这方面，我们还在持续探索、还要持续进步。
在措辞理解方面，多一个词、少一个词，可能识别出来的种别就会有很大的差异，这便是所谓的鲁棒性问题。我们也有相应的算法研究和技能办理方案。在措辞天生方面，可能用户输入轻微有点变革，但天生的结果就变得千差万别，这也是AI模型的鲁棒性问题。
36氪：您是如何理解人类及人工智能的关系——如何理解独立AI以及赞助性AI？独立AI和赞助性AI只是技能上的成熟度差异所带来的阶段性差异，还是基于什么根本性变量产生差异？
黄民烈团队：我个人认为是独立AI和赞助AI是基于运用处景风险特色来划分的。有一些运用存在很高的风险，一旦犯错代价会非常大；其余一些场景运用的风险容忍度会更大。比如在医疗诊断领域，我们能做的都是赞助性AI，由于一旦诊断缺点，伦理风险及代价会非常高——即便是模型准确率达到百分之九十五以上，就能做独立诊断吗？这个首先在监管上就过不去了。再比如说，现在刷脸的独立AI准确率已经达到99%以上，我们可能也未必敢直接用刷脸支付，可能还须要赞助认证手段，比如做一些动作，如眨眨眼、摇摇头之类的。
因此，这首先跟运用的安全性密切干系。比如做手语AI，错一点儿没太大关系；又比如智能客服推销产品，推销一个保险产品和银行理财产品，AI打个电话、通过固定话术和策略推销、然后结束。这些情景做独立AI没有问题。
其余，还有一些由于技能限定暂时无法做到独立AI的环境，比方说我们曾经做过银行催贷业务，由于它非常繁芜，在目前的技能水平下，还是须要AI结合人一起事情。
36氪：您能否向我们概况性地先容一下，截至目前为止自然措辞处理在多轮对话中的语义理解及措辞天生方面，已战胜了过往什么样的技能困难，已达到什么水平？仍旧待占领的瓶颈大概有哪些？
黄民烈团队：我大略谈谈自己的体会。自然措辞处理经由了几十年的发展，终于在最近几年取得了非常大的打破，无论是措辞理解还是措辞天生方面，性能都有非常显著的提升。
我们就拿对话系统为例。从1966年开始到2010年旁边，人工智能对话系统紧张还是基于规则。但是从2020年开始，涌现了基于神经网络与大数据的大模型对话系统，这种对话系统的开放对话能力上，跟过往完备不是一个水平——包括我们自己最近做的emohaa对话机器人，其对话能力是我们3年前根本不敢想象的。在这个技能发展过程中我的觉得是，技能发展忽然就跳到了其余一个显著更高的平台上。除了对话，我们已经瞥见了各种技能打破：阅读理解、图像分类、作诗等方面开始涌现了超越人类性能的情形，AI乃至可以写文章、经由大略修正、然后揭橥在了《英国卫报》上。
但是纵然这样我们仍旧面临很多问题，AI跟人的水平还有很大的间隔。这是由于人有大量的知识、有大量的推理，凡是涉及到知识、推理的时候，数据驱动的算法就做得不太好。我们过于依赖数据驱动，还不能做措辞理解上的泛化、不能去做推理，模型见过的东西能做到很好、没有见过的东西可能就做的不好。这让我们在对话过程中碰着前后抵牾、答非所问的情形。同时，也依然面临可阐明性、鲁棒性等问题。
36氪：在自然措辞处理技能发展仍旧有限的情形下，您以为一个良好的生理康健办理方案，NLP须要到什么水平？过于依赖数据驱动的问题，大概有什么办理的方向呢？
黄民烈团队：基于规则的AI系统对付数据的依赖就小很多，但本日的深度学习模型却极度依赖数据。在深度学习模型中，我们也可以将专家知识通过规则、通过符号的办法，跟数据驱动结合起来。这样对数据的依赖会大大减少。由于有专家的知识和规则，AI也能处理它没有见过的东西、处理未知，推广性能更好。
以是生理康健的AI方案，最主要的还是将算法与该领域专业知识结合。我们将生理康健的专业知识迁移到AI模型上，比如我们emohaa机器人能够节制自我暴露、谛听、提问、情绪映射等生理咨询领域发展了上百年的技能。同时，我们也要很清楚AI模型哪些方面有短板，要知道怎么样存心理康健专业知识去补AI能力当前的短板，做技能性规避。
04 关于模型与数据
36氪：在提炼、解构和设计出得当的数据标签方面存在哪些困难？在感情识别这种连正常自然人都很难做好的环节，人工标注过程中，是否存在什么困难及局限？
黄民烈团队：生理咨询理论已经发展了100多年，形成了相对成熟而完全的理论。比如，对付某类来访者，咨询师该当采取什么技能去更好地供应做事，实在已经自发成长出一套标签体系。但是，把这些种别和标签全封不动地搬到AI模型内会面临困难：首先，这个数据标注不是一样平常人能标注的，须要专业资源来标注，从而导致标注本钱很昂贵。其次，种别体系越细致和越繁芜，AI模型可能学不会，比如可能受到数据标注同等性的影响。
以感情种别为例，我们原来在学术界做细粒度情绪剖析，在主流研究中采取六个感情种别，喜、怒、哀、乐、悲、与其他。但是在生理咨询中感情可以细分为32个种别，哪怕是聘请生理专业人士去标注，标签太细也很难区分，不同人有不同的理解，这会让数据标注存在同等性问题。以是聆心智能目前设计出一个10类感情的标签体系。
除了感情种别，比如在咨询师技能体系上，对付来访者意图识别等方面，我们也按照类似的方法重构了一套标注体系。通过这种办法既平衡了资源、本钱，也担保了专业性和有效性。这因此我们团队深入的生理康健专业理解为根本的。
在人工标注的同等性方面，培训、质量掌握和标注者的专业背景都很主要。我们很多的标注事情都是生理专业的学生、演习生理咨询师、执业生理咨询师，我们和专业的生理咨询机构互助。因此，数据标注本钱非常贵，韶光本钱也很高。
36氪：评价本钱是不是也很高？
黄民烈团队：我们分为算法自动评价和人工评价。算法自动评价，通过让AI做一些测试题并评分，本钱就很低。但是人工评价就比较贵，比如我们评价我们emohaa机器人，会找很多用户跟它谈天，然后根据交互情形，对结果进行打分。
36氪：我们目前预演习模型的参数规模大致到了什么级别？数据源大概有哪些？除了贵，一个高性能的预演习模型常日还有什么壁垒？
黄民烈团队：我们的预演习模型参数在100亿规模旁边，在全体业界纵然不是最大，也是非常靠头部的前几名。在数据源方面，紧张包括公开社交媒体、互助授权的专业生理康健数据以及我们实验室在过去6-7年自主积累的数据。数据量在几十亿到几百亿单词量之间。
一个参数巨大的预演习模型不是一样平常机构能搞得出来的，第一是算力很贵，第二是数据比算力更贵、更难获取，这当中还存在大量的dirty work，须要长年的积累。
而且，纯挚创建出一个模型，间隔产品运用还很远。如果只是做研究，那随便怎么样都能弄出一个模型来玩。但是，要做产品，就会涉及非常多的功能优化，会创造模型有很多case处理不了、或者处理不好，须要工程力量去优化、改进和规避。目前我们的工程能力在业界是非常拔尖的水平。
36氪：迁移方面是怎么做的呢？
黄民烈团队：一方面紧张是通过跟特定人群干系的数据对模型进行微调，另一方面根据特定场景去布局知识图谱。基本能够比较快地调度完毕并投入利用。
05 角色转变
36氪：从科学家身份，转型为科学家+企业家双重身份，有什么个人感想熏染，有什么寻衅困难？
黄民烈：两个身份的相通之处都是带团队、找资源——当科学家培养学生、找项目经费；当企业家是带领各种更繁芜的社会人，创造营收和找融资。同时，两种身份都是办理问题、方案方向。
科学家所面临的问题更加大略和纯粹一些，探索一些科学问题和前辈技能，相对而言，确定性在可控范围内。但商业更繁芜、不愿定性更大、要考虑的变量更多，决策起来也会更难一点，我以为这是最大的不同。
面临的最大寻衅是如何走通 “技能—产品—商品”的通路，由于每个阶段的思维是不同的。技能，是科学家研究出来的算法、模型、原型系统。产品，是工程化后的、折中了用户可利用的做事或者实物。商品，是可以重复售卖，能换来现金的产品。
希望未来的投资人能有社会情怀和前瞻性，认可AI+生理康健这个赛道，在医疗、生理、AI方向有一些资源，乐意和公司一起耕耘，不急于短期变现。
任务编辑：王与桐