今年以来,以ChatGPT为代表的人工智能通用大模型快速发展,随之而来的是对AI安全风险问题关注度的陡然提升。在近日召开的2023北京智源大会上,中外多位人工智能顶尖专家热议AI安全伦理和风险防范问题。
OpenAI联合创始人山姆·阿尔特曼呼吁:为AI构筑“安全护栏”,使之更好地服务人类。北京智源人工智能研究院院长黄铁军表示,随着人工智能大模型出现了“涌现”能力,其不可预知性确实带来了巨大的挑战。被誉为“AI教父”的杰弗里·辛顿也在智源大会上再次表达了对人工智能技术风险的担忧。
随着AI应用越来越广泛,首当其冲的风险就是生成内容的真实性、准确性。OpenAI发布ChatGPT时指出,由于所使用的训练数据及训练方法的原因,ChatGPT有时会写出听起来很有道理但不正确或无意义的回答。当前,无论是GPT-4,还是其它通用大语言模型,均存在这样的“AI幻觉”。
对于医疗、自动驾驶等领域而言,这是一个非常严肃的安全问题。例如医疗行业的诊断、治疗等场景要求高精准度,不容有失,而通用大语言模型缺乏深入的医疗专业领域知识、经验及复杂推理过程,在面对医疗问题的准确性上存在天然缺陷。因此,医疗行业需要更高质量、足够专业的垂类模型,提供更精准回应,消除大模型幻觉。
但由于医疗行业的复杂性(医疗领域知识体系极其庞大),构建医疗垂直领域大语言模型的知识门槛也更高,不仅需要AI技术基础,还要具备足够的专业医疗知识储备。据悉,国内医疗AI头部企业医渡科技正在研发医疗垂直领域的大语言模型。
公开资料显示,医渡科技在医疗AI领域已经深耕多年,一直通过AI技术赋能监管机构、医院、药企、险企和患者,其自主研发的“医疗智能大脑”YiduCore拥有强大的数据处理能力,积累了大量的医学知识和洞见,内部人才团队80%以上都具备医学或人工智能背景,横跨技术和医学的交叉性人才近100名。
医渡科技具备研发垂类大模型的医疗数据、知识壁垒,以及NLP、 学习等核心AI技术和交叉性人才储备,期待其给医疗AI的发展开启更多想象空间。
（免责声明：本网站内容主要来自原创、合作伙伴供稿和第三方自媒体作者投稿，凡在本网站出现的信息，均仅供参考。本网站将尽力确保所提供信息的准确性及可靠性，但不保证有关资料的准确性及可靠性，读者在使用前请进一步核实，并对任何自主决定的行为负责。本网站对有关资料所引致的错误、不确或遗漏，概不负任何法律责任。
任何单位或个人认为本网站中的网页或链接内容可能涉嫌侵犯其知识产权或存在不实内容时，应及时向本网站提出书面权利通知或不实情况说明，并提供身份证明、权属证明及详细侵权或不实情况证明。本网站在收到上述法律文件后，将会依法尽快联系相关文章源头核实，沟通删除相关内容或断开相关链接。 ）
