搜狐全球医学新闻

搜狐健康作者创建|周一川编辑|据TechTimes等媒体报道，ChATGPT最近宣布了新规则，并停止提供医疗、法律和财务建议。 Openai 解释说，政策变化旨在“增强用户安全并防止潜在危害”。专家解释说，人工智能在带来有效、即时反馈的同时，也带来了许多安全风险。在医疗方面，它会不经筛选地列出数据库中的各种信息。例如，如果你输入“我身上有肿瘤”，评论中就会出现“恶性肿瘤”一词，造成不必要的恐慌；人工智能无法根据用户状态进行综合分析，药物咨询中给出的具体药物名称和剂量会带来更大的药物过量危险。用户通过人工智能咨询的内容将成为大数据的一部分，因此上传的病历、合同等敏感信息可能会以某种方式泄露。搜狐视频关注者包玉可博士（@你下载肿瘤）在接受搜狐健康专访时强调，AI不会拒绝用户，也不会主张自己的观点。因此，当用户使用AI得到他们不喜欢的答案时，他们可以坚持自己的观点，或者使用一些丑陋的证据或一些非常特殊且不具有表达力的案例来说服AI。片面的信息不仅是“鼓励”自己，还会进入数据库让其他用户得到过多的建议，比如“男性患有卵巢癌”。人工智能为医疗带来了难以想象的可能性，但也带来了许多安全风险。如何在不失控的情况下实现高效、安全的应用，是AI研发企业和用户端医疗人员面临的关键问题。返回搜狐查看更多