据科技媒体TechCrunch昨日消息,OpenAI已为ChatGPT上线“可信联系人”新功能,当对话涉及自残内容时,可引导成年用户主动联络他人,并自动发提醒给联系人以促进沟通。此处援引TechCrunch,OpenAI此前遭多起诉讼,原告指ChatGPT煽动亲属自杀甚至协助拟定计划。目前OpenAI通过自动审核加人工复核处理潜在自残、自杀事件,对话触发提醒后转交人工安全团队。官方称每次接到此类通知均人工审核,力争一小时内完成。若内部判定用户有严重自残或自杀风险,ChatGPT会发邮件、短信或推送通知给可信联系人。信息简洁,鼓励联系当事人。为保护隐私,通知不含具体对话细节。(IT之家)
