与谈恋爱有风险！警告用户高级语音模式会影响人际关系

财联社8月9日讯（编辑牛占林）

在7月底，OpenAI推出了ChatGPT高级语音模式，其功能让用户感到震惊。而在周四发布的一份安全审查报告中，该公司承认，这种拟人化的声音可能使一些用户产生情感上的依恋，从而影响到正常的人际关系。

据OpenAI此前介绍，高级语音模式能提供更自然的实时对话，听起来极其逼真，它允许用户随时打断，并能感知和响应用户的情绪。实时响应和可打断对话是目前语音助手公认的技术难点。

OpenAI在今年5月推出了新版本大模型GPT-4o，同时还展示出了语音模式。该公司原定于6月底开始逐步向用户开放语音模式，但最终决定推迟至7月发布。目前，仅向部分ChatGPTPlus用户开放。

在OpenAI发布高级语音模式时，它就被视为2013年电影《她》中与主人公谈恋爱的AI助理，但当AI承认“她”还与数百名其他用户有恋爱关系时，主人公陷入了崩溃。

在经典科幻片《银翼杀手2049》中，上演了几乎同样的场景，AI虚拟人成为了主角的女友，当主角看到虚拟女友以同样的形态被售卖时，令人羡慕的真挚爱情瞬间化为乌有。

现在，OpenAI显然担心上述虚构的故事成为现实，它观察到高级语音模式成为了用户表达情感的工具。“用户可能会与AI建立社交关系，减少他们对人类互动的需求，这可能有利于孤独的人，但可能会影响健康的人际关系。”

OpenAI指出，从一个听起来像人类的聊天机器人那里听到的信息，可能会导致用户过于信任这个工具，但AI有犯错的倾向，这也会造成问题。

安全审查报告还提到，科技公司正在竞相迅速向公众推出AI工具，他们说这些工具可能会颠覆人类生活、工作、社交和查找信息的方式。但在人们真正理解这些含义之前，他们就已经这么做了，但这往往会带来意想不到的后果。

伦理挑战

一些人已经开始与AI聊天机器人建立所谓的恋爱关系，这引起了情感专家的担忧。

亚利桑那州立大学研究技术和人类交流的教授LieselSharabi表示，科技公司在处理与技术相关的道德和责任问题上承担了巨大的责任，与谈恋爱有风险！警告用户高级语音模式会影响人际关系而且目前这一切都还处于试验阶段。她担心的是，人们可能会与那些可能长期存在不了、且不断演变的技术形成非常深厚的联系。

OpenAI认为，随着时间的推移，用户与ChatGPT语音模式的互动也可能影响社交中的正常行为。“我们的模型是尊重用户的，允许用户随时打断并‘接管麦克风’，这虽然对于AI来说是预期中的行为，但在人类互动中却是违反社交规范的，至少有些失礼。”

目前，OpenAI称致力于“安全地”构建AI助手，并计划继续研究和解决用户对其工具“情感依赖”的可能性。

OpenAI并不是唯一一家认识到AI助手模仿人类互动的风险的公司。今年4月，谷歌DeepMind发表了一篇长篇论文，讨论了更有能力的AI助手可能带来的伦理挑战。

（财联社牛占林）