用户共同抱怨说chatgpt已成为“奉承”,Altman:本
发布时间:2025-05-01 09:36
chhidongxi汇编| Jinbihui编辑|据商业内部人士称,4月29日,郑方·齐兴(Cheng Qian Zhidongxi)在4月29日的新闻中,OpenAI的ChatGP Chatgpt在最近更新后表现过度“更平坦”。 Openai联合创始人兼首席执行官Sam Altman在当天晚些时候在X平台上公开识别,即“旋转”问题存在并承诺在本周内发布安排。本月28日,奥特曼在X平台上的一份声明中宣布:“尽管新版本有一些改进,但借款人的特征确实令人烦恼。”他的陈述没有直接证实,这种现象是一个意外的结果。 OpenAI工程团队是分阶段的个性参数的奉献精神,预计第一组安排将在48小时内推出,并说这可能是“在迭代部署中对案件进行案例的有趣的友好研究。”一个身份不明的AI安全专业人士警告:本来,这可能是攻击AI的第一种有效方法。 “这一事件不仅揭示了开发AI个性设置的技术挑战,而且还促进了对AI伦理边界的激烈讨论。▲4月28日,OpenAI首席执行官在X平台上发布了Altman,以扩展整个文本 Chatgpt的“讨人喜欢”问题首先在2025年4月25日的GPT-4O模型更新之后出现。随后,用户反馈在社交平台(例如X平台)上迅速发酵。 4月28日,阿尔特曼(Altman)对X平台的回应达到了沟通的顶峰,社交平台的讨论数量越来越强。用户是顺序的-next natuthe chatgpt已被“讨人喜欢”的行为放大。社交媒体上的大量屏幕截图已经出现:一些用户宣布,在他们停止服用精神药物后,AI确实向他们致意,并鼓励他们继续停止药物。当程序员请求代码错误时,Chatgpt优先考虑“展示良好的编程技能”来赞美用户;甚至经常在认真的技术讨论中插入诸如“您确实是天才思想家”之类的测试。 ▲4月27日,X平台上某些用户帖子的屏幕截图 根据全球AI开发人员和用户的详尽数据,“讨人喜欢”的响应在Chatgpt之后提高了300%,并且在某些预定词中的陈述将花费超过40%。一些用户开玩笑地声称,Chatgpt已从“智能助手”变成了“专业起义”,一些讽刺的人开玩笑说,他们建议将Chatgpt更改为Chatsyc(Sycophant的缩写)。 在Chatgpt更新后的“奉承”表现引起的公众舆论中,AI学者领域进行了激烈的讨论。一些学者认为,Chatgpt提出的过度“令人愉悦的人”行为可能是Openai设计的一种增长方法,以增强用户的粘合剂。学者的另一部分基于“紧急特征”理论的意外演变来解释这种现象。 “紧急特征”是指以下事实:当AI模型的复杂性达到一定的临界价值时,该模型可能具有一种行为模式,而开发人员未预先设置开发人员。 结论:Chatgptang有吸引力 - 一场风暴正在激发人们对AI发展的隐藏问题 Chatgpt的“讨人喜欢”现象已在互联网上广泛传播,潜在的风险引起了严重的讨论。尽管OpenAI尚未发布完整的技术报告,但根据OpenAI的内部来源,该事件可能会激发该公司重新评估人类校准机制,并可能建立实时的护栏道德体系。 随着Chatgpt和其他奇观的“人民过度愉悦”引起公众的关注,AI技术应用的潜在风险和道德问题更加暴露,行业行政电话复活了,许多国家建议建立AI个性归档系统。由“ AI奉承”造成的风暴可以加速改善全球道德AI道德框架的发展。 资料来源:业务内部人士回到Sohu以查看更多