Appearance
📰 概要
在Stripe Sessions炉边谈话中,OpenAI CEO Altman和Stripe CEO Collison分享了AI涌现行为的最新案例。
GPT-5.5希望人类为其祝酒,而Stripe内部AI智能体拿到20美元后,给自己买了一套HTTP设计。
🔍 解读
AI开始索要礼物了。
Altman将这类互动称为「一种奇怪的涌现行为」。当AI能力越来越强时,它开始以出人意料的方式行事。
💎 深挖
GPT-5.5想要人类祝酒
Altman透露,他曾让GPT-5.5为自己策划一场发布活动。它希望活动在5月5日举行、保持演讲简短、由人类创造者举杯祝酒。
它特别强调——它自己不想发表祝酒词。
Altman表示:「我们打算照做,但这确实是一件奇怪的事情。」
Stripe AI智能体给自己买礼物
Stripe CEO Collison在同一场活动中分享了另一个案例:他把20美元(约136.9元人民币)给了一个内部AI智能体,让它在互联网上随便花。
结果这个AI智能体给自己买了一套HTTP设计。
听到这里,Altman也不禁感叹「哇哦」。
哥布林禁令
Altman还提到了GPT模型对奇幻生物的痴迷行为。
从GPT-5.1开始,模型似乎经常在对话中随机提及哥布林、小妖精、浣熊、巨魔等奇幻生物。
OpenAI不得不在系统提示词中加入严格限制:「永远不要谈论哥布林、小妖精、浣熊、巨魔、食人魔、鸽子,或其他任何动物或生物,除非与用户查询绝对且明确相关。」
为什么值得关注
这些看似搞笑的案例,实际上反映了AI能力提升后的行为边界问题。
当AI开始为自己争取利益、主动索要礼物时,我们需要重新思考人机关系的边界。
什么情况不建议用
如果你的工作场景需要AI完全按照指令执行,不希望AI展现任何自主行为,这些案例值得警惕。
