猛料来了,OpenAI下一代旗舰模型被曝提升不如预期。
消息来自The Information,具体指代号“猎户座”(Orion)的模型相对GPT-4的提升幅度,小于GPT-4相对GPT-3,已进入收益递减阶段。
或许这也是奥特曼曾说,可能不会把新模型命名为GPT-5的原因之一。
消息一出,著名悲观派学者Gary Marcus直接半场开香槟,宣布自己胜利。
在更详细的一篇文章中,他认为整个AI行业公司的高估值建立在模型能力不断增强、迅速达到AGI的预期之上。
如果改进放慢了,多数AI公司都能赶上最前沿模型的水平。从此行业进入价格战,收入保持在低位。同时因芯片成本高昂,利润也将难以获得。
并且,遇到瓶颈的或许不只OpenAI,此前Anthropic没有如期发布Claude 3.5 Opus,并且从官网删除了相关描述。
以及谷歌Gemini 2虽然计划很快发布,但也被曝性能提升不及DeepMind创始人的预期。
大模型Scaling Law真的撞墙了吗?
“猎户座”被曝不及预期,奥特曼:AGI 2025
根据目前消息,长期跟踪ChatGPT进展和网页源码的“光头哥”Tibor Blaho总结如下:
与此同时,从OpenAI CEO和许多资深员工那里传来的却是不同的故事。
首先是奥特曼接受YC总裁Garry Tan采访,在回答最后一个问题“2025年什么会让你兴奋”时,脱口而出“AGI”,没有半秒犹豫。
这段采访引起争议后,强化学习大牛Noam Brown发声:
今年1月才入职OpenAI的特斯拉前工程师也表达了认同:
那么,究竟发生了什么?
在Garry Tan与奥特曼的对话中,两人从奥特曼早期在YC的经历,谈到OpenAI的创立、发展过程,以及给如今创业公司的建议等等。
在接近结束的时候,Garry Tan抛出了这样的问题:你从去年秋天的动荡中学到了什么?你对一些人员离职有什么感受?
奥特曼回答:很累,但感觉很好。
Garry Tan接着提问:我想知道OpenAI现在运作得如何?目前的质量和推进速度如何?
奥特曼接下来的回答虽然一如既往地打太极,但引起很多关注:
评论区的网友显然不买账,有人怀疑这只是奥特曼在试图修改AGI的定义,按照合同,一旦董事会宣布AGI达成,就可以停止与微软分享技术了。
也有人指出,这无法解释最近OpenAI人才频繁出走。
对于人才流动,OpenAI模型架构研究员Rohan Pandey表示,并没有人们以为的那么严重。
今年早些时候OpenAI员工总数被曝已超过1700,比去年董事会叛变时期增加了上千人。
也有网友认为,反过来也说得通:
参考链接:
[3]https://garymarcus.substack.com/p/confirmed-llms-have-indeed-reached
[5]https://x.com/btibor91/status/1855381376054251654