李彦宏内部讲话：大模型开源意义不大，百度绝不抢开发...

mimighost

novalli 发表于 2024-4-11 21:59
大模型开源本质上是科研习惯带入到了商业中，因为大模型这个领域的科研和商业之间几乎是无缝衔接，而科研几 ...

大模型开源的确没用

大的模型99.99%的人跑都跑不起来，背后的逻辑和开源代码已经完全不一样了。开源等于开给竞争对手，那为啥要开源，做慈善么？所以只有字面意义的loser才会开源，比如马老板的xai，因为闭源根本没人会去碰他的东西，开源还能维持一点儿存在感。法国那个mistral同理，开源他就是开源之光，闭源正眼看他的都没有，就拿质量和gpt4老版本都没法比，更别提和opus这些怪物比了。

消费硬件要是能轻松跑70b的模型，开源还点儿用，但是也不大，因为70b本质也就玩儿，现在真正能用的大模型也就2.5家，开源的通通不能打。

mimighost

开源的商业逻辑的根本在于免费去和付费竞争，抢夺“终端用户”，占领市场。终端用户是最后要付钱的那个人。如果你是消费软件，那终端用户就是消费者，如果你是企业，那用户就是企业，比如红帽的linux，就是企业拿去直接部署。

开源大模型逻辑崩溃了，因为真正使用你api的人，这群付费的消费者，他们并不会对开源的人产生依赖或者品牌认知，他们只能通过二道贩子的云计算厂商来使用你的api，所有的付费实际上在云计算厂和消费者之间完成。所以你开源了一毛钱都捞不到，你看stable不就崩溃了？

所以这种模式只有一条路子，那就是不开源，或者只开源弱智版本，真正高级的模型自己提供hosting，然后通过api计费，低价占领市场打价格战。就是openai正在做的事情

mimighost

TiiTiiLL 发表于 2024-4-12 10:27
llm开源的一大尴尬点是大部分科研势的资源finetune一个7B的模型就够呛了，企业那种规模的llm连做inference ...

就那些组，一个组才8张a100，还要养几个博士生，llm还是算了吧

llm是真富哥的玩意儿，没卡那就是上那美克星之前的孙悟空，有卡就是弗利萨

没卡的我看都转向llm evaluation这个赛道了，说白了就是个上游模型商抓虫罢了，免费的beta tester