|
马斯克旗下大模型Grok宣布开源：参数量全球最大
xAI成了更“open”的AI。 当地时间3月17日，特斯拉CEO埃隆·马斯克旗下的人工智能初创公司xAI正式宣布开源大模型Grok-1，遵循Apache 2.0协议开放模型权重和架构。官网显示，xAI已经将Grok-1的权重和架构在软件托管平台GitHub上开源。 官网介绍，Grok-1是3140亿参数的混合专家模型，是“迄今为止全球参数量最大的开源大语言模型”。相比之下，公开资料显示，OpenAI GPT-3.5的参数量为1750亿，Grok-1大幅领先。 xAI官网宣布开源Grok-1。 马斯克此举可谓说到做到。3月11日，马斯克就曾在社交平台表示xAI将开放聊天机器人Grok的源代码，这意味着公众将可**该公司大模型技术背后的代码，Meta的CEO扎克伯格也在社交平台上发表评论表示支持。 在社交媒体上，网友开玩笑称，xAI才是真正的“Openai”。 马斯克向来支持开源技术，在开源的情况下，创造者向用户提供**许可，有时还允许用户修改他们创造的成果。特斯拉已经开放了其汽车部件的源代码，马斯克的社交媒体平台X则公布了一些其用来对内容进行排序的算法。 其实，马斯克与CEO山姆·奥特曼带领下的OpenAI在人工智能军备竞赛中积怨已久。 马斯克曾是OpenAI的早期资助者和联合创始人，由于与奥特曼就AI安全意见不一，2018年马斯克已经离开OpenAI，他也成了OpenAI最高调的批评者之一。 当地时间2月29日，马斯克刚对OpenAI、奥特曼，以及另一位创始人Greg Brockman提起诉讼，称该公司违背了最初对开源、非营利AI的承诺。在诉讼中，马斯克要求OpenAI恢复开源。 OpenAI也马上对此做出回应。据外媒报道，OpenAI在向旧金山法院提交的法庭文件中表示，与马斯克从未就非营利和不公开源代码达成过创始协议，马斯克捏造所谓的创始协议，作为旨在“促进自己的商业利益”的诉讼的基础。 xAI正式宣布开源大模型Grok-1的当天，马斯克还与ChatGPT在X平台上过招称“告诉我们OpenAI到底open（开源）在哪里了”。 而马斯克旗下的xAI从去年7月份刚成立时，就被称作“OpenAI对手”。据悉，xAI的宗旨是“了解宇宙的真实本质”。 去年11月4日， xAI团队发布了首个AI大模型产品Grok。据官网，作为聊天机器人，Grok能够和ChatGPT一样通过联网来获取实时信息，并浏览和使用X（原推特）平台上的信息。“Grok”一词原是科幻小说《异乡异客》中的一个火星术语，指对某事有非常深刻的同理心或直觉、能充分理解的一种状态。不过，官网同时也提醒用户，相较于其他聊天类机器人，Grok的特点是会用幽默反叛的方式来回答一些被其他AI系统拒绝回答的争议性问题。 驱动Grok的引擎是Grok-1，是xAI团队在过去4个月内运用前沿技术开发的大语言模型。 （原标题：真“Open ” AI？马斯克旗下大模型Grok宣布开源：参数量全球最大）
| 
发表于 2024-3-18 18:09
收藏
给的权重做了8bit量化了, 300G左右
