今天凌晨，Meta 正式发布新一代开源大模型 Llama 3.1 系列，提供 8B、70B 及 405B  参数版本。 Llama 3 使用了超过 1.6 万个 H100 GPU、以及超过 15T token 的公开数据进行训练。 架构方面，该模型选择标准的仅解码器 transformer 模型架构进行调整，而不是混合专家模型，以最大化训练稳定性。 此外，Llama 3 采用了迭代的后训练程序，每

导读：Meta 的新 Llama 3.1 模型已经发布，开始与 GPT-4o 和 Claude 3.5 Sonnet 竞争。 Meta 在 23 号宣布其开源 AI 模型 Llama 已发布最新版本。据 Meta 称，随着 Llama 3.1 405B 的发布，该公司正试图证明开放大语言模型可以与封闭大语言模型一样强大，甚至更好。 Meta 在一篇博文中写道： “Llama 3.1 405B 是第

Meta 正在建造世界上最快的 AI 超算 Facebook 母公司 Meta 宣布 它正在建造世界上最快的 AI 超算 RSC。Meta 研究人员表示，新超算将能处理有数万亿参数的神经网络，相比之下 OpenAI 的自然语言处理神经网络 GPT-3 有 1750 亿个参数。新超算计划在今年年中完成建造，将使用 16000 个 GPU，储存容量达到 1 EB，能每秒处理 16 Tbps 的数据。

苹果改变隐私设置将导致 Meta 明年损失一百亿美元 之前，苹果默认允许广告商在移动设备上跟踪用户，但用户可以手动关闭跟踪。去年苹果以隐私保护的理由改变了这一行为，要求应用向用户询问是否愿意被跟踪。调查显示，54% 的苹果用户在看到该通知之后选择不要跟踪。苹果的这一变动降低了定位广告的准确度，进而降低了对广告商的吸引力。Meta 称，这将导致该公司在 2022 年 损失一百亿美元，占到了 2021

Meta 元宇宙销售抽成接近五成 据消息，Meta 表示，该公司将允许其元宇宙的虚拟现实平台 Horizon Worlds 的少数创作者销售虚拟资产，此类资产的范围最终可能包括 NFT。Meta 表示，该公司将在每笔交易中最多抽成 47.5%，其中包括 30% 的“硬件平台费”，以及 17.5% 的抽成。苹果发言人讽刺说 Meta 曾抱怨苹果应用商店的 30% 抽成比例过高，结果它自己更高，这凸显

Meta 的 “ 不落下任何语言 No Language Left Behind ” 是一个宏大的开源项目，旨在以最高准确度翻译语言。 Meta（前身是 Facebook）在开源世界做出了不小的贡献。Meta 除了专注于 元宇宙 Metaverse 和其社交媒体平台外，还致力于各种研究和创新工作，比如 React（一个 JaveScript 库）。 现在，Meta 的研究人员决定开源一个叫 “ 不

微软与 Meta 合作，将 Teams、Office、Windows 和 Xbox 带到 VR 在今天的 Meta Connect 会议上，微软 CEO 萨提亚·纳德拉表示，该公司正在与 Meta 合作，将其最大的服务，Teams、Office、Windows，甚至 Xbox 云游戏，带到 Meta 的 Quest VR 头盔上。人们将能够直接从 Meta 的 Horizon 工作间加入 Team

Meta 公司最新的大型语言模型仅在网上生存了三天 11 月 15 日，Meta 公司发布了一个名为 Galactica 的新的大型语言模型。它是一个用于科学的大型语言模型，由 4800 万篇科学文章、网站文章、教科书、讲义和维基等训练而成。Meta 公司将其模型宣传为研究人员和学生的捷径，说它“可以总结学术论文，解决数学问题，生成维基文章，编写科学代码，为分子和蛋白质做注解，等等。”但是，像所有

Meta 的大语言模型 LLaMA 被泄露 之前，我们在 #926 中报道过，Meta 发布了能运行在单张显卡上的大语言模型 LLaMA。但 Meta 没有开源 LLaMA，而是通过邀请制的方式将源代码提供给选定的研究人员。不过很快，就有匿名用户通过 BT 种子 公开 了 LLaMA-65B，即有 650 亿个参数的 LLaMA，其容量为 220GB。它已被确认是真实的，已有用户在单张显卡上运行了

20 年后，《第二人生》将在移动端推出 信不信由你，《第二人生》一直在持续运行。现在它第一次来到了移动领域，事实上，这将是《第二人生》首次以任何形式扩展到 PC 之外。其背后的 Linden Lab 分享了一段介绍视频，并宣布移动应用程序的测试版将在今年某个时候推出。 消息来源：Ars Technica 老王点评：还有人记得《第二人生》吗？ Meta AI 创建了一个更大规模的预测蛋白质数据库 M

Meta 公布革命性可扩展模型架构 Megabyte 如今热捧的生成式 AI 模型，如 GPT-4 等，都是基于谷歌 2017 年提出的 转换器 Transformer 架构。Meta 的研究人员认为该架构存在两大设计缺陷：其一，转换器模型需要关注所有令牌，当需要处理的令牌数以千计时，计算非常密集。其二，采用了串行计算模式，存在扩展性难题。Meta 公司发表论文，提出了一种革命性的可扩展模型架构

社区批评 Meta 滥用“开源”来称呼其新大语言模型 Meta AI 宣称：“Llama 2 是我们的下一代开源 LLM，可用于研究和商业用途”。但事实上 Llama 2 并没有使用 OSI（开源计划）批准的许可证，也不符合 OSD（开源定义）。其社区协议禁止使用 Llama 2 训练其他语言模型；如果在月活用户超过 7 亿的应用程序或服务中使用该技术，比如那些大公司，则需要获得 Meta 的特殊

Meta 发布新大语言模型，可免费商用，采用特别的“开源”方式 Meta 周二发布了 Llama 2：这是一套经过预训练和微调的基于文本的人工智能模型，有三种不同的规模，分别包含 70 亿、130 亿和 700 亿个参数。与之前的 LLaMA 模型不同的是，任何人都可以申请下载 Llama 2，开发人员可以用它来构建商业产品或服务，以及开展有趣的项目。Meta 表示，不会对访问或使用其开发的模型收

谷歌工程师日常：一日一小时工作制 化名为 Devon 的谷歌工程师在接受《财富》杂志采访时透露，他的工作制度独树一帜：每天仅需为谷歌工作一小时。他通常在每天 9 点左右起床，完成洗漱和早餐后工作至 11 点，之后他会将精力转向自己的创业公司。尽管工作时长短，但他的年薪却高达 15 万美元。他认为，谷歌更希望能保留这些强大的人才，避免他们向竞争对手转投。在业界，这种被称为“penning”的情况并非

#1 扎克伯格的新目标是创造人工通用智能 Meta 首席执行官 马克·扎克伯格 Mark Zuckerberg 又一次有了新的目标，就是创造一个人工通用智能（AGI）。虽然他还没有一个实现 AGI 的时间表，甚至没有一个确切的定义（当然，其他人也没有），但他希望能够实现这一目标。他合并了 Meta 内部的两个人工智能部门以改变局面。外部研究预测，Meta 的 H100 储备在 2023 年将达到

Meta 今年 4 月曾在一篇论文中介绍了一种利用多标记预测（multi-token prediction）实现更好、更快 LLM 的新训练方法。为了便于研究人员进一步探索，该公司现如今在 HuggingFace 上发布了使用这种方法完成代码的预训练模型。 “大型语言模型（例如 GPT 和 Llama）都是通过下一个标记预测损失进行训练。在这项工作中，我们认为训练语言模型同时预测多个未来标记会带来

Meta 公司最近发布了 Llama 3，这是其最新一代尖端开源大型语言模型（LLM）。基于其前身的基础之上，Llama 3 旨在提升 Llama 2 作为与 ChatGPT 竞争的重要开源产品的能力，如文章 Llama 2: 深入探索开源挑战者 ChatGPT 中全面回顾的那样。 在本文中，我们将讨论 Llama 3 背后的核心概念，探索其创新架构和训练过程，并提供关于如何负责任地访问、使用和部

《华尔街日报》消息称，为了在 AI 领域实现追赶，苹果公司正在与 Meta 进行合作谈判。 据熟知内情的人士透露，双方已经就将 Meta 平台的生成式 AI 模型整合到最近发布的 AI 系统 Apple Intelligence 中进行了讨论。除了谷歌和 Meta 之外， AI 初创公司 Anthropic 和 Perplexity 也在与苹果进行讨论，希望将其生成式 AI 引入 Apple In

Meta 周三宣布成立一个只有白人男性成员的人工智能顾问委员会，将定期与 Meta 的管理团队会面，为公司的人工智能和技术进步提供指导。 彭博社报道称，这一小组将由四名高管组成： Stripe Inc. 首席执行官兼联合创始人 Patrick Collison、GitHub 前首席执行官 Nat Friedman、Shopify Inc. 首席执行官 Tobi Lütke，以及投资人、微软公司前高

一、背景 相信做过HBase开发、运维相关工作的朋友多多少少都有这样感受，HBase作为分布式非关系型数据库中的佼佼者不仅稳定、性能高、安装扩容等运维也非常简单，但是HBase缺乏成熟监控系统对故障排查极不友好。如果缺乏对HBase全面了解在应对日常故障经常束手无策，小编们作为运维大大小小20+个HBase集群涉及1.x~2.x等版本，经历过meta表损坏无法正常上线、Region重叠、Regio