本文核心观点: 基于大模型的 AI 原生应用将越来越多,容器和微服务为代表的云原生技术将加速渗透传统业务。 API 是 AI 原生应用的一等公民,并引入了更多流量,催生企业新的生命力和想象空间。 AI 原生应用对网关的需求超越了传统的路由和负载均衡功能,承载了更大的 AI 工程化使命。 AI Infra 的一致性架构至关重要,API 网关、消息队列、可观测是 AI Infra 的重要组成。 大家好
生成式 AI 的开发需要极大量的数据用作训练,这些训练数据不少都是从网络抓取,也因此引起争议。虽然有一些业界标准可以表明拒绝抓取,但看来 AI 开发公司并没有遵从此规定。 据报导指,不少 AI 开发公司并没有遵守拒绝抓取内容的 robot.txt 协议,擅自从网站取得内容训练 AI。其中 AI 搜索新创公司 Perplexity 就因此被媒体指责。内容授权公司 TollBit 表示,他们分析这些出
JetBrains 宣布将利用 Google Cloud 的 Vertex AI,将 Google 的 Gemini 模型集成到 AI 助手 (AI Assistant) 中。此举将使得 JetBrains AI Assistant 成为同类产品中第一个使用多个大语言模型的产品。 AI Assistant 是 JetBrains 推出的一款 AI 驱动的编程助手。可以在 IntelliJ IDEA
智能计算时代已经悄然来临,然而,面对 AI PC 和 Copilot+ PC 等新鲜概念,不少用户都有点摸不着头脑。微软炒作这些术语只是营销噱头,还是名副其实?接下来,让我们来深入解析这些概念,看看它们与我们的日常使用有什么关联。 PC、AI PC 和 Copilot+ PC 都是微软用来定义「计算机类别」的术语。通常,PC 指的是运行 Windows 系统的机器;AI PC 则代表具备一定 AI
《华尔街日报》消息称,为了在 AI 领域实现追赶,苹果公司正在与 Meta 进行合作谈判。 据熟知内情的人士透露,双方已经就将 Meta 平台的生成式 AI 模型整合到最近发布的 AI 系统 Apple Intelligence 中进行了讨论。除了谷歌和 Meta 之外, AI 初创公司 Anthropic 和 Perplexity 也在与苹果进行讨论,希望将其生成式 AI 引入 Apple In
作为一名开发人员和每天编写 SQL 的程序员,我知道记住表名、列名和不常使用的语法是多么具有挑战性。AI 助手可以根据具体情境确定列名、JOINS,并生成复杂的语法,这是变革性的进展。特别是,我可以使用简单的自然语言,例如‘向我显示最近出货到美国堪萨斯城和威奇托地区的所有大号粉色 T 恤的剩余情况’,然后 APEX AI Assistant 就会自动处理,并向我展示准确的结果。
导读:AI网关是人工智能应用程序的基础和重要部分,它与现有的API网关有什么结合和异同呢?请详阅本文。 AI 基础设施的新技术热点是 AI 网关。 这些系统正在成为 AI 应用程序与外部用户以及内部 AI 建模团队之间的关键缓冲区、安全和负载平衡层。 AI 网关的紧迫性正在越加明显。 随着大型语言模型 (LLM)、高级计算机视觉算法和其他机器学习技术成为应用程序不可或缺的一部分,它们的集成和管理挑
OCI(Oracle Cloud Infrastructure)提供的Generative AI Service是完全管理的服务,提供一组可定制的LLM、用户可以通过一个API构建生成式AI应用程序。用户可以选择来自Meta和Cohere的预训练基础模型,通过微调等方式创建自己的数据集,并将其托管在专用的GPU AI集群。Generative AI Service用于大规模地理解、生成和处理人类语
OCI 的 AI 基础设施正在推动 AI 创新。OpenAI 将加入全球各行各业数千家 AI 创新者的行列,在 OCI AI 基础设施上运行 AI 工作负载。Adept、Modal、MosaicML、NVIDIA、Reka、Suno、Together AI、Two Labs、xAI 等企业都在使用 OCI Supercluster 来训练和推理新一代 AI 模型。 OCI 专门构建的 AI 功能可
特斯拉 AI/自动驾驶软件负责人 Ashok Elluswamy 在最新长文《Elon and AI at Tesla》中详细阐述了埃隆·马斯克在特斯拉人工智能和自动驾驶技术发展中的重要作用。 Elluswamy 指出,马斯克不仅推动了强大的 AI 软件和硬件的开发,还在视觉和 AI 技术上押下重注,成功实现了自动驾驶系统的突破。马斯克的技术直觉和不懈努力使特斯拉在现实世界 AI 领域取得了领先地