llm

AI 编码:人类工程师比以住任何时候都重要

导读:人工智能虽然可以生成代码,但也会时常犯错误,开发者仍需对代码安全、性能优化和用户体验负总体责任。当我们读完这句话的时间里,人工智能编码助手已经可以能生成 100 多行工作代码…

什么是 Ollama?您应该知道的所有重要信息

导读:本文回答有关 Ollama 的常见问题。Ollama 是一个免费的开源项目,可让您在本地运行各种开源 LLM。无论您想使用像 Codestral 这样的开源 LLM 来生成代…

硬核观察 #1004 研究称 AI 的涌现能力来自于评估模式的错误

研究称 AI 的涌现能力来自于评估模式的错误GPT-3 等大语言模型(LLM)随着规模的扩大而表现出意想不到的 “涌现” 能力。然而,有研究人员认为,这是测量错误的后果,而不是奇迹…

硬核观察 #997 OpenAI 用 GPT-4 来解释 GPT-2 的行为

OpenAI 用 GPT-4 来解释 GPT-2 的行为大语言模型(LLM)像大脑一样,它们是由 “神经元” 组成的,它们观察文本中的一些特定模式,以影响整个模型接下来 “说” 什…

构建自己的 RAG 应用程序:使用 Ollama、Python 和 ChromaDB 在本地设置 LLM 之分步指南

在数据隐私至关重要的时代,建立自己的本地大语言模型 (LLM),为公司和个人提供了至关重要的解决方案。本教程目标在指导您完成使用Ollama、Python 3和ChromaDB创建…

15 个不同行业中大模型应用案例

在瞬息万变的技术世界中,大型语言模型 (LLM) 已成为各行各业的关键技术。它们在自然语言处理、内容生成和数据分析方面的熟练程度为众多应用铺平了道路。本文让我们探索 15 个详细示…

AI Infra崛起,RAG引领大模型风潮!湖仓一体+AI创新融合;大数据连接成为大生意;MySQL支持向量数据;全球大模型数量

行业快讯与友商动态 2024年第21期:RAG(基于检索增强的内容生成)产品和方案逐渐增多了,如微软开源GraphRAG项目,InfiniFlow开源项目RAGFlow,Elast…

实现 LLM 应用的可观测,难在哪里?

随着生成式 AI 概念的火爆,以 ChatGPT、通义大模型为代表,市场上涌现了一系列商用或者开源的大模型,同时基于大语言模型(LLM )以及 AI 生态技术栈构建的应用以及业务场…

大模型产品化第一年​:战术、运营与战略

作者 | Eugene Yan、Bryan Bischof等 OneFlow编译 翻译|宛子琳、张雪聃、杨婷 题图由SiliconCloud平台生成 这是一个激动人心的时代,所有人…

提示工程Prompt Engineering

上一篇大型语言模型LLM中,介绍了什么是LLM、LLM的基础内容,并提到LLM将利用词汇的分布生成文档。这一篇是关于提示和提示工程的介绍,主要内容是我们如何影响词汇的分布。在LLM…

大型语言模型LLM

最近在学习OCI的生成式AI相关方面的内容,对相关内容做一下整理,内容涉及LLM基础、LLM架构、提示(Promot)、微调(fine-tuning)、各种模型、OCI的生成式AI…

在OpenHarmony本地部署大语言模型

本文将第二届OpenHarmony技术大会上展示的《在OpenHarmony本地部署大语言模型》成果开源,开源地址:https://gitee.com/openharmony-si…

LLM Serving有效吞吐量的最大化实现

如今的LLM应用具有多样化的时延要求。例如,聊天机器人可能需要快速的初始响应(例如,少于0.2秒),但在解码速度上只需要匹配人类阅读速度,而代码补全则需要快速的端到端生成时间,以实…

Meta AI 首席执行官 LeCun:不要从事LLM工作

在近日巴黎举行的初创企业年度技术大会VivaTech上,有着“人工智能业鲁迅”之称的Meta AI的首席执行官Yann LeCun建议希望在AI生态系统中工作的学生不要从事LLM(…

如何在Ollama创建自定义模型?构建本地大模型

从ChatGPT发布后的一段时间,我们见证了大型语言模型(LLM)爆炸式增长,在来自四面八方的消息中,我们了解了大模型似乎在不断渗透到各行各业,改变着生产模式。但,在实际行业应用上…

LLM技术栈分层详解

当前时代,预训练的大型语言模型 (LLM),例如 OpenAI 的 GPT-4 和 Meta 的 Llama x,已经越来越受开发者们的欢迎,它们比之前版本具有更好的可用性,在使用…

基于LLM大模型Agent的适用范围和困境

本文提到大模型通常的工作方式,即通过提示词进行问答,并指出了两个主要问题:历史对话信息的管理和令牌数量的限制。文章讨论了知识库问答和个人助手两个应用场景,并分析了各自面临的困境,如…

Opera 支持本地 LLM,本地下载大模型即可自建服务

Opera 近日宣布,其将在开发者频道的 Opera One 浏览器中添加对 150 个本地 LLM 模型的实验性支持。支持模型包括: Meta 的 Llama Vicuna Go…

为什么大语言模型不会取代程序员

导读:本文在解释为什么LLM不能替代人类程序员和相关职位。生成式人工智能会取代人类程序员吗?应该不会。不过使用通用人工智能( GenAI )的人类可能会被取代。但是当今有这么多的大…

Google 在 MySQL 中推进矢量搜索,在 LLM 支持方面超越 Oracle

谷歌已将向量搜索引入其 MySQL 数据库服务,这一步领先了 MySQL 的所属公司 Oracle,迄今为止,Oracle 尚未给 MySQL 添加任何大型语言模型(LLM)方面的…

加载更多