llm

Chuanhu ChatGPT UI 重磅更新,轻快好用!

它为ChatGPT等多种LLM提供了一个轻快好用的Web图形界面和众多附加功能。开箱即用,支持 GPT-4,基于文件问答,LLM本地部署,联网搜索,Agent 助理等,此外还支持 …

使用LLama和ChatGPT为多聊天后端构建微服务

译者 | 布加迪审校 | 重楼微服务架构便于创建边界明确定义的灵活独立服务。这种可扩展的方法使开发人员能够在不影响整个应用程序的情况下单独维护和完善服务。然而,若要充分发挥微服务架…

从科幻走向现实,LLM Agent 做到哪一步了?

LLM 洪流滚滚,AI 浪潮席卷全球,在这不断冲击行业认知的一年中,Agent 以冉冉新星之态引起开发者侧目。OpenAI 科学家 Andrej Karpathy 曾言“OpenA…

vLLM LLM 推理和服务库

vLLM 是一个快速且易于使用的 LLM 推理和服务库。 vLLM 的速度很快: 最先进的服务吞吐量 使用 PagedAttention 高效管理 attention key 和 …

英伟达发布 Windows 版 TensorRTLLM 库,为本地运行大模型提速

【源创会预告】1024 程序员节(的前两天),相约开源中国办公室,我们一起聊 AI!>>> 英伟达发布了 Windows 版本的 TensorRT-LLM 库,称…

开源中国发布大模型技术图谱(LLM Tech Map)

LLM 技术图谱 (LLM Tech Map) 是将 LLM 相关技术进行系统化和图形化的呈现,此图谱主要特点是“专注于技术人视角”,不求从 LLM 产业角度汇聚信息,而是希望让从…

大模型智能体 LLM Agent

引言   调研、整理智能体相关知识,希望帮大家构建智能体的概貌 大模型智能体 LLM Agent (1)LLM 1981年希拉里·普特南在《理性,真理与历史》一书中提出假想,“缸中…

ssprompt:一个LLM Prompt分发管理工具

⭐前言 自从OpenAI掀起了一轮新的AI革命,国内外众多玩家入场接受时代洗礼,一时间LLM相关技术井喷,而提示工程( prompt engineering )就在其中。 它就像是…

使用全套开源工具构建 LLM 应用实战:在 Dify 调用 Baichuan 开源模型能力

背景 在当下开源大语言模型火热的背景下,有很大一部分开发者希望本地部署开源 LLM ,用于研究 LLM 或者是基于开源 LLM 构建自己的 LLM 应用。笔者也正在尝试通过开源社区…

为何向量数据库对LLM很重要?

译者 | 布加迪审校 | 重楼当您浏览Twitter、LinkedIn或新闻源上的时间轴时,可能会看到一些关于聊天机器人、LLM和GPT的内容。因为每周都有新的LLM发布,很多人都…

致命幻觉问题、开发GPU替代品,大模型还面临这十大挑战

ChatGPT、GPT-4 等的发布,让我们在见识到大模型(LLM)的魅力后,伴随而来的是其所面临的各种挑战。如何让 LLM 变得更好?面对大模型,到底有哪些需要解决的问题?成为 …

关于 LLM 和图数据库、知识图谱的那些事

本文整理自 NebulaGraph 布道师 wey 在「夜谈 LLM」主题分享上的演讲,主要包括以下内容: 背景 LLM RAG Graph 知识抽取 Text2Cypher Gr…

极简工作流,你学会了吗?

原以为 LLM 很难,但其实可以很简单,比如 Flowise 拖拽拖拽就能出来一个 LLM 流程,非常简单你的 LLM 就可以 run 起来了。同样的 web-check 也能极快…

OWASP 发布大模型安全问题前十大名单

OWASP 是一家专门列举十大软件安全漏洞而闻名世界的机构,它今天发布了新的十大安全漏洞列表的 1.0 版,专门针对与大型语言模型 (LLM) 应用程序相关的风险。“2022 年底…

大模型速度狂飙2.39倍!清华联手微软首提SoT,让LLM思考更像人类

由于当前先进的LLM采用了顺序解码方式,即一次生成一个词语或短语。然而,这种顺序解码可能花费较长生成时间,特别是在处理复杂任务时,会增加系统的延迟。受人类思考和写作过程的启发,来自…

使用LLM插件从命令行访问Llama 2

最近的一个大新闻是Meta AI推出了新的开源授权的大型语言模型Llama 2。这是一项非常重要的进展:Llama 2可免费用于研究和商业用途。(几小时前,swyy发现它已从LLa…

gpt4在国内怎么使用

本篇内容介绍了“gpt4在国内怎么使用”的有关知识,在实际案例的操作过程中,不少人都会遇到这样的困境,接下来就让小编带领大家学习一下如何处理这些情况吧!希望大家仔细阅读,能够学有所…

5分钟,结合 LangChain 搭建自己的生成式智能问答系统

伴随大语言模型(LLM,Large Language Model)的涌现,人们发现生成式人工智能在非常多领域具有重要意义,如图像生成,书写文稿,信息搜索等。随着 LLM 场景的多样…

MiniGPT4 AI 可以像 GPT4 处理复杂的视觉语言任务

GPT-4 是 OpenAI 最新发布的大型语言模型。 它的多模性质使其有别于所有先前引入的 LLM。 GPT 的 transformer 架构是著名的 ChatGPT 背后的技术…

亚马逊开发大型语言模型 LLM 准确率胜过 ChatGPT

OpenAI 在 GPT-3.5 模型下进行一系列进行微调,在 2022 年初完成训练,年末进一步推出的 ChatGPT 模型引发热议,带动全球关注AI 热潮。而亚马逊新开发的大型…

加载更多