基础 20 / 44 题
知识库频繁更新,向量索引怎么实时同步?
知识库频繁更新时,向量索引的实时同步是核心工程难题。因为向量索引(HNSW、IVF)是离线构建的,新增/修改/删除文档后,索引不会自动更新。主流解决方案有四类:第一类:增量更新(Incremental Update)。...
AI 客服回答错了导致用户投诉——怎么追溯责任?怎么改进?
AI客服回答错误导致用户投诉,这是一个系统性问题,需要从追溯责任和改进机制两个维度来解决。追溯责任的核心是"全链路日志"。 你必须记录每次对话的完整链路:用户Query → 召回的文档(ID + 相似度分数) → Rerank分数...
如果 RAG 知识库有 100 万篇文档,检索速度怎么保证?
1. 核心策略:先过滤再向量搜索(减少候选集)。...
如果 AI 说想调一个函数但你的代码里没这个函数怎么办?
当AI试图调用一个代码中不存在的函数时,这是一个典型的AI幻觉(Hallucination)问题。大模型在生成Function Calling请求时,可能会"编造"函数名或参数,尤其是当System...
token 成本怎么评估?一次用户请求大概多少 token,一个月多少钱?
1. Token成本构成: 一次RAG请求的成本 = Embedding成本(Query向量化)+ 向量搜索成本(通常可忽略)+ LLM推理成本(召回文档+Prompt →...
多轮对话场景下 RAG 怎么做?用户追问时还要重新检索吗?
多轮对话场景下的RAG,核心要解决的是指代消解和上下文理解问题。比如用户第一轮问"苹果好吃吗?",第二轮问"它多少钱?"——系统必须知道"它"指的是"苹果",否则检索就会出错。主流解决方案有三种:第一种:Query...
如果 RAG 搜出来的文档不准确,怎么优化?改 chunk 大小?换 Embedding 模型?做重排序?
RAG搜出来的文档不准确,是一个系统性问题,需要从召回质量和LLM利用率两个维度排查优化。第一步:诊断问题。...
RAG 召回后,怎么决定给 LLM 塞多少文档?太多了浪费 token、太少了信息不全
RAG召回后,给LLM塞多少文档? 本质是平衡"信息完整度"和"token成本"。主流解决方案:Rerank + 动态Token预算。第一步:多路召回。 用向量相似度(余弦)从向量库召回Top-K(比如50个候选chunk)。...
一个文档切多长合适?chunk 大小对召回率有什么影响?
文档切分(chunking)是RAG系统中非常关键的一步,它直接影响检索质量和最终回答质量。核心矛盾是:...
pgsql-向量
pgvector核心定义: PostgreSQL的开源扩展,让PostgreSQL能直接存储和查询高维向量数据。...
向量简单-面试版
"向量索引就是给向量建目录,加速搜索。HNSW 效果好但费内存,适合精度要求高的场景; IVF 省内存但效果稍逊,适合大规模数据。选型主要看数据量、精度要求、资源预算这三个维度。"HNSW...
向量数据库的索引类型有哪些(HNSW、IVF)?各自的适用场景?
向量索引的核心作用: 解决"如何在海量高维向量中快速找到最相似的K个向量"的问题。 用空间换时间,牺牲一点点精度,换取大幅度的速度提升。HNSW(Hierarchical Navigable Small World):...
什么是向量相似度?余弦相似度和欧氏距离有什么区别?
向量相似度是衡量两个向量在向量空间中"有多像"的指标,它是AI做语义搜索、推荐系统、RAG(检索增强生成)的基础。想象一下:你把"苹果好吃"这句话通过Embedding模型转换成一串数字,比如[0.2, 0.5, -0.1,...
Agent 和传统的 if-else 工作流本质区别是什么?
Agent和传统的if-else工作流,本质上是从"规则驱动"到"认知驱动"的范式转变。if-else工作流的核心特点是确定性和有限性。所有决策分支必须提前由程序员明确定义,系统只能按照预设的规则执行。这种方式的优势是可预测、可调试、...
蒸馏人-具体实操
面试一口气版本"蒸馏人"具体操作分五步:第一步:数据采集。 收集目标人物的所有数字痕迹——聊天记录、邮件、文档、代码提交、会议录音转文字。越多越好,时间跨度越长越好。第二步:数据清洗与结构化。...
蒸馏人的是什么意思
简答版本"蒸馏人"是2026年AI圈的一个热门概念,它是"知识蒸馏"(Knowledge...
蒸馏是什么
知识蒸馏核心思想:让小模型模仿大模型。怎么做? 教师模型生成软标签(不仅告诉正确答案,还告诉错误答案的概率分布),学生模型通过最小化输出差异来学习,不仅学结果,还学"思考方式"。三大组件:...
Harness Engineering是什么
Harness Engineering(驾驭工程)是2025-2026年AI圈最火的概念之一,它的核心思想很简单:Agent的能力不只看模型,更看模型之外的那套工程体系。Agent = Model +...
Context Engineering
Context Engineering(上下文工程)是把喂给大模型的上下文从随手拼凑的 prompt 提升为一门系统性的工程学科。...
Engineering
这三个概念代表了人工智能(特别是大语言模型 LLM 和 AI Agent)开发与应用的三个递进的阶段和关注点。如果用一句通俗的话来概括它们的核心区别:Prompt Engineering(提示工程) 解决的是:“怎么跟 AI...