12月7日，知乎携手DataFun共同举办了一场技术沙龙。活动以《大模型应用工程化实践：从实验室走向千万级用户产品》为主题。此次沙龙聚焦当前备受关注的大模型议题，吸引了众多目光。
知乎大模型工程化实践进程
2024年，知乎在大模型工程化实践方面采取了多项举措。6月和10月，分别推出了知乎直答及专业搜索功能。这些举措体现了知乎在大模型应用领域的积极探索和积极态度，持续加强在人工智能领域的战略布局。知乎直答主要针对专业人士的生产力需求，特别是其专业搜索功能，推动了AI搜索向更专业、实用的深度搜索能力发展，使用户在查找专业知识时能够获得更加精确的搜索结果。
知乎直答搭建过程分享
在本次技术交流活动中，知乎人工智能算法的主要负责人王界武进行了深入讲解。他详尽地阐述了知乎直答系统的构建历程，并探讨了在构建人工智能问答系统时，所遭遇的众多技术路径选择难题。王界武指出，他曾经对比了持续预训练和后训练的LLM方法，以及检索增强生成（RAG）方案。在综合考虑成本、时效性、准确性和可扩展性等多个方面后，RAG方案被选中。这一决策过程揭示了打造一个卓越AI问答系统的复杂性。
知乎直答技术模块的突破
知乎直答专业搜索在技术领域取得显著进展，不仅限于技术方案的选择，还实现了多个技术模块的突破。例如，在思维链提示词工程、智能文档解析、动态资源调度等方面均有显著成就。这些成就反映出知乎在增强直答搜索功能方面投入了多方位的努力。每一个技术模块的突破都对提升产品性能起到了至关重要的作用，同时也彰显了知乎对技术研发的高度重视。
知乎直答后续计划
王界武阐述了后续计划。知乎直答团队计划将产品与社区紧密结合，这一举措旨在更好地满足用户在不同场景下寻求答案的需求。同时，该团队将致力于提升答案的准确性、时效性和交互模式。此外，还将增强模型的推理能力，这将使知乎直答在解决复杂问题时更加高效，并优化用户的使用体验。
知乎内部的大模型部署情况
王新，知乎机器学习平台负责人，亦分享了相关信息。知乎已在多款英伟达设备上部署了众多大模型推理服务。此外，开源项目vLLM和SGLang亦在知乎内部得到广泛运用。这些举措体现了知乎在大模型技术基础架构方面的建设成果，为其实际应用提供了关键的支持。
从Agent到AGI的探索
王宇龙，百川智能大语言模型的资深算法专家，从一项关于Agent极限的实验入手进行讲解。他强调了构建Agent的重要性，并指出，与传统Agent相比，LLM驱动的智能体具有显著的不同。这种智能体借助LLM的强大功能，实现了工作方式的变革，不再局限于执行单一任务。它们具备了规划、记忆、工具使用等关键能力，能够在多个任务间灵活切换，并借助自然语言理解来解决问题。
在此，我向读者提出一个疑问：在知乎的大模型工程化实施过程中，有哪些方面是其他企业可以学习的？期待大家积极留言、点赞及转发本文。
