如何使用llama.cpp部署InternLM2——大模型CPU部署系列05 发表于 2024-01-21 | 分类于 工程实践 , 大模型CPU部署系列 | 阅读次数 本文主要介绍了开源大模型使用工具原理,如有错误请指正。 阅读全文 »
大模型使用工具原理——大模型CPU部署系列04 发表于 2024-01-07 | 分类于 工程实践 , 大模型CPU部署系列 | 阅读次数 本文主要介绍了开源大模型使用工具原理,如有错误请指正。 阅读全文 »
大语言模型研究02:如何训练 发表于 2023-12-07 | 分类于 机器学习 , 大语言模型研究 | 阅读次数 本文主要介绍了如何训练大语言模型与人类对齐一些理论问题,最近发现RLFT实质是一个贝叶斯推断,本文基于贝叶斯推断提出了一个类似多脑区的多模型多模态训练构想。如有错误请指正。 阅读全文 »
不得不说的Chat Format——大模型CPU部署系列03 发表于 2023-10-25 | 分类于 工程实践 , 大模型CPU部署系列 | 阅读次数 本文主要介绍了大模型量Chat Format的格式,如有错误请指正。 阅读全文 »
gguf的原理和使用——大模型CPU部署系列02 发表于 2023-10-24 | 分类于 工程实践 , 大模型CPU部署系列 | 阅读次数 本文主要介绍了大模型量化与CPU部署中gguf的格式,如有错误请指正。 阅读全文 »
一些信息总结——大模型量化与CPU部署系列01 发表于 2023-10-24 | 分类于 工程实践 , 大模型量化与CPU部署系列 | 阅读次数 本文主要介绍了大模型量化与CPU部署的一些信息,如有错误请指正。 阅读全文 »
一个简单例子——Run AI In Rust系列01 发表于 2023-10-19 | 分类于 工程实践 , RunAIInRust | 阅读次数 本文主要介绍了在rust中跑一个AI模型的例子,如有错误请指正。 阅读全文 »
大模型时代的交互语言——Autogen系列03 发表于 2023-10-14 | 分类于 大模型应用开发 , Autogen系列 | 阅读次数 本文主要介绍了AutoGen的入门问题,如有错误请指正。 阅读全文 »
Autogen的基本框架,人工智能的管理系统——Autogen系列02 发表于 2023-10-13 | 分类于 大模型应用开发 , Autogen系列 | 阅读次数 本文主要介绍了AutoGen的入门问题,如有错误请指正。 阅读全文 »
初见AI-Agent——Autogen系列01 发表于 2023-10-13 | 分类于 大模型应用开发 , Autogen系列 | 阅读次数 本文主要介绍了AutoGen的入门问题,如有错误请指正。 阅读全文 »