自从最近微软开源Semantic-kernel (SK) 来帮助开发人员在其应用程序中使用AI大型语言模型(LLM)以来,Microsoft一直在忙于改进它,发布了有关如何使用它的新指南并发布了5篇文章介绍他的功能。

开发人员可以使用Semantic-kernel (SK) 创建自然语言提示、生成响应、提取信息、调用其他提示或执行可以用文本表示的其他任务。微软在3月17日开源Semantic-kernel (SK)时,提示是项目描述的关键部分:“Semantic-kernel  (SK)是一个轻量级SDK,可让您将C#和Python等传统编程语言与最新的大型语言模型(LLM)AI'提示'混合在一起,具有提示模板,链接和规划功能。

微软将更好的提示列为SK的四个关键优势之一:

  • 快速集成:
    SK旨在嵌入任何类型的应用程序中,使您可以轻松测试和运行LLM AI。
  • 扩展:
    借助 SK,您可以连接外部数据源和服务,使其应用程序能够将自然语言处理与实时信息结合使用。
  • 更好的提示:
    SK的模板化提示可让您使用有用的抽象和机制快速设计语义函数,以释放LLM AI的潜力。
  • 新奇但熟悉:
    传统编程语言代码始终可供您作为一流的合作伙伴,帮助您快速完成工程设计,可以两全其美。

微软(3月30日)发布了一篇题为“Semantic-kernel
规划器:嵌入和语义记忆的
改进”[1]文章,详细介绍了该项目
规划器技能的
[2]改进,允许用户根据语义查询创建和执行计划。这篇文章解释了最近的调整,使规划器技能更加通用。

image

调整涉及将嵌入集成到 Planner 技能中,以增强其可用性和功能。嵌入[3]是数字向量或数组,表示模型处理的令牌的含义和上下文。嵌入用于编码和解码输入和输出文本,可以帮助LLM理解令牌之间的关系并生成相关且连贯的文本。它们用于文本分类、摘要、翻译和生成,包括图像和代码生成。

微软在文章中说到:“随着Semantic-kernel 在Alpha阶段的发展,我们将优先考虑使用嵌入进行规划创建的其他方法,这些方法将更加强大,” ,3月22日还有一篇文章“Semantic-kernel
嵌入和记忆:使用聊天UI探索GitHub Repos
”[4] ,文章中进行了展示了嵌入,该文章解释了他们如何帮助开发人员提出有关GitHub存储库的问题或使用自然语言查询探索GitHub存储库。与嵌入一起,这是在SK
存储器
[5](嵌入集合)的帮助下完成的,这有助于为提示(或SK世界中的ASK)提供更广泛的上下文。

image

这篇文章重点介绍了一个示例应用程序GitHub
Repo Q&A Bot
[5],它展示了开发人员如何使用SK函数下载任何GitHub存储库,将其存储在内存(嵌入集合)中,并使用聊天UI进行查询。

微软表示,该示例可用作存储和查询项目的指南,例如:

  • 大型内部程序手册
  • 学生教育材料
  • 公司合同
  • 产品文档

微软在周一还有一篇题为“
如何在几分钟内将Semantic-kernel 部署到Azure
” [6]的文章,这是通过Azure Function完成的,Azure Function是微软的Serverless 计算服务,允许用户在不管理服务器或基础设施的情况下运行代码。该演示使用的是 Visual Studio Code,需要安装
Azure Tools
[7]扩展。

如果你一直在关注Semantic-kernel  的GitHub仓库 :
https://github.com/microsoft/semantic-kernel/
[8],可以看到自从开源以来,star的增长非常快,目前已经有3717个star,并且各项功能的开发也在紧锣密鼓的进行之中,正在添加对其他LLM 模型支持,例如例子
https://github.com/microsoft/semantic-kernel/tree/main/samples/apps/hugging-face-http-server[9
],这也是第一个Python语言的例子 ,还有更多的语言支持在进行当中。

image

相关链接:

标签: none

添加新评论