自从最近微软开源Semantic-kernel (SK) 来帮助开发人员在其应用程序中使用AI大型语言模型（LLM）以来，Microsoft一直在忙于改进它，发布了有关如何使用它的新指南并发布了5篇文章介绍他的功能。

开发人员可以使用Semantic-kernel （SK） 创建自然语言提示、生成响应、提取信息、调用其他提示或执行可以用文本表示的其他任务。微软在3月17日开源Semantic-kernel （SK）时，提示是项目描述的关键部分：“Semantic-kernel  （SK）是一个轻量级SDK，可让您将C#和Python等传统编程语言与最新的大型语言模型（LLM）AI'提示'混合在一起，具有提示模板，链接和规划功能。

微软将更好的提示列为SK的四个关键优势之一：

  • 快速集成：
    SK旨在嵌入任何类型的应用程序中，使您可以轻松测试和运行LLM AI。
  • 扩展：
    借助 SK，您可以连接外部数据源和服务，使其应用程序能够将自然语言处理与实时信息结合使用。
  • 更好的提示：
    SK的模板化提示可让您使用有用的抽象和机制快速设计语义函数，以释放LLM AI的潜力。
  • 新奇但熟悉：
    传统编程语言代码始终可供您作为一流的合作伙伴，帮助您快速完成工程设计，可以两全其美。

微软（3月30日）发布了一篇题为“Semantic-kernel
规划器：嵌入和语义记忆的
改进”[1]文章，详细介绍了该项目
规划器技能的
[2]改进，允许用户根据语义查询创建和执行计划。这篇文章解释了最近的调整，使规划器技能更加通用。

image

调整涉及将嵌入集成到 Planner 技能中，以增强其可用性和功能。嵌入[3]是数字向量或数组，表示模型处理的令牌的含义和上下文。嵌入用于编码和解码输入和输出文本，可以帮助LLM理解令牌之间的关系并生成相关且连贯的文本。它们用于文本分类、摘要、翻译和生成，包括图像和代码生成。

微软在文章中说到：“随着Semantic-kernel 在Alpha阶段的发展，我们将优先考虑使用嵌入进行规划创建的其他方法，这些方法将更加强大，” ，3月22日还有一篇文章“Semantic-kernel
嵌入和记忆：使用聊天UI探索GitHub Repos
”[4] ，文章中进行了展示了嵌入，该文章解释了他们如何帮助开发人员提出有关GitHub存储库的问题或使用自然语言查询探索GitHub存储库。与嵌入一起，这是在SK
存储器
[5]（嵌入集合）的帮助下完成的，这有助于为提示（或SK世界中的ASK）提供更广泛的上下文。

image

这篇文章重点介绍了一个示例应用程序GitHub
Repo Q&A Bot
[5]，它展示了开发人员如何使用SK函数下载任何GitHub存储库，将其存储在内存（嵌入集合）中，并使用聊天UI进行查询。

微软表示，该示例可用作存储和查询项目的指南，例如：

  • 大型内部程序手册
  • 学生教育材料
  • 公司合同
  • 产品文档

微软在周一还有一篇题为“
如何在几分钟内将Semantic-kernel 部署到Azure
” [6]的文章，这是通过Azure Function完成的，Azure Function是微软的Serverless 计算服务，允许用户在不管理服务器或基础设施的情况下运行代码。该演示使用的是 Visual Studio Code，需要安装
Azure Tools
[7]扩展。

如果你一直在关注Semantic-kernel  的GitHub仓库 ：
https://github.com/microsoft/semantic-kernel/
[8]，可以看到自从开源以来，star的增长非常快，目前已经有3717个star，并且各项功能的开发也在紧锣密鼓的进行之中，正在添加对其他LLM 模型支持，例如例子
https://github.com/microsoft/semantic-kernel/tree/main/samples/apps/hugging-face-http-server[9
]，这也是第一个Python语言的例子 ，还有更多的语言支持在进行当中。

image

相关链接：

标签: none

添加新评论