提示词工具
使用提示词工具将提示词发送给大型语言模型 (LLM),然后接收模型输出的响应。您还可以配置 LLM 参数来调整模型的输出。
工具组件
提示词工具有 3 个锚点(2 个输入和 1 个输出):
M 输入锚点:(可选)使用 M 输入锚点连接来自
LLM 覆盖工具的模型连接设置。或者,在此工具内设置连接。D 输入锚点:(可选)使用 D 输入锚点连接您要添加到提示词中的数据。提示词工具除了接受来自
“Blob 输入”工具 的 Blob 数据外,还接受标准数据类型(如字符串、数值和日期时间)。输出锚点:使用输出锚点将模型的响应向下游传递。
配置工具
连接到 Alteryx One 中的 AI 模型服务
如果您未使用 LLM 覆盖工具为提示词工具提供模型连接设置,则必须连接 Alteryx One 中的 AI 模型服务。
首次设置提示词工具时,请创建指向您的 Alteryx One 工作区的 Alteryx 链接。如果您通过 Alteryx One 登录 Designer,则应该会看到已为该工作区设置的连接。
LLM 连接
重要
在选择 LLM 之前, 必须在 Alteryx One 中创建 LLM 连接。
提示词设置
使用“提示词设置”部分编写提示词,并配置与提示词和响应关联的数据列。
在提示词模板字段中输入您的提示词。有关提示词的 token 计数的估计值,请参阅提示词模板字段底部的 token 计数。token 计数不考虑已插入数据列中可能产生的其他 token。
在提示词中包含上游数据,以进行更高级的分析。提示词工具会为输入数据的每一行创建一个新提示词。然后,该工具会为所有这些行发送 LLM 请求。
要插入输入数据列,您可以...
在文本字段中输入左方括号 (
[) 以调出列选择菜单。您也可以在方括号 ([]) 中键入列名称。从插入字段下拉列表中选择一列。
要附加非结构化数据(如图像或 PDF 文件),请从附加非文本列下拉列表中选择包含非结构化数据的列。使用
“Blob 输入”工具 将图像和 PDF 导入到您的工作流中。注意
对图像和 PDF 等非结构化数据的支持取决于您的 LLM 提供商及所选模型。有关支持的非结构化或多模式数据类型的详细信息,请参阅您的 LLM 提供商的文档。
输入响应列名称。此列包含 LLM 对您的提示词的响应。
运行工作流。
提示词生成器
使用提示词生成器可以快速测试不同的提示词和模型配置。然后,您可以将结果与提示词历史记录进行比较。要尝试不同的模型和模型配置,请在初始提示词下运行工作流,然后选择在提示词生成器中优化并测试以打开提示词生成器窗口。
重要
提示词生成器需要连接到 D 输入锚点的数据。
提示词工作区选项卡
使用提示词工作区选项卡输入提示词并更新模型配置:
使用选择模型下拉列表从 LLM 提供商中选择可用的模型。
输入要测试的记录数。如果您有大型数据集,请使用此设置限制用您的提示词测试的记录数。
配置模型的参数,包括温度、输出 token 数量上限和 TopP。有关参数说明,请参阅 高级模型配置设置 部分。
在提示词模板文本字段中输入或更新您的提示词。
提示
要获得有关如何创建即用型提示词的帮助,请选择为我生成提示词,然后描述您的任务。要使用此功能,您的 Alteryx One 账户必须有权访问 Altery Copilot。
选择测试并运行以查看每一行的示例响应。
如果您对新提示词的响应满意,请选择将提示词保存到画布,以用新的提示词和模型配置更新提示词工具。
历史记录选项卡
使用历史记录选项卡查看您过去的提示词、模型参数和样本响应。
对于过去的每个提示词,您可以...
添加到画布中:使用所选提示词和相关模型参数更新提示词工具。
编辑提示词:返回“配置”选项卡,显示所选提示词和相关模型参数。选择添加到画布中旁边的三点菜单以查找此选项。
下载结果:在历史记录选项卡中保存包含当前行的提示词和模型参数的 CSV 文件。
警告
请确保在离开“提示词生成器”窗口之前保存您的提示词。选择关闭将丢失您的提示词历史记录。
错误处理
发生错误时,请从出错时下拉列表中选择错误处理选项:
错误 - 停止处理记录:在“结果”窗口中发出错误并停止处理记录。
警告 - 继续处理记录:在“结果”窗口中发出警告,但继续处理记录。
忽略 - 继续处理记录:忽略不同的列并继续处理记录。
高级模型配置设置
使用“高级模型配置”部分配置模型的参数:
温度:将模型输出的随机性控制在 0 到 2 之间的数值。默认值为 1。
较低的值可提供更可靠和一致的响应。
值越高,响应越有创意,随机性也越大,但也可能变得不合逻辑。
最大输出 Token 数:LLM 可以在响应中包含的最大 Token 数。每个 Token 大约相当于一个单词的 3/4 长度。Token 是 LLM 中的基本输入和输出单位。它们可以是文本块,如单词、字符集,或单词与标点符号的组合。有关最大可用输出 Token 数,请参考您的 LLM 提供商及特定模型。
TopP:控制模型从哪些输出 Token 中采样,范围为 0 到 1。模型会从概率最高到最低的 Token 中进行选择,直到它们的概率总和等于 TopP 值。例如,如果 TopP 值为 0.8,且 3 个 Token 的概率分别为 0.5、0.3 和 0.2,则模型只会从概率为 0.5 和 0.3(总和为 0.8)的 Token 中进行选择。较低的值会使响应更一致,而较高的值会使响应更随机。
输出
该工具输出两个字符串数据列。
LLM 提示词列:包含您的提示词。
LLM 响应列:包含来自您的 LLM 提供商和模型的响应。
