StabilityAI推出新的人工智能聊天机器人
•
2024-01-07 10:10:44
摘要 Stable Diffusion 制造商StabilityAI的最新人工智能模型是一个轻量级聊天机器人，可以在本地运行，只需几分钟即可启动和运行。Zephyr 基...
Stable Diffusion 制造商StabilityAI的最新人工智能模型是一个轻量级聊天机器人，可以在本地运行，只需几分钟即可启动和运行。
Zephyr 基于专门用于句子自动完成的 StableLM 紧凑型大型语言模型构建，只有 30 亿个参数，无需高端硬件即可实现准确响应。
这是摆脱需要大型数据中心和最快 GPU 的大规模人工智能模型这一日益增长的趋势的一部分。运行这些模型的成本很高，而较小模型的性能由于微调和效率而变得“足够好”。
我在MacBook Air M2上进行了尝试，它的响应速度比我读取响应的速度还要快。它以每秒 40 个令牌的速度运行，比平均读取速度快约五倍。
StabilityAI 的最新小型模型是一个聊天机器人，针对问答任务后的指令进行了调整。尽管其参数不到许多小型模型的一半，但该公司表示，它可以有效地满足各种文本生成需求。
它特别倾向于写作、角色扮演和回答评估中有关人文学科的问题。它具有一定的推理和提取能力，但还没有达到任何类似小型模型的水平。
然而，它可以生成上下文相关、连贯且语言准确的文本。我发现它能够以自然语言快速响应，其答案与 Bard 或免费的ChatGPT没有什么不同。
版权声明：本文由用户上传，如有侵权请联系删除！
标签：