在 Mac 上准备本地 AI
本地 AI 需要在您的 Mac 上运行一个模型。 在依赖离线使用之前,在连接时准备模型和组件。 然后,在断开网络连接的情况下,测试一个不包含个人信息的小文件。
打开交互式产品视图 ↗如果一个准备好的模型感觉缓慢
在 Stats 中比较内存压力和负载。尝试更小的文档，并减少同时运行的其他繁重任务。仅凭 CPU 百分比不能判断模型是否正在工作。
为什么要离线测试?
连接时的成功操作本身并不证明脱机操作。 在网络断开连接的情况下,对同一文件重复执行相同任务有助于验证您所需的本地工作流程。
如何使用它
- 选择任务:图像理解、文档文本或命名建议。 不同的任务可能需要不同的模型和硬件资源。
- 在应用程序中检查模型状态并完成所需的下载。 留出足够的可用磁盘空间;模型大小和内存需求取决于您的选择。
- 在联机时,使用示例文件尝试支持的本地任务。 确认模型已准备就绪并产生了有用的结果。
- 断开互联网连接并重复相同的本地任务。 比较结果和时间;将下载和 Web 存档与此测试分开。
范围和考虑因素
此处不保证固定 RAM、磁盘或速度；要求取决于模型和任务。初始模型下载需要互联网。本地文件处理不代表更新或支持表单等独立网络操作可离线运行。