在你的Mac上準備本地人工智慧
本地人工智慧需要在你的Mac上運行一個模型 。 在依賴離線使用之前,在連接時準備模型和元件。 接著測試一個不包含任何個人資訊的小檔案 網路連接斷開
打開交互式產品視圖 ↗如果一個準備好的模型感覺很慢 ,
在 Stats 比較記憶體壓力與工作負載。請嘗試較小文件,並減少同時執行的其他高負載工作。僅憑 CPU 百分比無法判斷模型是否正在運作。
為什麼要離線測試 ?
成功的連線操作本身並不證明離線操作。 在網路斷開的情況下,在同一個文件上重複相同的任務,有助於驗證你所需要的本地工作流程。
如何使用它
- 選擇任務:圖像理解、文件文本或命名建議。 不同的任務可能需要不同的模型和硬體資源。
- 在應用程式中查看模型狀態,並完成所需的下載。 留下足夠的可用磁碟空間;模型大小和記憶體需求取決於您的選擇。
- 在線時使用示例文件試試所支持的本地任務。 確認模型準備好並產生有用的結果。
- 斷開網路連接 , 重複同樣的本地任務 。 比對結果和時間;將下載和網頁存檔與此測試分開。
範圍和考量
此處不保證固定 RAM、磁碟或速度需求;需求取決於模型與任務。初次模型下載需要網路。本機檔案處理不會使更新、支援表單等獨立網路操作變為離線功能。