llama.cpp

AI新聞

llama.cpp 支援決策模型：在自己的電腦分類、分流，還能回傳每個選項的機率

llama.cpp 新增 /v1/systemone 決策模型介面，支援本機分類與評分。本文解釋它和聊天模型的差別、三種問題格式，以及機率與授權的使用限制。