下载好chatbox 配置一下ollama
点击保存后,完成chatbox 设置
我找几个有点难度的问题。
回答正确,没有翻车。
我们的问题 :
同源结构经常被引用作为自然选择过程的证据。以下所有的结构都是同源结构,除了 (A) 鸟的翅膀和蝙蝠的翅膀 (B) 鲸鱼的鳍和人的手臂 (C) 海豚的胸鳍和海豹的鳍 (D) 昆虫的前腿和狗的前肢
回答的是正确的。
总结
目前我们使用ollama 提供的qwen2.5:7b-instruct (4B量化)模型在 4060显卡上推理使用起来还是非常方便了,准确性和推理速度都可以满足我们市场对模型使用。由于时间关系我这里就没做详细展开,据说它也是支持funcation call 功能。