github email
Ollama
Mar 24, 2024
One minute read

Ollama

ia is so close!

第一次接触chatGPT的时候,被注册劝退了。朋友推荐了Cursor,感觉也还不错,但是就是每月都会有所限制,并且代码质量也不很高。

现在,用文心一言,感觉还不错,毕竟国产的,理解起来比较好,所以一直都在用,目前没有出现什么问题。

昨天,看到了Ollama的微信号推荐,就下载来玩了玩。

下载Ollama相当的简单,直接冲官网下载。

https://ollama.com/

因为电脑比较老,所以就只能下载了一个最小的model。

ollama pull codellama:7b-code

启动服务。

ollama serve

测试服务。

ollama run codellama:7b-code 'You are an expert programmer that writes simple, concise code and explanations. Write a python function to generate the nth fibonacci number.'

感觉很不错,可惜不能使用中文,哈哈,是自己想多了。如果不是自己的电脑怒吼的话,或许可以玩一玩,所以再次删除了。

rm -rf ~/.ollama

程序里将ollama.app移除。

今天,又听说有个叫llamafile的东西,不错,可惜,最近太忙了,或许有时间,下载来玩玩。

https://github.com/Mozilla-Ocho/llamafile

接受不了诱惑,还是下载了,但是由于在终端中使用命令,报错,所以使用了网上推荐的命令。

sh -c ./llava-v1.5-7b-q4.llamafile

结论就是电脑太老了,根本跑不起来。比Ollama的运行速度还慢,再等等吧。

不过,这次使用了Cody就是非常好用。


Back to posts