ChatGLM2-6B搭建过程记录

本文记录清华大学开放使用的ChatGLM2-6B的完整大家过程,在本地机器32G内存,无显卡,可以缓慢运行。要求python3.7+环境,本文用的是python 3.9 + redhat 7.9。如果你没有大内存机器,就别测试了。如果没有8G显存的nvidia显卡,就别太指望性能。

kubectl 命令报错couldn't get current server API group list: ... connect: connection refused

kubenets在运行时,依赖环境变量。如果所有的服务都是正常的,只是kubectl命令报错,那就是环境变量没有设置导致。一般报错样例如下: memcache.go:265] couldn't get current server API group list: Get "http://localhost:8080/api?timeout=32s": dial tcp [::1]:8080: connect: connection refused。The connection to the server localhost:8080 was refused - did you specify the right host or port?