RAG 搭建 anythingllm 建议E5v2之前不要尝试 包括V2

发表评论

angthingllm 可以本地桌面和搭建服务器web端。

下面是WEB端的搭建（需要DOCKER）：
Ubuntu下Docker sudo apt update && sudo apt install docker.io apparmor -y

anythingLLM 的Docker部署命令：

export STORAGE_LOCATION=$HOME/anythingllm && \
mkdir -p $STORAGE_LOCATION && \
touch "$STORAGE_LOCATION/.env" && \
docker run -d -p 3001:3001 \
--cap-add SYS_ADMIN \
-v ${STORAGE_LOCATION}:/app/server/storage \
-v ${STORAGE_LOCATION}/.env:/app/server/.env \
-e STORAGE_DIR="/app/server/storage" \
mintplexlabs/anythingllm

访问你的http://IP:3001 即可

坑点：

E5 V2 CPU 不支持 会在首页设置模型处报错，docker直接下线。

vultr 新建4C 8G 可以运行

需要给anythingllm目录整体给予777 权限 即可,下面步骤:

  • 1.即先docker运行失败，后再加入执行
  • 2.chmod -R 777 anythingllm
  • 3.再执行docker命令启动

docker logs报错/usr/local/bin/docker-entrypoint.sh: line 7:   105 Illegal instruction     (core dumped) node /app/server/index.js

在网页设置中 无法进入下一步，网页显示报错
Failed to save LLM settings: Failed to fetch

在默认设置的目录需要写入权限 直接777 完事 chmod -R 777 $HOME/anythingllm

发表回复