ข้ามไปยังเนื้อหา

โซลูชัน · แชตหลายโมเดล

VPS สำหรับ LibreChat

LibreChat คืออินเทอร์เฟซแชตโอเพนซอร์สสำหรับหลายโมเดลพร้อมกัน ได้แก่ OpenAI, Anthropic, Google และโมเดลในเครื่องผ่าน endpoint ที่เข้ากันได้กับ OpenAI พร้อมเอเจนต์ การค้นหาไฟล์ และบัญชีสำหรับทั้งทีม เอกสารของ LibreChat ไม่ได้ระบุตัวเลข RAM หรือ CPU และไฟล์ Docker Compose อย่างเป็นทางการเริ่มคอนเทนเนอร์หกตัว เราจึงกำหนดขนาดจากตรงนั้น BD-8 ราคา $12.90 ต่อเดือนคือเครื่องที่ถูกที่สุดที่มีพื้นที่เพียงพอจริง ส่วน C2-4-80 ราคา $37.90 คือขนาดเล็กกว่าสำหรับผู้ใช้คนเดียวหรือกลุ่มเล็ก

ปรับใช้ BD-8เปรียบเทียบทุกแพ็กเกจ

สิ่งที่ต้องใช้

ซอฟต์แวร์ตามเอกสาร ขนาดระบุแหล่งที่มา

ซอฟต์แวร์และแนวทางด้านความปลอดภัยมาจากเอกสารของโปรเจกต์เอง หากโปรเจกต์ไม่ได้เผยแพร่ข้อมูลฮาร์ดแวร์ ขนาดจะระบุว่าเป็นตัวเลขของใคร

จากเอกสารของ LibreChat และไฟล์ compose

  • Git และ Docker บน Linux คู่มือ Docker บน librechat.ai ไม่ได้ระบุอย่างอื่น และไม่ได้ระบุความต้องการด้าน RAM, CPU หรือดิสก์
  • การติดตั้ง: โคลนรีโพสิทอรี แล้ว cp .env.example .env && docker compose up -d แอปตอบสนองบนพอร์ต 3080 ส่วนคอนเทนเนอร์ที่สองซึ่งเป็นแผงผู้ดูแล ตอบสนองบนพอร์ต 3000
  • ไฟล์ compose อย่างเป็นทางการเริ่มคอนเทนเนอร์หกตัว ได้แก่ แอป LibreChat, แผงผู้ดูแลระบบ, MongoDB สำหรับบทสนทนาและบัญชี, Meilisearch สำหรับค้นหาบทสนทนา, ฐานข้อมูล pgvector และ RAG API สำหรับการค้นหาไฟล์
  • โมเดลคือคีย์ ไม่ใช่ฮาร์ดแวร์ คีย์ของ OpenAI, Anthropic และ Google ใส่ไว้ใน .env หรือให้ผู้ใช้แต่ละคนกรอกคีย์ของตนเองในอินเทอร์เฟซ โมเดลในเครื่องคือ endpoint แยกต่างหากของ Ollama หรือที่เข้ากันได้กับ OpenAI อื่น ๆ ซึ่งคุณเพิ่มใน librechat.yaml เครื่องนี้จึงไม่ต้องใช้ GPU

ขนาด (ของเรา จากคอนเทนเนอร์หกตัวที่ไฟล์ compose เริ่ม)

กำหนดขนาดตามประเภทงาน
ปริมาณงานvCPURAM
ผู้ใช้คนเดียวหรือกลุ่มเล็ก แชตไม่กี่รายการ ไม่มีการค้นหาไฟล์หนัก ๆของเรา คอนเทนเนอร์หกตัวใช้หน่วยความจำของตัวเองแม้ไม่ได้ทำงาน นี่คือขนาดต่ำสุดที่เราจะใช้รัน24 GB
ทีมหนึ่งทีม เปิดการค้นหาไฟล์ และดัชนีการค้นหาเพิ่มขึ้นเรื่อยๆของเรา MongoDB, Meilisearch และฐานข้อมูลเวกเตอร์ต่างต้องการพื้นที่เผื่อ และการทำ embedding ไฟล์อัปโหลดเป็นงานของ CPU48 GB
ผู้ใช้จำนวนมาก ชุดเอกสารขนาดใหญ่ เก็บบทสนทนาไว้หลายปีของเรา ที่เก็บบทสนทนา ดัชนีการค้นหา และเวกเตอร์ล้วนเติบโตตามการใช้งาน816 GB

แพ็กเกจที่เหมาะสม

5 เครื่อง ราคาปัจจุบัน

เครื่องที่เหมาะและถูกที่สุดก่อน ราคาเป็นราคาวันนี้ ต่อเดือน อ่านจากแค็ตตาล็อก

  • BD-8$12.90/เดือน

    4 vCPU · 8 GB · ดิสก์ 100 GB · 32 TB

    ราคาถูกที่สุดที่มีพื้นที่พอสำหรับทั้งสแตก. เพียงพอสบายๆ สำหรับทีม: คอนเทนเนอร์ทั้งหก ไฟล์อัปโหลด และดัชนีการค้นหา โดยยังมีหน่วยความจำเหลือ

    ปรับใช้
  • BD-12$17.90/เดือน

    6 vCPU · 12 GB · ดิสก์ 200 GB · 32 TB

    ดิสก์มากขึ้นสำหรับไฟล์อัปโหลดและเวกเตอร์. สำหรับคลังเอกสารจริงที่ใช้กับการค้นหาไฟล์ และบทสนทนาที่บันทึกไว้หลายปี

    ปรับใช้
  • BD-24$31.90/เดือน

    8 vCPU · 24 GB · ดิสก์ 300 GB · 32 TB

    ทีมขนาดใหญ่หรือผู้ใช้งานหนักหลายคน. หน่วยความจำเหลือเฟือให้ MongoDB, Meilisearch และฐานข้อมูลเวกเตอร์ขยายตัวได้

    ปรับใช้
  • C2-4-80$37.90/เดือน

    2 vCPU · 4 GB · ดิสก์ 80 GB · 3 TB

    ขนาดเล็กกว่า สำหรับผู้ใช้คนเดียวหรือไม่กี่คน. รันสแตกได้ แต่อย่ารันโมเดลในเครื่องหรืองาน build บนเครื่องนี้ด้วย เลือกเพราะเมือง ไม่ใช่เพราะขนาด

    ปรับใช้
  • C4-8-160$75.90/เดือน

    4 vCPU · 8 GB · ดิสก์ 160 GB · 3 TB

    ขนาดที่สบาย ในกรณีที่เมืองของแถวที่ถูกที่สุดไม่เหมาะกับคุณ. ขนาดเดียวกับแถวที่ถูกที่สุด สำหรับทีมที่ต้องการเมืองอื่น

    ปรับใช้

ยังไม่มีพรีเซ็ตเริ่มต้นสำหรับ LibreChat: การติดตั้งคือขั้นตอนด้านล่างที่คุณพิมพ์เอง ซึ่งเป็นคำสั่งจากเอกสารของ LibreChat เอง รวมถึงค่า secret ที่ไฟล์ compose ต้องการ

การติดตั้ง

สี่ขั้นตอน จากเอกสารของ LibreChat

Docker, สแต็ก compose, บัญชีแรก แล้วจึงเป็นโมเดลของคุณ ลงทะเบียนบัญชีของคุณทันทีที่สแต็กทำงาน: บัญชีแรกที่สร้างจะกลายเป็นผู้ดูแลระบบ

  1. Docker curl -fsSL https://get.docker.com | sh จากนั้นตรวจสอบว่า docker compose version ตอบสนอง
  2. โคลนและตั้งค่า git clone https://github.com/LibreChat-AI/LibreChat.git cd LibreChat && cp .env.example .env ใน .env ให้ตั้ง MEILI_MASTER_KEY (อย่างน้อย 16 ตัวอักษร) และ ADMIN_PANEL_SESSION_SECRET ซึ่งแผงผู้ดูแลจะไม่เริ่มทำงานหากไม่มี หากคอนเทนเนอร์รายงานข้อผิดพลาดด้านสิทธิ์ ให้ตั้ง UID และ GID เป็นผู้ใช้ที่รัน compose
  3. เริ่มระบบและลงทะเบียนก่อนใคร docker compose up -d docker compose ps ควรแสดงว่าคอนเทนเนอร์ทั้งหกทำงานอยู่ เปิด http://your-ip:3080 แล้วกด Register: ไม่มีผู้ใช้เริ่มต้น จนกว่าจะมี HTTPS ด้านหน้า ให้เก็บพอร์ต 3080 และ 3000 ไว้หลังไฟร์วอลล์และเข้าถึงแอปผ่าน SSH: ssh -N -L 3080:127.0.0.1:3080 root@your-server
  4. เพิ่มโมเดล แล้วจึงตั้งโดเมน ใส่ OPENAI_API_KEY, ANTHROPIC_API_KEY และ GOOGLE_KEY ใน .env หรือปล่อยเป็น user_provided เพื่อให้ผู้ใช้แต่ละคนป้อนคีย์ของตนเอง สำหรับโมเดลในเครื่อง ให้เพิ่ม endpoint ของ Ollama ใน librechat.yaml จากภายในคอนเทนเนอร์ที่อยู่คือ host.docker.internal ไม่ใช่ localhost สำหรับ HTTPS ให้ชี้ A record มาที่เซิร์ฟเวอร์ วาง reverse proxy ไว้ด้านหน้า และตั้ง DOMAIN_CLIENT และ DOMAIN_SERVER ใน .env เป็นที่อยู่สาธารณะ เมื่อทีมของคุณลงทะเบียนครบแล้ว ให้ตั้ง ALLOW_REGISTRATION เป็น false

พูดกันตรง ๆ

สิ่งที่เราจะซื้อจริงๆ

LibreChat ไม่ได้ระบุขั้นต่ำ และเริ่มคอนเทนเนอร์หกตัว ให้ซื้อเครื่อง 8 GB

สำหรับ LibreChat และทีม

BD-8 · $12.90/เดือน

4 vCPU, 8 GB และ 100 GB ราคา $12.90: สแตกอย่างเป็นทางการทั้งหมดพร้อมหน่วยความจำเหลือให้ MongoDB, Meilisearch และฐานข้อมูลเวกเตอร์ขยายตัว ดิสก์สำหรับไฟล์อัปโหลด และ CPU สำหรับทำ embedding เอกสารโดยแชตไม่สะดุด โมเดลอยู่ที่อื่นหลัง API key เครื่องนี้จึงไม่ต้องใช้ GPU เลย หากคุณต้องการเมืองที่แถวที่ถูกที่สุดไม่มี C4-8-160 ราคา $75.90 คือขนาดเดียวกันในที่อื่น

ปรับใช้ BD-8C4-8-160 ในเมืองอื่นๆ

คำถาม

คำถามที่ผู้คนถามก่อนซื้อ

LibreChat ต้องการระบบแบบใด?
เอกสารของ LibreChat ไม่ได้ระบุข้อกำหนดใดไว้เลย คู่มือ Docker ระบุ Git และ Docker เป็นสิ่งที่ต้องมีก่อน และไม่ได้กล่าวถึง RAM, CPU หรือดิสก์ สิ่งที่เราอ่านได้คือไฟล์ compose อย่างเป็นทางการ ซึ่งเริ่มคอนเทนเนอร์หกตัว ได้แก่ แอป LibreChat, แผงผู้ดูแลระบบ, MongoDB, Meilisearch, ฐานข้อมูล pgvector และ RAG API ขนาดในหน้านี้เป็นของเราเอง โดยคำนวณจากสแตกนั้น และตารางก็ระบุไว้เช่นนั้น เครื่องขนาด 8 GB คือจุดที่ทีมเลิกรู้สึกว่าทรัพยากรตึงมือ
LibreChat ต้องใช้ GPU หรือไม่
ไม่ใช่ LibreChat เป็นอินเทอร์เฟซ โดยเรียกใช้โมเดลใดก็ตามที่คุณกำหนดค่าไว้ ผ่าน API key ของ OpenAI, Anthropic, Google และอื่น ๆ หรือผ่าน endpoint ที่กำหนดเอง เช่น Ollama หากคุณต้องการโฮสต์โมเดลเองด้วย นั่นเป็นอีกเครื่องและอีกคำถามหนึ่ง: หน้า Ollama กำหนดขนาดสำหรับการประมวลผลด้วย CPU ตามโมเดล และไลน์ GPU คือที่ที่ได้ความเร็วแบบโต้ตอบ
ใช้พอร์ตอะไรบ้าง?
ไฟล์ compose เปิดแอปบน PORT จาก .env ค่าเริ่มต้นคือ 3080 และแผงผู้ดูแลระบบบน 3000 ส่วน MongoDB, Meilisearch, ฐานข้อมูลเวกเตอร์ และ RAG API ไม่ได้เปิดออกภายนอกและอยู่บนเครือข่าย compose แอปใช้ HTTP ธรรมดา ดังนั้นให้ปิดกั้น 3080 และ 3000 ด้วยไฟร์วอลล์จนกว่า reverse proxy จะให้ HTTPS และลงทะเบียนบัญชีของคุณเองก่อน: บัญชีแรกที่สร้างจะเป็นผู้ดูแลระบบ
ต้องใช้ API key ใดบ้าง?
ไม่ต้องใช้เลยในการเริ่มสแตก และต้องใช้หนึ่งคีย์ต่อผู้ให้บริการที่คุณต้องการใช้ OPENAI_API_KEY, ANTHROPIC_API_KEY และ GOOGLE_KEY มีค่าเริ่มต้นเป็น user_provided ใน .env.example หมายความว่าผู้ใช้แต่ละคนกรอกคีย์ของตนเองในอินเทอร์เฟซ หากต้องการใช้คีย์เดียวร่วมกันทุกคน ให้ใส่คีย์จริงไว้ตรงนั้นแทน การค้นหาไฟล์แยกต่างหาก: RAG API ใช้ embeddings ของ OpenAI เป็นค่าเริ่มต้น และ RAG_OPENAI_API_KEY จะใช้แทน OPENAI_API_KEY สำหรับส่วนนี้ ดังนั้นการค้นหาไฟล์ต้องใช้คีย์ embeddings เว้นแต่คุณจะเปลี่ยนผู้ให้บริการ
จะใช้โมเดลในเครื่องร่วมกับมันได้อย่างไร
เพิ่ม custom endpoint ใน librechat.yaml ที่ชี้ไปยังเซิร์ฟเวอร์ที่เข้ากันได้กับ OpenAI เช่น Ollama ที่ที่อยู่ /v1/ บนพอร์ต 11434 คู่มือของ LibreChat ระบุให้ใช้ host.docker.internal แทน localhost เมื่อ LibreChat รันในคอนเทนเนอร์ และ Ollama จะไม่สนใจคีย์ API แต่ช่องนั้นต้องไม่ว่าง หากโมเดลไม่ใช่ขนาดเล็ก ให้รันบนเครื่องแยก เครื่องในหน้านี้กำหนดขนาดสำหรับส่วนติดต่อผู้ใช้
LibreChat, Open WebUI หรือ Dify?
LibreChat และ Open WebUI ต่างเป็นอินเทอร์เฟซแชตสำหรับหลายโมเดล โดย LibreChat เน้นบัญชีผู้ใช้หลายคน เอเจนต์ และเครื่องมือ MCP กับผู้ให้บริการโมเดลแบบโฮสต์ต่าง ๆ ส่วน Dify เป็นแพลตฟอร์มแอป LLM คือ prompt, เวิร์กโฟลว์ และแอป RAG ที่คุณสร้างและเปิดให้ใช้งาน ไม่ใช่หน้าแชตสำหรับทีม ทั้งหมดทำงานบนเครื่องแบบเดียวกัน และเรามีหน้าแยกสำหรับแต่ละตัว
จะอัปเดตอย่างไร
ตามเอกสาร: docker compose down ลบอิมเมจเก่า git pull, docker compose pull แล้ว docker compose up สำรองไดเรกทอรี data-node (MongoDB) ไดเรกทอรีข้อมูล Meilisearch และไฟล์ .env ก่อน: สิ่งเหล่านี้คือบทสนทนา ดัชนีการค้นหา และคีย์

อ่านต่อ

ที่เกี่ยวข้อง