นำโมเดล Hugging Face ของคุณ — Llama, Mistral, Gemma หรือ BERT — ไปปรับใช้กับปลายทางที่ปลอดภัย ปรับขนาดได้ พร้อมสำหรับการผลิตบน Google Cloud ซึ่งบรรจุในคอนเทนเนอร์อย่างสมบูรณ์และพร้อมใช้งาน API
ฉันจะปรับใช้ Hugging Face LLMs กับ GCP Vertex AI หรือ Cloud Run
การให้คำปรึกษาจากผู้เชี่ยวชาญ 45 นาทีที่เน้นการประเมินโมเดลของคุณ วางแผนกลยุทธ์การปรับใช้ GCP และตอบคำถามเกี่ยวกับสถาปัตยกรรมของคุณ
- การให้คำปรึกษาเชิงกลยุทธ์ GCP Vertex AI / Cloud Run 45 นาที
- การประเมินโมเดล: ข้อกำหนด RAM/VRAM และคำแนะนำระดับ GPU
- คำแนะนำด้านสถาปัตยกรรมและการประมาณราคา
- แนวทางการปรับใช้ที่แนะนำที่บันทึกเป็นลายลักษณ์อักษร
- คำแนะนำเส้นทางการรวมระบบสำหรับการเชื่อมต่อโมเดลเข้ากับแอปที่มีอยู่ของคุณ
การปรับใช้โมเดล Hugging Face ของคุณแบบครบวงจรไปยังปลายทาง GCP ที่ปลอดภัย พร้อมด้วยซอร์สโค้ดเพื่อให้ทีมของคุณสามารถเป็นเจ้าของและขยายได้
- ทุกอย่างในระดับการให้คำปรึกษา
- การจัดเก็บโมเดล Dockerised แบบเต็มรูปแบบและการปรับใช้กับ Vertex AI หรือ Cloud Run
- การจัดเตรียม GPU (T4, L4 หรือ A100 ตามความเหมาะสม)
- การกำหนดค่าปลายทาง API ส่วนตัวที่ปลอดภัยและเป็น VPC-native
- สคริปต์ทดสอบ Python เพื่อตรวจสอบปลายทางที่ใช้งานอยู่
- ซอร์สโค้ดการปรับใช้เต็มรูปแบบส่งถึงคุณ
แพ็คเกจการปรับใช้ที่สมบูรณ์พร้อมความคิดเห็นโค้ดแบบอินไลน์โดยละเอียดตลอด ทำให้ทีมวิศวกรของคุณสามารถบำรุงรักษาโค้ดเบสได้อย่างเต็มที่
- ทุกอย่างในระดับการปรับใช้
- ความคิดเห็นโค้ดแบบอินไลน์โดยละเอียดตลอดสคริปต์และไฟล์การกำหนดค่าทั้งหมด
- การตัดสินใจด้านสถาปัตยกรรมที่จัดทำเป็นเอกสารอธิบายการเลือก GPU และตัวเลือกความปลอดภัย
- โค้ดเบสพร้อมส่งมอบที่ทีมของคุณสามารถบำรุงรักษาและขยายได้อย่างมั่นใจ
- เหมาะสำหรับ LLM ที่มีขนาดใหญ่ขึ้นหรือซับซ้อนมากขึ้น (เช่น Llama 3, Mistral รุ่นใหญ่)
- การจัดการคำสั่งซื้อตามลำดับความสำคัญและการทำงานร่วมกันอย่างใกล้ชิดผ่านการแชทคำสั่งซื้อ
ขอข้อเสนอที่กำหนดเอง
เข้าสู่ระบบเพื่อขอข้อเสนอที่กำหนดเอง
สร้างบัญชีฟรีหรือเข้าสู่ระบบเพื่อขอข้อเสนอส่วนบุคคลจาก Zinner นี้
เข้าสู่ระบบ / ลงทะเบียนถามคำถามก่อนการขาย
เข้าสู่ระบบเพื่อถามคำถาม
เพื่อลดสแปมบนแพลตฟอร์ม ข้อความก่อนการขายสามารถส่งได้โดยผู้ใช้ที่เข้าสู่ระบบเท่านั้น
สร้างบัญชีฟรีหรือเข้าสู่ระบบเพื่อส่งข้อความถึง Zinner นี้โดยตรง
เข้าสู่ระบบ / ลงทะเบียนโดยสรุป
รายละเอียดสำคัญเกี่ยวกับบริการนี้เพื่อช่วยคุณตัดสินใจ สร้างโดย Zinn Hub ไม่ใช่ผู้ขาย
ตำแหน่งคุณค่า
เป้าหมายการปรับใช้
ตัวเลือก GPU
แนวทางการรักษาความปลอดภัย
ดีที่สุดสำหรับ
สิ่งที่คุณจะได้รับ
คำอธิบายฉบับเต็ม
คุณพบโมเดลที่ถูกต้องแล้ว ตอนนี้คุณต้องการให้มันทำงานได้อย่างน่าเชื่อถือในการผลิต — ไม่ใช่แค่ในเครื่อง ไม่ใช่ในสมุดบันทึก แต่เบื้องหลัง API ที่ปลอดภัยและปรับขนาดได้ที่แอปพลิเคชันของคุณสามารถเรียกใช้ได้จริง
นั่นคือสิ่งที่บริการนี้มอบให้
Zinn Digital เป็นผู้เชี่ยวชาญ Google Cloud ที่ตั้งอยู่ในลอนดอน เรานำโมเดล Hugging Face ที่คุณเลือกและปรับใช้กับสภาพแวดล้อมที่พร้อมสำหรับการผลิตบน Vertex AI หรือ Cloud Run — บรรจุในคอนเทนเนอร์อย่างสมบูรณ์ จัดเตรียม GPU และป้องกันอยู่เบื้องหลังปลายทางที่ปลอดภัยและเป็น VPC-native เมื่อทำงานเสร็จ คุณจะได้รับ API สดที่คุณสามารถรวมเข้ากับผลิตภัณฑ์ของคุณได้ทันที
**อะไรที่ทำให้สิ่งนี้แตกต่างจากการ "แค่รันสคริปต์"**
ใคร ๆ ก็สามารถสร้างอินสแตนซ์ GPU และหวังให้ดีที่สุดได้ เราประเมิน RAM และ VRAM ที่แท้จริงที่โมเดลของคุณต้องการก่อนที่จะเขียนโค้ดแม้แต่บรรทัดเดียว เลือก GPU ระดับที่เหมาะสม (T4, L4 หรือ A100) เพื่อสร้างสมดุลระหว่างต้นทุนและความหน่วง และสร้างโครงสร้างพื้นฐานที่ปรับขนาดได้ตามปริมาณงานของคุณ แทนที่จะล่มลงภายใต้ปริมาณงานนั้น การปรับใช้ทุกครั้งได้รับการรักษาความปลอดภัยตั้งแต่การออกแบบ — ไม่มีปลายทางสาธารณะเปิดทิ้งไว้ ไม่มีข้อมูลรับรองที่ฮาร์ดโค้ด
**วิธีการทำงาน**
ขั้นแรก ส่งลิงก์โมเดลและคำอธิบายสั้นๆ เกี่ยวกับกรณีการใช้งานของคุณมาให้เรา เราจะประเมินความต้องการทรัพยากรของโมเดลและยืนยันแนวทางการปรับใช้ จากนั้นเราจะจัดทำคอนเทนเนอร์โมเดลโดยใช้ Docker ปรับใช้กับ Vertex AI หรือ Cloud Run กำหนดค่าการจัดเตรียม GPU และความปลอดภัยของ API และสุดท้ายส่งสคริปต์ทดสอบ Python ที่ใช้งานได้ให้คุณ เพื่อให้คุณสามารถตรวจสอบปลายทางได้ด้วยตัวเอง
**สิ่งที่รวมอยู่**
ขึ้นอยู่กับระดับที่คุณเลือก คุณจะได้รับบางส่วนหรือทั้งหมดดังต่อไปนี้: การให้คำปรึกษาจากผู้เชี่ยวชาญและการประเมินสถาปัตยกรรม, การปรับใช้โมเดลเต็มรูปแบบไปยังปลายทาง GCP ที่ปลอดภัย, ซอร์สโค้ดสำหรับการทำคอนเทนเนอร์และไปป์ไลน์การปรับใช้, และความคิดเห็นโค้ดแบบอินไลน์โดยละเอียด เพื่อให้ทีมของคุณสามารถบำรุงรักษาและขยายงานได้อย่างมั่นใจ
**สำหรับใคร**
บริการนี้เหมาะสำหรับนักพัฒนาและทีมวิศวกรที่ระบุโมเดล Hugging Face ที่ต้องการใช้ในการผลิต แต่ขาดประสบการณ์โครงสร้างพื้นฐาน GCP ในการปรับใช้ได้อย่างปลอดภัยและมีประสิทธิภาพ นอกจากนี้ยังเหมาะสำหรับผู้ก่อตั้งด้านเทคนิคที่ต้องการแบ็กเอนด์ AI ที่ใช้งานได้โดยไม่ต้องจ้างทีมคลาวด์เต็มรูปแบบ และสำหรับองค์กรที่ใช้ Google Cloud อยู่แล้วที่ต้องการผู้เชี่ยวชาญในการแก้ปัญหาการปรับใช้เฉพาะ
**ก่อนที่คุณจะสั่งซื้อ**
ทุกโครงการมีเอกลักษณ์เฉพาะตัว ขนาดโมเดล, ข้อกำหนด GPU, สถาปัตยกรรม GCP ที่มีอยู่ และข้อจำกัดด้านความปลอดภัยล้วนแตกต่างกันไป โปรดส่งข้อความก่อนทำการสั่งซื้อเพื่อให้เรายืนยันว่าแนวทางนี้เหมาะสมกับสถานการณ์ของคุณและตกลงขอบเขตงาน สิ่งนี้ช่วยให้มั่นใจว่างานเริ่มต้นได้อย่างถูกต้องและไม่มีเรื่องเซอร์ไพรส์
การรับประกันคุณภาพ Zinner
Zinner ทุกคนจะได้รับการตรวจสอบและอนุมัติก่อนเข้าร่วมแพลตฟอร์ม
บริการทั้งหมดได้รับการสนับสนุนจากความมุ่งมั่นในการประกันคุณภาพของเรา
การชำระเงินของคุณจะได้รับการคุ้มครองจนกว่าคุณจะอนุมัติงานที่ส่งมอบ
เปรียบเทียบแพ็คเกจ
| คุณสมบัติ | การให้คำปรึกษา | การปรับใช้ | การปรับใช้ + ความคิดเห็น |
|---|---|---|---|
| เวลาจัดส่ง | 2 วัน | 5 วัน | 10 วัน |
| การแก้ไข | 0 | 0 | 0 |
| การให้คำปรึกษาด้านกลยุทธ์ GCP Vertex AI / Cloud Run 45 นาที | ✓ | ✕ | ✕ |
| การประเมินโมเดล: ข้อกำหนด RAM/VRAM และคำแนะนำระดับ GPU | ✓ | ✕ | ✕ |
| คำแนะนำด้านสถาปัตยกรรมและการประมาณราคา | ✓ | ✕ | ✕ |
| แนวทางการปรับใช้ที่แนะนำที่จัดทำเป็นเอกสาร | ✓ | ✕ | ✕ |
| คำแนะนำเส้นทางการรวมระบบสำหรับการเชื่อมต่อโมเดลเข้ากับแอปที่มีอยู่ของคุณ | ✓ | ✕ | ✕ |
| ทุกอย่างในระดับการให้คำปรึกษา | ✕ | ✓ | ✕ |
| การรวมคอนเทนเนอร์โมเดล Dockerised เต็มรูปแบบและการปรับใช้กับ Vertex AI หรือ Cloud Run | ✕ | ✓ | ✕ |
| การจัดเตรียม GPU (T4, L4, หรือ A100 ตามความเหมาะสม) | ✕ | ✓ | ✕ |
| การกำหนดค่าปลายทาง API ส่วนตัวที่ปลอดภัยและเป็น VPC-native | ✕ | ✓ | ✕ |
| สคริปต์ทดสอบ Python เพื่อตรวจสอบปลายทางที่ใช้งานจริง | ✕ | ✓ | ✕ |
| ซอร์สโค้ดการปรับใช้ฉบับเต็มส่งถึงคุณ | ✕ | ✓ | ✕ |
| ทุกอย่างในระดับ Deployment | ✕ | ✕ | ✓ |
| ความคิดเห็นโค้ดแบบอินไลน์โดยละเอียดตลอดสคริปต์และไฟล์การกำหนดค่าทั้งหมด | ✕ | ✕ | ✓ |
| การตัดสินใจด้านสถาปัตยกรรมที่จัดทำเป็นเอกสารอธิบายการเลือก GPU และตัวเลือกความปลอดภัย | ✕ | ✕ | ✓ |
| โค้ดเบสที่พร้อมส่งมอบซึ่งทีมของคุณสามารถบำรุงรักษาและขยายได้อย่างมั่นใจ | ✕ | ✕ | ✓ |
| เหมาะสำหรับ LLM ที่มีขนาดใหญ่ขึ้นหรือซับซ้อนมากขึ้น (เช่น Llama 3, Mistral รุ่นใหญ่) | ✕ | ✕ | ✓ |
| การจัดการคำสั่งซื้อตามลำดับความสำคัญและการทำงานร่วมกันอย่างใกล้ชิดผ่านการแชทคำสั่งซื้อ | ✕ | ✕ | ✓ |
ผลงาน
ตัวอย่างผลงานของผู้ขายที่เกี่ยวข้องกับ Zinn นี้
ปรับใช้ Hugging Face LLMs กับ GCP Vertex AI หรือ Cloud Run
ปรับใช้ Hugging Face LLMs กับ GCP Vertex AI หรือ Cloud Run
ข้อมูลเพิ่มเติม
ทำไมต้องเลือกฉัน
เครื่องมือที่ฉันใช้
เหมาะสำหรับ
คำถามที่พบบ่อย
เราทำงานกับโมเดลที่หลากหลาย รวมถึง Llama 3, Mistral, Gemma, BERT และโมเดลที่ใช้ Transformer อื่นๆ ที่โฮสต์บน Hugging Face ขนาดโมเดลและข้อกำหนด GPU แตกต่างกันไป ดังนั้นโปรดส่งข้อความหาเราก่อนสั่งซื้อพร้อมลิงก์โมเดลและกรณีการใช้งานของคุณ เพื่อให้เราสามารถยืนยันความเข้ากันได้และแนะนำระดับที่เหมาะสม
ใช่ คุณจะต้องมีบัญชี GCP ที่ใช้งานอยู่และเปิดใช้งานการเรียกเก็บเงิน เราทำงานในสภาพแวดล้อมของคุณเพื่อให้คุณยังคงเป็นเจ้าของโครงสร้างพื้นฐานที่ปรับใช้ทั้งหมดและรับผิดชอบค่าใช้จ่าย GCP โดยตรง หากคุณไม่แน่ใจว่าจะตั้งค่านี้อย่างไร ระดับการให้คำปรึกษาเป็นจุดเริ่มต้นที่ดี
อย่างน้อยที่สุด เราต้องการลิงก์โมเดล Hugging Face และคำอธิบายสั้นๆ ว่าคุณตั้งใจจะใช้มันเพื่ออะไร สำหรับระดับการปรับใช้ เราจะต้องเข้าถึงข้อมูลประจำตัวของโปรเจกต์ GCP ของคุณด้วย เราจะแนะนำคุณอย่างละเอียดว่าจะแบ่งปันข้อมูลใดอย่างปลอดภัยผ่านการแชทคำสั่งซื้อ
โมเดลขนาดใหญ่ต้องมีการประเมินทรัพยากรที่ระมัดระวังมากขึ้น, ใช้เวลาในการสร้างคอนเทนเนอร์นานขึ้น, และต้องมีการทดสอบปลายทางแบบสดที่ละเอียดถี่ถ้วนมากขึ้น เวลาที่เพิ่มขึ้นนี้ช่วยให้มั่นใจว่าการปรับใช้มีเสถียรภาพ, ปลอดภัย, และมีการจัดทำเอกสารอย่างถูกต้องก่อนส่งมอบ
การปรับใช้แบบ VPC-native (Virtual Private Cloud) หมายความว่าปลายทางของโมเดลของคุณจะไม่ถูกเปิดเผยต่ออินเทอร์เน็ตสาธารณะ การเข้าถึงถูกจำกัดในระดับเครือข่าย ซึ่งเป็นสิ่งสำคัญสำหรับการรักษาข้อมูลที่เป็นกรรมสิทธิ์และน้ำหนักของโมเดลให้ปลอดภัยในสภาพแวดล้อมการผลิต
ระดับการปรับใช้ (Deployment tier) รวมถึงซอร์สโค้ดทั้งหมดเพื่อให้ทีมของคุณมีทุกสิ่งที่ต้องการ ระดับการปรับใช้ + ความคิดเห็น (Deployment + Comments tier) ยังให้คำอธิบายประกอบแบบอินไลน์โดยละเอียดที่อธิบายการตัดสินใจที่สำคัญทุกอย่าง ทำให้โค้ดเบสตรงไปตรงมาสำหรับวิศวกรของคุณในการบำรุงรักษาและขยายในระยะยาว
ทุกโมเดลและทุกสภาพแวดล้อม GCP แตกต่างกัน การสนทนาสั้นๆ ช่วยให้เราเข้าใจความต้องการของคุณ ยืนยันระดับที่ถูกต้อง และหลีกเลี่ยงการโต้ตอบไปมาหลังจากเริ่มคำสั่งซื้อ นอกจากนี้ยังหมายความว่าเราสามารถแจ้งข้อควรพิจารณาเกี่ยวกับ GPU หรือค่าใช้จ่ายที่ผิดปกติซึ่งเฉพาะเจาะจงสำหรับโมเดลที่คุณเลือกได้ล่วงหน้า
รีวิวจากลูกค้า
ดูว่าลูกค้าของเราพูดถึง Zinn นี้ว่าอย่างไร
ผู้เชี่ยวชาญ VertexAI ที่มีความรู้มาก ตอบคำถามทั้งหมดของฉันและยังให้ข้อมูลเชิงลึกที่เป็นประโยชน์สำหรับฉันแต่ฉันไม่ได้ถามถึงโดยเฉพาะ
Umair เป็นคนที่ยอดเยี่ยมที่สุดที่เราเคยร่วมงานด้วยใน Zinn Hub เขาเข้าใจความต้องการเฉพาะของโปรเจกต์ของเราได้อย่างยอดเยี่ยม เขาทำงานเกินความคาดหมาย ผมขอแนะนำเขาสำหรับโปรเจกต์ AI ใดๆ
เฉพาะลูกค้าที่เข้าสู่ระบบและซื้อผลิตภัณฑ์นี้เท่านั้นจึงจะสามารถแสดงความคิดเห็นได้
