รู้จักกับ Local LLM และการใช้งานผ่าน Ollama API
mikelopster
0:00 / 0:00
รู้จักกับ Local LLM และการใช้งานผ่าน Ollama API
27 996 просмотров · 1 год назад
mikelopster
46,6 тыс. подписчиков
27 996 просмотров · 1 год назад
ลองไมค์ สัปดาห์นี้เราจะพาไปสำรวจโลกของ Local LLM การใช้งานโมเดลภาษาบนเครื่องของตัวเอง ว่าสามารถทำได้อย่างไร และเพื่อไปเพื่อจุดประสงค์อะไรกันบ้าง มาทำความรู้จักกันในหัวข้อนี้กันครับ
โดยในหัวข้อนี้ เราจะมีการพูดถึงประเด็นเหล่านี้กัน
1. รู้จักกับ LLM, Instruct LLM และ LLM + API กันก่อนว่ามันคืออะไร
2. รู้จักกับ Hugging Face และ LM Studio (สำหรับลอง prompt กับ LLM ใน hugging Face)
3. รู้จักกับ Ollama และลองเล่น Local LLM ผ่าน Ollama API
4. การใช้ Local LLM กับงาน Programming ex. Continue, Aider + Ollama (หัวข้อนี้เป็นหัวข้อที่หยิบมาเล่าต่อจากหัวข้อ “AI for programming” แต่จะเป็นฉบับ Local LLM)
หวังว่าหัวข้อนี้จะช่วยเติมเต็มอีกภาพหนึ่งสำหรับคนที่กำลังศึกษาการใช้งาน LLM และการประยุกต์ใช้ LLM กันเพิ่มเติมนะครับ 😁
สามารถอ่านเพิ่มเติมจากบทความนี้ได้เลย
https://mikelopster.dev/posts/llm-loc...
หัวข้อ
00:00 แนะนำหัวข้อ
01:30 ทำความรู้จักกับความสัมพันธ์ของ AI Application และ LLM
05:22 ความสัมพันธ์ระหว่าง LLM และ API
08:00 แล้วเราจะเอา LLM มา host เอง หรือ fine tuned เองได้ไหม ?
11:11 สรุปแล้ว Local LLM คืออะไร
14:20 แล้วเราสามารถนำ LLM แล้วมาเชื่อมต่อผ่าน API บนเครื่องได้อย่างไร ?
16:06 แนะนำ Hugging Face และ Space
20:28 การเชื่อมต่อ ระหว่าง LLM ที่โหลดมาในเครื่อง และ การส่งออกมาเป็น API
22:21 LM Studio คืออะไร
26:57 แนะนำ Deepseek
27:57 ลองเล่น LM Studio และ API
28:55 Ollama คืออะไร / แนะนำ command ollama
34:25 ลองเล่น Ollama ผ่าน ollama-python
37:11 ลองเชื่อม Ollama API กับ Fast API
41:31 การใช้ Local LLM กับ AI สำหรับการ programming
44:33 การใช้ Aider กับ Ollama
47:34 การใช้ Continue กับ Ollama (และ เพิ่มเติม Cursor)
52:13 สรุปทั้งหมด
ใครมีข้อสงสัยเพิ่มเติม มาพูดคุยแลกเปลี่ยนความรู้กันได้ที่
Facebook page: / mikelopster.dev
Website: https://mikelopster.dev
แปะพิกัดของที่ผมใช้
https://shope.ee/6fI75UuLEM osmo pocket 3
https://shope.ee/4VDcVixCW9 ไมค์ shure
https://shope.ee/6pbXI6d5xG กล้องวงจรปิด
Enjoy ครับ 😘