
Sign up to save your podcasts
Or
මෙමඟින් AI LLM Model එකක් Server එකක Host කරන ආකාරය පිළිබඳව මූලික දැනුමක් ලබා දේ. එයට අවශ්ය Hardware සහ Software අවශ්යතා, Environment Setup කිරීම, Model Download කිරීම, Server Script එකක් ලිවීම (Flask හෝ FastAPI භාවිතයෙන්) සහ Server Run කිරීම මෙහි විස්තර කර ඇත. අමතර වශයෙන්, Docker Container එකක් නිර්මාණය කිරීම, API Test කිරීම, කාර්ය සාධනය වැඩි දියුණු කිරීමේ උපක්රම (Performance Optimization Tips), ආරක්ෂාව (Security Considerations), සහ Monitoring and Logging පිළිබඳවද තොරතුරු ඇතුළත් වේ. මෙය AI LLM models සේවාවක් ලෙස ක්රියාත්මක කිරීමට උනන්දු වන අයට මූලික මග පෙන්වීමක් සපයයි.
Note : https://drive.google.com/file/d/10ux2RNA52XgQpWhUFyL0gXiMnjY2VFkJ/view?usp=sharing
මෙමඟින් AI LLM Model එකක් Server එකක Host කරන ආකාරය පිළිබඳව මූලික දැනුමක් ලබා දේ. එයට අවශ්ය Hardware සහ Software අවශ්යතා, Environment Setup කිරීම, Model Download කිරීම, Server Script එකක් ලිවීම (Flask හෝ FastAPI භාවිතයෙන්) සහ Server Run කිරීම මෙහි විස්තර කර ඇත. අමතර වශයෙන්, Docker Container එකක් නිර්මාණය කිරීම, API Test කිරීම, කාර්ය සාධනය වැඩි දියුණු කිරීමේ උපක්රම (Performance Optimization Tips), ආරක්ෂාව (Security Considerations), සහ Monitoring and Logging පිළිබඳවද තොරතුරු ඇතුළත් වේ. මෙය AI LLM models සේවාවක් ලෙස ක්රියාත්මක කිරීමට උනන්දු වන අයට මූලික මග පෙන්වීමක් සපයයි.
Note : https://drive.google.com/file/d/10ux2RNA52XgQpWhUFyL0gXiMnjY2VFkJ/view?usp=sharing