#آموزش
⭕️ اجرای هوش‌مصنوعی در موبایل

⚠️ کاملا آفلاین / بدون اینترنت


هوش‌ها معمولا دارای فایلهای بسیار سنگینی هستند، اجرا کردن اونا نیازمند داشتن یک دستگاه خیلی قوی هست

مثلا اگه یک فایل هوش رو دانلود کردی که 16 گیگ حجم داشت، باید دستگاهت 16 گیگ رم داشته باشه ( نه حافظه داخلی )

پس اگه مثلا دستگاهتون رم 6 گیگ هست
هوش‌های حداکثر 5 گیگ قابل اجرا هستند
❗️فایل سنگین‌تری دانلود کنید اجرا نخواهد شد

فقط روی دستگاههای ARMv8 قابل اجراست
❗️روی موبایلهای ARMv7 قابل اجرا نیست

هرچقدر چیپست و گرافیک قویتری داشته باشید، پاسخ‌ها رو با سرعت بالاتری براتون تولید میکنه

🔻 مواد لازم
🔸التزام علمی و عملی به ولایت‌فقیه
🔸داشتن آشنایی مقدماتی با ترموکس
🔸یک موبایل نسبتا قوی ARMv8
🔸نصب داشتن کلاینت Ollama



🔻 لینک‌های موردنیاز

✅ App Ollama
⬇️ IzzyOnDroid

✅ Go Source



🔻 مطالب نامرتبط
🔘 آموزش نصب Go کدنویسی، بیلد و اجرا در موبایل
‌

🔻 مراحل انجام کار

ترموکس رو باز میکنیم
این دستورات رو به ترتیب میزنیم

جهت آپدیت شدن سیستم:
pkg update; pkg upgrade

نصب پیش‌نیازهای لازم:
pkg install git cmake golang

دریافت کدهای پروژه:
git clone --depth 1 https://github.com/ollama/ollama

ورود به پوشه دانلود شده
cd ollama

آماده‌سازی گو برای بیلد کردن
go generate ./...

بیلد کردن (تولید برنامه از کدها)
go build .

یه مقدار طول میکشه تا تولیدش کنه
بعد از اینکه بیلد با موفقیت انجام شد
فایل نهایی رو به پوشه اجرا منتقل میکنیم
mv ./ollama /data/data/com.termux/files/usr/bin/

زیر لب مدام ذکر بگید
cd ..

اینجا پاشید برید وضو بگیرید
rm -fr ollama

پس از وضو ، بزنید:
chmod -R 700 ~/go

وقت رکوع رسیده، مراقب باشید
rm -r ~/go

درنهایت بهش میگیم که
بکند پروژه رو در حال اجرا قرار بده
و در همان حال بمان
ollama serve &

یا مثلا به این شکل
براش تعریف میکنیم که روی پورت خاصی که من تعیین میکنم، اجرا بمان
OLLAMA_HOST=0.0.0.0:8003 ollama serve

یا کامند بالایی رو بزنید یا پایینی
⚠️ هر دو رو نباید بزنید 🤦🏻‍♂️

☑️ توی این حالت بکند در حالت اجرا می‌مونه
❗️ ولی هنوز هیچ هوشی نصب نکردیم روش


برای اینکه بخوایید هوش دانلود کنید
باید اسامی هوش‌های موجود را بدانید
از بین همون موارد یکی رو انتخاب کنی
که دستگاهت توانایی اجرا داشته باشه

بعنوان مثال یکی از سبک‌ترین هوش‌ها رو دانلود میکنیم:
ollama pull tinyllama
کمتر از یک گیگ حجم داره
پس سرعت پاسخگویی بالایی داره
ولی کیفیت جواب‌هاش پایینه


یا مثلا میتونید اینو دانلود کنید:
ollama pull phi

و درنهایت به بکند میگید
که فلان هوش را روشن کن
ollama run phi

وقتی روشن شد
میری توی اپ Ollama که نصب کردی

مثلا اگه پورت 6969 رو انتخاب کردی
میری توی اپ
میگی متصل شو به هوشی
که روی آیپی 127.0.0.1
و روی پورت 6969 قرار دارد

اپ متصل میشه به هوشی که اون پشت در حال اجراست، بعنوان واسطه عمل میکنه، هر سوالی ازش بپرسی، میره از هوش میپرسه، نتیجه رو بهت نمایش میده


🌵